INVESTIGACION
d‑Matrix Raptor usa DRAM apilada para elevar el ancho de banda de inferencia; el producto se espera en 2027
Un trabajo presentado en ISCA 2026 describe el acelerador Raptor de d‑Matrix, que coloca la lógica frente a una DRAM personalizada para atacar el cuello de botella de datos en la inferencia generativa. Reporta hasta 100 TB/s por tarjeta y mejoras de rendimiento modeladas, aunque el silicio es temprano y los resultados no son comparativas de producto.
Qué ha ocurrido
d‑Matrix ha detallado Raptor, un acelerador de inferencia que pone una matriz lógica de 4 nm frente a una DRAM personalizada para acercar memoria y cómputo. El paper de ISCA 2026 reporta hasta 100 TB/s por tarjeta y, bajo supuestos modelados, 4,71× más rendimiento que configuraciones con HBM y 2,44× frente a SRAM en cargas como Llama 3.1 70B, DeepSeek‑V3, Kimi K2, GPT‑OSS, Whisper y Canary. El diseño se centra en mover pesos y la KV‑cache durante la decodificación autoregresiva, con técnicas de mapeo de flujos en canales DRAM, energía, térmica y ECC. Son resultados de investigación sobre silicio temprano, no pruebas de producto, y la configuración descrita cuenta con 32 GB de memoria. La empresa espera tape‑out antes de final de 2026 y disponibilidad inicial en racks Nvidia MGX con NVLink Fusion en el cuarto trimestre de 2027, donde los GPUs asumirían el prefill y Raptor la decodificación.
Qué significa para creadores
Si esta aproximación llega a producto, podría reducir latencias en la fase de decodificación de chatbots, doblaje o transcripción, al aliviar el coste de mover la KV‑cache. A corto plazo no cambia la operación diaria: son cifras modeladas y con 32 GB por tarjeta habrá que planificar particionado de modelos y gestión de memoria a nivel de rack. Para elegir proveedor de inferencia, conviene preguntar por: cómo ubican la KV‑cache (local vs. remota), compatibilidad con MGX/NVLink Fusion, lotes y longitudes de secuencia soportadas, y qué software ofrecen para combinar prefill en GPU con decodificación en aceleradores. Vigilar los hitos 2026‑2027 (tape‑out y primeras entregas) ayudará a anticipar costes y SLAs cuando lleguen opciones mixtas GPU+Raptor a la nube o al on‑prem.
Fuente y contexto
La información procede de RuntimeWire, basada en un paper presentado en ISCA 2026 en Raleigh; las cifras reaparecieron en un post en X del 2 de octubre, y la tecnología también se mostró en Hot Chips. d‑Matrix prevé integrar sus aceleradores en racks Nvidia MGX con NVLink Fusion y apunta disponibilidad en 4T‑2027. La compañía cerró en 2025 una Serie C de 275 M$ a una valoración de 2.000 M$, sumando 450 M$ divulgados. Las comparativas del paper son modeladas y no enfrentan Raptor con productos comerciales específicos, y el reto comercial incluye capacidad útil, fabricación, software e integración en centros de datos.