Durante años, la carrera de la inteligencia artificial se midió en escala de entrenamiento: cuántos datos, cuántas GPUs, cuántos teraflops. Esa fase no terminó, pero el centro de gravedad se movió. Hoy el desafío es otro: la inferencia agéntica, es decir, la capacidad de ejecutar agentes de IA que razonan, recuerdan y actúan en sesiones largas, en tiempo real.
Y ese cambio está exigiendo una reingeniería completa de la infraestructura. No solo de los chips, sino del almacenamiento, la memoria, el financiamiento y hasta el control de los datos. Esto es lo que se discutió en el RAISE Summit de 2026, y lo que todo profesional debería estar vigilando.
El fin del chip único
El primer gran cambio es que la inferencia agéntica ya no se resuelve con un solo tipo de procesador. Las cargas de trabajo son híbridas: una parte exige mucho cómputo (prefill, donde el modelo procesa el contexto) y otra exige latencia ultrabaja (generación de tokens, donde responde al usuario).
AMD lo entiende bien. Su CTO, Mark Papermaster, explicó en el evento que ya no optimizan chips individuales, sino ecosistemas completos: CPUs, GPUs, chips adaptables y redes, todo coordinado a escala de clústeres masivos. “Los clientes miran procesos completos, no tareas aisladas”, dijo.
Pero hay enfoques más radicales. Tensordyne, una startup de semiconductores, cambió las matemáticas dentro del silicio: en lugar de multiplicaciones, usa sumas con un sistema de números logarítmicos propio. El resultado es un chip de inferencia que consume mucha menos energía. Un pod de 72 chips Tensordyne gasta 30 kilovatios; un sistema comparable de Nvidia, 150 kilovatios. “El usuario ni lo nota, solo ve que funciona”, aseguró Gilles Backhus, cofundador de la empresa.
Otro caso es d-Matrix, fabricante de aceleradores Corsair, que ya está en producción combinando sus chips con GPUs de Nvidia (Hopper y Blackwell) para servir distintas fases de la inferencia. Es un ejemplo temprano de infraestructura heterogénea funcionando a escala comercial. “Hoy el nombre del juego es baja latencia”, dijo Sudeep Bhoja, CTO de d-Matrix. “Los agentes corren mucho tiempo; los usuarios no quieren esperar”.
Esto no es una curiosidad técnica. Es una señal de que el dominio absoluto de Nvidia en el mercado de chips de IA empieza a agrietarse. La especialización abre espacio para competidores que resuelvan problemas muy concretos con menos energía y menor costo.
El almacenamiento deja de ser un配角
El segundo insight es menos visible pero igual de estratégico. Cuando un agente de IA mantiene una conversación larga o procesa documentos enormes, el contexto que necesita recordar puede exceder la memoria de la GPU. Ahí entra el almacenamiento, pero no como un disco lejano: como una extensión activa de la memoria.
Solidigm, una marca de SK Hynix especializada en almacenamiento de alto rendimiento, está liderando este cambio. Greg Matson, su vicepresidente sénior, lo resumió así: “La GPU es la parte más cara de tu infraestructura. Quieres que esté ocupada el 100% del tiempo generando tokens. Si se queda esperando datos, estás desperdiciando dinero”.
Solidigm está probando sus unidades de estado sólido (SSDs) dentro de sistemas completos de IA, no como componentes aislados. En su AI Central Lab prueban cargas de trabajo reales sobre hardware de aceleración y software de socios. El objetivo es medir algo que antes no importaba: la eficiencia en tokens por vatio, no solo en lecturas y escrituras teóricas. “A nadie le importa una hoja de datos hoy”, dijo Avi Shetty, vicepresidente de la compañía. “La gente quiere saber cómo se comporta en un centro de datos real con cargas de IA”.
El mensaje es claro: a medida que la inferencia agéntica crece, el almacenamiento deja de ser un commodity para convertirse en un factor crítico de rendimiento. Las empresas que no lo rediseñen verán sus GPUs infrautilizadas y sus costos disparados.
Capital y soberanía: los nuevos bottlenecks
El tercer insight va más allá del hardware. Construir infraestructura para agentes de IA requiere financiamiento rápido, y eso no siempre se consigue. Argentum AI resolvió el problema con un modelo inverso: primero consigue clientes con contratos de demanda, y solo después compromete capital para construir. “El cuello de botella más grande hoy es el financiamiento”, dijo Andrew Sobko, su fundador y CEO. “Nosotros llevamos potencia, cómputo y capital como un solo producto”.
Por otro lado, la soberanía de datos está pasando de ser un requisito de cumplimiento a un pilar de la arquitectura. Cuando un agente de IA accede a información propietaria de una empresa, el control sobre dónde y cómo se procesa esa información se vuelve estratégico. Amit Eyal Govrin, CEO de Agentcy Labs, lo dijo sin rodeos: “Soberanía es ejercer control sobre tu IA. No estar pagándole renta a otro”.
Una herramienta concreta para lograr ese control son los grafos de conocimiento. Philip Rathle, CTO de Neo4j (compañía especializada en bases de datos de grafos), explicó que los grafos permiten que ciertas decisiones se tomen de manera determinista, con reglas de negocio claras y auditables, mientras que los modelos de lenguaje (LLMs) se usan para lo creativo y flexible. “Los LLMs son espontáneos, creativos, pero se equivocan. El grafo es el hemisferio lógico del cerebro de la IA”, dijo Rathle.
Mi lectura es que estamos entrando en una fase donde la infraestructura de IA se vuelve tan compleja como el propio software. Ya no basta con comprar más GPUs. Hay que repensar la memoria, el almacenamiento, el financiamiento y la gobernanza desde cero. Las empresas que lo hagan bien tendrán una ventaja real. Las que no, verán cómo sus inversiones en IA no rinden lo esperado. El juego cambió. Ahora toca jugarlo con otras reglas.
