Hace tres meses, el 80% de los tokens del mundo salía de modelos de frontera. Hoy, según un ejecutivo de Dell Technologies, ese porcentaje lo generan modelos abiertos. La razón, dice, es una sola: el costo.
Kyle Dufresne, vicepresidente senior de ventas de Dell, dio esa cifra durante el Dell Technologies New York Symposium. Los modelos de frontera son los más avanzados y caros, mientras que los modelos abiertos publican sus pesos y pueden ejecutarse en infraestructura propia. La cifra no viene con una metodología pública, así que conviene leerla como señal, no como medición exacta.
Aun así, la tendencia apunta a una pregunta que ya se hace cualquier director financiero. ¿Cuánto cuesta cada respuesta que genera la IA dentro de la empresa? Esa pregunta está cambiando las compras de tecnología en toda la industria, incluidas las instituciones financieras que intentan convertir datos aislados en acción en tiempo real.
Conviene aclarar qué es un token. Es la unidad mínima de texto que procesa un modelo de IA, y con ella se cobra cada consulta. Si el costo por token sube, la factura sube con cada respuesta. Y las empresas generan muchas respuestas.
La factura de la inferencia
Según Dufresne, la inferencia crece más rápido que el entrenamiento, aunque ambos se expanden con velocidad. La inferencia es el momento en que un modelo ya entrenado responde una consulta. El entrenamiento, en cambio, es el proceso caro y puntual de construirlo. La diferencia importa: entrenar ocurre una vez, mientras que responder ocurre cada vez que un empleado o un cliente hace una pregunta.
Eso también cambia dónde corre la IA. Dell observa inferencia en todas partes donde se crean los datos: en la nube, en el centro de datos y hasta en las computadoras personales. Dufresne describe la presión que sienten los dueños de negocio: "Estos costos de inferencia se están volviendo muy altos. ¿Cómo los reducimos sin frenar la innovación?". La respuesta, según él, se encuentra cada vez más en el borde de la red, es decir, en equipos cercanos a donde nacen los datos.
Hay una lectura más estratégica. Cada empresa debe decidir si entrega sus datos y su diferencial a un proveedor externo. Dufresne explica que hoy los precios de la IA dependen de dónde corren las cargas de trabajo, qué modelos usan las empresas y dónde viven sus datos. Dell presenta sus actualizaciones de AI Factory con Nvidia como una forma de obtener resultados en infraestructura que el cliente controla. Según la compañía, más de 6.500 empresas ya adoptaron esa plataforma.
El argumento de control no es abstracto. Dufresne asegura que los directores financieros de las empresas que ya implementaron estas arquitecturas enfrentan una misma sorpresa: "Mis costos de tokens se están disparando. ¿Cómo los reducimos?".
Memoria escasa, compras adelantadas
La presión también viene del lado de la oferta. Los precios de la memoria empujan los costos tecnológicos hacia arriba, no hacia abajo. Dufresne estima que llegará al mercado cerca de 20% más memoria el próximo año, frente a una demanda que crecerá alrededor de 200%. Esa brecha es enorme, y no se cierra en un trimestre.
Dell responde con planificación colaborativa. Orienta a sus clientes hacia componentes más disponibles y les comparte con antelación los aumentos de precio que vienen. El efecto, según Dufresne, es que muchos clientes deciden comprar antes. Si el costo del dinero es menor que la inflación de los componentes, esperar sale más caro que comprar hoy.
"No se trata solo de proveer la tecnología", dijo Dufresne. "También se trata de compartir con los clientes qué va a pasar, para que puedan tomar mejores decisiones hoy sobre el uso de su capital." Esa frase revela el verdadero juego comercial. Dell vende hardware, pero también vende visibilidad sobre precios futuros.
Aquí está lo que casi nadie cuenta: la ventaja ya no pertenece al modelo más potente. Pertenece a quien ofrece control sobre el costo, los datos y el lugar donde corre la IA. Esa es la apuesta de Dell frente a proveedores de nube que cobran por uso y frente a laboratorios que venden acceso a modelos cerrados.
Tres señales merecen vigilancia. La primera es si los modelos abiertos mantienen su participación cuando las empresas midan costos reales y no pilotos. La segunda es si la escasez de memoria dura más de un ciclo, porque eso encarecería cualquier estrategia de infraestructura propia. La tercera es si el borde de la red pasa de demostraciones a despliegues masivos. Si las tres se confirman, la discusión sobre IA empresarial dejará de girar en torno a qué modelo es el mejor y pasará a girar en torno a quién paga la factura y quién controla los datos.
