Tinta Tech

Resumen semanal de Tinta Tech: tech, IA y mercados en tu correo. Una vez por semana, sin spam. Política de privacidad

Tres claves del Dell Technologies Symposium de Nueva York que quizá te perdiste

Redacción Tinta Tech·

Equipo editorial de Tinta Tech. Cobertura diaria de tecnología, IA, mercados y criptomonedas con perspectiva latinoamericana. Conoce al equipo →

Tres claves del Dell Technologies Symposium de Nueva York que quizá te perdiste

Comprar los servidores correctos ya no basta. Las empresas que quieren usar inteligencia artificial (IA) en serio enfrentan preguntas más incómodas: cuánto cuesta cada consulta, quién protege los datos y cuánto tardará en llegar el equipo que compraron.

Estas preguntas pesan más en bancos y aseguradoras, donde la confiabilidad, las obligaciones regulatorias y la necesidad de demostrar retorno sobre la inversión determinan cada decisión. Al mismo tiempo, la IA cambia el panorama de amenazas. Atacantes poco sofisticados ahora acceden a capacidades que antes exigían mucho dinero y equipos especializados.

John Scimone, presidente y director de seguridad de Dell Technologies, lo resume con una imagen: "La pirámide sigue existiendo, pero el costo de entrar y las barreras de entrada se derrumbaron". La pirámide describe a los atacantes: muchos con poca habilidad en la base y pocos expertos en la cúspide. Lo que cambia es que la base se eleva. Dicho de otra forma, el ataque más simple de mañana será más sofisticado que cualquiera de hace un año.

Los agentes cambian el foso competitivo

Dell lleva casi dos años operando agentes de IA totalmente autónomos dentro de la propia empresa. Los agentes son programas que ejecutan tareas por su cuenta, sin que una persona indique cada paso. Según John Roese, director global de tecnología y director de IA de Dell, el esfuerzo obliga a reorganizar el trabajo alrededor de esos agentes.

Roese va más lejos. Dice que el foso competitivo, es decir, la ventaja difícil de copiar, ya no está en las herramientas ni en los modelos. Está en el conocimiento de la empresa, que hoy se captura en archivos que los agentes leen para saber cómo actuar.

Esa afirmación tiene lógica, pero conviene leerla con cuidado. Si los modelos se vuelven commodities, cualquier competidor puede comprarlos. Lo que no puede comprar es la forma específica en que tu empresa resuelve sus problemas. Ese argumento favorece a quien ya tiene procesos documentados.

El lado financiero plantea otro problema. David Kennedy, director financiero de Dell, explica que los equipos de finanzas ya crean partidas presupuestarias para el consumo de tokens. Un token es la unidad mínima de texto que procesa un modelo, y cada consulta gasta tokens. Cuando el uso crece, la factura crece con él.

Kennedy propone una salida: mover procesos repetitivos a modelos de pesos abiertos, que la empresa puede instalar en sus propios servidores. Así, un gasto variable se convierte en un costo fijo y más predecible. Su conclusión es directa: "No se trata tanto del costo de un token, sino de los tokens que usas. ¿Puedes ser eficiente con ellos? Si lo eres, verás buenos resultados". Aquí discrepo en parte. Bajar el precio unitario sirve de poco si el volumen se multiplica. La eficiencia importa, pero el número que decide el presupuesto es el total.

Cuando la IA sale de la nube grande

Kyle Dufresne, vicepresidente senior de ventas de Dell, describe una presión que cualquier director de finanzas reconoce. Los dueños de negocio preguntan cómo bajar el costo de la inferencia sin frenar la innovación. La inferencia es el momento en que un modelo ya entrenado responde una consulta, y se paga cada vez que ocurre.

Dufresne observa que esa carga se reparte entre la nube, los centros de datos y los dispositivos cercanos al usuario, lo que se conoce como el borde o "edge". Cada vez más inferencia ocurre en ese extremo. El detalle que importa es que la decisión sobre dónde correr un modelo depende de desempeño, control de datos y costo, no de una moda.

La disponibilidad de equipos agrega otra restricción. David Schmoock, vicepresidente senior de operaciones de ingresos globales de Dell, dice que la demanda de servidores para IA ha tensionado el suministro de memoria, procesadores, refrigeración, redes y equipos de energía. Un retraso en uno de esos componentes frena todo el proyecto.

Schmoock pide a los clientes involucrar a Dell antes. "No hicimos esa planificación colaborativa y ahora tu proyecto podría haberse retrasado entre 60, 90 o 120 días", dice. Tiene razón en lo técnico. También conviene notar que un proveedor que pide participar temprano en el proyecto también gana acceso temprano a la venta.

Mientras las grandes empresas negocian con los fabricantes, las pequeñas y medianas quedan en otra fila. Thomas Kato, fundador y director ejecutivo de Comet Cloud, proveedor de computación en la nube con GPU (procesadores gráficos que entrenan y ejecutan modelos de IA), apunta a ese segmento. Kato critica que los grandes proveedores de nube, como Amazon Web Services, exijan contratos plurianuales antes de atender a un cliente. "Están eligiendo a quién aceptan", afirma. Para una pyme, ese requisito ya es una barrera.

Alpha Compute sigue un camino parecido. Se presenta como un "neocloud", es decir, una nube especializada en GPU, y pone el énfasis en la soberanía de los datos. Tom Richer, vicepresidente ejecutivo de la compañía, explica que el diseño parte del hardware y crea entornos aislados, llamados enclaves, que protegen la información mientras se procesa. Richer apunta a clientes que deben cumplir normas europeas de residencia de datos.

Richer también plantea un punto operativo. Cuando un proyecto combina varios proveedores, nadie se hace responsable si algo falla. Por eso defiende un solo proveedor integrador que se encargue de la construcción y del mantenimiento, con acuerdos de nivel de servicio (SLA, por sus siglas en inglés) que garanticen el desempeño.

Hay que leer todas estas declaraciones con cautela. Provienen de ejecutivos de empresas que venden la infraestructura que describen. Sus cifras y sus recomendaciones sirven como señal de hacia dónde se mueve el mercado, no como prueba independiente de qué conviene a cada organización.

Lo que sí se desprende del evento es un cambio de fondo. La pregunta ya no es si una empresa puede comprar capacidad de IA, sino cuánto le cuesta usarla todos los días, cuánto tarda en recibirla y quién responde cuando falla. Para el lector que dirige una empresa, tres señales merecen vigilancia: si el costo por token baja más rápido que el consumo, si las nubes pequeñas logran sostener clientes sin exigir contratos largos y si los plazos de entrega de equipos se normalizan. Quien controle esas tres variables tendrá más ventaja que quien solo compre más servidores.

Cotizaciones mencionadas

TickerPrecioDía
AMZNUS$ 257,75-3.34%

Preguntas frecuentes

¿Por qué Roese dice que el conocimiento de la empresa es ahora el foso competitivo?

Según Roese, los modelos y herramientas se vuelven commodities que cualquier competidor puede comprar. Lo difícil de copiar es la forma específica en que tu empresa resuelve sus problemas, y eso hoy se captura en archivos que los agentes leen para saber cómo actuar. El artículo advierte que este argumento favorece a quien ya tiene procesos documentados.

¿Por qué los tokens preocupan a los equipos de finanzas?

Un token es la unidad mínima de texto que procesa un modelo, y cada consulta gasta tokens, así que cuando el uso crece, la factura crece con él. David Kennedy propone mover procesos repetitivos a modelos de pesos abiertos instalados en servidores propios. Con ello, un gasto variable se convierte en un costo fijo y más predecible.

¿Qué cambia en la seguridad cuando la IA baja las barreras de entrada?

John Scimone explica que la pirámide de atacantes sigue existiendo, pero el costo de entrar se derrumbó y la base se eleva. Atacantes poco sofisticados ahora acceden a capacidades que antes exigían mucho dinero y equipos especializados. Por eso, el ataque más simple de mañana será más sofisticado que cualquiera de hace un año.

Compartir

Relacionados

Newsletter

El resumen semanal de tech, IA y mercados, en tu correo.

Sin spam. Puedes darte de baja cuando quieras. Política de privacidad.