Equipo editorial de Tinta Tech. Cobertura diaria de tecnología, IA, mercados y criptomonedas con perspectiva latinoamericana. Conoce al equipo →
La IA empresarial está pasando de la experimentación a la producción, y las empresas de servicios financieros están entre las primeras en demostrar que puede generar beneficios a escala. A medida que aumenta el consumo de tokens, los jefes de finanzas ahora tratan la IA menos como un proyecto científico y más como una línea presupuestaria que debe ganarse el sustento.
Ese cambio está cambiando la forma en que los directores financieros juzgan el gasto en IA, trasladando la conversación del control de costos a la velocidad competitiva. Dell Technologies Inc., que acaba de salir de otro trimestre espectacular impulsado por los servidores de IA, prevé que la demanda se extenderá mucho más allá de las GPU hacia los servidores y el almacenamiento tradicionales, según David Kennedy (en la foto), director financiero de Dell.
“Honestamente, el gasto se solucionará solo”, dijo Kennedy. "Es necesario gestionarlo. Las tecnologías de la información y las finanzas pueden ayudar a poner barreras en torno a eso. Creo que es importante, pero el verdadero impulsor del valor es la velocidad y la productividad que una empresa puede alcanzar".
Kennedy habló con Dave Vellante de Research en el Simposio de Dell Technologies en Nueva York, durante una transmisión exclusiva en el estudio de transmisión en vivo de Media. Discutieron cómo presupuestar el gasto en tokens, priorizar la velocidad y escalar la IA en los servicios financieros. (* Divulgación a continuación.)
Cómo los servicios financieros marcan el ritmo de la IA a escala
No todas las empresas avanzan al mismo ritmo. Las empresas de servicios financieros, especialmente en el comercio de alta frecuencia, fueron las primeras en impulsar la IA desde los pilotos hasta la producción, y las compañías farmacéuticas probablemente sean las siguientes, señaló Kennedy. Dell ahora cuenta con 6500 fábricas de IA en su base de clientes y en mayo amplió su fábrica de IA con Nvidia para ayudar a más clientes a cerrar la brecha entre el experimento y el resultado.
“En última instancia, creo que ahora tenemos suficientes puntos de prueba de que la IA funciona y funciona muy bien y brinda velocidad y eficiencia en su empresa”, dijo Kennedy. “La pregunta es: ¿se puede hacer eso a escala?”
Escalar bien comienza con una disciplina financiera básica, ya sea en servicios financieros o en cualquier otra industria. La mayoría de los directores financieros ahora están creando una línea de pedido dedicada al gasto simbólico y realizando un seguimiento como cualquier otro costo, explicó Kennedy. A partir de ahí, la eficiencia se convierte en una cuestión de ubicación del modelo: los flujos de trabajo financieros repetitivos pueden ejecutarse en modelos abiertos en las instalaciones, convirtiendo los costos variables de los tokens en fijos.
“No se trata necesariamente de la cantidad y el costo de un token”, dijo Kennedy. "Se trata de los tokens que utilizas. ¿Puedes ser eficiente con ellos? Si lo eres, verás excelentes resultados".
Aquí está la entrevista completa en video, parte de la cobertura de y del Simposio de Dell Technologies en Nueva York:
(* Divulgación: es un socio de medios pago para el Simposio de Dell Technologies en Nueva York. Ni Dell, el patrocinador de la cobertura del evento, ni otros patrocinadores tienen control editorial sobre el contenido de o .)
