Si bien los requisitos de infraestructura pueden compartirse comúnmente en la TI empresarial, el camino para la implementación de la IA puede variar significativamente según la organización.
Las organizaciones de atención médica, servicios financieros, manufactura, telecomunicaciones y del sector público ponen sobre la mesa desafíos operativos, de gobernanza y de datos únicos cuando se trata de la implementación de IA. Esto significa que el futuro de la IA es cada vez más vertical, y la experiencia en el dominio, las cargas de trabajo específicas de la industria y los datos propietarios se han convertido en ventajas competitivas. Sin embargo, este futuro puede ser complejo a medida que las empresas buscan adaptar sus pilas de tecnología para generar resultados significativos a partir de la inversión en IA.
"Para que los clientes empresariales construyan la fábrica de IA como una infraestructura diseñada específicamente para la IA, ha habido complejidad en eso", explicó Vince Chen (en la foto, abajo a la derecha), director senior de arquitectura de soluciones en Super Micro Computer Inc. "Los ingredientes (cómputo, almacenamiento, red e incluso hasta la integración vertical de la pila de software) la complejidad ha estado ahí. Entonces, lo que estamos haciendo aquí es trabajar con nuestros socios para crear opciones de tamaño de camiseta verticalmente integradas y luego validadas previamente para que nuestros clientes elijan de.”
Chen habló con Rob Strechay de Research para la serie de entrevistas de Supermicro Open Storage Summit, durante una transmisión exclusiva en el estudio de transmisión en vivo de Media. Lo acompañaron Anders Graham (arriba, derecha), director senior de marketing de SSD y desarrollo comercial de Kioxia Holdings Corp.; Brad Warbiany (arriba, izquierda), director de marketing técnico de Western Digital Corp.; y Moiz Kohari (abajo, izquierda), vicepresidente de IA empresarial e inteligencia de datos en DataDirect Networks Inc.
Discutieron cómo están surgiendo las soluciones verticales de IA, dónde existen patrones de infraestructura comunes y cómo las organizaciones pueden acelerar la implementación y al mismo tiempo abordar los requisitos específicos de la industria. (* Divulgación a continuación.)
Necesidades verticales para el despliegue de IA
Las soluciones verticales que están surgiendo reflejan la necesidad de que la pila tecnológica funcione de manera receptiva a medida que evolucionan los requisitos comerciales. En la empresa privada de inteligencia y almacenamiento de datos DataDirect Networks, los procesos informáticos para sus clientes financieros deben facilitar el rápido movimiento de datos para mantener el flujo de reservas de capital.
“Si usted es una empresa como BlackRock o State Street, donde tiene un billón de dólares en sus libros y tiene un bloqueo de capital del 6% al 12%, eso es un gran problema”, dijo Kohari. "Estás cargando ese riesgo en tus libros. Podemos hacer esos cálculos porque podemos mover esos datos de un lado a otro rápidamente. Cuando haces eso, estás desbloqueando el 6% de ese capital, de modo que ese capital se puede aprovechar para hacer cualquier otra cosa. Puedes reinvertirlo; puedes cubrirlo. Este mismo caso se aplica también en las ciencias de la vida".
Para satisfacer este tipo de necesidades verticales, los socios de Supermicro han desarrollado soluciones técnicas que ayudan a impulsar los flujos de trabajo de procesamiento de datos de IA. En el fabricante de memorias para computadoras Kioxia, esto significa ofrecer unidades de estado sólido, como su cartera BiCS, que pueden maximizar la densidad de almacenamiento en los centros de datos.
“Si observamos las diferentes etapas, en el lado de la ingesta de datos, aquí es donde vemos que las arquitecturas escalonadas son bastante comunes en función de los diferentes puntos de costo y casos de uso”, dijo Graham. "Ahora tenemos nuestra tecnología BiCS8 en nuestras unidades CM9 y CD9P, que están reemplazando a las unidades CM7 y CD8P en la cartera de Supermicro a medida que avanzamos este año. Estos simplemente tienen enormes ganancias en eficiencia energética y ganancias de rendimiento".
Pasar de la experimentación a la producción
Un elemento clave en el crecimiento de las soluciones verticales de IA ha sido el desarrollo de modelos de peso abierto para dominios específicos. Nvidia Corp. lanzó una oferta importante en esta área para la industria automotriz a principios de este año, y una serie de modelos abiertos también están disponibles en el sector de la salud.
El panel de expertos discutió cómo las industrias verticales deben decidir cómo pasar de la experimentación con pesos abiertos a la producción y qué infraestructura se necesitará para facilitar esta transición.
“Yo diría que la mayor diferencia entre experimentación y producción es la escala”, dijo Warbiany."Las cosas cambian drásticamente cuando se pasa de terabytes a petabytes y exabytes, y hay una tremenda complejidad que debe incorporarse a la arquitectura de un sistema. Tener soluciones como DDN y Supermicro que reúnen todo ayuda a los clientes que están haciendo esa escala a medida que pasan de pequeñas cantidades de datos a lo que van a necesitar día a día".
Otro factor para las empresas implica poner en funcionamiento la IA en la nube o en un entorno de centro de datos privado. Para muchos sectores verticales, la gestión de datos será un elemento clave en el camino elegido, según Chen.
“Sabemos que el concepto es que los clientes empresariales comiencen en la nube; es fácil y se está fomentando”, dijo Chen. “Pero al mismo tiempo… está la confidencialidad y luego el control de los datos, el control del conocimiento, la inteligencia, eso es crítico”.
Estén atentos para ver la entrevista en video completa, parte de la cobertura de y de la serie de entrevistas de Supermicro Open Storage Summit.
(* Divulgación: es un socio de medios pago para la serie de entrevistas de Supermicro Open Storage Summit. Ni Supermicro, el patrocinador de la cobertura del evento, ni otros patrocinadores tienen control editorial sobre el contenido de o .)
