La filial Red Hat de IBM Corp. anunció hoy la formación de asago, un proyecto comunitario de código abierto destinado a convertir las políticas de gobernanza de inteligencia artificial en controles operativos que se pueden implementar con sistemas de IA.
Abreviatura de AI Safety and Governance Orchestration, asago tiene como objetivo conectar el trabajo que ahora a menudo se divide entre equipos de cumplimiento, científicos de datos y administradores de infraestructura. El proyecto tiene como objetivo automatizar el proceso de interpretación de políticas, evaluación de riesgos, recomendación de salvaguardas y producción de configuraciones de implementación, preservando al mismo tiempo un registro de auditoría que vincule cada control con el requisito de política detrás de él.
Red Hat dijo que la iniciativa es necesaria a medida que las empresas van más allá de los proyectos experimentales de IA generativa hacia sistemas y agentes autónomos que pueden permanecer en producción durante largos períodos. Ese cambio hace que sea más difícil conciliar los requisitos generales de gobernanza con las pruebas, barreras de seguridad y configuraciones de infraestructura específicas que necesitan los ingenieros.
Asago utilizará una plataforma estandarizada y un flujo de trabajo que abarcará cuatro etapas. Primero interpretará las políticas de gobernanza de una organización y asignará sus requisitos a marcos y estándares como el Marco de Gestión de Riesgos de IA del Instituto Nacional de Estándares y Tecnología, el Top 10 del Open Worldwide Application Security Project para aplicaciones de modelos de lenguajes grandes y la Ley de IA de la Unión Europea. El mapeo utilizará el IBM AI Risk Atlas.
Probar y recomendar
En la segunda etapa, asago generará y ejecutará pruebas de seguridad adaptadas a los riesgos de un caso de uso particular. Con base en los resultados, recomendará mitigaciones y barreras de seguridad y registrará los fundamentos de las mismas. Finalmente, traduce los controles en configuraciones listas para la implementación para entornos de nube híbrida y Kubernetes, incluidos los artefactos de Kubernetes, Terraform y Ansible.
“Para que se pueda confiar en entornos del mundo real, la IA necesita pruebas mensurables y controles operativos”, dijo Priya Nagpurkar, vicepresidenta de AI Platform en IBM Research, en un comunicado. "A través de la comunidad asago, IBM está aportando nuestra experiencia para ayudar a cerrar la brecha entre los marcos de gobernanza y los sistemas de IA implementados".
Red Hat dijo que el enfoque puede reemplazar la interpretación manual de políticas y los scripts personalizados que ralentizan las implementaciones e introducen errores a medida que los requisitos cambian entre los equipos de cumplimiento e ingeniería. El proyecto tiene como objetivo permitir a los auditores rastrear un control de producción activo hasta una cláusula de política específica, prueba y evidencia de respaldo.
Asago reúne a Red Hat, Alquimia AI, Brave Software Inc., la coalición EvalEval, IBM Research, Interdisciplinary Transformation University Austria, Microsoft Corp., MIT Lincoln Laboratory, North Carolina State University, Nvidia Corp. y el Alan Turing Institute. Se basa en el trabajo realizado por Red Hat y Nvidia a través de Open Secure AI Alliance.
El software se lanzará bajo la licencia Apache 2.0 y está diseñado para funcionar en múltiples nubes e infraestructura local. Asago se encuentra actualmente en la fase de formación del proyecto. Los desarrolladores, investigadores y empresas pioneras en la adopción pueden ver su repositorio de GitHub y participar en la gobernanza del proyecto a través del sitio web del proyecto.
Imagen: Creador de imágenes de Bing
