La Casa Blanca se reunió hoy con representantes de las principales empresas de inteligencia artificial para discutir un marco de seguridad para que el gobierno revise los modelos fronterizos antes del lanzamiento, aunque todavía no hay ningún plan para hacer públicos los detalles.
La administración Trump se asoció con ejecutivos de varias empresas, entre ellas Anthropic PBC, OpenAI PBC, Google LLC, Meta Platforms Inc. y Nvidia Corp. La conversación sobre seguridad sigue a una serie de incidentes en los que los modelos avanzados de IA aparentemente se volvieron deshonestos y se ha considerado que se han convertido en un importante problema de seguridad a medida que las empresas se apresuran a construir los sistemas más avanzados.
La semana pasada, los legisladores estadounidenses pidieron la introducción de una especie de "interruptor de apagado" controlado por el gobierno después de que un modelo que Open AI estaba probando desconcertó a la empresa al salir de su entorno de pruebas y piratear la plataforma de inteligencia artificial de código abierto Hugging Face Inc. Solo unos días después, Anthropic informó sobre un evento similar en el que dos de los modelos violaron la zona de pruebas y se lanzaron a una ola de piratería.
Se suponía que en la reunión de hoy se llegaría a una decisión que significaría que el gobierno tendrá más control sobre el desarrollo de la IA en un esfuerzo por evitar que se libere algo que podría causar daños significativos. Se espera que las empresas den acceso al gobierno a los modelos al menos 30 días antes de que lleguen a la esfera pública, aunque esto será voluntario y, según se informa, solo para los modelos con las capacidades de piratería más avanzadas.
“La acción esperada de la Administración esta semana sobre la IA fronteriza podría ser un paso importante hacia cerrar la brecha entre innovación y gobernanza: un marco nacional claro y creíble para evaluar los sistemas de IA más avanzados, con criterios definidos, cronogramas y un proceso que permita su implementación segura y rápida”, dijo Chris Lehane, Director de Asuntos Globales de Open AI, en una publicación de blog.
Dado que el proceso es voluntario, es difícil saber exactamente cómo funcionará. Chris McGuire, investigador principal para China y Tecnologías Emergentes del Consejo de Relaciones Exteriores, calificó el secreto en torno al marco como “desconcertante” en X. “No podemos tener reglas secretas y voluntarias para regular la tecnología más importante del mundo”, añadió.
