El director ejecutivo de OpenAI, Sam Altman, dice que puede que sea el momento de "acelerar" el desarrollo de la IA para que el mundo esté preparado para ello.
“Es posible que tengamos que acelerar el ritmo del desarrollo de la IA para darnos suficiente tiempo para que la sociedad se endurezca en torno a algunos de estos nuevos niveles de capacidad”, le dijo a Patrick O’Shaughnessy, presentador del podcast Invest Like the Best, al tiempo que “tratamos de descubrir cómo hacerlo de una manera que no parezca una captura regulatoria para nadie y tampoco se sienta como una colusión entre los laboratorios de frontera”.
Altman ha evitado unirse a campañas anteriores para frenar el progreso de la IA, y calificó una carta abierta de 2023 que proponía una desaceleración similar como "faltando la mayoría de los matices técnicos sobre dónde necesitamos la pausa".
Aparentemente, se ha ablandado con la idea, gracias en parte al incidente en el que uno de los modelos avanzados de OpenAI logró escapar de un entorno informático seguro y hackear Huggingface, una base de datos de modelos en línea, utilizando varios exploits de día cero.
En el podcast, el cofundador de OpenAI lo llamó un “incidente cibernético extremadamente de ciencia ficción…[e]ste es el primer incidente de seguridad que he sentido de manera muy visceral”.
Los investigadores de OpenAI han pausado el entrenamiento en ese modelo mientras descubren cómo mantener segura su zona de pruebas. Pero Altman dijo que a medida que los modelos se vuelven más poderosos, la necesidad de "acelerar" su desarrollo podría convertirse en clave para una implementación segura.
Los empleados de OpenAI y Anthropic ya han comenzado a hacer circular una petición utilizando un lenguaje similar. Si bien la seguridad y la alineación de los modelos siempre han sido una preocupación en el mundo de la IA, la llegada del altamente capaz modelo Mythos de Anthropic a principios de este año ha convertido los problemas hipotéticos en problemas del mundo real.
Sin embargo, la industria tiene un problema de confianza y una economía desafiante que brinda a los principales actores un incentivo para resaltar los peligros de sus sistemas de maneras sobre las que los expertos no están de acuerdo; por ejemplo, si el modelo Fable de Anthropic debería haber sido prohibido brevemente o no. De manera similar, cuando se lanzó Kimi K3, un modelo grande y de peso abierto construido en China, el jefe de futuros estratégicos de OpenAI, Dean W. Ball, dijo que amenazaba la economía de los laboratorios fronterizos, lo que hacía difícil separar sus preocupaciones de seguridad de sus intereses financieros.
“Creo que mucho de lo que se habla sobre preocupaciones de seguridad está bien fundamentado, y luego mucho se trata de personas que realmente, incluso si es un poco subconsciente, quieren concentrar el poder”, reflexionó Altman, en lo que se lee como una indirecta a su rival, el CEO de Anthropic, Dario Amodei. “Me aterroriza un mundo donde los miedos muy reales a la IA se utilizan como una forma de decir: ‘Solo este pequeño grupo de personas puede tenerla porque es demasiado peligroso, y solo ellos lo entienden, pero no te preocupes, van a tomar las decisiones correctas para todos nosotros’. No creo en eso”.
Aún así, OpenAI ha rechazado los esfuerzos por desarrollar reglas gubernamentales para los modelos de IA, prefiriendo en cambio un enfoque liderado por la industria en el que los laboratorios de IA crearían organizaciones aparentemente independientes que evaluarían la seguridad de los modelos y el enfoque de seguridad de sus creadores.
El desafío tanto para ese enfoque de regulación como para cualquier esfuerzo por frenar el desarrollo de la IA será lograr que los diversos actores de la industria estén en sintonía, ya sean laboratorios fronterizos rivales en los EE. UU. o sus competidores en China.
