OpenAI Group PBC anunció hoy que está lanzando una versión más estricta de su chatbot ChatGPT creado para usuarios más jóvenes.
El anuncio de “ChatGPT para adolescentes” surge tras un escrutinio sobre cómo los usuarios más jóvenes pueden hacer un mal uso de la inteligencia artificial generativa, ya sean productos de OpenAI u otras empresas de inteligencia artificial. La propia OpenAI está actualmente luchando contra una serie de demandas en las que se alega que su chatbot dio consejos que resultaron ser inseguros.
El nuevo modelo para niños de 13 a 17 años ha sido construido con barandillas para evitar conversaciones problemáticas sobre temas de violencia, autolesiones, sexo y trastornos mentales. Si el niño intenta involucrar al chatbot en lo que podría considerarse un tema restringido, el bot puede alertar a los padres si tienen los controles parentales activados.
OpenAI pide a todos los usuarios que indiquen su edad cuando se registran, pero no todas las personas son honestas acerca de su edad. Sin embargo, la empresa no utiliza una herramienta de verificación de edad, sino que analiza las entradas del usuario para detectar la edad. Si el chatbot determina que el usuario es joven, ahora activará automáticamente el modo adolescente.
En una nota más brillante, la versión para adolescentes de ChatGPT incluye un "Modo de estudio" en el que el joven puede realizar pruebas y estudiar visualizaciones según las materias que esté estudiando. Los padres pueden utilizar la función "Horas de estudio" que les permitirá saber cuánto tiempo dedica su hijo al trabajo escolar.
“Los adolescentes deberían poder utilizar la IA para aprender, crear y explorar”, dijo OpenAI en un comunicado de prensa. "Pero ese acceso debe ir acompañado de protecciones que reflejen su etapa de desarrollo, refuercen las relaciones en el mundo real y respalden el uso saludable a lo largo del tiempo".
Los estudios han demostrado que hasta el 70% de los usuarios jóvenes recurren a los chatbots en busca de compañía. Esto puede ser problemático para los adolescentes cuyos cerebros pueden ser más vulnerables a seguir malos consejos o creer que los medios sintéticos son realmente conscientes. El director ejecutivo de OpenAI, Sam Altman, ha dicho que su empresa está estudiando actualmente la "exceso de dependencia emocional" con énfasis en los usuarios jóvenes. Ya es bien publicitado que las personas pueden formar vínculos nocivos con la IA.
"Diseñamos ChatGPT para adolescentes para respaldar relaciones en el mundo real y hábitos saludables, con recordatorios de descanso que alientan a los adolescentes a alejarse y señales de productos que identifican constantemente ChatGPT como IA", dijo la empresa.
Imagen: OpenAI
