OpenAI lanza ChatGPT para adolescentes con nuevas medidas de seguridad

OpenAI ha lanzado hoy ChatGPT para adolescentes, una versión de su chatbot de inteligencia artificial que contiene medidas de seguridad más sólidas, “incluidas funciones que fomentan un uso saludable y controles adicionales para los padres”. Se trata de una versión de la popular IA que ha sido “diseñada para ayudar a los adolescentes a aprender, pensar de forma crítica, profundizar en su comprensión y utilizar la IA con confianza”, según ha explicado la compañía en su blog. El sistema no funcionará de momento en la Unión Europea.

El acceso a ChatGPT para adolescentes no dispone de un botón o modo que permita su acceso. Se trata de una configuración especial de la cuenta que ChatGPT aplica cuando identifica que un usuario, probablemente, es menor de edad. Para decidirlo, OpenAI utiliza un sistema de predicción de edad que analiza patrones como los temas de conversación, las horas de uso y la antigüedad de la cuenta entre otros factores. Si la IA estima que el titular es menor de 18 años, activa automáticamente este modo, que cuenta con protecciones adicionales y algunas limitaciones.

La única forma en que los adultos pueden tener una conexión con este modo para adolescentes es mediante los controles parentales. Un adulto puede vincular su cuenta con la de un adolescente para gestionar opciones como el contenido sensible, la generación de imágenes, el modo de estudio, y los horarios de uso, pero eso no hace que el adulto utilice ChatGPT para adolescentes.

Este modo especial del chatbot de IA contiene un Modo de estudio que propone preguntas orientativas y apoyo paso a paso para ayudar a los adolescentes a comprender las materias que están estudiando. Según OpenAI, los recordatorios responsables que su inteligencia artificial hace sobre los deberes “pueden detectar cuándo un adolescente parece estar intentando tomar un atajo en una tarea” y redirigirle hacia este modo de resolución de problemas paso a paso.

Los adolescentes o los padres pueden elegir los horarios en los que el Modo de estudio esté activado por defecto, según ha explicado OpenAI, “lo que facilita convertir los buenos hábitos de estudio en una rutina”. Lo que plantea la compañía es que un adolescente que estudie para un examen, puede pedir a ChatGPT que le explique un concepto, le ayude a resolver un problema práctico y compruebe su comprensión. Si se le pide una respuesta rápida, puede orientar al joven hacia los pasos y las preguntas que le permita resolverlo por sí mismo.

OpenAI ha explicado que las medidas de seguridad van “más allá de bloquear los juegos de rol románticos o sexualizados: ChatGPT no debe utilizar lenguaje romántico, fomentar la dependencia emocional ni dar a entender que tiene sentimientos o conciencia. Estas protecciones más estrictas están diseñadas para reforzar las relaciones sanas en el mundo real”. El modo adolescente emite recordatorios sobre la subida de imágenes sensibles y les advierte de que no compartan fotos privadas o delicadas.