OpenAI anunció que ChatGPT tendrá una nueva función de predicción de edad, con el objetivo de mejorar la protección de usuarios menores de 18 años y ofrecer experiencias más seguras y apropiadas para su edad.
La compañía explicó que ChatGPT utiliza un modelo de predicción de edad que analiza una serie de señales del usuario, como el tiempo de actividad, el patrón de uso y la edad declarada al registrarse, para estimar si una cuenta probablemente pertenece a alguien menor de edad.
En caso de que el modelo de Inteligencia Artificial (IA) determine que una cuenta podría corresponder a un adolescente, ChatGPT aplicará automáticamente medidas de seguridad adicionales para reducir la exposición a contenido sensible, entre ellos violencia gráfica, retos virales peligrosos, roles románticos o sexuales y mensajes que promuevan estándares de belleza extremos o conductas dañinas.
“El nuevo enfoque de OpenAI se basa en la opinión de expertos y en la literatura académica sobre la ciencia del desarrollo infantil, y reconoce las diferencias conocidas entre los adolescentes en cuanto a la percepción del riesgo, el control de impulsos, la influencia de los compañeros y la regulación emocional”, explicó la compañía.
Lee también: OpenAI abre convocatoria para fortalecer la cadena de suministro de IA en EE. UU. mediante fabricación nacional
Sin embargo, aunque las restricciones de contenido ayudan a reducir la exposición de los adolescentes a material sensible, OpenAI dijo estar centrada en “mejorar continuamente estas protecciones, especialmente para abordar los intentos de eludir medidas de seguridad”. En este sentido, cuando la empresa no esté segura de la edad de algún usuario o cuente con información incompleta, optará por una experiencia más segura.
Además, los padres tendrán opciones de control parental adicionales, como configuración de uso, control de ciertas funciones del chatbot y la recepción de notificaciones si se detectan señales de angustia en adolescentes.
Para los usuarios mayores de 18 años que hayan sido erróneamente clasificados como menores, la compañía ofrecerá una forma rápida de verificar su edad usando una selfie mediante el servicio de verificación y restaurará el acceso completo sin restricciones.
El sistema de predicción de edad está siendo introducido en todo el mundo y se espera que se adapte a los requisitos regulatorios de cada región.
La medida surge en medio del escrutinio público y regulatorio que enfrenta la industria de la IA tras los escándalos relacionados al suicidio de adolescentes que desarrollaron vínculos emocionales intensos con chatbots.