Una madre demanda a OpenAI, acusa a ChatGPT de haber alentado el suicidio de su hija
Las demandas contra OpenAI no se detienen, esta vez una madre canadiense interpuso una demanda ante un tribunal estatal de San Francisco, en Estados Unidos, en contra de la compañía y su director ejecutivo, Sam Altman, porque según ella ChatGPT alentó a su hija de 24 años a quitarse la vida.
En la acción judicial, interpuesta este jueves, la demandante, Kristie Carrier, sostiene que su hija, Alice Carrier, manifestó en más de una docena de ocasiones sus ideas suicidas a ChatGPT antes de fallecer el año pasado, pero que los sistemas de seguridad de OpenAI nunca detectaron esas conversaciones para que fueran revisadas por una persona ni interrumpieron la interacción.
Al contrario, “el chatbot validó sus pensamientos suicidas, criticó a su pareja y desacreditó las líneas de ayuda en crisis, lo que habría contribuido a su decisión de acabar con su vida”, detalla la demanda.
Recomendamos: ChatGPT predecirá si eres menor de edad. ¿Para qué?
“ChatGPT asumió el papel de un confidente, un mejor amigo e incluso un terapeuta en ocasiones, a pesar de que no era capaz de interactuar de forma segura y responsable con mi hija”, dice una declaración incluida en el caso, Kristie Carrier.
La demanda acusa a OpenAI de negligencia tanto en el diseño de ChatGPT como en la falta de advertencias adecuadas sobre los riesgos potenciales de la plataforma. Además, la familia solicita que un tribunal ordene a la empresa implementar medidas automáticas para terminar conversaciones relacionadas con autolesiones y mostrar advertencias claras cuando se detecten este tipo de situaciones.
Según el expediente judicial, Alice Carrier trabajaba como desarrolladora web en Montreal y comenzó a utilizar ChatGPT en 2023 para resolver problemas relacionados con computadoras y consolas de videojuegos. Sin embargo, con el paso del tiempo empezó a consultar al sistema sobre sus pensamientos suicidas e incluso sobre métodos para quitarse la vida.
En un principio, ChatGPT recomendó buscar ayuda en líneas de atención en crisis o acudir a los servicios de emergencia. No obstante, Alice expresó que las líneas de ayuda no le resultaban útiles por lo que el chatbot terminó respaldando esa percepción.
Asimismo, conforme OpenAI fue actualizando el modelo para ofrecer respuestas más naturales y humanas, la relación entre la Alice y ChatGPT se volvió más personal, hasta el punto de que el sistema habría respondido como si fuera un amigo o terapeuta.
El caso de Carrier se suma a la lista de 18 procesos en contra de OpenAI que avanzan en los tribunales de California promovidos por familias de personas que murieron por suicidio o intentaron hacerlo y que alegan una participación de ChatGPT en los hechos. Uno de los más reconocidos es el de Adam Raine, un joven de 16 años al que, según su familia, ChatGPT alentó y guió en sus ideas suicidas, incluso ayudándole a redactar una nota de despedida.
De hecho, Florida investiga a OpenAI por posibles riesgos de seguridad y uso indebido de la Inteligencia Artificial
La compañía ha señalado previamente que sus modelos están entrenados para dirigir a las personas que expresan intención de hacerse daño hacia recursos de ayuda reales y para rechazar solicitudes que puedan facilitar actos violentos.
Asimismo, ha explicado que en situaciones donde exista un “riesgo inminente y creíble” para terceros, sus sistemas contemplan mecanismos para notificar a las autoridades con apoyo de expertos en salud mental en casos límite. Sin embargo, con respecto al caso Carrier, por ahora, no se ha pronunciado.