ChatGPT enviará una alerta a un contacto de confianza si detecta riesgo de autolesión en conversaciones
OpenAI anunció el lanzamiento de Trusted Contact, una nueva función opcional de seguridad en ChatGPT que permitirá a los usuarios designar a una persona de confianza, quien será notificada si el sistema detecta conversaciones relacionadas con autolesión o suicidio que representen un “riesgo serio de seguridad”.
La herramienta, que comenzará a desplegarse gradualmente, está disponible para cuentas personales de adultos mayores de 18 años a nivel mundial, y de 19 en Corea del Sur, con el propósito de ofrecer “otra capa de apoyo” junto con las líneas de ayuda y recursos de emergencia ya integrados en ChatGPT.
Según explicó la compañía, los usuarios podrán añadir desde la configuración de ChatGPT a un único Trusted Contact, que puede ser un familiar, amigo o cuidador. Esa persona deberá aceptar la invitación en un plazo de una semana para activar la función. Si posteriormente los sistemas automatizados de OpenAI identifican señales de posible autolesión, un equipo humano especializado revisará el caso antes de decidir si envía la notificación al contacto de confianza.
OpenAI aseguró que las alertas estarán limitadas y no compartirán detalles de las conversaciones ni transcripciones completas.
Lee también: Florida investiga a OpenAI por posibles riesgos de seguridad y uso indebido de la Inteligencia Artificial
“La notificación es intencionalmente limitada. Comparte la razón general por la que la autolesión apareció de una manera potencialmente preocupante y anima al Trusted Contact a comunicarse”, indicó la empresa.
Sin embargo, la compañía también aclaró que Trusted Contact “no reemplaza la atención profesional ni los servicios de crisis”.
El desarrollo de esta herramienta contó con asesoría de especialistas en salud mental y organizaciones enfocadas en prevención del suicidio, pues de acuerdo con Arthur Evans, director ejecutivo de la Asociación Americana de Psicología, “la conexión social es un poderoso factor de protección, especialmente durante periodos de angustia emocional”.
Trusted Contact se suma a otras herramientas que está aplicando OpenAI para proteger a los usuarios, especialmente a los menores, como la predicción de edad, anunciada en enero de este año.