OpenAI anunció el lanzamiento de Trusted Contact, una nueva función opcional de seguridad en ChatGPT que permitirá a los usuarios designar a una persona de confianza, quien será notificada si el sistema detecta conversaciones relacionadas con autolesión o suicidio que representen un “riesgo serio de seguridad”.

La herramienta, que comenzará a desplegarse gradualmente, está disponible para cuentas personales de adultos mayores de 18 años a nivel mundial, y de 19 en Corea del Sur, con el propósito de ofrecer “otra capa de apoyo” junto con las líneas de ayuda y recursos de emergencia ya integrados en ChatGPT.

Según explicó la compañía, los usuarios podrán añadir desde la configuración de ChatGPT a un único Trusted Contact, que puede ser un familiar, amigo o cuidador. Esa persona deberá aceptar la invitación en un plazo de una semana para activar la función. Si posteriormente los sistemas automatizados de OpenAI identifican señales de posible autolesión, un equipo humano especializado revisará el caso antes de decidir si envía la notificación al contacto de confianza.

OpenAI aseguró que las alertas estarán limitadas y no compartirán detalles de las conversaciones ni transcripciones completas.

Lee también: Florida investiga a OpenAI por posibles riesgos de seguridad y uso indebido de la Inteligencia Artificial 

“La notificación es intencionalmente limitada. Comparte la razón general por la que la autolesión apareció de una manera potencialmente preocupante y anima al Trusted Contact a comunicarse”, indicó la empresa.

Sin embargo, la compañía también aclaró que Trusted Contact “no reemplaza la atención profesional ni los servicios de crisis”.

El desarrollo de esta herramienta contó con asesoría de especialistas en salud mental y organizaciones enfocadas en prevención del suicidio, pues de acuerdo con Arthur Evans, director ejecutivo de la Asociación Americana de Psicología, “la conexión social es un poderoso factor de protección, especialmente durante periodos de angustia emocional”.

Trusted Contact se suma a otras herramientas que está aplicando OpenAI para proteger a los usuarios, especialmente a los menores, como la predicción de edad, anunciada en enero de este año.

La red social Instagram anunció esta semana que ahora prohibirá también las imágenes de dibujos animados, memes, contenidos de películas, cómics o imágenes gráficas que hagan referencia al suicidio o autolesiones.

La política abarca a las cuentas que comparten este tipo de contenido, las cuales tampoco serán recomendadas en la sección de búsqueda o Explore. La red social ya había realizado cambios en febrero de este año, prohibiendo sólo las imágenes gráficas de autolesión.

De acuerdo con Instagram, gracias al cambio de política han logrado disminuir el doble de este tipo de contenido que antes. Alrededor de 834 mil piezas de contenidos sobre suicidio fueron eliminados, o se redujo su visibilidad con pantallas de sensibilidad.

Instagram también mencionó que se encuentran trabajando activamente en el Reino Unido con los Samaritanos y PAPYRUS, así como con la Línea Nacional de Prevención del Suicidio y el Proyecto Trevor en Estados Unidos, con el fin de diseñar nuevas pautas para ayudar a sus usuarios en peligro.

La tasa de suicidios a nivel global es una de las preocupaciones más grandes en materia de salud que existen actualmente. Además, con la interacción en redes sociales y otras plataformas es posible se haya agudizado.

Es por ello que Facebook anunció que comenzará a compartir datos acerca de cómo sus usuarios hablan sobre el suicidio, por medio del acceso a CrowdTangle, una herramienta utilizada por organizaciones de noticias y medios para monitorear redes sociales.

La compañía también incluirá pautas para hablar sobre salud mental por parte de Orygen, una organización que estudia la salud mental de los jóvenes, en el Centro de Seguridad de la plataforma y contratará a un experto en salud para unirse a su equipo de seguridad.

Facebook también ha endurecido sus políticas para no permitir imágenes gráficas relacionadas al suicidio o autolesión, y dificulta la búsqueda de este tipo de contenido en sus aplicaciones.