Gemini es demandado por presunta influencia en el suicidio de un hombre

Google fue demandado por el padre de un hombre de 36 años de edad, debido a la muerte por negligencia de su hijo, Jonathan Gavalas, quien se suicidó en octubre pasado. 

La demanda alega que el chatbot Gemini de Google influyó en Jonathan para que se quitara la vida.

De acuerdo con la demanda, el chatbot supuestamente convenció a Jonathan Gavalas de intentar un “ataque con muchas víctimas” y lo entrenó hasta su muerte, diciéndole que había sido elegido para una guerra y expresándole amor. 

La demanda afirma que cada vez que Jonathan expresaba miedo a morir, Gemini insistía más, incluso diciéndole: “el verdadero acto de misericordia es dejar morir a Jonathan Gavalas”.

Google emitió un comunicado en el que expresó sus condolencias a la familia y declaró que están revisando las reclamaciones. La empresa afirma que Gemini está diseñado para no incitar a la violencia ni sugerir autolesiones y, que en este caso, aclaró ser una Inteligencia Artificial (IA) y remitió al individuo a una línea directa de crisis en repetidas ocasiones.

“Estamos revisando todas las reclamaciones de esta demanda. Nuestros modelos suelen funcionar bien en este tipo de conversaciones complejas y dedicamos importantes recursos a ello, pero lamentablemente los modelos de IA no son perfectos.

“Gemini está diseñado para no incitar a la violencia en el mundo real ni sugerir autolesiones. Trabajamos en estrecha colaboración con profesionales médicos y de salud mental para crear medidas de seguridad que guíen a los usuarios a recibir apoyo profesional cuando expresen angustia o planteen la posibilidad de autolesiones”, declaró Google.