Amenazan con demandar a ChatGPT por afirmar falsamente que un alcalde fue a la cárcel por soborno
El alcalde de una localidad australiana ha amenazado con presentar la primera demanda contra OpenAI, empresa propietaria del popular chatbot ChatGPT, si no corrige las afirmaciones falsas de la herramienta, que afirma falsamente que fue condenado a prisión por soborno, informa ‘The Sidney Morning Herald’. En caso de seguir adelante, se convertiría en la primera denuncia contra el servicio de texto automatizado mediante inteligencia artificial, que podría ayudar a vislumbrar si las tecnológicas detrás de estas herramientas tienen alguna responsabilidad por los resultados que ofrecen.
La demanda sería presentada por Brian Hood, alcalde de la localidad de Hepburn Shire desde el pasado noviembre. En concreto, la herramienta propiedad de OpenAI estaría explicando a los usuarios que recurren al servicio que el representante fue condenado a 30 meses de prisión en 2011 por sobornar a funcionarios extranjero. La realidad es Hood fue uno de los denunciantes de la trama, que involucraba a una subsidiaria del Banco de la Reserva de Australia a principios de la década de 2000. Nunca fue acusado de ningún delito.
«Me sentí un poco atontado. Porque era tan incorrecto, tan salvajemente incorrecto, que simplemente me asombró. Y luego me enfadé mucho por eso», afirma el alcalde de Hepburn Shire.
Los abogados de Hood enviaron una reclamación a OpenAI el pasado 21 de marzo. La compañía, hasta el momento, no habría ofrecido ninguna respuesta. Con todo, ha reconocido en varias ocasiones que su chatbot inteligente puede cometer errores y generar desinformación. Un problema que no fue capaz de solventar en su última versión, que se hizo pública hace apenas unas semanas.
Las soluciones como ChatGPT, así como las herramientas capaces de generar imágenes y vídeos a partir de un puñado de palabras, están en el punto de mira después de que un grupo conformado por más de mil personalidades, entre ellos ejecutivos, desarrolladores y humanistas, firmasen una carta abierta en la que se pide una moratoria en el desarrollo de nuevas soluciones. El objetivo sería implementar nuevas medidas de seguridad que eviten que la tecnología genere problemas de este tipo. Firmantes consultados por ABC también han remarcado la importancia de que estas soluciones sean reguladas y testadas por expertos externos.