La autoridad para la protección de la privacidad de Italia emitió una orden para bloquear las operaciones de ChatGPT en el país europeo, al considerar que la aplicación de Inteligencia Artificial (IA) ha recopilado datos personales de forma ilegal, a la vez que carece de las medidas requeridas para protección a menores.

En un comunicado, la Autoridad para la Protección de Datos Personales (GPDP, por sus siglas en italiano) indicó que impuso una limitación temporal inmediata al procesamiento de los datos de los usuarios italianos por parte de OpenAI, la empresa estadounidense encargada de la plataforma.

La autoridad señala que las medidas se tomaron a partir de la brecha de información de ChatGPT que se registró el pasado 20 de marzo. Esta brecha permitió que algunos usuarios pudieran acceder al historial de conversaciones de otros usuarios, además de haberse filtrado la información de pago de los suscriptores.

Sam Altman, CEO y fundador de OpenAI, informó en su momento que se registró “un problema importante en ChatGPT debido a un error en una biblioteca de código abierto”. Posteriormente, la compañía informó que el error se había solucionado y que el historial de conversaciones estaría disponible nuevamente para los usuarios.

Te puede interesar: Surge culto que adora a la Inteligencia Artificial como salvadora de la humanidad

En la orden emitida por la autoridad italiana se explica que OpenAI no proporciona claridad a los usuarios sobre la información que está siendo recopilada; a la vez que no parece haber ninguna base legal que sustente la recopilación y el procesamiento masivos de datos personales para “entrenar” los algoritmos en los que se basa la plataforma.

Con base en pruebas que realizó la propia GPDP, la información que ChatGPT pone a disposición no siempre coincide con las circunstancias, por lo que se procesan datos personales inexactos.

Finalmente, la autoridad enfatiza en su orden que la falta de cualquier mecanismo de verificación de edad expone a los niños a recibir respuestas que son absolutamente inapropiadas para su edad y conciencia.

La GPDP señala que OpenAI tiene hasta 20 días para notificar sobre las medidas implementadas para cumplir con la orden, de lo contrario se le puede imponer una multa de hasta 20 millones de euros o el 4 por ciento de la facturación anual total mundial.

Luego de que una menor de edad falleciera en Italia a causa de un reto lanzado en la red social de video corto TikTok, la compañía anunció que seguirá las instrucciones del regulador italiano para verificar la edad de los usuarios, la cual debe acreditar mínimo los 13 años.

El regulador sostuvo que a partir del 9 de febrero se implementarán bloqueos a los usuarios dentro del país europeo para pedir que vuelvan a indicar la fecha de nacimiento antes de continuar usando la aplicación. En el caso de no cumplir con la edad mínima, se eliminará la cuenta.

La empresa de origen chino se comprometió a evaluar más a fondo el uso de sistemas de Inteligencia Artificial (IA), además de iniciar con la Autoridad de Privacidad de Irlanda un debate acerca del uso de la IA para verificar la edad.

Con la finalidad de informar a los usuarios, la plataforma lanzará una campaña de información tanto en la aplicación como en otros canales. La compañía enviará notificaciones automáticas a los usuarios antes de bloquearlos y les informará acerca del requisito de edad.

Como una medida extra, TikTok mejorará el resumen de su aviso de privacidad en la aplicación para usuarios menores de 18 años, con el fin de explicar de manera accesible los tipos de datos que la plataforma recopila y cómo se tratan.