X limita a Grok tras escándalo por deepfakes sexuales mientras crece la presión global
La controversia por la creación de imágenes sexuales explícitas con Grok se sigue acrecentando alrededor del mundo, pero Elon Musk asegura que “no estaba enterado” de lo que pasaba con su chatbot de Inteligencia Artificial (IA) desarrollado por su compañía, xAI.
Ya la semana pasada, Grok desactivó el acceso a su generador de imágenes para sus usuarios gratuitos, luego de la polémica desatada por la creación de contenido sexual explícito, incluidos deepfakes y representaciones no consentidas, por lo que se cuestionó la falta de controles y salvaguardas en esta función. Pero, como era de esperarse, la medida ha sido insuficiente, pues los usuarios pagos podían acceder y crear el mismo tipo de contenido.
Ahora, la nueva medida consiste en limitar la capacidad de su chatbot Grok de generar y editar imágenes sexualizadas de personas reales en la plataforma X. La medida busca impedir que el bot produzca deepfakes con personas en ropa reveladora, como bikinis o ropa interior, especialmente en países donde tales imágenes son ilegales, como la Unión Europea, Reino Unido, Corea del sur y Estados Unidos –este último ha endurecido las leyes por la creación y difusión de deepfakes desde la aprobación de la ley federal Take It Down.
De acuerdo con la cuenta oficial de X Safety, las nuevas restricciones incluyen limitar la creación y edición de imágenes a suscriptores de pago en la función Grok en X, así como la activación de un geobloqueo en países donde este tipo de contenido es ilegal, impidiendo la generación de imágenes de personas reales en trajes reveladores en esas regiones.
La firma aseguró que “toma medidas para eliminar contenido infractor de alta prioridad, incluyendo material de abuso sexual infantil y desnudos no consensuados, y tomamos las medidas pertinentes contra las cuentas que infringen nuestras Reglas X”. Además, destacó que denuncian ante las autoridades policiales las cuentas que buscan material de explotación sexual infantil, según sea necesario.
Lee también: Tras meses de silencio, OpenAI habla sobre la intervención de ChatGPT en el suicidio de un adolescente
Entre tanto, Elon Musk afirmó, a través de su cuenta de X, no tener “conocimiento de ninguna imagen de menores desnudos generada por Grok. Literalmente ninguna”.
También indicó que Grok sólo genera imágenes cuando un usuario se lo pide y que el bot debería rechazar contenidos ilegales, adhiriéndose a las leyes de cada país.
La respuesta de Musk fue recibida con escepticismo por reguladores y defensores de la seguridad digital. Además, aunque fuera cierto, sería igual de preocupante debido a que Grok tiene fallas serias en los sistemas de control que, según Musk, no debieron haberse permitido.
Ante la situación, se sigue recrudeciendo la presión global. En Indonesia se bloqueó temporalmente el acceso a Grok, citando riesgos de generación de contenido deepfake sexualizado y preocupaciones sobre la seguridad y dignidad de los ciudadanos en línea.
En la misma línea, Filipinas anunció que se sumará a la restricción de Grok, siguiendo a Indonesia y otros países, debido a los mismos motivos de abuso de la herramienta.
Por su parte, Canadá y Reino Unido mantienen abiertas investigaciones formales sobre la plataforma X y Grok, pese a las nuevas restricciones técnicas anunciadas por xAI, lo que podría concluir en la imposición de fuertes sanciones.