Grok desactiva parcialmente su generador de imágenes tras polémica por deepfakes sexuales
Grok, el chatbot de Inteligencia Artificial (IA) desarrollado por xAI, desactivó el acceso a su generador de imágenes para sus usuarios gratuitos tras la polémica desatada por la creación de contenido sexual explícito, incluidos deepfakes y representaciones no consentidas que cuestionaron la falta de controles y salvaguardas en esta función.
Si bien xAI, la empresa de Elon Musk, no confirmó de manera oficial que la desactivación del generador de imágenes respondiera directamente a la polémica por la creación de contenido sexual explícito, distintos medios internacionales coinciden en que la decisión se produjo inmediatamente después de una oleada de críticas públicas.
La restricción fue reportada inicialmente por usuarios en la plataforma X, quienes notaron que la opción para generar o editar imágenes dejó de estar disponible o quedó limitada a cuentas de pago. Posteriormente, la prensa confirmó que xAI optó por restringir el acceso al generador de imágenes a suscriptores pagos.
Lee también: Más de 300 millones de niños son víctimas de abuso sexual en línea cada año
La polémica por las imágenes generadas por Grok también ha desatado presión regulatoria internacional. En Reino Unido, el gobierno de Keir Starmer calificó las imágenes sexualizadas como “repugnantes e inaceptables” y advirtió que podrían tomar acciones bajo la legislación de seguridad en línea si X no controla la situación.
Por su parte, la Comisión Europea condenó el uso de la herramienta para generar imágenes de menores sexualizadas y aseguró que la decisión de la red social X de permitir únicamente a los usuarios de pago la edición de imágenes con la IA Grok no cambia su condena a las fotografías sexuales de mujeres y menores desnudas.
“Hemos tomado nota de los cambios recientes que X ha anunciado para Grok. En realidad, limitar la generación y la edición de imágenes a los suscriptores de pago no cambia nuestro problema fundamental. Con o sin suscripción, no queremos ver esas imágenes. Así de simple”, dijo Thomas Regnier, portavoz de política digital de la Comisión Europea.