Escándalo por uso indebido de Grok: denuncian creación de imágenes sexuales de mujeres y menores

Una tendencia profundamente preocupante y peligrosa ha captado la atención mundial en el inicio de este 2026 en la plataforma X: el uso indebido de Grok.

Y es que usuarios de la red social están aprovechando presuntos “fallos en las salvaguardias” del chatbot para transformar fotografías de mujeres y, de manera especialmente grave, de menores de edad, en imágenes de contenido sexualmente explícito.

Esta acción ha desatado una ola de indignación y ha reactivado el debate y la preocupación global en torno al abuso sexual facilitado por las nuevas tecnologías de Inteligencia Artificial (IA).

De acuerdo con reportes de la BBC, el problema escaló en los últimos días del 2025, extendiéndose rápidamente a través de X, lo que amplió la distribución de estas imágenes sin el conocimiento ni el consentimiento de las víctimas.

Y es que la gravedad de este abuso radica en que Grok ha permitido a los usuarios solicitar explícitamente el desnudo de las personas que aparecen en las fotografías compartidas con la herramienta.

La empresa de Elon Musk, xAI, se pronunció al respecto.

“Hemos identificado fallos en las salvaguardas y las estamos solucionando urgentemente: el CSAM (Child Sexual Abuse Materia) es ilegal y está prohibido”, dijo la compañía.

La empresa responsable de Grok, xAI, tiene políticas internas muy claras que buscan cumplir con la ley, prohibiendo el uso de su servicio para representar a personas en imágenes pornográficas o para la explotación y sexualización de niños.

A pesar de estos compromisos, la efectividad de las medidas de seguridad ha sido cuestionada tras el reciente escándalo.

En septiembre del 2025, X ya se había comprometido con sus usuarios europeos a no utilizar ciertos datos personales para el entrenamiento de su programa de IA, un compromiso que ahora parece insuficiente frente a esta nueva forma de manipulación.