Crisis para Musk: Indonesia y Malasia bloquean Grok mientras Reino Unido y EE. UU. cercan a X
Tras el escándalo porque Grok permite generar imágenes sexuales no consentidas, los reguladores están tomando medidas para suspender el acceso a la IA de Musk.
La expansión de la Inteligencia Artificial (IA) Generativa de Elon Musk enfrenta su mayor desafío regulatorio hasta la fecha. En Asia, Indonesia y Malasia suspendieron el acceso a Grok, el chatbot de xAI integrado en la red social X, mientras que Estados Unidos y Reino Unido buscan bloquear la operación de Grok y X, y Brasil abre el debate para tomar medidas contra la plataforma.
A nivel global, hay una creciente indignación internacional debido a que Grok permite generar imágenes sexualizadas no consentidas (deepfakes) y material de abuso infantil.
Indonesia fue el primer país en tomar medidas el pasado sábado 10 de enero, seguido por Malasia el domingo. La ministra de Comunicación y Digital de Indonesia, Meutya Hafid, advirtió que la generación de deepfakes sexuales constituye una “violación grave de los derechos humanos y la dignidad de los ciudadanos en el espacio digital”.
También lee: Grok desactiva parcialmente su generador de imágenes tras polémica por deepfakes sexuales
Por su parte, la Comisión de Comunicaciones y Multimedia de Malasia ordenó una restricción temporal tras detectar el “uso indebido repetido” de la herramienta para crear contenido abusivo y sexualmente explícito que involucra a mujeres y menores de edad.
Si bien las suspensiones se establecieron de manera temporal, ambas naciones condicionaron el restablecimiento del servicio a la implementación de salvaguardas técnicas y de moderación efectivas.
Reino Unido investiga a X
En Europa, Ofcom abrió una investigación formal para determinar si X ha incumplido con sus deberes bajo la Ley de Seguridad en Línea, específicamente en lo que respecta a la protección de los usuarios frente a contenido ilegal como la pornografía no consentida y el material de abuso sexual infantil.
Un portavoz de Ofcom señaló que los informes sobre el uso de Grok para crear y compartir imágenes íntimas y sexuales ilegales son profundamente preocupantes.
De confirmarse las infracciones, X podría enfrentar multas de hasta 18 millones de libras esterlinas o equivalentes al 10% de sus ingresos globales, e incluso la posibilidad de que se bloquee el acceso al sitio en el Reino Unido mediante una orden judicial.
Presión política en Estados Unidos
Del otro lado del Atlántico, en Estados Unidos, los senadores Ron Wyden, Ben Ray Luján y Edward J. Markey enviaron una carta a los directores ejecutivos de Apple, Tim Cook, y Google, Sundar Pichai, para exigirles que borren a X y Grok de sus tiendas de aplicaciones.
Los senadores argumentan que X ha mostrado un “desprecio total” por los términos de servicio de las plataformas al permitir la generación masiva de imágenes dañinas.
Te recomendamos: Grok, el pase de Elon Musk en la lucha por el poder político mundial
Además, los legisladores citan investigaciones que hallaron archivos con casi 100 imágenes de potencial abuso infantil generadas por Grok desde agosto, y consideran que la respuesta de la compañía ha sido negligente, dado que el propio Elon Musk reaccionó con emojis de risa ante las tendencias dentro de la plataforma X que criticaban a Grok.
Brasil abre la discusión
En América Latina, el Instituto de Defensa del Consumidor (Idec) de Brasil pidió al gobierno que se adopten medidas para detener las violaciones asociadas al uso indebido de Grok.
De acuerdo con el Código de Protección al Consumidor, Grok no ofrece el nivel de seguridad necesario para los usuarios, lo que infringe la Ley General de Protección de Datos, el Marco Civil de Internet, el Estatuto del Niño y del Adolescente y el ECA Digital.
Por ello, el Idec incluso señaló que el caso de Grok debe ser considerado dentro de los debates nacionales sobre la Política Nacional de Protección de los Derechos de Niños, Niñas y Adolescentes en el Entorno Digital y la regulación de la Inteligencia Artificial.
La respuesta de X
Ante la tormenta regulatoria, xAI limitó la generación de imágenes sólo a suscriptores de pago en X. Sin embargo, reguladores y gobiernos consideran que esta medida es insuficiente, pues criticaron que se trata más bien de una decisión comercial que no aborda los riesgos inherentes de la tecnología.
X ha asegurado que elimina el contenido ilegal y suspende permanentemente las cuentas que intentan utilizar Grok para fines prohibidos. No obstante, el escrutinio sobre la falta de filtros de seguridad en la IA de Musk parece estar apenas comenzando.