La expansión acelerada de la inteligencia artificial generativa enfrenta un nuevo freno regulatorio. Malasia suspendió de manera inmediata el acceso al chatbot Grok, integrado en la red social X, propiedad de Elon Musk, luego de que el regulador tecnológico confirmara que la herramienta podía generar imágenes pornográficas y sexualizar a mujeres y menores de edad mediante simples instrucciones de texto.
La medida, anunciada este domingo por la Comisión de Comunicaciones y Multimedia de Malasia (MCMC), coloca al país asiático entre los gobiernos que ya actúan con firmeza ante los riesgos del uso indebido de la IA, especialmente cuando involucra contenido sexual no consensuado y explotación infantil digital.
Por qué Malasia decidió suspender Grok
En un comunicado oficial, la MCMC informó que ordenó una restricción temporal del acceso a la inteligencia artificial Grok con efecto inmediato, tras detectar un uso reiterado para generar imágenes manipuladas obscenas, sexualmente explícitas, indecentes y groseramente ofensivas.
Según el regulador, la función de creación de imágenes con IA permitía sexualizar fotografías de mujeres y niños, un hallazgo que activó alertas sobre violaciones a la ley de contenidos en línea, protección de menores y derechos digitales.
Esta decisión se produce apenas un día después de que Indonesia se convirtiera en el primer país en bloquear oficialmente Grok, marcando un precedente regional en el sudeste asiático frente a las plataformas de IA integrada en redes sociales.
Grok bajo la lupa internacional
Aunque Grok había estado limitado a suscriptores de pago en varios países, los reguladores consideran que esa restricción no impide la difusión masiva de contenido ilegal, especialmente cuando las imágenes generadas pueden compartirse de forma viral en X.
Expertos en seguridad digital y gobernanza de IA advierten que el caso Grok evidencia una brecha crítica: la velocidad de despliegue de herramientas de IA supera la capacidad de control y moderación de las plataformas.
El conflicto se extiende al Reino Unido
La polémica escaló cuando Elon Musk acusó al gobierno del Reino Unido de actuar de manera “fascista”, luego de que las autoridades británicas intensificaran la presión para bloquear imágenes sexualizadas presuntamente generadas por IA y difundidas en X.
Desde Londres, organismos encargados de identificar contenidos ilegales en línea informaron haber detectado imágenes sexualizadas de niñas de entre 11 y 13 años, algunas de ellas localizadas incluso en la web oscura, que habrían sido generadas con herramientas asociadas a Grok.
La Internet Watch Foundation advirtió que parte de este material viola los umbrales legales más graves, lo que obliga a la intervención de fuerzas de seguridad y refuerza la exigencia de acciones urgentes contra la explotación infantil digital.
El primer ministro británico, Keir Starmer, prometió acelerar medidas contra este fenómeno y exigió a X controles más estrictos y efectivos. En la misma línea, la secretaria de Tecnología, Lisa Kendall, advirtió que el gobierno podría bloquear servicios completos en el Reino Unido si las empresas no cumplen la legislación vigente.
Este escenario coloca a Grok y a X en una zona de alto riesgo regulatorio, donde las sanciones podrían escalar desde bloqueos parciales hasta restricciones totales de operación.
Impacto en Estados Unidos y tensión con la Casa Blanca
El conflicto también genera ruido político en Estados Unidos. Elon Musk enfrenta el riesgo de tensar aún más su relación con la administración de Donald J. Trump, que ya había expresado preocupación por el uso de inteligencia artificial para producir contenido ilegal.
De acuerdo con información oficial, el vicepresidente JD Vance abordó el tema recientemente en Washington, subrayando la inquietud por la falta de salvaguardas robustas en herramientas de IA generativa.
Aunque Musk reconoció públicamente que el problema es “grave” y dijo estar preocupado por el uso indebido de imágenes, insistió en que las presiones gubernamentales representan, a su juicio, un avance excesivo del Estado sobre la libertad de expresión.
Punto de inflexión en el debate
El bloqueo de Grok en Malasia e Indonesia marca un punto de inflexión en el debate internacional sobre regulación de la inteligencia artificial, libertad de expresión y protección de menores en entornos digitales. Gobiernos, plataformas tecnológicas y organizaciones civiles coinciden en un punto: la IA generativa ya no es un tema futurista, sino un desafío urgente de seguridad, ética y derechos humanos.
Mientras tanto, X y Grok enfrentan un escenario cada vez más complejo, con presión regulatoria simultánea en Asia, Europa y Estados Unidos, que podría redefinir el futuro de la IA en redes sociales.
