Dsi, mas tarde Malasia apareció en los titulares mundiales al anunciar que prohibiría temporalmente Grok debido a su capacidad para generar “imágenes manipuladas extremadamente ofensivas y no consensuadas”, la herramienta generativa de inteligencia artificial estaba charlando felizmente con cuentas registradas en el país.
“¡Todavía aquí! Este bloqueo de DNS en Malasia es bastante ligero: fácil de evitar con una VPN o un ajuste de DNS”, dice Grok en incógnita dijo en respuesta a la pregunta de un usuario.
La capacidad de Grok para permitir a los usuarios crear imágenes sexualmente explícitas, incluidas imágenes de niños, ha generado una protesta mundial en las últimas semanas, con reguladores y políticos de todo el mundo iniciando investigaciones. Indonesia y Malasia se han convertido en los dos primeros países en anunciar bloqueos de la tecnología, y el regulador de Malasia dijo el domingo pasado que había “ordenado una restricción temporal” al acceso a Grok, a partir del 11 de enero de 2026. Las autoridades de Filipinas dijeron que también planean prohibir la tecnología.
Sin embargo, bloquear el acceso a Grok no es sencillo. La tecnología no solo existe en múltiples plataformas, incluida una aplicación y un sitio web independientes, sino que también está integrada en X, que, junto con Grok, es propiedad de xAI de Elon Musk.
La semana pasada, los usuarios de X, e incluso el propio Grok, aconsejaron a la gente cómo sortear las restricciones. Esto incluye el uso de una VPN (muchas de las cuales están disponibles de forma gratuita) o cambiar el sistema de nombres de dominio (DNS), el protocolo de Internet que convierte los nombres de las direcciones en direcciones IP que cargan sitios web.
Cuando The Guardian intentó utilizar Grok en Indonesia, su sitio web funcionó incluso sin una VPN, aunque la aplicación Grok no funcionó. Grok también seguía respondiendo a cuentas indonesias en X, donde funciona como un chatbot integrado. X no fue prohibido.
Incluso si los gobiernos pudieran restringir completamente a Grok, esta no sería una solución real, afirmó Nana Nwachukwu, experta en gobernanza de IA e investigadora de doctorado en el Trinity College Dublin.
“Bloquear a Grok es como poner una venda en una herida que no has limpiado”, dijo. “Bloqueas a Grok y luego andas gritando que hiciste algo. Mientras tanto, la gente puede usar VPN para acceder a las mismas plataformas”. O simplemente podrían recurrir a una de las muchas otras plataformas que ofrecen las mismas funciones, incluidos “sistemas de inteligencia artificial más pequeños y de uso general que son en gran medida desconocidos”, añadió Nwachukwu.
En cambio, los gobiernos deberían centrarse en hacer cumplir la ley e investigar a las personas que utilizan esas herramientas para infringir la ley, añadió. “La ley exige que las plataformas proporcionen información a las autoridades cuando se comete un delito”, dijo Nwachukwu. “Si vemos personas arrestadas, personas juzgadas en los tribunales, personas arrestadas por estos crímenes, eso es una señal de que se trata de un crimen real”, dijo.
Señor.
El miércoles, X anunció salvaguardias adicionales en respuesta a la continua ira pública, dijo que impediría que la cuenta @Grok en X “permitiera la edición de imágenes de personas reales con ropa reveladora como bikinis”, incluidos los suscriptores pagos. Sin embargo, el guardián encontró que era posible evitar tales restricciones utilizando la versión independiente de Grok, fácilmente accesible a través de un navegador web, para crear videos cortos en los que la ropa está tomada de imágenes de mujeres reales.
Esto luego podría publicarse en la plataforma pública X, donde usuarios de todo el mundo podrían verlo en cuestión de segundos.
La compañía de Musk también dijo que en jurisdicciones donde dicho contenido sea ilegal, bloqueará geográficamente la capacidad de todos los usuarios en esas ubicaciones de generar imágenes de personas reales en bikini o vestimenta similar en Grok en X, y agregó que “xAI está implementando medidas de bloqueo geográfico similares para la aplicación Grok”.
Los expertos advierten que los usuarios aún podrán evitar estos “bloqueos geográficos” a través de una VPN. Tampoco está claro en qué países se implementarán tales restricciones.
En Malasia, el ministro de Comunicaciones, Fahmi Fadzil, dijo que las restricciones a Grok sólo se levantarían cuando se desactivara su capacidad de producir contenido dañino, según informes de los medios locales.
Nuurrianti Jalli, miembro visitante del programa de medios, tecnología y sociedad de ISEAS – Instituto Yusof Ishak, dijo que la amenaza de bloquear a Grok podría ser una forma útil de presionar a las empresas para que respondan rápidamente, y agregó que “desvía el debate de ‘malos actores individuales’ a cuestiones de responsabilidad de la plataforma, seguridad por diseño y rendición de cuentas cuando fallan las salvaguardas”, dijo. También puede “reducir la propagación del abuso, reducir el uso indebido ocasional y crear un límite claro en torno a lo que las autoridades consideran inaceptable”.
En Indonesia, Grok se ha utilizado para crear imágenes sexualizadas no consensuadas de cantantes y celebridades, incluido uno de los grupos de chicas más populares del país, JKT48, mientras que en Malasia, las mujeres han denunciado abusos similares, incluidos casos en los que la herramienta se utilizó para quitarse el hijab, según los medios malasios.
Algunas mujeres han recurrido a decirle públicamente a Grok no X que no le autorizan a “rastrear, tomar, procesar o editar” ninguna de sus fotografías.
Nuurrianti dijo que los gobiernos deberían presionar por una mayor transparencia “sobre cómo se implementan las medidas de seguridad, cómo se manejan los informes de abuso y qué medidas de cumplimiento se toman cuando se genera o circula contenido dañino”.
La comisión de comunicaciones y multimedia de Malasia y el Ministerio de Comunicaciones no respondieron a una solicitud de comentarios. El Ministerio de Comunicaciones y Asuntos Digitales de Indonesia tampoco respondió.
Nwachukwu dijo que se deberían incorporar salvaguardias al sistema de inteligencia artificial, en lugar de construir “puertas” a su alrededor. “Tanto el [geographic] restricción de X, [and] La restricción del gobierno es el acceso cerrado y las puertas pueden ser forzadas”, dijo.
Informes adicionales de Hidayatullah
