Indonesia bloquea a Grok por deepfakes sexualizados y no consensuados

Las autoridades indonesias dijeron el sábado que están bloqueando temporalmente el acceso al chatbot Grok de xAI.

Esta es una de las medidas más agresivas hasta el momento por parte de funcionarios del gobierno. respondiendo a una avalancha de imágenes sexualizadas generadas por IA – a menudo representan mujeres y menores reales, y a veces mostrando agresión y abuso — publicado por Grok en respuesta a las solicitudes de los usuarios de la red social X. (X y xAI son parte de la misma empresa).

En una declaración compartida con The Guardian y otras publicaciones, el Ministro de Comunicaciones y Digital de Indonesia, Meutya Hafid, dijo: “El gobierno considera la práctica de deepfakes sexuales no consensuales como una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”.

El ministerio también habría convocado a X empleados para discutir el asunto.

Las diversas respuestas del gobierno durante la semana pasada incluyen una orden del Ministerio de TI de la India para que xAI tome medidas para evitar que Grok genere contenido obsceno, así como una orden de la Comisión Europea para que la empresa retenga todos los documentos relacionados con Grok, lo que podría estar preparando el escenario para una investigación.

En el Reino Unido, el regulador de comunicaciones Ofcom dijo que “llevará a cabo una evaluación rápida para determinar si existen posibles problemas de cumplimiento que justifiquen una investigación”. El primer ministro Keir Starmer dijo en una entrevista que Ofcom tiene “pleno apoyo para tomar medidas”.

Y aunque en Estados Unidos, la administración Trump parece guardar silencio sobre el tema (el director ejecutivo de xAI, Elon Musk, es un importante donante de Trump y dirigió el controvertido Departamento de Eficiencia Gubernamental de la administración el año pasado), senadores demócratas llamado Apple y Google para eliminar X de tus tiendas de aplicaciones.

xAI respondió inicialmente por publicar una disculpa aparentemente en primera persona a la cuenta de Grok, reconociendo que una publicación “violó los estándares éticos y potencialmente las leyes estadounidenses” en torno al material de abuso sexual infantil. Más tarde función de imágenes de IA restringida para suscriptores de pago en X, aunque esta restricción no pareció afectar a la aplicación Grok en sí, que aún permitía a cualquiera generar imágenes.

En respuesta a una publicación que preguntaba por qué el gobierno del Reino Unido no estaba tomando medidas contra otras herramientas de imágenes de IA, almizcle escribió“Quieren cualquier excusa para la censura”.