Elon Musk dice que los críticos del sitio de redes sociales X están buscando “cualquier excusa para la censura” después de que el chatbot de inteligencia artificial (IA) Grok fuera criticado sobre el uso Crear imágenes sexualizadas de personas sin su conocimiento o consentimiento.
Ofcom dijo que estaba llevando a cabo una evaluación urgente de X en respuesta, con el apoyo de la Ministra de Tecnología, Liz Kendall.
Pero los presidentes de los comités de tecnología y medios del Parlamento dijeron que les preocupaba que las “lagunas” en la Ley de Seguridad en Línea pudieran obstaculizar la capacidad del regulador de medios para abordar el tema.
X ahora limita el uso de su función de visualización de IA a quienes pagan una tarifa mensual; Este cambio fue calificado por Downing Street como un “insulto” a las víctimas de violencia sexual.
La BBC ha visto varios ejemplos de herramientas gratuitas de inteligencia artificial que desnudan a mujeres y las colocan en situaciones sexuales sin su consentimiento.
Kendall dijo el viernes que se esperaba una actualización de Ofcom dentro de unos días y que el gobierno recibiría la aprobación necesaria. Apoyo total si el Reino Unido decide bloquear X.
Musk volvió a publicar una serie de mensajes en el sitio durante la noche criticando la condena del gobierno a Grok; uno de los cuales mostraba imágenes generadas por IA del primer ministro Sir Keir Starmer en bikini.
“Sólo quieren suprimir la libertad de expresión”, escribió Musk.
Ashley St Clair, la madre de uno de los hijos de Elon Musk, le dijo a BBC Newshour el viernes que Grok produjo fotografías sexualmente explícitas durante su infancia.
La influencer conservadora le dijo a Grok que su imagen había sido “despojada” hasta el punto de que aparecía “básicamente desnuda, doblada en dos”, a pesar de que le dijo a Grok que no consentía imágenes sexualizadas.
St Clair, que demandó a Musk para obtener la custodia de su hijo en 2025, acusó al sitio de redes sociales de “no tomar medidas suficientes” para combatir el contenido ilegal, incluidas imágenes de abuso sexual infantil.
“Esto se puede detener con un solo mensaje a un ingeniero”, afirmó.
El viernes por la mañana, Grok dijo que estaba pidiendo a los usuarios que modificaran las imágenes cargadas en X, diciendo que “la creación y edición de imágenes está actualmente limitada a suscriptores de pago”, y agregó que los usuarios “pueden suscribirse para desbloquear estas funciones”.
Un portavoz de Ofcom dijo el viernes: “Hemos sido contactados urgentemente [with X] Hoy les fijaron un plazo estricto para que se explicaran el lunes y hemos recibido una respuesta.
“Actualmente estamos realizando una evaluación acelerada con carácter de urgencia y proporcionaremos más actualizaciones en breve”.
Los poderes de Ofcom según la Ley de Seguridad en Línea incluyen solicitar una orden judicial para evitar que terceros ayuden a X a recaudar dinero o acceder en el Reino Unido si la empresa se niega a cumplir.
Pero la presidenta del comité de innovación y tecnología, Dame Chi Onwurah, dijo que estaba “preocupada y confundida” acerca de “cómo se manejó realmente el tema” y escribió a Ofcom y Kendall para pedir una aclaración.
Dame Chi dijo que no estaba “claro” si era ilegal crear este tipo de imágenes utilizando inteligencia artificial según la Ley de Seguridad en Línea y que la responsabilidad de los sitios de redes sociales por lo que se compartía en sus plataformas no estaba “clara”.
“Esta legislación realmente debería hacer que algo que daña a tanta gente sea claramente ilegal y la responsabilidad de X debería quedar clara”, dijo al programa Today de BBC Radio 4.
Caroline Dinenage, presidenta de la comisión de cultura, medios de comunicación y deporte, afirmó igualmente que tenía “un miedo real a que exista una laguna en el reglamento”.
“Existen dudas sobre si la Ley de Seguridad en Línea realmente tiene el poder de regular la funcionalidad, lo que significa la capacidad de la IA generativa para mostrar la imagen de alguien”, le dijo a BBC Breakfast.
El uso de Grok para crear imágenes sexualizadas no consensuadas ha sido condenado por políticos de todos lados:
- El primer ministro Sir Keir Starmer lo calificó de “vergonzoso” y “repugnante”.
- El líder reformista del Reino Unido, Nigel Farage, dijo que era “espantoso en todos los niveles” y que X “necesita ir más allá” que los cambios que hizo a Grok el viernes, pero añadió que prohibir la plataforma sería un ataque a la libertad de expresión.
- Los demócratas liberales han pedido que se restrinja temporalmente el acceso a X en el Reino Unido mientras se investiga el sitio de redes sociales.
El primer ministro australiano, Anthony Albanese, dijo que estaba de acuerdo con Starmer en que el material era “absolutamente repugnante”.
“Este es otro ejemplo más de que las redes sociales no muestran responsabilidad social”, dijo Albanese, añadiendo que el comisionado de seguridad digital de Australia estaba revisando la situación.
“Los australianos, y de hecho los ciudadanos del mundo, merecen algo mejor”.
Mientras tanto, Grok fue suspendido temporalmente en Indonesia el sábado. El ministro digital del país califica de “deepfakes sexuales consensuados” [were] “Es una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”.
