LONDRES – Grok, el chatbot de inteligencia artificial de Elon Musk, se enfrenta a una reacción violenta de los gobiernos de todo el mundo tras un reciente aumento de imágenes sexualizadas de mujeres y niños generadas sin consentimiento por la herramienta impulsada por inteligencia artificial.
El martes, el principal funcionario de tecnología de Gran Bretaña exigió que Plataforma de redes sociales de Musk X tomar medidas urgentes, mientras que un legislador polaco citó esto como una razón para promulgar leyes de seguridad digital.
El brazo ejecutivo de la Unión Europea denunció a Grok, mientras que las autoridades y reguladores de Francia, India, Malasia y Brasil condenaron la plataforma y pidieron investigaciones.
La creciente alarma de distintas naciones apunta al potencial de pesadilla de aplicaciones de desnudez que utilizan inteligencia artificial para generar imágenes deepfake sexualmente explícitas.
Aquí hay una mirada más cercana:
El problema surgió después del lanzamiento el año pasado de Grok Imagine, un generador de imágenes de IA que permite a los usuarios crear videos e imágenes escribiendo instrucciones de texto. Incluye el llamado “modo picante” que puede generar contenido para adultos.
La bola de nieve creció a finales del mes pasado cuando Grok, que está alojado en X, aparentemente comenzó a recibir una gran cantidad de solicitudes de usuarios para modificar imágenes publicadas por otros. A partir del martes, los usuarios de Grok aún podían generar imágenes de mujeres mediante solicitudes como “ponle un bikini transparente”.
El problema se amplifica porque Musk presenta su chatbot como una alternativa más audaz a sus rivales con más salvaguardias, y porque las imágenes de Grok son visibles públicamente y, por lo tanto, se difunden fácilmente.
El grupo sin fines de lucro AI Forensics dijo en un informe que analizó 20.000 imágenes generadas por Grok entre el 25 de diciembre y el 1 de enero y encontró que el 2% representaba a una persona que parecía tener 18 años o menos, incluidas 30 de mujeres o niñas jóvenes o muy jóvenes en bikinis o ropa transparente.
La empresa de inteligencia artificial de Musk, xAI, respondió a una solicitud de comentarios con la respuesta automática: “Legacy Media Lies”.
Sin embargo, X no negó la existencia del contenido problemático generado por Grok. Sin embargo, todavía afirmó en un publicar en su cuenta de seguridad, que toma medidas contra el contenido ilegal, incluido el material de abuso sexual infantil, “eliminándolo, suspendiendo permanentemente las cuentas y trabajando con los gobiernos locales y las autoridades policiales según sea necesario”.
La plataforma también se hizo eco de un comentario de Musk, quien dijo: “Cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”.
Una lista cada vez mayor de países exige que Musk haga más para controlar el contenido explícito o abusivo.
X debe abordar el problema “urgentemente”, dijo el martes la secretaria de tecnología, Liz Kendall, y agregó que apoyaba un escrutinio adicional por parte del regulador de comunicaciones del Reino Unido, Ofcom.
Kendall dijo que el contenido es “absolutamente espantoso e inaceptable en una sociedad decente”.
“No podemos permitir ni permitiremos la proliferación de estas imágenes humillantes y degradantes, que están dirigidas desproporcionadamente a mujeres y niñas”.
Ofcom dijo el lunes que había hecho un “contacto urgente” con X.
“Somos conscientes de las serias preocupaciones planteadas sobre una función de Grok en X que produce imágenes de personas desnudas e imágenes sexualizadas de niños”, dijo el organismo de control.
El organismo de control dijo que se puso en contacto con X y xAI para comprender qué medidas se tomaron para cumplir con las regulaciones del Reino Unido.
Según la Ley de Seguridad en Línea del Reino Unido, las plataformas de redes sociales deben prevenir y eliminar material de abuso sexual infantil cuando tengan conocimiento de ello.
Un legislador polaco utilizó el martes a Grok como motivo para una legislación nacional de seguridad digital que fortalecería la protección de los menores y facilitaría a las autoridades la eliminación de contenidos.
En un vídeo en línea, Wlodzimierz Czarzasty, presidente del parlamento, dijo que quería convertirse en el objetivo de Grok para resaltar el problema, así como pedirle al presidente de Polonia que apoye la legislación.
“Grok ha estado desnudando a la gente últimamente. Ha estado desnudando a mujeres, hombres y niños. Nos sentimos mal por ello. Sinceramente, casi desearía que Grok me desnudara a mí también”, dijo.
El brazo ejecutivo del bloque es “muy consciente” de que Grok está siendo utilizado para “contenido sexual explícito con alguna producción que utiliza imágenes infantiles”, dijo el portavoz de la Comisión Europea, Thomas Regnier.
“Esto no es picante. Esto es ilegal. Esto es terrible. Esto es repugnante. Así vemos las cosas y esto no tiene cabida en Europa. No es la primera vez que Grok genera tal producción”, dijo a los periodistas el lunes.
Después de que Grok difundiera contenido que negaba el Holocausto el año pasado, según Regnier, la Comisión buscó más información en la plataforma de redes sociales X de Musk. Actualmente se está analizando la respuesta de X, dijo.
La fiscalía de París dijo que está ampliando una investigación en curso sobre X para incluir deepfakes sexualmente explícitos, después de que las autoridades recibieran quejas de los legisladores.
Tres ministros del gobierno advirtieron a los fiscales sobre el “contenido manifiestamente ilegal” generado por Grok y publicado en X, según una declaración del gobierno la semana pasada.
El gobierno también ha señalado problemas con el regulador de comunicaciones del país por posibles violaciones de la Ley de Servicios Digitales de la UE.
“Internet no es una zona sin ley ni una zona de impunidad: los delitos sexuales cometidos en línea constituyen delitos en sí mismos y están plenamente cubiertos por la ley, al igual que los cometidos fuera de línea”, afirmó el gobierno.
El gobierno indio el viernes emitió un ultimátum a X, exigiéndole que elimine todo el “contenido ilegal” y tome medidas contra los usuarios infractores. El Ministerio de Electrónica y Tecnología de la Información del país también ordenó a la empresa que revisara la “estructura técnica y de gobernanza” de Grok y presentara un informe sobre las acciones tomadas.
El ministerio acusó a Grok de “uso indebido grave” de la IA y de graves fallos en sus salvaguardias y aplicación, al permitir la generación y el intercambio de “imágenes o vídeos obscenos de mujeres de manera despectiva o vulgar con el fin de denigrarlas indecentemente”.
El ministerio advirtió que el incumplimiento del plazo de 72 horas expondría a la empresa a mayores problemas legales, pero el plazo pasó sin ninguna actualización pública de la India.
El organismo de control de las comunicaciones de Malasia dijo el sabado estaba investigando a X usuarios que violaron las leyes que prohíben la difusión de “contenido manifiestamente ofensivo, obsceno o indecente”.
La Comisión de Comunicaciones y Multimedia de Malasia dijo que también estaba investigando los daños en línea en X y que convocaría a un representante de la empresa.
El organismo de control dijo que tomó nota de las quejas públicas sobre el uso de las herramientas de inteligencia artificial de X para manipular digitalmente “imágenes de mujeres y menores para producir contenido indecente, extremadamente ofensivo o dañino”.
La legisladora Erika Hilton dijo que denunció a Grok y X ante el Ministerio Público Federal de Brasil y el organismo de control de protección de datos del país.
En una publicación en las redes sociales, ella acusado tanto generar como publicar imágenes sexualizadas de mujeres y niños sin consentimiento.
Dijo que las funciones de IA de X deberían desactivarse hasta que se pueda llevar a cabo una investigación.
Hilton, una de las primeras legisladoras transgénero de Brasil, criticó cómo los usuarios lograban que Grok alterara digitalmente cualquier foto publicada, incluido “cambiar la ropa de mujeres y niñas por bikinis o hacerlas sugerentes y eróticas”.
“El derecho a la imagen de una persona es individual; no puede ser transferido a través de las ‘condiciones de uso’ de una red social, y la distribución masiva de pornografía infantil (asterisco)gr(asterisco)fia por parte de una inteligencia artificial integrada en una red social cruza todas las fronteras”, afirmó.
__
Los periodistas de AP Claudia Ciobanu en Varsovia, Lorne Cook en Bruselas y John Leicester en París contribuyeron a este informe.
