X continuó permitiendo a los usuarios publicar videos altamente sexualizados de mujeres en bikini generados por su herramienta de inteligencia artificial Grok, a pesar de la afirmación de la compañía de haber tomado medidas enérgicas contra el uso indebido.
The Guardian pudo crear vídeos cortos de personas en bikini a partir de fotografías de mujeres reales completamente vestidas. También fue posible publicar este contenido para adultos en la plataforma pública de X sin ningún signo de moderación, lo que significa que cualquier persona con una cuenta podría ver el clip en segundos.
Parecía ofrecer una solución alternativa sencilla a restricciones anunciadas a través de la red social de Elon Musk esta semana. Estas fueron bien recibidas por el primer ministro, Keir Starmer, quien calificó las fotografías generadas por Grok de “repugnantes” y “vergonzosas”.
Después de semanas de creciente preocupación pública, X dijo el miércoles por la noche que había “implementado medidas tecnológicas para evitar que la cuenta de Grok permitiera la edición de imágenes de personas reales con ropa reveladora, como bikinis”.
Declaró que la restricción se aplicaría a todos los usuarios, incluidos los suscriptores pagos, y tendría “tolerancia cero para cualquier forma de explotación sexual infantil, desnudez no consentida y contenido sexual no deseado”. Pero no especificó si las personas aún podrían crear tales imágenes en la aplicación independiente Grok y luego compartir ese material públicamente en X.
The Guardian descubrió que esta versión independiente de Grok, conocida como Grok Imagine, a la que se puede acceder fácilmente a través de un navegador web, aún respondía a solicitudes para eliminar digitalmente la ropa de imágenes de mujeres.
Los periodistas enviaron imágenes fijas de mujeres de la vida real completamente vestidas y pidieron a la herramienta de inteligencia artificial que las vistiera en bikini. La plataforma respondió yendo más allá de la solicitud, creando videos cortos de las mujeres quitándose la ropa en un striptease sexualmente provocativo.
Se ha contactado a X para hacer comentarios.
Rebecca Hitchen, jefa de políticas y campañas de la Coalición para poner fin a la violencia contra las mujeres, dijo que una solución tan simple no debería ser posible.
“La continua facilidad de acceso a sofisticadas herramientas de nudificación demuestra claramente que X no está tomando el tema de la violencia en línea contra mujeres y niñas lo suficientemente en serio”, dijo.
Hitchen apeló al gobierno del Reino Unido y ofcomel regulador de las redes sociales, para presionar a X y otras plataformas “para que detengan la proliferación del abuso sexual basado en imágenes”.
Reuters también informó que sus periodistas, incluido un reportero en Gran Bretaña, utilizaron Grok para crear fotografías sexualizadas a pedido después de los anuncios X.
“Es difícil creer que xAI y Elon Musk no puedan encontrar la manera de evitar que Grok publique estas imágenes”, dijo Penny East, directora ejecutiva de la Sociedad Fawcett. “Primero, Musk decidió que la solución era preservar la desnudez como un privilegio sólo para los usuarios que pagan por X. Luego prometió acabar con esto por completo. Y todavía no ha parado.
“La verdad es que Musk y la industria tecnológica simplemente no priorizan la seguridad o la dignidad en los productos que crean. Es un listón muy bajo para las mujeres esperar poder chatear en línea sin que los hombres las desnuden. Y sin embargo, aparentemente incluso eso es imposible”.
Si bien Downing Street dijo que se sentía “reivindicado” por las medidas tomadas por X, también hubo cautela entre los ministros sobre el alcance de los cambios y cómo se implementarían.
El jueves, Liz Kendall, secretaria de Tecnología, que calificó la manipulación sexual de imágenes de mujeres y niños como “despreciable y aborrecible”, celebró la medida y agradeció “a quienes se pronunciaron contra este abuso, especialmente a las víctimas”.
Sin embargo, añadió: “Espero que los hechos queden total y sólidamente establecidos por la investigación en curso de Ofcom”.
Starmer también exigió que X actuara sin demora. “La libertad de expresión no es la libertad de violar el consentimiento”, dijo. “Las imágenes de mujeres jóvenes no son propiedad pública y su seguridad no es objeto de debate. Acojo con satisfacción el hecho de que X esté actuando ahora para garantizar el pleno cumplimiento de la ley del Reino Unido; esto debe suceder de inmediato”.
Ofcom dijo que su investigación formal sobre X, liberado el lunescontinuó y estaba “trabajando día y noche para avanzar y obtener respuestas sobre qué salió mal y qué se está haciendo para solucionarlo”.
El organismo de control de la privacidad de Canadá dijo que estaba investigando a xAI, mientras que las autoridades de Filipinas dijeron que estaban tomando medidas para bloquear a Grok, y las autoridades de Malasia planeaban emprender acciones legales.
Pero la controversia puede haber sido útil para aumentar la conciencia pública sobre Grok. El jueves, Musk compartió una publicación en la que afirmaba que “la popularidad y el uso en el mundo real se están disparando a nivel mundial”, junto con un gráfico de “Grok” como término de búsqueda que alcanza un nuevo máximo en Google Trends. Musk simplemente añadió: “Pruebe Grok.com”.
Un portavoz del gobierno dijo: “La Ley de Seguridad en Línea ya exige que plataformas como X impidan que aparezca en sus servicios contenido ilegal, incluidas imágenes íntimas no consentidas y material de abuso infantil.
“La Secretaria de Estado dijo que espera que el cumplimiento de X con la ley del Reino Unido quede total y sólidamente establecido por la investigación de Ofcom, que ya está en marcha, y que el gobierno no descansará hasta que las empresas de redes sociales cumplan con sus deberes legales.
“También estamos tomando medidas adicionales a través del delito propuesto de ‘nudificación’, que apuntará a herramientas diseñadas específicamente para generar imágenes íntimas no consentidas”.
