Los desnudos falsos y el “porno de venganza” deben eliminarse de Internet en un plazo de 48 horas o las empresas de tecnología corren el riesgo de ser bloqueadas en el Reino Unido. Keir Starmer dijo, calificándola de “emergencia nacional” que el gobierno debe abordar.
Las empresas pueden recibir multas millonarias o incluso bloquearse por completo si permiten que las imágenes se difundan o se vuelvan a publicar después de advertir a las víctimas.
Se realizarán cambios en el proyecto de ley contra el crimen y la policía para regular también los chatbots con IA, como Grok de X, que generaba imágenes no consensuadas de mujeres en bikini o en posiciones comprometedoras hasta el momento. El gobierno amenazó con tomar medidas contra la empresa de Elon Musk..
Escribiendo en The Guardian, Starmer dijo: “La carga de abordar el abuso ya no debe recaer en las víctimas. Debe recaer en los perpetradores y las empresas que permiten el daño”.
El Primer Ministro dijo que la misoginia institucional “entretejida en el tejido de nuestras instituciones” significaba que el problema no se había tomado lo suficientemente en serio. “Con demasiada frecuencia, la misoginia se excusa, se minimiza o se ignora. Los argumentos de las mujeres se descartan por ser exagerados o ‘únicos’. Esta cultura crea permiso”, escribió Starmer.
Fuentes gubernamentales dijeron que esperaban darle a Ofcom los nuevos poderes para aplicar antes del verano y las empresas estarán legalmente obligadas a eliminar dicho contenido a más tardar 48 horas después de que se les haya informado.
Las plataformas, incluidas las empresas de redes sociales y los sitios de pornografía, que no actúen podrían enfrentarse a multas de hasta el 10% de sus ingresos mundiales calificados o ver bloqueados sus servicios en el Reino Unido.
Las víctimas podrían señalar las imágenes directamente a las empresas de tecnología o a Ofcom, lo que activaría una alerta en múltiples plataformas, según el Departamento de Ciencia, Innovación y Tecnología.
Ofcom sería responsable de hacer cumplir la prohibición de imágenes, con el objetivo de eliminar la carga de las víctimas de reportar la misma imagen, potencialmente miles de veces, ya que se vuelve a publicar continuamente.
Se ordenará al regulador de medios que explore formas de poner marcas de agua digitales en las imágenes de “pornografía de venganza” para permitir que se marquen automáticamente cada vez que se vuelvan a publicar.
Los ISP también recibirán nuevas orientaciones sobre cómo bloquear el alojamiento de sitios web dañinos que se especializan en alojar contenido real, explícito o no consensuado, generado por IA.
La herramienta de “nudificación” de Grok que provocó protestas a principios de enero hizo que los ministros amenazaran con prohibirla. incógnita si no actuaste. Según un análisis realizado para The Guardian, se realizaron alrededor de 6.000 solicitudes de bikini cada hora al chatbot, muchas de ellas para crear imágenes de mujeres inclinadas o usando solo tangas.
Pero también ha habido un aumento en los últimos años de imágenes reales o deepfake no consensuadas utilizadas para chantajear a mujeres y hombres jóvenes. ¿Qué organizaciones benéficas están vinculadas a los suicidios múltiples?.
Starmer dijo que las historias de terror de mujeres y niñas que vieron imágenes íntimas difundidas en Internet eran “el tipo de historias que, como padre, hacen que el corazón se le caiga al estómago”.
“Con demasiada frecuencia, se ha dejado a estas víctimas luchando solas, persiguiendo la acción de un lugar a otro, reportando el mismo material una y otra vez, sólo para verlo reaparecer en otro lugar horas más tarde”, dijo el Primer Ministro. “Esto no es justicia. Es un fracaso. Y está enviando un mensaje a los jóvenes de este país de que las mujeres y las niñas son un activo que debe usarse y compartirse”.
Crear o compartir imágenes íntimas no consentidas también se convertirá en un “delito prioritario” según la Ley de Seguridad en Línea, dándole el mismo nivel de gravedad que las imágenes de abuso infantil o terrorismo. La ley no exige que las plataformas identifiquen de forma independiente imágenes íntimas no consensuadas, sino sólo que las eliminen cuando estén marcadas.
Google, Meta y, aunque el cronograma de 48 horas es breve, India recientemente obligatorio que las empresas de redes sociales eliminen parte del contenido deepfake en un plazo de tres horas.
“Para ser honesta, creo que 48 horas es ciertamente posible”, dijo Anne Craanen, quien investiga la misoginia en línea en el Instituto para el Diálogo Estratégico.
“El problema es que esto no necesariamente fomentará una tasa de respuesta más rápida por parte de las empresas. Pero 48 horas es más que el plazo para eliminar otros tipos de contenido, como el contenido terrorista en la UE”.
Craanen añadió que ya hay iniciativas utilizar la comparación de hash para proteger a las víctimas de abuso íntimo; aunque puede ser un desafío lograr que diferentes plataformas tecnológicas se coordinen entre sí, de modo que un video abusivo subido a Facebook, por ejemplo, se detecte automáticamente en Reddit.
Craanen enfatizó que Hash Matching no es una tecnología perfecta y puede eludirse. Los grupos terroristas, por ejemplo, suelen añadir emojis o pequeños cambios a vídeos ya codificados como contenido terrorista, haciéndolos irreconocibles para los sistemas de comparación de hash.
La llegada de herramientas de IA y deepfakes de IA empeorará este problema, permitiendo que imágenes íntimas no consensuadas y otros contenidos sean rápidamente alterados y difundidos por Internet, dijo Craanen, impidiendo intentos de detectarlos rápidamente con herramientas como la comparación de hash. En un momento como la crisis de bikinificación de Grok en enero, puede resultar imposible controlar algunos abusos.
Si bien la ley parece aplicarse a todas las plataformas tecnológicas, incluidos los “sitios fraudulentos” que quedan fuera del alcance de la Ley de Seguridad en Línea, existen dudas sobre cómo podría aplicarse a los servicios de mensajería cifrada como WhatsApp y Señal.
En su artículo, Starmer dijo que también estaba decidido a desafiar la misoginia en el gobierno y la política, después de varias semanas en las que el Primer Ministro enfrentó críticas por el nombramiento de Peter Mandelson como embajador de Estados Unidos. a pesar de saber de su amistad con el financiero deshonrado y el delincuente sexual infantil Jeffery Epstein. Mandelson fue despedido tras nuevas revelaciones sobre la cercanía de su amistad.
El primer ministro también se enfrenta a una disputa por el nombramiento de una nueva secretaria del gabinete, Antonia Romeo. candidato a secretario permanente del Ministerio del Interiorquien fue absuelto de acusaciones de intimidación hace nueve años pero sigue siendo una figura controvertida en el servicio público. Algunos de sus defensores han dicho que las críticas a Romeo se basan en un doble rasero sexista.
Starmer sugirió que quería designar a más mujeres para puestos de liderazgo en el gobierno y dijo que estaba “decidido a transformar la cultura del gobierno: desafiar las estructuras que aún marginan las voces de las mujeres”.
“Y es por eso que creo que simplemente contar cuántas mujeres ocupan puestos de alto nivel no es suficiente”, afirmó. “Lo que importa es si tus opiniones tienen peso y conducen al cambio”.
