La comisionada de eSafety, Julie Inman Grant, dice que el enfoque regulatorio global está en la iniciativa de Elon Musk incógnita llegó a un “punto de inflexión” después de una redada en las oficinas de la empresa en Francia esta semana.
La invasión del martes fue parte de una investigación que incluía presuntos delitos de complicidad en la posesión y distribución organizada de imágenes de abuso infantil, vulneración de los derechos de imagen mediante deepfakes sexualizados y negación de crímenes de lesa humanidad.
Varios otros países –incluido el Reino Unido y Australia – y la UE han iniciado investigaciones en las últimas semanas sobre X después de que su chatbot de inteligencia artificial, Grok, fuera utilizado para producir en masa imágenes sexualizadas de mujeres y niños en respuesta a las solicitudes de los usuarios.
Inman Grant le dijo a Guardian Australia: “Es bueno dejar de ser solista y ser parte de un coro.
“Hemos tenido muchas discusiones productivas con otros reguladores de todo el mundo e investigadores que están realizando un trabajo importante en este espacio”, dijo.
“Creo que esto realmente representa un punto de inflexión. Se trata de una condena global a la tecnología desarrollada descuidadamente que puede estar generando material de abuso sexual infantil e imágenes sexuales no consentidas a gran escala”.
Después del clamor, X deshabilitó la generación de imágenes de Grok para todos excepto para los usuarios pagosy prometió realizar cambios para evitar que los usuarios le quiten la ropa a personas reales.
Regístrate: correo electrónico de noticias de última hora de AU
Las medidas contra X se produjeron antes del último informe del Comisionado de eSafety, publicado el jueves, que examina cómo las plataformas tecnológicas están previniendo el abuso y la explotación sexual infantil en sus plataformas.
En julio de 2024 se emitieron avisos a Apple, Discord, Google, Meta, Microsoft, Skype y WhatsApp que requerían actualizaciones semestrales de la plataforma. Skype, propiedad de Microsoft, ya no existe.
Inman Grant dijo que se habían realizado algunas mejoras en las plataformas, incluida la detección de material conocido de abuso infantil y la prevención de la transmisión en vivo de abusos fuera de las aplicaciones de mensajería, pero las plataformas aún se quedaban cortas.
Apple, que según Inman Grant considera que la privacidad y la seguridad son mutuamente excluyentes, ha ido más lejos.
“[Apple is] invertir realmente… y comprometerse y desarrollar sus capacidades de seguridad de las comunicaciones y hacerlas evolucionar”.
En 2024 La empresa comenzó a implementar funciones para permitir que los niños denunciaran imágenes y vídeos de desnudos enviados directamente a Apple, que luego podría denunciar los mensajes a la policía.
Pero Inman Grant dijo que todavía había una detección inadecuada en FaceTime de abuso o explotación infantil en vivo. Hizo críticas similares a Meta for Messenger, Google Meet, Snapchat, Microsoft Teams, WhatsApp y Discord.
Varios servicios no utilizaron el análisis del lenguaje para detectar proactivamente la extorsión sexual, dijo.
“Me sorprende que no asistan a servicios donde los daños más atroces y devastadores les ocurren a los niños. Es como si no estuvieran aislando completamente toda la casa. Están poniendo masilla en las paredes y tal vez tapando las ventanas con cinta adhesiva, pero no arreglando el techo”.
“Para mí es interesante ver cuán desigual es el despliegue de estas tecnologías de seguridad”.
Las mejoras incluyeron: Microsoft detecta material conocido de abuso infantil en OneDrive y archivos adjuntos de correo electrónico en Outlook; Snap reduce el tiempo para procesar informes de material de abuso infantil de 90 minutos a 11 minutos; y Google emite advertencias sobre contenido sensible que difuminan las imágenes de desnudos antes de verlas.
Las empresas deberán presentar informes a eSafety dos veces más: en marzo y agosto de este año. Inman Grant dijo que los informes de transparencia abrieron la “caja negra” sobre lo que estaban haciendo las empresas y ayudarían con futuras investigaciones.
X no fue incluido en los avisos y cuestionó la emisión de un aviso similar por parte de eSafety en marzo de 2024, en un caso que aún está en curso.
