El regulador de seguridad en línea de Australia advirtió a X de Elon Musk en medio del escándalo de imágenes sexualizadas de Grok que encontró que el material de abuso infantil era “particularmente sistémico” en X y más accesible que en “cualquier otro servicio convencional”, revela correspondencia obtenida por Guardian Australia.
El Comisionado de eSafety escribió a X en enero después de que su chatbot, Grok, se utilizó para generar imágenes sexualizadas de mujeres y niños en líneaque el Primer Ministro Anthony Albanese calificó de “aborrecible”.
En la carta, obtenida por Guardian Australia en virtud de las leyes de libertad de información, la directora general de operaciones regulatorias de eSafety, Heidi Snell, señaló la promesa de Musk al hacerse cargo de la plataforma en 2022 de que “la eliminación de la explotación infantil es la prioridad número uno”, pero dijo que “la disponibilidad de CSEM [child sexual exploitation material] sigue pareciendo particularmente sistémico en X”.
“eSafety no ha identificado a CSEM como un servicio tan fácilmente accesible como cualquier otro servicio convencional”, dijo Snell.
eSafety descubrió que, aunque la acción de X para abordar las cuentas de bots en octubre de 2025 redujo el uso de algunos hashtags y términos comúnmente utilizados anteriormente para publicitar CSEM, eSafety encontró que los hashtags para publicitar el material aún prevalecen.
“Nos preocupa que hashtags aparentemente inofensivos parezcan ser cooptados para publicitar CSEM, especialmente cuando se usan juntos”, dijo Snell. “eSafety encontró CSEM entre otros materiales usando combinaciones de hashtags: [redacted]. El hecho de que algunos de estos términos tengan usos inocuos significa que es probable que los usuarios queden expuestos inadvertidamente a CSEM a pesar de intentar utilizar el servicio X de manera legítima”.
Snell dijo que eSafety también consideraría emitir avisos de eliminación a
Guardian Australia no recibió la respuesta de X sobre los documentos de FoI, pero cuando se le acercó para hacer comentarios, X proporcionó su respuesta y su respuesta a la consulta de terceros durante el procesamiento de la solicitud de FoI.
X dijo en su carta que tiene una “política de tolerancia cero para cualquier forma de explotación sexual infantil en la Plataforma X, incluido el contenido generado por IA”, tiene sistemas automatizados para detectar dicho material y responde a los informes de los usuarios sobre contenido abusivo. X dijo que más del 99% de las cuentas relacionadas con CSEM se eliminan de forma proactiva antes de recibir los informes.
X dijo que es consciente de que los malos actores pueden cooptar términos inocuos y evalúa continuamente palabras clave y nuevos términos para agregarlos a las defensas contra los robots de búsqueda y las listas de bloqueo.
“Los términos mencionados en su carta no pueden utilizarse como signos ‘fuertes’ de [child sexual abuse material] en la plataforma X”, dijo X.
“Su carta hace acusaciones serias… pero no especifica las URL ni los identificadores de cuenta del contenido”.
En Grok,
La compañía dijo que entre el 1 de enero de 2026 y el 15 de enero de 2026, eliminó 4.500 piezas de contenido generado por Grok, como imágenes de mujeres en bikini, y suspendió permanentemente más de 674 cuentas por violar la política de explotación sexual infantil de X. Se entiende que las suspensiones cubren más que solo aquellos que le pidieron a Grok que generara material de abuso infantil.
X advirtió a eSafety que no revelar su respuesta a la carta en la solicitud de FoI “presentaría una descripción incompleta y potencialmente engañosa del intercambio regulatorio”.
Un portavoz de eSafety dijo que el regulador “continúa evaluando e investigando el cumplimiento de X” con los códigos y estándares de la industria en relación con CSEM.
El lunes, la empresa matriz de X, xAI, fue demandado por tres adolescentesdos de los cuales son menores en los EE. UU., alegando que Grok usó fotografías de ellos para producir y distribuir material de abuso sexual infantil.
Musk ha negado anteriormente que Grok haya sido utilizado para producir material de abuso sexual infantil, afirmando en enero que “no tenía conocimiento de ninguna imagen de menores desnudos generada por Grok”.
A pesar de la fuerte condena de Albanese hacia X en enero, él y los funcionarios del gobierno continuaron publicando en el sitio, en medio de un número creciente de escándalos en la plataforma, incluido Grok refiriéndose a sí mismo como “MechaHitler” y la enorme cantidad de información errónea en la plataforma tras la Ataque terrorista de Bondi.
El gobierno federal también ha mantenido el gasto en la plataforma en los últimos años.
Los datos obtenidos por Guardian Australia durante los dos primeros años desde que Musk asumió el control, entre noviembre de 2022 y noviembre de 2024, muestran que los contribuyentes australianos pagaron X$ 4,26 millones por los anuncios que se publicaron en la plataforma.
El departamento de finanzas rechazó una solicitud de libertad de información de Guardian Australia para los datos de gasto de 2025.
