Cuando un experto en desinformación Tal Hagin preguntó Grok Para verificar una publicación en X sobre misiles iraníes que supuestamente impactaron en Tel Aviv, el chatbot impulsado por inteligencia artificial de Elon Musk fracasó estrepitosamente.
Grok repetidamente identificado incorrectamente la ubicación y fecha del video, que fue originalmente compartido en X por un medio de comunicación estatal iraní el domingo. Entonces el chatbot intentó demostrar su punto compartir una imagen generada por IA.
“Ahora Grok está respondiendo con desechos de destrucción de IA”, escribió Hagin en respuesta. “Hervido, te lo digo.”
La interacción resume claramente cuán desequilibrada se ha vuelto la realidad X desde que Estados Unidos e Israel comenzaron su ataque contra Irán el 28 de febrero. WIRED informó en ese momentoLa plataforma de redes sociales se vio rápidamente inundada de información errónea de cuentas que compartían videos falsos y reutilizados.
A medida que continuaba el conflicto, las inundaciones no hicieron más que empeorar. En los últimos días, se ha visto abrumado por imágenes y vídeos de IA, mientras Grok ha proporcionado repetidamente información falsa cuando se le pide que verifique las afirmaciones realizadas en la plataforma. Las imágenes de IA están siendo compartidas por cuentas pagas con marcas de verificación azules y funcionarios iraníes que buscan retratar daños exagerados.
La proliferación de herramientas de generación de imágenes y vídeos de IA de fácil acceso ha dado lugar a contenidos falsos cada vez más sofisticados. El 2 de marzo, por ejemplo, funcionarios iraníes y medios estatales compartieron videos generados por IA de un Se incendia un edificio en Bahréin. Los vídeos e imágenes parecen bastante realistas para muchos: Uno imagen La imagen de un bombardero B-2 estadounidense derribado por Irán con tropas estadounidenses detenidas fue vista más de un millón de veces antes de ser eliminada, mientras que imágenes de los miembros de la Fuerza Delta capturados por las autoridades iraníes fueron vistos más de 5 millones de veces antes de ser eliminados.
Parte del contenido de IA promocionado en X es menos realista. Un vídeo, por ejemplo, pretende mostrar a las fuerzas iraníes fabricando misiles en lo profundo de una cueva. Sin embargo, el vídeo fue compartido por varias cuentas y visto más de un millón de veces.
El gobierno iraní también está utilizando la IA para promover narrativas abiertamente antisemitas, con cuentas en una red de propaganda pro-régimen en X que comparten publicaciones generadas por IA que muestran a judíos ortodoxos guiando a soldados estadounidenses a la guerra o celebrando las muertes estadounidenses, según investigadores del Instituto para el Diálogo Estratégico (ISD), que compartieron su análisis con WIRED.
Varias cuentas en esta red pro régimen también compartió un video falso que supuestamente mostraba una fila de niñas pasando junto al presidente Donald Trump vistiendo solo ropa interior. La publicación fue vista más de 6,8 millones de veces, según ISD, antes de ser eliminada, aunque sigue siendo compartida por otras cuentas en X.
“Lo que es particularmente singular de esta guerra es el dramático aumento del contenido generado por IA que estoy desacreditando”, dijo Hagin a WIRED. “Esto probablemente se deba al hecho de que la IA está lo suficientemente avanzada como para engañar a los periodistas y a la facilidad con la que los usuarios pueden crear esta basura de IA sin consecuencias. Cuanto más tiempo pasemos sin regulaciones contra el abuso de la IA, más daño se hará. Veo la proliferación de noticias falsas basadas en la IA que nos empujan al borde de un mundo basado en hechos a menos que implementemos cambios ahora”.
Cuando la avalancha de falsificaciones generadas por IA comenzó a apoderarse de la plataforma la semana pasada, X anunció que desmonetizaría temporalmente las cuentas con una marca de verificación azul si publicaban videos de conflictos armados sin etiquetar generados por IA. X no respondió a una solicitud de comentarios sobre cuántas cuentas ha desmonetizado desde que se introdujo la medida. Hasta hace poco, una serie de Los funcionarios iraníes parecían estar pagando X por su servicio premium, que proporcionó marcas de verificación azules en sus cuentas, aumentó la participación y creó el potencial de ganar dinero con sus publicaciones.
