Los videos son sorprendentemente realistas, con mujeres vestidas de bikini que realizan entrevistas callejeras y provocan comentarios lascivos, pero Son completamente falsos, generados por herramientas de IA cada vez más utilizadas para inundar las redes sociales con contenido sexista.
Tal SLOP de IA, contenido producido en masa creado por herramientas de inteligencia artificial baratas que convierten el texto simple en imágenes hiperrealistas, con frecuencia está ahogando publicaciones auténticas y difuminando la línea entre la ficción y la realidad.
La tendencia ha generado una industria artesanal de personas influyentes de IA produciendo grandes volúmenes de clips sexualizados con un esfuerzo mínimo, a menudo impulsado por programas de incentivos de plataforma que recompensan financieramente el contenido viral.
Las hordas de clips de IA, cargados de humor en el vestuario, pretenden mostrar entrevistadoras femeninas con poca ropa en las calles de la India o el Reino Unido, lo que provoca una preocupación por el daño que tal contenido sintético puede posar para las mujeres.
Los verificadores de hechos de la AFP rastrearon cientos de tales videos en Instagram, muchos en hindi, que supuestamente muestran a los entrevistados masculinos que ofrecen frascos misóginos y comentarios sexualizados, a veces incluso agarrando a las mujeres, mientras que multitudes de hombres miran o se ríen en el fondo.
Muchos videos acumularon decenas de millones de vistas, y algunos más monetizaron esa tracción al promover una aplicación de chat para adultos para “hacer nuevas amigas”.
Los clips fabricados eran tan realistas que algunos usuarios en los comentarios cuestionaron si las mujeres destacadas eran reales.
Una muestra de estos videos analizados por la firma de ciberseguridad de EE. UU. GetReal Security mostró que fueron creados con el generador VEO 3 AI de Google, conocido por las imágenes hiperrealistas.
“La misoginia que generalmente permanecía escondida en los chats y grupos del vestuario ahora se está vistiendo como imágenes de IA”, dijo a AFP Nirali Bhatia, una psicóloga cibernética con sede en la India.
“Esto es parte del daño de género mediado por la IA”, dijo, y agregó que la tendencia era “alimentar el sexismo”.
La tendencia ofrece una ventana a un panorama de Internet ahora cada vez más inundado con memes, videos e imágenes generados por IA que compiten por la atención y contenido auténtico cada vez más eclipsante.
“La AI SLOP y cualquier tipo de contenido generado por IA no etiquetado se alejan lentamente de la pequeña confianza que permanece en el contenido visual”, dijo a AFP Emmanuelle Saliba de Getreal Security.
El contenido misógino más viral a menudo se basa en el valor de choque, incluidos los clips de Instagram y Tiktok que según la revista Wired se generaron usando VEO 3 y retratan a las mujeres negras como primates de pie grande.
Los videos en una cuenta popular de Tiktok enumeran burlonamente lo que las llamadas “chicas de oro” harían dinero.
Las mujeres también son forrajeros por angustiaria Clickbait, con AFP, los verificadores de hechos que rastrean videos virales de un entrenador marino falso llamado “Jessica Radcliffe” siendo atacado fatalmente por una orca durante un show en vivo en un parque acuático.
Las imágenes fabricadas se extendieron rápidamente a través de plataformas como Tiktok, Facebook y X, lo que provocó la indignación global de los usuarios que creían que la mujer era real.
El año pasado, Alexios Mantzarlis, director de la Iniciativa de Seguridad, Trust e Seguridad de Cornell Tech, encontró 900 cuentas de Instagram de “modelos” probables generados por IA: predominantemente femeninos y típicamente vestidos escasamente.
Estas trampas de sed acumularon acumulativamente 13 millones de seguidores y publicaron más de 200,000 imágenes, típicamente monetizando su alcance redirigiendo a su público a plataformas comerciales para compartir contenido.
Con Ai Fakery proliferando en línea, “los números ahora son sin duda mucho más grandes”, dijo Mantzarlis a la AFP.
“Espere más contenido sin sentido aprovechando los estándares corporales que no solo son poco realistas sino literalmente irreales”, agregó.
La pendiente incentivada financieramente se está volviendo cada vez más difícil para la policía como creadores de contenido, incluidos los estudiantes y los padres que se quedan en casa en todo el mundo, recurren a la producción de video de IA como trabajo de concierto.
Muchos creadores en YouTube y Tiktok ofrecen cursos pagados sobre cómo monetizar el material generado por la IA viral en las plataformas, muchos de los cuales han reducido su dependencia de los verificadores de hechos humanos y la moderación de contenido de retroceso.
Algunas plataformas han tratado de tomar medidas enérgicas en las cuentas que promocionan SLOP, con YouTube recientemente diciendo que los creadores de contenido “no auténtico” y “producido en masa” no serían elegibles para la monetización.
“La IA no inventa misoginia, solo refleja y amplifica lo que ya está allí”, dijo la consultora de IA Divyendra Jadoun a la AFP.
“Si el público recompensa este tipo de contenido con millones de me gusta, los algoritmos y los creadores de IA seguirán produciéndolo. La lucha más grande no es solo tecnológica, es social y cultural”.
Publicado – 01 de septiembre de 2025 11:16 am es
