Lectura de las publicaciones posteriores a Riot: Cómo rastreamos la radicalización de extrema derecha en 51,000 mensajes de Facebook | La extrema derecha

Se han cobrado más de 1.100 personas en relación con los disturbios del verano 2024. Un pequeño número de ellos se les cobró por delitos relacionados con su actividad en línea.

Sus oraciones en la cárcel, que oscilaron entre 12 semanas hasta siete años, se convirtieron en un punto de inflamación para las críticas en línea. La gente detrás del las publicaciones fueron de diversas maneras defendidosostenido como un causa famosa y lanzar como “prisioneros políticos“; Sus publicaciones minimizado y repetido; su enjuiciamiento tergiversado Como un ataque a la libertad de expresión (la mayoría de los procesados ​​por delitos en línea enfrentaron los cargos de provocar odio racial).

Las publicaciones en sí no aparecieron en las esquinas de Internet más fácilmente asociadas con la extrema derecha, como Telegram, Parler, Gettr, 4Chan y 8Kun, sino en las principales plataformas de redes sociales, incluidas X e Instagram y la más grande de todas, todas, Facebook. Y aunque la mayoría se publicaron en las páginas personales de estas personas, otras fueron publicadas en grupos públicos.

Lo que nos llevó a pensar: ¿a qué tipo de comunidades en línea pertenecían estas personas, y las personas que las defendían? ¿Qué se estaba compartiendo en estos espacios? ¿Y los puntos de vista estaban tan normalizados en tales entornos que las personas se sintieron envalentonadas para post material que las autoridades y el poder judicial del Reino Unido habían considerado cumplir con la barra criminal?

Nuestro punto de partida era rastrear los perfiles de Facebook de las personas acusadas de quién habíamos identificado para un proyecto anteriorutilizando información pública disponible (informes policiales y de medios). De alrededor de dos docenas de personas que sabíamos que fueron acusadas de delitos en línea en relación con los disturbios de verano de 2024, rastreamos de cinco a tres grupos públicos de Facebook. También encontramos docenas de publicaciones visualmente similares o duplicadas que defienden las cargadas deals cruzadas en estos grupos.

A partir de ahí, mapeamos la red más amplia de otros grupos de Facebook, conectados no solo por estas publicaciones, sino también por una membresía común, así como moderadores y administradores compartidos.

Al hacerlo, descubrimos un ecosistema próspero que está creciendo en la membresía y una comunidad en línea unida por una profunda desconfianza del gobierno y sus instituciones, comerciando con sentimiento anti-inmigrante, nativismo, conspiración y información errónea, incluido el contenido que los expertos han identificado como de extrema derecha.

Pero también encontramos personas profundamente desilusionadas, que tienen preocupaciones profundas sobre la sociedad de la cual forman parte y una convicción genuinamente sostenida de que su libertad de expresión está bajo amenaza.

Identificación los grupos

¿Por qué estos grupos?

Se eligieron los tres grupos que forman la base de nuestro análisis principal porque contenían uno o más miembros actuales o anteriores cobrados en relación con los disturbios de verano de 2024 o tenían comentarios que apoyan a los involucrados en los disturbios, ser tan en persona o en línea.

Posteriormente encontramos vínculos entre estos y otros 13 grupos, todos menos tres de los cuales también son grupos públicos, que tienen al menos un moderador o administradores compartidos, los cuales son los cuales Juega papeles importantes en estos grupos. Los moderadores pueden administrar la membresía aprobando solicitudes o emitiendo prohibiciones y tienen la autoridad para eliminar publicaciones o comentarios. Los administradores poseen poderes ampliados, incluida la capacidad de ajustar la configuración del grupo, modificar su descripción y nombrar administradores o moderadores adicionales.

¿En qué publicaciones nos concentramos?

Para tener una idea del tipo de materiales que las personas que se unen a dichos grupos comparten y consumen, nos propusimos capturar todos los puestos alojados en tres de los grupos identificados más grandes entre la fecha en que se estableció el grupo y a mediados de mayo de 2025.

Capturamos los enlaces y el texto asociados con 123,000 publicaciones en total. Sin embargo, como nuestro proceso de categorización (a continuación) estaba necesariamente restringido a solo publicaciones basadas en texto, el análisis posterior se concentró en 51,000 de ellos.

¿Cuántas personas hay en estos grupos?

No capturamos los nombres de los miembros del grupo individual (aparte de los moderadores, los administradores y los mejores carteles); Por lo tanto, cuando hablamos sobre la membresía combinada de los grupos, seguramente estamos en dos personas que son miembros de más de un grupo.

Categorización

Primero establecimos que las publicaciones contenían contenido de extrema derecha utilizando métodos académicos establecidos, clasificando las publicaciones a través de palabras clave y combinaciones de palabras que indican la radicalización. Luego complementamos esto con herramientas de IA generativas que recientemente habían estado disponibles para el equipo de datos debido a los cambios en la política editorial del Guardian en torno al Uso de tales herramientas A los efectos del periodismo, clasificar los puestos en anti-establecimiento, antiinmigración, demonización de migrantes, nativismo e identidad/negación de extrema derecha.

Para clasificar estas 51,000 publicaciones en las redes sociales, utilizamos ChatGPT 4.1 a través de la API de OpenAI, probando iterativamente las indicaciones sobre una muestra aleatoria de publicaciones en 12 rondas hasta que llegamos constantemente a un acuerdo de más del 90% entre el modelo y tres revisores humanos, al menos dos de los cuales tuvieron que estar de acuerdo con el modelo para progresar.

Habiendo satisfecho a nosotros mismos con la confiabilidad del modelo en lotes más pequeños, basamos nuestra evaluación final en una muestra más amplia de publicaciones seleccionadas al azar, momento en el cual el acuerdo entre los revisores humanos y el modelo se situó en el 93%.

Se realizó una muestra de la salida final en un número estadísticamente determinado de publicaciones nuevamente revisados ​​por los mismos anotadores separados.

Las pruebas concluyeron que el modelo funcionó muy bien: coincidir o incluso mejorar la consistencia de los revisores humanos en la mayoría de las categorías:

• Exactitud (porcentaje de instancias clasificadas correctamente): 94.7%.

• Precisión (Porcentaje de veces las verdaderas etiquetas asignadas por GPT son correctas): 79.5.

• Recordar (Porcentaje de instancias clasificadas como verdaderas por los humanos que también fueron clasificados como verdaderos por GPT): 86.1%.

• F1 (Un porcentaje único que combina precisión y retiro, más alto cuando GPT encuentra los casos verdaderos y evita falsas alarmas): 82.6%.

El desempeño del modelo fue evaluado por estadísticos de Guardian internos que concluyeron que los resultados fueron resultados sólidos como comparados con estudios académicos similares.

A pesar del sólido rendimiento del modelo, es inevitable que algunas publicaciones hayan sido mal clasificadas en nuestro análisis.

Creemos que el proceso de categorización a través de la API de OpenAI, aunque imperfecto, es riguroso, defendible, transparente y respalda el periodismo robusto.