Las cuentas adolescentes de Instagram aún se ofrecen contenido gráfico, descubre la investigación

Después de años de crítica por su manejo de la crisis de salud mental juvenil, Instagram ha invertido mucho en reforzar sus características de seguridad para adolescentes, incluida una forma completamente nueva para que los usuarios menores de edad publiquen, se comuniquen y se desplacen en la aplicación. Pero las pruebas recientes de estas nuevas características de seguridad sugieren que aún puede no ser suficiente.

Según un investigación realizado por la organización sin fines de lucro dirigida por la juventud Diseñalo para nosotros y perro guardián Tecnología responsable – Más tarde corroborado por Washington Post columnista Geoffrey Fowler: la plataforma continúa con contenido inalámbrico de edad inapropiado, sexualmente explícito y generalmente dañino a pesar de las salvaguardas de control de contenido.

En el estudio, los representantes de “Gen-Z envejecidos” del diseño para su uso probaron cinco cuentas adolescentes falsas en la configuración predeterminada de la cuenta adolescente de la aplicación durante un período de dos semanas. En todos los casos, las cuentas juveniles se recomendaron contenido sensible y sexual. Se recomendaron cuatro de cada cinco cuentas relacionados con la imagen corporal deficiente y los trastornos alimentarios, y solo el algoritmo de una cuenta surgió lo que la organización sin fines de lucro consideraba contenido “educativo”.

Los algoritmos individuales también recomendaron descripciones del uso ilegal de sustancias y publicaciones sexualmente explícitas que involucran un lenguaje modificado y codificado pasó a través de los filtros. Pero no todas las protecciones vacilaron, incluidas las restricciones incorporadas de la plataforma en mensajes y etiquetado.

“Estos hallazgos sugieren que Meta no ha fomentado de forma independiente un entorno en línea seguro, ya que pretende a los padres y legisladores”, escribe el informe. “Los legisladores deben obligar a meta a producir datos sobre cuentas adolescentes para que los reguladores y las organizaciones sin fines de lucro puedan entender con el tiempo si los adolescentes realmente están protegidos cuando usan Instagram”.

En una respuesta al Washington PostLa portavoz de Meta Liza Crenshaw dijo que el alcance limitado de la prueba no captura el verdadero impacto de las características de seguridad de la aplicación. “Un informe fabricado no cambia el hecho de que decenas de millones de adolescentes ahora tienen una experiencia más segura gracias a las cuentas de los adolescentes de Instagram. El informe es defectuoso, pero incluso tomado al pie de la letra, identificó solo 61 piezas de contenido que considera” menos del 0.3 por ciento del contenido que estos investigadores probablemente habrían visto durante la prueba “.

Abordar un problema continuo en toda la plataforma

Un experimento de junio de 2024 por el Wall Street Journal Y la Universidad de Northeastern descubrió que las cuentas menores con frecuencia se recomendaban contenido sexual explícito y gráfico dentro de la alimentación de carretes centrados en video de la aplicación, a pesar de estar configurado automáticamente en la configuración de contenido más estricta de la plataforma. El fenómeno fue un problema algorítmico conocido para la empresa matriz Meta, que, según documentos internos, fue marcado por los empleados que realizaron revisiones de seguridad ya en 2021. En una respuesta, los representantes de Instagram dijeron que los experimentos no reflejaron la realidad de cómo los usuarios jóvenes interactúan con la aplicación.

En ese momento, Instagram aún no había lanzado su nuevo producto Tentpole, Cuentas adolescentesintroducido como una forma nueva y más monitoreada para que existan usuarios más jóvenes y publiquen en línea, incluidos controles de contenido más fuertes. Los usuarios menores se colocan automáticamente en cuentas para adolescentes cuando se registran en Instagram, que establece su página privada, limita las capacidades de mensajería y la capacidad de transmitir en vivo y filtra contenido sensible de Feeds y DMS. Los adolescentes entre las edades de 13-15 tienen riendas aún más estrictas en el uso de su aplicación, y las cuentas que caen a través de las grietas ahora están siendo vistas y marcadas por la IA interna de Meta.

Según Meta, más de 54 millones de adolescentes se han trasladado a una cuenta de adolescentes restringida desde el lanzamiento inicial, y la gran mayoría de los usuarios menores de 16 años han mantenido la configuración de seguridad predeterminada y más estricta. Y si bien los números muestran un cambio positivo, incluso el CEO de Meta Meta, Mark Zuckerberg, admite que puede haber límites para cuán efectivamente la compañía puede monitorear su vasta base de usuarios y su algoritmo complejo.