Hace treinta años, los padres de todo el mundo se vieron obligados a sopesar los pros y los contras de permitir que sus hijos vieran Titánico. En ese momento, era la película más grande jamás realizada, una epopeya histórica (potencialmente educativa) sobre la muerte en masa (posiblemente traumatizante) con una trama romántica que tal vez fuera también emocionante (¡sabes a lo que me refiero!). Fue clasificada como PG-13, una directriz que recomendaba precaución pero que finalmente dictaminó que la película era apropiada para millones de adolescentes, lo que resultó en una fortuna para sus creadores y las consiguientes bendiciones para la carrera de Leonardo DiCaprio.
Instagram ahora está adoptando la misma etiqueta para una función de seguridad para adolescentes, pero los posibles resultados son menos discretos y obvios. Meta anunció a principios de esta semana que todos los usuarios de Instagram menores de 18 años serán colocados automáticamente en lo que llama una versión PG-13 de la aplicación, donde idealmente solo será visible el contenido que podría aparecer en una película PG-13. “Esperamos que esta actualización tranquilice a los padres de que estamos trabajando para mostrar a los adolescentes contenido seguro y apropiado para su edad en Instagram de forma predeterminada”, dijo la compañía. escribió en una publicación de noticias.
Esta es una actualización de una existente. Cuentas de adolescentes característica, que ya buscaba limitar la exposición a contenido gráfico violento y sexual, así como a publicaciones que promocionen procedimientos cosméticos y trastornos alimentarios, venta de alcohol y tabaco, y otras cosas que a los padres les preocupa con frecuencia que sus hijos vean en línea. Aunque la clasificación PG-13 parecería dar mucho margen de maniobra, en realidad es más restrictiva que el sistema vigente: amplía la lista interna de contenido preocupante. Ahora, según la actualización, las publicaciones sobre “ciertos trucos arriesgados” también pueden ocultarse, por ejemplo, mientras que las publicaciones que contengan “lenguaje fuerte” se eliminarán de las recomendaciones de los adolescentes. Las cuentas que comparten regularmente cosas inapropiadas estarán ocultas para los usuarios menores de 18 años.
Mientras que la versión anterior de Teen Accounts aplicaba amplias restricciones de contenido a usuarios de 13 a 16 años de forma predeterminada, pero permitía más flexibilidad a los de 17 años, la configuración PG-13 ahora también los restringe; algo extraño, dado que pueden ver una película con clasificación R, para ampliar la metáfora de la película. (Los padres que se sientan más o menos permisivos pueden cambiar del valor predeterminado PG-13 a una configuración de Contenido limitado más filtrada o una configuración de Más contenido relativamente indulgente).
Aunque puedo entender la difícil posición en la que se encuentra Instagram (Liza Crenshaw, portavoz del equipo de juventud y bienestar de Meta, me dijo que la compañía encuestó a miles de padres que constantemente dijeron que estaban preocupados por lo que sus hijos veían en la plataforma), la actualización parece extrañamente simplista, y es poco probable que satisfaga a las personas que están razonablemente preocupadas por una serie de problemas altamente complejos. Después de al menos Media década de grave preocupación sobre la forma en que plataformas como Instagram pueden afectar a los jóvenes, así como un intenso debate sobre la mejor manera de mantener a los niños seguros en línea, Meta ha llegado a una etiqueta que se inventó en la década de 1980 porque los padres estaban molestos por películas como gremlins.
Los expertos en moderación de contenido con los que hablé esta semana estaban desconcertados. “¿Por qué Meta elegiría un sistema que no se integra claramente en las redes sociales, sino que fue diseñado en otra época?” Me lo dijo Shauna Pomerantz, profesora de estudios sobre niños y jóvenes en la Universidad de Brock que estudia las redes sociales, cuando le envié el comunicado de prensa.
Cuando le pregunté, Crenshaw sugirió que PG-13 es una construcción simple y legible con la que los padres ya están familiarizados. “Querían una manera más fácil de entender las pautas”, me dijo. Hacer que PG-13 sea la línea de base (el lugar donde comienzan todos los usuarios de entre 13 y 18 años) fue aclaratorio para ellos. Les dio un rápido marco de referencia mental porque saben, básicamente, qué está y qué no está permitido en una película PG-13 gracias a años de exposición a esa rúbrica. James Grimmelmann, profesor de derecho digital y de la información en la Facultad de Derecho de Cornell, que imparte cursos sobre moderación de contenidos, lo llamó “un movimiento de nostalgia de la Generación X”.
Además, la clasificación PG-13 parece implicar que algo fundamental ha cambiado en Instagram: que Meta ahora ve la plataforma más como una sala de cine, donde el público presencia pasivamente el contenido, que como una red social, donde los individuos participan juntos en una creación continua de significado. Incluso si hay algo de verdad en la idea (encuestas de Gallup y Banco de iglesia han demostrado que es más probable que los usuarios consuman contenido que lo publiquen ellos mismos), las publicaciones de Instagram son inevitablemente parte de conversaciones más amplias que evolucionan momento a momento.
Grimmelmann señaló que el nuevo sistema es una intervención contundente. “Significa que Meta se está alejando de la pieza más importante de moderación de contenido: la sensibilidad al contexto”. Sospechaba que gran parte del contenido inofensivo se eliminaría accidentalmente, porque un esfuerzo de moderación tan amplio “no tendrá el matiz para apreciar las diferencias entre mostrar, glorificar, discutir y criticar”. El sistema PG-13 ciertamente alejará a los adolescentes de contenidos que podrían ser realmente dañinos para ellos (¡algo bueno!), pero también puede restringir la información y la expresión creativa.
Por ejemplo, puede imaginarse el filtrado involuntario de conversaciones sobre violencia, sexualidad o uso de sustancias que en realidad podrían ser apropiadas para un joven de 17 años que está a punto de ingresar a la universidad o al mundo laboral. La clasificación PG-13 plantea preguntas obvias sobre, digamos, imágenes de noticias inquietantes que podrían discutirse en una clase de estudios sociales pero filtrarse por Instagram. ¿Y realmente tiene sentido que un adolescente no pueda seguir a la estrella del pop Charli XCX, porque publica fotos de ella fumando cigarrillos, o una cuenta que agrega fotogramas de películas francesas, porque las personas que aparecen en ellas a veces están desnudas?
Todos estos problemas se están volviendo más complicados y extraños en la era de la inteligencia artificial. El anuncio de Meta también señaló brevemente que las restricciones PG-13 se aplicarán a sus funciones de chatbot de IA y personajes de IA: “Las IA no deben dar respuestas inapropiadas para la edad que se sentirían fuera de lugar en una película PG-13”. Contenido estúpido y feo generado por IA, como este video me envió mi colega de un hombre vomitando un montón de hot dogs enteros, no se menciona. (Los padres también podrán restringir el acceso de los adolescentes a herramientas de IA.)
Muchos de los esfuerzos para ayudar a los niños a navegar en las redes sociales se venden con el lenguaje antiguo de la abstinencia y la pureza. Por ejemplo, el Espere hasta el octavo movimiento. pide a los padres que firmen un compromiso diciendo que no les darán teléfonos inteligentes a sus hijos hasta el octavo grado, y la organización Appstinenceun grupo dirigido por estudiantes universitarios, anima a los jóvenes a eliminar aplicaciones de redes sociales. El libro más vendido del psicólogo social y autor Jonathan Haidt La generación ansiosaque se ha convertido en una especie de biblia para muchos grupos de padres, traza una dicotomía explícita entre las buenas infancias de las generaciones anteriores (cuando los niños iban en bicicleta a las casas de los demás, hacían columpios y se entretenían) y las peores infancias de hoy. Una de las ideas más repetidas de Haidt es que los niños modernos están dramáticamente sobresupervisados fuera de línea y dramáticamente insuficientemente supervisados en línea. Sostiene que se debería capacitar a los niños para moverse solos por el mundo fuera de línea con más frecuencia, pero que las redes sociales no deberían estar disponibles para niños menores de 16 años en absoluto.
Cuando hablé con Crenshaw, tenía este trasfondo cultural en mente. Mencioné que muchos de los amplios esfuerzos de moderación de contenido del pasado reciente terminó conversación sofocante sobre muchas de las cosas por las que los adolescentes más valoran las redes sociales. Se conectan a Internet para expresarse creativamente, explorar sus identidades y escuchar a otras personas contar sus experiencias, tal vez de manera grosera en ocasiones o de maneras que resultan incómodas para los adultos, pero que no necesariamente son dañinas. “Es realmente desafiante y algo que siempre tenemos que equilibrar cuando se trata de contenido”, me dijo Crenshaw. “En este momento queremos pecar de cautelosos cuando se trata de las experiencias de los adolescentes”.
Escuchar a los padres es una bienvenida salida del pasado de Instagram, cuando las decisiones de moderación se tomaban completamente a puerta cerrada. El nuevo sistema PG-13 encuestará periódicamente a los padres para preguntarles si las publicaciones individuales parecen apropiadas o inapropiadas para los adolescentes, lo que algunos pueden encontrar molesto e innecesariamente lento, y otros pueden acoger con agrado como evidencia de un nuevo respeto y escrupulosidad.
Aún así, la etiqueta anacrónica puede, en última instancia, ser un falso consuelo. Es posible que la gente añore los días en que las preguntas eran tan simples como “¿Debería dejar que mi hija vea?” Titánico?” Pero ese no es el mundo en el que vivimos.
