Instagram dijo el jueves que comenzará a alertar a los padres si sus hijos buscan repetidamente términos claramente asociados con el suicidio o la autolesión. Las alertas solo llegarán a los padres inscritos en el programa de supervisión parental de Instagram.
Instagram dice que ya evita que este tipo de contenido aparezca en los resultados de búsqueda de cuentas de adolescentes y, en cambio, dirige a las personas a líneas de ayuda.
El anuncio se produce cuando Meta está en medio de dos juicios sobre daño a los niños. Una prueba en curso en Los Ángeles cuestiona si las plataformas de Meta deliberadamente adicto y daño menores. Otro, en Nuevo México, busca determinar si Meta no protegió a los niños de explotación sexual en sus plataformas. Miles de familias –junto con distritos escolares y entidades gubernamentales– han demandado a Meta y otras empresas de redes sociales, alegando que diseñan deliberadamente sus plataformas para que sean adictivas y no protegen a los niños de contenidos que pueden provocar depresión, trastornos alimentarios y suicidio.
Los metaejecutivos, incluido el director ejecutivo Mark Zuckerberg, han cuestionado que las plataformas sean adictivas. Durante el interrogatorio del abogado del demandante en Los Ángeles, Zuckerberg dijo que todavía está de acuerdo con una declaración anterior que hizo de que el conjunto de trabajos científicos existentes no ha demostrado que las redes sociales causen daños a la salud mental.
Las alertas se enviarán por correo electrónico, mensaje de texto o WhatsApp según los detalles de contacto de los padres disponibles, así como también la notificación a través de la cuenta de Instagram de los padres.
“Nuestro objetivo es empoderar a los padres para que intervengan si la investigación de sus hijos sugiere que pueden necesitar apoyo. También queremos evitar enviar estas notificaciones innecesariamente, lo que, si se hace demasiado, puede hacer que las notificaciones sean menos útiles en general”, dijo Meta en una publicación de blog.
Meta dijo que también está trabajando en notificaciones similares a los padres sobre las interacciones de sus hijos con la inteligencia artificial.
“Notificarán a los padres si un adolescente intenta entablar ciertos tipos de conversaciones relacionadas con el suicidio o la autolesión con nuestra IA”, dijo Meta. “Este es un trabajo importante y tendremos más para compartir en los próximos meses”.
