Meta ofrece a los padres más información sobre cómo sus hijos adolescentes utilizan la IA en sus plataformas. EL la compañía dijo el jueves así los padres podrán conocer sobre qué temas le preguntaron sus hijos a la IA la semana anterior en Facebook, Messenger o Instagram -aplicaciones propiedad de la empresa dirigida por Mark Zuckerberg-.
Si bien la medida tiene como objetivo apoyar la seguridad de los niños en plataformas sociales populares, los expertos dicen que no sustituye una buena moderación de contenido y un diseño seguro, y advierten que podría tener consecuencias no deseadas al reducir la privacidad de los adolescentes.
La nueva función se llama AI Insights y ahora está disponible para los padres que supervisan cuentas de adolescentes en EE. UU., Reino Unido, Australia, Canadá y Brasil. Meta lanzará AI Insights a nivel mundial en las próximas semanas. Las cuentas para adolescentes son experiencias diseñadas específicamente para adolescentes en plataformas con configuraciones de contenido y privacidad predeterminadas más estrictas.
Insights sigue los pasos de otras salvaguardas que Meta ha introducido para padres e hijos con respecto al uso de la IA. En octubre, la compañía dijo que los padres puede evitar que los niños interactúen con personajes de chatbot o bloquear personajes específicos. Un personaje es un ser ficticio creado por IA.
Zuckerberg y su empresa han sido objeto de críticas en los últimos años en lo que respecta a la salud mental de los niños. El mes pasado, Meta fue condenado a pagar 375 millones de dólares tras ser declarado responsable en un caso de explotación infantil y también fue declarado responsable en un caso de California en el que una mujer afirmó que Instagram y YouTube fueron diseñados para ser adictivo para los niños.
Un representante de Meta no respondió de inmediato a una solicitud de comentarios.
Más de 40 estados de EE. UU. presentó acción legal contra Meta en 2023afirmando que la empresa está intentando que los niños se vuelvan adictos a sus aplicaciones, contribuyendo así a una crisis de salud mental juvenil.
Cómo utilizar los conocimientos
Si los padres utilizan la supervisión de sus hijos en Facebook, Messenger o Instagram, ahora verán una pestaña llamada “Insights”, tanto en las aplicaciones como en línea.
(Los padres pueden habilitar la supervisión en Meta Family Center; el proceso esta detallado aqui — para niños de 13 a 17 años que usan cuentas para adolescentes).
Después de hacer clic en la pestaña Insights, los padres pueden ver sobre qué temas han preguntado sus hijos. Meta IA durante los últimos siete días. La compañía dijo que estos temas podrían incluir escuela, entretenimiento, estilo de vida, viajes, escritura, salud y otros.
También hay categorías dentro de cada tema: moda, comida y vacaciones en el tema de estilo de vida y fitness, salud física y salud mental en el tema de salud y bienestar. Cuando los padres hacen clic en temas, pueden ver las categorías sobre las que sus hijos preguntaron a Meta AI.
Si los adolescentes preguntan a la IA sobre el suicidio o la autolesión en Instagram, los padres serán alertados, una característica de la empresa añadido en febrero.
Meta también dijo que, en colaboración con el Centro de investigación sobre ciberacosodesarrollado 11 temas para iniciar una conversación que los padres hablen con sus hijos sobre la IA. Los padres pueden acceder a ellos a través de un enlace en la pestaña Insights.
En su anuncio del jueves, Meta dijo que está tratando de “hacer que la supervisión parental sea aún más valiosa para los padres”. La compañía dijo que el número de adolescentes estadounidenses inscritos en supervisión se duplicó el año pasado.
La vigilancia parental puede ser perjudicial
La función transfiere la responsabilidad de la moderación del contenido a los padres, pero también podría ser perjudicial para los niños en entornos domésticos potencialmente abusivos al proporcionarles a los padres una herramienta de vigilancia, dijo. Ardath WhynachtProfesor asociado de sociología en la Universidad Mount Allison en New Brunswick, Canadá, especializado en salud mental y violencia familiar.
“La supervisión de los padres no es moderación de contenido”, dijo Whynacht a CNET. “A medida que empresas como Meta moderan menos el contenido, exponen a niños y jóvenes a daños con mayor frecuencia. No debería ser responsabilidad de los padres hacer que el producto sea menos dañino”.
Whynacht, que ha trabajado en prisiones y con jóvenes con trastornos del estado de ánimo y psicosis, dijo que los jóvenes queer y trans pueden tener más dificultades con la vigilancia de sus padres.
“Muchos recurren a los espacios digitales en busca de apoyo”, afirmó Whynacht. “El miedo a la vigilancia de los padres puede obligar a los niños a ir a rincones de la web aún más inseguros”.
“Es un hecho triste que los niños a menudo necesitan la protección de sus padres tanto como la protección contra los daños en línea”, añadió.
Se necesita más para proteger a los niños
La nueva característica de Meta es un “paso en la dirección correcta”, pero no es suficiente protección, dijo Donna Rice Hughes, directora ejecutiva de una organización de seguridad infantil en línea. Suficientele dijo a CNET.
“No se puede confiar en Meta cuando se trata de la seguridad de los adolescentes y continúa anteponiendo las ganancias a la seguridad”, dijo Hughes, señalando el esfuerzos de cabildeo anular la Ley de Seguridad Infantil en Línea en la Cámara de Representantes de los Estados Unidos en 2024.
Hughes dijo que los padres deberían usar todos los controles parentales en línea disponibles, como la nueva función Insights de Meta, pero también deberían tener conversaciones frecuentes con sus hijos sobre la seguridad en línea. Y las herramientas de control deberían ser más sólidas y efectivas e implementadas por todas las grandes tecnologías, no solo por Meta. “Los padres simplemente no pueden seguir llevando esta carga solos”, dijo Hughes.
