Prohibición de las redes sociales: ¿Puede la detección de edad con IA realmente proteger a los niños?

Karolina, de catorce años, usa Roblox desde los diez, habla y juega con otros jugadores en la plataforma. Cuando se lanzó el sitio Controles de edad obligatorios A principios de año, Karolina temía perder el acceso a algunos de sus amigos y a los chats grupales. No te preocupes, el programa determinó que tenía 16 o 17 años.

“Sin maquillaje, hice lo que me pedía la aplicación: giré la cabeza de un lado a otro para tomar la foto”, dijo Carolina, que vive en Sao Paulo. resto del mundo. “La aplicación me dijo que tenía entre 16 y 17 años. Pude volver a mis conversaciones”.

Roblox se encuentra entre el creciente número de plataformas de redes sociales que realizan controles de edad a medida que los gobiernos de todo el mundo trabajan para mantener a los usuarios jóvenes fuera de los sitios de redes sociales y limitar su acceso a contenido considerado inapropiado. Los métodos más utilizados incluyen la verificación mediante una identificación emitida por el gobierno; reconocimiento mediante biometría como el reconocimiento facial; Inferir la edad de un usuario a partir de su comportamiento en línea.

Los métodos no son infalibles. Se sabe que la tecnología de reconocimiento facial Menos preciso Para mujeres y personas de color. En Roblox, la verificación de edad tiene como objetivo restringir a los usuarios que pueden chatear con ellos. El grupo de edad de 16 a 17 años, al que Carolina está clasificada como perteneciente, puede chatear con los usuarios de su grupo, así como con los usuarios directamente encima y debajo de su grupo, o con aquellos en los grupos de edad de 13 a 15 y 18 a 20 años. Poder chatear con usuarios mayores lo pone en riesgo de acoso y abuso, que es lo que hace la empresa Roblox, con sede en California. Sujeto a auditoría a. Algunas estimaciones muestran que de los más de 100 millones de usuarios diarios, casi el 40% de ellos son menores de 13 años.

Como nuevo ley de seguridad infantil Entrará en vigor en Brasil a partir de marzo, exigiendo que las plataformas que ofrecen juegos de azar, pornografía y otros contenidos verifiquen las edades, y los usuarios están aprendiendo cómo eludir la tecnología, dijo Simone Lahorgue Nunes, socia fundadora de la firma de abogados Lahorgue Advogadas Associadas en Río de Janeiro. resto del mundo.

“Las técnicas de verificación de la edad no son infalibles”, afirmó. “Los menores utilizan tecnologías cada vez más sofisticadas, incluidas las VPN [virtual private networks] Y deep fakes o selfies producidos por inteligencia artificial. Por el contrario, medidas demasiado estrictas pueden empujar a los usuarios menores de edad hacia la web oscura o hacia servicios alojados en los llamados paraísos digitales, exacerbando los riesgos que esta regulación busca mitigar.

Eludir la verificación de edad no tiene por qué ser demasiado complicado. en un com.subreddit Al eludir los controles de Roblox, a los usuarios se les recomiendan identificaciones falsas y fotografías generadas por IA. “Usé una identidad falsa para [Joseph] “Ella fue aceptada. Stalin y ella fueron aceptadas”, escribió un usuario. Otro usuario publicó un mensaje. Vídeo en X Que mostraba una cara en carne viva dibujada en un pulgar pasando por la verificación de edad en Roblox y siendo evaluado como de 13 a 15 años.

El proceso de verificación de edad está “diseñado para garantizar la precisión”, dijo Roblox en el comunicado que anuncia el lanzamiento. “Probado y certificado por laboratorios de terceros”, dijo la compañía, y evalúa constantemente el comportamiento del usuario para determinar si una persona es “significativamente más grande o más pequeña de lo esperado”. tik tok controles de la nueva era Utilice una combinación de datos de perfil, contenido y análisis de comportamiento para deducir si una cuenta pertenece a un usuario menor de edad.

Desde Australia el año pasado Prohibido Los menores de 16 años de plataformas de redes sociales como Facebook, Instagram, X y TikTok, en al menos una docena de países, incluidos MalasiaEspaña, Francia y el Reino Unido dijeron que estaban planeando reglas similares. El principal asesor económico de India, uno de los mayores mercados para las empresas de redes sociales, también recomendó promulgar una ley de este tipo.

Con el enfoque en la tecnología, no hay suficiente discusión sobre cómo estas medidas pueden dañar desproporcionadamente a las minorías y a otras personas que carecen de documentación o prefieren permanecer en el anonimato en línea, dijo Shivangi Narayan, profesor de sociología en la Facultad Thapar de Artes Liberales y Ciencias en Patiala, India. resto del mundo.

“La verificación de edad acabará con las cuentas anónimas y el anonimato en Internet tal como lo conocemos”, dijo Narayan. “Es una herramienta poderosa para acabar con la disidencia y acabar con los últimos vestigios de protección que muchas identidades marginadas tienen en línea: personas que no pueden expresarse plenamente en las redes sociales porque podrían ser acosadas, troleadas o convertirse en víctimas”. discurso de odio O incluso asesinar en circunstancias extremas”.

A los activistas de la privacidad también les preocupa que los documentos de identidad y los datos biométricos utilizados para determinar la edad de un usuario puedan ser pirateados, explotados, vendidos o utilizados para otros fines. escucha.

El año pasado, con sede en San Francisco. desacuerdo dijo Las tarjetas de identificación con fotografía del gobierno fueron expuestas a unos 70.000 usuarios en todo el mundo a través de un proveedor externo. Los datos comprometidos incluían sus nombres, direcciones de correo electrónico, información de contacto e historial de pagos. A principios de este mes, Discord, con más de 200 millones de usuarios activos mensuales, dijo que era Laminación “Funciones de seguridad mejoradas para adolescentes” para usuarios mayores de 13 años. Estas incluyen la eliminación de los documentos de identidad presentados para su verificación “rápidamente, en la mayoría de los casos, inmediatamente después de confirmar la edad”.

Algunos países eligen sus propios sistemas de verificación de edad en lugar de Jumio, con sede en el Reino Unido, o Yoti, con sede en Estados Unidos. Tecnología especialBrasil planea construir uno. Las empresas indias Signzy y Acura Scan tienen muchos clientes globales.

Apar Gupta, fundador y director de Internet Freedom Foundation, una organización de derechos digitales en India, dijo que el enfoque en la verificación de la edad desvía la atención de preocupaciones más apremiantes sobre las plataformas de redes sociales. resto del mundo.

“La seguridad efectiva de los niños en línea no requiere identificar a todos los usuarios de Internet”, dijo. “Las opciones de diseño de plataformas en torno a algoritmos de recomendación, prácticas de recopilación de datos y características adictivas causan mucho más daño que el acceso anónimo a la información”.

En Malasia, donde el gobierno dijo que pronto introduciría una ley para restringir el acceso de niños menores de 16 años a las plataformas de redes sociales, Adam, usuario de Discord desde hace mucho tiempo, expresó su preocupación por la seguridad de los requisitos de reconocimiento facial, dijo. resto del mundo.

“Si tu cara está comprometida, no puedes reemplazarla”, dijo el joven de 17 años. “Imagínese tener su identidad biométrica expuesta para siempre”.