Meta está cambiando cómo es Transmitido responde a los niños.
La compañía le dijo a Business Insider el viernes que está haciendo “cambios temporales” para “proporcionar a los adolescentes seguros, experiencias de IA apropiadas para la edad“Mientras desarrolla medidas adicionales a más largo plazo.
Los cambios se produjeron después de un informe de Reuters a principios de agosto que detalló un meta documento interno que muestra que era aceptable para que el chatbot participe en conversaciones románticas con niños.
“A medida que continuamos refinando nuestros sistemas, estamos agregando más barandillas como precaución adicional, incluida la capacitación de nuestros AI para no interactuar con los adolescentes en estos temas, sino para guiarlos a recursos expertos y limitar el acceso de los adolescentes a un grupo selecto de personajes de IA por ahora”, Stephanie Otway, un meta portavoz, le dijo a Business Insider.
Además de las discusiones románticas, otros temas fuera del límite incluyen autolesiones, suicidio y alimentación desordenada, dijo Otway. Los personajes de IA disponibles para los adolescentes solo serían para fines de educación y expresión creativa, dice Otway.
Después del informe inicial de Reuters, el senador Josh Hawley escribió en una carta a CEO Mark Zuckerberg El 15 de agosto, lanzaría una investigación sobre cómo Meta entrena sus chatbots para tener conversaciones “sensuales” con los niños.
“Solo después de que Meta fue atrapado, retractó porciones de su compañía de la compañía que lo consideró” permitido que los chatbots coquetearan y participar en un juego de roles romántico con niños “, escribió Hawley en un comunicado en línea.
Historias relacionadas
Business Insider cuenta las historias innovadoras que desea saber
Business Insider cuenta las historias innovadoras que desea saber
El jueves, el grupo de defensa de la seguridad digital sin fines de lucro Common Sense Media escribió en una evaluación de riesgos que recomienda encarecidamente el Meta ai Chatbot no será utilizado por nadie menor de 18 años.
El informe Watchdog encontró que las herramientas de IA engañaban regularmente a los adolescentes con “reclamos de ‘realidad’, promueven fácilmente el suicidio, la autolesión, los trastornos alimentarios, el uso de drogas y más”.
Esta no es la primera vez que Meta se enfrenta al escrutinio sobre la seguridad de los niños. En enero de 2024, Zuckerberg testificó junto con ejecutivos de Tiktok, Snap, X y Discord, como los legisladores los cuestionaron sobre diseños de plataformas potencialmente adictivos, contenido abusivo y el Riesgos de salud mental Las redes sociales posan para menores.
