El senador Ed Markey (D-Mass.) Alegó en una carta del lunes que el gigante tecnológico Meta ignoró Advertencias sobre sus chatbotsafirmando que estaba “instando a Meta a no permitir que los menores accedan a chatbots de IA en sus plataformas”.
“Escribo hoy instando a Meta a no permitir que los menores accedan a chatbots de IA en sus plataformas debido a la alarmante informes recientes sobre los estándares de chatbot de IA de Meta y la evidencia limitada sobre el efecto de chatbots de IA en los usuarios más jóvenes”, dijo Markey en su carta al CEO de Meta, Mark Zuckerberg, primero Reportado por NBC News.
“Primero le hice esta solicitud en una carta en 2023, cuando advertí que su empresa estaba” apresurando un producto prematuramente, sin considerar las consecuencias para los jóvenes en línea “. Usted ignoró esa solicitud, y dos años después, Meta desafortunadamente ha demostrado mis advertencias correctas ”, agregó el senador de Massachusetts.
Legisladores republicanos y demócratas recientemente aprovechado Revelaciones sobre conversaciones de chatbot “sensuales” meta consideradas aceptables para los niños, devolviendo al gigante tecnológico y su pasado inestable en la seguridad de los niños al centro de atención.
Reuters obtuvo un documento de meta política interna que tenía ejemplos de conversaciones aceptables entre su chatbot de inteligencia artificial (IA) y niños, lo que indica que podrían participar en “conversaciones que son románticas o sensuales” y describen a los niños “en términos que evidencian su atractivo”, ejemplos que el gigante tecnológico declaró que fueron erróneos y han sido eliminados.
“Sorprendentemente, el personal legal, de políticas públicas y de ingeniería de Meta, incluido su principal ético, revisó y aprobó este documento”, dijo Markey en su carta. “Aunque Meta ha declarado que su inclusión en el documento de estándares fue un error, es inexplicable e inaceptable que alguna vez sucedió”.
La colina fue dirigida por Meta a los cambios recientemente revelados por el gigante tecnológico en la interacción de IA con menores, incluida “capacitar a nuestros AIS para no responder a los adolescentes en autolesiones, suicidio, alimentación desordenada y conversaciones románticas potencialmente inapropiadas, independientemente del contexto, y en su lugar apuntar a los recursos expertos cuando sea apropiado”.
Markey también solicitó respuestas e información de Meta para fin de mes sobre temas como “los planes de Meta para recopilar datos de usuarios jóvenes de sus chatbots y cómo Meta usará estos datos”.
