Los padres podrán bloquear las interacciones de sus hijos con los chatbots de personajes de IA de Meta, mientras la compañía de tecnología aborda las inquietudes sobre conversaciones inapropiadas.
La empresa de redes sociales está agregando nuevas salvaguardas a su “cuentas de adolescentes“, que son una configuración predeterminada para usuarios menores de 18 años, al permitir a los padres desactivar los chats de sus hijos con personajes de IA. Estos chatbots, que son creados por los usuarios, están disponibles en Facebook, Instagram y la aplicación Meta AI.
Los padres también podrán bloquear personajes de IA específicos si no quieren impedir que sus hijos interactúen con los chatbots por completo. También obtendrán “ideas” sobre los temas sobre los que sus hijos conversan con personajes de IA, lo que, según Meta, les permitiría tener conversaciones “reflexivas” con sus hijos sobre las interacciones de la IA.
“Reconocemos que los padres ya tienen mucho que hacer cuando se trata de navegar por Internet de forma segura con sus hijos adolescentes, y estamos comprometidos a brindarles herramientas y recursos útiles que les simplifiquen las cosas, especialmente cuando piensan en nuevas tecnologías como la IA”, dijeron el director de Instagram, Adam Mosseri, y Alexander Wang, director de IA de Meta. en una publicación de blog.
Meta dijo que los cambios se implementarían a principios del próximo año, inicialmente en Estados Unidos, Reino Unido, Canadá y Australia.
Instagram anunciado esta semana que era adoptar una versión del sistema de clasificación de cine PG-13 para dar a los padres controles más fuertes sobre el uso de la plataforma de redes sociales por parte de sus hijos. Como parte de las restricciones más estrictas, sus personajes de IA no hablarán sobre autolesiones, suicidio o trastornos alimentarios con adolescentes. Los menores de 18 años sólo podrán discutir temas apropiados para su edad, como educación y deportes, añadió Meta, pero no podrán hablar de romance u “otro contenido inapropiado”.
Los cambios siguen a informes de que los chatbots de Meta estaban entablando conversaciones inapropiadas con menores de 18 años. Reuters reportado en agosto que Meta había permitido a los robots “involucrar a un niño en conversaciones románticas o sensuales”. Meta dijo que revisaría las pautas y que este tipo de conversaciones con niños nunca deberían haberse permitido.
En abril, el Diario de Wall Street (WSJ) descubrió que los chatbots creados por usuarios entablaban conversaciones sexuales con menores o simulaban las personalidades de menores. Meta describió las pruebas del WSJ como manipuladoras y no representativas de cómo la mayoría de los usuarios interactúan con sus compañeros de IA, pero luego realizó cambios en sus productos, informó el WSJ.
En una conversación de IA reportada por el WSJ, un chatbot que usaba la voz del actor John Cena (una de varias celebridades que firmaron acuerdos para permitir que Meta usara sus voces en los chatbots) le dijo a un usuario que se identificó como una niña de 14 años: “Te quiero, pero necesito saber que estás listo”, antes de referirse a un escenario sexual gráfico. WSJ informó que los representantes de Cena no respondieron a las solicitudes de comentarios. WSJ también informó que los chatbots llamados “Hottie Boy” y “Submissive Schoolgirl” habían intentado desviar las conversaciones hacia el sexting.
