Las reglas de AI de Meta permitieron chats ‘sensuales’ con menores y comentarios racistas

Según un documento interno de meta política, se filtró a Reuterslas pautas de IA de la compañía permitieron comportamientos provocativos y controvertidos, incluidas conversaciones “sensuales” con menores.

La revisión de Reuter del documento de política reveló que los estándares de gobierno para Meta AI (y otros chatbots en las plataformas de redes sociales de la compañía) permitieron a la herramienta “involucrar a un niño en conversaciones que son románticas o sensuales”, generan información médica falsa y ayudan a los usuarios a argumentar que las personas negras son “más dientes que las personas blancas”.

Según los informes, el documento de política distinguía entre un lenguaje “aceptable” e “inaceptable”, trazando la línea a la sexualización o deshumanización explícita, pero aún permite declaraciones despectivas.

Meta confirmó la autenticidad del documento, pero afirma que “eliminó porciones que declararon que está permitido que los chatbots coqueteen y participen en un juego de roles romántico con los niños”. Un portavoz también dijo que Meta está revisando el documento de política, aclarando que la compañía tiene políticas que “prohíbe el contenido que sexualiza a los niños y el juego de roles sexualizados entre adultos y menores”.

Sin embargo, el documento autenticado fue “aprobado por el personal legal, de políticas públicas y de ingeniería de Meta, incluido su principal ético, según el documento”.