PARÍS– El gobierno francés toma medidas contra el chatbot de inteligencia artificial Grok, lanzado por una empresa propiedad del multimillonario Elon Muskdespués de generar publicaciones en francés que cuestionaban el uso de cámaras de gas en Auschwitz y enumeraban a figuras públicas judías, dijeron las autoridades.
Grok, construido por la empresa xAI de Musk e integrado en su plataforma de redes sociales X, dijo en una publicación en francés ampliamente compartida que las cámaras de gas en el Auschwitz-Birkenau Los campos de exterminio fueron diseñados para la “desinfección con Zyklon B contra el tifus” en lugar de para asesinatos en masa, lenguaje asociado durante mucho tiempo con la negación del Holocausto.
El Memorial de Auschwitz destacó el intercambio X y dijo que la respuesta distorsionó los hechos históricos y violó las reglas de la plataforma.
A partir de esta semana, las respuestas de Grok a las preguntas sobre Auschwitz parecen proporcionar información históricamente precisa.
Grok tiene un historial de hacer comentarios antisemitas. A principios de este año, la compañía de Musk eliminó las publicaciones del chatbot que parecían elogiar a Adolf Hitler después de quejas sobre contenido antisemita.
La fiscalía de París confirmó a Associated Press el viernes que los comentarios de negación del Holocausto se agregaron a una investigación de delito cibernético existente sobre X. El caso se abrió a principios de este año después de que las autoridades francesas expresaran su preocupación de que el algoritmo de la plataforma pudiera usarse para interferencia extranjera.
Los fiscales dijeron que los comentarios de Grok ahora son parte de la investigación y que “se examinará el funcionamiento de la IA”.
Francia tiene una de las leyes de negación del Holocausto más estrictas de Europa. Cuestionar la realidad o el carácter genocida de los crímenes nazis puede ser perseguido como delito, junto con otras formas de incitación al odio racial.
Varios ministros franceses, incluido el ministro de Industria, Roland Lescure, también informaron de los mensajes de Grok al fiscal de París en virtud de una disposición que exige que los funcionarios públicos señalen posibles delitos. En una declaración del gobierno, describieron el contenido generado por IA como “manifiestamente ilegal”, diciendo que podría equivaler a difamación por motivos raciales y negación de crímenes contra la humanidad.
Las autoridades francesas remitieron las publicaciones a una plataforma de la policía nacional por contenido ilegal en línea y alertaron al regulador digital francés sobre presuntas violaciones de la Ley de Servicios Digitales de la Unión Europea.
El caso aumenta la presión sobre Bruselas. Esta semana, la Comisión Europea, el poder ejecutivo de la UE, dijo que el bloque está en contacto con X sobre Grok y calificó algunos de los resultados del chatbot como “espantosos”, diciendo que van en contra de los derechos y valores fundamentales de Europa.
Dos grupos franceses de derechos humanos, la Ligue des droits de l’Homme y SOS Racisme, presentaron una denuncia penal acusando a Grok y X de impugnar crímenes contra la humanidad.
X y su unidad de IA, xAI, no respondieron de inmediato a las solicitudes de comentarios.
