La Oficina del Comisionado de Información (ICO) ha abierto investigaciones formales sobre X y xAI para determinar si las empresas de Elon Musk cumplieron con la ley de protección de datos después de que la herramienta Grok AI se utilizara para generar imágenes sexuales falsas sin consentimiento.
La ICO dijo que los informes plantearon “serias preocupaciones” según las leyes de protección de datos del Reino Unido, como por ejemplo si “se incorporaron salvaguardias apropiadas en el diseño y despliegue de Grok”.
William Malcolm, director ejecutivo de riesgo regulatorio e innovación de la ICO, dijo: “Los informes sobre Grok plantean preguntas profundamente preocupantes sobre cómo se utilizaron los datos personales de las personas para generar imágenes íntimas o sexualizadas sin su conocimiento o consentimiento, y si se implementaron las salvaguardias necesarias para evitarlo.
“Perder el control de los datos personales de esta manera puede causar un daño inmediato y significativo. Este es particularmente el caso cuando hay niños involucrados”.
En una declaración separada, el regulador Ofcom dijo que no estaba investigando xAI, que proporciona la aplicación Grok independiente.
Ofcom también dijo que su investigación sobre incógnitaLa red social anteriormente conocida como Twitter, donde los usuarios pueden interactuar con Grok, todavía estaba reuniendo pruebas y advirtió que la investigación podría llevar meses.
La empresa ha tomado medidas para resolver el problema y se le debe dar “plena oportunidad de hacer representaciones”, añadió Ofcom.
En cuanto a por qué no estaba investigando a xAI, el comunicado decía: “Cuando comenzamos nuestra investigación sobre X, dijimos que estábamos evaluando si también deberíamos investigar a xAI, como proveedor del servicio independiente de Grok.
“Seguimos exigiendo respuestas de xAI sobre los riesgos que plantea. Estamos considerando la posibilidad de iniciar una investigación sobre su cumplimiento de las normas que exigen que los servicios que publican material pornográfico utilicen controles de edad altamente eficaces para evitar que los niños accedan a ese contenido.
“Debido a la relación de la ley con los chatbots, como se explicó anteriormente, actualmente no podemos investigar la creación de imágenes ilegales por parte del servicio independiente Grok en este caso”.
