Ashley St. Clair, quien dio a luz a uno de los hijos de Elon Musk en 2024, demandó a xAI de Musk en un tribunal de Nueva York el jueves. Alega que el chatbot de la compañía, Grok, crea imágenes deepfake sexualmente explícitas basadas en las solicitudes de los usuarios.
En Complaint St. Clair, autora, influenciadora y estratega política, se afirma que el Usuario X alentó a Grok a alterar su foto. Incluyendo fotos de cuando tenía 14 años que fueron convertidas en contenido sexual explícito. Ella afirma que algunas de las imágenes permanecieron en línea durante más de una semana y que su cuenta premium X fue cancelada después de que ella se quejara.
También busca una orden de restricción temporal para obligar a xAI a cesar inmediatamente la “divulgación involuntaria de imágenes íntimas sin consentimiento”.
xAI no respondió de inmediato a una solicitud de comentarios.
“Grok primero prometió a la Sra. St. Clair no crear más fotos de ella desnuda”, se lee en la denuncia. “Por otro lado, el acusado tomó represalias contra ella suspendiendo su cuenta X y creando más imágenes de ella”, dice la denuncia.
St. Clair también estuvo involucrado en una demanda separada contra Musk por la custodia de su hijo. que ella necesitaba cuidado exclusivo
xAI respondió el mismo día con una demanda separada, alegando que St. Clair estuvo de acuerdo. Términos de servicio que Cualquier acción legal requerida en Texas, St. Clair está representada por la abogada Carrie Goldberg, quien se especializa en casos que involucran abuso. y representó a clientes en su oposición a Harvey Weinstein.
“xAI no es un producto razonablemente seguro”, dijo Goldberg en una declaración a Business Insider. “Este daño surge directamente de elecciones deliberadas de diseño que permitieron que Grok fuera utilizado como una herramienta para el acoso y la vergüenza. Las empresas no deben eludir su responsabilidad cuando los productos que construyen causan predeciblemente este tipo de daño”.
La demanda se produce tras una reacción internacional contra Chatbot Grok por su capacidad para desnudar a personas reales. y crear imágenes sexuales no consentidas a petición del usuario.
Indonesia y Malasia han bloqueado el acceso a Grok, mientras que el primer ministro británico, Keir Starmer, calificó las imágenes explícitas creadas por Grok de “repugnantes” y “vergonzosas” en una reunión con la Cámara de los Comunes.
El miércoles, el fiscal general de California, Rob Bonta, también anunció que su oficina está investigando. “Contenido sexual inapropiado y no consensuado que xAI crea y publica en línea” de “mujeres y niños desnudos y en situaciones sexualmente explícitas”
X dijo el mismo día en una publicación de blog que a los usuarios ya no se les permitiría crear fotografías con IA de personas reales usando ropa sexualmente explícita o reveladora en la plataforma. añadiendo que las limitaciones “Afectan a todos los usuarios. Incluyendo a los miembros pagos”.
El jueves por la mañana, el reportero de Business Insider, Henry Chandonnet, descubrió que todavía era “sorprendentemente fácil” pedirle a Grok que creara sus desnudos yendo a la aplicación en lugar de usar el chatbot Grok on X.
