Ashley St. Clair, una influencer conservadora que es madre de uno de los hijos de Elon Musk, está demandando a xAI por imágenes sexualmente explícitas generadas por el chatbot de IA de la compañía, Grok.
De acuerdo a Varios informes de los mediosSt. Clair presentó su demanda contra su antigua empresa el jueves, alegando que la plataforma creó y hizo circular imágenes sexualmente falsas de ella, tanto adulta como infantil, en X (otra de las empresas de Musk).
“El demandado xAI, un gigante tecnológico con todas las herramientas e instalaciones a su disposición, ha elegido deliberadamente hacer la vista gorda e incluso celebrar la explotación sexual de mujeres y niños”, afirma la demanda.
El documento continúa: “El producto de xAI, Grok, un chatbot de inteligencia artificial generativa (‘IA’), utiliza IA para desnudar, humillar y explotar sexualmente a las víctimas, creando contenido deepfake alterado y de apariencia real de niños.
Además, la demanda afirma que St. Clair supuestamente alertó a xAI sobre los inquietantes deepfakes, que la mostraban “usando un bikini de hilo de bebé” y “como adulta en poses sexualmente explícitas”.
El campamento de St. Clair afirma que Grok se aseguró de que sus imágenes “no serán utilizadas ni modificadas sin consentimiento expreso en ninguna generación o respuesta futura”, pero xAI permitió a los usuarios crear representaciones explícitas de él.
en una declaración gente El jueves, el abogado de St. Clair, Cary Goldberg, criticó a xAI y dijo: “xAI no es un producto razonablemente seguro y es una molestia pública”.
Goldberg continuó: “Nadie ha provocado más indignación que Ashley St. Clair. Ashley presentó una demanda porque Grok la estaba acosando al crear y distribuir imágenes objetables, difamatorias y degradantes de ella y publicarlas en X”.
El caso St. Clair sigue a la decisión del miércoles del fiscal general de California, Rob Bonter, de abrir una investigación sobre Groke. En ese momento, el gobernador Gavin Newsom llamó a la empresa X, escribiendo“La decisión de xAI de crear y albergar un caldo de cultivo para que los profesores difundan deepfakes de IA sexualizados no consensuados, con imágenes de niños desnudándose digitalmente, es espantosa”.
Si bien Musk y xAI aún no han emitido una declaración, la compañía demandó a St. Clair en un tribunal federal de Texas el jueves, acusándolo de “incumplimiento de contrato” y solicitando más de 75.000 dólares en daños y perjuicios.
“El demandado Ashley St. Clair se registró para obtener una cuenta en la plataforma del demandante y, al hacerlo, aceptó los Términos de servicio de xAI, que obligan al demandado a presentar cualquier disputa entre él y xAI LLC (y las filiales de xAI) exclusivamente en este tribunal o en un tribunal estatal ubicado en el condado de Tarrant”. documento Los estados “a pesar de este acuerdo expreso para demandar en Texas, el demandado anunció su intención de demandar a xAI Holdings a unas 1600 millas de distancia en el tribunal estatal de Nueva York”.
