La madre de uno de los hijos de Elon Musk está demandando a su empresa, alegando que su herramienta Grok AI generó imágenes explícitas de ella, incluida una en la que ella era menor de edad.
Ashley St Clair tiene presentó una demanda con la Corte Suprema del Estado de Nueva York contra xAI, alegando que Grok, que se utiliza en la plataforma de redes sociales X, prometió dejar de generar imágenes explícitas pero continuó haciéndolo.
Ella busca daños punitivos y compensatorios, alegando que Grok creó docenas de imágenes sexualmente explícitas y degradantes.
Después de dos semanas de protestas públicas contra la herramienta utilizada para crear imágenes sexualizadas de mujeres y niñosLa compañía dijo el miércoles que “bloquearía geográficamente” la capacidad de los usuarios de “generar imágenes de personas reales en bikini, ropa interior y vestimenta similar a través de su cuenta de Grok y en Grok en X” en países donde hacerlo fuera ilegal.
St Clair, de 27 años, separado de Musk, es un influyente, autor y comentarista político de derecha. Ella y Musk son padres de un hijo nacido en 2024.
La representa Carrie Goldberg, una abogada de derechos de las víctimas que se especializa en responsabilizar a las empresas de tecnología y que ha representado a mujeres víctimas de acoso y abuso sexual.
Goldberg dijo a The Guardian: “xAI no es un producto razonablemente seguro y es una molestia pública. Nadie ha sufrido más que Ashley St Clair. Ashley tomó medidas porque Grok la estaba acosando, creando y distribuyendo imágenes no consensuadas, abusivas y degradantes de ella y publicándolas en incógnita.
“Este daño fue el resultado directo de elecciones deliberadas de diseño que permitieron que Grok fuera utilizado como una herramienta de acoso y humillación. Las empresas no deberían poder eludir la responsabilidad cuando los productos que construyen previsiblemente causan este tipo de daño. Tenemos la intención de responsabilizar a Grok y ayudar a establecer límites legales claros para el beneficio de todo el público para evitar que la IA se convierta en un arma para el abuso”.
La demanda alega que la empresa de redes sociales “tomó represalias contra ella desmonetizando su cuenta X y generando muchas otras imágenes de ella, incluidas imágenes ilegales de ella en posiciones sexuales, cubierta de semen, prácticamente desnuda e imágenes de ella desnuda cuando era niña”.
Las imágenes generadas por Grok, según la demanda, incluyen una de ella cuando tenía 14 años vestida en bikini, así como contenido sexualizado de St Clair como adulta, incluida una solicitud de “poner a la niña en un bikini hecho de tanga”.
De hecho, las imágenes no solo no fueron consensuadas, afirma la demanda, sino que “Grok y xAI también tenían conocimiento explícito de que St Clair no estaba dando su consentimiento a la creación o difusión de estas imágenes debido a sus solicitudes de eliminación”.
Grok también respondió a las solicitudes de los usuarios de agregar tatuajes al cuerpo de St Clair, incluidas las palabras “la puta de Elon”, según el documento.
St Clair, que es judía, alega que Grok la vistió digitalmente con un bikini decorado con esvásticas.
La demanda afirma que X “se benefició económicamente de la creación y difusión de contenido deepfake no consensuado, realista y sexualizado que representa al demandante como menor y como adulto”.
La demanda afirma que “xAI es directamente responsable del acoso y las imágenes explícitas creadas por su propio chatbot, Grok”.
Musk publicó en X que los usuarios de su aplicación son responsables de las imágenes que crean. Recientemente dijo: “Cualquiera que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”.
Y añadió: “Obviamente, Grok no genera imágenes de forma espontánea, sólo lo hace según las solicitudes de los usuarios”.
X dijo el jueves que tenía “tolerancia cero hacia cualquier forma de explotación sexual infantil, desnudez no consensuada y contenido sexual no deseado”.
La empresa presentó una contrademanda alegando que, según los términos de servicio de X, St Clair no puede demandar a la empresa en Nueva York, pero debe hacerlo en Texas.
santa clara le dijo anteriormente a The Guardian que se sintió “horrorizada y violada”, y añadió: “Es otra herramienta más de acoso. El consentimiento es el punto”.
A los acólitos de Musk no les agrada desde que hizo público su deseo de formar una “legión” de niños, dijo. Musk es el padre de otros 13 niñoscon otras tres mujeres.
Se ha contactado a X para hacer comentarios.
