Adolescentes demandan a xAI de Musk alegando que un creador de imágenes tomó imágenes sexualmente explícitas de ellos cuando eran menores

Tres adolescentes de Tennessee demandaron a xAI de Elon Musk esta semana, alegando que las herramientas de imágenes de la empresa se utilizaban para convirtiendo fotos reales de ellos en imágenes explícitamente sexuales.

Los estudiantes de secundaria, que pretenden actuar bajo seudónimos, presentaron la demanda en California, donde tiene su sede xAI, la empresa de inteligencia artificial de Musk. Buscan un estatus de demanda colectiva para representar lo que, según la demanda, son miles de víctimas como ellos que son menores o eran menores de edad. cuando se crearon imágenes sexualmente explícitas de ellos.

Según la demanda, Jane Doe 1 fue alertada de forma anónima en diciembre de que alguien estaba distribuyendo imágenes sexualmente explícitas de ella en un sitio de redes sociales.

“Al menos cinco de estos archivos, un vídeo y cuatro imágenes, mostraban su rostro y cuerpo reales en entornos que le resultaban familiares, pero fueron transformados en poses sexualmente explícitas”, afirma la demanda. Alega que la persona que distribuyó las imágenes conocía a Doe y utilizó las herramientas de imágenes de xAI para transformar fotos reales de ella en fotos sexualmente abusivas. Una de las imágenes fue tomada de una foto de regreso a casa. Otro fue tomado de un anuario de la escuela secundaria.

La persona que distribuye las imágenes también creó imágenes explícitas de al menos otras 18 niñas, dos de las cuales son codemandantes en la demanda. A finales de diciembre, la policía local detuvo al autor y confiscó su teléfono. Descubrieron que había subido las imágenes a varias plataformas, donde las intercambiaba por imágenes sexualmente explícitas de otros menores.

Otras empresas de inteligencia artificial han prohibido a sus creadores de imágenes producir contenido sexual explícito, incluso contenido para adultos. Musk vio esto como una oportunidad de negocio y promovió la capacidad del chatbot Grok de xAI para crear contenido “picante”, afirma la demanda. Sin embargo, actualmente no hay forma de evitar imágenes explícitas de adultos y al mismo tiempo bloquear por completo imágenes de niños, afirma la demanda. También afirma que xAI sabía que Grok sería capaz de producir imágenes sexualmente explícitas de niños, pero las publicó de todos modos.

La demanda alega que la persona que distribuyó imágenes de los demandantes utilizó una aplicación que otorgaba licencia a la tecnología xAI o “obtuvo acceso a Grok de otra manera y fue utilizada como recorte o intermediario”. XAI no respondió a un correo electrónico de La prensa asociada buscando comentarios. Pero una publicación del 14 de enero sobre la controversia en la plataforma de redes sociales

“Tomamos medidas para eliminar contenido infractor de alta prioridad, incluido el material de abuso sexual infantil (CSAM) y la desnudez no consensuada, tomando las medidas adecuadas contra las cuentas que violan nuestras Reglas X. También informamos las cuentas que buscan material de explotación sexual infantil a las autoridades policiales según sea necesario”. Mientras tanto, los estudiantes involucrados en la acción dijeron que temían que las imágenes que crearon vivieran para siempre en Internet. Temen ser perseguidos porque sus nombres reales y el nombre de la escuela están adjuntos a los archivos. Les preocupa que sus amigos y compañeros de clase hayan visto las fotos y los vídeos, que parecen reales, y les preocupa quién los verá en el futuro.

Jane Doe 1 dijo que sufría de ansiedad, depresión y estrés. “Tiene dificultades para comer y dormir y sufre pesadillas recurrentes”, afirma la demanda. Jane Doe 2 “ha comenzado a aislarse y evitar estar en el campus de la escuela, e incluso teme asistir a su propia graduación”. Jane Doe 3 sufre de miedo y ansiedad constantes de que alguien vea las imágenes generadas por IA y reconozca su rostro, según la demanda.