XAI de Elon Musk demandada por generar deepfakes sexuales: informes

La empresa de inteligencia artificial xAI de Elon Musk fue demandada por una mujer que afirmó que el chatbot de inteligencia artificial Grok creó falsificaciones sexuales de ella transformando sus fotos, incluidas fotos de ella cuando era niña. Alegó en su demanda que Grok utilizó IA para “desnudar, humillar y explotar sexualmente a las víctimas”, según un informe de CNN.

La mujer enfatizó que no se tomaron medidas adecuadas para impedir que Grok creara contenido abusivo.

Grok ha sido criticado mientras los reguladores de todo el mundo toman medidas para tomar medidas enérgicas contra el chatbot del multimillonario después de que se volvió viral por desnudar a personas en fotografías, según las solicitudes de los usuarios.

Las personas objetivo, incluidas mujeres, fueron desnudadas y colocadas en escenas explícitas transformando sus fotos en la plataforma de redes sociales X. Algunos usuarios alegaron que Grok también desnudó a niños y adolescentes.

La capacidad de Grok para generar Esta semana se restringieron las imágenes deepfake y la desnudez parcial en varias jurisdicciones.

Aunque Musk inicialmente trató la “tendencia del bikini” de Grok como una broma, comenzó a distanciarse del creciente furor de usuarios y autoridades de todo el mundo.

Afirmó además que no tenía conocimiento de imágenes de menores desnudos.

“No tengo conocimiento de ninguna imagen de desnudos de menores generada por Grok. Literalmente cero. Obviamente, Grok no genera imágenes espontáneamente, lo hace sólo según las solicitudes de los usuarios. Cuando se le pide que genere imágenes, se niega a producir nada ilegal, ya que el principio operativo de Grok es obedecer las leyes de cualquier país o estado. Puede haber ocasiones en las que el hackeo adverso de las indicaciones de Grok produzca algo inesperado. Si esto sucede, solucionaremos el error inmediatamente”, publicó Musk en X el 14 de enero.