xAI de Elon Musk ha anunciado que bloqueará la capacidad de su herramienta Grok AI para alterar imágenes de personas reales para ponerlas en “ropa reveladora como bikinis”, en medio de una reacción global por la herramienta que se utiliza para generar imágenes explícitas.
La medida se produjo pocas horas después de que el multimillonario dijera que no tenía conocimiento de ninguna “imágenes de menores desnudos” tomadas por Grok.
El escrutinio sobre Grok se ha intensificado en todo el mundo, y algunas personas lo utilizan para desnudar digitalmente a mujeres y niños sin su consentimiento y publicar esas imágenes en incógnita. Miles de estas imágenes sexualizadas de IA han inundado X en las últimas semanas. xAI, que fabrica Grok, también es propietaria de X; ambas están dirigidas por Musk.
“Esto agrega una capa adicional de protección, ayudando a garantizar que las personas que intenten abusar de la cuenta de Grok para violar la ley o nuestras políticas puedan ser consideradas responsables”, dijo la compañía. publicado en X el miércoles por la noche. También afirmó que tiene “tolerancia cero con cualquier forma de explotación sexual infantil, desnudez no consentida y contenido sexual no deseado”.
Los cambios que X anunció el miércoles se aplicarán a todos los usuarios de la plataforma de redes sociales, incluso a los suscriptores de pago, dijo la compañía. X no especificó, sin embargo, si las personas aún podrían crear este tipo de imágenes en la aplicación independiente Grok.
El miércoles por la mañana, Musk escribió en un publicar en X: “I [sic] No conozco ninguna imagen de menores desnudos generada por Grok. Literalmente cero”. xAI y X de Musk se han enfrentado a una creciente reacción en todo el mundo, incluida una Investigación del Fiscal General de California y llamados de legisladores y grupos de defensa para que Apple y Google eliminen Grok de las tiendas de aplicaciones. Los reguladores del Reino Unido también han iniciado una investigación y países como Malasia e Indonesia han iniciado prohibiciones o acciones legales.
Musk dijo que Grok estaba programado para rechazar solicitudes ilegales y debe cumplir con las leyes de cualquier país o estado.
“Obviamente, Grok no genera imágenes de forma espontánea. Lo hace sólo según las solicitudes de los usuarios”, dijo Musk el miércoles.
Musk dijo anteriormente en X que cualquiera que use Grok para crear contenido ilegal sufriría las mismas consecuencias que si subiera contenido ilegal.
Tres senadores demócratas estadounidenses pidieron la semana pasada a Apple y Google de Alphabet Inc que eliminaran X y su herramienta de inteligencia artificial integrada Grok de sus tiendas de aplicaciones, citando la difusión de imágenes sexuales no consensuadas de mujeres y menores en la plataforma.
Una coalición de grupos de mujeres, defensores de la tecnología y activistas progresistas también ha pedido a los gigantes tecnológicos que adopten medidas similares.
La semana pasada, X restringió la capacidad de Grok para generar o editar imágenes públicamente para usuarios que no eran suscriptores de pago. Sin embargo, los expertos de la industria y los organismos de control dijeron que Grok todavía era capaz de producir imágenes sexualmente explícitas y que las restricciones como los muros de pago a ciertas funciones pueden no bloquear completamente el acceso a herramientas de imágenes de IA más profundas.
En el Reino Unido, se espera que la ley cambie esta semana para penalizar la creación de este tipo de imágenes, y el primer ministro Keir Starmer dijo el miércoles que X estaba trabajando para cumplir con las nuevas reglas. El regulador de comunicaciones Ofcom está investigando la herramienta de inteligencia artificial.
X y xAI no respondieron a una solicitud de comentarios.
Informes aportados por Reuters
