El robot Grok de Elon Musk restringe la producción de imágenes sexuales tras una reacción violenta

El chatbot Grok de Elon Musk comenzó el jueves a restringir la capacidad de los usuarios que no pagan para crear imágenes sexualizadas y ultrafalsas luego de una reacción global de usuarios y gobiernos.

A fines del mes pasado, algunos usuarios comenzaron a etiquetar a Grok en la plataforma de redes sociales X de Musk con mensajes como “ponla en bikini” para crear imágenes no consensuadas de personas reales en X.

Las imágenes alteradas, incluidas imágenes de celebridades, políticos y algunos menores, fueron creadas por Grok y publicadas públicamente en X.

Antes de que las restricciones actuales entraran en vigor, Musk se unió a la tendencia de la IA de desnudarse y le ordenó a Grok que generara fotos de sí mismo en bikini.

Los usuarios y las autoridades se quejaron y amenazaron con demandar o castigar a X. Grok inicialmente se disculpó por las fotografías inapropiadas de lo que parecían ser niños.

Ahora X ha puesto las controvertidas capacidades cruzadas de Grok detrás de un muro de pago.

Los gobiernos, incluidos el Reino Unido y la Comisión Europea, han dicho que no están contentos con las medidas de seguridad que proporciona X, ya que la capacidad de crear y editar imágenes aún no está disponible. disponible a los usuarios de pago.

“Restringir el procesamiento de IA a usuarios pagos puede reducir marginalmente el volumen y aumentar la trazabilidad, pero el abuso no se ha detenido. Simplemente se ha colocado detrás de un muro de pago y ha permitido a X beneficiarse del daño”, dijo en un comunicado Emma Pickering, directora de abuso facilitado por la tecnología y empoderamiento económico en Refuge.

A medida que crece la indignación pública por lo que muchos llaman acoso facilitado por la IA, los reguladores se han dado cuenta y han hecho algunas propuestas para prohibir X en sus países.

El primer ministro británico, Keir Starmer, dijo que X “debe captar” esta tendencia “repugnante”. “Tomaremos medidas al respecto porque es absolutamente inaceptable”, afirmó Starmer.

Musk pareció criticar a los reguladores del Reino Unido en una respuesta velada enojo Al volver a publicar la afirmación de que ChatGPT también permite la creación de una imagen en bikini de una persona no real mediante manipulaciones creativas y no obvias.

Después de condenar a Grok por producir imágenes sexualizadas, la Comisión Europea ordenó a X que conservara todos los documentos relacionados con Grok para garantizar el cumplimiento de sus normas.

“Claramente necesitamos poder acceder a ellos si lo solicitamos”, dijo un portavoz de la comisión. conferencia de prensa.

Francia, India, Malasia y Brasil también están examinando la plataforma.

Si bien las figuras públicas fueron los objetivos iniciales del despojo de IA, pronto también pasó a manos de particulares. El 3 de enero, un usuario ordenó a Grok que creara imágenes sexualizadas y no consensuadas de mujeres en entornos laborales 50 veces al día, según un análisis de la empresa de detección de inteligencia artificial Copyleaks.

Grupo de justicia de género Ultravioleta organizó una campaña Presionar a Apple y Google para que eliminen X de sus respectivas tiendas de aplicaciones con el argumento de que X viola las pautas sobre abuso sexual infantil.

Musk ha posicionado su chatbot como una alternativa más inteligente a alternativas con más funciones como Gemini, ChatGPT y Claude. reglas restrictivas en torno a solicitudes de contenido abierto.