Bangkok – Grok, el chatbot de inteligencia artificial de Elon Musk, no podrá editar fotos para representar a personas reales mostrando ropa en lugares donde es ilegal, según un comunicado publicado en X.
El anuncio del miércoles por la noche siguió a una reacción global sobre imágenes sexualizadas de mujeres y niños, incluidas prohibiciones y advertencias por parte de algunos gobiernos.
La reacción incluyó una investigación anunciada el miércoles por el estado de California sobre la proliferación de material sexualmente explícito no consensuado producido con Grok.
Inicialmente, las consultas de los medios sobre el tema sólo generaron la respuesta “mentiras heredadas de los medios”.
La compañía de Musk, xAI, ahora dice que bloqueará geográficamente el contenido si viola las leyes en una ubicación en particular.
“Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis, ropa interior y otros atuendos reveladores”, dijo.
La regla se aplica a todos los usuarios, incluidos los suscriptores pagos, que tienen acceso a más funciones.
xAI también limitó la creación o edición de imágenes solo a suscriptores pagos “para garantizar que las personas que intenten abusar de la cuenta de Grok para violar la ley o nuestras políticas puedan ser responsabilizadas”.
El “modo picante” de Grok permitió a los usuarios crear contenido explícito, lo que provocó una reacción violenta de los gobiernos de todo el mundo.
Malasia y Indonesia tomó acciones legales y bloqueó el acceso a Grok. El Reino Unido y unión Europea estaban investigando posibles violaciones de las leyes de seguridad en línea. Francia y India También emitieron advertencias, exigiendo controles más estrictos. Brasil ha pedido una investigación sobre el uso indebido de Grok.
Las funciones de edición de Grok estaban “facilitando la producción a gran escala de imágenes íntimas falsas y no consensuadas que se utilizan para acosar a mujeres y niñas en Internet, incluso a través de la plataforma de redes sociales X”, decía el anuncio de California.
“La avalancha de informes que detallan el material no consensuado y sexualmente explícito que xAI ha producido y publicado en línea en las últimas semanas es impactante. Este material, que muestra a mujeres y niños desnudos y en situaciones sexualmente explícitas, ha sido utilizado para acosar a la gente en Internet”, dijo el fiscal general del estado, Rob Bonta.
“Tenemos tolerancia cero con la creación y difusión basada en inteligencia artificial de imágenes íntimas no consentidas o material de abuso sexual infantil”, dijo.
