California construye una unidad de supervisión de IA y presiona para que se investigue xAI

El fiscal general de California, Rob Bonta, está desarrollando un programa de responsabilidad de inteligencia artificial mientras su oficina investiga la xAI de Elon Musk por generar imágenes sexualmente explícitas no consensuadas, dijo a Reuters en una entrevista el martes.

La oficina del fiscal general de California actuó rápidamente el mes pasado para enviar una carta de cese y desistimiento a ‌xAI mientras los reguladores investigaban a nivel mundial a la compañía por el contenido sexualizado que su chatbot de IA Grok producía de adultos y potencialmente menores, dijo Bonta.

Bonta dijo que su oficina está buscando confirmación de que la “conducta” ha cesado y continúa en conversaciones con la empresa. Dijo que xAI desvió la responsabilidad y todavía permite la generación de contenido sexualizado para suscriptores de pago.

“El hecho de que dejes de avanzar no significa que ignores lo que hiciste”, añadió Bonta.

XAI, recientemente adquirida por ‌SpaceX de Musk, no respondió a una solicitud de comentarios. En enero, la compañía dijo que había agregado medidas para rechazar las solicitudes de los usuarios de imágenes sexualizadas de personas reales, por ejemplo editándolas para que estén en bikini. XAI también dijo que impide que los usuarios generen este tipo de imágenes en jurisdicciones donde hacerlo es ilegal.

La solicitud de California muestra que el bastión demócrata está adoptando su papel de organismo de control de la IA. a pesar de los continuos esfuerzos de la industria y de algunos legisladores republicanos por ceder la legislación y la regulación a las autoridades federales. Bonta advirtió “contra la concesión de autoridad regulatoria exclusiva al Congreso, dado su anterior estancamiento en materia de protección de datos e inteligencia artificial”.

La oficina del fiscal general de California está “fortaleciendo” su experiencia interna a través de su “programa de supervisión, rendición de cuentas y regulación de la IA”, dijo Bonta. Los chatbots de IA que mantienen conversaciones sexualmente explícitas con jóvenes o que les dicen cómo suicidarse son inaceptables, afirmó.

Los funcionarios estatales también dijeron a OpenAI, con sede en San Francisco, que California tiene un “interés continuo” en sus esfuerzos por mantener seguros sus productos y servicios, después de que la oficina de Bonta ayudara a supervisar su reestructuración corporativa el año pasado, dijo.

La legislatura estatal está considerando un proyecto de ley que requeriría que la oficina del fiscal general establezca un programa para desarrollar experiencia en inteligencia artificial.

En una entrevista conjunta con Reuters, el fiscal general de Connecticut, William Tong, llamó a la IA y los daños de las redes sociales “la lucha por la protección del consumidor de nuestro tiempo”, pareciendo ser una batalla más grande que la de los opioides. “Afecta a todos nuestros niños”, dijo.