El gobernador de California Gavin Newsom (D) firmó un proyecto de ley el lunes que requiere que las compañías de inteligencia artificial (IA) revelen información de seguridad sobre modelos fronterizos a gran escala en una victoria clave para el empuje para regular la IA en el estado natal de Silicon Valley.
SB 53, la Ley de transparencia en la IA fronteriza, requerirá que los desarrolladores de estos modelos de IA de vanguardia publiquen marcos que detallan cómo evalúan y mitigan los riesgos catastróficos.
“California ha demostrado que podemos establecer regulaciones para proteger a nuestras comunidades y al mismo tiempo garantizar que la creciente industria de IA continúe prosperando”, dijo Newsom en un comunicado el lunes. “Esta legislación golpea ese equilibrio”.
“La IA es la nueva frontera en la innovación, y California no solo está aquí para ello, sino que se mantiene firme como líder nacional al promulgar la primera legislación de seguridad de IA fronteriza en la nación que genera confianza pública a medida que esta tecnología emergente evoluciona rápidamente”, continuó.
Newsom insinuó la semana pasada que apoyó la legislación, un voto clave de confianza después de que el gobernador vetó una iteración anterior del proyecto de ley AI.
SB 53 se considera el sucesor de SB 1047 del año pasado. El proyecto de ley presentó un marco de IA mucho mucho más estricto, que buscó exigir que los modelos se sometan a pruebas de seguridad antes de la liberación y responsabilicen a los desarrolladores por daños potenciales. A pesar de aprobar la legislatura estatal, SB 1047 fue finalmente rechazado por Newsom.
También se enfrentó a los legisladores federales, con varios demócratas prominentes de California en el Congreso expresando preocupaciones sobre la legislación. Por el contrario, SB 53 ha sido más bien recibido.
Anthrope respaldó la legislación a principios de este mes. Jack Clark, cofundador y jefe de política de la firma de IA, dijo el lunes que el proyecto de ley “establece requisitos significativos de transparencia para las compañías de IA fronteriza sin imponer mandatos técnicos prescriptivos”.
“Si bien los estándares federales siguen siendo esenciales para evitar un mosaico de regulaciones estatales, California ha creado un marco sólido que equilibra la seguridad pública con innovación continua”, agregó Clark.
Dado el papel destacado de California en el espacio de IA, los expertos han sugerido que su legislación de IA podría servir para crear un estándar nacional de facto, especialmente en medio de Falta de progreso a nivel federal.
Sin embargo, es probable que esto resistencia a la cara De la administración Trump y los legisladores republicanos, que han expresado preocupaciones sobre el estado de oro que establecen las reglas para la IA en todo el país y han presionado cada vez más para evitar las leyes estatales de IA que les preocupa podría limitar la innovación.
