renuncia de Caitlin Kalinowski de Abierto AI ha provocado un debate que va mucho más allá de Silicon Valley. Kalinowski dimitió poco después de que la empresa llegara a un acuerdo con Departamento de Defensa de los Estados Unidos Implementar modelos de inteligencia artificial en sistemas gubernamentales El problema no es sólo la asociación. Pero también la velocidad de la toma de decisiones y su impacto en cómo una tecnología tan poderosa puede usarse como arma contra los ciudadanos estadounidenses.
“Dejo OpenAI y me preocupo profundamente por el equipo de Robótica y el trabajo que creamos juntos. Esto no es fácil”. No rechazó por completo la defensa nacional. Incluso reconoció que “la IA desempeña un papel importante en la seguridad nacional”, pero advirtió que se cruzaron algunas líneas. En sus propias palabras, “la vigilancia de los estadounidenses sin supervisión judicial y la autonomía letal sin autorización humana son enfoques que merecen más consideración de la que han recibido”.
Cuando alguien dentro del sistema se aleja y da ese tipo de alarma. Deberías prestar atención. He advertido durante años que los gobiernos están construyendo continuamente la infraestructura necesaria para monitorear a las poblaciones de maneras que las generaciones anteriores no podrían haber imaginado. Después Ataques del 11 de septiembreLas agencias de inteligencia han ampliado enormemente sus poderes de vigilancia bajo el lema de proteger la seguridad nacional a través de la Ley Patriota. Datos telefónicos, actividades de Internet y transacciones financieras. Se convierte en un punto de datos que compila una enorme base de datos de inteligencia. Se informa al público que estos programas apuntan estrictamente a amenazas extranjeras detrás de la cortina. La base de datos es cada año más grande. El gobierno ahora tiene acceso a todo lo que hacemos.
Lo que la mayoría de la gente no sabe es que el sistema financiero también está siendo arrastrado a esta red de vigilancia. He escrito antes que el gobierno ha comenzado a monitorear las cuentas bancarias y las transferencias de dinero a un nivel que pocos ciudadanos aprecian plenamente. Bajo la administración Obama, el programa se expandió silenciosamente. Permitir que las agencias de inteligencia monitoreen las actividades bancarias internacionales, los flujos financieros y los patrones de transacciones en nombre de la seguridad nacional. Esos sistemas se han convertido en elementos permanentes dentro de la comunidad de inteligencia.
Esta tendencia se ha acelerado bajo Joe Biden, a medida que las agencias federales presionan agresivamente para que los bancos e instituciones financieras exijan mayores informes. El gobierno argumentó que esto era necesario para combatir la evasión fiscal, el lavado de dinero y las actividades ilegales. El comportamiento financiero del público en general es cuidadosamente examinado y El equipo de Biden fue sorprendido con las manos en la masa. Espía a cualquiera que apoye a sus enemigos. ¿Donar a Trump? Estás en la lista de vigilancia. ¿Tiene creencias religiosas que son incompatibles con las tendencias políticas actuales? Cualquier persona que compre una Biblia será incluida en su lista de cuentas bancarias de transacciones. E incluso sus patrones de gasto siguen aumentando. Se convierte en parte de una enorme base de datos gubernamental.
Lo que Kalinowski reveló es que la siguiente fase está en marcha cuando la IA esté integrada en los sistemas de seguridad nacionales. El estado de vigilancia alcanzará un nivel completamente nuevo. El gobierno tendrá la capacidad de rastrear la población en tiempo real. La población, no sólo los individuos de interés, sino toda la población. Las personas que operan estos sistemas rara vez son funcionarios electos. Son funcionarios del gobierno. Oficial de inteligencia y agencias que trabajan detrás de escena y rara vez son visibles para el público. Luego, el poder se pone en manos de sistemas informáticos que pueden identificar y atacar instantáneamente a individuos o grupos sin escrúpulos morales.
Por eso es importante la dimisión de Kalinowski. Ha advertido abiertamente contra el uso de IA para la vigilancia nacional sin supervisión. Cuando estos sistemas se integren en las redes gubernamentales, los intentos de expandir estos sistemas se volverán irresistibles. Los gobiernos suelen afirmar que estas herramientas son necesarias para la seguridad. Pero la historia muestra que es probable que la definición de “seguridad” se amplíe hasta incluir el seguimiento de la población.
Lo que es aún más revelador es que funcionarios del Departamento de Defensa han comenzado a explicar que algunos sistemas avanzados de inteligencia artificial pueden representar un riesgo para la seguridad nacional. Si no puede ser controlada por el gobierno. En otras palabras, la propia inteligencia artificial ahora se considera una amenaza. a menos que esté firmemente bajo el control del estado. Eso debería decirle todo lo que necesita saber sobre esta dirección.
No crean que estos sistemas seguirán limitándose a adversarios extranjeros. La infraestructura de vigilancia rara vez se limita a las misiones tradicionales. Una vez construido, inevitablemente se expandirá. Ahora existe tecnología para crear el sistema de seguimiento más completo jamás diseñado en la historia de la humanidad. Y si crees que el gobierno no lo usará. Demuestra que no estás prestando atención.
