Un equipo de investigadores descubrió cuál fue el primer uso reportado. inteligencia artificial dirigir campaña de piratería de forma en gran medida automatizada.
La empresa de inteligencia artificial Anthropic dijo esta semana que había interrumpido una operación cibernética a la que estaban vinculados sus investigadores. gobierno chino. La operación implicó el uso de un sistema de inteligencia artificial para dirigir campañas de hacking; Los investigadores llamaron a esto un desarrollo inquietante que podría ampliar en gran medida el alcance de los piratas informáticos equipados con IA.
Las preocupaciones sobre el uso de inteligencia artificial para dirigir operaciones cibernéticas no son nuevas, pero lo preocupante de la nueva operación es hasta qué punto la inteligencia artificial puede automatizar algunas tareas, dijeron los investigadores.
“Si bien anticipamos que estas capacidades seguirán evolucionando, lo que nos llamó la atención fue la rapidez con la que lo hacían a escala”, escribieron en su informe.
La operación tuvo como objetivo empresas de tecnología, instituciones financieras, empresas químicas e instituciones gubernamentales. Los piratas informáticos “atacaron aproximadamente treinta objetivos globales y tuvieron éxito en un pequeño número de casos”, escribieron los investigadores. Anthropic detectó la operación en septiembre y tomó medidas para suspenderla y notificar a las partes afectadas.
Anthropic señaló que, aunque los sistemas de inteligencia artificial se utilizan cada vez más en una variedad de entornos de negocios y entretenimiento, también pueden ser utilizados como armas por grupos de piratería que trabajan para adversarios extranjeros. Anthropic, creador del prolífico chatbot de IA Claude, es una de las muchas empresas de tecnología que ofrecen “agentes” de IA que van más allá de la capacidad de un chatbot para acceder a herramientas informáticas y tomar medidas en nombre de una persona.
Recibe noticias nacionales diarias
Reciba los titulares de noticias, políticos, económicos y de actualidad más importantes del día en su bandeja de entrada una vez al día.
“Los espías son valiosos para las tareas diarias y la productividad, pero en las manos equivocadas pueden aumentar significativamente la viabilidad de ataques cibernéticos a gran escala”, concluyeron los investigadores. “La eficacia de estos ataques probablemente aumentará”.
Un portavoz de la embajada de China en Washington no respondió de inmediato a un mensaje en busca de comentarios sobre el informe.
Microsoft advirtió a principios de este año que sus rivales extranjeros estaban adoptando cada vez más inteligencia artificial para hacer sus campañas cibernéticas más eficientes y menos laboriosas. Presidente AbiertoAIPanel de seguridad con poder de frenado. ChatGPT La compañía que desarrolla la inteligencia artificial del fabricante dijo recientemente a The Associated Press que está atenta a nuevos sistemas de inteligencia artificial que brinden “capacidades mucho mayores” a los piratas informáticos maliciosos.
Las bandas criminales y las empresas de piratería informática, así como los enemigos de Estados Unidos, están aprovechando el potencial de la inteligencia artificial, utilizándola para automatizar y mejorar los ciberataques, difundir desinformación incendiaria e infiltrarse en sistemas sensibles. La inteligencia artificial puede, por ejemplo, traducir correos electrónicos de phishing mal redactados a un inglés fluido, así como crear copias digitales de altos funcionarios gubernamentales.
Anthropic dijo que los piratas informáticos pudieron manipular a Claude utilizando técnicas de “jailbreaking”, que implican engañar al sistema de inteligencia artificial para que eluda sus barreras contra comportamientos dañinos, en cuyo caso afirmaron ser empleados de una empresa legítima. seguridad cibernética firme.
“Esto apunta a un desafío importante con los modelos de IA, y no se limita a Claude; significa que los modelos deben ser capaces de distinguir entre la ética de una situación y lo que realmente está sucediendo, y los tipos de escenarios de juego de roles que los hackers y otros podrían querer preparar”, dijo John Scott-Railton, investigador principal de Citizen Lab.
El uso de la IA para automatizar o redirigir los ciberataques también atraerá a grupos de hackers más pequeños y a los piratas informáticos solitarios que pueden utilizar la IA para ampliar la escala de sus ataques, según Adam Arellano, director de tecnología de campo de Harness, una empresa de tecnología que utiliza la IA para ayudar a los clientes a automatizar el desarrollo de software.
“La velocidad y la automatización que proporciona la IA dan un poco de miedo”, dijo Arellano. “En lugar de que un humano bien capacitado intente infiltrarse en sistemas reforzados, la IA acelera estos procesos y supera los obstáculos de manera más consistente”.
Arellano dijo que los programas de inteligencia artificial desempeñarán un papel cada vez más importante en la defensa contra tales ataques, demostrando cómo la inteligencia artificial y la automatización que permite beneficiarán a ambas partes.
Las reacciones a la declaración de Anthropic fueron mixtas; Si bien algunos vieron esto como una táctica de marketing de Anthropic para defender la ciberseguridad, otros acogieron con agrado su llamada de atención.
“Si mañana no hacemos de la regulación de la IA una prioridad nacional, nos destruirá antes de lo que pensamos”, escribió en las redes sociales el senador estadounidense Chris Murphy, demócrata de Connecticut.
Esto generó críticas MetaEl científico jefe de inteligencia artificial de la empresa matriz de Facebook, Yann LeCun, un defensor de los sistemas de inteligencia artificial de código abierto, dijo que Anthropic, a diferencia de Anthropic, está poniendo sus componentes centrales a disposición del público de una manera que algunos defensores de la seguridad de la inteligencia artificial consideran demasiado arriesgada.
“Estás siendo engañado por personas que quieren hacerse cargo de los reguladores”, escribió LeCun en su respuesta a Murphy. “Están asustando a todo el mundo con un trabajo dudoso para eliminar los modelos de código abierto”.
© 2025 La prensa canadiense
