WASHINGTON– Un equipo de investigadores ha descubierto lo que dicen es el primer uso reportado de inteligencia artificial para dirigir una campaña de piratería de forma en gran medida automatizada.
La empresa de inteligencia artificial Anthropic dijo esta semana que interrumpió una operación cibernética que sus investigadores vinculaban con el gobierno chino. La operación implicó el uso de un sistema de inteligencia artificial para dirigir las campañas de piratería, lo que los investigadores llamaron un desarrollo inquietante que podría ampliar en gran medida el alcance de los piratas informáticos equipados con IA.
Si bien las preocupaciones sobre el uso de la IA para impulsar operaciones cibernéticas no son nuevas, lo preocupante de la nueva operación es el grado en que la IA pudo automatizar parte del trabajo, dijeron los investigadores.
“Si bien predijimos que estas capacidades continuarían evolucionando, lo que nos ha llamado la atención es la rapidez con la que lo han hecho a escala”, escribieron en su informe.
La operación tuvo un alcance modesto y solo estaba dirigida a unas 30 personas que trabajaban en empresas de tecnología, instituciones financieras, empresas químicas y agencias gubernamentales. Anthropic notó la operación en septiembre y tomó medidas para cerrarla y notificar a las partes afectadas.
Los piratas informáticos sólo “tuvieron éxito en un pequeño número de casos”, según Anthropic, que señaló que si bien los sistemas de inteligencia artificial se utilizan cada vez más en una variedad de entornos de trabajo y ocio, también pueden ser utilizados como armas por grupos de piratas informáticos que trabajan para adversarios extranjeros. Anthropic, creador del chatbot generativo de IA Claude, es una de las muchas empresas de tecnología que ofrecen “agentes” de IA que van más allá de la capacidad de un chatbot para acceder a herramientas informáticas y tomar acciones en nombre de una persona.
“Los agentes son valiosos para el trabajo diario y la productividad, pero en las manos equivocadas pueden aumentar sustancialmente la viabilidad de los ciberataques a gran escala”, concluyeron los investigadores. “Es probable que estos ataques sólo aumenten su eficacia”.
Un portavoz de la embajada de China en Washington no respondió de inmediato a un mensaje en busca de comentarios sobre el informe.
microsoft advirtió a principios de este año que los adversarios extranjeros estaban adoptando cada vez más la IA para hacer sus campañas cibernéticas más eficientes y menos laboriosas.
Los adversarios de Estados Unidos, así como las bandas criminales y empresas de pirateríahan explotado el potencial de la IA, usándola para automatizar y mejorar los ciberataques, para difundir desinformación inflamatoria y penetrar sistemas sensibles. La IA puede traducir correos electrónicos de phishing mal redactados a un inglés fluido, por ejemplo, así como generar clones digitales de altos funcionarios gubernamentales.
