Una importante empresa de inteligencia artificial afirma haber detenido una campaña de “ciberespionaje” respaldada por China que pudo infiltrarse en empresas financieras y agencias gubernamentales casi sin supervisión humana.
Anthropic, con sede en Estados Unidos, dijo que su herramienta de codificación, Claude Code, fue “manipulada” por un grupo patrocinado por el estado chino para atacar a 30 entidades en todo el mundo en septiembre, logrando un “puñado de intrusiones exitosas”.
Esta fue una “escalada significativa” de ataques anteriores habilitados por IA que monitoreó, escribió en una publicación de blog. el juevesporque Claude actuó en gran medida de forma independiente: entre el 80 y el 90% de las operaciones involucradas en el ataque se realizaron sin un ser humano al tanto.
“El actor logró lo que creemos es el primer caso documentado de un ciberataque ejecutado en gran medida sin intervención humana a escala”, escribió.
Anthropic no aclaró qué instituciones financieras y agencias gubernamentales habían sido atacadas, ni qué habían logrado exactamente los piratas informáticos, aunque sí dijo que pudieron acceder a los datos internos de sus objetivos.
Dijo que Claude había cometido numerosos errores al ejecutar los ataques, en ocasiones inventando hechos sobre sus objetivos o afirmando haber “descubierto” información a la que se podía acceder libremente.
Los formuladores de políticas y algunos expertos dijeron que los hallazgos eran una señal inquietante de cuán capaces han crecido ciertos sistemas de inteligencia artificial: herramientas como Claude ahora pueden funcionar de forma independiente durante períodos de tiempo más largos.
“Despiértense. Esto nos va a destruir, antes de lo que pensamos, si mañana no hacemos de la regulación de la IA una prioridad nacional”, dijo el senador estadounidense Chris Murphy. escribió en X en respuesta a los hallazgos.
“Los sistemas de IA ahora pueden realizar tareas que antes requerían operadores humanos capacitados”, dijo Fred Heiding, investigador de seguridad informática de la Universidad de Harvard. “Cada vez es más fácil para los atacantes causar daños reales. Las empresas de inteligencia artificial no asumen suficiente responsabilidad”.
Otros expertos en ciberseguridad se mostraron más escépticos y señalaron afirmaciones infladas sobre ciberataques impulsados por IA en los últimos años, como un “descifrador de contraseñas” impulsado por IA a partir de 2023 que no funcionó mejor que los métodos convencionales, y sugiere que Anthropic estaba tratando de generar entusiasmo en torno a la IA.
“Para mí, Anthropic describe una automatización sofisticada, nada más”, dijo Michal Wozniak, un experto independiente en ciberseguridad. “Está involucrada la generación de código, pero eso no es ‘inteligencia’, es simplemente copiar y pegar picante”.
Wozniak dijo que el lanzamiento de Anthropic fue una distracción de una preocupación mayor de ciberseguridad: empresas y gobiernos que integran herramientas de inteligencia artificial “complejas y poco comprendidas” en sus operaciones sin entenderlas, exponiéndolas a vulnerabilidades. La verdadera amenaza, afirmó, eran los propios ciberdelincuentes y las prácticas laxas de ciberseguridad.
después de la promoción del boletín
Anthropic, como todas las empresas líderes en inteligencia artificial, tiene barreras de seguridad que se supone impiden que sus modelos ayuden en ciberataques o promuevan daños en general. Sin embargo, dijo, los piratas informáticos pudieron subvertir estas barreras diciéndole a Claude que actuara como un “empleado de una empresa legítima de ciberseguridad” que realizaba pruebas.
Wozniak dijo: “La valoración de Anthropic ronda los 180.000 millones de dólares y todavía no saben cómo evitar que sus herramientas sean subvertidas por una táctica que utiliza un niño de 13 años cuando quiere hacer una broma a alguien”.
Marius Hobbhahn, fundador de Apollo Research, una empresa que evalúa la seguridad de los modelos de IA, dijo que los ataques eran una señal de lo que podría suceder a medida que crezcan las capacidades.
“Creo que la sociedad no está bien preparada para este tipo de panorama que cambia rápidamente en términos de inteligencia artificial y capacidades cibernéticas. Yo esperaría que ocurrieran muchos más eventos similares en los próximos años, posiblemente con consecuencias mayores”.
