- Anthropic dice que descubrió un ciberataque exclusivamente de inteligencia artificial dirigido a al menos 30 organizaciones
- Se cree que este es el primer ataque sin intervención humana sustancial.
- Los actores de amenazas utilizan cada vez más la IA en sus ataques, al igual que los defensores.
Los investigadores de Anthropic han descubierto Se estaba utilizando su propio modelo Claude, en calidad de agente, no sólo como asesor, sino también para ejecutar un ciberataque en sí.
La compañía dice que la campaña de ciberespionaje altamente sofisticada manipuló la herramienta Claude Code de Anthropic en un intento de infiltrarse en aproximadamente 30 objetivos globales, principalmente contra grandes empresas de tecnología, agencias gubernamentales e instituciones financieras.
Mientras Las amenazas a la ciberseguridad impulsadas por la IA afectan a las empresas Ahora que es una historia conocida, lo que hace que este ataque sea diferente, en palabras del propio Anthropic, es: “Creemos que este es el primer caso documentado de un ciberataque a gran escala ejecutado sin una intervención humana sustancial”.
Actividad del nexo entre China
Anthropic dice que ahora ha evaluado con “alta confianza” que este actor de amenazas era un actor malicioso chino patrocinado por el estado. Una vez que se detectó actividad, una investigación determinó que el ataque se basó en varias características de modelos de IA que no estaban disponibles en 2024.
La inteligencia necesaria para seguir los comandos complejos y las tareas de codificación dentro del contexto es una característica que recientemente alcanzó el nivel requerido, y esto se combinó con las herramientas desarrolladas recientemente que les permiten descifrar contraseñas, escanear redes y más.
Quizás lo más importante sea la agencia que poseen ahora los modelos. El aumento de la IA agente Esto significa que la IA puede completar estas tareas por sí sola con una aportación mínima y ocasional: tomar decisiones y ejecutar bucles.
“Los agentes son valiosos para el trabajo diario y la productividad, pero en las manos equivocadas, pueden aumentar sustancialmente la viabilidad de ataques cibernéticos a gran escala”, explicó Anthropic.
“Esta campaña tiene implicaciones sustanciales para la ciberseguridad en la era de los ‘agentes’ de IA: sistemas que pueden funcionar de forma autónoma durante largos períodos de tiempo y que completan tareas complejas en gran medida independientemente de la intervención humana”.
Tanto los equipos de seguridad como los piratas informáticos serán muy conscientes del poder transformador de la IA, a medida que el panorama cibernético ha sido remodelado por herramientas automatizadas para el despliegue y la detección de amenazas.
Siga TechRadar en Google News y agréganos como fuente preferida para recibir noticias, reseñas y opiniones de nuestros expertos en sus feeds. ¡Asegúrate de hacer clic en el botón Seguir!
Y por supuesto también puedes Siga TechRadar en TikTok para noticias, reseñas, unboxings en forma de video y reciba actualizaciones periódicas de nuestra parte en WhatsApp también.
La mejor protección contra robo de identidad para todos los presupuestos
