Puedo verlo ahora: Terminator viaja al año 2021 y luego pasa casualmente por la oficina de Boston Dynamics, Tesla, incluso X1 y Figure AI, y en su lugar se detiene frente a Anthropic. Con su característico acento austriaco, Terminator flexiona sus formidables músculos y dice: “Debo impedir que los programadores haciendoz Claudio AI. y desear evitar el primer ciberataque a gran escala casi completamente automatizado en 2025″. Mientras tanto, los desarrolladores de robots se escabullen, pensando que Terminator podría regresar en una década para recuperar sus pellejos.
En la vida real, no existe Terminator, pero hay señales extremadamente preocupantes sobre el rápido desarrollo de la IA y nuevas preocupaciones sobre su uso como arma. Esta semana, Anthropic reveló que frustró en gran medida una “campaña de ciberespionaje orquestada por IA” masiva.
- Ahora son más inteligentes
- Tener agencia donde puedan tomar acciones autónomas, encadenarlas e incluso tomar decisiones con poca participación humana.
- Incluso puede usar herramientas en su nombre para buscar en la web y recuperar datos.
Los piratas informáticos que utilizan la IA para impulsar sus esfuerzos no son nuevos. Incluso los mensajes de texto no deseados y las llamadas telefónicas que recibe todos los días se están acelerando porque la IA facilita la creación de nuevas identificaciones y estrategias.
Sin embargo, estos avances más recientes parecen estar ayudando a los piratas informáticos a atacar a escala y con poco más que una programación muy básica y, principalmente, indicaciones.
Según Anthropic, “en general, el actor de amenazas pudo utilizar IA para realizar entre el 80% y el 90% de la campaña, y la intervención humana sólo fue necesaria esporádicamente”.
La única buena noticia es que Anthropic detectó la actividad y la cerró rápidamente antes de que llegara lo suficientemente lejos como para tener un impacto notable en el mundo real.
El siguiente nivel aterrador
Aún así, estos hackers estaban muy motivados y eran bastante astutos. Eludieron las salvaguardias de Anthropic dividiendo el ataque en partes pequeñas e inocuas, tareas que por separado parecían inofensivas, pero que juntas componían el ataque completo.
A mi modo de ver, todo lo que Anthropic compartió sobre este ciberataque es profundamente preocupante y debe leerse como una advertencia para todos nosotros.
El rápido ritmo del desarrollo de la IA significa que estas plataformas serán cada vez más inteligentes. La IA agente, en particular (modelos que pueden realizar tareas en su nombre) están a la vanguardia del desarrollo de prácticamente todas las plataformas de IA, incluidas las de Google (ver SIMA 2que puede jugar en mundos virtuales por sí solo) y OpenAI, y aunque la mayor parte se utiliza para el bien, estas capacidades son claramente tentadoras para los ciberatacantes.
Podría parecer que esto es puramente una preocupación para los gobiernos, las empresas y la infraestructura, pero la falla de cualquiera de estos sistemas y empresas a menudo puede conducir a la pérdida de servicios, soporte, recursos y protecciones para los consumidores.
Entonces, sí, Skynet sigue siendo el gran mal ficticio de nuestras pesadillas de IA, pero no se necesitará un ejército de robots para derribar a la sociedad, solo uno o dos piratas informáticos con acceso a lo mejor que la IA tiene para ofrecer. Seguramente el próximo Terminator visitará primero las empresas de inteligencia artificial.
Siga TechRadar en Google News y agréganos como fuente preferida para recibir noticias, reseñas y opiniones de nuestros expertos en sus feeds. ¡Asegúrate de hacer clic en el botón Seguir!
Y por supuesto también puedes Siga TechRadar en TikTok para noticias, reseñas, unboxings en forma de video y reciba actualizaciones periódicas de nuestra parte en WhatsApp también.
