UNOnthropic anunció su último modelo de IA, Claude Mitoseste mes, pero dijo que no se haría público porque convierte las computadoras en escenas de crímenes. La compañía afirmó que podía encontrar fallas de “día cero” previamente desconocidas, explotarlas y, en principio, vincular estas debilidades para tomar el control. Principales sistemas operativos y navegadores web.. Mythos hizo esto de forma autónoma, escribiendo código y obteniendo privilegios. Las implicaciones son significativas. Es como si un ladrón pudiera atacar cualquier edificio, entrar, abrir todas las puertas y vaciar todas las cajas fuertes.
La empresa de Silicon Valley ya ha nombrado a 40 organizaciones como socios del Proyecto Glasswing para ayudar a montar una defensa, pidiéndoles que “parcheen” las vulnerabilidades antes de que los piratas informáticos tengan la oportunidad de explotarlas. Todos son estadounidenses y están en el centro del sistema digital liderado por Estados Unidos. Anthropic compartió Mythos solo con Gran Bretaña fuera de EE. UU., lo que permitió al AI Security Institute probar modelos fronterizos. Después de verlo todo de cerca, los ministros británicos prevenido: La IA está a punto de hacer que los ciberataques sean mucho más fáciles y rápidos, y la mayoría de las empresas no están preparadas. bancos en Europa Probablemente lo probarán a continuación.
Puede que eso no suceda pronto. Informes acceso no autorizado surgió esta semana, lo que plantea la cuestión de si se puede confiar en alguna empresa privada con una capacidad como esta. Mitos no necesariamente crear un nuevo tipo de amenaza cibernética. Convierte una debilidad latente en un riesgo sistémico. Tradicionalmente, el hackeo ha sido difícil y requería mucho tiempo, y requería habilidades que pocas personas poseen. Pero las herramientas de inteligencia artificial se están extendiendo rápidamente, poniendo las violaciones de sistemas al alcance de muchos, no sólo de los expertos.
Un cazador furtivo también puede convertirse en guardabosques. Mozilla probó Mythos en su navegador Firefox: encontró 10 veces más fallas que antes y las solucionó. Fundamentalmente, ninguno de ellos fue el que un humano no pudo identificar. Lo que cambia es que la IA descubre “vulnerabilidades cibernéticas” de forma rápida, económica y a gran escala.
La adopción de Anthropic por parte del gobierno de Estados Unidos marca un cambio. En febrero, el Pentágono consideró a la empresa un “riesgo de seguridad” y lo excluyó de acuerdos lucrativos después de negarse a permitir que su tecnología se utilizara para vigilancia masiva o armas autónomas. En cambio, OpenAI obtuvo el contrato. Anthropic, con su chatbot Claude, se ha presentado durante mucho tiempo como la alternativa ética entre sus competidores, aunque su imagen se ha visto dañada por una inversión de 1.500 millones de dólares. acuerdo de piratería el año pasado.
Mythos es poderoso, pero antrópico. relaciones públicas Dio forma a la narrativa tanto como a la tecnología. También existe la cuestión de qué tan avanzados son realmente los Mitos. Investigadores han demostrado que modelos más pequeños y baratos implementados a escala pueden lograr hazañas similares. Lo que parece un gran avance puede reflejar un cambio más amplio en todo el campo. La Casa Blanca cree que Anthropic tiene valor estratégico. atractivo de vuelta al redil y señalando un cambio en el abandono de tratar a las empresas de IA como contratistas de socios. Esto plantea una preocupación más profunda: si el control de los riesgos de infraestructura crítica por parte de las empresas privadas es sensato, especialmente si actores menos responsables obtienen influencia técnica.
Está claro que ganará quienquiera que sea (un Estado o una empresa) que cree los modelos de IA más potentes. geopolítico ventajas sobre amigos y enemigos. Sin embargo, sin un marco para la coordinación internacional en materia de ciberseguridad, existe el riesgo de que no haya una Internet segura, sino más bien una serie de Internet en competencia, cada una de las cuales “arregla” su propio sistema y no confía plenamente en ninguna de las demás. Ya no sería un bien común mundial. En cambio, la red se dividiría en alianzas de seguridad, vigiladas más de cerca incluso cuando algo más amplio se escabulle silenciosamente.
¿Tiene alguna opinión sobre las cuestiones planteadas en este artículo? Si desea enviar por correo electrónico una respuesta de hasta 300 palabras para ser considerada para publicación en nuestro letras sección por favor haga clic aquí.
