5 cosas que debes saber sobre la seguridad del código Claude de Anthropic

La plataforma de inteligencia artificial dijo el viernes que está agregando capacidades de escaneo de vulnerabilidades a su herramienta Claude Code basada en la web para competir con los proveedores de seguridad de aplicaciones.

Anthropic anunció el viernes que quiere competir con los proveedores de seguridad de aplicaciones agregando capacidades de escaneo de vulnerabilidades a su herramienta Claude Code basada en la web.

La medida es la última en la que Anthropic ha agregado funcionalidad respaldada por LLM a proveedores de software rivales establecidos, y es parte de una tendencia más amplia que está sacudiendo la confianza de los inversores en la industria del software en su conjunto.

[Related: Palo Alto Networks CEO: AI Won’t Replace Security Tools ‘Any Time Soon’]

El viernes, los precios de las acciones de varios importantes proveedores de seguridad cayeron tras el anuncio de Anthropic; especialmente en un día en el que los índices bursátiles más amplios están subiendo.

Aquí hay cinco cosas que necesita saber sobre Claude Code Security de Anthropic.

Impulso de AppSec de Anthropic

Claude Code Security es el primer producto de seguridad dedicado de Anthropic y por ahora está limitado al espacio de seguridad de aplicaciones.

en un blog enviar por correoAnthropic anunció que Claude Code Security proporcionará escaneo de la base del código en busca de vulnerabilidades. Luego, la herramienta hará recomendaciones para “parches de software específicos para revisión humana”, lo que permitirá a los equipos encontrar y solucionar problemas de seguridad que los métodos tradicionales a menudo pasan por alto, según la publicación de la compañía.

Claude Code Security es parte de la oferta Claude Code de Anthropic en la web y actualmente está disponible como una vista previa de investigación limitada.

Razonamiento humano

Anthropic afirmó que su herramienta proporcionaría enormes mejoras de seguridad en comparación con los métodos de prueba automatizados existentes, como el análisis estático. La compañía dijo que estos métodos a menudo se basan en reglas y solo pueden comparar el código con vulnerabilidades conocidas.

Anthropic, por otro lado, dijo que Claude Code Security “lee y razona sobre su código como lo haría un investigador de seguridad humana”.

La compañía dijo que esto significa que la herramienta puede comprender “cómo interactúan los componentes, rastrear cómo se mueven los datos a través de su aplicación y detectar vulnerabilidades complejas que las herramientas basadas en reglas pasan por alto”.

Detectar más vulnerabilidades

En última instancia, Claude Code Security será capaz de descubrir “vulnerabilidades más complejas, como fallas en la lógica empresarial o control de acceso roto”, en comparación con los métodos de análisis estáticos, dijo Anthropic.

Además, la compañía dijo que cada hallazgo obtenido por la herramienta pasará por un “proceso de verificación de múltiples etapas” antes de ser enviado a un analista.

Los hallazgos también reciben calificaciones de importancia para ayudar a priorizar, según Anthropic.

La inteligencia artificial también ayuda a los atacantes

Sin duda, esta tendencia beneficiará tanto a los atacantes como a los defensores en el futuro, ya que las capacidades de escaneo de la base de código que ofrece Anthropic están preparadas para acelerar el cambio hacia la optimización del descubrimiento de vulnerabilidades con IA.

Anthropic lo reconoció en su publicación del viernes, escribiendo que “las mismas capacidades que ayudan a los defensores a encontrar y corregir vulnerabilidades también pueden ayudar a los atacantes a explotarlas”.

Si bien Anthropic indudablemente incluirá barreras destinadas a prevenir el uso indebido de sus propias herramientas, la naturaleza de doble uso del escaneo de IA sugiere que los ataques solo se intensificarán en el futuro a medida que la tecnología siga avanzando.

En última instancia, los actores de amenazas “utilizarán la IA para encontrar vulnerabilidades explotables más rápido que nunca”, dijo la compañía.

“Pero los defensores de acción rápida pueden encontrar y corregir las mismas vulnerabilidades y reducir el riesgo de ataque”, dijo la compañía. “Claude Code Security es un paso hacia nuestro objetivo de tener bases de código más seguras y una base de seguridad más alta en toda la industria”.

Los precios de las acciones caen

Aunque los esfuerzos iniciales de Anthropic se limitaron al espacio de seguridad de aplicaciones, los inversores expresaron su preocupación sobre la industria de la seguridad en general el viernes tras el anuncio de Anthropic.

En el momento de escribir este artículo, las acciones de CrowdStrike han bajado un 6,5 por ciento a 394,50 dólares por acción, mientras que el precio de las acciones de Cloudflare ha bajado un 6,2 por ciento a 180,71 dólares por acción. Las acciones de Zscaler cayeron un 3,1 por ciento a 163,76 dólares por acción, y las de Palo Alto Networks cayeron un 0,6 por ciento a 150,14 dólares.

a principios de esta semanaNikesh Arora, director ejecutivo de Palo Alto Networks, dijo que las preocupaciones de los inversores de que la IA plantea más riesgos que oportunidades para los proveedores de ciberseguridad son infundadas, y es poco probable que Masters rivalice con las capacidades de los productos de seguridad en el futuro previsible.

Durante la llamada trimestral de Palo Alto Networks el martes, Arora dijo a los analistas que, si bien GenAI y los representantes de AI ya han demostrado ser enormemente útiles para productos y equipos de seguridad, existen claras limitaciones en lo que pueden hacer los LLM.

“Todavía estoy confundido sobre por qué el mercado ve la IA como una amenaza para la industria de la ciberseguridad”, dijo, y agregó que “no puede hablar por todo el software”.

Arora señaló que los LLM no son lo suficientemente precisos como para reemplazar completamente segmentos centrales como las operaciones de seguridad, y que muchas herramientas de seguridad, incluida Palo Alto Networks y su amplia plataforma, tienen una gran ventaja al brindar acceso a datos de clientes del mundo real para entrenar modelos de IA.

Fuente