CodeMender de Google DeepMind utiliza IA para detectar errores y crear parches de seguridad validados
- CodeMender genera automáticamente parches de seguridad revisados por IA para proyectos de código abierto
- Google DeepMind dice que CodeMender reduce las cargas de trabajo de vulnerabilidad mediante la validación del código
- DeepMind planea un lanzamiento más amplio para desarrolladores una vez que se confirme la confiabilidad de CodeMender
Google DeepMind ha revelado CodeMender, un agente de inteligencia artificial que, según dice, puede detectar y reparar automáticamente vulnerabilidades de software antes de que sean explotadas por piratas informáticos.
La investigación de IA de Google brazo dice que la nueva herramienta puede asegurar fuente abierta proyectos generando parches que se pueden aplicar una vez que hayan sido revisados por investigadores humanos.
CodeMender se basa en el modelo Gemini Deep Think de DeepMind y utiliza múltiples herramientas de análisis, incluidas fuzzing, análisis estático y pruebas diferenciales, para identificar las causas fundamentales de los errores y prevenir regresiones.
Ayudar, no reemplazar a los humanos.
Raluca Ada Popa, científica investigadora senior de DeepMind, y John “Four” Flynn, su vicepresidente de seguridad, dijeron que el sistema ya había realizado docenas de correcciones.
“Durante los últimos seis meses que hemos estado construyendo CodeMender, ya hemos incorporado 72 correcciones de seguridad a proyectos de código abierto, incluidas algunas de hasta 4,5 millones de líneas de código”, escribieron Popa y Flynn en un Publicación del blog de DeepMind.
La compañía dice que CodeMender puede actuar de manera reactiva y proactiva, reparando fallas descubiertas y reescribiendo el código para eliminar clases de vulnerabilidades por completo.
En última instancia, el sistema debería poder reducir la carga de trabajo de mantenimiento de la seguridad validando sus propios parches antes de enviarlos para su revisión humana.
El paso de revisión es algo que Google desea enfatizar, señalando que CodeMender no está ahí para reemplazar a los humanos, sino para actuar como un agente útil y expandir el creciente volumen de vulnerabilidades que los sistemas automatizados pueden detectar.
En un caso, el equipo dice que CodeMender aplicó automáticamente anotaciones -fbounds-safety a partes de la biblioteca de compresión de imágenes libwebp, un paso que, según DeepMind, habría evitado exploits pasados.
Las anotaciones obligan al compilador a comprobar los límites del búfer, lo que reduce el riesgo de ataques basados en desbordamiento.
Los desarrolladores también reconocen el uso cada vez mayor de la IA por parte de actores maliciosos y argumentan que los defensores necesitan herramientas equivalentes.
DeepMind planea ampliar las pruebas con mantenedores de código abierto y, una vez que se demuestre adecuadamente su confiabilidad, espera lanzar CodeMender para un uso más amplio de los desarrolladores.
Google también revisó su Secure AI Framework y lanzó un nuevo programa de recompensa por vulnerabilidades para fallas relacionadas con la IA.
También te puede gustar
Siga TechRadar en Google News y agréganos como fuente preferida para recibir noticias, reseñas y opiniones de nuestros expertos en sus feeds. ¡Asegúrate de hacer clic en el botón Seguir!
Y por supuesto también puedes Siga TechRadar en TikTok para noticias, reseñas, unboxings en forma de video y reciba actualizaciones periódicas de nuestra parte en WhatsApp también.
