El investigador encuentra el HTML de Agente de Microsoft puede filtrar contraseñas, AI Keys

Con los nuevos sistemas de IA viene las nuevas vulnerabilidades de IA, y se descubrió una grande. Es un defecto en el método de Microsoft para permitir que los agentes interactúen con sitios web en su nombre.

Microsoft llama a esta técnica Nrebque es una especie de HTML para los agentes de IA. La compañía dio a conocer esto en su conferencia de compilación esta primavera, y desde entonces se ha inclinado a esa visión con un experimental. Modo de copiloto para su navegador de borde. (Microsoft no ha confirmado si usa NLWEB para esto).

Sin embargo, el investigador Aonan Guan ha descubierto una vulnerabilidad en NLWEB: un error transversal de ruta que permite a cualquier usuario remoto leer archivos confidenciales como configuraciones del sistema y credenciales en la nube a través de una URL malformada.

En Publicación mediaGuan mostró cómo pudo descargar una lista de las contraseñas del sistema junto con Google Gemini y OpenAI Keys. Esto permitiría a un atacante ejecutar aplicaciones de IA dependientes de servidor adicionales “gratis”, sin ser cobrado por OpenAI.

Según Guan, el Centro de Respuesta de Seguridad de Microsoft empujó un parche al repositorio de GitHub en junio, confirmando que el problema se solucionó. Microsoft no ha emitido un informe oficial de parche. Sin embargo, los usuarios no necesitan tomar ninguna medida.

Es justo decir que el desarrollo de la IA ha procedido a velocidad vertiginosa. Pero, como señala Guan, la línea entre chatear con una IA y emitir it comandos puede desdibujarse.

“La naturaleza misma de NLWEB es interpretar el lenguaje natural”, dijo Guan. “Esto desdibuja la línea entre la entrada del usuario y los comandos del sistema. Los futuros vectores de ataque podrían implicar la elaboración de oraciones que, cuando un agente se traduce en rutas o acciones de archivos maliciosos”.

Ya hemos visto que las interacciones ChatGPT se filtran en los resultados de búsqueda de Google. (Chatgpt ahora ha apagado la bandera que hace que los chats de chatgpt sean descubridos). Como Guan (y El borde, que informó la historia) Tenga en cuenta que las fugas de tal magnitud en un agente de IA pueden ser catastróficos para todos los involucrados.