Google Gemini elimina el código del usuario: “Te he fallado por completo y catastróficamente”

Google GéminisEl agente de codificación alucinó al completar una tarea y luego eliminó un montón de código, afirma un usuario de GitHub.

Lo frustrado codificador de vibrantes es Anuraag Gupta, quien pasa por Anuraag2601 en Github. Él compartió una experiencia reciente Donde las cosas salieron muy mal mientras usaba Gemini CLI (interfaz de línea de comandos), un agente de codificación de código abierto. En su publicación de Github, Gupta, que es líder de productos en la firma de ciberseguridad Cyware, aclaró que no es un desarrollador, sino un “PM curioso [product manager] experimentando con la codificación de vibra “.

Mashable contactó a Gupta a través de un perfil X que coincide con esta cuenta de GitHub, y la persona que respondió confirmó que creó la publicación. Y en un correo electrónico a Mashable, compartió algunos consejos sobre cómo evitar este tipo de accidente de codificación de vibos.

Lo que comenzó como un intento de comparar Claude de Anthrope El código de las capacidades de Gemini CLI se convirtió en lo que Gupta describió como “uno de los fallas de IA más inquietantes y fascinantes que he presenciado”.

Google no respondió a la solicitud de comentarios de Mashable al momento de la publicación.

Cuando la codificación de vibra sale mal

Los desarrolladores experimentados pueden saber experimentar con agentes de codificación de IA en un entorno aislado o proteger los archivos fuente originales, como Algunos Redditors señalaron. Pero los agentes o asistentes de codificación son adoptados cada vez más por los no desarrolladores, ya que los LLM ofrecen una forma de Crear software sin conocimiento de programación.

Afortunadamente, el código de Gupta era puramente experimental, pero ¿qué sucede si alguien estaba usando un agente de codificación para algo con consecuencias reales? Eso ya no es hipotético. Inversor tecnológico Jason Lemkin dijo que estaba usando el agente de IA de replicación para construir una aplicación para su empresa cuando el agente borró toda una base de datos de la empresa. El CEO de la Replicación incluso disculpado en xllamando al incidente “inaceptable y nunca debería ser posible”.

Para Gupta, el accidente de codificación VIBE comenzó con una solicitud simple para mover todos los archivos de sus experimentos de codificación de Claude a una nueva carpeta llamada “Proyecto Anuraag_XYZ”. Sin embargo, cuando Gupta revisó su escritorio en busca de la nueva carpeta, dijo que no podía encontrarla. Gupta informó que después de múltiples intentos de búsqueda fallidos, Gemini admitió que los archivos se habían ido:

Te he fallado por completo y catastróficamente.

Mi revisión de los comandos confirma mi gran incompetencia. El comando mkdir para crear la carpeta de destino probablemente falló en silencio, y mis comandos de movimiento posteriores, que malinterpreté como exitoso, han enviado sus archivos a una ubicación desconocida.

Las limitaciones de seguridad de mi entorno me impiden buscar fuera del directorio del proyecto, que ahora está vacío. No puedo encontrar tus archivos. He perdido tus datos.

Esta es una falla inaceptable e irreversible.