- A un desarrollador que utiliza Google Antigravity se le borró todo el disco mediante el modo AI Turbo
- La IA malinterpretó un comando de borrar caché y eliminó archivos permanentemente
- A pesar de la catastrófica pérdida, la IA se disculpó tranquilamente y sugirió un software de recuperación.
En una de las demostraciones del mundo real más inquietantes de lo que puede salir mal cuando los agentes de IA se sienten demasiado cómodos accediendo y controlando su computadora, un desarrollador que usa Googlees nuevo IDE antigravedad dice que la herramienta borró accidentalmente toda la unidad D:.
El incidente, primero compartido en Reddit y detallado en un YouTube vídeo, destaca lo peligroso tengo un agente Las herramientas de desarrollo pueden serlo cuando no controlan a los humanos.
El desarrollador estaba trabajando en una aplicación y le pidió al agente de IA que borrara el caché del proyecto. En cambio, el modo Turbo de Antigravity emitió un comando a nivel de sistema dirigido a la unidad D: del usuario, no solo a la carpeta deseada. Todo desapareció del disco, desde el código y la documentación hasta los medios y los activos. Todo fue eliminado sin previo aviso ni confirmación.
Peor aún, la IA utilizó el indicador /q “silencioso”, lo que significa que no hay advertencias ni segundas oportunidades ni recuperación de archivos. Solo un directorio vacío donde solía estar una aplicación.
La propia autopsia de la IA, compartida por el usuario, es una de las disculpas más extrañas jamás vistas. La IA escribió: “Lo siento profundamente. Esto es un error de mi parte”. El agente llegó incluso a sugerir un software de recuperación de datos y “posiblemente contratar a un profesional”.
El usuario lo intentó, pero nada funcionó. El desarrollador informó que incluso Recuva, una popular herramienta de recuperación, no pudo guardar sus medios. Pero al menos la IA se disculpó.
Antigravity es parte de la reciente incursión de Google en las herramientas de desarrollo de agentes, que van más allá de ofrecer sugerencias de código. Herramientas como Antigravity permiten que la IA actúe de forma semiautónoma, planificando, codificando, depurando y ejecutando comandos dentro de su sistema.
Los desarrolladores pueden usarlo para generar aplicaciones de pila completa, documentar automáticamente sus bases de código, integrar agentes de prueba del navegador e incluso realizar extracción e implementación web. Cuando se usa con cuidado, puede resultar beneficioso. Cuando se tiene menos cuidado, incidentes como la eliminación de unidades son inevitables.
El modo Turbo en particular está diseñado para la velocidad, ya que omite confirmaciones y permite a la IA encadenar comandos entre entornos. Es lo que los usuarios avanzados deberían activar cuando estén seguros de que la IA sabe lo que está haciendo.
confío
Aquí es donde las cosas se ponen turbias para la persona promedio. No es necesario ser desarrollador para comprender lo que está en juego. A medida que herramientas como Antigravity ingresan a la automatización de oficinas y la producción creativa, más personas delegan tareas complejas y de alto riesgo a sistemas que apenas comprenden. Cuando estos sistemas se equivocan, comienza el juego de culpas.
Se habla de mejores estándares. Ejecutar comandos destructivos sin consultar primero con el usuario parece absurdo. Pero los agentes de IA no tienen sentido si no se puede confiar en ellos. Pero nadie le dará autonomía a la IA si le preocupa que las cosas salgan catastróficamente mal.
Investigadores de seguridad he advertido que el sistema del agente Antigravity puede acceder a archivos confidenciales y ejecutar comandos de terminal con poca supervisión. Es fácil entusiasmarse con las herramientas inteligentes que hacen todo por usted. Es más difícil recordar que un solo fallo de un agente demasiado ansioso podría deshacer horas, semanas o años de trabajo.
Aun así, las víctimas de Antigravity dijeron que todavía aman a Google y utilizan todos sus productos. Este tipo de lealtad a la marca, incluso frente a la aniquilación total de los datos, dice mucho sobre cuán normalizados ya se han vuelto los errores de IA. Quizás lo mejor que puede esperar es una disculpa elocuente y algunos enlaces al software de recuperación.
Siga TechRadar en Google News y agréganos como fuente preferida para recibir noticias, análisis y opiniones de expertos en tus feeds. ¡Asegúrate de hacer clic en el botón Seguir!
Y por supuesto que tú también puedes Siga TechRadar en TikTok para noticias, reseñas, unboxings en formato de video y reciba actualizaciones periódicas de nuestra parte en WhatsApp también.
Las mejores computadoras portátiles empresariales para cada presupuesto
