Los peligros de la codificación de ambientes

Manténgase informado con actualizaciones gratuitas
Simplemente regístrese en el Inteligencia artificial Myft Digest: entregado directamente a su bandeja de entrada.
Un nuevo modelo de Operai llegó este mes con una transmisión en vivo brillante, fiestas de relojes grupales y una persistente sensación de decepción. La sección de comentarios de YouTube estaba decepcionado. “Creo que todos están empezando a darse cuenta de que esto no va a cambiar el mundo como pensaron que lo haría”, escribió un espectador. “Puedo verlo en sus caras”. Pero si el usuario casual no estaba impresionado, la gracia salvadora del modelo AI puede ser código.
La codificación es el nuevo campo de batalla de Generation AI. Con grandes facturas para pagar, altas valoraciones para cumplir y un mercado tambaleándose para borrar, el sector necesita demostrar sus habilidades de productividad corporativa. La codificación se promueve en voz alta como un caso de uso comercial que ya funciona.
Por un lado, el código generado por IA tiene la promesa de reemplazar a los programadores, una profesión de personas muy bien remuneradas. Para otro, el trabajo se puede cuantificar. En abril, la directora ejecutiva de Microsoft, Satya Nadella, dijo que hasta el 30 por ciento del código de la compañía ahora estaba siendo escrito por AI. El director ejecutivo de Google, Sundar Pichai, ha dicho lo mismo. Salesforce ha detenido las contrataciones de ingeniería y Mark Zuckerberg le dijo a Podcaster Joe Rogan que Meta usaría IA como “ingeniero de nivel medio” que escribe código.
Mientras tanto, las nuevas empresas como ReplIs y AnySphere de Cursor están tratando de persuadir a las personas de que con IA, cualquiera puede codificar. En teoría, cada empleado puede convertirse en ingeniero de software.
Entonces, ¿por qué no? Una posibilidad es que todo sea demasiado desconocido. Pero cuando le pido a las personas que escriben el código para ganarse la vida, ofrecen una sugerencia alternativa: imprevisibilidad. Como dijo el programador Simon Willison: “Mucha gente se está perdiendo lo extraño y divertido que es este espacio. He sido un programador de computadoras durante 30 años y [AI models] No se comporte como computadoras normales “.
Willison es bien conocida en la comunidad de ingeniería de software por sus experimentos de IA. Es un codificador de vibración entusiasta: usar LLM para generar código utilizando indicaciones de lenguaje natural. El último modelo GPT-5 de Openai es, dice, su nuevo favorito. Aún así, predice que se debe un bloqueo de codificación de vibos si se usa para producir software fallido.
Tiene sentido que los programadores, personas interesadas en encontrar nuevas formas de resolver problemas, serían los primeros en adoptar a los LLM. El código es un idioma, aunque resumen. Y la IA generativa está entrenada en casi todos ellos, incluidos los más antiguos como Cobol.
Eso no significa que acepten todas sus sugerencias. Willison piensa que la mejor manera de ver lo que puede hacer un nuevo modelo es pedir algo inusual. Le gusta solicitar un SVG (una imagen hecha de líneas descrita con código) de un pelícano en una bicicleta y le pide que recuerde los pollos en su jardín por su nombre. Los resultados pueden ser extraños. Un modelo ignoró sus indicaciones a favor de componer un poema.
Aún así, sus aventuras en la codificación de ambientes suenan como un anuncio para el sector. Utilizó el código Claude de Anthrope, el modelo favorecido para los desarrolladores, para hacer una herramienta OCR (reconocimiento de caracteres ópticos – Software Loves acrónimos) que copiará y pegará texto desde una captura de pantalla. Escribió software que resume los comentarios del blog y tiene planes de construir una herramienta personalizada que lo alertará cuando una ballena sea visible desde su casa de Pacific Coast. Todo esto escribiendo indicaciones en inglés. Suena como el tipo de cosas que Bill Gates podría haber tenido en mente cuando escribió que los agentes de IA del lenguaje natural provocarían “la mayor revolución en la informática Desde que pasamos de escribir comandos a aprovechar los iconos ”.
Pero ver aparecer el código y saber cómo funciona son dos cosas diferentes. Mis esfuerzos para hacer mi propia herramienta de resumen de comentarios produjeron algo inútil que dio respuestas demasiado largas y luego se felicitó como un éxito.
Willison dice que no usaría código generado por IA para proyectos que planeó enviar a menos que hubiera revisado cada línea. No solo existe el riesgo de alucinación, sino que el deseo del chatbot de ser agradable significa que puede decir que una idea inutilizable funciona. Ese es un tema particular para aquellos de nosotros que no sabemos cómo editar el código. Corremos el riesgo de crear software con problemas incorporados.
Puede que tampoco ahorre tiempo. Un estudio publicado en julio por la evaluación del modelo sin fines de lucro y la investigación de amenazas evaluadas por el trabajo realizado por 16 desarrolladores, algunos con herramientas de IA, algunas sin. Aquellos que usaban AI asumieron que los había hecho más rápido. De hecho les tomó casi un quinto más extenso.
Varios desarrolladores con los que hablé dijeron que la IA se usó mejor como una forma de hablar sobre problemas de codificación. Es una versión de algo que llaman Rubber Ducking (después de su hábito de hablar con los juguetes en su escritorio), solo este pato de goma puede responder. Como uno dice, el código no debe juzgarse por volumen, sino éxito en lo que está tratando de lograr.
El progreso en la codificación de IA es tangible. Pero medir las ganancias de productividad no es tan ordenada como un simple cálculo porcentual.