La ley inversa de la IA: cómo aumenta el capital a medida que disminuye la responsabilidad

Si trazamos la trayectoria de la gobernanza global de la IA, los marcadores geográficos contarían una historia de precaución cada vez menor. Cuando cubrí la cumbre sobre IA militar responsable (REAIM) en La Haya en 2023, Fue una reunión definida por una gravedad sombría, donde las naciones se reunieron para discutir las aplicaciones militares de la inteligencia artificial y la necesidad urgente de un marco “responsable”. El ambiente era de moderación. Desde entonces, la caravana diplomática ha pasado por Bletchley Park, Seúl y París, llegando finalmente recientemente a la Cumbre de Impacto de la IA de la India.

Pero algo fundamental cambió en el camino. Me gustaría mapear este cambio a través de un índice que llamaré “Índice de Responsabilidad”, una medida de cuánto peso tienen la seguridad y la ética frente a la velocidad y la escala. En este índice, la seguridad está disminuyendo y el dinero está aumentando. Los procedimientos recientes en la India confirman esta clara transición: la era de cuestionar si deberíamos construir ciertas cosas definitivamente ha sido reemplazada por la carrera para ver qué tan rápido podemos financiarlas.

La cumbre de la India sirve como un microcosmos para este giro global. Aunque los comunicados de prensa todavía incluyen retórica sobre “seguridad”, la atmósfera ha cambiado. La conversación pasó de las preocupaciones filosóficas de los investigadores a las necesidades logísticas de los industriales. En La Haya, las estrellas del espectáculo fueron especialistas en ética, diplomáticos y estrategas militares preocupados por las leyes de la guerra. En el ciclo actual, el foco de atención ha sido secuestrado por los emisores de cheques. El “gran dinero” ha eclipsado efectivamente al “talento profundo”.

Este eclipsamiento del talento por el capital es una distinción crucial. En los primeros días de la ola generativa de IA (que parece que ocurrió hace décadas, pero recién llegó en 2022), el poder estaba en manos de los arquitectos de la tecnología. Los autores del artículo “La atención es todo lo que necesitas” o los primeros equipos de DeepMind tenían la ventaja porque poseían el raro excedente cognitivo necesario para dar origen a estos modelos. Hoy en día, la barrera de entrada ya no es sólo la genialidad; es un gasto de capital del tamaño del PIB. Cuando el principal requisito de relevancia pasa de la capacidad intelectual al poder computacional, los incentivos pasan del rigor científico al retorno de la inversión.

Nada ilustra mejor esta mercantilización de la inteligencia que la retórica emergente de figuras destacadas de la industria como Sam Altman, director de OpenAI y rostro de eso Revolución de la IA. Al margen de la cumbre india sobre IA, Altman comparó el uso de energía de los centros de datos masivos con el costo de entrenar a un solo ser humano durante veinte años. Tal comparación debería haber paralizado la industria, pero apenas registró un pequeño problema.

Su declaración es profunda y sugiere una visión del mundo en la que la inteligencia biológica y la inteligencia sintética son sólo elementos que compiten en un balance. Si un centro de datos puede producir una producción cognitiva equivalente por una fracción del tiempo y el dinero necesarios para crear, educar y capacitar a un ser humano, el mercado inevitablemente elegirá la opción del silicio. Cuando el desarrollo humano se ve como una compensación ineficiente en comparación con los clústeres de GPU, la “responsabilidad” de proteger los sistemas centrados en el ser humano naturalmente disminuye. El objetivo ya no es aumentar la capacidad humana y hacer obsoleto al ser humano “caro” en aras del margen.

Por eso el Índice de Responsabilidad está cayendo. La responsabilidad es cara. Requiere fricciones, auditorías, pausas y la decisión ocasional de no lanzar un producto. En la atmósfera frenética de la cumbre de la India y de las cumbres anteriores en París y Seúl, la fricción es el enemigo. La atención se ha centrado por completo en la infraestructura: redes eléctricas, fabricación de chips y soberanía de datos. Las preguntas ya no son sobre la moralidad del algoritmo, sino sobre la idoneidad del canal por el que pasa.

Hemos entrado oficialmente en la fase de industrialización de la IA. Así como la revolución industrial finalmente pasó de preocuparse por la artesanía del tejedor individual a centrarse en el rendimiento del telar, la revolución de la IA está yendo más allá del “arte” de la codificación responsable hacia la fuerza bruta de las leyes de escala. La cumbre REAIM de La Haya parecía una advertencia; Las cumbres recientes parecen la ceremonia de inauguración de un tren fuera de control.

A medida que la maquinaria pesada del capital global entra en funcionamiento, las voces que piden una pausa o un control de seguridad se vuelven más silenciosas, ahogadas por el zumbido de los ventiladores de refrigeración en los centros de datos de miles de millones de dólares. Sin duda, la tecnología se está volviendo más inteligente, pero la sabiduría que guía su implementación parece estar disminuyendo con cada nueva cumbre.