La inteligencia artificial está trasladando el poder de los gobiernos a las empresas de tecnología

Discusiones sobre Gobernanza de la inteligencia artificial Tiendes a asumir que será importante y transformador en muchas áreas del quehacer humano. Sin embargo, la cuestión de cómo se distribuyen esos beneficios y riesgos (quién ganará y quién perderá) se aclara con menos frecuencia.

Los tecno-utópicos están emocionados de que todos ganen: el pastel será más grande; Una marea creciente levantará todos los barcos. Preocupaciones por la desigualdad o Impacto ambiental La IA se deja de lado con la promesa de que la IA por sí misma resolverá esos problemas.

Otros advierten contra esto, incluido un sorprendente porcentaje de quienes desarrollan ellos mismos sistemas de IA. mas oscuroun futuro distópico en el que la inteligencia artificial se vuelve contra la humanidad, ya sea a través de una desalineación o del surgimiento de una superinteligencia que ve a sus creadores de la misma manera que podríamos ver a criaturas menores como perros u hormigas. Todos pierden.

Entre los dos extremos están aquellos que intentan pensar dónde recaerán las ganancias y pérdidas de la inteligencia artificial. En los círculos del mundo real, se ha vuelto común hablar de inteligencia artificial en lenguaje humano. carrera de armamentosUn marco familiar y reconfortante Occidente contra una China en ascenso.

El marco alternativo adopta un eje Norte-Sur, teniendo en cuenta los 750 millones de personas sin electricidad estable y más de 2 mil millones de personas que no están conectadas a Internet. A pesar de toda la preocupación por el mal uso de la IA, muchos en los países en desarrollo están más preocupados por sus usos perdidos. se quedo atras.

Sin embargo, la brecha más importante puede no ser entre el Este y el Oeste o el Norte y el Sur, sino más bien entre los sectores público y privado. La inteligencia artificial está alejando el poder económico y, cada vez más, político de los gobiernos.

La naturaleza y escala del poder ejercido por los gigantes tecnológicos actuales rivaliza con el papel desempeñado por la Compañía de las Indias Orientales a principios del siglo XIX, cuando controlaba la mitad del comercio mundial y tenía su propio ejército. Los gigantes tecnológicos de hoy pueden carecer de esta medida de poder económico o militar, pero… culturales globales y Influencia política Se puede decir que es el más grande. Estos “soberanos de silicio” establecen reglas, resuelven disputas, moderan el discurso y dan forma a los mercados laborales y las elecciones, funciones que alguna vez estuvieron asociadas principalmente con los estados.

Los gobiernos han luchado por mantenerse al día. China ha demostrado que un Estado decidido puede reafirmar su control, Colapsar sobre las grandes tecnologías y la reestructuración del poder empresarial, aunque esto equivaldría a sustituir el dominio del sector privado por la supervisión de los partidos. La UE ha dado un paso audaz al aprobar una ley de IA, pero los primeros signos de presión para hacer cumplir la ley y el silencioso remordimiento de los compradores sugieren ambivalencia sobre los costos económicos. Por el contrario, Estados Unidos no ha querido o no ha podido regular a nivel federal, con esfuerzos para adelantarse o bloquear una legislación más ambiciosa sobre IA a nivel estatal.

La vacilación es comprensible. La inteligencia artificial está vinculada al crecimiento económico, la competitividad nacional y la ventaja militar. A los políticos les preocupa que las regulaciones estrictas puedan sofocar la innovación o llevarla a otra parte. Mientras tanto, las empresas de tecnología controlan importantes recursos de lobby y están profundamente integradas en la vida diaria de los votantes, incluso cuando implementan herramientas que ayudan a que esto suceda. Fortalecer el seguimientoe invertir atención humana, y Reemplazo de mano de obra humana.

Entonces, ¿qué se debe hacer? Si no se puede confiar en que las empresas se autorregulan, entonces no se puede confiar en los gobiernos No dispuesto a legislarSi las organizaciones internacionales no pueden hacer más que coordinar, ¿quién o qué podría ayudar a mitigar los riesgos y distribuir los beneficios de la IA de manera más equitativa?

La primera respuesta somos, por supuesto, nosotros. Los usuarios pueden optar por no apoyar a las empresas que ignorar la seguridad o Exacerbando la desigualdad. El problema es que los usuarios individuales tienen poca influencia sobre las empresas, cuyo modelo de negocio se basa en parte en ocultar esta falta de poder a los consumidores. La tragedia de la gobernanza de la IA es esa relación inversa entre influencia e interés: los usuarios tienen interés pero no influencia; Las empresas de tecnología tienen poder pero no tienen interés en restringir su comportamiento si eso significa limitar sus ganancias.

Así como los sindicatos ofrecieron un rayo de esperanza para aumentar el poder de negociación de los trabajadores, Usuarios regulados Puede tener un papel más importante en la forma en que se desarrolla e implementa la tecnología. Por ejemplo, los movimientos globales en materia de privacidad han transformado los mercados, al menos modestamente. Es concebible que surjan estándares similares en el campo de la inteligencia artificial, tal vez en la línea de una IA “responsable” que sea más confiable y menos propensa a alucinaciones, o más “abierta” en el sentido de una mayor transparencia sobre cómo se toman las decisiones y cómo se entrenan los modelos.

Otra forma de transparencia tiene que ver con los costos de la IA, en particular sus costos. Impacto ambiental. Muchas empresas de tecnología -y algunos países- han anunciado que sus inversiones en inteligencia artificial significan que están abandonando los objetivos climáticos. Más información sobre los costos de la IA, ya sea pasando a modelos de suscripción o al menos detectando electricidad y Agua consumida El uso de los últimos sistemas de IA puede afectar al comportamiento del usuario y, por tanto, al comportamiento de la empresa.

Pero los mecanismos de mercado no serán suficientes. A raíz de la crisis financiera mundial de 2007-2008, una lección fue que si algunos bancos eran “demasiado grandes para quebrar”, entonces, en primer lugar, eran demasiado grandes para quebrar. Existe un fuerte argumento de que las empresas tecnológicas -o los empresarios tecnológicos- que son demasiado grandes para ser reguladas son demasiado grandes. Naturalmente, hubo esfuerzos para disolver esas empresas. Actualmente el Departamento de Justicia de EE.UU. Demandar a Google y Apple, mientras que la FTC tiene acciones en curso contra Amazon, habiendo presentado demandas sin éxito contra Microsoft y Meta.

La UE ha vinculado el tamaño a obligaciones y requisitos de presentación de informes más detallados para los “guardianes” en virtud de la Ley de Mercados Digitales, y para las plataformas de Internet y motores de búsqueda “muy grandes” en virtud de la Ley de Servicios Digitales. Sin embargo, China solo logró desmantelar las empresas de tecnología en una purga que duró de 2020 a 2023, borrando billones de dólares del valor de las acciones de esas empresas, y Alibaba se dividió en seis nuevas entidades. Estos eran costos que Beijing estaba dispuesto a asumir, pero que Washington o Bruselas podrían negarse a asumir, especialmente a la luz de la nueva intimidad entre el presidente Trump y la élite tecnológica.

La alternativa a la desinversión es la nacionalización, con los estados pasando de la regulación al control total, tratando la infraestructura de IA como servicios públicos o activos nacionales esenciales para la seguridad nacional o la estabilidad económica. En este momento, no hay apetito de confrontación con las empresas de tecnología, una timidez reforzada por el temor de que la innovación sea sofocada o sofocada. el se queda atras Rivales geopolíticos o las preocupaciones mundanas de postularse para un cargo político en la era de las redes sociales.

Las instituciones internacionales enfrentan un desafío más severo. En la década de 1950, la gobernanza nuclear surgió en un contexto de aparente devastación y amenaza existencial. La IA no ofrece un momento de cálculo tan singular. Su daño es generalizado: desinformación, Desplazamiento laboralSeguimiento y enfoque al mercado. Sin una crisis catalizadora, la coordinación sigue siendo difícil de alcanzar.

Los temores pueden ser exagerados. La inteligencia artificial puede lograr ganancias de productividad y logros científicos que justifiquen sus riesgos. Pero incluso si los escenarios catastróficos nunca se materializan, ya se está produciendo un cambio más silencioso. La soberanía, entendida como el poder de establecer reglas, asignar recursos y dar forma a los futuros colectivos, pasa de las instituciones públicas al mundo. Actores privados.

El peligro no es que las máquinas gobiernen a la humanidad. Quienes los controlan configuran cada vez más las condiciones bajo las cuales la humanidad se gobierna a sí misma. Si los Estados se muestran poco dispuestos o incapaces de reafirmar una supervisión significativa, y si las instituciones globales siguen siendo reactivas en lugar de proactivas, la primera verdadera emergencia de IA puede no ser una catástrofe existencial, sino un vaciamiento continuo del poder público.

La pregunta no es si la IA dominará. Y por quién.