La inteligencia artificial se está uniendo a la lista de desafíos globales grandes y complejos que los líderes y diplomáticos mundiales abordarán en la reunión anual de las Naciones Unidas de alto nivel de esta semana.
Desde que el auge de la IA comenzó con el debut de Chatgpt hace unos tres años, las impresionantes capacidades de la tecnología han sorprendido al mundo. Las compañías tecnológicas han corrido para desarrollar sistemas de IA más grandes y mejores, incluso cuando los expertos advierten sobre sus riesgos, incluidas las amenazas existenciales como las pandemias de ingeniería y la desinformación a gran escala, y requieren salvaguardas.
La adopción de la ONU de una nueva arquitectura de gobierno es el último y más grande esfuerzo para controlar la IA. Los esfuerzos multilaterales anteriores, incluidas tres cumbres de IA organizadas por Gran Bretaña, Corea del Sur y Francia, solo han resultado en promesas no vinculantes.
El mes pasado, la Asamblea General adoptó una resolución para establecer dos organismos clave en AI, un foro global y un panel científico independiente de expertos, en un movimiento hito para pastorear los esfuerzos de gobernanza global para la tecnología.
El miércoles, una reunión del Consejo de Seguridad de la ONU convocará un debate abierto sobre el tema. Entre las preguntas a abordar: ¿Cómo puede el consejo ayudar a garantizar la aplicación responsable de la IA para cumplir con el derecho internacional y apoyar los procesos de paz y la prevención de conflictos?
Y el jueves, como parte de la reunión anual del cuerpo, el secretario general de la ONU, António Guterres, celebrará una reunión para lanzar el foro, llamada Diálogo Global sobre el Gobierno de la IA.
Es un lugar para gobiernos y “partes interesadas” para discutir la cooperación internacional y compartir ideas y soluciones. Está programado para reunirse formalmente en Ginebra el próximo año y en Nueva York en 2027.
Mientras tanto, se espera que el reclutamiento se ponga en marcha para encontrar 40 expertos para el panel científico, incluidos dos copresidentes, uno de un país desarrollado y otro de una nación en desarrollo. El panel ha realizado comparaciones con el panel de cambio climático de la ONU y su reunión anual de policía anual.
Los nuevos cuerpos representan “un triunfo simbólico”. Son “con mucho el enfoque más inclusivo mundial para gobernar la IA”, escribió Isabella Wilkinson, investigadora del grupo de expertos con sede en Londres, Chatham House, en un blog.
“Pero en la práctica, los nuevos mecanismos parecen ser principalmente impotentes”, agregó. Entre los posibles problemas es si la pesada administración de la ONU puede regular una tecnología de rápido movimiento como la IA.
Antes de la reunión, un grupo de expertos influyentes pidió que los gobiernos estuvieran de acuerdo en las llamadas líneas rojas para que la IA entra en vigencia a fines del próximo año, diciendo que la tecnología necesita “barandillas mínimas” diseñadas para prevenir los “riesgos más urgentes e inaceptables”.
El grupo, incluidos los empleados superiores del fabricante de chatgpt OpenAi, el laboratorio de investigación de IA de Google, DeepMind y Chatbot Maker Anthrope, quiere que los gobiernos firmen un acuerdo internacionalmente vinculante sobre IA. Señalan que el mundo ha acordado previamente los tratados que prohíben las pruebas nucleares y las armas biológicas y la protección de la alta mar.
“La idea es muy simple”, dijo uno de los patrocinadores, Stuart Russell, profesor de IA en la Universidad de California, Berkeley. “Como lo hacemos con los medicamentos y las centrales nucleares, podemos exigir a los desarrolladores que prueben la seguridad como una condición del acceso al mercado”.
Russell sugirió que la gobernanza de la ONU podría parecerse al funcionamiento de otro organismo afiliado a la ONU, la Organización Internacional de Aviación Civil, que coordina con los reguladores de seguridad en diferentes países y se asegura de que todos estén trabajando fuera de la misma página.
Y en lugar de exponer un conjunto de reglas que se establecen en piedra, los diplomáticos podrían elaborar una “convención de marco” que sea lo suficientemente flexible como para actualizarse para reflejar los últimos avances de la IA, dijo.
