La líder de robótica OpenAI, Caitlin Kalinowski, renuncia en respuesta al acuerdo con el Pentágono

La ejecutiva de hardware Caitlin Kalinowski anunció hoy que, en respuesta a El controvertido acuerdo de OpenAI con el Departamento de Defensarenunció como líder del equipo de robótica de la empresa.

“Esta no fue una decisión fácil”, dijo Kalinowski en una publicación en las redes sociales. “La IA tiene un papel importante en la seguridad nacional. Pero la vigilancia de los estadounidenses sin supervisión judicial y la autonomía letal sin autorización humana son líneas que merecían más deliberación de la que recibieron”.

Kalinowski, quien anteriormente dirigió el equipo de construcción de gafas de realidad aumentada en Meta, se unió a OpenAI en noviembre de 2024. En su anuncio de hoy, enfatizó que la decisión era “una cuestión de principios, no de personas” y dijo que tiene un “profundo respeto” por el director ejecutivo Sam Altman y el equipo de OpenAI.

En una publicación de seguimiento en XKalinowski añadió: “Para ser claros, mi problema es que el anuncio fue apresurado sin salvaguardas establecidas. Es ante todo una preocupación de gobernanza. Son demasiado importantes para que los acuerdos o anuncios se apresuren”.

Un portavoz de OpenAI confirmó la salida de Kalinowski a TechCrunch.

“Creemos que nuestro acuerdo con el Pentágono crea un camino viable para el uso responsable de la IA en la seguridad nacional, al tiempo que deja claras nuestras líneas rojas: sin vigilancia interna ni armas autónomas”, dijo la compañía en un comunicado. “Reconocemos que la gente tiene opiniones firmes sobre estos temas y continuaremos participando en discusiones con funcionarios, gobiernos, sociedad civil y comunidades de todo el mundo”.

El acuerdo de OpenAI con el Pentágono se anunció hace poco más de una semana, después Las conversaciones entre el Pentágono y Antrópica fracasaron mientras la empresa de IA intentaba negociar salvaguardias que impidieran que su tecnología se utilizara en vigilancia nacional masiva o en armas totalmente autónomas. El Pentágono más tarde designó a Anthropic como un riesgo para la cadena de suministro. (Anthropic dijo que lo hará luchar contra la designación en los tribunales; sin embargo, Microsoft, Google y Amazon han dicho que continuarán poner Claude de Anthropic a disposición de clientes no relacionados con el sector de defensa.)

Entonces OpenAI rápidamente anunció su propio acuerdo permitiendo que su tecnología sea utilizada en ambientes clasificados. Mientras los ejecutivos intentaban explicar el acuerdo en las redes sociales, la empresa descrita cómo adoptar “un enfoque más amplio y multifacético” que se base no sólo en el lenguaje contractual, sino también en salvaguardias técnicas, para proteger líneas rojas similares a las de Anthropic.

Sin embargo, la controversia parece haber dañado la reputación de OpenAI entre algunos consumidores, con Las desinstalaciones de ChatGPT aumentan un 295% y Claude llega a la cima de las listas de la App Store. Hasta el sábado por la tarde, Claude y ChatGPT siguen siendo las aplicaciones gratuitas número uno y dos en la App Store de EE. UU., respectivamente.