El director ejecutivo de OpenAI, Sam Altman, dijo a los empleados el martes que su empresa no controla cómo el Pentágono usa su inteligencia artificial productos en operaciones militares. Las acusaciones de Altman sobre la falta de contribución de OpenAI se producen en medio de un mayor escrutinio sobre cómo el ejército usa la IA en la guerra y preocupaciones éticas de los trabajadores de IA sobre cómo se implementará su tecnología.
“No se pueden tomar decisiones operativas”, dijo Altman a los empleados, según informes de Bloomberg y CNBC.
“Así que tal vez pienses que el ataque a Irán fue bueno y la invasión de Venezuela fue mala. No tienes nada que decir al respecto”, dijo Altman.
La industria de la IA se ha visto envuelta en acaloradas discusiones y amargas negociaciones en las últimas semanas, ya que el Pentágono exigió que las empresas de IA eliminen las barreras de seguridad de sus modelos para permitir una gama más amplia de aplicaciones militares. Sistemas habilitados para IA supuestamente ya ha sido usado en la operación militar estadounidense para capturar al líder venezolano Nicolás Maduro y en las decisiones tomadas en su guerra contra Irán.
Anthropic, un rival de OpenAI y creador del chatbot Claude, rechazó la semana pasada un acuerdo con el Pentágono por temor a que su modelo pudiera usarse para vigilancia doméstica masiva o armas totalmente autónomas. Pete Hegseth, Secretario de Defensa de Estados Unidos, declaró a la empresa un “riesgo para la cadena de suministro” como resultado, una designación nunca antes utilizada contra una empresa estadounidense y que podría causar un daño financiero significativo si se promulga formalmente.
El mismo día que Hegseth prometió medidas punitivas contra Anthropic, el Pentágono también anunció un acuerdo con OpenAI que aparentemente tenía como objetivo reemplazar el uso de Claude en aplicaciones militares. El momento del acuerdo y las preocupaciones de que OpenAI había aceptado cruzar líneas éticas que Anthropic rechazó llevaron a reacción pública e interna de los empleados contra OpenAI.
Altman y AbiertoAI Desde entonces, ha tratado de insistir en que su tecnología se utilizaría legalmente y se controlarían los daños, y Altman admitió que el acuerdo fue apresurado e hizo que la empresa pareciera “oportunista y descuidada”.
El director ejecutivo de Anthropic, Dario Amodei, criticó a Altman como un “mentiroso” en un memorando a los empleados el miércoles y acusó a Altman de dar “elogios al estilo dictador a Trump”. la información informó. “De hecho, mantuvimos nuestros límites con integridad en lugar de confabularnos con ellos para producir un ‘teatro de seguridad’ en beneficio de los empleados (que, les juro absolutamente, es lo que literalmente todos en [the Pentagon]Palantir, nuestros asesores políticos, etc., asumieron que era el problema que estábamos tratando de resolver)”, escribió Amodei.
También apuntó al Pentágono y a Donald Trump.
“Las verdaderas razones [the Pentagon] Lo que al administrador de Trump no le gusta de nosotros es que no donamos a Trump (mientras que OpenAI/Greg donaron mucho)”, escribió, refiriéndose a Greg Brockman, presidente de OpenAI, quien donó a un Pac que apoyaba a Trump 25 millones de dólares junto con su esposa.
