Abierto AI dijo que había llegado a un acuerdo con el Pentágono para proporcionar IA a información clasificada ejército estadounidense redes, horas después donald triunfo ordenó al gobierno que dejara de utilizar los servicios de uno de los principales competidores de la empresa.
Sam AltmanEl director ejecutivo de OpenAI anunció el cambio el viernes por la noche. Surgió después de un acuerdo entre Anthropic, una empresa rival de inteligencia artificial que administra el sistema Claude, y la administración Trump fracasó después de que Anthropic buscara garantías de que su tecnología no se usaría para vigilancia masiva, ni para sistemas de armas autónomos que puedan matar personas sin intervención humana.
Al anunciar el acuerdo, Altman insistió en que el acuerdo de OpenAI con el gobierno incluía garantías de que no se utilizaría para estos fines.
“Dos de nuestros principios de seguridad más importantes son la prohibición de la vigilancia interna masiva y la responsabilidad humana por el uso de la fuerza, incluidos los sistemas de armas autónomos”, Altman escribió en X. Añadió que el Pentágono “está de acuerdo con estos principios, los refleja en leyes y políticas y los incluimos en nuestro acuerdo”.
Altman también dijo que espera que el Pentágono “ofrezca estos mismos términos a todas las empresas de inteligencia artificial” como una forma de “reducir las acciones legales y gubernamentales y llegar a acuerdos razonables”.
Si el acuerdo de OpenAI prohíbe el uso de sus sistemas con fines poco éticos, parece que la empresa ha logrado recibir garantías donde Anthropic no. Altman anunció el acuerdo con la administración poco después de que el presidente dijera que instruiría a todas las agencias federales a “CESAR INMEDIATAMENTE” todo uso de tecnología antropogénica.
El Pentágono exigió que Antropica flexibilizara las pautas éticas sobre sus sistemas de inteligencia artificial o enfrentaría graves consecuencias.
triunfo el dijo en su plataforma Truth Social: “Los locos de izquierda de Anthropic cometieron un ERROR DESASTROSO al tratar de BRAZO FUERTE al [Pentagon]y obligarlos a obedecer sus Términos de servicio en lugar de nuestra Constitución”.
Queda por ver cómo responderá el equipo de OpenAI al acuerdo gubernamental. En su batalla con la administración Trump, Anthropic se ha ganado el apoyo de sus rivales más feroces. Casi 500 empleados de OpenAI y Google firmaron un carta abierta diciendo “no nos dividiremos”.
“El Pentágono está negociando con Google y OpenAI para intentar que acepten lo que Anthropic rechazó”, dice la carta. “Están intentando dividir cada empresa por miedo a que la otra ceda”.
Altman intentó tranquilizar a los empleados de OpenAI en un memorando enviado el viernes por la noche.
“Independientemente de cómo llegamos aquí, esto ya no es sólo una cuestión entre lo antrópico y lo [Pentagon]; Este es un tema que afecta a toda la industria y es importante aclarar nuestra posición”, escribió Altman en el memorando, que fue obtenido por Axios.
“Durante mucho tiempo hemos creído que la IA no debería usarse para vigilancia masiva o armas letales autónomas, y que los humanos deberían permanecer informados sobre decisiones automatizadas de alto riesgo. Estas son nuestras líneas rojas clave”.
Altman añadió: “Veremos si hay un acuerdo con el [Pentagon] que permite desplegar nuestros modelos en entornos clasificados y que se ajusta a nuestros principios. Solicitaríamos que el contrato cubra todos los usos excepto aquellos que sean ilegales o inadecuados para implementaciones en la nube, como vigilancia doméstica y armas ofensivas autónomas”.
Antrópico, que se presenta como el más seguridad de las principales empresas de IA, se han visto sumidos en meses de desacuerdo con el Pentágono. Los funcionarios de defensa estadounidenses han presionado para lograr un acceso ilimitado a las capacidades de Claude que, según dicen, pueden ayudar a proteger el país. Mientras tanto, Antrópica resistió permitiendo que su producto se utilice para vigilancia masiva o sistemas de armas que puedan matar personas de forma autónoma.
“Ninguna intimidación o castigo por parte del [Pentagon] Cambiaremos nuestra posición sobre la vigilancia interna masiva o las armas totalmente autónomas”, dijo Anthropic en su comunicado el viernes por la noche.
“Intentamos de buena fe llegar a un acuerdo con el [Pentagon]dejando en claro que apoyamos todos los usos legales de la IA para la seguridad nacional, excepto las dos excepciones limitadas mencionadas anteriormente”, continuó la compañía. “Hasta donde sabemos, estas excepciones no han afectado a ninguna misión gubernamental hasta la fecha”.
OpenAI dijo el viernes está recaudando 110 mil millones de dólares en una exitosa ronda de financiación que valoraría la empresa en 840 mil millones de dólares.
