OpenAI respalda una startup que tiene como objetivo bloquear las armas biológicas habilitadas por IA

OpenAI, el fabricante de ChatGPT, dijo el jueves que invertirá en una startup centrada en impedir que los malos actores creen armas biológicas impulsadas por inteligencia artificial.

OpenAI es el principal inversor en una ronda inicial de 15 millones de dólares en , que intenta garantizar que las defensas de la industria de la IA crezcan al menos tan rápido como aquellas que buscan explotar modelos para dañar a los humanos, dijo el cofundador de la startup, Hannu Rajaniemi.

La inversión es parte del esfuerzo más amplio de OpenAI para invertir en nuevas empresas que buscan contener los riesgos que plantea la IA. El mes pasado, la compañía respaldó a Valthos, una startup de software de bioseguridad con sede en Nueva York. El director de estrategia de OpenAI, Jason Kwon, dijo que OpenAI consideraría invertir en otras empresas emergentes centradas en problemas similares.

“Queremos aumentar la resiliencia general del ecosistema en general”, dijo Kwon en una entrevista. “Una de las mejores formas de abordar la mitigación de riesgos es contar con más tecnología”.

Los investigadores y defensores de la seguridad dicen que la tecnología de inteligencia artificial pronto podría acelerar el desarrollo de fármacos o diseñar nuevas vacunas. Pero esas mismas capacidades podrían facilitar que los malos actores desarrollen armas biológicas nuevas y poderosas.

Red Queen Bio surgió de Helix Nano, una empresa de terapias de ARNm en etapa clínica que ha estado utilizando más la IA en el diseño de fármacos. Helix Nano también ha trabajado con OpenAI para crear pruebas que determinen los riesgos biológicos de la IA, dijo Kwon.

El director ejecutivo de OpenAI, Sam Altman, y la miembro de la junta directiva, Nicole Seligman, que anteriormente habían invertido en Helix Nano, recibirán acciones de Red Queen Bio como parte de la transacción. Kwon fue indirectamente un inversor a través de Y Combinator, una incubadora de startups de Silicon Valley. Su participación está valorada en menos de 2.500 dólares, dijo OpenAI.

Los ejecutivos no participaron en la aprobación de la inversión de OpenAI en Red Queen Bio, dijo un portavoz de la compañía. El director de cumplimiento de OpenAI y los miembros no conflictivos de la junta directiva de OpenAI revisaron y aprobaron la inversión.

Red Queen Bio se basará en modelos de inteligencia artificial y en experimentos de laboratorio más tradicionales para descubrir nuevos riesgos y desarrollar nuevas defensas. El nombre de la startup proviene de una escena del libro de Lewis Carroll, A través del espejo.

“Estaba claro que las capacidades biológicas avanzaban más rápido de lo que anticipábamos”, dijo Rajaniemi. “Sentimos que necesitábamos empezar a desarrollar defensas”.

Otros inversores en Red Queen Bio son Cerberus Ventures, Fifty Years y Halcyon Futures.