El jefe de estrategia de Openai dice que 3 cosas superan el cálculo de los laboratorios

Las unidades de procesamiento gráfico no son los laboratorios ganadores separados del resto, dijo el director de estrategia de OpenAi.

Jason Kwon dijo en un episodio del podcast “Auren Hoffman” publicado el martes que mientras El cálculo es crucial para la industria de la IA En general, no es necesariamente el más importante a nivel organizacional.

“Si solo reduce el cálculo al capital, ya sabes, es solo dinero, y luego compra la infra física”, dijo Kwon. “No necesariamente asumimos en muchas otras industrias o incluso en las industrias tecnológicas que si es solo la empresa u organización más capitalizada, que automáticamente va a ganar”.

“Es cómo utiliza ese recurso y lo aplica a varias apuestas”, agregó.

Kwon dijo que tres cosas importan más: escasez, selección de apuestas y estructura organizativa.

La escasez a veces puede crear innovación, forzando decisiones más nítidas sobre cómo usar recursos limitados, dijo Kwon.

La selección de apuestas, qué tipo de instrucciones de investigación para seguir, cuándo duplicar y cuándo pivotar, también es lo que le da a un laboratorio su ventaja, agregó.

Kwon dijo que las organizaciones necesitan tener la capacidad o estructura adecuada para hacer y sostener bien esas apuestas, así como los “criterios correctos de sabor y selección”.

Kwon y Openai no respondieron a una solicitud de comentarios de Business Insider.

La carrera por el cómputo

A nivel de país o de la industria, lo más importante es “probablemente calculador”, dijo Kwon.

El cálculo es necesario para “la amplitud y la diversidad de experimentos que puedes ejecutar en investigación”, agregó.

Operai ha expresado su voz sobre su demanda insaciable de potencia informática. Su CEO Sam Altman dijo en una publicación en X el lunes que la compañía está probando nuevas características al lanzarles “mucho cómputo”.

“También queremos aprender lo que es posible cuando lanzamos mucho cómputo, a los costos del modelo de hoy, a nuevas ideas interesantes”, escribió.

El director de productos de OpenAi, Kevin Weil, dijo en un episodio del podcast “Moonshot” publicado el mes pasado que “cada vez que obtenemos más GPU, inmediatamente se usan”.

Altman dijo en julio que la compañía traerá más de 1 millón de GPU para fin de año. A comparación, Elon almizcleEl XAI reveló que utilizó un supercluster de más de 200,000 GPU llamados Colossus para ayudar a entrenar Grok4.

Otros gigantes tecnológicos también han sido contundentes sobre su apetito por las GPU. Mark Zuckerberg Dicho un episodio del podcast “Access” publicado el jueves que Meta está haciendo que “Compute Per Investigador” sea una ventaja competitiva y está gastando rivales en GPU y la infraestructura personalizada necesaria para impulsarlos.