Nvidia planea un nuevo chip para acelerar el procesamiento de IA: informe

Nvidia planea lanzar un nuevo procesador diseñado para ayudar a OpenAI y a otros clientes a construir sistemas de IA más rápidos y eficientes, informó el viernes el Wall Street Journal.citando a personas familiarizadas con el asunto.

Nvidia está desarrollando un nuevo sistema para computación de “inferencia”, una forma de procesamiento que permite que los modelos de IA respondan a consultas, según el informe.

La nueva plataforma se presentará en la conferencia de desarrolladores GTC de Nvidia en San José el próximo mes e incorporará un chip diseñado por la startup Groq, agregó el informe citando a personas familiarizadas.

Reuters no pudo verificar de inmediato el informe. Nvidia y OpenAI no respondieron de inmediato a la solicitud de comentarios de Reuters.

Reuters informó a principios de este mes que OpenAI no está satisfecho con la velocidad a la que el hardware de Nvidia puede proporcionar a los usuarios de ChatGPT respuestas a tipos específicos de problemas, como el desarrollo de software y la comunicación de la IA con otro software.

Necesita nuevo hardware que eventualmente cubrirá alrededor del 10% de las necesidades de computación de inferencia de OpenAI en el futuro, dijo una de las fuentes a Reuters.

El fabricante de ChatGPT ha discutido trabajar con nuevas empresas como Cerebras y Groq para proporcionar chips para una inferencia más rápida, dijeron dos fuentes. Pero Nvidia llegó a un acuerdo de licencia de 20.000 millones de dólares con Groq que puso fin a las negociaciones de OpenAI, dijo una de las fuentes a Reuters.

En septiembre, Nvidia dijo que tenía la intención de invertir hasta 100 mil millones de dólares en OpenAI como parte de un acuerdo que le dio al fabricante de chips una participación en la startup y le dio a OpenAI el dinero que necesitaba para comprar los chips avanzados.