Andy Jassy dice que el chip competidor de Nvidia de Amazon ya es un negocio multimillonario

¿Puede alguna empresa, grande o pequeña, realmente derrocar el dominio de los chips de IA de Nvidia? Quizás no. Pero hay cientos de miles de millones de dólares en ingresos para aquellos que incluso pueden obtener algo de ellos para sí mismos, dijo esta semana el director ejecutivo de Amazon, Andy Jassy.

Como se esperaba, la compañía anunció durante la conferencia AWS re:Invent la próxima generación de su chip de inteligencia artificial competidor de Nvidia, Trainium3, que es cuatro veces más rápido pero usa menos energía que el Trainium2 actual. Jassy reveló alguna información sobre el Trainium actual en una publicación en X Esto demuestra por qué la empresa es tan optimista con respecto al chip.

Dijo que el negocio Trainium2 “tiene una tracción sustancial, es un negocio con ingresos multimillonarios, tiene más de 1 millón de chips en producción y más de 100.000 empresas lo utilizan como la mayor parte del uso de Bedrock en la actualidad”.

Bedrock es la herramienta de desarrollo de aplicaciones de IA de Amazon que permite a las empresas elegir entre muchos modelos de IA.

Jassey dijo que el chip AI de Amazon está ganando entre la enorme lista de clientes de la nube de la compañía porque “tiene ventajas de precio-rendimiento sobre otras opciones de GPU que son atractivas”. Es decir, cree que funciona mejor y cuesta menos que esas “otras GPU” que existen en el mercado.

Esto es, por supuesto, de Amazon. MO clásicoofreciendo su propia tecnología local a precios más bajos.

Además, el director ejecutivo de AWS, Matt Garman, ofreció aún más información, en un entrevista con CRNsobre un cliente responsable de gran parte de estos miles de millones en ingresos: no es de extrañar, se trata de Anrópica.

“Hemos visto una gran tracción de Trainium2, especialmente de nuestros socios de Anthropic, quienes anunciaron el Proyecto Rainier, donde hay más de 500.000 chips Trainium2 que les ayudarán a construir las próximas generaciones de modelos para Claude”, dijo Garman.

Project Rainier es el clúster de servidores de IA más ambicioso de Amazon, distribuido en múltiples centros de datos en los EE. UU. y construido para satisfacer las crecientes necesidades de Anthropic. Llegó en línea en octubre. Amazon es, por supuesto, un importante inversor en Antropica. A cambio, Anthropic convirtió a AWS en su principal socio de capacitación de modelos, aunque ahora Anthropic también se ofrece en la nube de Microsoft. a través de chips Nvidia.

OpenAI ahora también utiliza AWS además de la nube de Microsoft. Pero la asociación con OpenAI no podría haber contribuido mucho a los ingresos de Trainium porque AWS lo ejecuta en chips y sistemas Nvidia. dijo el gigante de las nubes.

De hecho, sólo unas pocas empresas estadounidenses, como Google, Microsoft, Amazon y Meta, tienen todas las piezas de ingeniería: experiencia en diseño de chips de silicio e interconexión local de alta velocidad. y tecnología de red, incluso para intentar ofrecer una competencia real a Nvidia. (Recuerde, Nvidia acaparó el mercado de una tecnología de red clave de alto rendimiento en 2019 cuando el CEO Jensen Huang superó la oferta. Intel y Microsoft comprarán el fabricante de hardware Infiniband Mellanox.)

Además, los modelos de IA y el software desarrollados para ser utilizados por los chips de Nvidia también se basan en el software Compute Unified Device Architecture (CUDA) patentado por Nvidia. CUDA permite que las aplicaciones utilicen GPU para procesamiento paralelo, entre otras tareas. Al igual que la guerra de chips Intel versus SPARC de ayer, no es poca cosa reescribir una aplicación de IA para un chip que no sea CUDA.

Aún así, es posible que Amazon tenga un plan para esto. Como informamos anteriormente, la próxima generación de su chip AI, Trainium4, se construirá para interoperar con las GPU Nvidia en el mismo sistema. Queda por ver si esto ayudará a quitarle más negocios a Nvidia o simplemente reforzará su dominio en la nube de AWS.

Puede que a Amazon no le importe. Si ya está en camino de ganar miles de millones de dólares con el chip Trainium2 y la próxima generación es mucho mejor, podría ser un gran ganador.