La IA del agente ocupa un lugar central

Este informe está extraído del boletín informativo de esta semana The Tech Download. ¿Como ves? Puedes suscribirte Aquí.

Nvidia El evento de exhibición anual, apodado por algunos el ‘Super Bowl de la IA’, comenzó con mucha fanfarria en el sector tecnológico a principios de semana. Decenas de miles de asistentes se reúnen en California para conocer las últimas novedades sobre los planes futuros de la empresa más valiosa del mundo.

¿No lograste comprar entradas? Ningún problema. Me reuní con Katie Tarasov de CNBC, quien estuvo presente en el evento para tener una idea de lo que estaba pasando.

katie: Siempre estoy atento a los anuncios de hardware más importantes porque los chips Nvidia son los que pueblan los centros de datos de IA y alimentan las ambiciones de IA de casi todas las empresas importantes. Vimos dos anuncios importantes de nuevos chips en el discurso de apertura del CEO Jensen Huang el lunes.

El primero fue un tipo de chip completamente nuevo llamado Unidad de Procesamiento del Lenguaje o LPU. Este es el primer chip que Nvidia introduce utilizando la tecnología que adquirió de la startup de chips Groq en diciembre. Este acuerdo de 20.000 millones de dólares fue la mayor adquisición de Nvidia hasta la fecha. Si bien las estelares unidades de procesamiento de gráficos de Nvidia tienen miles de núcleos que realizan muchas tareas simultáneamente, la LPU Groq 3 está construida con un solo núcleo optimizado para acelerar estas GPU.

El otro anuncio importante fue la presentación de un bastidor completamente equipado con las últimas unidades centrales de procesamiento o CPU Vera de Nvidia. I Escribí un artículo la semana pasada. Explica cómo la CPU está experimentando un renacimiento porque Nvidia la ve como un próximo cuello de botella para la IA de la agencia que requiere más transferencia de datos y computación de propósito general que normalmente realiza la CPU.

Y una mención destacada sobre el software: Nvidia anunció una versión de nivel empresarial, NemoClaw. Garra abierta Esto coloca la pila de software de Nvidia encima de su plataforma autónoma de agentes de IA.

katie: El tema más importante este año fue que el futuro es la agencia. Estamos viendo que gran parte del uso diario de la IA está pasando de los chatbots de llamada y respuesta a agentes de IA más orientados a tareas. Esto crea una gran necesidad de una inferencia más rápida, porque los agentes generan otros agentes y se requiere mucha orquestación y transferencia de datos entre todos ellos para realizar sus tareas.

Huang dijo que la inteligencia artificial ha alcanzado un “punto de inflexión” y está provocando un cambio fundamental en las necesidades informáticas. Por lo tanto, hemos visto menos atención en la GPU y más atención en nuevas configuraciones informáticas, como LPU completa y bastidores de CPU.

En general, personalmente me sorprendieron las multitudes y el entusiasmo en la sala de exposición; Ha estado irreconocible desde mi primer GTC en 2019. Nos sentamos con Huang. Fue una conversación fascinante que dio lugar a una larga entrevista en 2022 y ha informado gran parte de mis informes sobre chips desde entonces.

Pero nunca podría haber predicho que cuatro años después, Huang alcanzaría el estatus de celebridad en toda regla que presencié cuando estaba rodeado de entusiastas de las selfies en cada oportunidad, incluso durante una sesión privada de preguntas y respuestas con la prensa.

katie: Esta es una pregunta difícil de responder. Incluso las expectativas de Huang Blackwell y Vera Rubin 1 billón de dólares en órdenes de compra Para 2027, la aguja se habrá movido. Parece que las expectativas de Wall Street son tan altas que es casi imposible que Nvidia impresione.

Una suposición es que es posible que GTC no haya tenido suficiente impacto en el mercado porque Nvidia decidió presentar Vera Rubin en el Consumer Electronics Show en enero en lugar de en su propia conferencia. También vimos muy poca acción, aunque vimos los frutos. Diciembre 20 mil millones de dólares gastados en GroqTal vez porque un chip único en su tipo, como una LPU, no siempre tiene éxito.

Huang también señaló que más ingresos provendrán de China. ventas de H200 Estamos empezando de nuevo, pero los controles de exportación son un objetivo tan cambiante que los inversores pueden estar esperando que estas ventas se confirmen en la próxima convocatoria de resultados.

katie: En general, con el aumento de la IA de agencia, vemos a Nvidia cambiando su estrategia para adaptarse a las cambiantes necesidades informáticas. En lugar de poner todos sus huevos en la canasta de GPU, Nvidia está adoptando una estrategia más “de sopa a nueces”, como me dijo el analista de Creative Strategies, Ben Bajarin.

Pero Huang también mostró el siguiente paso en su línea de productos más intrigante: la arquitectura Kyber a escala de rack. Integrará 144 GPU en bandejas de computación colocadas verticalmente en lugar de horizontalmente para aumentar la densidad y reducir la latencia. El diseño Kyber estará disponible en el próximo sistema a escala de rack de Nvidia, el Vera Rubin Ultra, cuyo lanzamiento se espera para 2027.

Fiscalía Federal para el Distrito Sur de Nueva York socios acusados ​​de un fabricante de servidores estadounidense no identificado de ilegal desvía miles de millones de dólares A China en servidores con tecnología Nvidia.

OpenAI combinará el navegador web, la aplicación ChatGPT y la aplicación de codificación Codex en una súper aplicación de escritorio singular, CNBC Fue confirmado el jueves.

Los gigantes tecnológicos de China realizan eventos públicos animando a la gente corriente a comprar el asistente viral de IA OpenClaw descargados en sus portátiles y teléfonos.

Bain Capital comenzó a acercarse a compradores potenciales por su participación en Bridge Data Centers, dijeron dos personas familiarizadas con el asunto. le dijo a CNBCMientras la firma de capital privado busca una salida en medio de la creciente demanda de infraestructura de inteligencia artificial.

gigante tecnológico chino Alibaba los ingresos netos reportados cayeron un 66% trimestre de diciembre el jueves No cumplió con las expectativas de ingresos de los analistas.

fabricante de chips Micrón Informó que triplicó sus ingresos y superó las previsiones de los analistas en sus últimos resultados trimestrales el miércoles, pero el champán y los poppers no estaban a la orden del día.

Empresa especializada en chips de memoria, componente clave del boom de la IA, vio su stock caer refleja la renuencia de los inversores a pesar de las exitosas ganancias responder Los resultados de Nvidia fueron mejores de lo esperado en febrero.

Corrección: esta historia se actualizó para señalar que el acuerdo Groq de Nvidia por 20 mil millones de dólares se concretó en diciembre.