El jefe de infraestructura de IA de Google advirtió que la compañía necesitará escalar su tecnología para dar cabida a la enorme afluencia de usuarios y solicitudes complejas manejadas por sus productos de IA, y esto podría ser una señal de que los temores de una burbuja se están volviendo abrumadores.
Amin Vahdat, vicepresidente que dirige el equipo global de infraestructura e inteligencia artificial de Google, dijo durante una presentación en una reunión de todos los partidos el 6 de noviembre que la compañía necesita duplicar su capacidad de servicio cada seis meses, “con un aumento de 1.000 veces en los próximos 4 a 5 años”, según CNBC. Reportado–
Esto significa que la capacidad de Google para garantizar que Gemini y otros productos de inteligencia artificial que utilizan Google Cloud sigan funcionando bien ha visto un rápido aumento en las consultas de los usuarios. Esto es diferente del procesamiento o la infraestructura física involucrada en el entrenamiento de la IA.
dijo un portavoz de Google. suerte “La demanda de servicios de IA significa que se nos pide cada vez más que agreguemos capacidad de procesamiento. Lo estamos impulsando a través de la optimización de hardware, software y modelos, además de nuevas inversiones”, señalando los chips Ironwood de la compañía como un ejemplo de cómo su propio hardware está impulsando mejoras en las capacidades de procesamiento.
El año pasado, todos los hiperescaladores, como Google Cloud pero también Amazon y Microsoft Azure, se apresuraron a agregar procesamiento en previsión de una afluencia de usuarios de IA.
Los usuarios ya están aquí, afirma Shay Boloor, estratega jefe de mercado de Futurum Equities, pero a medida que cada empresa mejora sus ofertas de IA, la capacidad de servicio se convierte en el siguiente gran desafío a abordar.
“Estamos entrando en la segunda fase de la IA, donde la capacidad de proporcionar servicios es más importante que la capacidad de procesar. Porque el cálculo crea el modelo. Pero la capacidad de servicio determina con qué rapidez y amplitud el modelo puede llegar realmente a los usuarios”, afirmó. suerte–
Google también Grandes gastos de capital y recientes movimientos estratégicos para Desarrolla tu propio chip de IAProbablemente duplicará su capacidad de servicio cada seis meses, afirmó Boloor.
Sin embargo, Google y sus competidores todavía enfrentan una batalla cuesta arriba. añadió. Esto es especialmente cierto a medida que los productos de IA comienzan a manejar solicitudes más complejas. Incluyendo términos de búsqueda avanzada y vídeos.
“El cuello de botella no es la ambición. Son puras limitaciones físicas como la energía, la refrigeración, el ancho de banda de la red y el tiempo necesario para construir estas potentes capacidades del centro de datos”, afirmó.
Sin embargo, es cierto que Google parece estar enfrentando una enorme demanda de su infraestructura de inteligencia artificial y está presionando para duplicar rápidamente su capacidad de servicio. Podría ser una señal de que las sombrías predicciones de los pesimistas de la IA no son del todo correctas, dijo Boloor.
Esas preocupaciones provocaron la caída de los tres principales índices bursátiles. 1,9% o más la semana pasada—incluido el Nasdaq, de gran tecnología
“Esto no es un entusiasmo especulativo. Es simplemente una necesidad insatisfecha que todavía está atrasada”, dijo. Más lento de lo que muchos esperaban. Esto se debe a que tienen capacidades de procesamiento y servicio más limitadas”.
