Alta demanda de IA infrarroja en el país, afirma CEO de Neysa AI

Foto de archivo de Sharad Sanghi, director ejecutivo de Neysa AI. Foto de archivo: Acuerdo especial

Sharad Sanghi, director ejecutivo de Neysa AI, dijo que “la soberanía, la latencia y el cumplimiento” están impulsando la demanda de infraestructura de IA implementada localmente entre los clientes empresariales.

El Sr. Sangki habló con hindú Al margen de la AI Impact Summit, se produjo horas después de que se supiera que su compañía había recaudado 600 millones de dólares de Blackstone, Inc. y estaba en camino de pedir prestado otros 600 millones de dólares para comprar su fondo de guerra para proporcionar GPU para ejecutar IA en servidores indios.

La financiación de Neysa es única porque la mayoría de sus “inferencias” de IA, o respuestas a alertas, provienen de centros de datos en el extranjero. Esta es una situación ligeramente dolorosa para los pequeños usuarios. Pero puede ser una fuente de inconvenientes para las organizaciones que desean integrar internamente LLM complejos. Es una de las mayores inversiones en infraestructura de IA en la India para una empresa india.

“Casi todas las personas que proporcionan plataformas de desarrollo quieren establecer más clusters en la India”, dijo Sanghi. “Ahora hay vacaciones fiscales. [for datacentres processing data for foreign entities]Utilizarán a la India como centro no sólo para la India. sino también la región. Por eso podemos hablar con estos grandes actores. Y esperamos cerrar algunos vendedores”.

Sanghi dijo que espera sacar provecho de parte del dinero obtenido al alcanzar el estatus de unicornio para comercializar la plataforma de la compañía en el extranjero. Pero la mayor parte de la financiación se destinará a la “infraestructura de IA”.

Sanghi dijo que la escala de las empresas no tecnológicas que buscaban aprovechar el LLM era “increíble” y que el valor que podía ofrecerles era “ayudarlas” a implementar sistemas para industrias como las de seguros y las pequeñas empresas emergentes. “Algunas personas utilizan hiperescaladores”, dijo, pero afirmó que los servicios “ágiles” son más atractivos para los usuarios.

“Creemos que actualmente hay entre 50.000 y 60.000 GPU en uso en el país. Y creemos que habrá 3 millones en los próximos dos o tres años, por lo que será una explosión 30 veces mayor”, dijo. La mayor parte de la infraestructura se utilizará para inferencias. Y no tiene por qué ser entrenamiento, dijo.

Fuente