La nueva plataforma de agente de IA de Cohere, North, promete mantener seguros los datos empresariales

Las herramientas de agentes de IA prometen desviar parte del trabajo pesado de flujos de trabajo diarios, pero la mayoría de las organizaciones dudan en adoptarlos todavía, albergando una preocupación apremiante: la seguridad de los datos. Grandes empresas con secretos comerciales, empresas en industrias altamente reguladas y agencias gubernamentales han pensado más de dos veces antes de traer herramientas de IA fuera de preocupación de que sus datos, o peor, los de sus clientes, sean inadvertidamente comprometidos o utilizados para capacitar a los modelos fundamentales.

La firma de IA canadiense Cohere tiene como objetivo aliviar esas preocupaciones con su nueva plataforma de agente de IA denominada Norte, que promete permitir el despliegue privado para que las empresas y los gobiernos puedan mantener sus datos y los datos de sus clientes seguros detrás de sus propios firewalls.

“Los LLM son tan buenos como los datos a los que tienen acceso”, Nick Frosstcofundador de Cohere, dijo durante una demostración del norte. “Si queremos que los LLM sean lo más útiles posible, tienen que acceder a esos datos útiles, y eso significa que deben implementarse en [the customer’s] ambiente.”

En lugar de utilizar plataformas en la nube empresarial como Azure o AWS, Cohere dice que puede instalar el norte en la infraestructura privada de una organización para que nunca vea o interactúe con los datos de un cliente. North puede funcionar en la infraestructura local de una organización, las nubes híbridas, los VPC o los entornos de aire obtenido, dijo Frosst.

“Podemos desplegar literalmente en una GPU en un armario que podrían tener en algún lugar”, explicó, y agregó que North fue diseñado para funcionar con tan solo dos GPU.

Cohere afirma North también incluye protocolos de seguridad como control de acceso granular, políticas de autonomía del agente, teaming rojo continuo y pruebas de seguridad de terceros. Y cumple con los estándares de cumplimiento internacional como GDPR, SOC-2 e ISO 27001.

Más que despliegues privados

Cohere, que tiene hasta ahora aumentó $ 970 millones, más recientemente con una valoración de $ 5.5 mil millones, dijo que ya se ha puesto a prueba el norte con algunos clientes como RBC, Dell, LG, Ensemble Health Partners y, como informó TechCrunch el año pasado, Palantir.

North refleja muchas plataformas de agentes de IA desde el principio. Sus características principales son el chat y la búsqueda, que permiten a los usuarios obtener respuestas a consultas de atención al cliente; Resume las transcripciones de reuniones, escriba una copia de marketing e información de acceso a los recursos internos y la web. Frosst agregó que todas las respuestas incluyen citas y cadenas de pensamiento de “razonamiento” para que los empleados puedan auditar y verificar la salida.

Las funciones de chat y búsqueda funcionan con la tecnología de coherentes existente, como el comando (su familia de modelos de IA generativos) y Compass (su pila de tecnología de búsqueda multimodal). Frosst dijo que North funciona con una variante de su modelo de comando que está entrenado para el razonamiento empresarial.

“Va más allá de solo preguntas y respuestas y se dedica a trabajar para ti. Entonces, [North] tiene un montón de creación de activos. Puede hacer tablas, puede hacer documentos, puede hacer presentaciones de diapositivas. Puede hacer un montón de investigación de mercado ”, dijo Frosst.

Vale la pena señalar que en mayo Cohere Ottogrid adquiridouna plataforma basada en Vancouver que desarrolla herramientas empresariales para automatizar la investigación de mercado de alto nivel.

Al igual que otras plataformas de agentes de inteligencia artificial, North puede conectarse a herramientas de trabajo existentes como Gmail, Slack, Salesforce, Outlook y Linear, e integrarse con los servidores del Protocolo de contexto del Modelo (MCP) para acceder a aplicaciones específicas de la industria o internas.

“A medida que crea confianza charlando con el modelo, hay una transición suave que ocurre entre usar esto como un aumento para usarlo como automatización”, dijo Frosst.

Corrección: una versión anterior de este artículo indicaba el título de Frosst. Lamentamos el error.