CEO de Box Aaron Levie en la ‘era de contexto’ de AI

El jueves, Box lanzó su conferencia de desarrollador Boxworks al anunciar un nuevo conjunto de características de IA, construyendo modelos AI de AI en la columna vertebral de los productos de la compañía.

Son más anuncios de productos de lo habitual para la conferencia, lo que refleja el ritmo cada vez más rápido del desarrollo de IA en la compañía: Box lanzó su estudio de IA el año pasado, seguido de un nuevo conjunto de agentes de extracción de datos en febreroy otros para la búsqueda y la investigación profunda En Mayo.

Ahora la compañía está lanzando un nuevo sistema llamado Caja Eso funciona como una especie de sistema operativo para los agentes de IA, dividiendo flujos de trabajo en diferentes segmentos que pueden aumentarse con la IA según sea necesario.

Hablé con el CEO Aaron Levie sobre el enfoque de la compañía para la IA y el peligroso trabajo de competir con las compañías de modelos de fundaciones. Como era de esperar, era muy optimista sobre las posibilidades de los agentes de IA en el lugar de trabajo moderno, pero también tenía los ojos claros sobre las limitaciones de los modelos actuales y cómo gestionar esas limitaciones con la tecnología existente.

Esta entrevista ha sido editada por longitud y claridad.

Estás anunciando un montón de productos de IA hoy, así que quiero comenzar preguntando por la visión de gran imagen. ¿Por qué incorporar a los agentes de IA en un servicio de gestión de contenido en la nube?

Entonces, en lo que pensamos todo el día, y en lo que nuestro enfoque está en la caja, es cuánto trabajo está cambiando debido a la IA. Y la gran mayoría del impacto en este momento está en los flujos de trabajo que involucran datos no estructurados. Ya hemos podido automatizar cualquier cosa que se ocupe de datos estructurados que entre en una base de datos. Si piensa en los sistemas CRM, los sistemas ERP, los sistemas de recursos humanos, ya hemos tenido años de automatización en ese espacio. Pero donde nunca hemos tenido automatización es algo que toque datos no estructurados.

Piense en cualquier tipo de proceso de revisión legal, cualquier tipo de proceso de gestión de activos de marketing, cualquier tipo de revisión de acuerdos de fusiones y adquisiciones: todos esos flujos de trabajo tratan con muchos datos no estructurados. Las personas tienen que revisar esos datos, hacer actualizaciones, tomar decisiones, etc. Nunca hemos podido traer mucha automatización a esos flujos de trabajo. Hemos podido describirlos en el software, pero las computadoras no han sido lo suficientemente buenas para leer un documento o mirar un activo de marketing.

Entonces, para nosotros, los agentes de IA significan que, por primera vez, podemos aprovechar todos estos datos no estructurados.

¿Qué pasa con los riesgos de desplegar agentes en un contexto comercial? Algunos de sus clientes deben estar nerviosos por implementar algo como esto en datos confidenciales.

Lo que hemos estado viendo de los clientes es que quieren saber que cada vez que ejecutan ese flujo de trabajo, el agente se ejecutará más o menos de la misma manera, en el mismo punto del flujo de trabajo, y no hará que las cosas salgan de los rieles. No querrá que un agente cometa algún error compuesto donde, después de hacer las primeras 100 presentaciones, comienzan a correr un poco.

Se vuelve realmente importante tener los puntos de demarcación correctos, donde comienza el agente y las otras partes del sistema terminan. Para cada flujo de trabajo, existe esta cuestión de lo que debe tener barandillas deterministas y lo que puede ser completamente agente y no determinista.

Lo que puede hacer con Box Automate es decidir cuánto trabajo desea que haga cada agente individual antes de que se entregue a un agente diferente. Por lo tanto, es posible que tenga un agente de envío que esté separado del agente de revisión, y así sucesivamente. Le permite implementar básicamente agentes de IA a escala a escala en cualquier tipo de flujo de trabajo o proceso comercial en la organización.

¿Con qué tipo de problemas protege al dividir el flujo de trabajo?

Ya hemos visto algunas de las limitaciones incluso en los sistemas totalmente agentes más avanzados como el código Claude. En algún momento de la tarea, el modelo se queda fuera de la sala de ventanas contextuales para continuar tomando buenas decisiones. No hay un almuerzo gratis en este momento en AI. No puede simplemente tener un agente de larga duración con una ventana de contexto ilimitada después de cualquier tarea en su negocio. Entonces tienes que romper el flujo de trabajo y usar sbagents.

Creo que estamos en la era del contexto dentro de la IA. Lo que necesitan los modelos y los agentes de IA es el contexto, y el contexto que necesitan para trabajar es estar sentado dentro de sus datos no estructurados. Por lo tanto, todo nuestro sistema está realmente diseñado para descubrir qué contexto puede darle al agente de IA para garantizar que funcionen de la manera más efectiva posible.

Hay un mayor debate en la industria sobre los beneficios de los modelos fronterizos grandes y poderosos en comparación con los modelos que son más pequeños y más confiables. ¿Esto te pone del lado de los modelos más pequeños?

Probablemente debería aclarar: nada sobre nuestro sistema evita que la tarea sea arbitrariamente larga o compleja. Lo que estamos tratando de hacer es crear las barandillas adecuadas para que decida cuán agente desea que sea esa tarea.

No tenemos una filosofía particular sobre dónde las personas deberían estar en ese continuo. Solo estamos tratando de diseñar una arquitectura a prueba de futuro. Hemos diseñado esto de tal manera donde, a medida que mejoren los modelos y a medida que mejoren las capacidades de agente, obtendrá todos esos beneficios directamente en nuestra plataforma.

La otra preocupación es el control de datos. Debido a que los modelos están entrenados en tantos datos, existe un temor real de que los datos confidenciales se regurgiten o se usen mal. ¿Cómo tiene en cuenta eso?

Es donde muchos despliegues de IA salen mal. La gente piensa: “Oye, esto es fácil. Le daré a un modelo de IA acceso a todos mis datos no estructurados, y responderá preguntas para las personas”. Y luego comienza a darle respuestas a los datos a los que no tiene acceso o no debe tener acceso. Necesita una capa muy poderosa que maneje los controles de acceso, seguridad de datos, permisos, gobernanza de datos, cumplimiento, todo.

Por lo tanto, nos estamos beneficiando de las dos décadas que hemos pasado construyendo un sistema que básicamente maneja ese problema exacto: ¿cómo se asegura de que solo la persona adecuada tenga acceso a cada datos en la empresa? Entonces, cuando un agente responde una pregunta, usted sabe determinista que no puede recurrir a ningún dato a los que esa persona no debería tener acceso. Eso es algo fundamentalmente construido en nuestro sistema.

A principios de esta semana, Anthrope lanzó una nueva característica para cargar directamente archivos a Claude.ai. Es un largo camino desde el tipo de administración de archivos que lo hace, pero debe estar pensando en la posible competencia de las compañías de modelos de fundación. ¿Cómo aborda eso estratégicamente?

Entonces, si piensa en lo que las empresas necesitan cuando implementan IA a escala, necesitan seguridad, permisos y control. Necesitan la interfaz de usuario, necesitan API potentes, quieren su elección de modelos de IA, porque un día, un modelo de IA alimenta algún caso de uso para ellos que es mejor que otro, pero eso podría cambiar, y no quieren ser bloqueados en una plataforma en particular.

Entonces, lo que hemos creado es un sistema que le permite tener efectivamente todas esas capacidades. Estamos haciendo el almacenamiento, la seguridad, los permisos, la incrustación del vector, y nos conectamos con cada modelo de IA líder que existe.