Dentro de la carrera para asegurar Genai: por qué la prevención de la pérdida de datos lidera la batalla de SaaS
A principios de 2024, una firma internacional de servicios financieros descubrió que un analista interno había cargado proyecciones de ganancias patentadas a un chatbot de Genai para formatear ayuda. El chatbot, una herramienta de nivel de consumo no examinada para uso empresarial, almacenó la consulta en sus registros de capacitación. En cuestión de semanas, los fragmentos de los datos surgieron en salidas de usuarios no relacionadas. No fue una violación en el sentido tradicional. Pero para los equipos legales y de cumplimiento de la compañía, fue peor: un incidente de IA en la sombra, invisible hasta que fue demasiado tarde.
Estos riesgos no están aislados. A medida que las empresas se apresuran a implementar herramientas de inteligencia artificial en los flujos de trabajo, están surgiendo nuevas vulnerabilidades. Shadow Ai, el uso no autorizado del software Genai por parte de los empleados, se está convirtiendo en una de las preocupaciones más apremiantes para los principales oficiales de seguridad de la información. Los agentes automatizados, las API y los complementos no supervisados ahora mueven datos a Volumes Legacy Systems no pueden rastrear de manera significativa. Un paso en falso puede desencadenar multas multimillonarias bajo regulaciones globales como GDPR y SOX.
Achal SingiVicepresidente de Westbridge Capital, ha estado observando este cambio desde las líneas del frente. Con más de una década de experiencia en software empresarial e infraestructura de IA, Singi se centra en las inversiones en etapas tempranas y de crecimiento con profundidad de infraestructura. A Juez de Globee Awards for Technologyha evaluado una variedad de plataformas de ciberseguridad que responden a la crisis de la IA de la sombra. “Las empresas no preguntan qué tan rápido pueden implementar copilotos, están preguntando qué tan seguros están sus datos una vez que lo hacen”, dice.
Su trabajo con Turing, un proveedor clave de OpenAi, antrópico, Nvidia y otros laboratorios de IA principales, ha reforzado esta realidad. “Los modelos de capacitación es una cosa. Convertir esos modelos en herramientas seguras, compatibles y listas para la producción para industrias altamente reguladas es donde se encuentra el verdadero desafío”, señala Singi. Westbridge apoyó la expansión de Turing en la seguridad de LLM, los copilotos de auditoría e infraestructura de IA empresarial, ayudando a la compañía a escalar de menos de $ 10 millones a más de $ 300 millones en ingresos anuales.
Por qué la prevención de la pérdida de datos ha vuelto en el centro de atención
Durante años, la prevención de la pérdida de datos se sintió como una casilla de verificación en lugar de un escudo. Hoy, es fundamental para la postura de seguridad empresarial. La explosión de las aplicaciones SaaS, la permanencia del trabajo híbrido y el rápido despliegue de Genai han creado vastas nuevas superficies de amenazas. Las herramientas creadas para las redes de la última década están luchando para proteger los flujos de trabajo de esta década.
Los compradores empresariales están cambiando hacia soluciones que se integran directamente en los sistemas diarios. Las plataformas api-nativas como Nightfall Ai están prosperando incrustando en Slack, Google Workspace y Salesforce. Detectan y remedian fugas con una interrupción mínima. Se han escaneado más de dos mil millones de artículos, y más del 80 por ciento de los incidentes se resuelven automáticamente.
“Los compradores ya no quieren guardianes, quieren filtros inteligentes”, dice Singi. “Herramientas que comprenden cómo funcionan e intervienen solo cuando sea necesario”.
Esta expectativa del comprador se refleja en otras compañías respaldadas por Westbridge. Innovaccer, ahora utilizado por siete de los 10 principales sistemas de salud de EE. UU., Ha integrado las salvaguardas de datos DLP y de pacientes en sus módulos de IA de atención médica. Desde la automatización del código de facturación hasta el seguimiento de la participación basado en CRM, la plataforma de la compañía prioriza el cumplimiento por diseño, no por remolinos.
Repensar la inversión de seguridad a través de señales estratégicas
Los inversores están evolucionando cómo piensan sobre la seguridad. El pivote de los motores heredados basados en reglas hasta las plataformas modernas y nativas de ML está acelerando. La seguridad ahora debe cubrir la capa de aplicación, la capa de colaboración y el creciente ecosistema de API y agentes que rodean cada pila empresarial.
Este cambio ha dado forma al enfoque de Westbridge. Singi y su equipo trabajaron en estrecha colaboración con el anochecer para ir más allá de la detección de la red y hacia el monitoreo de la exfiltración de puntos finales, la puntuación del riesgo en tiempo real y la aplicación de políticas dinámicas. Estas características se construyeron en respuesta a la entrada directa de los líderes de seguridad empresarial.
Una dinámica similar se desarrolló en Turing. Singi apoyó el desarrollo de los copilotos de auditoría de Genai de la compañía para sectores como la banca y la farmacia, donde el cumplimiento no es opcional. Los clientes ahora usan estos copilotos para cumplir con regulaciones como los protocolos de inspección del sitio SOX 404, HIPAA y la FDA. “La seguridad que ralentiza los flujos de trabajo no durará. Los sistemas que escalan son los que entienden lo que las empresas no pueden darse el lujo de equivocarse”, dice Singi. Como Juez acelerador de upekkhaSingi continúa viendo la usabilidad y la extensibilidad, no solo la detección de amenazas, como indicadores principales de la adopción a largo plazo.
El cumplimiento es la nueva infraestructura
La Revolución AI no se trata solo de velocidad. Se trata de confianza. Las regulaciones se están ajustando y las empresas se están adaptando. HIPAA, Fedramp y Basilea III se están actualizando para abordar IA explícitamente. El resultado es un nuevo tipo de demanda de infraestructura. Las empresas no solo están adoptando IA, sino que están reconstruyendo su pila para gobernarla.
Singi escribió recientemente que el cumplimiento ya no es un ejercicio de documentación. Es una decisión del producto. Esa idea es visible en compañías como Innovaccer, cuyos módulos de IA de atención médica han ayudado a sistemas como Chi Health y Franciscan Alliance a reducir los reingresos, las brechas de codificación de estrecha y administrar la vida de Medicare con confianza. Estos sistemas fueron diseñados para cumplir con el escrutinio regulatorio desde la primera línea de código. Turing siguió un camino similar, la alineación de edificios y las herramientas RLHF que hicieron que los LLM fueran más seguros y preparados para la empresa. Sus copilotos de auditoría en atención médica y financiación han reducido el tiempo de preparación de inspección hasta en un 50 por ciento, al tiempo que aumenta la precisión de cumplimiento.
En su artículo de Dzone titulado “Una guía paso a paso para el desarrollo de aplicaciones empresariales“ Singi se expande en esta mentalidad. Argumenta que la arquitectura resistente, basada en limitaciones del mundo real, importa más que características llamativas. En entornos donde el tiempo de actividad se mide en SLA con penalizaciones de siete cifras, las barandillas no son opcionales. Son fundamentales para el producto en sí, no separados de él.
La arquitectura tranquila detrás del futuro empresarial de Genai
La próxima categoría de software empresarial de ruptura puede no ser la más llamativa. Puede ser el más seguro. El aumento de las plataformas de seguridad de datos para AI refleja un cambio de mercado más profundo. Las herramientas ya no son juzgadas únicamente por características. Son juzgados por su capacidad de contener riesgos.
“La seguridad se ha convertido silenciosamente en la base sobre la que descansa toda la otra innovación”, dice Singi. “La próxima generación de IA empresarial no será juzgada por su creatividad, sino por su contención”.
La trayectoria de Turing, desde el entrenamiento fundamental de LLM para habilitar los lanzamientos de producción Fortune 500, ilustra esto perfectamente. Lo mismo ocurre con la capacidad de Innovaccer para unificar los datos de los pacientes en los sistemas de salud fragmentados al tiempo que mantiene el cumplimiento hermético. Ambas compañías están ayudando a definir cómo se ve realmente la IA segura en la práctica.
La seguridad de SaaS ya no es una conversación paralela. Es una condición de lanzamiento. Las compañías que entienden esto, que hacen que la seguridad sea intrínsecia al diseño del producto, definirán la IA Enterprise en 2025 y más allá. Los copilotos más fuertes pueden obtener los titulares. Pero son las salvaguardas más tranquilas las que ganarán la confianza.
