KPMG construyó un aviso de Monster LLM de 100 páginas y ahora el asesoramiento fiscal que una vez tomó semanas se produce en horas
- El desarrollo de Taxbot de KPMG consumió meses de redacción de un aviso de 100 páginas
- El asesoramiento fiscal escrito por los socios se había dispersado en innumerables computadoras portátiles
- KPMG Workbench Hosts Múltiples modelos LLM de proveedores competidores
Cuando los modelos de idiomas grandes comenzaron a atraer la atención global a fines de 2022, los líderes digitales de KPMG inmediatamente reconocieron los beneficios potenciales pero también los principales riesgos.
El director digital John Munnelly admitió que los primeros experimentos con ChatGPT produjeron resultados “realmente aterradores”, incluido el descubrimiento de datos financieros confidenciales sin garantía en servidores internos.
Ese incidente hizo que la empresa suspendiera los experimentos, restringir el acceso al público Herramientas AIy reevaluar los peligros que podrían introducir el despliegue incontrolado.
Construyendo una plataforma de IA privada
Posteriormente, KPMG comenzó a construir un entorno cerrado para el trabajo de IA, respaldado por licencias de software que permitieron el acceso a OpenAI y Microsoft sistemas.
Este movimiento le dio a la consultoría la oportunidad de diseñar aplicaciones dentro de los límites más seguros, lo que eventualmente condujo a una plataforma llamada KPMG Workbench.
El sistema combinó la generación de recuperación de recuperación, múltiples LLM opciones y capacidades de alojamiento de agentes.
En lugar de depender de un solo proveedor, la empresa difundió deliberadamente el uso en Openai, Google, Microsoft, Anthrope y Meta.
A lo largo de 2023, se dedicó un esfuerzo extenso a capacitar a los empleados sobre cómo escribir las indicaciones de manera efectiva e interactuar con Escritor de IA sistemas.
Para 2024, el australiano brazo de KPMG iniciaron proyectos para construir agentes especializados. Entre ellos estaba el llamado Taxbot, una herramienta diseñada para preparar asesoramiento fiscal.
Munnelly explicó que el desarrollo comenzó por reunir consejos escritos por socios que habían sido “almacenados por todo el lugar”, a menudo dispersos en computadoras portátiles.
Esa información, combinada con el código tributario de Australia, se colocó en un modelo de RAG para producir borradores automatizados. TaxBot, sin embargo, no fue trivial de construir.
Según Munnelly, su creación requirió un aviso de 100 páginas, redactado durante meses por un equipo dedicado y finalmente alimentado a Workbench.
El resultado es un sistema que solicita varias entradas, busca orientación de expertos humanos y luego genera un documento de 25 páginas para la revisión del cliente.
Munnelly afirmó que el agente ahora realiza tareas que una vez tomó dos semanas en un solo día, un cambio que describió como “muy eficiente”.
Sugirió que el cambio rápido es particularmente importante para los clientes que participan en acuerdos sensibles al tiempo, como fusiones.
Sin embargo, también enfatizó que solo los agentes fiscales con licencia pueden operar la herramienta, reconociendo que la producción sin supervisión profesional no es adecuada para los usuarios generales.
Más allá de la eficiencia, KPMG argumenta que la introducción de los agentes ha aumentado la satisfacción del personal, ya que se pueden evitar tareas repetitivas.
Además, algunos clientes han expresado interés en adquirir agentes similares, generando flujos de ingresos que KPMG no anticipó originalmente. Sin embargo, la empresa reconoce que medir beneficios precisos sigue siendo difícil.
A través de El registro
