Deloitte obligó a reembolsar al gobierno australiano después de admitir que usó AI para producir un informe cubierto de errores
- Deloitte admite usar IA para producir un informe gubernamental
- El gobierno australiano recibió un reembolso en disculpas
- Destaca la necesidad de una mayor transparencia en torno al uso de IA
Deloitte ha admitido haber usado una IA generativa para producir un informe para el gobierno australiano sin implementar suficientes salvaguardas, atrayendo a la compañía en una gran cantidad de problemas.
El informe incluyó citas falsas, notas al pie falsas y una cita judicial inventada, entre otros errores, aterrizando Deloitte con una penalización voluntaria no tan insignificante.
Deloitte acordó pagar la entrega final de su acuerdo de AU $ 440,000 con el Departamento de Empleo y Relaciones Lugar de Trabajo (DEWR) del gobierno, y la agencia arregló los errores.
Genai bajo fuego
DeWR se vio obligado a volver a cargar el informe, eliminando más de una docena de falsas referencias, arreglando errores tipográficos y reescribiendo algunas secciones. Aunque la agencia afirma que los mensajes centrales siguen sin cambios, el informe previamente “final” claramente necesitaba algunas revisiones importantes.
Se eliminaron las citas falsas de los académicos Lisa Burton Crawford y Björn Regnell, así como un extracto del caso de Amato vs Commonwealth atribuido a una persona que realmente no existe.
El actualizado documento Ahora revela el uso de GPT-4O, y si bien usar Genai en sí mismo no es un problema, este caso resalta la necesidad de transparencia. Esto es de una firma de consultoría que aboga por la IA responsable.
“Las actualizaciones realizadas de ninguna manera impactan o afectan el contenido sustantivo, los hallazgos y las recomendaciones en el informe”, se lee ahora el informe actualizado.
El Dr. Christopher Rudge de la Universidad de Sydney se le atribuye la identificación del uso de Genai. “No puede confiar en las recomendaciones cuando la base misma del informe se basa en una metodología defectuosa, originalmente no revelada y no experta”, agregó (a través del Revisión financiera australiana).
Deloitte dice que “el asunto se ha resuelto directamente con el cliente”, según el Financial Times. Techradar Pro ha contactado para un contexto adicional.
Sigue a TechRadar en Google News y Agréganos como fuente preferida Para obtener nuestras noticias, revisiones y opinión de expertos en sus feeds. ¡Asegúrese de hacer clic en el botón Forzar!
Y por supuesto que también puedes Sigue a TechRadar en Tiktok Para noticias, reseñas, descifos en forma de video y obtenga actualizaciones regulares de nosotros en Whatsapp también.
