¿Qué sucede cuando el software que todos se apresuran a adoptar se vuelve demasiado riesgoso para que cualquiera pueda manejarlo? De acuerdo a Informe del Financial Timesestamos a punto de descubrirlo.
Las principales aseguradoras, incluidas AIG, Great American y WR Berkley, están solicitando permiso a los reguladores estadounidenses para excluir de las pólizas corporativas los pasivos relacionados con la IA. Un suscriptor describe los resultados de los modelos de IA para el FT como “demasiado una caja negra”.
La historia nos recuerda que la industria tiene buenas razones para estar asustada. La descripción general de la IA de Google acusó falsamente a una empresa solar de tener problemas legales, lo que provocó una demanda 110 millones de dólares proceso en marzo. Air Canada el año pasado se quedó estancada al honrar un descuento chatbot inventado. Y el año pasado, los estafadores utilizaron una versión clonada digitalmente de un alto ejecutivo para robar. 25 millones de dólares de la firma de ingeniería de diseño Arup, con sede en Londres, durante una videollamada que parecía totalmente real.
Lo que realmente aterroriza a las aseguradoras no es un pago masivo; es el riesgo sistémico de miles de reclamaciones simultáneas cuando interviene un modelo de IA ampliamente utilizado. Como dijo un ejecutivo de Aon, las aseguradoras pueden hacer frente a una pérdida de 400 millones de dólares para una empresa. Lo que no pueden soportar es un fallo de la IA que cause 10.000 pérdidas a la vez.
