La gestión de riesgos de la IA es un esfuerzo de equipo
La gestión de riesgos de la IA debe implicar negociaciones interfuncionales dentro de la organización. No puede ser sólo en el aspecto clínico o tecnológico. Legal, marketing, operaciones: la mayoría de los departamentos deben estar en sintonía, ya que adaptar una nueva solución puede tener un impacto financiero en la organización, por lo que debe haber una comunicación clara sobre los riesgos.
Los líderes deben controlar el plan de riesgos y tener esa visibilidad para saber cuándo el uso de la solución se desvía de lo que todas las partes interesadas han acordado. ¿Han cambiado en algún momento las políticas de uso aceptable del proveedor? ¿La organización está realizando una evaluación de riesgos única o debería establecer un conjunto de controles para el cumplimiento continuo y la medición de riesgos?
Aquí es donde las organizaciones pueden comenzar a incorporar algunos de sus indicadores de riesgo clave en torno a las soluciones de inteligencia artificial para que estén siempre activos y omnipresentes. Si es sólo una instantánea de un momento que las organizaciones necesitan analizar, se vuelve irrelevante. Es probable que estas soluciones estén cambiando más rápido de lo que esperamos, por lo que necesitan tener controles en tiempo real.
En última instancia, comprender y gestionar los riesgos en la atención sanitaria es fundamental. Si las organizaciones no hacen esto bien y los pacientes reciben una notificación de que sus datos se han visto comprometidos, buscarán atención en otro lugar. Este abuso de confianza tendrá un impacto a largo plazo en el proveedor.
Del mismo modo, los marcos de riesgo de IA disponibles deben lograr una mayor confiabilidad en la atención médica. Si los proveedores van a adoptar y adaptar cualquier marco establecido, ya sea por un organismo independiente o una agencia gubernamental, es necesario que haya más colaboración y transparencia sobre cómo funcionarán estos controles en un entorno de atención médica.
Como alguien con décadas de experiencia en seguridad sanitaria, sé lo rápido que puede cambiar la postura de una organización. En un momento un proveedor es seguro y al siguiente hay una infracción. La confiabilidad no sólo se gana, sino que se demuestra. Este es uno de los factores más importantes de estas estructuras de gestión de riesgos y las plataformas en las que se encuentran.
