Con las herramientas anteriores de apoyo a las decisiones clínicas, dijo, hubo una mejor comprensión de los algoritmos que se estaban implementando y fuentes de datos más claras. Pero con la nueva generación de herramientas de IA, “son una especie de caja negra en el entorno clínico. Así que si estoy viendo a un paciente y surge algún tipo de apoyo para la toma de decisiones, es posible que no sepa cuál es el algoritmo en segundo plano. Es posible que no sepa si los datos que se han incluido en el algoritmo son precisos”, afirmó.
También cuestionó qué tipo de circuitos de retroalimentación existían para estas herramientas. “Cuando las cosas van mal, ¿tendremos una manera de informarlas? ¿Las solucionaremos si las informamos? ¿Cuáles son esos mecanismos? Y creo que tener procesos implementados será realmente importante para que nos sintamos cómodos usando estas herramientas en el entorno clínico. Reconocemos absolutamente su valor. Sabemos que pueden ser realmente útiles en un entorno clínico. Pero es necesario que exista esa confianza que se construirá a medida que sigamos implementándolas”.
Lozovatsky agregó que las organizaciones deben monitorear las alucinaciones y desviaciones para que estos modelos afecten la atención al paciente.
Kathryn King, directora de información médica y codirectora del centro nacional de excelencia en telesalud de la Universidad Médica de Carolina del Sur, dijo que la adopción de la IA en entornos clínicos probablemente requerirá una reconfiguración de los flujos de trabajo que comienzan con el sistema de registros médicos electrónicos.
“La inmadurez que veo en las soluciones de IA en el espacio clínico es que en realidad son una solución puntual, por así decirlo, en un solo punto de un largo flujo de trabajo clínico, generalmente dentro de la HCE”, dijo King. “Ese punto concreto del flujo de trabajo no resuelve realmente todo el problema del médico”.
Si bien la Ley HITECH de 2009 fue esencial para alentar a las organizaciones de atención médica a adoptar sistemas EHR, el quid del proceso fue la digitalización de los registros en papel. Muchas de las características de la HCE son reliquias de las cartas en papel.
“Creo que la próxima iteración de esto tiene que ser hacer las preguntas: ¿Por qué hacemos las cosas de la forma en que las hemos estado haciendo todos estos años y cómo avanzamos hacia un flujo de trabajo diferente que tal vez utilice más la voz, pero de una manera que tenga sentido para cada individuo? Y para mí, la atención se ha centrado tanto en ‘esta es la herramienta, esto es lo interesante’, en lugar de dar un paso atrás y reinventar realmente la forma en que brindamos atención”, dijo Lozovatsky.
