Charles, Renée Pratt, expresidenta del Grupo de Interés Especial sobre Tecnología de la Información de Salud de la Asociación de Sistemas de Información, y Jack Crumbly, jefe del Departamento de Gestión y profesorado de la Facultad de Negocios y Ciencias de la Información Andrew F. Brimmer de la Universidad de Tuskegee, dirigieron la sesión para médicos y partes interesadas en TI de la salud. Alentaron a los participantes a pensar más profundamente sobre los riesgos y recompensas asociados con las herramientas de documentación clínica ambiental.
Creciente escrutinio de las herramientas de inteligencia ambiental
Los médicos están cada vez más entusiasmados con la adopción de la inteligencia artificial en sus consultas, especialmente si puede ayudar a reducir cargas administrativas como la documentación. En los últimos años, varios sistemas de salud han notado que el uso de herramientas de escucha ambiental ayuda a ahorrar tiempo en los gráficos, mejora la satisfacción de los médicos y crea más atención en los pacientes.
En cuanto a los pacientes, algunos pueden sentir que sus médicos pueden prestarles más atención a ellos que a la pantalla de una computadora, como muestra un video de UW Health. Pero es posible que otros todavía estén preocupados por las consecuencias no deseadas del uso de la IA en la atención médica, especialmente diagnósticos erróneos, violaciones de la privacidad, menos tiempo con los médicos y mayores costos de atención.
LEER MÁS: Cómo fortalecer la fortaleza de la estrategia de IA con visión clínica.
La ambivalencia hacia las herramientas de inteligencia ambiental incluso se ha manifestado en dramas médicos de televisión muy vistos: un episodio reciente del programa de HBO La fosa Capta el entusiasmo y la cautela con la que los médicos recibieron estas herramientas.
Durante la sesión de HIMSS, Charles también destacó las preocupaciones legales emergentes sobre responsabilizar a las organizaciones proveedoras por los resultados negativos asociados con el uso de la IA en aplicaciones de atención médica. El mes pasado, la Asociación de Abogados de Estados Unidos publicó un artículo que describe las preocupaciones de privacidad y seguridad con las herramientas de escucha ambiental, incluidas demandas recientes en California e Illinois por el uso de dicha tecnología sin el consentimiento del paciente.
¿Cuándo deberían los médicos informar a los pacientes que sus interacciones están siendo transcritas por una herramienta de escucha ambiental? ¿Debería hacerse la divulgación al comienzo de cada reunión? ¿Qué pasa si se trata de un entorno de internación que requiere que los médicos vean a un paciente varias veces al día? ¿Basta con incluirlo por escrito entre los papeles a firmar que los pacientes suelen hojear? Todas estas son preguntas que, por ahora, están siendo respondidas por organizaciones de atención médica individuales, ya que las directrices federales aún no se han actualizado.
DESCUBRIR: La optimización del flujo de trabajo clínico genera mejores resultados para los pacientes.
Pratt señaló que otras preocupaciones operativas incluyen la administración de dispositivos y la seguridad de la red. Si las organizaciones tienen una política BYOD, ¿la herramienta de escucha ambiental es compatible con el teléfono inteligente personal del médico? ¿Cómo se mantienen limpios los dispositivos? También citó preocupaciones sobre el uso de “palabras de activación” que podrían activar involuntariamente no solo el dispositivo del médico que presenta la herramienta, sino también cualquier dispositivo del paciente.
“Cuando pensamos en la gobernanza de la IA, hay que hacerse algunas preguntas. ¿Quién es responsable? ¿Quién tiene el permiso? ¿Qué datos se pueden utilizar? ¿Cómo se detectarán los problemas? Ser capaz de gestionar estos problemas será extremadamente crítico”, afirmó Pratt.
