La inteligencia artificial, o IA, se ha vuelto indispensable en la práctica médica moderna. Ya sea que utilicen complejos algoritmos de diagnóstico para modelar posibles resultados de enfermedades o actualicen aplicaciones de contabilidad médica, los médicos utilizan diferentes formas de inteligencia artificial para ayudar con las tareas cotidianas. Si bien estas herramientas pueden producir beneficios sin precedentes, la creciente integración de la IA en la práctica médica también trae consigo una serie de importantes desafíos en materia de ciberseguridad. La información médica, por supuesto, es muy sensible y confidencial, y con la aplicación de la inteligencia artificial, aumentan las posibilidades de que dicha información sensible caiga en las manos equivocadas. Para los profesionales médicos, las amenazas cibernéticas y cómo mitigarlas se han convertido en una parte integral de la práctica médica.
Los autores abordan este problema desde perspectivas muy diferentes. Uno de nosotros es un estudiante de medicina de cuarto año, conocedor de la tecnología digital y conocedor de los peligros ocultos de la tecnología ubicua. El otro es un médico de unos 60 años, entusiasmado con los usos potenciales de la IA para mejorar la práctica médica, pero menos familiarizado con cómo proteger los datos de los pacientes en esta nueva era. Sin embargo, ambos coincidimos en que todos los médicos, independientemente de su edad o de su comodidad con las nuevas tecnologías, deben estar preparados para considerar y abordar los desafíos que plantea el uso de la IA en la atención sanitaria.
Los modelos de IA a menudo dependen del entrenamiento utilizando amplios conjuntos de datos que incluyen registros médicos electrónicos, datos digitales, resultados de imágenes e información demográfica. Si estos datos no se protegen y anonimizan adecuadamente, pueden convertirse en blanco de ataques cibernéticos. Muchas organizaciones ya se han visto afectadas por ataques de ransomware que interrumpen las operaciones hospitalarias y exponen los datos de los pacientes, lo que a menudo genera consecuencias legales y demandas generalizadas. Cuando los sistemas de IA están conectados a redes externas, pueden crear puntos de acceso adicionales para los atacantes. Los médicos que utilizan herramientas de IA deberían ser conscientes de esto El acceso a sistemas confidenciales a través de dispositivos no seguros o redes públicas crea oportunidades para ataques cibernéticos.
Otra debilidad es la integración de plataformas de inteligencia artificial de terceros en los sistemas clínicos. Los hospitales y clínicas suelen depender de proveedores externos para proporcionar servicios de IA. Si bien estas plataformas pueden ser convenientes, también pueden representar una vulnerabilidad, especialmente si los proveedores no cumplen con estrictos estándares de ciberseguridad. Es posible que un médico no siempre sepa dónde se almacena la información confidencial o cómo las plataformas de inteligencia artificial procesan la información. Los datos de los pacientes también pueden pasar a través de sistemas de proveedores inseguros antes de ser procesados por el modelo de IA real, creando un eslabón débil en la cadena de ciberseguridad. En ocasiones, la información del paciente puede transferirse a servidores en la nube para su procesamiento. Cuando los servidores son pirateados, la información confidencial del paciente está en riesgo. Por lo tanto, los médicos deberían examinar minuciosamente las plataformas de IA.
Otra forma en que se viola la privacidad de los datos es cuando los médicos ingresan datos de pacientes fácilmente identificables en modelos de inteligencia artificial sin desidentificarlos lo suficiente. Existen algunos programas de inteligencia artificial que almacenan la entrada de datos de los usuarios o la utilizan para mejorar el modelo. Por lo tanto, cuando los datos de los pacientes se ingresan en una plataforma insegura, los datos pueden almacenarse o examinarse sin la supervisión adecuada. Un médico debe evitar ingresar datos de salud protegidos en software de inteligencia artificial a menos que el software tenga una licencia específica y haya sido probado para uso clínico. Además, un médico debe evitar ingresar grandes cantidades de datos de identificación siempre que sea posible, ya que múltiples puntos de datos demográficos pueden permitir que actores maliciosos identifiquen más fácilmente a un paciente. Por lo tanto, solo se deben ingresar los datos necesarios y, cuando sea posible, se pueden utilizar valores aproximados de variables numéricas como la edad, el peso y la altura para que sea más difícil identificar de manera única a un paciente, un concepto conocido como “privacidad diferencial”. Los métodos de capacitación seguros, como el aprendizaje federado, también pueden permitir que los modelos se entrenen localmente en el punto de uso, sin la necesidad de transferir datos externamente.
Las amenazas a la ciberseguridad también se extienden al procesamiento e interpretación de datos. Se pueden utilizar métodos maliciosos para manipular los propios modelos de IA. Los atacantes pueden intentar agregar datos contaminados a los conjuntos de datos de entrenamiento, lo que puede generar resultados inexactos del modelo. Los actores maliciosos también pueden modificar Introducir datos de forma sutil, como introducir ligeras perturbaciones en píxeles individuales de una radiografía o una tomografía computarizada, de una manera que conduzca a un diagnóstico erróneo del modelo de IA. Esto puede dar lugar a recomendaciones clínicas incorrectas en los sistemas de diagnóstico. Por lo tanto, los médicos deben tener en cuenta que los resultados de la IA no son perfectos y siempre deben verificarse mediante el criterio clínico.
En resumen, los médicos pueden implementar una serie de iniciativas útiles para reducir el riesgo de ciberataques cuando se trata de IA. Los médicos primero deben capacitarse en el uso responsable de la tecnología y la seguridad digital. Muchos incidentes cibernéticos recurrentes se pueden evitar con un conocimiento básico de los correos electrónicos de phishing, los enlaces sospechosos y las redes que no son de confianza. Además, los médicos deben cumplir con las políticas institucionales con respecto a la seguridad de los dispositivos y habilitar la autenticación de dos factores cuando esté disponible para reducir la posibilidad de que partes no autorizadas accedan a los sistemas de atención médica. Antes de implementar nuevas plataformas de IA, los hospitales y clínicas también deben realizar rigurosas evaluaciones de ciberseguridad. Esto implica confirmar los procedimientos de almacenamiento de datos, los estándares de cifrado y el cumplimiento de HIPAA.
La inteligencia artificial tiene un enorme potencial. Por otro lado, la IA también representa un panorama complejo de ciberseguridad que debe manejarse con prudencia. El médico desempeña un papel clave a la hora de garantizar que no se viole la privacidad de los pacientes garantizando que la tecnología de inteligencia artificial se utilice de manera responsable. Esto ayudará a garantizar que se eviten violaciones de la privacidad y ataques cibernéticos, permitiendo así que se obtengan todos los beneficios de la tecnología y la innovación en la prestación de servicios médicos con un riesgo mínimo.
Purab Patel Es estudiante de medicina.
Francisco Torres Es un fisiatra intervencionista que se especializa en el diagnóstico y tratamiento de pacientes con síndromes de dolor relacionados con la columna. Está certificado por la Junta Estadounidense de Medicina Física y Rehabilitación y la Junta Estadounidense de Medicina del Dolor y puede comunicarse con él en Instituto de Bienestar y Columna Vertebral de Florida.
El Dr. Torres nació en España y creció en Puerto Rico. Se graduó de la Escuela de Medicina de la Universidad de Puerto Rico. El Dr. Torres realizó su residencia en Medicina Física y Rehabilitación en el Hospital de la Administración de Veteranos en San Juan antes de completar su especialización en musculoesquelético en el Centro Médico de la Universidad Estatal de Luisiana en Nueva Orleans. Se desempeñó durante tres años como instructor clínico de medicina y profesor asistente en LSU antes de unirse al Florida Spine Institute en Clearwater, Florida, donde se desempeña como director médico del programa de bienestar.
El Dr. Torres es un fisiatra intervencionista que se especializa en diagnosticar y tratar pacientes con síndromes de dolor relacionados con la columna. Está certificado por la Junta Estadounidense de Medicina Física y Rehabilitación y la Junta Estadounidense de Medicina del Dolor. Es un escritor prolífico interesado principalmente en la medicina preventiva. Trabaja con todos sus pacientes para promover la salud general.
