Mientras India acoge la cumbre mundial sobre el impacto de la IA, la retórica sobre el potencial transformador de la IA en la atención sanitaria parece estar oscureciendo realidades y preocupaciones críticas. El 7 de febrero tuvo lugar en Delhi un tipo diferente de conversación sobre IA durante la consulta nacional sobre IA dirigida por humanos en la atención sanitaria, destacando un enfoque alternativo basado en la atención sanitaria y los derechos de los pacientes y los proveedores. Durante esta conversación, médicos, expertos en salud pública, tecnólogos de IA, profesionales de la salud y defensores de los pacientes se reunieron no para celebrar la IA, sino para interrogarla mientras exploraban enfoques alternativos. Si bien la IA se proyecta como una solución importante a los problemas de salud de la India, la consulta reflexiva fue más allá del entusiasmo internacional y reconoció que implementar la IA a través de sistemas centralizados impulsados comercialmente que anulan los derechos de los pacientes, las comunidades y los profesionales de la salud en realidad puede causar más daño que bien.
A nivel mundial, el uso de la IA en la atención sanitaria se ha mostrado prometedor en ámbitos específicos como el reconocimiento de imágenes en radiología, el análisis para ayudar al diagnóstico en entornos controlados y la asistencia en el flujo de trabajo. Pero las revisiones sistemáticas muestran repetidamente que las herramientas que parecen funcionar bien en entornos piloto fallan en contextos del mundo real. La IA es buena para reconocer y comparar patrones, pero la atención médica es mucho más que el reconocimiento de patrones, ya que implica juicios clínicos y éticos complejos, contextualización social de los pacientes junto con explicaciones y tranquilidad, y atención física directa, todo lo cual involucra relaciones humanas, no solo algoritmos.
Imperativo proteger los derechos
La consulta de Delhi planteó serias preocupaciones sobre el extractivismo digital: ¿quién posee los datos de salud, quién se beneficia de la inteligencia derivada y quién asume los riesgos? Los pacientes necesitan narrativas comprensibles y empoderamiento, no sólo ser tratados como fuentes de datos. Y si las herramientas de IA se entrenan principalmente en poblaciones urbanas y digitalizadas, podrían afianzar prejuicios de casta, género, regiones y socioeconómicos. Por lo tanto, cualquier uso de la IA en la atención sanitaria debe estar anclado en un marco fuertemente basado en los derechos. Esto incluye el derecho a la comprensión, ya que los pacientes y las personas no sólo deben tener acceso a sus datos de salud; deben poder entenderlo. Los sistemas de inteligencia artificial deben traducir información médica compleja en explicaciones claras y relevantes que respalden decisiones informadas. El derecho al procesamiento local significa que los datos de salud sensibles deben, por defecto, procesarse localmente siempre que sea posible, en lugar de centralizarse en servidores corporativos o controlados por el estado; El uso compartido de la nube debe ser explícito y revocable. El derecho a un control continuo implica que el consentimiento no puede ser una formalidad única; Las personas deben poder retirar el acceso a sus datos y deben controlar no sólo sus datos, sino también la información generada a partir de ellos. El derecho a la equidad y al acceso significa que los sistemas de IA deben ser auditados para detectar sesgos, hacerse accesibles en todas las regiones e idiomas y gobernarse de manera transparente para garantizar que reduzcan, en lugar de profundizar, las desigualdades en salud. Los servicios respaldados por IA desarrollados con recursos públicos deben estar disponibles gratuitamente en el punto de uso en los sistemas de salud públicos. Debe garantizarse la no exclusión: nadie debe verse privado de atención por no interactuar con sistemas de IA; Las vías distintas de la IA en la atención sanitaria deben permanecer siempre disponibles y viables.
Complementario al cuidado humano
Un principio fundamental es que la IA debe complementar, no reemplazar, la atención humana. La IA puede respaldar la documentación e interpretación de datos, pero las decisiones sanitarias deben permanecer en manos de proveedores humanos responsables. Los humanos siempre deben estar informados sobre todas las funciones asistidas por la IA, considerando que los profesionales y profesionales de la salud son la columna vertebral de la atención. En los sistemas de salud que ya se caracterizan por malas condiciones laborales, existe un riesgo real de que la IA se convierta en una justificación para reducciones de personal, precarización, aumento de la carga de trabajo o vigilancia algorítmica de las ASHA y otros trabajadores de primera línea. Por lo tanto, la aprobación de herramientas de IA debe requerir evaluaciones de impacto laboral, asegurando la explicabilidad para los trabajadores de primera línea y garantías explícitas contra la reducción de la fuerza laboral. Cualquier avance tecnológico debe mejorar la capacidad y la dignidad de los profesionales de la salud, no desplazarlos.
Economía política de la IA
La pregunta básica no es si la IA puede ayudar, sino a quién servirá. El uso actual de la IA no es neutral; tiene sus raíces en gran medida en modelos monopolísticos orientados a las ganancias. Si se implementa a través de plataformas comerciales que centralizan los datos de los pacientes, la IA corre el riesgo de profundizar la corporatización, crear una capa de atención de élite y ser utilizada para expandir la expansión del mercado de alto costo en lugar de un acceso racional. Si los datos y los fondos públicos construyen sistemas de IA, su principal obligación debería ser reforzar el suministro público, no subsidiar las ganancias corporativas.
Cualquier uso de la IA en la India debe basarse en un enfoque de sistemas de salud. La IA se puede implementar sensatamente para reforzar la atención primaria y preventiva y empoderar a los pacientes, lo que incluye ayudar en el uso racional de los medicamentos, mejorar los sistemas de derivación, desmitificar la facturación hospitalaria o simplificar la información médica para los usuarios. Pero debemos recordar que los desafíos que enfrenta el sistema de salud de la India no son principalmente técnicos; son políticos, económicos y estructurales, incluida la subinversión crónica en salud pública, la escasez de personal calificado, la regulación inadecuada de la atención médica comercial y los elevados gastos de bolsillo. Se trata de fallos institucionales que los algoritmos no solucionarán.
En conclusión, no debemos esperar que la tecnología proporcione soluciones a lo que son básicamente problemas políticos y sistémicos (lo que se conoce como “tecnosolucionismo”). Como cualquier tecnología, la IA debe servir a los derechos de los pacientes, la equidad sanitaria y los fines públicos, mientras que los profesionales sanitarios siguen siendo la columna vertebral de la atención. Los datos de salud deben, ante todo, pertenecer a los pacientes y a las personas, y cualquier información que se derive debe rendir cuentas ante ellos. Mientras configuran el futuro de la atención médica india, la inteligencia artificial y diversas tecnologías pueden brindar asistencia, pero las personas, los profesionales de la salud y la salud pública deben permanecer firmemente en el centro.
Abhay Shukla es médico de salud pública y co-coordinador nacional de Jan Swasthya Abhiyan. Las opiniones expresadas son personales. Agradece a Surajit Nundy, al equipo de RAXA y a los participantes en la consulta sobre IA en salud dirigida por personas por sus valiosos conocimientos que sirvieron de base para este artículo.
Publicado – 20 de febrero de 2026 12:34 p. m. IST
