Ser humano en la era de las neurociencias y la inteligencia artificial significa explorar las profundidades de la complejidad, donde las ideas válidas sin embargo se encuentran bajo tensión, destacando matices y desafíos que no deben pasarse por alto. Cada página refleja las tensiones existentes entre ideas y dentro de cada tema, que surgieron en discusiones colectivas, y que se complementan con contribuciones de investigadores de la red NHNAI.
Complejidad en la salud n.°2: Mejorar la atención médica y la medicina sin perder de vista a las personas
Los participantes reconocen en gran medida que las tecnologías de la salud (incluida la IA) pueden apoyar a los profesionales de la salud en la toma de decisiones médicas (incluso pueden tener un mejor desempeño en algunas tareas). De manera similar, destacan que la automatización de ciertas tareas puede dar más tiempo a las dimensiones humanas del cuidado y la atención médica (por ejemplo, con robots para el cuidado). Algunos participantes también señalan que la IA y las tecnologías digitales pueden facilitar el acceso a la información relacionada con la salud, en particular para la atención preventiva y la prevención de la salud (especialmente en zonas más aisladas o pobres). También surge la idea de que las tecnologías digitales pueden mejorar la formación médica (por ejemplo, con realidad virtual o aumentada).
Sin embargo, también es ampliamente consensual en las discusiones que la IA y la tecnología sanitaria deberían contribuir a un sistema de salud más humanizado. No deben hacer perder de vista el hecho de que los pacientes son personas a las que se debe tratar con un enfoque integral que deje espacio para todas las dimensiones relevantes y esté firmemente arraigado en la empatía y las relaciones humanas. Estos últimos son clave para el proceso de curación y la relación médico-paciente. En general, las máquinas no deben sustituir a los seres humanos. En particular, las tareas relacionadas con la toma de decisiones médicas, la comunicación y la atención deben seguir siendo humanas. Si bien es cierto que los profesionales de la salud y los cuidadores a menudo carecen de tiempo y están exhaustos, y que los sistemas de atención médica se encuentran bajo alta presión, las tecnologías de IA pueden no constituir la respuesta correcta o principal a estos problemas importantes.
Desde esta perspectiva, muchos participantes advierten contra el peligro de centrarse demasiado en lo que se puede medir y cuantificar y de reducir a los pacientes a sus datos (con el riesgo de que la medicina y la atención médica se vuelvan excesivamente prescriptivas y coercitivas). Los pacientes deben ser reconocidos en su singularidad y diversidad.
Conclusiones de la red académica de la NHNAI:
A. El lugar central irreductible de los seres humanos en la salud y el cuidado
El riesgo de pasar de la liberación del cuidado -donde la tecnología apoya el cuidado- a la liberación del cuidado, donde los aspectos relacionales y emocionales esenciales del cuidado son disminuidos o perdidos, plantea importantes preocupaciones éticas. Según la ética del cuidado de Joan Tronto,[1] el cuidado no debe verse como un simple conjunto de tareas que se deben simplificar, sino más bien como una práctica relacional que implica atención, responsabilidad y respuesta a las necesidades únicas de los individuos. Como tal, los desafíos y el trabajo emocional inherentes al cuidado de personas, por más difíciles que sean, están en el corazón de su significado y no pueden ser manejados enteramente por máquinas. En una línea similar, Michel Foucault advierte en The Birth of the Clinic[2] que el énfasis de la medicina en la cuantificación y el control puede reducir a los pacientes a datos y despojarlos de su individualidad y humanidad. Una dependencia excesiva de la IA podría, por supuesto, reforzar esta tendencia y transformar la atención médica en una práctica más prescriptiva e impersonal. Según Neumann et al. (2011)[3], Halpern (2001)[4] y análisis más recientes de encuentros clínicos mediados por IA (por ejemplo, Ghafourifard et al., 2025)[5], la empatía y la comunicación son esenciales para la satisfacción del paciente y los resultados. Como señalan Sherry Turkle y Noel Sharkey[6] (Turkle, 2011; Sharkey, 2008), estas son cualidades que la IA y los cuidadores robóticos no pueden replicar. De modo que, si bien las tecnologías son útiles para tareas rutinarias, es poco probable que reemplacen las dimensiones emocionales y relacionales profundas necesarias para una atención significativa.
[1] Tronto, J. C. (2013). Caring democracy: Markets, equality, and justice. New York: New York University Press.
[2] Foucault, M. (2003). The birth of the clinic: An archaeology of medical perception. London: Routledge.
[3] Neumann, M., Edelhäuser, F., Tauschel, D., Fischer, M. R., Wirtz, M., Woopen, C., … & Scheffer, C. (2011). Empathy decline and its reasons: A systematic review of studies with medical students and residents. Academic Medicine, 86(8), 996–1009.
[4] Halpern, J. (2001). From detached concern to empathy: humanizing medical practice. Oxford University Press.
[5] Ghafourifard M, Ghasempour M, Purabdollah M, Killam LA. The AI Fever: Can Artificial Intelligence Replace Compassionate Human Care? J Caring Sci. 2025 Jun 8;14(2):135-137. doi: 10.34172/jcs.025.35005. PMID: 40894977; PMCID: PMC12397513.
[6] Sharkey, N. (2008). The ethical frontier of robotics. Science, 322(5909), 1800–1801. Turkle, S. (2011). Alone together: Why we expect more from technology and less from each other. New York: Basic Books.
B. Los límites de reducir la salud a los datos
Los participantes expresan su preocupación por la posibilidad de que la automatización de la práctica médica se vuelva tan extrema que incluso las decisiones fundamentales sobre la vida de los pacientes puedan delegarse a una máquina. Su oposición a un escenario que, afortunadamente, todavía parece distante hoy está totalmente justificada. De hecho, una máquina diseñada para prescribir los tratamientos adecuados a los pacientes inevitablemente tendría una eficacia muy limitada, ya que, como subraya Giuseppe Longo (2021), el lenguaje alfanumérico se basa en una reducción del continuo (el organismo vivo) al discreto. (una serie de letras y números), y el precio a pagar en términos de comprensión científica por tal simplificación es muy alto. El estado de salud de un paciente no puede describirse a través de un conjunto de parámetros numéricos (Amjahad, Vialars y Kozlowski, 2021), porque el significado de cada uno de estos parámetros siempre debe evaluarse dentro del funcionamiento general del organismo en cuestión y a la luz de su ontogénesis. Como resultado, el mismo valor para un parámetro dado puede requerir tratamientos muy diferentes de un individuo a otro. Este desafío no se puede abordar permaneciendo dentro del ámbito de lo discreto, como hace un algoritmo, sino que requiere necesariamente la intervención de un médico humano-alguien capaz de integrar sus modelos diagnósticos con su experiencia, su capacidad de escuchar y su intuición.
C. La difícil cuestión del equilibrio entre humanidad y eficiencia
La IA médica puede ser más capaz de tratar a los seres humanos como casos individuales que cualquier humano, simplemente porque realmente puede absorber el volumen de datos específicos para un individuo en particular.
La IA puede ser mucho más paciente y empática que cualquier humano: nunca se cansa, necesita un descanso, se aburre, etc. Los bots de IA para compañía y consejería son en algunos sentidos ya sobrehumanos (y eso plantea muchos problemas opuestos a lo sugerido aquí). La pregunta clave entonces es ¿qué aporta un ser humano en particular a la relación médica y por qué es importante?
De manera similar a lo mencionado anteriormente, los seres humanos son vitales para el sistema médico, pero su papel exacto en relación con la IA, especialmente cuando la IA podría ser “más humana” de lo que pueden ser los seres humanos, sigue siendo un interrogante. Si un hospital totalmente automatizado fuera posible y tuviera mejores resultados médicos que uno con personal humano, ¿de qué sirve ir al hospital con personal humano? ¿Qué beneficio hay para los pacientes si las personas que trabajan allí son más ásperas, menos calificadas y más lentas? Podemos recordar las oportunidades benéficas para crecer que vienen con la adversidad, pero eso parece algo difícil de afirmar cuando están en juego la salud y las vidas humanas.
Esta cuestión del equilibrio entre la humanidad y la eficiencia es tal vez la más central en relación con el uso de la IA en la atención médica. ¿Qué aportan los seres humanos a la atención médica además de nuestra experiencia? ¿Y ese factor adicional supera la eficiencia, la precisión y otras mejoras que puede aportar la IA? Seguramente se apreciará la calidez y el cuidado que los seres humanos pueden aportar, pero el sistema de salud actualmente no se centra en eso – ¿se puede volver a hacer hincapié en ello?
Teológicamente hablando, los seres humanos están hechos a la imagen de un Dios que es tanto amor como logos (Palabra divina pero también lógica y razón). Si la IA nos quita el Logos, entonces deberíamos “redoblar” en el lado del “amor”, o enfrentaremos un reemplazo total. Esto requeriría un cambio completamente revolucionario en la comprensión del comportamiento y la cultura humanos.
C. Mecanismos de contacto humano y autocuidado
En la atención de salud, hay un aspecto que se pasa por alto en parte: los mecanismos de autocuidado que activa la relación cerebro-cuerpo cuando una persona se siente cuidada. Estos mecanismos, muy a menudo ignorados, están en juego en ciertos efectos placebo que, aunque restan importancia e impacto a los tratamientos farmacológicos, resaltan la increíble capacidad del cuerpo humano para activar ciertos mecanismos de autocontrolreparación y reducción del dolor que aumentan el bienestar humano. Este efecto placebo a menudo se ve afectado por el encuentro entre las creencias de la persona y un cierto contexto clínico o contacto con un médico humano, y se ha demostrado que involucra los sistemas cerebrales en individuos que responden al placebo.
Debido a que este efecto utiliza los procesos de reconocimiento de agencia por parte de los pacientes hacia el cuidado y los profesionales médicos humanos (“es un ser humano como yo quien me está ayudando”), es importante mantener el vínculo e interacción humanos en la atención médica. (incluyendo el tacto humano, como cuando el médico ausculta al cuerpo a través del contacto corporal, el contacto visual con el médico, la conversación con el profesional de salud). Este vínculo e interacción son indispensables para mantener estos mecanismos de placebo activos en el proceso más global de fomentar el bienestar médico y psicológico.
