Ser humano en la era de las neurociencias y la inteligencia artificial significa explorar las profundidades de la complejidad, donde las ideas válidas sin embargo se encuentran bajo tensión, destacando matices y desafíos que no deben pasarse por alto. Cada página refleja las tensiones existentes entre ideas y dentro de cada tema, que surgieron en discusiones colectivas, y que se complementan con contribuciones de investigadores de la red NHNAI.
Complejidad en la salud n.°1: Distinguir entre el cuidado, la mejora legítima y las prácticas deshumanizadoras
Algunos participantes en las discusiones señalaron que está en la naturaleza de los seres humanos buscar constantemente el progreso y la mejora. Los avances en IA y neurociencia en el campo de la salud pueden permitirnos aumentar nuestras capacidades físicas y mentales (especialmente con prótesis neurológicas o interfaces cerebro-máquina implantadas). Estas tecnologías también podrían prevenir la pérdida de capacidad asociada con el envejecimiento. Prácticas similares (con prótesis de cadera o articulares) ya son ampliamente aceptadas en la sociedad. Por lo tanto, podemos imaginar que las posibilidades más recientes relacionadas con la IA y la neurociencia (como los implantes cerebrales) también podrían llegar a ser aceptables.
Sin embargo, las discusiones también revelan una preocupación sobre las motivaciones y la importancia de tales prácticas de aumento. Si bien a muchos participantes les parece aceptable utilizar las tecnologías de la salud en un contexto curativo (para combatir discapacidades o enfermedades degenerativas), las prácticas destinadas a aumentos ilimitados de la longevidad o la capacidad cerebral, o incluso aplicaciones militares, se ven con más cautela, e incluso son a menudo criticados.
También se hace hincapié en el riesgo de sobrevalorar el desempeño, la eficiencia y la productividad, con un énfasis excesivo solo en aspectos medibles y cuantificables, en detrimento de tener en cuenta cuestiones de significado y valores, los sentimientos de las personas y las experiencias de vida.
Así, por ejemplo, no está claro que la respuesta correcta a una fatiga intensa o a una sensación de cansancio sea aumentar la resistencia mediante tecnologías sanitarias (como medicamentos o implantes cerebrales). Tenemos que considerar la posibilidad de que tal fatiga o cansancio también pueda ser señal de problemas más profundos en la vida de una persona. De la misma manera, las discusiones nos llevan a cuestionar la idea misma del aumento por la tecnología, que en algunos casos podría degenerar en dependencia de la tecnología y pérdida de competencia (¿Realmente me vuelvo más “poderoso” si un implante cerebral me hace capaz de un mayor rendimiento cognitivo? ¿Qué pasa si ya no tengo acceso a esta tecnología, o si funciona mal?)
En un nivel más global, algunas contribuciones critican la idea de un deseo sistemático de superar y rechazar todas las formas de límite, un deseo que podría llegar a amenazar nuestra propia humanidad. Ciertos límites y vulnerabilidades (como ser susceptible al sufrimiento y a la muerte) están en el corazón de lo que significa ser humano.
Conclusiones de la red académica de la NHNAI:
A. Sobre el mejoramiento humano
Medios sin precedentes de mejora humana (amplificadores cognitivos, neuroprótesis, tecnologías de regulación emocional, etc.) parecen estar en el horizonte. Su potencial para mejorar la calidad de vida y ampliar las capacidades humanas más allá de los límites naturales ha sido destacado desde hace mucho tiempo. [1] Sin embargo, el desarrollo de estas tecnologías va acompañado de preocupaciones legítimas. En particular, su amplia disponibilidad podría crear expectativas poco realistas o fomentar una cultura en la que las personas estén bajo una “presión constante para mejorar” a fin de mantenerse al día con las normas sociales. A largo plazo, esto podría exacerbar las desigualdades entre quienes tienen acceso financiero a estas tecnologías y quienes no lo tienen, allanando el camino para una nueva forma de “elitismo biológico”. [2] (Sandel, 2007). También es de temer que importantes valores sociales, como la aceptación de la vulnerabilidad e imperfección humanas, que a menudo se consideran aspectos importantes de nuestra humanidad común, puedan verse socavados por la búsqueda constante de mejoras tecnológicas. Por lo tanto, es imperativo que se establezcan marcos éticos exigentes para fomentar el uso responsable de las tecnologías y garantizar que la mejora potencial de los individuos siga siendo estrictamente una cuestión de elección, ofrecida a veces como una oportunidad atribuible. pero nunca se convierte en una obligación.
B. Información adicional sobre vulnerabilidad y humanidad
Mejor comprensión de la vulnerabilidad con David Doat, profesor asociado de filosofía en la Universidad Católica de Lille, titular del ETH+ Chair in Ethics, Technology and Humanities:[3]
La vulnerabilidad no es debilidad ni pobreza, y tampoco se puede reducir a la vejez, la discapacidad o la enfermedad. El origen de la palabra proviene del latín vulnus, que significa “herida”. Pero aquí también debemos distinguir entre “vulnerabilidad” y “vulneración”. El primero se refiere a la posibilidad de verse afectado en su estructura física o psicológica; el segundo se refiere al estado tras una lesión. Es importante marcar la diferencia. Durante un encuentro romántico, por ejemplo, los amantes se encuentran en un estado de vulnerabilidad mientras se exponen unos a otros, cada uno permitiéndose afectar al amado, pero ambos no resultan heridos. La vulnerabilidad puede ser una oportunidad. Pero olvidamos esto. Muy a menudo, las personas vulnerables se asocian con los ancianos, los dependientes, los discapacitados… Desde un punto de vista antropológico, todos somos vulnerables y estamos expuestos a riesgos más o menos significativos, pero existen vulnerabilidades singulares de carácter social, económico, cultural o sanitario. Una persona mayor en un hogar de ancianos es más vulnerable a la COVID-19 que una persona joven. Esto no significa, sin embargo, que se lo van a meter y morirán de él. El desafío de la educación y el apoyo no es sólo mirar al polo del desastre. También necesitamos considerar las situaciones en las que algunas personas se encuentran, y que pueden ser convertidas positivamente. Tenemos algo que ver con nuestras vulnerabilidades y dentro de ellas.
Desconstruir el ideal moderno de un ser humano todopoderoso y completamente autónomo, con Chiara Pesaresi, profesora asociada de filosofía en la Universidad Católica de Lyon, directora científica del Vulnerabilities University Chair:[4]
Es cierto que el campo semántico de la vulnerabilidad tradicionalmente se refiere a la devaluación de las representaciones, evocando ideas de menor resistencia y fracaso. Reconocerse como vulnerable significa desafiar las imaginaciones sociales modernas y posmodernas centradas en las ideas de progreso, dominio y desempeño, y repensar nuestra lógica individual y colectiva de acción a la luz de la fragilidad de nuestras vidas, nuestras instituciones e incluso nuestro medio ambiente.
Básicamente, se trata de deconstruir el ideal moderno de un ser humano completamente autónomo, libre de límites y también de dependencia de los demás. Esta visión del hombre como capaz de autodeterminación absoluta ha llevado a una reducción de la vulnerabilidad y sus manifestaciones a los defectos contingentes, que deben ser corregidos, reparados o superados a toda costa (la expresión “diseña a ti mismo”, lema del movimiento cyborg, ilustra bien este principio).
“Sin embargo, esto no es para glorificar la vulnerabilidad o negar su naturaleza de prueba, crítica e incluso trágica: por el contrario, reconocer nuestra propia vulnerabilidad siempre forma parte de una dialéctica de consentimiento y resistencia, de aceptación y adaptación creativa. También revela que nunca somos seres aislados, perfectamente independientes y autónomos. Emmanuel Levinas estaba convencido de que la subjetividad sólo puede crecer en el encuentro con el otro, donde la vulnerabilidad se presenta como nuestro rasgo común: porque es en su rostro que reconozco tanto su desnudez, su extrema vulnerabilidad, como la mía.
[1] Bostrom, N., & Roache, R. (2007). Ethical Issues in Human Enhancement. In J. Ryberg, T. Petersen, & C. Wolf (Eds.), New Waves in Applied Ethics, Palgrave Macmillan, pp. 120-152.
[2] Sandel, M. J. (2007). The Case Against Perfection: Ethics in the Age of Genetic Engineering. Cambridge, Harvard University Press.
[3] Extract from David Doat, 2021, « La vulnérabilité peut être une chance. Mais on l’oublie », Interview by Brigitte Bègue in Actualités sociales hebdomadaires (N.3199 5 mars 2021), pp.38-39 (our transaltion), https://www.ash.tm.fr/hebdo/3199/entretien/la-vulnerabilite-peut-etre-une-chance-mais-on-loublie-634607.php
[4] Extract from the opinion piece “Il est urgent de reconnaître la vulnérabilité dans nos vies”, from Chiara Pesaresi, published in La Vie on May 10, 2022, https://www.lavie.fr/ma-vie/sante-bien-etre/il-est-urgent-de-reconnaitre-la-vulnerabilite-dans-nos-vies-82292.php
