Ser humano en la era de las neurociencias y la inteligencia artificial significa explorar las profundidades de la complejidad, donde las ideas válidas sin embargo se encuentran bajo tensión, destacando matices y desafíos que no deben pasarse por alto. Cada página refleja las tensiones existentes entre ideas y dentro de cada tema, que surgieron en discusiones colectivas, y que se complementan con contribuciones de investigadores de la red NHNAI.
Complejidad en la salud n.°5: Encontrar el equilibrio adecuado entre innovación y seguridad
Algunos participantes en las discusiones señalaron que está en la naturaleza de los seres humanos buscar constantemente el progreso y la mejora. Los participantes también reconocen que los avances en IA y neurociencia en el campo de la salud pueden permitirnos aumentar nuestras capacidades físicas y mentales (especialmente con prótesis neurológicas o interfaces cerebro-máquina implantadas). Estas tecnologías también podrían prevenir la pérdida de capacidad asociada con el envejecimiento. Prácticas similares (con prótesis de cadera o articulares) ya son ampliamente aceptadas en la sociedad. Por lo tanto, podemos imaginar que las posibilidades más recientes relacionadas con la IA y la neurociencia (como los implantes cerebrales) también podrían llegar a ser aceptables.
Sin embargo, las discusiones también resaltan los riesgos de adicción u otros efectos secundarios como cambios en la personalidad o capacidades de toma de decisiones alteradas.
Es importante evaluar adecuadamente el equilibrio entre beneficios y riesgos.
Conclusiones de la red académica de la NHNAI:
Como sugiere Brian P. Green, este nexo de complejidad, con su tensión entre un posible impulso para que los seres humanos se mejoren y la necesidad declarada de limitaciones cuando se trata de mejoras médicas o neurológicas, plantea cuestiones profundas tales como: ¿Cómo sabemos cuándo una mejora está justificada o no? ¿Cuándo una intervención nos hace más humanos y cuándo nos hace menos humanos? ¿Qué papel juega la “naturalidad” en esta determinación, y qué es “natural” para los seres humanos?
Para ayudar a explorarlos, podemos recurrir primero a las ideas de la neurociencia, para luego profundizar algunas cuestiones éticas.
A. Una aclaración de la neurociencia
La mayoría de los implantes médicos tienen como objetivo compensar un mecanismo específico que ha sido dañado por una enfermedad neurogenerativa (por ejemplo, el Parkinson), pero han revelado que implica una desregulación en algún otro aspecto de nuestro comportamiento (adicción, impulsividad, pérdida de identidad…). Estas intervenciones se han justificado para compensar la pérdida de capacidad. Aplicar los mismos dispositivos de implante cerebral para mejorar ciertas capacidades es problemático, no sólo desde una perspectiva ética de acceso igualitario a estos medios, sino también porque minimiza la importancia del esfuerzo en el logro del aprendizaje conductual. Acorta el resto del cuerpo con el que nuestro cerebro interactúa plenamente y desarrolla sus especificidades funcionales. El desarrollo de estos implantes para pacientes con discapacidad motora como los pacientes tetrapléjicos es muy atractivo y sin duda está plenamente justificado. Pero considerando que otras capacidades cognitivas podrían ser impulsadas a través de estos implantes por corte corto, el cuerpo está en contra del modus operandi del sistema nervioso. Participar en estos esfuerzos corre el riesgo de hacer creer al público general que nuestras capacidades mentales/psicológicas se comportan como módulos independientes en el cerebro, que es exactamente lo que la investigación neurocientífica actual está contradiciendo a través de sus hallazgos más recientes. Por lo tanto, es importante informar al público sobre cómo las neurociencias muestran el vínculo intrínseco entre cerebro-cuerpo y que el aprendizaje y el desarrollo de nuestras capacidades mentales y conductuales requieren esfuerzo (y pueden causar frustración en el proceso). La visión de un cerebro con módulos definidos que manejan independientemente ciertas funciones cognitivas de alto nivel es falsa. Y promover artefactos neurotecnológicos con la falsa visión de cómo funciona el sistema equivale a propagar conocimiento científico falso.
B. Cuestiones éticas
El desarrollo de tecnologías de mejora conlleva un riesgo real de dependencia, tanto psicológica como fisiológica. El uso continuo de dispositivos implantados de mejora cognitiva puede llevar a dependencias similares a las ya observadas hoy con estimulantes. La búsqueda constante de la perfección también puede desdibujar la distinción entre necesidad y deseo. [1] Esta dependencia no sólo plantea cuestiones médicas, sino también sobre su impacto a largo plazo en la autonomía y la salud mental.
La modificación de la función cerebral por dispositivos externos también puede llevar a alteraciones en la personalidad y el comportamiento. La memoria mejorada o la toma de decisiones a través de interfaces cerebro-máquina (BMI) podría ir acompañada de cambios en la autopercepción, las interacciones sociales, los rasgos de personalidad y la identidad en general. [2] Estas alteraciones también podrían afectar el pensamiento crítico, el juicio o las respuestas emocionales, con posibles impactos en la toma de decisiones, abriendo así preguntas éticas sobre el mantenimiento de la responsabilidad personal de los individuos. [3]
Por lo tanto, es extremadamente importante condicionar el desarrollo de tecnologías de mejora a medidas cautelares y pruebas rigurosas, tanto médicas como psicológicas/sociales. El desafío es asegurar que estas tecnologías no socaven la autonomía y la identidad que están diseñadas para reforzar.
[1] Schermer, M. (2009). The mind and the machine: On the conceptual and moral implications of brain–machine interaction. NanoEthics, 3(3), 217-230.
[2] Ienca, M., & Andorno, R. (2017). Towards new human rights in the age of neuroscience and neurotechnology. Life Sciences, Society and Policy, 13(1).
[3] Fukushi, T., Sakura, O., & Koizumi, H. (Eds.). (2007). The ethics of brain-computer interfaces and human enhancement. Dordrecht: Springer.
