Ser humano en la era de las neurociencias y la inteligencia artificial significa explorar las profundidades de la complejidad, donde las ideas válidas sin embargo se encuentran bajo tensión, destacando matices y desafíos que no deben pasarse por alto. Cada página refleja las tensiones existentes entre ideas y dentro de cada tema, que surgieron en discusiones colectivas, y que se complementan con contribuciones de investigadores de la red NHNAI.
Complejidad transversal n.°3: Ser más eficientes sin amenazar el núcleo de lo que nos hace humanos
La idea global y transversal “Confiar en la tecnología para mejorar nuestras vidas” pone de relieve el hecho de que la IA y las tecnologías de automatización podrían ayudarnos a ahorrar tiempo para actividades esenciales como las relaciones o cualquier cosa que fomente el florecimiento humano al delegar tareas tediosas a máquinas. También señaló que los resultados de IA y NS pueden permitirnos mejorar nuestras habilidades físicas y mentales, mejorando nuestro rendimiento y eficiencia.
La idea global y transversal “Buscar la automejora” expresa la afirmación de que es una parte central de la naturaleza humana buscar la automejora y el progreso, para maximizar la eficiencia.
Sin embargo, como advierte la idea global y transversal “preservar e intensificar lo que nos hace humanos y fomentar el florecimiento humano”, puede resultar destructivo buscar de manera acrítica y sistemática el aumento y la mejora de la eficiencia y el rendimiento. Podría llevar a sacrificar aspectos que son esenciales para los seres humanos, como la autonomía, la creatividad, las relaciones o negar algunos límites y vulnerabilidades que están en el corazón de lo que significa ser humano (mortalidad, afectividad por ejemplo).
Conclusiones de la red académica de la NHNAI:
A. Desde la perspectiva de las ciencias cognitivas
Desde el punto de vista de la ciencia cognitiva, buscar la autosuperación es algo que no existe como tal en el comportamiento humano, si no está vinculado a una acción orientada a objetivos y en un contexto temporal amplio (por ejemplo: queremos asegurar el acceso a alimentos y agua, refugio, …). Este objetivo conlleva un valor para el ser humano que motiva (o no) a seguir aprendiendo y desarrollando ciertas capacidades y comportamientos. Los humanos piensan que maximizan su eficiencia, pero como ha mencionado Herbert Simon, los humanos tienen una racionalidad limitada y, por lo tanto, capacidades limitadas para realmente maximizar los procesos de pensamiento y, por lo tanto, el comportamiento. Los humanos más bien “satisfacen” su comportamiento para llegar a estar lo más satisfechos posible tan rápido como sea posible, lo cual no es lo mismo que maximizar sus capacidades. Este sesgo también se aplica con respecto al uso de la tecnología, y con la IA está fuertemente potenciada. Sin embargo, como se ha mostrado, también reduce dramáticamente las posibilidades de aprendizaje de la persona y en definitiva, su libertad para actuar en el mundo. Por lo tanto, buscar la autosuperación debería resonar con la posibilidad de aumentar el aprendizaje (encarnado) y las posibilidades para el aprendizaje futuro (mantener las puertas abiertas…) en lugar de acelerar ciertas actuaciones que más adelante privan al ser humano del aprendizaje y así adaptarse a condiciones cambiantes. (si consideramos que su adaptabilidad depende en gran medida de su capacidad para aprender nuevos comportamientos/pensamientos para enfrentar nuevos problemas).
B. Desde la perspectiva filosófica, antropológica y teológica
En general, entre la mejora de nosotros mismos y la preservación de lo que nos hace humanos se podría discutir en el contexto de un libro publicado en marzo de 2024 por Editions du Cerf (París) titulado “El ser humano en el centro del mundo: para un humanismo del presente y del futuro”. Contra el nuevo obscurantismo.” Daniel Salvatore Schiffer resume uno de los mensajes clave[1]:
En resumen: la insidiosa y gradual erosión, si no evaporación, del ser humano, en toda su complejidad antropológica (para usar un concepto clave en el edificio filosófico-sociológico de Edgar Morin), en beneficio de un mundo que con demasiada frecuencia es alienado, directivo y reductivo. Es un totalitarismo que se ignora a sí mismo o no dice su nombre, y así, frente al pensamiento cada vez más maniqueo, avanza enmascarado, astuto y silencioso, pero tanto más peligroso para la libertad de la mente, de la palabra y del pensamiento, si no de la conciencia!
Esta evaporación de lo que significa ser humano es altamente amenazante. De hecho, no podemos saber qué es lo que tiene valor en nosotros si no sabemos qué y quiénes somos.
El núcleo de nuestra naturaleza humana se puede interpretar bíblicamente como amor porque estamos hechos a imagen de un Dios que es amor (1 Juan 4:8) que nos manda amar (Levítico 19:18, Deut. 6:4-5, Mateo 22:35-40, Marcos 12:29-33, Lucas 10:27) – incluso nuestros enemigos (Mateo 5:43-44) – y por ese amor se vuelve más plenamente humano y divino. Sin embargo, desde el primer capítulo del Evangelio de Juan también sabemos que Dios es Logos, palabra y razón, y que por lo tanto el universo es racional, significativo, y está fundamentado en la sabiduría más profunda.
Si, entonces, tenemos una naturaleza dual (al menos dual, si no mucho más) como criaturas lógicas y amorosas, entonces la IA nos presenta una oportunidad y una amenaza en estas dos áreas clave. Podemos usar la IA para aprender nuevas verdades y adquirir nueva sabiduría sobre el universo, para cuidarnos mejor unos a otros y construir la paz en todo el mundo. O podemos abusar de la IA para reemplazar nuestras habilidades de pensamiento, dejándonos así sin sentido, y entorpecer nuestra capacidad de amar, o incluso peor convertir nuestro amor en odio. Ya estamos viendo cómo estos usos perversos de la IA se introducen en la sociedad, en la forma de usar la IA generativa para hacer trampa en la escuela y algoritmos de IA que impulsan el compromiso con las redes sociales y las aplicaciones a través de contenidos que apelan a la adicción, al vicio y al desprecio por los demás.
Esta oportunidad y amenaza de la IA va directamente al núcleo de nuestro ser, y así demuestra la validez de la angustia existencial que la IA eleva instintivamente en algunas personas. De hecho, debería despertar esta angustia -o al menos preocupación- en todos nosotros.
En la medida que la IA puede ayudarnos a convertirnos en seres más lógicos y amorosos, entonces es una bendición para la humanidad. En la medida que nos haga menos lógicos y menos amorosos será una maldición. Si bien estas dos suposiciones sobre la humanidad están fundamentadas teológicamente, hay buenas razones para suponer que no es simplemente una base teológica: también es psicológica, antropológica, sociológica, filosófica, ética y más. Existe una sensación intuitiva -y un argumento racional que se puede esgrimir- de que estas características de la humanidad están legítimamente cerca del núcleo de la identidad humana, y por lo tanto son preocupaciones sobre nuestro compromiso con la IA.
Por último, se puede hacer un caso empírico sobre la importancia de la autonomía y la agencia. A partir de los datos recopilados en este proyecto mismo. Con cuatro síntesis temáticas principales que cubren la educación, la democracia y la salud, provenientes de cada país involucrado en el proyecto, con decenas de afirmaciones/ideas hechas, este es claramente un tema de importancia preeminente.
En cuanto a la autonomía y la agencia, la IA amenaza ambas. Debido a que la IA automatiza la agencia, efectivamente delega esa agencia de algunos humanos a otros utilizando la IA como implemento (recordando a CS Lewis, quien dijo lo mismo sobre la tecnología en general (como una forma destilada de la naturaleza) en el capítulo 3 de La abolición del hombre). Quienquiera que controle estas IA accionarias, por lo tanto, tiene el poder de desempoderar a otras personas a través de sistemas automatizados.
Esta es sólo una manera en que la IA podría eliminar nuestra autonomía y agencia. Otra es que podríamos ser desmatados -tanto técnica como moralmente- y perder así nuestra propia capacidad de ser agentes morales plenos. Ya sea que estemos siendo desempoderados activamente por otros o nos estamos desempoderando pasivamente o a través de la inacción, la IA presenta una amenaza genuina que debe ser atendida con gran cuidado y urgencia.
Recordar que la autonomía y la capacidad de acción son el núcleo de lo que significa ser humano también nos recuerda que la responsabilidad es nuestra. Tenemos responsabilidad por nuestras acciones, ya sean pequeñas o grandes, ya sea que estemos eligiendo empoderarnos o desempoderarnos a nosotros mismos, ya sea que actuemos mediante comisión u omisión, o actuando directamente o a través de intermediarios -humanos o IA. La responsabilidad recae en los seres humanos que toman las decisiones, incluso si la IA termina por ejecutarlas una o mil millones de veces.
[1] Salvatore Schiffer, D. (ed.) L’humain au centre du monde : Pour un humanisme des temps présents et à venir. Contre les nouveaux obscurantismes, Les éditions du Cerf, 2024, ISBN : 9782204162661 (our translation). https://www.opinion-internationale.com/2024/03/09/lhumain-au-centre-du-monde-un-livre-a-lire-sous-la-direction-de-daniel-salvatore-schiffer_119419.html
