Ser humano en la era de las neurociencias y la inteligencia artificial significa explorar las profundidades de la complejidad, donde las ideas válidas sin embargo se encuentran bajo tensión, destacando matices y desafíos que no deben pasarse por alto. Cada página refleja las tensiones existentes entre ideas y dentro de cada tema, que surgieron en discusiones colectivas, y que se complementan con contribuciones de investigadores de la red NHNAI.
Complejidad transversal n.°1: ¿Qué vínculo, qué interacciones con las máquinas?
Algunos participantes señalan que, con el progreso de la IA, tenderemos a desarrollar máquinas (robots, autómatas conversacionales) capaces de imitar o simular comportamientos y capacidades específicos de los seres humanos y los seres vivos, como la empatía, la asertividad, la vida emocional y afectiva. Como resultado, será cada vez más tentador apegarse emocionalmente a este tipo de máquina capaz de simular capacidades relacionales (como compañeros o asistentes artificiales, o robots para el cuidado personal).
Estos debates también plantean la cuestión de los derechos que se deben conceder a robots avanzados o sistemas inteligentes.
Al mismo tiempo, muchas contribuciones a las discusiones enfatizan la importancia de no perder de vista la especificidad de lo vivo y lo humano en relación con las máquinas. Las máquinas no son conscientes, no sienten emociones, no pueden ser sabias, creativas, críticas o autónomas, no son capaces de espiritualidad en el sentido habitual de estos términos, lo que implica enraizarse en la experiencia vivida, en un cuerpo biológico. En el mejor de los casos, pueden simular comportamientos convincentes en estos registros (principalmente a través de la conversación), comportamientos que los seres humanos o los seres vivos tendrían en determinadas circunstancias.
Desde este punto de vista, muchos participantes coinciden en que la IA no puede ser un sujeto de derecho. La pregunta se describe ampliamente como especulativa o ciencia-ficción, sin ser poco interesante.
Por lo tanto, se expresa ampliamente en las discusiones que es necesario resistir la tentación (cada vez más real y poderosa) de percibir ciertos robots o sistemas de IA como personas genuinas y tratar de conectarse con ellos afectivamente (como lo haría con un ser humano, o incluso con otro ser vivo). Debemos resistir la tentación de sustituir las interacciones con máquinas por relaciones humanas genuinas.
Conclusiones de la red académica de la NHNAI:
Basado en las ideas de Brian P. Green (profesor de Ética de la IA, director de ética tecnológica en el Centro Markkula para la Ética Aplicada (Universidad de Santa Clara, EE.UU.), Mathieu Guillermin (profesor asociado de ética de nuevas tecnologías (UCLy (Universidad Católica de Lyon)), UR CONFLUENCE : Sciences et Humanités (EA 1598), Lyon, Francia) y Nathanaël Laurent (profesor asociado en filosofía de la biología (Université de Namur, ESPHIN, Bélgica)
Es más que legítimo maravillarse ante los recientes avances en las tecnologías de IA, que han permitido a programas como chat-GPT y otros grandes modelos lingüísticos sostener una conversación convincente con seres humanos. Estas actuaciones pueden tener un profundo impacto en las relaciones humanas y las interacciones que los seres humanos tienen con las máquinas.
Como se señaló en muchas áreas temáticas del proyecto NHNAI, las relaciones son de gran importancia en la vida humana y su protección y mejora debería ser una preocupación seria para todos aquellos que trabajan con sistemas de IA y sus efectos. En general, los sistemas de IA deberían ayudar y no reemplazar a los seres humanos -pero especialmente en las relaciones. Como criaturas sociales, teológicamente hicimos a imagen de un Dios Trino relacional que es el amor mismo, pero esto también es un punto filosófico y empírico, y lógicamente necesario. La humanidad no puede vivir sola, y cualquier cosa que erosione nuestras relaciones es algo arriesgado y peligroso. La IA debe utilizarse para fortalecer las relaciones humanas, ya sean familiares, de amistad, económicas, políticas o de otra índole. La IA que daña las relaciones ataca una parte fundamental de lo que significa ser humano.
A. Con la IA, no creamos radicalmente un nuevo tipo de entidad
Sin embargo, esta sensación de asombro debe ser por las razones correctas. Después de todo, estos éxitos no tienen nada que ver con la creación de nuevas formas de vida, nuevos seres inteligentes, llamaríamos a las IA. Es tan vertiginoso, si no más, darse cuenta de que la humanidad ha sido capaz de construir máquinas, artefactos capaces de simular o reproducir el comportamiento inteligente (un comportamiento convincente que podría haber venido de los humanos), sin absolutamente ninguna vida, sin experiencia vivida, sin conciencia, pero con mecanismos puros (mecanismos inertes, pero deslumbrantemente complejos y miniaturizados).
Además de desmitificar el aprendizaje automático (incluido el aprendizaje profundo, basado en redes neuronales artificiales)[1], también es crucial recordar que todos los programas (desde el más tradicional y convencional hasta el programa de IA más avanzado producido por el aprendizaje automático) se ejecuta en computadoras o máquinas similares que no son (o son menos) programables. Lo que una máquina como un ordenador hace es transformar las configuraciones materiales a las que los seres humanos han asociado significados precisos (una serie de imanes en un disco duro simboliza una secuencia de 0s y 1s, ella misma asociada, por ejemplo, con una secuencia de palabras o una secuencia de números que codifican los colores de los píxeles en una imagen) en nuevas configuraciones materiales asociadas con otros significados (por ejemplo, una nueva serie de palabras, una imagen modificada o una descripción de la imagen). Este tipo de máquina, diseñada para transformar configuraciones de materiales en otras según lo que estas configuraciones significan, no es nueva. La computadora puede ser vista como la culminación de una larga historia evolutiva de las técnicas y tecnologías de información, que probablemente se remonta a los inicios de la escritura. Desde esta perspectiva, el ábaco puede ser visto como un antepasado de la computadora (transformación mecánica de configuraciones que simbolizan, por ejemplo, números a agregar, en configuraciones que simbolizan el resultado de la adición).
Así que, estrictamente hablando, no hay significados, imágenes, palabras o números en las computadoras, mucho menos emociones o consciencia. Son, sin embargo, máquinas fantásticas para manipular mecánicamente (con una eficiencia y precisión increíbles) innumerables configuraciones de materiales a las que los seres humanos damos significado. Una serie de imanes en el disco duro de un ordenador hará que diferentes píxeles en la pantalla emitan diferentes colores, que serán más que pequeñas fuentes de luz coloreada para nosotros, que se convertirán en textos que nos contarán sobre sentimientos, imágenes de rostros sintiendo tales y otras emociones. Pero la computadora sólo procesa información mediante la manipulación mecánica y automática de imanes (u otras configuraciones de hardware). Esto hace que sea aún más impresionante ver lo que podemos hacer con los programas derivados de las técnicas de aprendizaje automático.
B. Pero la IA, como cualquier tecnología, da forma a lo que somos y cómo vivimos
El reconocimiento de estos poderes de las computadoras nunca debería darse sin un entendimiento claro de que las computadoras y los sistemas de IA no son entidades que surgen fuera de nosotros. Como acabamos de ver, no son nada como la IA de ciencia ficción que se vuelve consciente y autónoma en un fuerte sentido. Sin embargo, existe otro sentido crucial en el que los sistemas de IA no están a un lado de nosotros: no son meras herramientas que podríamos movilizar sólo cuando las necesitemos y que de lo contrario permanecerían silenciosas y neutralmente en la estantería. La tecnología nos transforma profundamente. Da forma a nuestras formas de ser y de vivir juntos.
La visión sociológica de Bruno Latour puede ayudarnos a comprender este punto importante. Para él, el ‘social’ es una composición asociativa[2]. Una situación se ve como un ‘colectivo híbrido’ formado por interactivos humanos y no humanos. Ni objetos ni sujetos, estos interactivos se conciben a sí mismos como redes relacionales. Una aplicación digital, por ejemplo, no se puede concebir sin sus diseñadores, o el personal de mantenimiento, o la interfaz de usuario, o por supuesto sin sus supuestos usuarios y usos previstos. Pero los usuarios pueden apropiarse de este uso para adaptarlo a su propio contexto experiencial. Una IA como ChatGPT es un compuesto formado por todos los autores humanos que generaron los textos que entrenaron al modelo, más todos los diseñadores del modelo, más todos los agentes que filtran las producciones de la IA, más todos los usuarios y los contextos de uso esperados e imprevisibles.
C. Las capacidades de imitación de los sistemas de IA son un cambio profundo
Los modelos lingüísticos grandes como chat-GPT nos hablan de manera convincente (con contenido afectivo o emocional creíble). También podemos intentar analizar automáticamente las emociones y los sentimientos en lo que la gente dice, o en videos que capturan expresiones corporales o faciales. Estas nuevas tecnologías abren la posibilidad de interacciones cada vez más ricas e interesantes con las máquinas, con modalidades que reproducen o simulan un número creciente de características de interacciones y relaciones entre seres vivos en general, y entre humanos en particular. Para considerar adecuadamente las consecuencias y los desafíos de estas nuevas posibilidades de interacción con las máquinas, se deben enfatizar varios puntos.
a. La extrema utilidad y los problemas de uniformidad de la IA
Antes de analizar lo que está en juego con la imitación humana (y de la vida) per se, es importante señalar que estas capacidades de imitación transforman profundamente la manera en que interactuamos con las máquinas. Esta interacción se puede hacer extremadamente fluida y fácil, en comparación con las habilidades digitales que normalmente se requieren para usar una computadora. Ahora, cada vez más tareas pueden ser iniciadas y manejadas por control vocal en lenguaje natural. Esto también significa que los sistemas digitales sin duda se volverán aún más ubicuos de lo que ya son.
Desde esta perspectiva, una primera cuestión que debemos eludir para maximizar los resultados positivos de las tecnologías de IA no es el problema de la apariencia humana de un objeto o de la objetificación/dataficación de un ser humano. Sobre la base de las ideas de Latour (los seres humanos y su tecnología forman una intrincada red de interagentes, de la que no se pueden aislar), lo importante es evitar que los sistemas de IA conduzcan a una uniformización de la vida humana y se conviertan en un impedimento para su creatividad. Las formas estandarizadas de mediación, los sistemas de IA y las personas que interactúan con ellos podrían abrumar y amenazar la posibilidad de aprender e innovar en situaciones locales concretas. El aprendizaje local resultante de interacciones incontroladas con el medio ambiente es tan crucial como los sistemas estandarizados de registro y procesamiento de datos. Esto es lo que Amitav Ghosh ha formulado[3], por ejemplo, sobre el problema del cambio climático:
Para aquellos que observan cuidadosamente el entorno en el que viven, las pistas sobre los cambios a largo plazo a veces provienen de fuentes inesperadas. (…) Las personas que prestan más atención al cambio ecológico están a menudo en los márgenes; las relaciones que tienen con el suelo, el bosque o el agua apenas son mediadas por la tecnología.
b. Nunca escondas quién es quién (o qué es qué)[4]
Volviendo a la cuestión de la apariencia humana de la máquina per se, y contrariamente a lo que los enfoques conductistas podrían sugerir (en relación con el famoso test de Turing), parece primero importante mantener una distinción entre simular un comportamiento resultante de una experiencia vivida y tener este mismo comportamiento mientras se experimenta esta experiencia vivida. ¿Qué podemos decir, por ejemplo, sobre una máquina que expresa palabras de compasión a una persona mayor en la perspectiva del fin de la vida? Esto no se puede confundir con las mismas palabras pronunciadas por una persona capaz de experimentar su finitud, sentir y compadecer en una experiencia vivida compartida. Si se entiende bien la tecnología de IA, lo que tenemos con una máquina que emite palabras de simpatía no debe describirse como una máquina que tiene esos sentimientos. Más bien, es interesante ver qué tipo de voluntad humana, sentimientos e intenciones están realmente involucrados. El análisis de Latour es profundamente esclarecedor en esta perspectiva ya que lleva a considerar los sistemas de IA como parte de una red de interactores humanos y no humanos, en este caso organizados para pronunciar automáticamente palabras de simpatía. La intención humana existe aquí, pero parece extremadamente general, remota y abstracta. Es el de los desarrolladores y otras personas involucradas en la decisión de construir este sistema. Tales sentimientos, voluntad e intenciones son radicalmente diferentes de la de una persona individual que expresa su simpatía a alguien con quien está en contacto directo. El valor de la palabra pronunciada ni siquiera se puede comparar.
c. El problema de tratar a las máquinas que parecen humanas como si fueran máquinas
En segundo lugar, también es importante decir que simplemente reconocer que las máquinas son solo máquinas y tratarlas como herramientas puras no es necesariamente la respuesta a todos los problemas. De hecho, desde esta perspectiva y con toda probabilidad, los compañeros artificiales (como en la película de 2013 de Spike Jonze Her) se construirán y programarán para encontrar su lugar en un mercado y por lo tanto comportarse de una manera que satisfaga al usuario (por ejemplo, ¿quién querría un compañero artificial que pudiera traicionar o dejar a su humano?). Nos enfrentaremos, por lo tanto, a sistemas que son percibidos como objetos, como posesiones, pero que derivarán todo su atractivo específico de su capacidad para asemejarse a una persona genuina, para manifestar una apariencia de humanidad, personalidad o vida. Acostumbrarse gradualmente a la combinación de estas dos características podría resultar extremadamente destructivo para la humanidad. Podría equivaler a desarrollar gradualmente una capacidad de sentirse cómodo con la esclavitud: “Donde no hay “otro”, sino solo la aparición de un otro a nuestra disposición, concurrente con la ausencia de la demanda que se ejercería sobre la propia entrega por confrontación con un verdadero otro, nos arriesgamos a ser condicionados en un talento peligroso para la explotación”. [5]
En la misma línea, esta combinación de estado del objeto o herramienta y apariencia personal también puede llevarnos a acostumbrarnos a una actitud de consumidor hacia el comportamiento de otras personas, reduciendo gradualmente nuestra tolerancia al comportamiento de otras personas que nos perturbaría. No es imposible que la presencia constante de compañeros artificiales, cuyos comportamientos perturbadores serán percibidos como defectos (en virtud de su condición de herramientas u objetos), nos lleve subrepticiamente a ver personas genuinas que nos perturban de la misma manera. “como simples seres humanos defectuosos, viéndolos con el mismo tipo de insatisfacción ociosa que sentiríamos con un robot que no proporcionaba el conjunto de comportamientos y reacciones que queríamos consumir.” [6]
Esto puede llevar a reconsiderar la cuestión de qué derechos deberían otorgarse a los robots y sistemas de IA. Es cierto que su condición de máquinas significa que podemos legítimamente negarnos a considerarlas como sujetos de derecho. Esto no significa, sin embargo, que deberíamos dejar a todos hacer lo que quieran con ellos, como podríamos hacerlo con una mesa. Un marco regulatorio puede ser deseable en esta área, aunque sólo sea para prevenir el desarrollo de conductas o hábitos que son extremadamente tóxicos para los seres humanos y otros seres vivos.
Todos estos factores nos animan a reflexionar profundamente sobre por qué desarrollar máquinas cada vez más capaces de presentar la apariencia de seres humanos u otros seres vivos. Necesitamos reflexionar sobre lo que realmente podemos obtener de esas tecnologías.
[1] Learn more about machine learning in a complexity expert’s contribution to democracy: https://nhnai.org/focus-on-nexuses-of-complexity-democracy/
[2] See: https://www.erudit.org/fr/revues/cs/2022-n4-cs07915/1098602ar.pdf
[3] A. Ghosh, La malédiction de la muscade. Une contre-histoire de la modernité, Wildproject 2024, pp. 170-171 (our translation).
[4] In the following sub-sections, we draw on the work of the AI Research Group of the Centre for Digital Culture (Culture and Education), and its book “Encountering Artificial Intelligence: Ethical and Anthropological Investigations.” *Journal of Moral Theology* 1 (Theological Investigations of AI) 2023; especially chapter 4. https://doi.org/10.55476/001c.91230
[5] Ibid., p. 119.
[6] Ibid., p. 121. The full sentence reads: “Is it possible that we will no longer see this as a glimpse of a wider array of humanity, that we will not struggle toward a charitable response? Perhaps instead, we may come to think of these others as simply faulty human beings, viewing them with the same sort of idle dissatisfaction that we would feel with a robot that did not deliver the set of behaviors and reactions that we wanted to consume.”
