Ser humano en la era de las neurociencias y la inteligencia artificial significa explorar las profundidades de la complejidad, donde las ideas válidas sin embargo se encuentran bajo tensión, destacando matices y desafíos que no deben pasarse por alto. Cada página refleja las tensiones existentes entre ideas y dentro de cada tema, que surgieron en discusiones colectivas, y que se complementan con contribuciones de investigadores de la red NHNAI.
Complejidad en la educación n.°1: IA y NS en la educación con respecto al desarrollo humano
Inclusión, personalización y relaciones humanas
Los participantes destacan los beneficios que la IA puede aportar a la educación, empezando por la digitalización y las plataformas escolares en línea, que hacen que el material didáctico en línea sea accesible para todos, facilitando la instrucción fuera del horario de clase y permitiendo a alumnos y estudiantes ampliar las materias que se enseñan en clase, y haciendo que sea más fácil ponerse al día con las lecciones cuando esté ausente. Las tecnologías digitales también permiten discusiones en línea y foros de debate que podrían facilitar a las personas que son muy tímidas o incómodas hablando en público expresarse.
Más específicamente, los participantes también reconocen que la IA puede ser de gran ayuda en la educación. Los sistemas de traducción y aprendizaje de idiomas asistidos por IA, especialmente junto con bots conversacionales con capacidades de voz a texto, se están volviendo más accesibles. Pueden ser de gran ayuda, por ejemplo porque el aprendizaje de idiomas requiere en parte práctica oral (los robots conversacionales son entonces posiblemente más efectivos que los libros de idiomas). Estas herramientas pueden incluso resultar indispensables para las personas con dificultades de lenguaje o para las personas sordas o con problemas auditivos (como se menciona en Kenia y Francia).
Para los participantes, chatbots como ChatGPT, cuando se usan sabiamente, podrían ser una herramienta pedagógica formidable, una ayuda necesaria para el aprendizaje que complementa al profesor. Este aspecto complementario entre la IA y el profesor fue enfatizado varias veces en las discusiones, especialmente con respecto a la personalización del aprendizaje. La IA hace posible personalizar los caminos de aprendizaje según el ritmo, el nivel y las habilidades de cada estudiante. Como es física y cognitivamente imposible para el profesor tener en cuenta todas las especificidades de cada estudiante, la IA le permite tener una visión general e identificar a los estudiantes con dificultades que tienen mayor necesidad de apoyo.
Pero los participantes también reconocen que la contribución de la IA a la educación (más inclusión, más acceso…) muy a menudo se hace a expensas de la interacción cara a cara y el contacto humano, y esta preocupación fue casi unánime en las discusiones. La disponibilidad de materiales de aprendizaje en línea también puede tener el efecto negativo de alentar a los estudiantes a invertir menos tiempo en actividades del aula, o incluso incitar a algunos a abandonar las clases y estudiar en casa, dado que ahora todo está disponible en línea y al alcance de todos. Como se ha mencionado en varios países, entre ellos Portugal, también existe el riesgo de que los jóvenes, después de haberse acostumbrado a este nuevo formato de relaciones en línea, se contentarán con estos contactos virtuales y comenzarán a ignorar sus necesidades relacionales, emocionales y físicas. al punto de volverse distante y frío en el contacto con los demás.
En general, los participantes coinciden en la idea de que socavar las relaciones humanas en las interacciones cara a cara amenaza la educación a nivel mundial. Sólo en las interacciones cara a cara pueden entrar realmente en juego la empatía, la emoción, el entendimiento mutuo y recíproco -en resumen, el encuentro con el otro-. Interacciones cara a cara cuando se trata de aprender cómo ser, cómo saber y cómo actuar. La presencia de un profesor y la transmisión de su pasión y emociones desempeñan un papel importante en la motivación y la atención del alumno, y por lo tanto en su aprendizaje. Así que la escuela no es sólo un lugar para aprender, sino también un lugar para compartir, conocer gente nueva y aprender a vivir juntos, para ayudar a que la sociedad florezca. A través de la interacción cara a cara, nos confrontamos entre nosotros, aprendemos códigos sociales y transmitimos valores. La educación digital, o la educación que tiene lugar demasiado detrás de pantallas, puede contribuir en última instancia a reforzar el individualismo y el egoísmo, lo que constituiría un obstáculo importante para la vida comunitaria y una amenaza para la cohesión social.
Además, incluso si reconocen que la IA puede hacer que el material didáctico sea más accesible y mejorar los procesos de aprendizaje, los participantes también se preocupan por el riesgo de exacerbar las desigualdades. De hecho, la IA podría ser accesible y beneficiosa sólo para los grupos o personas socioeconómicas adinerados, especialmente porque los programas de IA necesitan recursos e infraestructuras costosos que algunas poblaciones carecen actualmente. Además, los programas de IA no están desprovistos de sesgos, y esto podría perpetuar la discriminación y el estigma, especialmente cuando algunas culturas y poblaciones están subrepresentadas en las bases de datos de capacitación (haciendo que las herramientas de IA sean menos eficientes, además de los problemas de discriminación directa).
Conclusiones de la red académica de la NHNAI:
A. Evitar la desinversión en las relaciones humanas y la mercantilización del ser humano
Basado en las ideas de Brian P. Green (profesor de Ética de la IA, director de ética tecnológica en el Centro Markkula para la Ética Aplicada (Universidad de Santa Clara, Estados Unidos) y Laura Di Rollo (ingeniera de investigación en ciencias cognitivas para el proyecto NHNAI (UCLy (Universidad Católica de Lyon)), UR CONFLUENCE : Sciences et Humanités (EA 1598), Lyon, Francia
En su libro “Alone together” (2011),[1] Sherry Turkle está preocupada porque los jóvenes ya no están invirtiendo en las relaciones humanas, y que se espera más de las tecnologías que de los seres humanos. Las relaciones enfocadas en la educación están entre las más importantes que tenemos como seres humanos. La mayoría de las personas pueden recordar a alguien que les enseñó algo, ya sea nuestros padres, un amigo o un maestro en la escuela. Estas relaciones educativas son vitales para nuestra humanidad y la IA las pone en riesgo, especialmente de dos maneras: 1) como una distracción del aprendizaje (por ejemplo, con algoritmos de recomendación en redes sociales y otras plataformas digitales, que están optimizadas para captar la atención), y 2) como un sustituto para el aprendizaje (por ejemplo, con herramientas generativas de IA que los niños y estudiantes pueden utilizar para completar sus tareas).
Los seres humanos nos necesitamos mutuamente, especialmente para la educación. Con la socialización degradada, el cerebro humano sufre síntomas similares al estrés, lo que implica no sólo una reducción de las capacidades por parte del sistema nervioso, sino también un deterioro más evidente en la calidad y diversidad de las experiencias. que se someten a una cierta pérdida de libertad total de pensamiento y acción a lo largo de la vida. Para convertirse en seres humanos genuinos, los niños no deberían ser criados por pantallas y algoritmos, sino por otros seres humanos genuinos. Desde esta perspectiva, uno puede preguntarse sobre el momento y el lugar adecuados para introducir herramientas tecnológicas avanzadas para los niños, estudiantes y maestros. Para poder juzgar adecuadamente el interés y el valor añadido de la tecnología en una actividad determinada, los profesores deben ser capaces, en primer lugar, de impartir clases sin ningún dispositivo tecnológico importante. Si los maestros aprenden a ser así con un alto nivel de dependencia de la tecnología desde el principio, se cuestiona la fiabilidad de su comprensión del ciclo de aprendizaje a través de la interacción humana.
Además de la cuestión de la desinversión en las relaciones humanas, las tecnologías digitales también presentan el riesgo de mercantilizar a los seres humanos, es decir, reducirlos a meros objetos. De hecho, como señala Sherry Turkle (2011), el riesgo es que nuestro “yo” se transforme en un “yo-objeto” en línea, donde nos tratamos cada vez más como objetos y de una manera expeditiva. El ejemplo más elocuente es sin duda el correo electrónico. Los correos electrónicos son una carga cognitiva en sí mismos, pero a veces son mensajes de amigos o colegas que decimos que necesitamos “lidiar con” o “deshacernos de ellos”, podemos tacharlos de nuestra lista de tareas, como si estuviéramos hablando de vaciar nuestra canasta de papel.
En última instancia, el peligro es que perdamos la sensación de estar vivo, la forma de estar-en-el-mundo que preserva una cierta dignidad y autenticidad, y que sólo las relaciones humanas y el contacto presencial pueden proporcionar. La IA tiene el potencial de ser un arma de destrucción masiva para el sistema educativo del mundo. Hay que desarmarla y utilizarla como fuente de poder para ayudar a los seres humanos a ser mejores personas, en lugar de perjudicarnos permitiendo las peores partes de nuestra naturaleza. Por lo tanto, parece necesario encontrar un equilibrio para beneficiarse de lo que la IA puede ofrecernos, preservando al mismo tiempo esos preciosos contactos humanos que definen en gran medida nuestra humanidad, sobre todo a través de ciertos atributos. La voz humana es para Sherry Turkle lo que el rostro es para Levinas. [2] Para Sherry Turkle, es en la voz que se transmite y se escucha el rango de las emociones humanas y la singularidad de los seres. Para Levinas, es a través del rostro que el otro me aparece en su fragilidad, vulnerabilidad y singularidad, lo que exige una injunción ética para proteger y no para dañar. El rostro es una interfaz que nos permite entrar en una relación con los demás, y a través de ellos, con la humanidad. Esto plantea la cuestión de si el peligro que amenaza a la humanidad, con relaciones en su mayoría a distancia y casi sin rostro, no es la indiferencia hacia el otro, y con ella, la pérdida de preocupación por la humanidad.
[1] Turkle, S. (2011). Alone together. Why We Expect More from Technology and Less from Each Other. Basic Books, New York.
[2] Lévinas, E. (1984). Ethique et infini. Le livre de poche
B. Escapar del aumento de la desigualdad: solidaridad y relaciones
Basado en las ideas de Brian P. Green (profesor de Ética de la IA, director de ética tecnológica en el Centro Markkula para la Ética Aplicada (Universidad de Santa Clara, EE.UU.), Nathanaël Laurent (profesor asociado de filosofía de la biología, Universidad de Namur, ESPHIN) y Federico Giorgi (investigador postdoctoral en filosofía, Universidad de Namur, ESPHIN, Bélgica)
La IA como motor de la desigualdad social y económica es una cuestión ineludible porque reducirá el valor del trabajo y aumentará el valor del capital, alejando así la riqueza de los trabajadores hacia los propietarios de la IA. Cómo preparar a los estudiantes de hoy para el extraño mundo del mañana, donde el trabajo puede no tener valor y sólo aquellos que ya poseen riqueza conservarán la riqueza es un problema sin resolver de proporciones gigantescas.
Los estudiantes necesitan saber que un futuro extraño se acerca y ser conscientes de la IA y la neuro-tecnología como tecnologías en desarrollo que pueden afectar su futuro. Además, no se debe permitir que la incertidumbre generada por estas revelaciones sobrepase la creciente importancia de las actividades particularmente humanas, como la búsqueda de ética, justicia y la creación de un mundo más solidario. Si bien el trabajo intelectual puede ser, en algunos casos, automatizable, las relaciones de cuidado entre familias y amigos nunca se pueden automatizar. Las relaciones humanas particulares no son fungibles y, por lo tanto, la IA nunca puede reemplazarlas. El valor de la familia y los amigos debería ser recalcado y el estudio de lo que hace buenas relaciones debería ser una parte clave de la revisión de la educación.
La preocupación general de que la IA podría convertirse en una herramienta de exclusión contra los segmentos menos acomodados de la población no parece estar vinculada específicamente a ningún tipo de tecnología. Más bien, surge potencialmente cada vez que se hace un nuevo descubrimiento científico que puede mejorar las condiciones de vida de una porción significativa de la población. Si, por ejemplo, un tratamiento muy eficaz pero costoso para una enfermedad grave se comercializara en el futuro, el mismo riesgo de exclusión se aplicaría a quienes carecen de los medios financieros para costearlo.
Las reflexiones de los participantes, por lo tanto, plantean preguntas muy amplias, pero no menos relevantes para la realidad concreta experimentada diariamente por millones de personas: la relación entre ética y economía. ¿Podemos sostener todavía hoy que la ciencia económica debe gozar de una autonomía absoluta respecto de cualquier propuesta de regulación destinada a limitar los efectos devastadores de la desigualdad? ¿O es necesario desafiar una visión tan economicista, como la que proponen pensadores como Jean Ladrière, Amartya Sen y Martha Nussbaum (Caltagirone, 2017)?
Las contribuciones de los participantes en los debates del NHNAI parecen confirmar una vez más que el desarrollo económico y tecnológico no puede separarse de una evaluación moral de los riesgos de exclusión que la digitalización conlleva para quienes carecen de acceso a las nuevas tecnologías.
