Enfoque en los nexos de la complejidad: la democracia

Ser humano en la era de la neurociencia y la inteligencia artificial implica explorar con detenimiento los entresijos de la complejidad, donde ideas válidas se encuentran, no obstante, en tensión, poniendo de manifiesto matices y retos que no deben pasarse por alto. Cada página refleja las tensiones existentes entre las ideas y dentro de cada tema, que surgieron en los debates colectivos, y que se complementan con las aportaciones de los investigadores de la red NHNAI.

Muchos participantes señalan que la formulación de políticas y la toma de decisiones deben seguir basándose en la interacción humana y en la reflexión y deliberación colectivas. Existe un amplio consenso en contra del gobierno por máquinas (tecnocracia), así como en que la IA no debe sustituir a los seres humanos en la toma de decisiones, en particular en el ámbito clave de las decisiones políticas colectivas. Por el contrario, las relaciones humanas y la empatía son fundamentales para la toma de decisiones colectivas y deben preservarse y reforzarse.

En este sentido, las herramientas digitales ya ofrecen enormes posibilidades para el intercambio de información y los debates colectivos a escalas geográficas y a un ritmo temporal sin precedentes. Con Internet y las redes sociales, el intercambio de información se ha liberalizado enormemente.

No obstante, esta liberalización de nuestro panorama informativo colectivo también ha puesto de manifiesto el problema del exceso de información disponible y la necesidad de filtrarla de manera más eficaz. En este sentido, los debates reflejan una profunda preocupación por los algoritmos de recomendación, que pueden reforzar los prejuicios y el aislamiento de determinados grupos al crear «cámaras de eco» y «burbujas informativas». Estos procesos pueden incluso ser objeto de manipulación deliberada. En cualquier caso, esto conduce a un debilitamiento de nuestra relación colectiva con la veracidad en los debates políticos y sociales, lo que disminuye, en lugar de potenciar, nuestras capacidades de inteligencia colectiva y nuestra capacidad para ser personas auténticas en nuestra vida ciudadana con autonomía.

Algunos participantes destacan, a este respecto, el problema del sensacionalismo mediático y la tendencia a caer en el sensacionalismo (incluido el sensacionalismo sobre la propia IA), lo que refuerza el problema de la editorialización de la información, mientras que un periodismo más responsable es más necesario que nunca.

En general, los participantes insisten en la necesidad de fomentar el pensamiento crítico para desenvolvernos mejor en el panorama informativo y reforzar nuestra inteligencia colectiva y nuestra capacidad para elaborar políticas y tomar decisiones. La inteligencia artificial podría ser de gran ayuda en este sentido, por ejemplo, contribuyendo a mejorar la calidad de la información o apoyando la lucha contra las noticias falsas (o «deepfakes») y su difusión (moderación de las redes sociales).

Basándose en las ideas de Brian P. Green (profesor de Ética de la IA y director de Ética Tecnológica en el Centro Markkula de Ética Aplicada (Universidad de Santa Clara, EE. UU.), Mathieu Guillermin (profesor asociado de Ética de las Nuevas Tecnologías (UCLy (Universidad Católica de Lyon), UR CONFLUENCE: Ciencias y Humanidades (EA 1598), Lyon, Francia), Nathanaël Laurent (profesor asociado de Filosofía de la Biología (Universidad de Namur, ESPHIN, Bélgica) e Yves Poullet (profesor de Derecho de las Nuevas Tecnologías de la Información y la Comunicación (Universidad de Namur, ESPHIN – CRIDS, Bélgica)

La salud de nuestras sociedades democráticas depende, en parte, de la calidad del panorama informativo y de la inteligencia colectiva de los ciudadanos. Ambos aspectos se ven profundamente afectados por la tecnología digital y la inteligencia artificial.

A.  IA, panorama informativo e inteligencia colectiva

Dada la enorme cantidad de contenido disponible en Internet (incluso si nos limitamos a las plataformas digitales), la editorialización (al menos) parcialmente automatizada de la información es inevitable. Las herramientas de IA para perfilar a los usuarios y recomendarles contenidos son, por lo tanto, elementos tecnológicos clave. Sin embargo, debemos cuestionarnos los criterios y los fines de estas operaciones de perfilado y recomendación. Como explica Gerald Bronner,[1] la liberalización de nuestros panoramas informativos, asociada a un modelo económico basado en la gratuidad, conduce a una feroz competencia por captar la mayor atención posible de los usuarios. Los algoritmos de recomendación están diseñados para impulsar contenidos que mantengan a los usuarios conectados (asegurando así la máxima exposición a la publicidad personalizada y la recopilación de datos más eficiente). Esto difiere mucho de los sistemas de recomendación que promoverían contenidos propicios para el florecimiento (que a menudo pueden resultar menos atractivos a primera vista).

Los sistemas de elaboración de perfiles y de recomendación pueden tener, en particular, efectos perjudiciales (intencionados o no) en el ámbito político. Las «cámaras de eco» pueden provocar una fuerte polarización de la opinión pública. Los contenidos digitales pueden diseñarse para sacar partido de los sistemas de recomendación y las cámaras de eco. Esto es especialmente cierto en el caso de las noticias falsas «deepfake», que se producen cada vez con mayor facilidad mediante herramientas de IA generativa. Además, la concentración de ingresos y poder económico en manos de las grandes plataformas podría conducir a una concentración del poder político, especialmente en lo que respecta a la influencia sobre la opinión pública. Esto puede debilitar profundamente los cimientos y las condiciones básicas de posibilidad de las sociedades democráticas, amenazando, por ejemplo, la organización de elecciones libres y transparentes. Las cámaras de eco y las noticias falsas (deep fakes) pueden incluso emplearse como armas de desestabilización política en conflictos geoestratégicos. Los regímenes autoritarios también podrían utilizar los sistemas de recomendación y de elaboración de perfiles para reforzar su control sobre la población. Al mismo tiempo, la tecnología de IA puede ayudar a combatir estas amenazas. Podríamos hablar de una especie de guerra de IA,[2] en la que los sistemas defensivos combaten a los ofensivos con el panorama informativo como campo de batalla. Los sistemas de IA pueden entrenarse para detectar imágenes o vídeos deepfake. Sería posible desarrollar sistemas de recomendación y editorialización que limiten la viralidad de las noticias falsas.

En términos generales, cabe esperar que la IA nos ayude a mejorar nuestro panorama informativo y nuestra inteligencia colectiva (recomendaciones de contenidos más enriquecedores, lucha contra las noticias falsas, etc.), pero esto dependerá en gran medida de nuestra capacidad para fomentar el desarrollo de la tecnología adecuada y la adopción de los usos más positivos, con el fin de promover la alfabetización digital y ética. Esto significa, en particular, fomentar la alfabetización digital y ética para que los actores implicados (desde los desarrolladores hasta los usuarios) puedan crear las condiciones adecuadas. Podríamos mencionar, por ejemplo, la necesaria reflexión sobre el modelo económico que subyace a las tecnologías digitales y las cuestiones que plantea el espejismo de la gratuidad.

Más fundamentalmente, también podemos reflexionar de manera fructífera sobre el significado de expresiones como «tecnología adecuada» y «usos positivos». Utilizar la IA para apoyar la inteligencia humana o el florecimiento, y no para sofocarlos, es otra versión de la cuestión del «equilibrio» que recorre varios temas de debate. Si queremos que la IA ayude a los seres humanos adultos a ser «adultos» y nos oponemos al uso de la IA para convertirnos en «niños» dependientes con la IA como nuestro «padre», hay mucho más que decir aquí sobre qué tipos de apoyo son buenos y cuáles son malos. Una parte de la cuestión se refiere a afinar nuestra comprensión de qué es esta inteligencia colectiva o humana que esperamos que la IA mejore.

B.  ¿Qué significa fomentar la inteligencia colectiva humana?

Puede resultar provechoso cuestionar nuestras ideas preconcebidas sobre lo que significa ser racional o inteligente, sobre cómo podemos o debemos desarrollar ideas que merezcan ser llamadas conocimiento, que merezcan ser consideradas verdaderas. Sin duda, resulta tentador pensar que ganamos en racionalidad o inteligencia al purgar nuestros procedimientos de inferencia de juicios subjetivos, elecciones, concesiones, cuestiones de valor, etc. … Esta visión sin duda fomenta la idea de que los algoritmos y las máquinas de aprendizaje tienen ventaja, ya que, en última instancia, se basan únicamente en cálculos lógico-matemáticos sobre datos. Dotados de una neutralidad superior, los algoritmos podrían así ayudar a los seres humanos a purgar la contaminación de su subjetividad para mejorar su racionalidad. Esta visión también puede llevar a otorgar un gran crédito a la gubernamentalidad algorítmica que evocamos en otro nexo de complejidad. [3]

Sin embargo, la historia y la filosofía de la ciencia recientes (al menos desde la segunda mitad del siglo XX) nos han mostrado los límites de una concepción tan puramente algorítmica o procedimental de la racionalidad y la inteligencia. Cualquier enfoque científico, incluso el más experimental, se basa inevitablemente en juicios y decisiones humanas (tanto en lo que respecta al vocabulario básico que se debe utilizar, las principales orientaciones metodológicas y los objetivos que se deben alcanzar… pero también en cuanto a intuiciones fundamentales como la idea de que la observación empírica no nos engaña sistemáticamente).[4] Los programas informáticos no son una excepción a esta indispensabilidad del juicio humano. Incluso en el caso del aprendizaje automático, los seres humanos deben, por ejemplo, arbitrar sobre la calidad del corpus de ejemplos, sobre el tipo de programa con parámetros libres que intentaremos ajustar automáticamente, o sobre el propio procedimiento de parametrización automática. [5] Este tipo de juicios o arbitrajes no se realizan «arbitrariamente» (en el sentido de que cada uno pudiera hacer lo que le plazca por su cuenta). Se requiere una gran habilidad y experiencia, y nunca se tratará únicamente de aplicar criterios o procedimientos de forma puramente neutral u objetiva.

Ser inteligente o racional es, por supuesto, ser capaz de aplicar criterios, procedimientos o algoritmos correctamente (de forma objetiva o neutral), pero también es, y quizá sobre todo, ser capaz de valorar la calidad de los criterios y procedimientos, tener una actitud reflexiva y crítica hacia lo que hacemos… y, por lo tanto, ser capaz de juzgar y arbitrar de forma falible, de cometer errores a veces, de corregirse a uno mismo, de evolucionar (y de ayudarnos mutuamente en este sentido, de colaborar con buena voluntad)… Ser inteligente en este sentido es algo fundamentalmente vivo, algo que cada uno de nosotros solo puede emprender arraigado en nuestra propia experiencia vivida (con toda la riqueza, pero también con los límites que esto conlleva)[6] y en una colaboración sana con los demás.

Esta dimensión colectiva y relacional de la inteligencia humana es de suma importancia y nos lleva de nuevo al tema de la democracia como un espacio intersubjetivo sólido para la deliberación. Me vuelvo más inteligente cuando interactúo con otras personas, por ejemplo, porque utilizan categorizaciones diferentes (o utilizan las mías de forma diferente). La democracia y la deliberación colectiva son más que la mera concatenación ciega de opiniones individuales, donde predominan las aceptadas por la mayoría. Es, ante todo, una forma de vivir y prosperar juntos. No se puede esperar que los sistemas de IA, por muy inteligentes que sean, reemplacen o automaticen esta forma de profunda inteligencia colectiva humana. Esto no sería en absoluto un apoyo para los humanos, sino más bien una especie de aniquilación de su vida e inteligencia. La pregunta clave que debemos plantearnos entonces es: ¿cómo puede la máquina ayudarnos a ser más inteligentes? Como actores cada vez más omnipresentes de nuestro entorno social (podemos decir que formamos sistemas tecnosociales o híbridos), la tecnología digital (incluida la IA) no solo nos informa, sino que también nos transforma. Debemos reflexionar sobre esta transformación y hacia dónde queremos que nos lleve. ¿Cómo puede la tecnología digital contribuir a enriquecer nuestras experiencias vitales, haciéndonos más sabios y experimentados? ¿Qué tipo de sistemas de IA y servicios digitales fomentarán realmente nuestra inteligencia colectiva y humana?

[1] Gérald Bronner (2012), Apocalypse cognitive, Presses Universitaires de France

[2] https://www.latribune.fr/opinions/tribunes/lutte-contre-la-desinformation-la-guerre-des-intelligences-artificielles-997066.html

[3] See: AI and digital technologies for public services and democratic life.

[4] Philip Kitcher, Science, Truth and Democracy, New York, NY: Oxford University Press, 2001, ISBN : 0-19-514583-6. Mathieu Guillermin, «Non-neutralité sans relativisme ? Le rôle crucial de la rationalité évaluative». Dans : Laurence Brière, Mélissa Lieutenant-Gosselin, Florence Piron (dir.), Et si la recherche scientifique ne pouvait pas être neutre ? Éditions Science et bien commun, 2019, 315-338.  https://scienceetbiencommun.pressbooks.pub/neutralite/chapter/guillermin/

[5] For more details, see the expertise input in the nexus of complexity entitled: AI and digital technologies for public services and democratic life, especially section B. Are algorithms more neutral than humans?

[6] See for instance: François Laplantine, The Life of the Senses: Introduction to a Modal Anthropology, Routledge (Sensory Studies), 2020, 176 p., ISBN 9781472531964