Ser humano en la era de las neurociencias y la inteligencia artificial significa explorar las profundidades de la complejidad, donde las ideas válidas sin embargo se encuentran bajo tensión, destacando matices y desafíos que no deben pasarse por alto. Cada página refleja las tensiones existentes entre ideas y dentro de cada tema, que surgieron en discusiones colectivas, y que se complementan con contribuciones de investigadores de la red NHNAI.
Complejidad transversal n.°4: Apoyar sin socavar la toma de decisiones humanas
Muchos participantes en discusiones colectivas reconocen que las tecnologías de IA pueden apoyar a los seres humanos en la toma de decisiones en varios dominios (e incluso tener un mejor desempeño en algunas tareas). Pueden ayudarnos a organizar la vasta cantidad de información que debemos tratar (especialmente en las redes sociales e internet) y contribuir a mejorar la calidad de esta información (verificación de hechos, lucha contra noticias falsas (profundas), …). Pueden permitir prevenir o gestionar diversos problemas y crisis (garantizar una mejor seguridad en el espacio público con una vigilancia más eficiente, detectar fraudes o corrupción, anticipar epidemias o los caprichos del clima y el cambio climático, …).
Sin embargo, también se expresa ampliamente que el apoyo de la IA a la toma de decisiones puede plantear dificultades extremadamente agudas. En primer lugar, puede resultar difícil preservar la toma de decisiones independiente del ser humano, con la posibilidad de desviarse a veces de las recomendaciones de la máquina (por ejemplo, basadas en la reflexión humana con intuición entrenada). Esto puede resultar particularmente problemático para los profesionales a quienes delegamos y otorgamos autoridad, con el riesgo de que la delegación de autoridad pase de los profesionales a las máquinas (esta preocupación se ha expresado sobre la relación médico-paciente, pero probablemente también podría aplicarse en el contexto de la educación sobre la relación alumno-profesor). Además, las cadenas y los patrones de responsabilidad pueden sufrir dilución y opacidad. Desde esta perspectiva, nunca se debe perder de vista el hecho de que sólo los seres humanos, gracias a su conciencia y pensamiento crítico, son capaces de tomar decisiones éticas y responsables. Los seres humanos son, por lo tanto, los únicos responsables de las orientaciones tecnológicas y las consecuencias de los usos de la IA.
Además, y a medida que las discusiones en el campo de la democracia se centran en ello, la participación de la IA (generativa) en el procesamiento, gestión y edición de nuestro panorama informativo desencadena problemas preocupantes, con serios riesgos de socavar e impedir la inteligencia colectiva. Los algoritmos sesgados y/o injustos pueden propagar automáticamente y en silencio discriminaciones, crear información o burbujas cognitivas que aíslan a las personas en paisajes informativos uniformes. (Generativo) La IA puede facilitar y fomentar la producción y difusión de noticias falsas (profundas). La IA puede dañar nuestra capacidad de encontrar información precisa, confiable y basada en fuentes, introduciendo desconfianza entre los ciudadanos no informados, poniendo en peligro las buenas elecciones democráticas y el pluralismo.
Conclusiones de la red académica de la NHNAI:
La tesis de que podría ser posible programar un algoritmo para tomar decisiones éticas en nuestro nombre se refiere a veces como algorética. Además de las muchas cuestiones críticas que tal perspectiva encuentra comprensiblemente -algunas de las cuales son destacadas por los participantes en el debate NHNAI-, es interesante observar cómo este tipo de proyecto tiende a reducir la moralidad de una acción a la intención del agente de alinear su comportamiento con un conjunto de principios éticos.
Esta visión deontológica de la ética, aunque no sin argumentos de apoyo, parece algo reduccionista, ya que no da suficiente consideración a los resultados de las acciones emprendidas (Cabitza, 2021). Al reflexionar sobre cómo se debe utilizar una nueva tecnología, parece más apropiado adoptar un enfoque consecuencialista: uno en el que el carácter moral de una acción se evalúa principalmente en función de las consecuencias que produce.
