Ser humano en la era de las neurociencias y la inteligencia artificial significa explorar las profundidades de la complejidad, donde las ideas válidas sin embargo se encuentran bajo tensión, destacando matices y desafíos que no deben pasarse por alto. Cada página refleja las tensiones existentes entre ideas y dentro de cada tema, que surgieron en discusiones colectivas, y que se complementan con contribuciones de investigadores de la red NHNAI.
Complejidad transversal n.°2: establecer límites y regulación, incluso si puede resultar desafiante
(basado en la idea global-transversal epónima: establecer límites y regulación, incluso si puede resultar desafiante)
Existe una fuerte necesidad de regulación y normas para asegurar que las tecnologías de IA y NS ofrezcan resultados positivos. Las normas y la regulación son fundamentales para crear confianza y proteger a las personas al desplegar nuevas tecnologías. La IA debe cumplir con los valores humanos (equidad, no sesgo, …) y debe estar centrada en el ser humano (apuntando al florecimiento humano). Las tecnologías de IA y NS deberían beneficiar a todos (es crucial luchar contra la exclusión de personas pobres y vulnerables).
Sin embargo, la regulación plantea muchos problemas agudos que lo convierten en un desafío muy difícil. Entre estas cuestiones, se puede evocar el ritmo del desarrollo tecnológico, la ocultación de los patrones de responsabilidad (con las tecnologías digitales en general y más específicamente con el aprendizaje automático), el acceso a menudo “fácil” a herramientas potentes (en manos de actores mal intencionados, la tecnología como el reconocimiento facial/de imágenes puede volverse extremadamente dañina), la escala global de la investigación y el desarrollo (con diversidad de sistemas de valores alrededor del mundo así como constelaciones de conflictos de interés), la dificultad de hacer cumplir las regulaciones (en un contexto tan diverso e internacional).
En términos generales, la regulación debería fomentar usos razonados y sólidos de las tecnologías de IA y NS. Sin embargo, identificar lo que es razonado y sólido y lo que no puede resultar extremadamente difícil (Tomemos el caso de la moderación en las redes sociales, por ejemplo: ¿quién es el actor adecuado? O el caso de las tecnologías sanitarias con zonas grises entre los usos curativos y mejoradores: ¿quién puede decidir si una patología requiere o justifica el uso de una determinada tecnología sanitaria?). Las partes interesadas, los profesionales, los ciudadanos y los agentes económicos/industriales deben participar en los procesos de regulación.
Conclusiones de la red académica de la NHNAI:
Como los participantes dejan muy en claro, la regulación será vital para asegurar que la IA se oriente hacia sus mejores usos y se aleje de sus peores. Esta es una preocupación seria de todos los socios globales en el proyecto NHNAI, y esta preocupación se intensifica por el conocimiento de que actores malos o neutrales intentarán explotar -o al menos no tener en mente el bien común- a medida que desplieguen sistemas de IA en nuestro mundo.
La IA no debe respetar sólo los valores humanos y estar centrada exclusivamente en el ser humano, porque ¿cómo podemos aspirar a la realización de una especie viva cuya existencia depende de innumerables interdependencias con otras especies vivas y con su entorno terrestre? Los límites y la regulación podrían entonces surgir de un enfoque descentralizado como el introducido por Aldo Leopold hace cien años:[1]
Al extender ‘los límites de la comunidad para incluir el suelo, el agua, las plantas y los animales, o colectivamente, la tierra’, la ética de la tierra de Leopold no solo va más allá de los límites de la humanidad (los límites ordinarios de la moralidad), se convierte en la de una comunidad mixta, incluir diversas poblaciones de diferentes especies. Esto debería enriquecer nuestra comprensión de la variedad de deberes dentro de la comunidad biótica.
Con estos valores en mente, surgen preguntas importantes:
¿Qué es el humanismo cuando toma en cuenta toda la red relacional de existencia en nuestro planeta?
Lo que se convierten en proyectos científicos y avances tecnológicos si intentamos hacerlos compatibles con las interdependencias que hacen posibles las experiencias vivas.
Más específicamente, ¿cuáles son los beneficios potenciales de la IA para la Tierra en su globalidad (globalidad de todas las interacciones y complejidad de comprenderlas)?
[1] Larrère, C. (2010). Les éthiques environnementales. Natures Sciences Sociétés, Vol. 18(4), 405-413. https://shs.cairn.info/revue-natures-sciences-societes-2010-4-page-405?lang=fr (our translation).
