Ser humano en la era de la neurociencia y la inteligencia artificial implica explorar con detenimiento los entresijos de la complejidad, donde ideas válidas se encuentran, no obstante, en tensión, poniendo de manifiesto matices y retos que no deben pasarse por alto. Cada página refleja las tensiones existentes entre las ideas y dentro de cada tema, que surgieron en los debates colectivos, y que se complementan con las aportaciones de los investigadores de la red NHNAI.
Complejidad y democracia n.º 6: El desafío democrático de la regulación
Está surgiendo un consenso claro sobre el hecho de que las nuevas tecnologías poderosas, como la gobernanza y la regulación, requieren. Es crucial fomentar un uso razonado de la tecnología de IA (incluida la videovigilancia, los algoritmos, los grandes datos y las redes sociales), siempre bajo control humano. Necesitamos implementar herramientas normativas actualizadas y derechos jurídicos para los ciudadanos (que es una preocupación multidisciplinaria); desarrollar e implementar códigos éticos para grupos profesionales (por ejemplo, desarrolladores web); prestar especial atención a los grupos vulnerables (impedir la automatización de la discriminación, por ejemplo).
Sin embargo, parte de los intercambios también ponen de manifiesto que la regulación plantea muchos problemas agudos, lo que la convierte en un desafío muy difícil. Por ejemplo, podemos mencionar el tema de la moderación en las redes sociales: ¿quién es el actor adecuado? Las tecnologías de IA pueden contribuir, pero ¿cuál es el lugar de los seres humanos? Un tema así revela cuestiones muy fundamentales sobre la verdad, la democracia y la legitimidad. En términos más generales, la regulación de la IA es un desafío por varias razones: el ritmo del desarrollo tecnológico, la ocultación de patrones de responsabilidad (con las tecnologías digitales en general y más específicamente con el aprendizaje automático), el acceso a menudo “fácil” a herramientas potentes (en manos de actores mal intencionados, la tecnología como el reconocimiento facial o de imágenes puede volverse extremadamente dañina), la escala global de investigación y desarrollo (con diversidad de sistemas de valores en todo el mundo así como constelaciones de conflictos de interés), … También se debe tener en cuenta el modelo económico o de negocios asociado con las tecnologías digitales (los modelos sin costo basados en la participación de los usuarios y la recopilación de datos podrían dificultar la alineación con los objetivos humanos).
Para hacer frente al desafío de la regulación de la IA, muchos participantes insisten en la importancia de la alfabetización digital y el pensamiento crítico que se deben fomentar. Es muy importante que algunos participantes destaquen la necesidad urgente de luchar contra el sentimiento de impotencia que los ciudadanos pueden experimentar cuando se enfrentan a estos desafíos regulatorios.
Conclusiones de la red académica de la NHNAI:
A. Desde el punto de vista del abogado
A la luz de la profundidad del desafío de la regulación de la IA, podríamos recordar algunos principios básicos del derecho, en particular la importancia del Estado de derecho como principio fundamental para garantizar una democracia viva. El principio del imperio de la ley significa que para limitar nuestras libertades o evitar el riesgo de hacerlo, es necesario adoptar medidas legislativas, expresadas de manera clara y exhaustiva. publicado, con un contenido estrictamente proporcional a su propósito y aceptable dentro de una sociedad democrática.
En lo que respecta al contenido de la regulación de la IA, debería reforzarse la transparencia sobre el funcionamiento y los fines perseguidos por el responsable del tratamiento, junto con el derecho a impugnar el uso de sus datos (en particular para proteger la autonomía de las personas). En el mismo sentido, debemos hacer que los desarrolladores de IA rindan cuentas. Este principio de responsabilidad les impone una evaluación multidisciplinar y multipartícipe de las aplicaciones que están desarrollando y los riesgos asociados.
Además, es responsabilidad de los Estados establecer un foro donde la sociedad pueda discutir abiertamente los aspectos éticos de ciertas grandes innovaciones públicas.
B. Abrir los debates sociales sobre cuestiones éticas
Basado en las ideas de Brian P. Green (profesor de Ética de la IA, director de ética tecnológica en el Centro Markkula para la Ética Aplicada (Universidad de Santa Clara, EE.UU.) y Mathieu Guillermin (profesor asociado de ética de nuevas tecnologías (UCLy (Universidad Católica de Lyon)), UR CONFLUENCE : Sciences et Humanités (EA 1598), Lyon, Francia
Esto resuena con la pregunta de dónde debería ocurrir la intervención para “proteger” a las personas de la IA. ¿Debemos confiar en que las personas estén lo suficientemente educadas como para protegerse a sí mismas, o en los políticos como para estar lo suficientemente educados como para proteger a los ciudadanos? ¿O sobre las empresas para saber lo suficiente? ¿O sobre los ingenieros que hacen el producto? Todas las partes interesadas involucradas necesitan opinar en sus propios ámbitos de acción. Ningún grupo puede ser responsable de todos porque el problema del alfabetismo y control de la IA es demasiado complejo y necesita tener muchos puntos de intervención para dirigirlo hacia el bien.
Algunas cosas deberían ser automatizadas y otras no; ¿cómo sabemos cuál es cuál, y cuál es nuestra justificación para hacer esta distinción? Necesitamos un “por qué” para determinar lo que es legítimamente automatizable y lo que no. Explorar colectivamente esta pregunta del “por qué”, la cuestión de nuestras necesidades, puede resultar extremadamente complicado. A medida que nuestra civilización se acelera, parece no haber oposición a la fuerza de delegación mediante la automatización por IA porque los seres humanos simplemente no pueden ser lo suficientemente rápidos. Ya vemos esto en áreas de comercio de alta frecuencia y ciberataque y defensa. Cuando preguntamos: ¿qué se puede delegar y qué no? Esto no es solo una pregunta sobre lo que es técnicamente factible. También significa preguntarse POR QUÉ?
Esta pregunta sobre el “por qué” nos empuja al dominio de la reflexión evaluativa, de los valores e intereses. Como mencionaron algunos participantes en las discusiones, esta reflexión puede resultar difícil ya que los valores e intereses pueden ser muy divergentes. Sin embargo, puede ser interesante adoptar un enfoque matizado. Aunque claramente puede haber fuertes desacuerdos en cuestiones morales y éticas, esto no significa necesariamente que el terreno común sea imposible. Como primera aproximación, parece que hay algunos valores fundacionales sobre los cuales construir. Algunos autores sugieren 5 valores que podrían ser universales: sobrevivir, reproducirse, vivir en sociedad, educar a los jóvenes, buscar la verdad. [1] Estos valores podrían decirse objetivos ya que son razonables para una amplia variedad de personas porque existen por lógica, en este caso prueba por contradicción / reductio ad absurdum.
Además, la existencia de fuertes desacuerdos no significa en sí misma que haya fuertes divergencias entre los valores que las personas defienden. Muy a menudo, los valores son compartidos pero pueden entrar en tensión y entonces las personas no están de acuerdo sobre la prioridad que se debe dar a algunos sobre otros (seguridad versus protección de la privacidad, libertad individual versus bien común, etc.). Significa, por lo tanto, que siempre debemos reflexionar sobre nuestros desacuerdos y sobre lo que éstos implican (puede haber más acuerdo de lo que creemos a primera vista, más terreno para divergencias constructivas).
Esto nos permite destacar la importancia de reforzar las capacidades de todos los actores para participar en estos debates abiertos sociales. Como acabamos de ver, requiere fomentar el pensamiento crítico. También es necesario cultivar la alfabetización tecnológica y digital para garantizar que las discusiones sean lo más informadas posible.
