Ser humano en la era de la neurociencia y la inteligencia artificial implica explorar cuidadosamente los nexos de complejidad donde, si bien las ideas válidas se encuentran en tensión, se manifiestan sutilezas y desafíos que no deben pasarse por alto. Cada página expresa la tensión existente entre ideas y dentro de cada tema, surgida de los debates colectivos, y se complementa con las aportaciones de los investigadores de la red NHNAI.
Complejidad de la democracia #3: Garantizar la seguridad sin menoscabar los derechos fundamentales.
Los participantes en los debates reconocen el interés de utilizar tecnologías de IA en muchos aspectos de nuestra vida, en particular para mejorar la convivencia en nuestras sociedades democráticas. Además del posible apoyo que la IA puede brindar a la toma de decisiones políticas colectivas o a la inteligencia colectiva (que se analiza en los nexos de complejidad específicos[1]), algunos participantes destacan que la IA podría contribuir a mejorar la seguridad, por ejemplo, mediante capacidades de videovigilancia mejoradas. Otros señalan los beneficios de la IA en términos de seguridad, con una mayor capacidad para predecir y gestionar crisis como epidemias o desastres naturales.
Al mismo tiempo, los debates manifiestan claramente la preocupación por los derechos fundamentales y la protección de la privacidad, especialmente la privacidad mental (ya con los algoritmos de elaboración de perfiles, y aún más con la incorporación de la neurociencia). Los participantes se preocupan especialmente por el acceso masivo de entidades públicas y privadas a todo tipo de datos personales (sobre salud, opiniones, decisiones, hábitos y costumbres…), lo que supone una presión sobre la privacidad.
El debilitamiento de la privacidad y la difuminación de los límites entre las esferas pública y privada pueden obstaculizar notablemente la libertad de pensamiento y expresión, así como la vida democrática y social. Además, los participantes insisten en que las mejoras en seguridad no deben lograrse a expensas de los más vulnerables, quienes podrían encontrar mayores dificultades para ejercer sus derechos. En general, las personas nunca deben ser reducidas a sus datos.
[1] Véanse los siguientes nexos de complejidad: IA y tecnologías digitales para los servicios públicos y la vida democrática, e IA al servicio de la inteligencia colectiva humana.
Información relevante de la red académica NHNAI:
Basado en las ideas de Federico Giorgi (investigador postdoctoral en filosofía (Université de Namur, ESPHIN, Bélgica), Brian P. Green (profesor de ética de la IA, director de ética tecnológica en el Centro Markkula de Ética Aplicada (Universidad de Santa Clara, EE. UU.), Nathanaël Laurent (profesor asociado de filosofía de la biología (Université de Namur, ESPHIN, Bélgica) e Yves Poullet (profesor de derecho de las nuevas tecnologías de la información y la comunicación (Université de Namur, ESPHIN – CRIDS, Bélgica))
A. La privacidad, una piedra angular de la democracia
La protección de la privacidad es un componente clave de la vida colectiva, especialmente en las sociedades democráticas. El derecho a mantener ciertas cosas en secreto, a mantenerlas fuera de la esfera pública, es fundamental. Como recuerda el filósofo belga Corentin de Salle, la privacidad es sumamente importante por varias razones básicas:[1]
Primero, para preservar la dignidad de las personas. Por decoro, podríamos decir. Segundo, porque revelar asuntos que deberían permanecer en secreto las hace vulnerables. Puede socavar su autoridad si tienen responsabilidades. Dificulta que asuman el rol social que deben desempeñar en su vida profesional. También puede revelar sus debilidades, permitiendo que personas sin escrúpulos las exploten para manipularlas, defraudarlas, robarles la identidad o hacerles daño. Finalmente, proteger la privacidad es importante porque todos necesitamos un refugio, un lugar donde recargar energías sin preocuparnos por lo que decimos, hacemos o pensamos. (…)
Además, la privacidad «no es una libertad fundamental junto con otras libertades, sino una condición para otras libertades. En particular, la libertad de expresión y la libertad de movimiento. [Como dice Yves Poullet, si sé] que me espían constantemente, ya no me atreveré a expresarme como deseo, ni siquiera en entornos más íntimos y privados. Si me siento controlado en todo momento, ¿cómo puedo moverme libremente?»[2] Con la neurotecnología emergente que proporciona nuevas capacidades de análisis y manipulación del funcionamiento cerebral, los problemas de privacidad pueden agravarse aún más, con la posibilidad de socavar nuestra integridad mental e identidad psicológica. Quizás sea el momento de reconocer los «neuroderechos», como ya lo han hecho algunos países.
Otra forma de abordar el fundamento del derecho a la privacidad es la cuestión de la desigualdad de poder entre el individuo y el Estado. Dado que el conocimiento es poder, y el Estado posee mucho más conocimiento y poder que el individuo, es necesario que el Estado sea más transparente para el individuo (libertad de información sobre el gobierno, secreto gubernamental limitado) y que el individuo sea más opaco para el Estado (derecho a la privacidad). La tecnología digital y los sistemas de IA, en cierto modo, amplían este problema de asimetría de poder, ya que la IA es un poder que puede ser controlado tanto por los Estados como por otras organizaciones, y estas organizaciones también deberían ser más transparentes para el público, y el público, a su vez, estar protegido de estas organizaciones mediante el derecho a la privacidad.
El deseo de seguridad pública a través de la vigilancia entra, por supuesto, en conflicto con el derecho a la privacidad mencionado anteriormente. El equilibrio entre seguridad y privacidad es extremadamente contextual y, por lo tanto, varía de un lugar a otro, pero, en general, la transparencia del gobierno (o de la organización poderosa) puede reforzarse de manera similar para proteger a los individuos, incluso si son objeto de mayor vigilancia. También es importante mencionar que la privacidad nunca debe considerarse desde una perspectiva puramente individualista. Por ejemplo, con la tecnología de elaboración de perfiles y recomendaciones: debemos considerar que nuestros perfiles se deducen no solo de nuestros datos, sino también de macrodatos donde nuestros datos se mezclan con datos de otras personas. Esto significa que nuestra decisión individual de permitir la recopilación y el procesamiento de nuestros datos por parte de aplicaciones de IA también involucra, de alguna manera, a otras personas. Nuestros datos podrían usarse para elaborar perfiles de otras personas que se negaron a la recopilación y el procesamiento de los suyos. De hecho, detrás de la explotación de los datos personales se esconde una cuestión global sobre el tipo de modelo socioeconómico en el que queremos vivir, una cuestión que va más allá de la mera vigilancia estatal de sus ciudadanos.
B. Vigilancia capitalista
En este sentido, podríamos mencionar el libro de Zuboff, La era del capitalismo de vigilancia (2018). Zuboff, profesora emérita de la Harvard Business School, reconocida por su investigación sobre la tecnología en el ámbito laboral, se ha propuesto una tarea ambiciosa: crear un conjunto de términos que capturen el entusiasmo que rodea a las empresas tecnológicas modernas. Argumenta que el capitalismo de vigilancia obtiene beneficios recopilando, procesando y analizando datos sobre el comportamiento de las personas mediante métodos que fomentan la «indiferencia radical», una forma de observación sin testigos. Esto lo diferencia del capitalismo industrial, que se beneficia de la explotación de los recursos naturales y la mano de obra. Las empresas de vigilancia han encontrado una gran cantidad de información en los datos que recopilan para su propio uso, y se han dado cuenta de que pueden vender estos «datos residuales» a los anunciantes. Para ellas, las personas detrás de los datos son meros accesorios.
Zuboff considera que las estructuras económicas resultantes son completamente nuevas: una forma de capitalismo perversa. Mientras que las empresas anteriores se basaban en la «acumulación primitiva», las empresas de vigilancia como Facebook y Google dependen de la continua «desposesión digital», un concepto que ha tomado de David Harvey. Cada uno de nosotros es constantemente manipulado y convertido en un recurso valioso para estas empresas. Más allá de la vigilancia gubernamental que busca limitar el libre albedrío, a Zuboff le preocupa que estas empresas utilicen el libre albedrío humano para lograr sus objetivos, aprovechándose de los resultados predecibles que proporcionamos.
Para Zuboff, esto crea una situación inquietante con respecto a la idea central del liberalismo moderno: el individuo. Considera que el capitalismo de vigilancia es una extensión de la investigación de B.F. Skinner en psicología, donde las personas son vistas simplemente como sus comportamientos y reflejos. Skinner buscaba mejorar la cohesión social y la eficiencia laboral, independientemente de la elección individual. Zuboff destaca ejemplos que muestran cómo el capitalismo de vigilancia se relaciona con este tipo de conductismo, como el desarrollo de la biometría y la investigación de Rosalind Picard sobre computación afectiva para usuarios autistas, que posteriormente fue adoptada por empresas emergentes de vigilancia. Todo esto demuestra que el capitalismo de vigilancia está socavando gradualmente nuestro derecho fundamental a la libertad personal.
[1] De Salle C., Tellier S., De Cooman J., Petit N., Duquenne E., Lombardo A., Hublet L. & Leduc P. (2018) La vie privée à l’ère des big data, Les Études du Centre Jean Gol, p. 9. https://www.cjg.be/les-etudes-du-cjg-la-vie-privee-a-lere-des-big-data/
[2] Ibid.
