Ser humano en la era de las neurociencias y la inteligencia artificial significa explorar las profundidades de la complejidad, donde las ideas válidas sin embargo se encuentran bajo tensión, destacando matices y desafíos que no deben pasarse por alto. Cada página refleja las tensiones existentes entre ideas y dentro de cada tema, que surgieron en discusiones colectivas, y que se complementan con contribuciones de investigadores de la red NHNAI.
Complejidad en la salud n.°6: Regular las tecnologías y preservar la privacidad e integridad de las personas sin sofocar la innovación médica
Los participantes reconocen en gran medida los beneficios que se pueden obtener del desarrollo de la IA y las tecnologías sanitarias en el ámbito de la salud y la medicina, así como en el ámbito de la mejora humana (mejora de la toma de decisiones médicas, automatización de ciertas tareas, mayor acceso a la atención médica y a información relacionada con la salud, mejora de las capacidades físicas y mentales, …).
Al mismo tiempo, los participantes también se preocupan por el riesgo de que se recopile información sensible sobre la salud para usos no médicos. Los datos de salud recopilados por la IA o herramientas digitales solo deben servir a fines médicos y de atención médica. Las soluciones digitales no deberían implicar la intrusión de organizaciones externas (como compañías de seguros).
Además, con la convergencia de la inteligencia social y la IA, los datos podrían utilizarse para mejorar el poder predictivo sobre los comportamientos y pensamientos de las personas, así como las posibilidades de manipulación cognitiva. Por lo tanto, se debe proteger la privacidad de la mente.
Esto plantea la difícil cuestión de la regulación. Como se mencionó en las discusiones, la innovación podría verse obstaculizada por una regulación excesivamente rígida y la seguridad de los pacientes comprometida por una regulación demasiado laxa. Entonces, ¿cómo encontrar el equilibrio adecuado entre fomentar la innovación y proteger a los pacientes?
Conclusiones de la red académica de la NHNAI:
La posibilidad de utilizar los datos sanitarios para contribuir a la costosa financiación de la innovación sanitaria es un tema de debate recurrente. Esto podría resultar una vía interesante, siempre que la protección de dichos datos sea convincente y se utilice de forma anónima y con consentimiento informado. Sin embargo, varios estudios han documentado casos en los que la anonimización ha fallado, lo que lleva a un riesgo de re-identificación. [1] También se ha destacado que, bajo el efecto de los incentivos económicos, las poblaciones particularmente vulnerables podrían estar sujetas a diversos tipos de abuso. [2]
En general se reconoce que es muy importante que los actores externos, como las compañías de seguros, no puedan acceder a los datos sanitarios. La confianza pública podría verse seriamente socavada por el uso de datos sanitarios por organizaciones privadas con fines comerciales o discriminatorios. El uso de datos de salud para fines médicos explícitos está destinado a ser garantizado por el reglamento GDPR de la UE, que impone restricciones claras al acceso y uso de datos personales con este fin. [3]
La convergencia de la IA y la neurotecnología abre la puerta a la predicción o manipulación del comportamiento cognitivo, y por lo tanto plantea nuevas amenazas a la privacidad cognitiva y la libertad mental. Varios autores insisten así en la importancia de proteger la “privacidad de la mente”, especialmente a través de regulaciones. [4]
Frente a todos estos desafíos, algunas veces se menciona que herramientas como la cadena de bloques pueden permitir a las personas controlar el acceso a sus datos de salud, así como su eventual disponibilidad para fines de innovación, siempre y cuando se desarrolle en paralelo una regulación voluntaria y rigurosa.
Debido a los riesgos en términos de seguridad, eficacia y uso ético, es imperativo que la innovación en IA y tecnologías sanitarias esté acompañada por marcos regulatorios sólidos. Por lo tanto, se espera que el sector de la salud pueda cerrar la brecha entre la innovación y la regulación. Sin embargo, una regulación excesiva podría tener el efecto de asfixiar la innovación, desalentar la inversión en nuevas tecnologías y ralentizar el desarrollo de avances que salvan vidas. Frente a un panorama de tecnología sanitaria que cambia rápidamente, es crucial desarrollar un enfoque regulatorio equilibrado que sea flexible y adaptable. Los investigadores han propuesto algunos modelos regulatorios adaptativos, en los que el desarrollo tecnológico y la supervisión evolucionan simultáneamente, dejando margen para la innovación sin afectar a la rendición de cuentas. De esta manera, podemos esperar evitar los peligros gemelos de impedir el progreso o proteger insuficientemente a los pacientes frente a ciertos daños potenciales (Bouderhem, 2024; Zhou & Gattinger, 2024). [5]
[1] Ohm, P. (2010). Broken promises of privacy: Responding to the surprising failure of anonymization. UCLA Law Review, 57(6), 1701-1777.
[2] Vayena, E., & Tasioulas, J. (2016). The ethics of personalized medicine: New challenges and opportunities. Journal of Medical Ethics, 42(8), 451-454.
[3] Floridi, L., & Taddeo, M. (2016). What is data ethics? Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, 374(2083), 20160360.
[4] Ienca, M., & Andorno, R. (2017). Towards new human rights in the age of neuroscience and neurotechnology. Life Sciences, Society and Policy, 13(1), 5.
[5] Bouderhem, R. (2024). Shaping the future of AI in healthcare through ethics and governance. Humanities and Social Sciences Communications, 11(416). Zhou, K., & Gattinger, G. (2024). The Evolving Regulatory Paradigm of AI in MedTech: A Review of Perspectives and Where We Are Today. Therapeutic Innovation & Regulatory Science, 58(456–464).
