The ethical-legal challenges in the use of Artificial Intelligence for the massive processing of biometric data

DOI: https://doi.org/10.18543/djhr.3199
Keywords: artificial intelligence, biometric data, ethical challenges, privacy, security, consent, massive processing

Abstract

The article examines the intersection between Artificial Intelligence (AI) and the massive processing of biometric data, emphasizing emerging ethical and legal challenges. It begins by contextualizing the increasing use of AI in systems utilizing biometric data such as facial recognition, fingerprints, iris scan and voice. The complexity of collecting, storing, and utilizing biometric data on a large scale is analyzed, focusing on privacy, security, and informed consent. Additionally, it addresses biases and their implications, highlighting potential discriminatory impacts and the challenges in safeguarding fundamental rights within these systems.

Received: 31 May 2024 
Accepted: 04 August 2024

Downloads

Download data is not yet available.

References

Aliaga, Laura, y Mª Estrella Gutiérrez. 2020. «Reino Unido: Reconocimiento facial en lugares públicos realizado por Fuerzas y Cuerpos de Seguridad en el marco de la prevención e investigación de delitos. La visión del ICO». La Ley privacidad 3: 18.

Álvarez, Nelia, y David Sanz. 2021. «Advertencia de la Agencia Española de Protección de Datos con respecto a la utilización de técnicas de e-proctoring en la evaluación online por la UNIR». La Ley privacidad 10: 6.

Andúgar, Miguel Á. 2023. «Videovigilancia, control de accesos y datos biométricos». En La protección de datos en el ámbito parlamentario: guía práctica, editado por Esther de Alba, 201-219. Madrid: Asociación de Delegados y Delegadas de Protección de Datos de Parlamentos.

Arroyo, Alicia. 2022. «Vehículos autónomos, responsabilidad y seguro: Avances legislativos y perspectivas». Revista de Derecho del Sistema Financiero: mercados, operadores y contratos 3: 4.

Baz, Jesús. 2021. Los nuevos derechos digitales laborales de las personas trabajadoras en España: vigilancia tecnificada, teletrabajo, inteligencia artificial, Big Data. Madrid: Wolters Kluwer España.

Barona, Silvia. 2024. «Tecnología biométrica y datos biométricos. Bondades y peligros. No todo vale». Actualidad Jurídica Iberoamericana 21: 298-331.

Bestard, Juan J. 2021. La gestión de datos personales y el delegado de protección de datos en la sanidad pública: Con atención especial a la Comunidad de Madrid. Tesis doctoral. Acceso el 18 de octubre de 2024. https://repositorio.uam.es/handle/10486/699704.

Castellanos, Jorge. 2023. Inteligencia artificial y democracia: garantías, límites constitucionales y perspectiva ética ante la transformación digital, Barcelona: Atelier.

Castellanos, Jorge. 2024. «Una reflexión acerca de la influencia de la inteligencia artificial en los derechos fundamentales». en Ciencia de datos y perspectivas de la inteligencia artificial, editado por Francisca Ramón, 271-300. Valencia: Tirant Lo Blanch.

Cotino, Lorenzo. 2022. «Sistemas de inteligencia artificial con reconocimiento facial y datos biométricos. Mejor regular bien que prohibir mal». El Cronista del Estado Social y Democrático de Derecho 100: 68-79. Acceso el 18 de octubre 2024. https://www.uv.es/cotino/publicaciones/cronistacotinopublicado.pdf.

Cotino, Lorenzo. 2023. «Reconocimiento facial automatizado y sistemas de identificación biométrica bajo la regulación superpuesta de inteligencia artificial y protección de datos». Derecho público de la inteligencia artificial, 347-402. Acceso el 18 de octubre 2024. https://www.fundacionmgimenezabad.es/sites/default/files/Publicar/publicaciones/documentos/oc27_13_lorenzo_cotino_es_o.pdf.

Cotino, Lorenzo. 2023. «Una regulación legal y de calidad para los análisis automatizados de datos o con inteligencia artificial. Los altos estándares que exigen el Tribunal Constitucional alemán y otros tribunales, que no se cumplen ni de lejos en España», Revista General de Derecho Administrativo 63: Iustel (RI §425995).

Díaz, Juan. 2023. «Datos biométricos para el control de presencia y accesos». I+S: Revista de la Sociedad Española de Informática y Salud 157: 62. Acceso el 13 de julio de 2024. https://seis.es/is-157/.

Díaz Lima, David. 2023. «Datos biométricos y acceso a eventos deportivos. Comentarios al Informe de la AEPD». La Ley privacidad 15.

Espuga, Gerard. 2023. «La (i)licitud del tratamiento de datos biométricos para el registro de jornada». en Más allá de la oficina: desafíos laborales emergentes en un mundo hiperconectado, editado por Francisco Trujillo, 139-160. Cizur Menor: Aranzadi.

Etxeberria, José F. Pilar Martín, César A. Villegas y José L. Rodríguez. 2023. «Datos biométricos y reconocimiento facial en el proceso penal». En La tecnología y la inteligencia artificial al servicio del proceso, dirigido por María Luis Domínguez, Pilar A. Villegas y José L. Rodríguez Lainz, 107-126. A Coruña: Colex.

Flórez, Mª Lorena, y Angélica Mª Camelo. 2023. «Tecnologías de reconocimiento facial en Colombia: Análisis comparativo en relación con la protección de datos». Ius et Praxis 29 (1): 3-26. Acceso el 14 de junio de 2024. https://www.revistaiep.utalca.cl/wp-content/uploads/2023/03/02.-Florez-Maria-Lorena-y-Camelo-Angelica.pdf.

Garrido, Andrea. 2023. «El derecho al respeto a la vida privada: ¿el precio a pagar por una Europa segura en la era tecnológica?» Revista Integración Regional & Derechos Humanos 11 (2). Acceso el 1 de junio de 2024. http://www.derecho.uba.ar/institucional/centro-de-excelencia-jean-monnet/revista-electronica/009/garrido-raya.pdf.

Garriga, Ana, Cristina Pauner, Rosario García Mahamut y Beatriz Tomás. 2023. «La especial posición de los datos biométricos en el RGPD: peculiaridades derivadas de su naturaleza y riesgos asociados a su tratamiento», en La implementación del reglamento general de protección de datos en España y el impacto de sus cláusulas abiertas, coordinado por Jorge A. Viguri, 115-144. Valencia: Tirant lo Blanch.

Garrós, Imma. 2021. «Las categorías especiales de datos personales y su régimen aplicable». Revista Aranzadi Doctrinal 2.

González Calvo, Marcos. 2022. «¿Hacia nuevas restricciones en el uso de datos biométricos?» Actualidad jurídica Aranzadi 990.

Han, Byung–Chul. 2020. «La emergencia viral y el mundo del mañana». El País. 22 de marzo. Acceso el 22 de mayo de 2024. https://elpais.com/ideas/2020-03-21/la-emergencia-viral-y-el-mundo-de-manana-byung-chul-han-el-filosofo-surcoreano-que-piensa-desde-berlin.html.

Harari, Yuval N. 2024. Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA. Barcelona: Debate.

Iturmendi, José M. 2023. «La discriminación algorítmica y su impacto en la dignidad de la persona y los derechos humanos: Especial referencia a los inmigrantes». Revista Deusto de derechos humanos 12: 257-284. Acceso el 2 de mayo de 2024. https://djhr.revistas.deusto.es/article/view/2910.

Martínez Martínez, Ricard. 2020. «Tecnología de verificación de identidad y control en exámenes online». Revista de educación y derecho 22. https://doi.org/10.1344/REYD2020.22.32357.

Ponce, Julio. 2024. «Inteligencia Artificial. Decisiones administrativas discrecionales totalmente automatizadas y alcance del control judicial: ¿Indiferencia, insuficiencia o deferencia?», Revista de Derecho Público: Teoría y Método 9: 172-220. https://doi.org/10.37417/RPD/vol_9_2024_2151.

Razquin, Martín M. 2022. «La identidad digital como derecho». Derecho Digital e Innovación 14.

Romano, Andrea. 2023. «Derechos fundamentales e inteligencia artificial emocional en iBorderCtrl: retos de la automatización en el ámbito migratorio». Revista catalana de dret públic 66: 237-252. https://doi.org/10.58992/rcdp.i66.2023.3928.

Sebé, Sonia, y Manel Santilari. 2022. «Los datos biométricos como categorías especiales de datos. Debate a raíz de las directrices del ComitéEuropeo de Protección de Datos sobre reconocimiento facial». Comunicaciones en propiedad industrial y derecho de la competencia 97: 23-43.

Sempere, Javier. 2020. «¿Se puede utilizar la huella para el control de accesos a un gimnasio?». La Ley privacidad 3.

Serrano, Fernando. 2022. El uso de la inteligencia artificial para optimizar los ingresos tributarios. Informe 7. Caracas: CAF. Acceso el 18 de marzo de 2024. https://scioteca.caf.com/handle/123456789/1933

Simón, Pere. 2021. Justicia cautelar e inteligencia artificial. La alternativa a los atávicos heurísticos artificiales. Barcelona: Bosch Editores.

Simón, Pere y Lorenzo Cotino (Dirs.). 2024. Tratado sobre el Reglamento de Inteligencia Artificial de la Unión Europea. Madrid: Aranzadi.

Published
2024-12-22
How to Cite
Cuadrado Gamarra, Nuria. 2024. “The Ethical-Legal Challenges in the Use of Artificial Intelligence for the Massive Processing of Biometric Data”. Deusto Journal of Human Rights, no. 14 (December), 341-74. https://doi.org/10.18543/djhr.3199.
Issue
No. 14 (2024): Inteligencia Artificial y Derechos Humanos: desafíos y oportunidades en la era digital
Section
Articles
Deusto Journal of Human Rights / Revista Deusto de Derechos Humanos is an Open Access journal; which means that it is free for full and immediate access, reading, search, download, distribution, and reuse in any medium only for non-commercial purposes and in accordance with any applicable copyright legislation, without prior permission from the copyright holder (University of Deusto) or the author; provided the original work and publication source are properly cited (Issue number, year, pages and DOI if applicable) and any changes to the original are clearly indicated. Any other use of its content in any medium or format, now known or developed in the future, requires prior written permission of the copyright holder.