Los desafíos jurídicos de la inteligencia artificial frente a la protección de los derechos fundamentales: revisión bibliográfica The legal challenges of artificial intelligence in relation to the protection of fundamental rights: a literature review
Barra lateral del artículo
Contenido principal del artículo
Resumen
La progresiva incorporación de la inteligencia artificial (IA) en los procesos públicos y privados plantea nuevos retos para la protección de los derechos fundamentales, especialmente cuando existen decisiones automatizadas que puedan crear consecuencias jurídicas para las personas. Este estudio tuvo como objetivo analizar los principales retos jurídicos del uso de la IA y la garantía de los derechos fundamentales. Se llevó a cabo una revisión sistemática de la literatura de corte cualitativo y jurídico-documental, siguiendo los criterios PRISMA 2020 delimitadores del proceso de identificación, selección y análisis de las publicaciones científicas correspondientes al periodo 2020-2026. La revisión incluyó 19 estudios seleccionados bajo criterios de pertinencia temática, actualidad y vinculación directa con el objeto de estudio. La información se organizó mediante una matriz y, posteriormente, se sometió al análisis temático. El estudio permitió establecer la necesidad de protección jurídica frente a la IA, lo que requiere abordar de forma conjunta la privacidad y protección de datos, la igualdad y no discriminación, la transparencia y explicabilidad, el debido proceso, responsabilidad, rendición de cuentas y gobernanza. Asimismo, se percibió una evolución desde enfoques orientados a identificar riesgos hacia modelos preventivos basados en evaluación de impacto, supervisión humana y mecanismos de cumplimiento. Se concluyó que una regulación jurídicamente adecuada debe combinar innovación tecnológica con garantías preventivas, responsabilidad atribuible y mecanismos efectivos de impugnación, manteniendo los derechos fundamentales como límite y criterio de legitimidad del desarrollo y utilización de sistemas de IA
Descargas
Detalles del artículo
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial 4.0.
Citas
Adams-Prassl, J., Binns, R., & Kelly-Lyth, A. (2023). Directly Discriminatory Algorithms. Modern Law Review, 86(1), 144–175. https://doi.org/10.1111/1468-2230.12759;WGROUP:STRING:PUBLICATION
Agencia de los Derechos Fundamentales de la Unión Europea. (2025). Evaluación de la inteligencia artificial de alto riesgo: riesgos para los derechos fundamentales. 4. https://fra.europa.eu/en/publication/2025/assessing-high-risk-ai
Batool, A., Zowghi, D., & Bano, M. (2025). AI governance: a systematic literature review. AI and Ethics 2024 5:3, 5(3), 3265–3279. https://doi.org/10.1007/S43681-024-00653-W
Bertaina, S., Biganzoli, I., Desiante, R., Fontanella, D., Inverardi, N., Penco, I., & Cosentini, A. (2025). Fundamental rights and artificial intelligence impact assessment: A new quantitative methodology in the upcoming era of AI Act. Computer Law & Security Review, 56, 106101. https://doi.org/10.1016/J.CLSR.2024.106101
Chatterjee, S., & Sreenivasulu, N. (2022). Artificial intelligence and human rights: a comprehensive study from Indian legal and policy perspective. International Journal of Law and Management, 64(1), 110–134. https://doi.org/10.1108/IJLMA-02-2021-0049
Falletti, E. (2023). Algorithmic Discrimination and Privacy Protection. Journal of Digital Technologies and Law, 1(2), 387–420. https://doi.org/10.21202/JDTL.2023.16
Giarmoleo, F., Ferrero, I., Rocchi, M., & Pellegrini, M. (2024). What ethics can say on artificial intelligence: Insights from a systematic literature review. Business and Society Review, 129(2), 258–292. https://doi.org/10.1111/BASR.12336;WEBSITE:WEBSITE:PERICLES;REQUESTEDJOURNAL:JOURNAL:14678594;WGROUP:STRING:PUBLICATION
Hernández, J., Turriago, J., & Pertuz, A. (2025). Reformulaciones a la Teoría de los Derechos Humanos y Fundamentales a partir de la Inteligencia Artificial. Via Inveniendi Et Iudicandi, 20(1), 54–67. https://doi.org/10.15332/19090528.11113
Ineli-Ciger, M. (2024). Resettlement by algorithm: Can artificial intelligence uphold human rights? Computer Law & Security Review, 55, 106051. https://doi.org/10.1016/J.CLSR.2024.106051
Laulhé Shaelou, S., Razmetaeva, Y., Shaelou, S., & Razmetaeva, Y. (2024). Challenges to Fundamental Human Rights in the age of Artificial Intelligence Systems: shaping the digital legal order while upholding Rule of Law principles and European values. ERA Forum 2024 24:4, 24(4), 567–587. https://doi.org/10.1007/S12027-023-00777-2
Lütz, F. (2024). The AI Act, gender equality and non-discrimination: what role for the AI office? ERA Forum 2024 25:1, 25(1), 79–95. https://doi.org/10.1007/S12027-024-00785-W
Mantelero, A. (2024). The Fundamental Rights Impact Assessment (FRIA) in the AI Act: Roots, legal obligations and key elements for a model template. Computer Law & Security Review, 54, 106020. https://doi.org/10.1016/J.CLSR.2024.106020
Mpinga, E., Bukonda, N., Qailouli, S., & Chastonay, P. (2022). Artificial Intelligence and Human Rights: Are There Signs of an Emerging Discipline? A Systematic Review. Journal of Multidisciplinary Healthcare, 15, 235–246. https://doi.org/10.2147/JMDH.S315314
Page, M., McKenzie, J., Bossuyt, P., Boutron, I., Hoffmann, T., Mulrow, C., Shamseer, L., Tetzlaff, J., Akl, E. A., Brennan, S. E., Chou, R., Glanville, J., Grimshaw, J. M., Hróbjartsson, A., Lalu, M. M., Li, T., Loder, E. W., Mayo-Wilson, E., McDonald, S., … Moher, D. (2021). The PRISMA 2020 statement: an updated guideline for reporting systematic reviews. BMJ, 372. https://doi.org/10.1136/BMJ.N71
Palmiotto, F. (2024). Procedural fairness in automated asylum procedures: Fundamental rights for fundamental challenges. Computer Law & Security Review, 55, 106065. https://doi.org/10.1016/J.CLSR.2024.106065
Palmiotto, F. (2025). The AI Act Roller Coaster: The Evolution of Fundamental Rights Protection in the Legislative Process and the Future of the Regulation. European Journal of Risk Regulation, 16(2), 770–793. https://doi.org/10.1017/ERR.2024.97
Presno, M. (2022). Teoría general de los derechos fundamentales e inteligencia artificial: una aproximación. Revista Jurídica de Asturias, ISSN 0211-1217, No 45, 2022, Págs. 55-83, (45), 55–83. https://dialnet.unirioja.es/servlet/articulo?codigo=8578297&info=resumen&idioma=SPA
Prifti, K., Hoppenbrouwers, J., de Leeuw, E., Quintavalla, A., & Temperman, J. (2026). Artificial Intelligence & Human Rights Law: A Thematic Synthesis Review. Minds and Machines 2026 36:3, 36(3), 40-. https://doi.org/10.1007/S11023-026-09793-W
Rodrigues, R. (2020). Legal and human rights issues of AI: Gaps, challenges and vulnerabilities. Journal of Responsible Technology, 4, 100005. https://doi.org/10.1016/J.JRT.2020.100005
Sartor, G. (2020). Artificial intelligence and human rights: Between law and ethics. Maastricht Journal of European and Comparative Law, 27(6), 705–719. https://doi.org/10.1177/1023263X20981566;PAGE:STRING:ARTICLE/CHAPTER
Veale, M., & Borgesius, F. (2022). Demystifying the Draft EU Artificial Intelligence Act. Computer Law Review International, 22(4), 97–112. https://doi.org/10.9785/cri-2021-220402
Vidalis, T. (2025). Artificial Intelligence and Human Rights: Towards an Advanced International Binding Regulation? Goettingen Journal of International Law, 15(2), 265–286. https://doi.org/10.59609/1868-1581-2322
Završnik, A. (2020). Criminal justice, artificial intelligence systems, and human rights. ERA Forum 2020 20:4, 20(4), 567–583. https://doi.org/10.1007/S12027-020-00602-0