El principio de presunción de falibilidad de las decisiones algorítmicas desfavorables: Una nueva garantía jurídica frente a las decisiones automatizadas y el uso de sistemas de inteligencia artificial en la administración pública

• Autores: Jesús Tahirí Moreno
• Localización: Revista Aragonesa de Administración Pública, ISSN 1133-4797, Nº 60, 2023, págs. 188-214
• Idioma: español
• Enlaces
  • Texto completo (pdf)
• Resumen
  • español

    El presente artículo tiene por objeto el planteamiento de una nueva garantía dirigida a reforzar la protección jurídica del administrado en procedimientos administrativos donde existan actuaciones administrativas automatizadas y/o se empleen sistemas de inteligencia artificial para la toma de decisiones. En la primera parte del trabajo se exponen los conceptos básicos del aprendizaje automático supervisado y no supervisado, analizándose, asimismo, los óbices jurídicos que impiden su uso en determinadas parcelas del poder administrativo. A continuación, se desarrolla el principio de presunción de falibilidad de las decisiones algorítmicas desfavorables como técnica de supervisión humana en orden a facilitar la implementación de tecnologías emergentes en la Administración, a la vez que se respetan los derechos e intereses legítimos de los ciudadanos. Finalmente se realiza una breve reflexión acerca de la importancia de la labor doctrinal en este campo, incidiendo en la necesidad de remodelar la arquitectura de una Administración anquilosada.

  • English

    The goal of this paper is to propose a new guarantee aimed at reinforcing the legal protection of the administrative proceedings where there are automated administrative actions and/or artificial intelligence systems are used for decision making. The first part of the article presents the basic concepts of supervised and unsupervised machine learning, analyzing the legal obstacles that prevent its use in certain areas of administrative power. Next, it develops the principle of presumption of fallibility of unfavorable algorithmic decisions as a technique of human supervision in order to facilitate the implementation of emerging technologies in the administration, while respecting the legitimate rights and interests of citizens. Finally, a brief reflection is made on the importance of doctrinal work in this field, with particular emphasis on the need to remodel the architecture of a stagnant Administration.