 |
| Fuente de la imagen: Hacia una empresa algorítmicamente responsable (M. Velasco, 2022) |
Las AAPP poseen una ingente cantidad de información y datos actualizados y estructurados (Expósito Gázquez, 2021)[8], un capital informativo inmenso para el desarrollo de sistemas algorítmicos y de IA que requieren datos de calidad para su entrenamiento y fiabilidad (Bermejo Latre, 2023; Martín Fernández, 2023[9]). Esta transformación digital impulsa, además, una "matematización del Derecho", donde las normas se conciben para ser interpretadas por algoritmos mediante un lenguaje claro y desprovisto de conceptos jurídicos abstractos indeterminados (Expósito Gázquez, 2021). Continué explicando el marco regulatorio que, actualmente, en España carece de una regulación específica exhaustiva sobre el uso de la IA por las AAPP (Velasco Rico, 2023), si bien el artículo 18.4 de la Constitución Española de 1978 ya establece la obligación de la ley de limitar el uso de la informática, un concepto que abarca la IA, para garantizar derechos fundamentales (DDFF) como el honor, la intimidad y el pleno ejercicio de cualquier otro derecho de la ciudadanía (Velasco Rico, 2023). En el ámbito europeo, la Unión Europea (UE) está liderando la regulación global de la IA con el Reglamento (UE) 2024/1689, conocido como Reglamento de IA o RIA (Vida Fernández, 2023[10]; Carlón Ruiz, 2023; de la Quadra-Salcedo Fernández del Castillo, 2023[11]), que introduce un sistema de intervención gradual, flexible y basado en el riesgo, clasificando los sistemas de IA en categorías como inaceptable, alto, limitado y mínimo/sin riesgo (Milkes, 2023[12]). Si bien el RIA no regula directamente el uso de la IA por las AAPP nacionales, establece condiciones horizontales que afectan su uso en este ámbito (Vida Fernández, 2023; Carlón Ruiz, 2023), buscando promover una IA centrada en el ser humano y digna de confianza, protegiendo la salud, la seguridad, los DDFF, la democracia, el Estado de Derecho y el medio ambiente (Sanz Larruga, 2024[13]; Carlón Ruiz, 2023).
A nivel estatal, existen normativas con un carácter programático, como el Decreto-ley 2/2023 de Extremadura y la Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación (LIITND) (Velasco Rico, 2023), que establece que las AAPP favorecerán mecanismos para que los algoritmos tengan en cuenta criterios de minimización de sesgos, transparencia y rendición de cuentas (Velasco Rico, 2023; Vestri, 2023[14]). Además, se ha creado un entorno controlado de pruebas (sandbox) mediante el Real Decreto 817/2023, que permite experimentar el cumplimiento del RIA y fomenta la colaboración con la Administración (Rodríguez Cembellín, 2023[15]; Milkes, 2023; Sanz Larruga, 2024; Carlón Ruiz, 2023), ofreciendo seguridad jurídica a los promotores al garantizar que, si cumplen con el protocolo, no serán sancionados, aunque no eximen de requisitos regulatorios (Rodríguez Cembellín, 2023). La implementación de la IA en la Administración Pública (AP) exige la adaptación de las garantías jurídicas existentes (Valero Torrijos, 2023[16]), basándose en varios principios clave. La transparencia y explicabilidad son esenciales para la actividad administrativa algorítmica (Martín Delgado, 2023), distinguiéndose entre transparencia externa y transparencia interna (Martín Delgado & Valle Camacho, 2023). No se equipara necesariamente la transparencia con la apertura total del sistema algorítmico o el acceso al código fuente, debido a la protección de la propiedad intelectual y los secretos empresariales (Martín Delgado & Valle Camacho, 2023[17]; Martín Fernández, 2023; Carlón Ruiz, 2023); lo importante es proporcionar información significativa sobre la lógica aplicada y las consecuencias previstas, usando un lenguaje natural y comprensible para el ciudadano (Martín Fernández, 2023; Hernández Corchete, 2023[18]; Carlón Ruiz, 2023). La Ley 1/2022 de Transparencia y Buen Gobierno de la Comunitat Valenciana, por ejemplo, exige la publicación de la relación de sistemas algorítmicos y su funcionamiento (de la Sierra, 2024[19]).
Se aboga por un derecho a la "buena AP digital" que incluya la calidad, transparencia, auditabilidad, explicabilidad, trazabilidad, supervisión humana, accesibilidad, usabilidad y fiabilidad de los sistemas de IA (Bermejo Latre, 2023). La intervención y supervisión humana, o "reserva de humanidad", es otro pilar fundamental; la IA es una herramienta auxiliar, pero no puede reemplazar al funcionario público en la toma de decisiones discrecionales o en la ponderación de intereses (Chang Chuyes, 2023[20]; Expósito-López, 2023; Ponce Solé, 2019[21], 2022[22]; de la Sierra, 2024[23]). El artículo 22 del RGPD establece que las decisiones basadas únicamente en el tratamiento automatizado son válidas solo si son aceptadas por el interesado o están amparadas por una norma que prevea medidas adecuadas para salvaguardar los derechos y libertades, incluyendo el derecho a obtener intervención humana, expresar su punto de vista e impugnar la decisión (Bermejo Latre, 2023; Hernández Corchete, 2023[24]). La intervención humana debe ser significativa y no meramente formal (Rodríguez-Chaves Mimbrero, 2023[25]), evolucionando el rol del funcionario público hacia la supervisión y humanización de los procedimientos (Expósito-López, 2023). Finalmente, la imputación y responsabilidad son cruciales; la actividad administrativa automatizada debe ser imputable a un sujeto o figura capaz de responder por ella, encajando en la "teoría del órgano" (Bermejo Latre, 2023; Delle Cave, 2023[26]). Se debate si los algoritmos operan como auténticas fuentes reglamentarias (Boix Palop, 2020[27]; San Martín Segura, 2023[28]; Vestri, 2023), lo que requeriría replantear el sistema de fuentes. La responsabilidad patrimonial en el uso de la IA se perfila como subjetiva (Entrena Ruiz, 2024[29]).
La Ley 15/2022 introduce nuevas responsabilidades para las AAPP en el uso de algoritmos de IA (Vestri, 2023; Carlón Ruiz, 2023). Igualmente, lo que está prohibido de forma humana también lo está con IA; la IA se somete al marco jurídico existente (Huergo Lora, 2023)[30]. La IA ya se aplica en diversas áreas de la AP, demostrando su utilidad como herramienta auxiliar. Ejemplos incluyen el control de tráfico y sanciones automatizadas (de la Sierra, 2024), el sistema VioGén (Alonso García, 2024[31]; Carlón Ruiz, 2023), el acceso biométrico a estadios de fútbol (Alenza García, 2024[32]), y la contratación pública (Martín Delgado & Valle Camacho, 2023; Saldaña Ortega, 2023; Miranzo Díaz, 2023, 2024). También se aplica en la planificación de inspecciones (Martín Fernández, 2023), la salud pública (Rodríguez-Chaves Mimbrero, 2023; Entrena Ruiz, 2024), la educación (Moral Soriano, 2023[33]; Tavares da Silva, 2021[34]) y la monitorización de flujos turísticos (Román Márquez, Canales Priego & Rollán Delgado, 2023[35]). El progreso de la IA en la AP Pública es un viaje constante que requiere una intervención legislativa inteligente (Huergo Lora, 2023; Bermejo Latre, 2023). La complejidad tecnológica incide en la eficacia de las garantías jurídicas, y la falta de fiabilidad de los sistemas de IA es una preocupación (Huergo Lora, 2023), observándose que las AAPP se han lanzado a usar la IA sin una adaptación previa de la regulación general sobre procedimiento administrativo (Valero Torrijos, 2023).
La opacidad inherente de los sistemas algorítmicos plantea problemas jurídicos, sociológicos e intrínsecos (Martín Delgado & Valle Camacho, 2023), incluyendo los riesgos de la discriminación algorítmica (Huergo Lora, 2023; Sarasíbar Iriarte, 2023[36]), el sesgo de automatización (De la Sierra, 2024), junto a la dificultad de auditar y explicar decisiones (Huergo Lora, 2023). A pesar de estos retos, la tecnología también puede desempeñar un papel en la adopción de garantías efectivas, ayudando la IA a la AP a saber cómo está funcionando (Huergo Lora, 2023), lo que permitiría detectar patrones de comportamiento y sesgos a través del análisis de datos masivos (Huergo Lora, 2023). En síntesis, la IA es un instrumento que puede mejorar la eficiencia y la calidad de los servicios públicos, pero su integración debe ser cuidadosamente regulada para proteger los DDFF y asegurar un "ecosistema de confianza" (Navarro González, 2023[37]; Carlón Ruiz, 2023), siendo necesario que el legislador español afirme y materialice el derecho a una "buena AP digital", reconfigurando las garantías jurídicas para que tengan un alcance tuitivo general y no se conviertan en meras exigencias formales sin eficacia sustantiva (Bermejo Latre, 2023; Valero Torrijos, 2023). En este punto de la mesa redonda, una de las participantes, profesora universitaria de DA en Buenos Aires, planteó una cuestión pertinente: "Velasco, todo lo que expone sobre el marco europeo y español es interesante, pero en Latinoamérica, aunque compartimos principios, la realidad regulatoria y la capacidad de implementación pueden ser diferentes. ¿Cómo podemos asegurar que esta 'buena AP digital' no se convierta en una brecha aún mayor para nuestros ciudadanos y ciudadanas, especialmente aquellas personas con menos acceso a la tecnología?"
La respuesta fue inmediata, reconociendo la validez de su inquietud. "Excelente cuestión. Esa es precisamente una de las grandes preocupaciones y un reto compartido a nivel global y especialmente relevante en el contexto latinoamericano. La brecha digital es un riesgo real. La digitalización y la cita previa obligatoria, por ejemplo, pueden excluir a la parte de la ciudadanía sin competencias digitales o medios materiales, generando una 'deshumanización progresiva' de la AP. Por ello, la 'buena AP digital' que proponemos no solo debe ser eficiente y transparente, sino, ante todo, accesible y equitativa. Esto implica invertir en infraestructura, en alfabetización digital para la ciudadanía, y en garantizar que siempre existan canales alternativos y presenciales para aquellos que no puedan o no quieran interactuar digitalmente. La tecnología debe ser un puente, no un muro. Además, la colaboración entre operadores humanos y sistemas de IA es el escenario más esperable, no una sustitución total, lo que significa que el personal funcionario deberá reorientar su labor de tareas rutinarias a la supervisión, control y mediación de las decisiones automatizadas, asegurando la ética, la justicia y la relación interpersonal con la ciudadanía", En conclusión, la irrupción de la IA en el ámbito del DA representa un cambio verdaderamente capital y de gran actualidad, planteando retos y problemas que obligan a su estudio profundo. Los juristas están llamados a definir con precisión dónde, cuándo y de qué manera puede usarse la IA en la AP, dada la falta de un régimen jurídico específico, básico y común que la regule en el sector público. La IA es un instrumento para ejercer derechos, poderes y facultades preexistentes, y su aplicación va desde la digitalización básica hasta sistemas predictivos complejos y modelos fundacionales. Ofrece numerosos beneficios en términos de eficiencia, agilidad, mejora de servicios públicos y cumplimiento normativo, paliando problemas como las demoras y la carencia de personal en las AAPP, siendo una técnica útil e incluso imprescindible.
Pero los retos y riesgos críticos incluyen la opacidad y los sesgos de las IA más potentes, la preocupación por una merma de garantías y la "reserva de humanidad" en decisiones discrecionales, el impacto directo en derechos fundamentales como la privacidad y la protección de datos, y la complejidad de la automatización en conceptos jurídicos indeterminados. El marco regulatorio y las propuestas de solución se centran en el Reglamento Europeo de IA (RIA) con su enfoque basado en la gestión de riesgos, iniciativas en España como la Agencia Española de Supervisión de la IA (AESIA), los "sandboxes regulatorios" y la necesidad de revisar y adaptar la legislación existente para incorporar garantías como la transparencia algorítmica y la responsabilidad. La contratación pública y la gobernanza de datos son esenciales para una infraestructura e "infoestructura" de calidad que prevenga sesgos. Además, se redefinen los roles del personal funcionario hacia la supervisión, control y mediación de las decisiones automatizadas. Finalmente, una visión comparada e internacional muestra una preocupación global y una colaboración esperable entre operadores humanos y sistemas de IA, no una sustitución total. En esencia, la AP se encuentra en una encrucijada digital. Como un velero que navega un mar de oportunidades y retos, la IA ofrece vientos a favor para la eficiencia, pero también requiere un timón legal y ético robusto para evitar tempestades y asegurar que el viaje beneficie a toda la ciudadanía, sin dejar a nadie atrás. La interacción con la audiencia latinoamericana enriqueció aún más la discusión, recordándonos que, si bien los retos son universales, sus manifestaciones y las soluciones requieren una adaptación sensible a cada contexto. A continuación te dejo un videotutorial sobre la temática, alojado en mi canal de Youtube.
________________________
[1] Velasco-Carretero, Manuel (2025). Inteligencia Artificial y Derecho Administrativo. Sitio iurepost. Visitado el 25/07/2025,
[2] Carlón Ruiz, M. (2024). Un sistema propio de garantías para la viabilidad del uso de IA por Administraciones públicas. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[3] Tavares da Silva, S. (2024). El DA en la era de la IA. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[4] Valcárcel Fernández, P., & Hernández González, F. L. (Coords.). (2024). Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[5] Huergo Lora, A. (2023). De la digitalización a la IA: ¿evolución o revolución? En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[6] Velasco Rico, C. I. (2023). Marco regulatorio de los sistemas algorítmicos y de IA: el papel de la Administración. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[7] Bermejo Latre, J. L. (2023). La aplicación de la IA en la actividad formal e informal de la Administración. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[8] Expósito Gázquez, A. (2024). Datos y algoritmos: la fórmula matemática de la Administración digital. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[9] Martín Fernández, C. (2024). El uso de algoritmos para elaborar los planes de inspección. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[10] Vida Fernández, J. (2024). El marco europeo para la regulación del uso de la IA por las Administraciones públicas. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[11] De la Quadra-Salcedo Fernández del Castillo, T. (2024). IA, AAPP y Derecho. Una visión comparada de un Derecho en construcción. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[12] Milkes, I. (2024). La gestión de riesgos como enfoque regulatorio: consideraciones el Reglamento sobre IA en la UE. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[13] Sanz Larruga, F. J. (2024). IA y sostenibilidad ambiental en la Unión Europea: algunos apuntes provisionales. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[14] Vestri, G. (2024). Enseñar el DA con enfoque digital-disruptivo. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[15] Rodríguez Cembellín, D. (2024). Los sandboxes regulatorios y el ejemplo español en materia de IA. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[16] Valero Torrijos, J. (2024). Conclusiones generales: El DA en la era de la IA. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[17] Martín Delgado, I., & Valle Camacho, M. (2024). La transparencia de los sistemas algorítmicos. Propuestas desde la contratación pública. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[18] Hernández Corchete, J. A. (2024). El estatuto común de la persona ante los usos de IA. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[19] De la Sierra, S. (2024). El ejercicio de potestades mediante IA. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[20] Chang Chuyes, G. (2024). Motivación e IA. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[21] Ponce Solé, J. (2019). IA, DA y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico. Revista General de DA, 50.
[22] Ponce Solé, J. (2022). Reserva de humanidad y supervisión humana de la IA. El Cronista del Estado Social y Democrático de Derecho, 100, 58-67.
[23] De la Sierra, S. (2024). El ejercicio de potestades mediante IA. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[24] Hernández Corchete, J. A. (2024). El estatuto común de la persona ante los usos de IA. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[25] Rodríguez-Chaves Mimbrero, B. (2024). ¿Deberían no aplicarse sistemas de IA en el ámbito de la Salud Pública si no se puede garantizar la transparencia?. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[26] Delle Cave, G. (2024). El algoritmo matemático a la luz de los principios generales del procedimiento administrativo en Italia. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[27] Boix Palop, A. (2020). Los algoritmos son reglamentos: la necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la Administración para la adopción de decisiones. Revista de Derecho Público: Teoría y Método, 1, 223-270.
[28] San Martín Segura, D. (2024). El algoritmo como fuente normativa. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[29] Entrena Ruiz, D. B. (2024). IA y Responsabilidad Patrimonial Sanitaria. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[30] Huergo Lora, A. (2023). De la digitalización a la IA: ¿evolución o revolución? En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[31] Alonso García, M. C. (2024). Sistema VioGén: fallos y algunas propuestas de mejora. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[32] Alenza García, J. F. (2024). El derecho de acceso biométrico a los estadios de fútbol. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[33] Moral Soriano, L. (2024). Derecho a la educación y tecnologías educativas. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[34] Tavares da Silva, S. (2024). El DA en la era de la IA. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[35] Román Márquez, A., Canales Priego, P., & Rollán Delgado, F. (2024). IA y monitorización de flujos turísticos: implicaciones jurídicas. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[36] Sarasíbar Iriarte, M. (2024). La IA ante la discapacidad. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.
[37] Navarro González, R. (2024). La IA como herramienta de innovación de la AP. En P. Valcárcel Fernández & F. L. Hernández González (Coords.), Actas del 18 Congreso AEPDA: El DA en la era de la IA. INAP.