Detrás del algoritmo: responsabilidad en la era digital

Fuente de la imagen: mvc realizada con el recurso notebook

Cuando un programa informático de aprendizaje automático toma decisiones dentro de la actividad ordinaria de una empresa y comete una equivocación que genera perjuicios a clientela y ciudadanía, surge la inquietud de determinar a quién corresponde asumir la reparación económica (Montero, 2026): ¿Muro de contención o delegación ciega? (Velasco, 2026). Algunas posturas teóricas sugieren que el aprendizaje independiente de la herramienta tecnológica constituye un evento imprevisto capaz de romper la relación de causa y efecto, liberando de culpa a la organización empresarial (Navarrete Medina, 2026). La doctrina legal explica que los programas de software son artefactos creados al servicio de las personas, sin conciencia, voluntad, patrimonio propio ni personalidad jurídica, por lo que resulta jurídicamente imposible demandarlos ante los tribunales (Pérez Escolar, 2025; Montero, 2026). La aceptación pasiva de las respuestas emitidas por un sistema informático sin entender los criterios utilizados, conducta conocida como delegación ciega, constituye un incumplimiento directo del deber de diligencia exigible a los administradores sociales (Alfaro Águila-Real, 2026; Rojí, 2021). La incorporación de tecnología avanzada no funciona como un muro de contención exoneratorio; en lugar de ello, obliga a las directivas empresariales a justificar que actuaron con precaución en la elección, revisión y control continuo de las herramientas elegidas para dirigir la actividad comercial (De La Mata y Pérez González, 2023; Cordero González, 2026). 

Fuente de la imagen: ¿Muro de contención o delegación ciega? Sitio Compliance (Velasco, 2026)

Quien introduce un riesgo tecnológico en el mercado para obtener rendimientos de negocio conserva la obligación de responder si el sistema falla (Chico, 2026). Demostrar las razones concretas de un fallo algorítmico resulta una tarea compleja para cualquier persona afectada, debido a que el razonamiento interno de estos modelos permanece oculto dentro de una estructura opaca o caja negra (Navarrete, 2026). Evitar situaciones de indefensión exige reformar las reglas procesales para que los jueces puedan exigir a las empresas la presentación de la documentación técnica de sus aplicaciones cuando existan indicios claros de daño (Varas, 2026; González, 2023). Aplicar presunciones legales que vinculen la infracción de las normas de seguridad digital con el perjuicio sufrido ayuda a equilibrar la posición del ciudadano ante las grandes corporaciones (Varas, 2026). La actualización de los programas de cumplimiento normativo en las empresas mediante la inclusión de supervisiones humanas reales, auditorías de datos y mecanismos de interrupción en tiempo real ofrece garantías efectivas frente a posibles infracciones (De La Mata y Pérez, 2023; Valls, 2022). La implantación de seguros obligatorios de responsabilidad civil para actividades que empleen inteligencia artificial complementa la protección patrimonial de las víctimas (Varas, 2026). De este modo, la evolución de los sistemas informáticos puede conciliarse con la defensa de los derechos individuales sin dejar espacio a la impunidad por fallos tecnológicos (Pérez Escolar, 2025; Navarro, 2025).

_______________

Bibliografía

Alfaro Águila-Real, J. (2026). ¿Afecta la IA a los deberes fiduciarios de los administradores? DerechoMercantil.

Chico, S. D. (2026). IA y responsabilidad civil: ¿quién responde cuando falla? ENATIC – Abogacía Digital.

Cordero González, J. (2026). Inteligencia artificial y responsabilidad penal corporativa. El Derecho.

De La Mata Barranco, N. J., y Pérez González, S. (2023). Inteligencia artificial autónoma y responsabilidad penal de las personas jurídicas. Almacén de Derecho.

González Estévez, A. E. (2023). Inteligencia artificial y responsabilidad civil: propuestas de directivas de la Comisión Europea. Revista Digital del Consorcio de Compensación de Seguros, (18), 1-9.

Montero, J. (2026). ¿Quién responde cuando se equivoca la inteligencia artificial? La crisis del sistema clásico de responsabilidad. Economist & Jurist.

Navarrete Medina, P. (2026). La incertidumbre causal en la responsabilidad por actuaciones de la Inteligencia Artificial. Revista de Ciencias Sociales (Valparaíso), (88), 117-161.

Navarro-Dolmestch, R. (2025). Sobre una adecuación del derecho penal ante los conflictos derivados de las tecnologías de inteligencia artificial. Revista de Derecho Universidad de Concepción, 257(1), 43-70.

Pérez Escolar, M. (2025). Personalidad jurídica e Inteligencia Artificial. Fundamentos de asimilaciones imposibles. InDret, (3), 1-35.

Rojí, J. M. (2021). Los administradores tienen un deber de control de riesgos que es una manifestación muy relevante del deber de diligencia [Entrevista]. El Derecho.

Valls Prieto, J. (2022). Sobre la responsabilidad penal por la utilización de sistemas inteligentes. Revista Electrónica de Ciencia Penal y Criminología, (24-27), 1-35.

Varas Quijón, A. G. (2026). La víctima frente a la caja negra: responsabilidad civil por daños de la inteligencia artificial tras la retirada de la Directiva europea (AILD). La reconstrucción italiana de la Ley 132/2025 y sus decretos delegados frente a la abstención española del Proyecto de Ley Orgánica de 2026. InDret, (3), 1-Velasco-Carretero, M. (2026). ¿Muro de contención o delegación ciega? Sitio Compliance. Visitado el 20/10/2026.