Gobernar lo Impredecible

Fuente de la imagen: mvc realizada con el recurso notebook

La inteligencia artificial capaz de generar textos, imágenes o música funciona mediante modelos matemáticos que aprenden patrones a partir de enormes volúmenes de datos acumulados en internet, utilizando arquitecturas avanzadas como los Transformers para procesar información de forma simultánea (ISO/IEC, 2025): El Espejo Estocástico (Velasco, 2026). Para garantizar que estas herramientas digitales operen de manera segura y justa para la ciudadanía, las instituciones internacionales de normalización han diseñado reglas técnicas que orientan la gestión de la calidad, la prevención de riesgos y la ciberseguridad en todo el ciclo de vida del software (CEN-CENELEC, 2025; CEN-CENELEC, 2026). Estas directrices buscan evitar que los programas informáticos cometan errores graves, muestren conductas discriminatorias o expongan datos confidenciales de los usuarios, exigiendo a las empresas desarrolladoras guardar registros detallados de cada actividad realizada por el algoritmo (ISO/IEC, 2025). La aplicación práctica de estas normativas enfrenta barreras considerables, ya que el comportamiento de los modelos generativos varía constantemente en función de las instrucciones recibidas y el reentrenamiento repetido con contenidos creados por la propia computadora puede provocar una pérdida progresiva de variedad en las respuestas, fenómeno conocido técnicamente como colapso del modelo (ISO/IEC, 2025; Cao et al., 2024). Por otro lado, las exigencias administrativas excesivas corren el riesgo de transformarse en trámites burocráticos complejos.

Fuente de la imagen: El Espejo Estocástico
Sitio Protección de Datos y Garantía de los Derechos Digitales (Velasco, 2026)

Además, estos trámites dificultan el trabajo de pequeños emprendedores e investigadores independientes, favoreciendo a las grandes corporaciones del sector que disponen de mayores recursos financieros (Act E.U.A.I., 2024). Para resolver estas dificultades y adaptar el control normativo a la velocidad del avance científico, resulta conveniente evolucionar desde auditorías tradicionales basadas en documentos hacia sistemas informáticos de evaluación continua en tiempo real. La implementación de pruebas automáticas constantes permite verificar el comportamiento del software mientras interactúa con los usuarios, ajustando los permisos de funcionamiento de manera inmediata si se detectan anomalías o desviaciones en las respuestas (CEN-CENELEC, 2026). De igual forma, la incorporación de marcas digitales invisibles en los contenidos sintetizados ayuda a identificar el origen artificial de la información y protege la diversidad de los conjuntos de datos utilizados en el aprendizaje futuro (ISO/IEC, 2026). Estableciendo niveles de exigencia acordes con el tamaño y el impacto real de cada proyecto garantiza que las pequeñas organizaciones mantengan su capacidad de innovación sin comprometer la seguridad pública ni la privacidad individual (CEN-CENELEC, 2025). Igualmente, la combinación de reglas claras con herramientas tecnológicas automatizadas facilita que la sociedad disfrute los beneficios de los avances informáticos, manteniendo la protección de los derechos de las personas y la confianza en las aplicaciones tecnológicas de uso cotidiano (ISO/IEC, 2025).

___________

Bibliografía

Act E.U.A.I. (2024). Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union, L 2024/1689.

Cao, Y., Li, S., Liu, Y., Yan, Z., Dai, Y., Chen, P. S., & Sun, L. (2024). A survey of AI-generated content (AIGC): History, generative building blocks, and survey. ACM Computing Surveys, 56(8), 1-38. https://doi.org/10.1145/3704262

CEN-CENELEC. (2025). Quality management system for EU AI Act regulatory purposes (Draft Standard prEN 18286:2025). Joint Technical Committee CEN-CLC/JTC 21 Artificial Intelligence.

CEN-CENELEC. (2026). Artificial intelligence - Risk management (Draft Standard prEN 18228:2026). Joint Technical Committee CEN-CLC/JTC 21 Artificial Intelligence.

CEN-CENELEC. (2026). Artificial intelligence - Cybersecurity specifications for AI systems (Draft Standard prEN 18282:2026). Joint Technical Committee CEN-CLC/JTC 21 Artificial Intelligence.

ISO/IEC. (2022). Information technology - Artificial intelligence - Framework for artificial intelligence (AI) systems using machine learning (ML) (Standard No. ISO/IEC 23053:2022). International Organization for Standardization / International Electrotechnical Commission.

ISO/IEC. (2025). Framework for artificial intelligence (AI) systems using machine learning (ML) Amendment 1: Generative AI (Draft Amendment ISO/IEC 23053:2022/DAM 1:2025). International Organization for Standardization / International Electrotechnical Commission.

ISO/IEC. (2025). Artificial intelligence - AI system logging (Draft International Standard ISO/IEC DIS 24970:2025). International Organization for Standardization / International Electrotechnical Commission.

ISO/IEC. (2025). Information technology - Artificial intelligence - Requirements for bodies auditing and certifying artificial intelligence management systems (Standard No. ISO/IEC 42006:2025). International Organization for Standardization / International Electrotechnical Commission.

ISO/IEC. (2026). Information technology - Artificial intelligence - Framework for characterizing AI system methods and capabilities (Draft International Standard ISO/IEC DIS 42102:2026). International Organization for Standardization / International Electrotechnical Commission.

Velasco-Carretero, M. (2026). El Espejo Estocástico. Sitio Protección de Datos y Garantía de los Derechos Digitales. Visitado el 10/11/2026.