Inteligencia Artificial y Auditoría Protección Datos

Fuente de la imagen: mvc archivo propio

Parte de la tarde del martes la pasé hojeando la guía recientemente publicada por la Agencia Española de Protección de Datos (AEPD), con los requisitos para auditorías de tratamientos de datos personales que incluyan Inteligencia Artificial (IA)[1], que ya referencié en el Sitio Protección de Datos, texto “Auditorías de tratamientos de datos que incluyan IA”[2], donde se ofrecen orientaciones y un listado de posibles objetivos de control y controles específicos que podrían incorporarse en estas auditorías desde una perspectiva de protección de datos. Según la AEPD, la realización de tratamientos de datos personales en los que se utiliza IA para realizar análisis e inferencias exige que se aplique un modelo de desarrollo maduro que proporcione garantías de calidad y privacidad, así como medidas de control efectivo[3], corrección, responsabilidad, rendición de cuentas, gestión del riesgo y transparencia relativas a los sistemas y a los tratamientos de los datos en los que se utilice[4]. 

Por su parte, el Reglamento General de Protección de Datos (RGPD) establece en su artículo 24 la obligación por parte de aquellos que tratan datos de aplicar “medidas técnicas y organizativas apropiadas a fin de garantizar y poder demostrar que el tratamiento es conforme con el presente Reglamento”[5]. Ello requiere disponer de criterios objetivos diseñados para ejecutar la auditoría de componentes de IA desde una perspectiva de protección de datos. El documento recoge objetivos como inventariar el algoritmo auditado, identificar las responsabilidades y cumplir con el principio de transparencia; identificar las finalidades, analizar la proporcionalidad y necesidad del tratamiento y los límites en la conservación de los datos; asegurar la calidad de los datos, controlar posibles sesgos y verificar y validar las acciones realizadas y los resultados obtenidos[6]. 

El texto lo dirige la AEPD a responsables y encargados que han de auditar tratamientos que incluyan componentes basados en IA, de cara a garantizar y poder demostrar el cumplimiento de obligaciones y principios en materia de protección de datos a los que están sujetos; a los desarrolladores que quieran ofrecer garantías sobre sus productos y soluciones; a los Delegados de Protección de Datos encargados tanto de supervisar los tratamientos como de asesorar a los responsables y, por último, a los equipos de auditores encargados de evaluar dichos tratamientos. El documento complementa la Guía de Adecuación al RGPD de tratamientos que incorporan Inteligencia Artificial[7] de la AEPD, que aborda el cumplimiento efectivo de los principios de protección de datos personales en tratamientos que incluyan soluciones de inteligencia artificial[8]. Fuente de la información: AEPD; fuente de la imagen: mvc archivo propio. 

__________________________________

[1] AEPD. Requisitos para auditorías de tratamientos de datos personales que incluyan Inteligencia Artificial. Sitio visitado el 13/01/2021. 

[2] Velasco Carretero, Manuel. Auditorías de tratamientos de datos que incluyan IA. Sitio Protección de Datos. 2021. Visitado el 13/01/2021. 

[3] La selección de los controles a auditar, la extensión de su análisis y la formalidad requerida en su implementación dependerá, como en toda auditoría, del objetivo y alcance definido para esta, así como del análisis de riesgos realizado. El auditor ha de seleccionar los controles que se adecúen a la auditoría concreta y añadir aquellos que estime oportunos. 

[4] La guía Requisitos para auditorías de tratamientos de datos personales que incluyan Inteligencia Artificial ha sido desarrollada con base en un estudio realizado por Éticas Research and Consulting bajo el encargo y la supervisión de la Agencia Española de Protección de Datos y las revisiones realizadas por expertos del Artificial Intelligence Hub del Consejo Superior de Investigaciones Científicas (CSIC AI HUB), del Observatorio del impacto social y ético de la inteligencia artificial (OdiseIA), de la Asociación Profesional de Cuerpos Superiores de Sistemas y Tecnologías de la Información de las Administraciones Públicas (ASTIC), Grupo de Innovación Docente en Ciberseguridad (CiberGID)-ETSI Informática - UNED y del Centro para el Desarrollo Tecnológico e Industrial (CDTI). 

[5] Estas medidas han de ser seleccionadas “teniendo en cuenta la naturaleza, el ámbito, el contexto y los fines del tratamiento, así como los riesgos de diversa probabilidad y gravedad para los derechos y libertades de las personas” y una de esas herramientas para “garantizar y poder demostrar” el cumplimiento del RGPD es la realización de auditorías. 

[6] dando cumplimiento al principio de responsabilidad activa del RGPD, entre otros. 

[7] AEPD. Guía de Adecuación al RGPD de tratamientos que incorporan Inteligencia Artificial. 2020. Sitio visitado el 13/01/2021. 

[8] En ella se dedicaba un capítulo a la auditoría, planteándola como una de las posibles herramientas de evaluación y un instrumento dirigido a conseguir productos explicables, predecibles y controlables.

Pasado, presente y futuro de la IA y el Turismo

Fuente de la imagen: mvc archivo propio

Si eres follower de este sito sabes que en más de una ocasión he tratado el turismo[1]. El último texto donde referencié este término fue en “Foro de diálogo y colaboración en investigación doctoral”[2], con motivo del II Encuentro Doctoral, organizado por la Facultad de Comercio y Turismo de la Universidad Complutense de Madrid, con las conferencias de apertura impartidas por el Dr. D. Fernando Vera Rebollo[3], que trató de “La investigación sobre turismo en España: una perspectiva evolutiva. Catedrático de Análisis Geográfico Regional, y del Dr. D. José Molina Azorín[4], acerca de la “Investigación en turismo y metodología mixta: aplicaciones y ventajas”. Similar situación la vive el concepto “inteligencia artificial”[5]. En “A vueltas con la Inteligencia Artificial”[6] conceptualizaba el término aprovechándome del texto publicado en el sitio Esclavos del Social media, bajo el explícito título ¿Qué es la inteligencia artificial?[7], donde recogía la pregunta que a mediados del siglo pasado se realizaba A. Turing[8], sobre si las máquinas podían pensar o si éstas conseguían mostrar un comportamiento inteligente. Interpretando y apoyándome en la doctrina de D. Crevier[9], R. Schank[10] y P. McCorduck[11], entiendo la inteligencia artificial (IA) como el discernimiento, deducción, derivación y síntesis de información vía recursos tecnológicos en general e informáticos en específico. La primigenia o tradicional IA perseguía desde el procesamiento del lenguaje hasta el propio razonamiento, pasando por la planificación, el aprendizaje o la capacidad de resolver situaciones que no obedecen a razón, lógica o normativa.

No cabe duda de que, en la actualidad, la IA está modificando la forma en que vivimos, viajamos, trabajamos, nos comunicamos… (H. Kon y otros[12]), ¿Y en el sector del turismo? D. Buhalis y otros[13] estiman que la industria turística se encuentra en “el paso crítico de la transformación digital”, con mucho potencial para automatizarse de manera inteligente. Pero eso no significa que en este sector la IA no se haya utilizado, todo lo contrario. Varios investigadores concluyen que la IA se encuentra en las empresas turísticas en actividades tales como la gestión, la planificación o la promoción (I. Tussyadiah[14], N. Hemmingthon y otros[15], T. Ho y otros[16]). Asimismo, la última pandemia y su consecuencia devastadora en el sector ha propiciado beneficios en el uso de la IA, facilitando el servicio sin, a priori, contacto directo con el cliente (N. Stylos y otros[17]), registro automático o reconocimiento facial (C. Morosan[18], M. Zhang y otros[19]), análisis masivo de datos relativos a los comportamientos de los turistas o el marketing y la comercialización de productos turísticos (E. Rahmadian y otros[20], M. Mariani y otros[21]). ¿Y en el futuro? Obviamente el uso cada vez más habitual de la IA en el sector turístico generará con toda seguridad un desarrollo exponencial en los próximos años (C. Webster y otro[22]). En mi opinión, la IA deberá conjugar los servicios turísticos demandados en un futuro por los clientes, con el uso adecuado de los escasos recursos energéticos disponibles y la propia sostenibilidad del planeta. Fuente de la imagen: mvc archivo propio.

________________________

[1] Ver búsqueda del término en el sitio. Visitado el 15/08/2023.

[2] Velasco Carretero, Manuel. Foro de diálogo y colaboración en investigación doctoral. 2023. Sitio visitado el 15/08/2023.

[3] Instituto Universitario de Investigaciones Turísticas. Universidad de Alicante.

[4] Catedrático de Organización de Empresas. Instituto Universitario de Investigaciones Turísticas. Universidad de Alicante.

[5] Ver búsqueda del término en el sitio. Visitado el 15/08/2023.

[6] Velasco Carretero, Manuel. A vueltas con la Inteligencia Artificial. 2023. Sitio visitado el 15/08/2023.

[7] Velasco Carretero, Manuel. ¿Qué es la inteligencia artificial?. Sitio net—post. 2010. Visitado el 15/08/2023.

[8] Turing, Alan. Computing Machinery and Intelligence. Mind. 1950.

[9] Crevier, Daniel. AI: The Tumultuous Search for Artificial Intelligence. BasicBooks. 1993.

[10] Schank, Roger. Where's the AI. AI magazine. Vol. 12, no. 4. 1991.

[11] McCorduck, Pamela. Machines Who Think, Natick, MA: A. K. Peters. 2004.

[12] Haiyan Kong, Kangping Wang, Xuejie Qiu, Catherine Cheung, Kowloon, Hong Kong, Naipeng Bu. 30 years of artificial intelligence (AI) research relating to the hospitality and tourism industry. International Journal of Contemporary Hospitality Management Vol. 35 No. 6, 2023.

[13] Buhalis, D., Harwood, T., Bogicevic, V., Viglia, G., Beldona, S., Hofacker, C. Technological disruptions in services: lessons from tourism and hospitality”, Journal of Service Management. 2019.

[14] Tussyadiah, I. A review of research into automation in tourism: launching the annals of tourism research curated collection on artificial intelligence and robotics in tourism. Annals of Tourism Research. 2020.

[15] Hemmington, N., Doborjeh, M., Kasabov, N. Artificial intelligence: a systematic review ofmethods and applications in hospitality and tourism, International Journal of Contemporary Hospitality Management. 2022.

[16] Ho, T.H., Tojib, D. and Tsarenko, Y. Human staff vs. service robot vs. fellow customer: does it matter who helps your customer following a service failure incident?, International Journal of Hospitality Management. 2020.

[17] Stylos, N., Zwiegelaar, J. Buhalis, D. Big data empowered agility for dynamic, volatile, and time-sensitive service industries: the case of tourism sector, International Journal of Contemporary Hospitality Management. 2021.

[18] Morosan, C. Disclosing facial images to create a consumer’s profile: a privacy calculus perspective of hotel facial recognition systems, International Journal of Contemporary Hospitality Management. 2019.

[19] Zhang, M., Gursoy, D., Zhu, Z., Shi, S. Impact of anthropomorphic features of artificially intelligent service robots on consumer acceptance: moderating role of sense of humor. International Journal of Contemporary Hospitality Management. 2021.

[20] Rahmadian,E., Feitosa, D., Zwitter,A. A systematic literature review on the use of big data for sustainable tourism. Current Issues in Tourism. 2022.

[21] Mariani, M.M., Perez-Vega, R., Wirtz, J. AI in marketing, consumer research and psychology: a systematic literature review and research agenda. Psychology and Marketing. 2022.

[22] Webster, C., Ivanov, S. Willingness-to-pay for robot-delivered tourism and hospitality services – an exploratory study. International Journal of Contemporary Hospitality Management. 2021.

Convergencia regulatoria de la Inteligencia Artificial

Fuente de la imagen: mvc archivo propio

El Parlamento Europeo (PE) conceptualiza la inteligencia artificial (IA) como la “habilidad de una máquina de presentar las mismas capacidades que los seres humanos, como el razonamiento, el aprendizaje, la creatividad y la capacidad de planear”. Según el PE, la IA permite que los sistemas tecnológicos perciban su entorno, se relacionen con él, resuelvan problemas y actúen con un fin específico. La máquina recibe datos[1], los procesa y responde a ellos. Los sistemas de IA son capaces de adaptar su comportamiento en cierta medida, analizar los efectos de acciones previas y de trabajar de manera autónoma. En el marco de la presidencia española del Consejo de la Unión Europea (UE), Argentina, Colombia, Chile, México, Uruguay, Panamá, República Dominicana, Alemania, Eslovenia, Estonia, Bélgica y España han firmado una Declaración para reforzar y avanzar en la cooperación en Inteligencia Artificial con países de Europa, Latinoamérica y del Caribe, comprometiéndose los países firmantes en la cooperación, el refuerzo y la convergencia de las políticas y los marcos regulatorios en Inteligencia Artificial durante los próximos meses antes de la Cumbre de Colombia de 2025[2].

La declaración recoge el compromiso de los Estados a promover el intercambio de mejores prácticas, medidas y directrices regulatorias, incluidos los mecanismos de gobernanza establecidos en torno a la regulación de la IA. En el caso de los países de la UE engloba el ámbito de aplicación del futuro reglamento sobre IA que está impulsando España en el marco de la presidencia española del Consejo de la UE. Asimismo, los Estados firmantes fomentarán el desarrollo de la IA en un entorno que contemple las diversidades lingüísticas, incluyendo el español, el portugués y otros idiomas oficiales de la UE, para garantizar que las tecnologías de IA conllevan la inclusión lingüística. En esta línea, se concreta un diálogo periódico para intercambiar información con vistas a avanzar en la convergencia en materia de política digital y los marcos regulatorios sobre IA, garantizando al mismo tiempo el fomento de la innovación, el capital humano y las infraestructuras, junto al respeto a los derechos humanos[3]. El texto insta a que los Estados desarrollen entornos de prueba innovadores y compartan buenas prácticas para ayudar especialmente a los startups y las pymes innovadoras a crear una IA fiable.

Y es que Europa trabaja desde hace meses en esta nueva norma, el Reglamento Europeo de IA, que dotará a la Unión Europea de un marco legislativo para promover una Inteligencia Artificial fiable, sólida y ética, estableciendo obligaciones para proveedores y usuarios en función del nivel de riesgo de los casos de uso. El reglamento de Inteligencia Artificial es una de las prioridades de la agenda de la presidencia española del Consejo de la Unión Europea[4]. Con la rúbrica de la declaración se da ahora un paso significativo para la Alianza Digital UE-LAC[5], al cerrarse el compromiso conjunto de Europa y sus socios internacionales para avanzar en una regulación armonizada y responsable de la IA, respetando valores humanos y fomentando la innovación. Con la celebración en Madrid de la 4ª Asamblea Europea de IA en España, Europa y sus socios internacionales han reafirmado su papel líder en la conformación de un futuro digital más fiable y sostenible, marcando un hito en la regulación global de la IA. Fuente de la información: PE y Asuntos Económicos y Transformación Digital del Gobierno de España. Fuente de la imagen: mvc archivo propio.

___________________

[1] Ya preparados o recopilados a través de sus propios sensores, por ejemplo, una cámara.

[2] El acuerdo se ha alcanzado durante la 4ª Asamblea Europea de la Alianza de IA en Madrid en una sesión paralela a puerta cerrada, presidida por la secretaria de Estado de Digitalización e Inteligencia Artificial, Carme Artigas, en la que también han participado la Comisión Europea y la UNESCO.

[3] España aprobó y presentó en 2021 la Carta de Derechos Digitales que constituye un marco de referencia a nivel internacional para garantizar y reforzar los derechos y valores democráticos en la nueva economía digital y la IA.

[4] Actualmente el texto se encuentra en fase de trílogos y la presidencia española espera que pueda cerrarse y ser aprobado antes de que acabe el año.

[5] El pasado mes de julio en la Cumbre UE-CELAC celebrada en Santiago de Compostela se acordó el establecimiento de la Alianza Digital UE - LAC con cuatro pilares clave de cooperación entre las dos regiones a ambos lados del atlántico: la extensión del cable submarino BELLA - Link, la creación de plataformas de datos de Copérnico para la observación terrestre, la creación de aceleradoras y la convergencia y refuerzo de las políticas digitales y de los marcos regulatorios.

A vueltas con la Inteligencia Artificial

Instante del seminario "Aproximaciones y métodos de investigación sobre aplicaciones de Inteligencia Artificial (IA) en turismo: los robots sociales", coordinado por el Dr. D. Manuel de la Calle Vaquero y que fue presentado y moderado por la Dra. Dña. Diana Gómez Bruna e impartido por la Dra. Dña. Laura Fuentes Moraleda[4] y la Dra. Dña. Teresa Villacé Molinero[5], de la Universidad Rey Juan Carlos de Madrid

Siguiendo con las actividades formativas organizadas por la Universidad Complutense de Madrid (UCM) y coordinadas por el Dr. D. Manuel de la Calle Vaquero[1], que ya te referencié en el texto Sometiendo la investigación a la “sana crítica”[2], en el marco de la Escuela de Doctorado, la tarde del viernes la pasé asistiendo al seminario "Aproximaciones y métodos de investigación sobre aplicaciones de Inteligencia Artificial (IA) en turismo: los robots sociales", que fue presentado y moderado por la Dra. Dña. Diana Gómez Bruna[3] e impartido por la Dra. Dña. Laura Fuentes Moraleda[4] y la Dra. Dña. Teresa Villacé Molinero[5], de la Universidad Rey Juan Carlos de Madrid. Interesante jornada formativa donde las profesoras profundizaron en el término IA en el turismo y en el caso concreto de los robots sociales. 

Pero ¿Qué es la IA? En el sitio Esclavos del Social media[6], bajo el explícito título ¿Qué es la inteligencia artificial?[7], recogía la pregunta que a mediados del siglo pasado se realizaba A. Turing[8], sobre si las máquinas podían pensar o si éstas conseguían mostrar un comportamiento inteligente. Interpretando y apoyándome en la doctrina de D. Crevier[9], R. Schank[10] y P. McCorduck[11], conceptualizo la inteligencia artificial (IA) como el discernimiento, deducción, derivación y síntesis de información vía recursos tecnológicos en general e informáticos en específico. La primigenia o tradicional IA perseguía desde el procesamiento del lenguaje hasta el propio razonamiento, pasando por la planificación, el aprendizaje o la capacidad de resolver situaciones que no obedecen a razón, lógica o normativa. 

¿Cómo se intentaba conseguir esos fines? Para conseguir sus fines u objetivos se utilizaban o trabajaban el uso y optimización de cálculos matemáticos, probabilísticos o estadísticos. Obviamente, la práctica de la lógica o las redes artificiales que simulan la mente humana, tienen un papel primordial en la IA, apoyándose cada vez más en la informática o en otras ciencias como pueden ser la lingüística, la economía, la psicología o, incluso, la filosofía. Por otro lado, las aplicaciones de IA se construyen desde sistemas simples hasta complejos, en línea con las conocidas como redes neuronales artificiales, que intentan simular el cerebro humano. Siguiendo a N. Nilsson[12], R. Goebel, D. Poele, A. Mackworth[13], P. Norvig y S. Russell[14], la IA logra resolver problemas buscando de forma inteligente entre muchas soluciones posibles, vía razonamientos que analicen premisas hasta plantear conclusiones. 

Estos desenlaces, decisiones o sentencias, se conforman a través de reglas de inferencias, algoritmos de planificación mediante procesos de análisis de medios y fines u otros sistemas algorítmicos de carácter[15]. Asimismo, el uso de la lógica no solo para solucionar problemas, sino, también, para generar, aplicar y resolver otros nuevos o futuros problemas vía caminos como la propia planificación o la programación inductiva. Finalmente, para P. Norving y S. Russell, la IA es notable para cualquier tarea de carácter erudito o intelectual. En ese sentido, es indudable la investigación dirigida a conseguir materializar aplicaciones prácticas de la IA en distintos sectores, como puede ser el turístico, y con recursos como los robots sociales, magistralmente posicionados en el seminario por Fuentes Moraleda y Villacé Molinero. En resumen, una tarde bien aprovechada en lo que a formación y reciclaje formativo.

___________________________

[1] De la Calle Vaquero, Manuel. Doctor en Geografía por la Universidad Complutense de Madrid (2000), licenciado en Ciencias Políticas y Sociología en la Universidad Complutense de Madrid, Sección Sociología, Especialidad Ecología Humana y Población (1995) y licenciado en Geografía e Historia por la Universidad Complutense de Madrid, Sección Geografía (1992). Vicedecano de Investigación y Doctorado de la Facultad de Comercio y Turismo de la UCM.

[2] Velasco Carretero, Manuel. Sometiendo la investigación a la “sana crítica”. 2023. Sitio visitado el 06/05/2023.

[3] Gómez Bruna, Diana. Profesora del Departamento de Ciencia Política y de la Administración de la Facultad de Ciencias Políticas (Universidad Complutense de Madrid).

[4] Licenciada en Economía por la Universidad Autónoma de Madrid. Doctora en Ciencias Sociales (2009), Especialista en Metodología de Investigación Cuantitativa: Técnicas estadísticas Universidad Politécnica de Madrid (2011). Profesora del Departamento de Economía de la Empresa de la Universidad Rey Juan Carlos desde el curso 2007/2008 con docencia en los estudios de turismo (grado y postgrado), principalmente en la asignatura de Análisis del Mercado Turístico (grado), de la que es coordinadora y de gestión de destinos turísticos (postgrado).

[5] Doctora en Marketing Avanzado y Máster en Marketing Estratégico por la Universidad Autónoma de Madrid. Profesora del Departamento de Economía de la Empresa de la Universidad Rey Juan Carlos desde el curso 2007/2008 con docencia en los estudios de turismo (grado y máster oficial), principalmente en la asignatura Marketing Turístico e Informática aplicada a la gestión turística (Opera), de la que es coordinadora. Es miembro del Grupo de Innovación docente DOCENS. Ha impartido clases en otras instituciones como Les Roches o la Cámara de Comercio entre otras. También ha sido profesor visitante en la Satakunta University of Applied Sciences (Finlandia).

[6] Velasco Carretero, Manuel. Esclavos del Social media. 2010. Sitio visitado el 06/05/2023.

[7] Velasco Carretero, Manuel. ¿Qué es la inteligencia artificial?. Sitio net—post. 2010. Visitado el 06/05/2023.

[8] Turing, Alan. Computing Machinery and Intelligence. Mind. 1950.

[9] Crevier, Daniel. AI: The Tumultuous Search for Artificial Intelligence. BasicBooks. 1993.

[10] Schank, Roger. Where's the AI. AI magazine. Vol. 12, no. 4. 1991.

[11] McCorduck, Pamela. Machines Who Think, Natick, MA: A. K. Peters. 2004.

[12] Nilsson, Nils. Artificial Intelligence: A New Synthesis. Morgan Kaufmann. 1998.

[13] Poole, David; Mackworth, Alan; Goebel, Randy. Computational Intelligence: A Logical Approach. New York: Oxford University Press. 1998.

[14] Russell, Stuart J.; Norvig, Peter. Artificial Intelligence: A Modern Approach (2nd ed.), Upper Saddle River, New Jersey: Prentice Hall. 2003.

[15] Por ejemplo, robótico, que posibilitan el movimiento de artilugios, extremidades, activar funcionalidades, asir objetos, etc.

Retos Jurídicos de la IA en los desplazamientos

Presentación de la Jornada. De drcha a izqda, Dña. Remedios Santana Pareja, Dña. María Teresa Barranco Pérez, Dña. Mabel López García, D. José Alberto España Pérez y Dña. Pilar Castro López. Fuente de la imagen: mvc archivo propio

La tarde del martes la pasé asistiendo al seminario “Retos Jurídicos de la IA en los desplazamientos”, organizado por el Proyecto de Investigación B1-2022_10 de la Universidad de Málaga (UMA) y que se desarrolló en la Facultad de Derecho de la UMA. El evento estuvo presentado por el Dr. D. José Alberto España Pérez. Director del Seminario, y la Dra. Dña. Mabel López García, Secretaria de la Facultad, que moderó la primera Mesa redonda, bajo el nombre “La automatización de la actividad administrativa”, con dos ponencias, la primera a cargo de la Dra. Dña. María Teresa Barranco Pérez, que trató de “La actividad administrativa automatizada: control e inspección administrativa con Inteligencia Artificial”; y la segunda, “La regulación de la Inteligencia Artificial en el sector público en el ordenamiento jurídico español: los derechos de los ciudadanos ante la Inteligencia Artificial”, a cargo de la Dra. Dña. Pilar Castro López. La segunda Mesa redonda giró en torno a “La contratación pública en los proyectos de digitalización del transporte”, moderada por la Dra. Dña. Adriana Antúnez, participando Dña. Remedios Santana Pareja. Directora General de Movilidad del Ayuntamiento de Málaga, que trató “La Inteligencia Artificial en la ciudad de Málaga: aplicaciones en la movilidad”; D. Francisco J. Sánchez Bolívar, con “El robustecimiento de la CPI y la colaboración pública-privada en el ámbito de la IA aplicada a los desplazamientos”, y el que te escribe a través de “La contratación pública en los proyectos inteligentes”. Bajo el título “La Inteligencia Artificial en la detención de infracciones de tráfico”, estuvo moderada por el Dr. Carlos David Aguilar Segado, con la participación del Dr. D. José Alberto España Pérez, con la ponencia “La IA en la detección de infracciones de tráfico: precisiones sobre la protección de datos y la transparencia algorítmica”.

Mi ponencia la construí a partir del texto “IA, sostenibilidad y Administración Pública” (M. Velasco, 2017)[1], donde apuntaba que los espacios urbanos se enfrentan a distintos desafíos: escasez de recursos de todo tipo, los típicos problemas de las ciudades, el propio cambio climático… En ese marco, los proyectos públicos soportados en la inteligencia artificial van a posibilitar otros enfoques para estos desafíos mediante el uso de tecnologías innovadoras para mejorar la eficiencia, la sostenibilidad y la calidad de vida de los ciudadanos. En ese sentido, la contratación pública puede ser un instrumento fundamental en el desarrollo de proyectos inteligentes, permitiendo a las Administraciones Públicas (AAPP) adquirir los bienes, servicios y obras necesarios para la implementación de estos proyectos impactando en la economía, la eficiencia y la sostenibilidad. Asimismo. podría generar empleos, aumentar la inversión y mejorar la calidad de los servicios públicos. Ahora bien, qué duda cabe que existen inconvenientes que tienen que ser solventados o superados: La propia complejidad de los procesos de licitación, supuesta falta de transparencia o complejidad en el aseguramiento de la excelencia. Pero esos inconvenientes, cual árboles del bosque, no deben impedirnos enfocarnos a los beneficios, ya sea el allanamiento de los procedimientos de licitación o el fomento de la colaboración entre lo público y lo privado, por no hablar de la promoción de la participación del sector privado o el siempre perenne objetivo de transparencia. A continuación, trabajé brevemente cada uno de los aspectos anteriores. En relación con la importancia, la contratación pública debe influir y trascender en el desarrollo de proyectos inteligentes, dejando huella en lo económico, lo eficiente y lo sostenible.

Una instantánea de mi exposición. Fuente de la imagen: msm archivo propio

En lo económico al estimular la economía del ámbito territorial de influencia o afectación, atrayendo inversión, constituyendo empresas de tecnología e innovación, generando trabajo y, por derivación, espoleando la economía de ese ámbito territorial de actuación, propiciando territorios atractivos tanto en lo económico como en lo social. En lo eficiente, el avance de la tecnología indudablemente optimiza la gestión de los recursos públicos[2], ajustando costes y optimizando la calidad del servicio que da la Administración Pública (AP), ya sea en la movilidad, la salud o la educación, por no hablar de la seguridad. En lo sostenible, ajustando el uso de la energía y, por derivación, las emisiones de carbono, favoreciendo, de esta forma, la protección del medioambiente mediante la promoción de aspectos tales como la eficiencia energética, uso de renovables o reducción de los índices de contaminación. Todo ello, nos lleva a un ecosistema público más saludable, más sostenible. Respecto a la oportunidad, no se me ocurre otra frase que "empujón a la innovación", al posibilitar demanda de soluciones innovadoras por parte del sector privado, lo que incentivaría la investigación y el desarrollo, atrayendo financiación de proyectos relacionados con la innovación tecnológica, a la vez que propiciar una proactiva interacción sector público – sector privado en el progreso y culminación de soluciones tecnológicas y más y mejor eficiencia, optimizando los procesos de compra, promoviendo el uso de tecnología puntera en la realización de los servicios a la ciudadanía o perfeccionando la transparencia en la gestión.

En cuanto a la sostenibilidad propiamente dicha, inclusión de criterios ambientales en las licitaciones, promocionando todo lo renovable y lo sostenible. Pero no todo van a ser ventajas; también hay inconvenientes. En lo económico, costes disparados, escasez de financiación y el perenne riesgo de la corrupción. En lo eficiente, procesos complicados y con ámbitos temporales de implantación a medio o largo plazo, inexperiencia de los agentes implicados y dificultad a la hora de medir el impacto real, lo que dificulta también la tasación de su eficiencia. En lo sostenible, supuestos proyectos sostenibles que realmente no lo sean, insensibilidad a lo social o dificultad en la garantía de la sostenibilidad a medio o largo plazo, al depender de factores exógenos que, a priori no se conocen su evolución (medioambiente, o la propia transformación tecnológica). Entre los ejemplos de proyectos inteligentes que ya conocemos, se encuentran las propias ciudades inteligentes que tímidamente van emergiendo (smart cities), que usan tecnología para perfeccionar la eficiencia y la sostenibilidad, los edificios inteligentes, que utilizan tecnología para optimizar el consumo de energía, la seguridad y el confort, las redes eléctricas inteligentes para el suministro de energía, o el sistema de transporte inteligente para optimizar la logística y la movilidad. Terminaba el texto poniendo encima de la mesa algunas propuestas, como puede ser facilitar la participación de las empresas simplificando los procesos de licitación, mediante reducción de la complejidad de las licitaciones, de forma que las pymes, puedan participar más cómodamente; implementar plataformas digitales que faciliten la búsqueda de información y la presentación de ofertas por parte de las empresas, organización de formación para formar e informar de las oportunidades de negocio que ofrece la contratación pública en proyectos inteligentes; o un espaldarazo a la transparencia, publicando toda la información relevante sobre los procesos de licitación, incluyendo información sobre los requisitos técnicos, los criterios de evaluación y las fechas clave. 

Fuente de la imagen: mvc archivo propio

También, la garantía de acceso a la información e incorporación de efectivos mecanismos de control. En cuanto a la calidad de los proyectos, establecimiento de criterios de evaluación de empresas adjudicatarias que sean objetivos y transparentes, presentación por las potenciales adjudicatarias de suficientes garantías para el aseguramiento de los requisitos, y control-monitorización continuo de la ejecución del proyecto licitado. Igualmente, es trascendental el reciclaje formativo de la plantilla de empleados de la AP, capacitándolos en estas lides. Voy concluyendo, reiterando que no me cabe duda de que la contratación pública juega un papel fundamental en el desarrollo de proyectos inteligentes, siendo un recurso estratégico para estimular la economía, la eficiencia y la sostenibilidad. Entre las oportunidades, tenemos el estímulo de la innovación, mejora de la eficiencia y promoción de la sostenibilidad. Entre los inconvenientes resaltar que los procesos no son sencillos, previsible alto coste, la corrupción que, cuando menos se la espera, surge, inexperiencia de las partes, escasez de financiación, ficticio de lo sostenible… Entre las Propuestas quiero destacar la perenne promoción de la transparencia, la participación del sector privado, la formación de todos los agentes, plataformas digitales o asegurar la calidad de las licitaciones. Termino, recomendando a las administraciones públicas la implementación de medidas para mejorar la contratación pública en proyectos inteligentes, colaborar con el sector privado para desarrollar e implementar proyectos inteligentes y transferir ágilmente la experiencia en estas lides con otras administraciones públicas. Fuente de las imágenes: mvc archivo propio.

______________________

[1] Velasco-Carretero, Manuel (2017). Sostenibilidad y Administración Pública. Sitio Economía Sostenible. Visitado el 20/03/2024.

[2] Agua, transporte, gestión de residuos…

Inteligencia artificial en el ejercicio de lo público

Fuente de la imagen: mvc archivo propio

En “Modelando el futuro digital de la Unión Europea”[1], te referenciaba dos proyectos digitales de la Comisión Europea (CE): la "estrategia europea para los datos"[2] y el “Libro Blanco sobre Inteligencia Artificial (IA): un enfoque europeo hacia la excelencia y la confianza”[3], donde la CE desvelaba sus ideas y medidas para una transformación digital que supuestamente iba a redundar en beneficio de los europeos, reflejando lo mejor: abierta, justa, diversa y democrática. Esta estrategia presentaba una sociedad europea impulsada por soluciones digitales que la situaban en un lugar preferente a las personas, abriendo nuevas oportunidades para las empresas y posibilitando impulso al desarrollo de una tecnología fiable que fomentara una sociedad abierta y democrática y una economía dinámica y sostenible[4]. En el Libro Blanco, la CE proponía un marco para una IA fiable, basado en la excelencia y la confianza. El objetivo era movilizar recursos a lo largo de toda la cadena de valor y crear los incentivos apropiados para acelerar la implantación de la IA, también entre las pequeñas y medianas empresas[5]. Eran normas que intentaban abordar los sistemas de IA con un elevado nivel de riesgo sin suponer una excesiva carga para los que entrañaban riesgos menores[6].

Pues bien, en el marco del Consejo de Ministros de Justicia e Interior (JAI) de la Unión Europea (UE), se han abordado temas relacionados con la inteligencia artificial, la herencia digital y la Justicia adaptada a los niños. La representante del Ministerio de Justicia español (MJ) ha destacado que "el empleo de la inteligencia artificial en el ejercicio de potestades del poder público debe estar sujeto a una intervención humana significativa y a un proceso debido", afirmando que la propuesta de Reglamento de IA puede ser "fundamental para garantizar el respeto a los derechos fundamentales y valores de la UE en el uso de estos sistemas de inteligencia artificial y, en particular, en los procedimientos judiciales y en el ámbito de la Justicia"[7]. En cuanto a la herencia digital (HD), se ha señalado que "la acción en solitario de la UE se revela insuficiente; por ello, para abordar la encrucijada, se requiere de una acción en un foro internacional, como podría ser Naciones Unidas". En relación a la Justicia amigable para los niños, se ha resaltado la importancia de contar con datos fiables y comparables sobre menores implicados en procedimientos judiciales de manera que sea más fácil identificar los posibles problemas. Fuente de la información: MJ. Fuente de la imagen: mvc archivo propio.

___________________________________

[1] Velasco Carretero, Manuel. “Modelando el futuro digital de la Unión Europea”. 2020. Sitio visitado el 17/07/2021.

[2] Si quieres descargarla, clickea AQUÍ, Sitio visitado el 17/07/2021.

[3] Si quieres descargarlo, clickea AQUÍ. Sitio visitado el 17/07/2021.

[4] La digitalización es un factor clave en la lucha contra el cambio climático y en la consecución de la transición ecológica. La estrategia europea de datos y las opciones estratégicas destinadas a garantizar un desarrollo de la IA centrado en el ser humano, constituyen para la CE los primeros pasos en pos de esos objetivos.

[5] Para ello era también necesario colaborar con los Estados miembros y la comunidad investigadora, con el fin de atraer y retener el talento. En vista de que los sistemas de IA pueden ser complejos y conllevar unos riesgos importantes en determinados contextos, era esencial crear confianza.

[6] Las estrictas normas de la UE en materia de protección de los consumidores, que abordan las prácticas comerciales desleales y protegen los datos personales y la privacidad, siguen siendo aplicables.

[7] Y ha añadido que la inteligencia artificial "debe desarrollarse en un marco referencial de principios éticos y derechos fundamentales".

Alianza Europea de Inteligencia Artificial

Fuente de la imagen: mvc archivo propio

La Alianza Europea de Inteligencia Artificial (IA), The European AI Alliance, es un foro promovido por la Unión Europea con el fin de generar una discusión amplia y abierta sobre todos los aspectos del desarrollo de la Inteligencia Artificial y su impacto. Los miembros de la Alianza Europea de IA pueden interactuar con los expertos del Grupo de Alto Nivel (HLG) sobre Inteligencia Artificial (IAA), establecido por la Comisión Europea, en un contexto de foro. Al suscribirse a la Alianza, los miembros encontrarán una plataforma dedicada en la que pueden ofrecer sus comentarios y sugerencias al IA HLG, el cual podrá aprovechar esta información al preparar su borrador de Directrices de ética IA y completar su otro trabajo. Además, los debates organizados en la plataforma intentan contribuir al debate europeo sobre la IA y se incorporarán a la formulación de políticas de la Comisión Europea en este ámbito. La Alianza se aloja en la plataforma Futurium de la Comisión Europea. Para convertirse en miembro de la Alianza Europea de AI, primero hay que registrarse para una cuenta de Futurium. Si aún no tienes cuenta, el sistema te pedirá que la crees, solicitándote nombre de usuario y contraseña. Una vez que se haya creado su cuenta Futurium, podrás completar el formulario de registro en línea para unirte a la Alianza IA Europea. Tan pronto como se te notifique por correo electrónico que tu membresía a la AI Alliance ha sido otorgada, podrás acceder a la plataforma, crear tu perfil personal y comenzar a contribuir. La plataforma alienta una amplia participación en el proceso de formulación de políticas de la Comisión Europea. Los miembros de la Alianza podrán entablar discusiones entre ellos y con los expertos de AI HLG en un foro dedicado. También, se solicitarán comentarios sobre preguntas específicas (cerradas o abiertas), así como sobre los borradores de documentos preparados por la AI HLG en una sección dedicada a ellos. 

Te cuento lo anterior porque recientemente, tras un proceso de selección abierto, la Comisión designó 52 expertos para un nuevo Grupo de expertos de alto nivel sobre inteligencia artificial, integrado por representantes del mundo académico, la sociedad civil y la industria. Este Grupo de Expertos de Alto Nivel sobre Inteligencia Artificial (AI HLG) tendrá como objetivo general apoyar la aplicación de la estrategia europea sobre la IA. Esto incluirá la elaboración de recomendaciones sobre el futuro desarrollo de políticas relacionadas con la IA y sobre cuestiones éticas, legales y sociales relacionadas con la IA, incluidos los desafíos socioeconómicos. Además, AI HLG servirá como grupo directivo para el trabajo de la Alianza Europea de AI, interactuará con otras iniciativas, ayudará a estimular un diálogo de múltiples partes interesadas, reunirá los puntos de vista de los participantes y los reflejará en sus análisis e informes[1]. En particular, el grupo tendrá la tarea de asesoramiento a la Comisión sobre los próximos pasos que abordan los retos y oportunidades a medio y largo plazo relacionados con la IA a través de recomendaciones que alimentarán el proceso de desarrollo de políticas, el proceso de evaluación legislativa y el desarrollo de una estrategia digital de próxima generación. Igualmente, deberá proponer a la Comisión el borrador de las directrices de ética AI, cubriendo temas como equidad, seguridad, transparencia, futuro del trabajo, democracia y más ampliamente el impacto en la aplicación de la Carta de los Derechos Fundamentales, incluyendo privacidad y protección de datos personales, dignidad, consumidor protección y no discriminación. Finalmente, apoyará a la Comisión en nuevos mecanismos de participación y divulgación para interactuar con un conjunto más amplio de partes interesadas en el contexto de AI Alliance, compartir información y recabar sus opiniones sobre el trabajo del grupo y de la Comisión (Fuente de la información: EU).

______________________

[1] Para más información, clickea AQUÍ. Sitio visitado el 20/06/2018.

Manifestaciones de interés para ENIA

Fuente de la imagen: geralt en pixabay

La Estrategia Nacional de Inteligencia Artificial en mi país es una de las medidas de la agenda España Digital 2025, que se presentó en el verano pasado, el 23 de julio de 2020, así como del Plan de Recuperación, Transformación y Resiliencia de la economía española, cuyas líneas generales se presentaron el 7 de octubre de 2020. Persigue el impulso del desarrollo de esta tecnología, con la finalidad de sentar las bases para la creación de un ecosistema de excelencia en inteligencia artificial que albergue la investigación científica y la innovación, el desarrollo de capacidades y talento, el despliegue de plataformas de datos e infraestructuras tecnológicas, su integración en el tejido económico, la potenciación de su uso en el sector público y el establecimiento de un marco ético y normativo[1].

En esa línea, el Ministerio de Asuntos Económicos y Transformación Digital de España (MAEyTF) ha publicado una solicitud de manifestaciones de interés (call for interest) para recibir propuestas que, a través de la colaboración público-privada, integren la inteligencia artificial (IA) en las cadenas de valor de los diferentes sectores, con el fin de impulsar la transformación digital del tejido económico. Las propuestas deben contribuir a cumplir los objetivos de la Estrategia Nacional de Inteligencia Artificial (ENIA), publicada el pasado 2 de diciembre de 2020, en el marco de la agenda España Digital 2025 y del Plan de Reconstrucción, Transformación y Resiliencia de la economía española.

Aclara el MAEyTF que las propuestas permitirán garantizar la eficacia de las acciones derivadas de la ENIA y guiar la acción de Digitalización e Inteligencia Artificial y de los instrumentos de colaboración público-privada para el correcto despliegue de proyectos de inteligencia artificial en el entorno empresarial y en el tejido productivo. Como complemento de las acciones de apoyo a la I+D impulsadas por el Ministerio de Ciencia y el CDTI, que se dirigen a las fases más iniciales de investigación y desarrollo, la presente invitación se dirige a proyectos en las fases más próximas al mercado del proceso de innovación basados en tecnologías de media a alta madurez (TRL 6 en adelante).

El MAEyTF recuerda que las propuestas deberán señalar qué instrumentos serían los más adecuados para alcanzar los objetivos, definir su alcance y envergadura, o aportar una visión del grado de utilización de las diferentes tecnologías de IA que se pretenden utilizar. Los proyectos contarán con apoyo de la financiación pública, por lo que las propuestas deberán cumplir con el marco normativo de ayudas de Estado de la Unión Europea. Una vez se acabe el plazo para la presentación de manifestaciones de interés, se procederá al análisis de las propuestas para así articular los instrumentos de colaboración público-privada más adecuados[2]. Fuente de la información: MAEyTF. Fuente de la imagen: geralt en pixabay.

_______________________________

[1] La Estrategia está dotada de 330 millones en 2021 y tiene previsto invertir 600 millones en el periodo 2021-2023.

[2] La solicitud de manifestaciones de interés permanecerá abierta hasta el día 2 de abril y puede consultarse aquí.

¿Pueden pensar las máquinas?

Fuente de la imagen: mvc archivo propio

Agradable sobremesa en casa de María y Paco (Gracias), expertos informáticos y, sobre todo, investigadores ilusionados de todo lo que pueda aportar valor de cara a la sostenibilidad, es decir, para propiciar un futuro distinto y mejor a las próximas generaciones. Una de las temáticas que, egoísta o interesadamente[1], puse encima de la mesa de debate fue la relativa a la inteligencia artificial, que definí en el sitio Esclavos del Social media[2], bajo el explícito título ¿Qué es la inteligencia artificial?[3] y donde recogía la pregunta, utilizada como presentación de este texto, que a mediados del siglo pasado se realizaba A. Turing[4], sobre si las máquinas podían pensar o si estas conseguían mostrar un comportamiento inteligente.

Interpretando y apoyándome en la doctrina de D. Crevier[5], R. Schank[6] y P. McCorduck[7], conceptualizo la inteligencia artificial (IA) como el discernimiento, deducción, derivación y síntesis de información vía recursos tecnológicos en general e informáticos en específico. La primigenia o tradicional IA perseguía desde el procesamiento del lenguaje hasta el propio razonamiento, pasando por la planificación, el aprendizaje o la capacidad de resolver situaciones que no obedecen a razón, lógica o normativa. ¿Cómo se intentaba conseguir esos fines? Para conseguir sus fines u objetivos se utilizaban o trabajaban el uso y optimización de cálculos matemáticos, probabilísticos o estadísticos.

Obviamente, la práctica de la lógica o las redes artificiales que simulan la mente humana, tienen un papel primordial en la IA, apoyándose cada vez más en la informática o en otras ciencias como pueden ser la lingüística, la economía, la psicología o, incluso, la filosofía. Por otro lado, las aplicaciones de IA se construyen desde sistemas simples hasta complejos, en línea con las conocidas como redes neuronales artificiales, que intentan simular el cerebro humano. Siguiendo a N. Nilsson[8], R. Goebel, D. Poele, A. Mackworth[9], P. Norvig y S. Russell[10], la IA logra resolver problemas buscando de forma inteligente entre muchas soluciones posibles, vía razonamientos que analicen premisas hasta plantear conclusiones.

Estos desenlaces, decisiones o sentencias, se conforman a través de reglas de inferencias, algoritmos de planificación mediante procesos de análisis de medios y fines u otros sistemas algorítmicos de carácter, por ejemplo, robótico, que posibilitan el movimiento de artilugios, extremidades, activar funcionalidades, asir objetos, etc. Asimismo, el uso de la lógica no solo para solucionar problemas, sino, también, para generar, aplicar y resolver otros nuevos o futuros problemas vía caminos como la propia planificación o la programación inductiva. Finalmente, para P. Norving y S. Russell, la IA es notable para cualquier tarea de carácter erudito o intelectual. Fuente de la imagen: mvc archivo propio.

__________________________

[1] Por mi línea de investigación doctoral.

[2] Velasco Carretero, Manuel. Esclavos del Social media. 2010.

[3] Velasco Carretero, Manuel. ¿Qué es la inteligencia artificial?. Sitio net—post. 2010. Visitado el 04/12/2022.

[4] Turing, Alan. Computing Machinery and Intelligence. Mind. 1950.

[5] Crevier, Daniel. AI: The Tumultuous Search for Artificial Intelligence. BasicBooks. 1993.

[6] Schank, Roger. Where's the AI. AI magazine. Vol. 12, no. 4. 1991.

[7] McCorduck, Pamela. Machines Who Think, Natick, MA: A. K. Peters. 2004.

[8] Nilsson, Nils. Artificial Intelligence: A New Synthesis. Morgan Kaufmann. 1998.

[9] Poole, David; Mackworth, Alan; Goebel, Randy. Computational Intelligence: A Logical Approach. New York: Oxford University Press. 1998.

[10] Russell, Stuart J.; Norvig, Peter. Artificial Intelligence: A Modern Approach (2nd ed.), Upper Saddle River, New Jersey: Prentice Hall. 2003.

¿Es ético el uso de ChatGPT en investigación doctoral?

Fuente de la imagen: mvc archivo propio

Interesante debate en el que participé en la tarde del lunes, acerca de ChatGPT y su utilización y uso en el sector turismo, incluida la investigación. Si eres follower de este sitio sabes que tengo mis reservas sobre esta aplicación. En “Inteligencia Artificial, Protección Datos y Valores”[1] me hacía eco de la reflexión del supervisor europeo de protección de datos, Wojciech Wiewiórowski, publicado por la European Data Protection Supervisor (EDPS), bajo el título Artificial Intelligence, data and our values – on the path to the EU’s digital future[2], que traducido es algo así como “Inteligencia artificial, datos y nuestros valores: en el camino hacia el futuro digital de la UE”, donde ofrece lo más destacado de las principales observaciones del EDPS así como los detalles de las evaluaciones en el dictamen del EDPS sobre la estrategia de datos. Las expectativas del creciente uso de la IA y las ventajas económicas relacionadas para quienes controlan las tecnologías[3], han dado lugar a una feroz competencia por el liderazgo tecnológico. Todo eso puede estar muy bien pero cabe preguntarse por qué la aplicación no cita debidamente las fuentes bibliográficas o de otro tipo así como la práctica del antiplagio. Igualmente ¿Es ético el uso de los resultados de esta Inteligencia Artificial en la investigación doctoral?

En “Riesgos para los derechos de los usuarios de ChatGPT”[4], enumeraba algunos de los riesgos que la RIPD[5] inventariaba, considerando que este servicio, que brinda respuestas directas a preguntas formuladas por los usuarios[6], puede conllevar riesgos para los derechos y libertades de los usuarios en relación con el tratamiento de sus datos personales, que abarcan aspectos tales como los fundamentos legales para dichos tratamientos, la información que se brinda al usuario, el ejercicio de los derechos reconocidos en las normativas de protección de datos, las posibles transferencias de datos personales a terceros sin contar con el consentimiento de los titulares o el no contar con medidas de control de edad para impedir que menores accedan a su tecnología[7]. A los riesgos anteriores, se añaden otros, como la desinformación, pues las respuestas generadas están basadas en el conocimiento obtenido de cantidades masivas de datos de Internet. Es decir, ChatGPT no tiene conocimientos o experiencia en un dominio específico, por lo que la precisión y profundidad de la respuesta puede variar en cada caso, o generar respuestas con sesgos culturales, raciales o de género, así como falsas. 

Ante esta situación, las autoridades que componen la RIPD se han propuesto iniciar una labor de supervisión sobre dicho servicio en el ejercicio de sus competencias y coordinarán sus acciones en el marco de la Red por primera vez en su historia. En tanto esta acción que se lleva a cabo sobre el servicio Chat no concluya y se despejen los posibles riesgos citados, se recomienda a los usuarios que consulten la política de privacidad asociada al servicio que quieren utilizar, valoren la conveniencia de aportar sus datos personales, incluidas las propias consultas que realicen, tomen con cautela la información que el servicio les suministra[8] y hagan uso de los derechos que las normativas de protección de datos les reconocen. En “El ChatGPT investigado por la AEPD”[9] recogía el inicio de oficio de actuaciones previas de investigación por parte de la AEPD[10], a la empresa estadounidense OpenAI, propietaria del servicio ChatGPT, por un posible incumplimiento de la normativa. Lo anterior no solo no me despeja mis dudas en el uso de la aplicación en investigación en general y en el caso específico del turismo, sino que se acrecientan. 

R. Nautiyal y otros[11] recogen doctrina con la que me alineo. Por ejemplo, que la herramienta puede generar “información engañosa”[12] o que no es neutral en lo político[13]. Y en lo que al plagio se refiere, algunos investigadores van más allá, en el sentido de “revisar la política de mala conducta académica”[14], mientras que otros pasan tres pueblos de esas “preocupaciones” y abrazan esta tecnología[15]. En mi opinión, en el momento que cualquier redactor o generador de contenidos, sea “humano o máquina”, no respeta las reglas de la propiedad intelectual, copiando a diestro y siniestro, tuneando las “ideas ajenas” mediante transformaciones algorítmicas... está “plagiando en toda regla” y si llegado el caso, como apunta Cassidy[16], “puede ser imposible probar el plagio relacionado con el modelo de lenguaje a gran escala”, debería ser rechazado de plano por toda la comunidad científica hasta tanto no se superen esos indudables quiebros de las reglas antiplagio. En cuanto a la coautoría, dependerá de la aportación genuina de la aplicación al texto o creación original de la que ha partido o se ha basado. Concluyo: hasta que no se encuentren claras las reglas relativas a la especificación de las fuentes bibliográficas o de otro tipo así como todo lo relativo al plagio, no se debería contemplar el uso de los resultados de esta Inteligencia Artificial en la investigación doctoral.

____________________________

[1] Velasco Carretero, Manuel. Inteligencia Artificial, Protección Datos y Valores. 2020. Sitio visitado el 08/08/2023.

[2] Wojciech Wiewiórowski, Artificial Intelligence, data and our values – on the path to the EU’s digital future. European Data Protección Supervisor (EDPS). 2020. Sitio visitado el 08/08/2023.

[3] Así como su apetito por los datos.

[4] Velasco Carretero, Manuel. Riesgos para los derechos de los usuarios de ChatGPT. 2023. Sitio visitado el 08/08/2023.

[5] Red Iberoamericana de Protección de Datos. Foro regional constituida por 16 autoridades de protección de datos de 12 países de la región, cuyo objetivo es promover y garantizar el derecho fundamental a la protección de datos personales.

[6] Desarrollado por la empresa Open AI, L.L.C.

[7] Así como no saber si cuenta con adecuadas medidas de seguridad para la protección y confidencialidad de los datos personales recabados.

[8] Ojo con los derechos de propiedad intelectual de terceros.

[9] Velasco Carretero, Manuel. El ChatGPT investigado por la AEPD. 2023. Sitio visitado el 08/08/2023.

[10] Agencia Española de Protección de Datos.

[11] Rajesh Nautiyal, Julia N. Albrecht, Ashish Nautiyal. ChatGPT and tourism academia. Department of Tourism, University of Otago, Dunedin, New Zealand Ed. Scott McCabe. 2023.

[12] Susnjak, T. ChatGPT: The end of online exam integrity? arXiv. 2022.

[13] Hartmann, J., Schwenzow, J., &Witte,M. The political ideology of conversational AI: Converging evidence on ChatGPT's pro-environmental, left-libertarian orientation. arXiv. 2023.

[14] Black, B. Transdisciplinary UCalgary team investigates ethical use of AI in post-secondary. University of Calgary January 9. 2023.

[15] O'Connor, S., & ChatGPT. Open artificial intelligence platforms in nursing education: Tools for academic progress or abuse? Nurse Education in Practice, 66. 2023.

[16] Cassidy, C. College student claims app can detect essays written by chatbot ChatGPT. The Guardian. January 11.2023.

Principios de inteligencia artificial en los seguros

Fuente de la imagen: mvc archivo propio

Tarde de viernes ajustada y desangelada. Y eso que empezó bien, con la asistencia a una reunión del equipo de trabajo de la Sección de Derecho Penal del Ilustre Colegio de Abogados de Málaga, y siguió mejor, con una formación en GlobalSuite que impartí al alumnado de la Edición II del Máster de Compliance y Protección de Datos de EIP, título propio de la UEMC, similar a la que te comenté en “Más allá de las hojas de cálculo en Compliance”[1], con lecciones magistrales de algunos participantes que expusieron al resto su experiencia con la herramienta de cumplimiento normativo. Sin embargo, el día terminó con un “triste sabor”, consecuencia de inadecuadas interpretaciones y desencuentro con persona que respetas. Sientes tu conciencia tranquila pero te apena verte envuelto en presuntos despropósitos. En fin, “la vida misma”. Lo importante es el camino.

Y ya puestos, me refugié en el “hojeo” del informe sobre los principios de gobernanza de la inteligencia artificial (IA), recientemente publicado por la European Onsurance and Occupational Pensions Authority (EIOPA)[2], con el ánimo que la IA nos ayude en un futuro a resolver desencuentros, mailterpretaciones y esquivar otras “piedras del camino”[3]. En 2019 EIOPA estableció el Grupo Consultivo de Expertos como seguimiento de su revisión temática sobre el uso de Big Data Analytics en seguros de salud y de motor, con el mandato de examinar la IA en los seguros desde una perspectiva ética. La revisión temática identificó una fuerte tendencia hacia modelos comerciales basados ​​en datos en el mercado de seguros europeo[4]. La tecnología también ha avanzado y esto ha permitido que el uso de la IA obtenga más información sobre el comportamiento del consumidor[5].

El informe se basa en los recientes desarrollos internacionales y de la Unión Europea (UE) en el ámbito de la digitalización y la IA. La EIOPA convocó al grupo consultivo de expertos para que una amplia gama de partes interesadas pudieran trabajar juntas para identificar las oportunidades y los riesgos asociados con el creciente uso de la IA en los seguros, incluida la exploración de posibles límites que podrían ser necesarios. Destaca la proliferación de la IA en los seguros. Por ejemplo, la IA permite a las compañías de seguros realizar evaluaciones de riesgos y prácticas de precios más granulares, procesos de gestión de reclamaciones cada vez más eficientes y permite a las compañías de seguros luchar contra el fraude de manera más eficaz. Los beneficios como la precisión de la predicción, la automatización, los nuevos productos y servicios y las reducciones de costos pueden ser notables.

Sin embargo, garantizar la equidad, la no discriminación, la transparencia y la explicabilidad puede ser un desafío: hay trabajo para que las empresas aborden estos desafíos. Las cuestiones planteadas son de vital importancia de cara a la transformación digital que se está llevando a cabo actualmente en el sector. Por lo tanto, desarrollar un marco de gobernanza de inteligencia artificial sólido es esencial para un sector de seguros que funcione bien, sea confiable y financieramente inclusivo. El informe tiene como objetivo ayudar a las compañías de seguros a implementar medidas proporcionadas y basadas en el riesgo, proporcionando orientación sobre cómo implementar principios clave en la práctica durante todo el ciclo de vida de una aplicación de inteligencia artificial. Fuente de la información: EIOPA. Fuente de la imagen: mvc archivo propio.

_______________________________

[1] Velasco Carretero, Manuel. Más allá de las hojas de cálculo en Compliance. Sitio visitado el 19/06/2021.

[2] Si quieres descargar el informe, clickea AQUÏ, cortesía de EIOPA. Accesible el 19/06/2021.

[3] EIOPA ha publicado un informe de su grupo consultivo de expertos en ética digital que establece los principios de gobernanza de la inteligencia artificial (IA) para una IA ética y confiable en el sector de seguros europeo.

[4] Los datos se han convertido en un recurso muy valioso y la disponibilidad de datos sigue aumentando.

[5] La crisis del COVID-19 también ha acelerado esta tendencia.

Imaginando el Mañana de la Inteligencia Artificial

Fuente de la imagen: Pronosticando el futuro (M. Velasco, 2017)

Conjetura que la Inteligencia Artificial (IA) es como un tren súper rápido que comienza a recorrer el mundo, algo nuevo y emocionante que, según los expertos, trae un montón de oportunidades para vivir mejor, para que la economía crezca y para solucionar problemas que antes parecían imposibles. Pero, como todo tren muy rápido, también tiene sus retos y riesgos que hay que tratar con cuidado. Justo por eso, la gente de todo el mundo se ha puesto de acuerdo para crear un "Plan de Acción para la Gobernanza Global de la Inteligencia Artificial" (M. Velasco, 2025)[1]. Piensa en este plan como un manual o unas reglas de juego para asegurar que ese tren de la IA llegue a un futuro bueno para todos: seguro, confiable, justo y al que todos puedan subirse. Es como si estuviéramos juntos "Trazando el Futuro" de la IA, tal como lo habíamos pensado. Lo que se busca con este plan es, en pocas palabras, varias cosas importantes: • Aprovechar las oportunidades: La idea es que trabajemos juntos, gobiernos, empresas, científicos y ciudadanos, para sacarle el máximo partido a la IA. Esto significa impulsar la economía, ayudar a que el mundo sea más sostenible (lo de la Agenda 2030 de la ONU) y enfrentar retos globales. Imagina la IA ayudando en cosas como la salud, la educación o hasta para reducir la pobreza. • Impulsar la innovación, pero con cabeza: Se quiere fomentar que se exploren cosas nuevas con la IA, que haya mucha investigación y desarrollo. Pero siempre con una mentalidad abierta y colaborativa, compartiendo conocimientos y quitando barreras para que la tecnología avance y beneficie a todos. • Construir las bases: Para que la IA funcione, necesitamos buena infraestructura. Esto es como construir las vías para el tren: se trata de mejorar las redes de internet, la capacidad de los ordenadores (lo que llaman "potencia de cálculo") y los centros de datos. Y aquí hay un punto clave: quieren asegurarse de que los países con menos recursos también tengan acceso a estas herramientas, para que la IA sea verdaderamente "inclusiva".

• Datos de calidad y seguros: La IA necesita "alimentarse" de datos para aprender. Por eso, el plan habla de conseguir datos de buena calidad, pero siempre respetando tu privacidad y asegurándose de que esos datos no tengan prejuicios o discriminación. • Cuidar el planeta: Sí, la IA también tiene un impacto en el medio ambiente, por ejemplo, por la energía que consumen los grandes ordenadores. Por eso, se busca una "inteligencia artificial sostenible", que sea eficiente en el uso de energía y agua, y que incluso ayude a proteger el medio ambiente. • Establecer reglas y estándares: Para que todo funcione bien y de forma segura, se necesitan reglas claras. Se trata de poner de acuerdo con diferentes países y organizaciones para establecer normas técnicas, por ejemplo, sobre seguridad o ética, y para que la IA sea justa y no tenga sesgos (o "prejuicios algorítmicos"). • La seguridad es primordial: Una de las mayores preocupaciones es la seguridad. El plan busca evaluar los riesgos de la IA, proteger tus datos personales, hacer que la IA sea más "explicable" (que sepamos cómo toma decisiones) y transparente, y prevenir que se use para el mal. Es como tener un sistema de control para el tren, para evitar accidentes. • Trabajo en equipo a nivel mundial: Aquí es donde entra la "Gobernanza Global" y la "Cooperación Internacional" que mencionábamos. El plan recalca una y otra vez que esto no lo puede hacer un solo país. Hay que cooperar para compartir conocimientos, construir infraestructuras, formar a la gente en IA (especialmente en países en desarrollo) y tener un diálogo constante sobre cómo manejar esta tecnología. En síntesis, este plan es un esfuerzo enorme para que la Inteligencia Artificial sea una fuerza positiva para el futuro de la humanidad, aprovechando sus increíbles capacidades mientras se gestionan los retos de manera colaborativa y justa para todos. Fuente de la imagen:  Pronosticando el futuro (M. Velasco, 2017), mvc archivo propio.

_____________________

[1] Velasco-Carretero, Manuel (2025). IA Global: Trazando el Futuro. Sitio net—post. Visitado el 3/8/2025.