Hacia una empresa algorítmicamente responsable

Fuente de la imagen: mvc archivo propio

Si eres follower de este sitio sabes que antaño no paraba de darle vueltas a esto del Social Media para saber en qué se basaban los algoritmos de Google, Linkedin, Facebook Twitter, Pinterest… Pero llegó un momento en que, por suerte, tiré la toalla y centré la atención en el contacto periódico contigo, contándote lo que estimara oportuno, con independencia de que tuviera más o menos aceptación en las redes sociales (sorprendentemente aumentó el número de seguidores en los sitios virtuales profesionales que frecuento). En el texto “A la porra los algoritmos de los buscadores”[1] te contaba la batalla analítica en los prolegómenos. Sin embargo, estoy de acuerdo con los amigos y amigas telecos e informáticos en que un buen algoritmo puede, por ejemplo, llegar a salvar vidas o evitar el fraude fiscal o laboral. Recientemente se ha publicado en mi país una guía práctica y herramienta sobre la obligación empresarial de información sobre el uso de algoritmos en el ámbito laboral. Si quieres acceder a ella, clickea AQUÍ.

Según el Ministerio de Trabajo y Economía Social del Gobierno de España (MTyES), la herramienta cumple con la obligación de información algorítmica de todas las empresas, concretando y sistematizando las obligaciones empresariales de información y permitiendo garantizar el derecho fundamental a la no discriminación. Se concreta en 4 epígrafes de cuestiones: información general, información sobre la lógica y funcionamiento, información sobre las consecuencias, otra información relevante[2]. Asimismo, el proceso de diseño y construcción de un sistema de decisión automatizada está sujeto a muchas decisiones de diseño y de cada una de ellas dependerá el sistema final resultante[3]. Se trata de combatir la denominada "discriminación algorítmica" que reproduce patrones clásicos de discriminación. Cualquier cambio en la selección de datos de entrenamiento, del método de ajuste o de su ponderación relativa en el algoritmo generará un modelo diferente y, por tanto, con posibilidad de estar sujeto a determinados sesgos.

La guía incide en la importancia de la existencia de la intervención humana en cada una de las decisiones parceladas y no solamente en alguna parte del proceso[4]. El Real Decreto-Ley 9/ 2021, para garantizar los derechos laborales de las personas dedicadas al reparto en el ámbito de plataformas digitales, consagra el derecho de las personas trabajadoras de cualquier empresa a "ser informado por la empresa de los parámetros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial que afectan a la toma de decisiones que pueden incidir en las condiciones de trabajo, el acceso y mantenimiento del empleo, incluida la elaboración de perfiles". Esta norma se inspira en el proyecto de Directiva sobre condiciones de trabajo en plataformas digitales que está ahora siendo debatida en la UE. La Ley rider se refiere a concretos deberes de información de las plataformas digitales respecto de los sistemas automatizados de supervisión y de toma de decisiones empleado y garantiza el derecho a conocer y a comprender el algoritmo.

El objetivo de los promotores de esta legislación consiste en caminar hacia una empresa "algorítmicamente responsable", con trabajo decente y socialmente comprometida. Los algoritmos también deben ser materia de negociación por parte de la representación legal de los trabajadores. La guía práctica reúne en un único documento obligaciones y derechos en materia de información algorítmica en el ámbito laboral: señala las obligaciones de la empresa respecto a la información que debe facilitar a la representación legal de la plantilla y a las propias personas trabajadoras. Además, indica qué información pueden solicitar la representación legal de la plantilla y las propias personas trabajadoras de acuerdo con la normativa vigente. Por otra parte, analiza las obligaciones empresariales de negociación del algoritmo, la auditoría y la evaluación de impacto. Fuente de la información: MTyES. Fuente de la imagen: mvc archivo propio.

________________________________

[1] Velasco Carretero, Manuel. A la porra los algoritmos de los buscadores. 2019. Sitio visitado el 11/06/2022.

[2] Cada epígrafe consta de una serie de preguntas como qué tipo de tecnología utiliza el algoritmo (Caja negra, aprendizaje continuo) quién lo ha desarrollado, con qué decisiones, si hay personas en este proceso de decisión y en qué medida participan, qué datos de entrenamiento se han utilizado, si se han verificado los extremos, qué consecuencias pueden derivarse para las personas la decisión adoptada, si se ha informado a la persona candidata del uso de algoritmos...

[3] Para el profesor Nick Srnicek, los algoritmos no solo se emplean en las plataformas digitales, sino que cada vez más se utilizan en entornos laborales tradicionales. En este sentido, ha reclamado "una nueva legislación que regule y restrinja el uso de algoritmos".

[4] Por ejemplo, en un proceso de selección si los candidatos finalistas se seleccionan mediante un algoritmo, la decisión final dependería de una decisión humana.