Prevenir la discriminación y proteger la diversidad

Fuente de la imagen: jim_ en pixabay

En relación con “Manifestaciones de interés para ENIA”[1], me remite Paco (Gracias), la opinión del Parlamento Europeo (PE), acerca de que las tecnologías de Inteligencia Artificial (IA) deben prevenir la discriminación y proteger la diversidad. Para esta institución, el uso de tecnologías de IA en la educación, la cultura y el sector audiovisual podría tener un impacto en “la columna vertebral de los derechos y valores fundamentales de nuestra sociedad”. La Comisión de Cultura y Educación del PE pide que todas las tecnologías de IA sean reguladas y capacitadas para proteger la no discriminación, la igualdad de género, el pluralismo y la diversidad cultural y lingüística.

Para evitar que las recomendaciones de contenido basadas en algoritmos, especialmente en los servicios de transmisión de vídeo y música, afecten negativamente a la diversidad cultural y lingüística de la UE, el PE solicita que se desarrollen indicadores específicos para medir la diversidad y garantizar que se promuevan las obras europeas. En este sentido, la Comisión Europea (CE) debe establecer un marco ético claro sobre cómo se utilizan las tecnologías de IA en los medios de comunicación de la UE para garantizar que las personas tengan acceso a contenidos cultural y lingüísticamente diversos, junto al abordaje del uso indebido de la inteligencia artificial para difundir noticias falsas y desinformación.

Apunta el PE que el uso de datos sesgados que reflejen la desigualdad de género o la discriminación ya existente debe evitarse al capacitar a la IA, debiéndose desarrollar conjuntos de datos inclusivos y éticos, con la ayuda de las partes interesadas y la sociedad civil, para ser utilizados durante el proceso de “aprendizaje profundo”. Finalmente, la institución europea enfatiza que los docentes siempre deben poder corregir las decisiones tomadas por IA, como la evaluación final de los estudiantes, destacando la necesidad de formar a los profesores y advirtiendo su no reemplazo por tecnologías de IA, especialmente en la educación infantil. Fuente de la información: PE. Fuente de la imagen: jim_ en pixabay.

___________________________________

[1] Velasco Carretero, Manuel. Manifestaciones de interés para ENIA. 2002. Sitio visitado el 17/03/2021.