viernes, 24 de enero de 2020

Garantía de uso justo y seguro de la IA

Fuente de la imagen: TheDigitalArtist en pixabay
En “Alianza Europea de Inteligencia Artificial”, referenciaba el foro promovido por la Unión Europea (UE), The European AI Alliance, con el fin de generar una discusión amplia y abierta sobre todos los aspectos del desarrollo de la Inteligencia Artificial (IA) y su impacto. Los miembros de la Alianza Europea de IA pueden interactuar con los expertos del Grupo de Alto Nivel (GAN) sobre IA, establecido por la Comisión Europea, en un contexto de foro. Al suscribirse a la Alianza, los miembros encontrarán una plataforma dedicada en la que pueden ofrecer sus comentarios y sugerencias al IA. El GAN podría aprovechar esta información al preparar su borrador de Directrices de ética IA y completar sus trabajos encomendados. Además, los debates organizados en la plataforma procurarían contribuir al debate europeo sobre la IA y se incorporarían a la formulación de políticas de la Comisión Europea (CE) en este ámbito. La Alianza se alojaba en la plataforma Futurium, de la CE[1]

Pues bien. Informa el Parlamento Europeo (PE) que recientemente el Comité de Protección al Consumidor y Mercado Interior ha aprobado una resolución[2] que aborda varios desafíos derivados del rápido desarrollo de las tecnologías de IA y toma de decisiones automatizada (ADM)[3]. Indica la normativa que cuando como consumidores interactuamos con un sistema ADM, debemos estar "debidamente informados sobre cómo funciona, cómo llegar a un ser humano con poder de decisión y cómo se pueden verificar y corregir las decisiones del sistema", que solo debería usar conjuntos de datos imparciales y de alta calidad y "algoritmos explicables e imparciales" para aumentar nuestra confianza y aceptación como consumidores. Las estructuras de revisión deben configurarse para remediar posibles errores en las decisiones automatizadas. También debería ser posible que los consumidores busquen una revisión humana y reparen las decisiones automatizadas que son finales y permanentes. 

Por otro lado, el PE apunta que los productos habilitados para IA pueden evolucionar y actuar de formas no previstas cuando se colocaron por primera vez en el mercado. Los eurodiputados instan a la Comisión a presentar propuestas que adapten las normas de seguridad de la UE para los productos[4] para garantizar que los consumidores estén protegidos contra daños, los fabricantes tengan claras sus obligaciones y los usuarios estén informados sobre cómo usar esos productos[5]. Según la legislación de la UE, los comerciantes deben informar a los consumidores cuando el precio de los bienes o servicios se ha personalizado sobre la base de ADM, recuerdan los eurodiputados, pidiendo a la Comisión que supervise de cerca la aplicación de esas normas. También debe verificar cómo se aplica la regulación de la UE que prohíbe el bloqueo geográfico injustificado para garantizar que ADM no se utilice para discriminar a los consumidores en función de su nacionalidad, lugar de residencia o ubicación temporal. Fuente de la información: PE. Fuente de la imagen: TheDigitalArtist en pixabay.
_____________________________
[1]  Para convertirse en miembro de la Alianza Europea de AI, primero había que registrarse para una cuenta de Futurium.
[2] La resolución, aprobada en comisión por 39 votos a favor, ninguno en contra y cuatro abstenciones, será votada por la Cámara en pleno en una próxima sesión plenaria. Seguirá alimentando el trabajo del Parlamento sobre este tema. 
[3] Después de la votación en el plenario, la resolución se transmitirá al Consejo de la UE (Estados miembros) y a la Comisión, para que tengan en cuenta las opiniones de los eurodiputados sobre AI y ADM. La Comisión anunció que debía presentar sus planes para un enfoque europeo de la IA el 19 de febrero de 2020. 
[4] Por ejemplo, directivas sobre seguridad de máquinas y juguetes. 
[5] Según el comité, la Directiva de Responsabilidad del Producto, adoptada hace más de 30 años, también necesitaría ser actualizada para adaptar conceptos tales como "daño" y "defecto" del producto, así como las reglas que rigen la carga de la prueba.

No hay comentarios :

Publicar un comentario

Hola. Gracias por la visita. Saludos. Manuel