L’Agence des droits fondamentaux de l’Union européenne (FRA) a publié, jeudi 4 décembre, un rapport énonçant les difficultés liées à l’évaluation des risques pour les droits fondamentaux dans l’utilisation de l’intelligence artificielle.
Le rapport, qui découle de 38 entretiens menés en Allemagne, en Irlande, aux Pays-Bas, en Espagne et en Suède auprès de fournisseurs, d’utilisateurs et d’experts travaillant dans cinq domaines considérés comme sensibles par le règlement sur l'intelligence artificielle (AI Act) - l’asile, l’éducation, l’emploi, l’application de la loi et les prestations sociales -, démontre que, si les risques liés à la vie privée, à la protection des données et à la non-discrimination sont souvent pris en considération, l’impasse est souvent faite sur d’autres droits fondamentaux, comme le droit à l’éducation ou l’accès équitable à l’emploi.
Selon la FRA, il faudrait élargir la définition d’un système d’intelligence artificielle, afin d’inclure également des systèmes simples, dont les résultats, parfois biaisés, ne sont pas négligeables.
L’Agence appelle également à plus de rigueur pour appliquer les exceptions prévues par le règlement, les « filtres ».
La FRA encourage en outre à des orientations destinées aux fournisseurs et utilisateurs pour organiser des analyses d’impact sur l’ensemble des droits fondamentaux, ainsi qu'à des investissements dans des études et des tests indépendants pour mieux comprendre les risques et les moyens de les atténuer.
Ainsi que l’a rappelé la directrice de la FRA, Sirpa Rautio, dans un communiqué, évaluer ces risques « est bénéfique pour les entreprises » et permet de développer des systèmes d’IA plus sûrs, au service des citoyens, ainsi que de créer des sécurités juridiques pour les entreprises.
Le rapport : https://aeur.eu/f/jv6 (Nithya Paquiry)