Le Bureau européen des unions de consommateurs (BEUC) a publié, mardi 25 juillet, un ensemble de recommandations pour s’assurer que la protection des consommateurs et des citoyens sera au cœur des priorités dans le cadre des négociations interinstitutionnelles sur l’intelligence artificielle ('AI Act') (EUROPE 13222/3). Sur une large majorité d'aspects, le BEUC souhaiterait que le futur accord final retienne l’approche du Parlement européen et non celle du Conseil de l’UE.
Concrètement, le BEUC aimerait que l’approche du Parlement européen soit conservée sur la question des IA dignes de confiance, sur la liste des cas d’utilisation à haut risque, sur les droits et recours possibles pour les utilisateurs, sur l’évaluation de l'impact sur les droits fondamentaux ou encore sur les IA génératives.
Sur ce dernier point, le BEUC juge que les systèmes devraient être soumis à « un ensemble de règles spécifiques et ne pas être réglementés uniquement lorsqu'ils sont utilisés dans un contexte à haut risque ». Les personnes ou entités déployant ce genre de systèmes devraient surveiller et traiter la manière dont le système affecte les consommateurs tout au long de sa durée de vie.
Une documentation « pertinente sur leurs évaluations des risques, y compris une version courte et moins technique informant les consommateurs des risques potentiels restants » devrait être publiée et ces systèmes ne pourraient, en cas de risque détecté, être mis sur le marché que si le risque peut être atténué.
Par ailleurs, le BEUC estime que les colégislateurs devraient revenir à la proposition initiale pour la classification des systèmes d’intelligence artificielle à haut risque.
Voir le rapport : https://aeur.eu/f/8a0 (Thomas Mangin)