Les eurodéputés membres des commissions du marché intérieur et de la protection des consommateurs (IMCO) et des libertés civiles, de la justice et des affaires intérieures (LIBE) du Parlement européen ont adopté, jeudi 11 mai, le rapport de Dragoș Tudorache (Renew Europe, roumain) et Brando Benifei (S&D, italien) relatif à la législation sur l’intelligence artificielle (‘AI Act’) (84 voix pour, 7 contre, 12 abstentions) (EUROPE 13179/1).
« Compte tenu de l'impact profond que l'IA aura sur nos sociétés et nos économies, la loi sur l'IA est très probablement le texte législatif le plus important de ce mandat », a commenté, à l’issue du vote, M. Tudorache.
Question longuement débattue au cours des négociations, les eurodéputés ont soutenu, dans la version finale du texte, l'élargissement de la classification des secteurs à haut risque aux atteintes à la santé, à la sécurité, à l’environnement et, comme l’avait demandé le groupe S&D, aux droits fondamentaux.
Les fournisseurs de ces systèmes d'IA devraient, d’ailleurs, réaliser une étude d’impact sur ces derniers.
« Il est essentiel de renforcer la confiance des citoyens dans le développement de l'IA, de définir la voie européenne pour faire face aux changements extraordinaires qui se produisent déjà ainsi que d'orienter le débat politique sur l'IA au niveau mondial. Nous sommes convaincus que notre texte établit un équilibre entre la protection des droits fondamentaux et la nécessité de fournir une sécurité juridique aux entreprises et de stimuler l'innovation en Europe », a déclaré M. Benifei.
En outre, les systèmes d’IA qui risquent d’influencer les électeurs dans le cadre de campagnes politiques tombent sous le coup du texte, tout comme les systèmes de recommandation utilisés par les très grandes plateformes en ligne, telles que définies dans le cadre de la législation sur les services numériques (DSA) (EUROPE 13176/33). Cette disposition concernant les plateformes ayant plus de 45 millions d’utilisateurs par mois avait été ajoutée au cours des dernières semaines de négociations entre les groupes politiques.
Dispositions renforcées pour les systèmes d'IA générative
La version finale du texte confirme également le travail mené par les eurodéputés lors des dernières semaines sur les systèmes d’IA à usage général. Les fournisseurs de modèles de fondation, qui peuvent être adaptés à un large éventail de tâches et de finalités, devraient documenter leurs travaux, accroître la transparence et évaluer les risques afin de les limiter. En cas de manquement, les fournisseurs de modèles de fondation pourraient faire l'objet d'amendes pouvant atteindre 10 millions d’euros ou 2% du chiffre d’affaires annuel mondial généré.
Les systèmes d’IA générative, tels que ChatGPT, seraient assujettis à des exigences supplémentaires. Les fournisseurs devraient ainsi informer les utilisateurs du fait que le contenu a été généré par l’IA et s’assurer, lors de la conception du système, que celui-ci ne pourrait pas générer de contenus illégaux. Le résumé des données protégées par le droit d’auteur utilisées pour la formation du système d’IA générative devrait aussi être publié.
Le PPE mis en minorité sur l'identification biométrique
Toujours selon la logique du classement par degrés de risque que représente un système d’IA, les eurodéputés ont dressé une liste des usages ‘inacceptables’. Ils ont, dans la version du texte adoptée en commissions du PE, complété la liste.
Outre les systèmes exploitant les vulnérabilités des personnes ou ceux utilisés à des fins de ‘scoring’ social, les eurodéputés ont également ajouté les systèmes d'identification biométrique à distance en temps réel dans les espaces accessibles au public. Son recours a posteriori serait, lui aussi, interdit, sauf dans les cas de crimes graves et après autorisation judiciaire.
Le groupe PPE s’opposait à l’interdiction de l’identification biométrique. Un vote séparé sur la question a eu lieu sur cette question. Les rapporteurs avaient indiqué à EUROPE que le résultat de ce vote pourrait s’avérer serré. La confirmation de l’interdiction de l’identification biométrique a pourtant bénéficié d’une majorité plus confortable que prévu (58 voix pour, 10 contre, 36 abstentions).
« Je pense que l'interdiction des systèmes de reconnaissance faciale en temps réel, des systèmes d'évaluation du ‘scoring’ social ou l'établissement de règles claires pour la technologie permettant de surveiller les étudiants pendant les examens en ligne sont les principaux résultats du compromis négocié sur la législation sur l'IA. Selon les nouvelles règles, les systèmes d'intelligence artificielle ne pourront pas discriminer les personnes ou violer les droits de l'homme fondamentaux », a réagi Marcel Kolaja (Verts/ALE, tchèque).
Un vote en session plénière prévu au mois de juin
Les eurodéputés ont également tranché sur la question du rôle du Bureau européen de l’IA, qui sera chargé de contrôler la mise en œuvre du règlement sur l’IA. Le rapport encourage enfin, aussi, le recours aux sas réglementaires ('sand boxes'), qui doivent permettre aux fournisseurs de tester, pour une durée définie, leur système d’IA sans devoir nécessairement respecter le cadre réglementaire.
Seul le groupe de La Gauche n’a pas soutenu le texte lors du vote final en commissions du Parlement européen. Les groupes Identité et démocratie et CRE se sont, eux, divisés sur la question.
Le rapport sera soumis aux voix du Parlement européen lors de la séance plénière débutant lundi 12 juin. Les négociations interinstitutionnelles pourront ensuite débuter, le Conseil de l'UE ayant déjà arrêté sa position le 18 novembre 2022 (EUROPE 13067/11). L'objectif sera de parvenir à un accord avant fin 2023.
« Je suis convaincu que nous pourrons trouver un accord d'ici la fin de l'année. (...) Cela doit être fait avant la fin de ce mandat. Nous ne pouvons pas nous permettre de repartir de zéro en 2024 », avait expliqué à EUROPE Dragoș Tudorache (EUROPE 13179/2). (Thomas Mangin)