Les eurodéputés ont adopté, mercredi 14 juin, le rapport de Dragoş Tudorache (Renew Europe, roumain) et Brando Benifei (S&D, italien) concernant l’intelligence artificielle (AI Act) (499 voix pour, 28 contre et 93 abstentions) (EUROPE 13200/1). Le mandat de négociation du PE a aussi été approuvé par les eurodéputés et les premières négociations interinstitutionnelles (trilogues) ont débuté dans la soirée suivant le vote du Parlement.
« Je crois que nous avons écrit l’histoire aujourd’hui. Nous avons fixé la voie pour ce dialogue que nous devons avoir, que nous avons déjà entamé, avec le reste du monde. Désormais, nous allons pouvoir construire une IA responsable face aux risques systémiques qu’elle représente », a déclaré M. Benifei dans la foulée du vote.
Les amendements du PPE rejetés sur l'identification biométrique à distance
Le texte confirme d’abord l’interdiction de l’identification biométrique à distance en temps réel et a posteriori dans des espaces accessibles au public. Le PPE, qui, dans un premier temps, avait poussé dans le sens d’une autorisation de cette méthode, avait revu ses ambitions à la baisse après avoir vu ses amendements être rejetés en commission du PE, le 11 mai dernier (EUROPE 13197/5). Le groupe de Manfred Weber avait alors déposé plusieurs amendements visant à revenir aux dispositions de la proposition de la Commission, qui prévoyaient d’autoriser l’identification biométrique en temps réel dans des circonstances exceptionnelles, comme les recherches d’une personne disparue, le fait de localiser le suspect d’un crime grave ou pour prévenir une menace terroriste. Tous les amendements allant dans ce sens déposés par le groupe PPE ont été rejetés dans l'hémicycle (EUROPE 13180/1).
« L’identification biométrique a fait l’objet de discussions. Nous sommes parvenus à un accord qui prend en compte le respect de la vie privée pour les citoyens, pour la société et qui va encore plus loin. La Commission voulait une exemption pour les forces de l’ordre. Notre rapport prévoit que cela puisse être utilisé avec autorisation explicite de la justice, donc pour nous, c’est équilibré », a jugé M. Tudorache.
Les discussions sur le sujet avaient éloigné le PPE des groupes Renew Europe, S&D, Verts/ALE et La Gauche. Les corapporteurs se sont toutefois montrés confiants sur le fait que ces divisions ne transparaîtront pas lors des trilogues. « Je pense que les réunions ont montré qu’il faut respecter les accords. Le travail des groupes nous a permis d’empêcher cette tentative de remettre l’accord en cause. Ça a totalement échoué. Le PPE aura une attitude tout à fait constructive. Une très large majorité du groupe a soutenu le rapport », a résumé M. Benifei.
Le texte prévoit aussi l’interdiction des systèmes d'identification biométrique utilisant des caractéristiques sensibles, comme le genre, l’origine ethnique ou encore l’orientation politique, ainsi que celle des systèmes de police prédictive. Les systèmes de reconnaissance des émotions utilisés dans les services répressifs, la gestion des frontières, le lieu de travail et les établissements d’enseignement seraient interdits, tout comme la saisie non ciblée d’images faciales provenant d’Internet ou de séquences de vidéosurveillance en vue de créer des bases de données de reconnaissance faciale.
Une possible mise en œuvre partielle avant les élections
La question de la classification des systèmes d’IA à haut risque avait également occupé une part importante des négociations en interne au PE. Les systèmes d’IA qui peuvent porter « gravement atteinte » à la santé, à la sécurité et aux droits fondamentaux des personnes ou à l’environnement seront étiquetés en tant que systèmes à haut risque, tout comme les systèmes d’IA utilisés pour influencer les électeurs ou le résultat des scrutins.
Cette disposition s’inscrit dans un contexte de désinformation croissante et d’élections européennes à venir. Toutefois, la législation relative à l’IA ne sera pas encore en vigueur en 2024, même si les corapporteurs se fixent l’objectif de parvenir à un accord avec le Conseil « avant la fin du mandat parlementaire ».
Plusieurs pistes sont néanmoins envisagées pour instaurer des garde-fous avant les élections. « Je pense que nous devrions discuter d’une mise en œuvre anticipée pour les modèles de fondation et l’IA générative. C’est un avis personnel, mais, dans ce domaine spécifique, nous devons voir s’il est possible d’accélérer l’entrée en vigueur », a commenté M. Benifei, rappelant au passage l’importance de la législation sur les services numériques (DSA) (EUROPE 13185/5) dans ce domaine.
Dispositions renforcées pour les IA génératives
Au chapitre des IA à usage général et des IA génératives, les fournisseurs de systèmes devront « évaluer et atténuer les risques potentiels ». Leurs modèles devront être enregistrés dans la base de données de l’UE avant leur mise en circulation sur le marché européen. Des exigences supplémentaires existent pour les fournisseurs de systèmes d’IA génératives, qui devront clairement faire apparaître un marquage sur les contenus générés par l’IA afin qu’ils puissent être identifiés facilement.
Au cours des négociations, l’industrie créative avait insisté pour que les droits d’auteur soient protégés. Le texte prévoit ainsi que des résumés détaillés des données protégées par le droit d’auteur utilisées pour la formation des IA soient obligatoirement rendus publics.
Enfin, le rapport confirme l'ambition du PE de parvenir à l’équilibre entre la protection des utilisateurs et l’innovation, avec plusieurs dispositions, telles que la possibilité pour les entreprises de recourir à de 'bacs à sable réglementaires'. Les entreprises pourront d’ailleurs, sur base volontaire, s’inscrire dans le cadre du futur 'pacte sur l’IA' (EUROPE 13194/3), qui doit leur servir à être prêtes lorsque l’AI Act entrera en vigueur. Des sanctions allant jusqu’à 7% du chiffre d’affaires annuel pourraient être infligées en cas de manquement et des dispositions prévoient aussi qu'un système d'IA puisse être, si besoin, retiré du marché.
Voir le document : https://aeur.eu/f/7he (Thomas Mangin)