Les eurodéputés membres des commissions du Marché intérieur et de la protection des consommateurs ('IMCO') et des Libertés civiles, de la justice et des affaires intérieures ('LIBE) du Parlement européen s’apprêtent, jeudi 11 mai, après de longs mois de négociations internes, à voter le rapport de Dragoș Tudorache (Renew Europe, roumain) et Brando Benifei (S&D, italien) sur la législation sur l’intelligence artificielle (‘AI Act’) (EUROPE 13172/12).
« On peut être fier de ce que l’on a fait en quelques mois seulement. Il sera important d’obtenir une forte majorité lors de la séance plénière, en juin, pour aborder les négociations interinstitutionnelles avec un mandat fort et clair », a déclaré M. Benifei.
Plusieurs changements ont été apportés à la version finale du texte sur laquelle se sont accordés les groupes politiques du PE. Il comprend désormais un certain nombre de dispositions relatives aux modèles de fondation d’intelligence artificielle (IA), qui peuvent être adaptés à un large éventail de tâches et de finalités et aux systèmes d’IA générative. Ces types de systèmes n’étaient pas couverts dans le cadre de la proposition initiale de la Commission.
Des obligations plus strictes sont prévues pour ceux qui développeront ces systèmes, notamment le fait de documenter et d’être transparent sur le matériel utilisé pour entraîner les algorithmes.
Des sanctions inspirées de celles prévues dans le cadre du paquet DSA-DMA
Le texte prévoit aussi des amendes pour les fournisseurs de modèles de fondation pouvant atteindre 10 millions d’euros ou 2% du chiffre d’affaires annuel mondial généré.
« Nous avons d'abord examiné la proposition de la Commission. Nous avons ensuite examiné les sanctions similaires utilisées dans d'autres textes législatifs comme le DSA (EUROPE 13176/33) ou le DMA (EUROPE 13173/37). Nous essayons d'avoir quelque chose de cohérent avec les autres mécanismes d'application pour les instruments numériques existants et d’égaliser l'impact de certaines violations par rapport à des violations similaires dans le cadre du DSA et du DMA », a résumé M. Tudorache pour EUROPE.
Concernant les systèmes qualifiés 'à haut risque', les eurodéputés se sont accordés sur le fait qu’un système d’IA devait représenter un risque ‘significatif’ pour être considéré comme 'à haut risque'. Ce risque sera mesuré par le biais de différents critères comme le niveau de gravité potentiel, la durée ou encore les chances qu’il se traduise en un incident. Les systèmes de recommandation des très grandes plateformes en ligne - au sens de la législation sur les services numériques - tomberont dans la catégorie des systèmes à haut risque.
En maintenant une approche basée sur le risque, une disposition a également été ajoutée pour obliger les fournisseurs à réaliser une étude d’impact sur les droits fondamentaux.
Vote séparé sur l'identification biométrique
Un vote séparé aura aussi lieu sur la question de l’interdiction de l’identification biométrique, interdiction à laquelle le PPE s’oppose.
« Il s’agira d’un vote séparé sur un point qui ne fait pas partie du compromis. Sur le texte, nous devrions avoir une grande majorité et il ne devrait pas y avoir beaucoup de changements. Peut-être sur des aspects tels que les droits fondamentaux, sur lesquels certains eurodéputés pourraient vouloir avancer leur point de vue avant le vote en plénière, mais nous avons un fort soutien avec ce compromis. Je ne vois pas de grands changements intervenir », a jugé M. Benifei.
La création du futur Bureau pour l’intelligence artificielle est également confirmée dans le texte. Cette entité sera notamment chargée de soutenir la mise en place de la future législation.
« Il faudra, à mon avis, entre un et deux ans avant que l'‘AI Act’ soir pleinement effectif. Cette période sera utilisée au niveau national pour permettre aux gouvernements de préparer leur politique nationale, d'embaucher du personnel et de préparer sa mise en œuvre. Même chose au niveau européen. Cette période d'un à deux ans servira donc aussi préparer le Bureau pour l’IA au niveau européen », a expliqué Dragoș Tudorache à EUROPE. (Thomas Mangin)