À quelques jours du prochain volet de négociations interinstitutionnelles (‘trilogue’), qui aura lieu le 18 juillet, la Présidence espagnole du Conseil de l'UE poursuit ses travaux sur l’intelligence artificielle ('AI Act') (EUROPE 13214/16). Dans un document daté de lundi 10 juillet, dont EUROPE a obtenu copie, elle demande aux États membres de lui indiquer s’ils pourraient faire preuve de souplesse sur les mesures de soutien à l’innovation et l'évaluation de l'impact sur les droits fondamentaux des systèmes d'IA à haut risque. Ces questions avaient déjà été abordées le 5 juillet en groupe de travail.
Le PE prévoit d’introduire dans son approche, adoptée le 14 juin dernier (EUROPE 13201/1), une obligation pour les utilisateurs de systèmes d’IA à haut risque de procéder à une évaluation de l’impact sur les droits fondamentaux de ces systèmes avant leur mise sur le marché. Le Conseil de l’UE ne prévoit pas de telle obligation. En revanche, la Présidence espagnole du Conseil estime, « dans un souci de parvenir à un compromis global dans le cadre des négociations », que cette obligation pourrait être incluse moyennant quelques changements.
Pour le Conseil de l’UE, l'analyse d'impact sur les droits fondamentaux ne devrait être réalisée que par les utilisateurs du secteur public de systèmes d'IA à haut risque. Cette analyse ne devrait être réalisée que pour les aspects non couverts par d'autres textes, tels que le Règlement général pour la protection des données (RGPD) et être alignée sur les procédures existantes afin « d'éviter tout chevauchement et toute charge supplémentaire ».
En outre, la Présidence espagnole du Conseil estime qu’il serait également possible d’envisager que les utilisateurs du secteur public des systèmes à haut risque ne soient pas tenus d'organiser une consultation de six semaines avec les autorités compétentes ou les représentants des personnes susceptibles d'être affectées par les systèmes d’IA concernés. À tout le moins, complète le document, cette consultation pourrait reposer sur une base volontaire.
Les 'sas réglementaires' au cœur des discussions
Par ailleurs, les positions du Conseil de l’UE et du Parlement divergent aussi sur un certain nombre de points concernant les mesures de soutien à l’innovation. Le texte adopté par le PE prévoit que chaque État membre soit obligé d’établir un 'sas réglementaire' devant permettre aux acteurs de tester la technologie ou le service développé sans devoir nécessairement respecter, pour une durée limitée, l’ensemble du cadre réglementaire normal. Pour le Conseil, cette disposition est facultative.
Pour tenter de rapprocher les positions des colégislateurs, la Présidence espagnole demande aux États membres s’ils seraient prêts à accepter l’obligation voulue par le PE, tout en ajoutant la possibilité d'établir des 'bacs à sable réglementaires' en commun avec d’autres États membres ou de remplir cette obligation en rejoignant des 'bacs à sable réglementaires' au niveau de l’UE, établis par la Commission ou le Contrôleur européen de la protection des données.
Le texte du PE prévoit également que les systèmes d’IA qui sortiraient d’un 'sas réglementaire' bénéficient d’une présomption de conformités à des exigences spécifiques afin d’inciter les fournisseurs de systèmes d’IA à y prendre part. Ce point n’apparaît pas dans l'approche que le Conseil avait adoptée le 22 novembre dernier (EUROPE 13067/11).
Sur cet aspect, les États membres devront indiquer, avant le 14 juillet, la flexibilité dont ils pourraient faire preuve, sous réserve de l'inclusion obligatoire des résultats du 'sas réglementaire' dans un rapport de sortie dans la déclaration de conformité des systèmes d'IA à haut risque. Ces résultats seraient alors pris en compte par les autorités de surveillance du marché ou les organismes notifiés dans le cadre des procédures d'évaluation de la conformité.
En outre, les États membres devront informer la Présidence espagnole de leur flexibilité quant à l’inclusion éventuelle d’organismes notifiés dans le processus des 'bacs à sable réglementaires', organismes qui seraient chargés d’évaluer la conformité des systèmes d’IA à haut risque au cours du processus.
Les États membres devraient aussi indiquer s’ils sont ouverts à la possibilité d’autoriser les essais en conditions réelles de systèmes d’IA à haut risque en incluant des garanties supplémentaires afin que les autorités nationales compétentes puissent, par le biais notamment de conditions plus strictes en matière de protection des données, mieux contrôler les essais. L’approche du Conseil sur cette question prévoit la possibilité de tester les systèmes d’IA à haut risque en conditions réelles et en dehors des 'bacs à sable réglementaires'. Le PE ne prévoit pas cette possibilité.
Voir le document : https://aeur.eu/f/7zp (Thomas Mangin)