Le rapporteur de la législation sur l'intelligence artificielle ('AI Act') pour le compte de la commission des affaires juridiques du PE (JURI), Axel Voss (PPE, allemand), a fait le point avec EUROPE sur les principaux enjeux et défis concernant l'intelligence artificielle (IA). Définitions, clarifications et liens avec le Règlement général sur la protection des données seront, entre autres, au cœur des discussions animées qui s'annoncent. Propos recueillis par Thomas Mangin.
Agence Europe - Quels sont les points qui devront, d’après vous, être réglés en priorité concernant le ‘AI Act’ ?
Axel Voss - On doit clarifier les définitions sur l’IA, en se basant davantage sur celle de l’OCDE. On doit se concentrer sur les algorithmes autonomes et l’autoapprentissage des systèmes d’IA. Par ailleurs, le second point, c’est la question des systèmes à haut risque. Il n’y a pas de définition, mais il y a une approche. Je serais en faveur de la réduction du champ d’application, parce que tous les systèmes d’IA intégrés ne sont pas préjudiciables ou nuisibles. Cela dépendrait de ce que l’algorithme fait, mais je pense qu’il est nécessaire de réduire le champ d’application.
Sur cette question, quelle serait votre approche ?
L’approche pourrait reposer, pour la qualification des systèmes à haut risque, sur l’intention d’usage critique dans une zone critique. On pourrait avoir ces deux critères, et peut-être même penser à un troisième et un quatrième critères qui pourraient permettre de définir ce qu'est un système à haut risque. Il y a beaucoup d’exigences pour les développeurs et ceux qui déploient les systèmes. On doit éviter que certains systèmes - concernant la navigation dans les véhicules, par exemple - soient qualifiés à haut risque. Certains systèmes, même s’ils fonctionnent dans une infrastructure jugée critique, ne sont pas forcément des systèmes à haut risque. On doit vraiment se concentrer sur ce qui représente réellement un risque.
D’où l’importance, comme vous le mentionniez le 28 mars dernier devant les membres de la commission ‘JURI’ (EUROPE 12920/10), de « savoir de quels risques nous voulons nous prémunir » ?
On doit effectivement se demander de quel risque on veut se protéger. Outre les risques pour les droits fondamentaux, on pourrait avoir un texte qui dirait 'si vous créez quelque chose comme ça, vous devez avoir ceci en tête, en matière de sécurité et de protection des données, faire attention à l'égalité des sexes, à ce qu’il n’y ait pas de discrimination'. On doit se protéger dans les domaines de la santé, ou même de l’emploi, des crédits…etc., ce qui pourrait influencer le futur de votre vie.
C’est un sujet très complexe, pensez-vous pouvoir vous mettre d’accord avec les autres groupes politiques ?
J’espère toujours que la réalité joue aussi un rôle dans nos négociations et que nous n’avons pas seulement une approche idéologique. On doit être conscient que l’on ne mène pas la course. L’IA a une importance stratégique et on doit se concentrer sur cela, devenir leader ; sinon, nous serons en dehors de la compétition et nous deviendrons une sorte de colonie. Si les autres groupes ont une approche qui dit ‘j’ai mon idéologie et tout ce que le PPE dit est faux’, vous n’aurez plus une approche pratique. C’est ce que l’on peut craindre. Il faut trouver l’équilibre.
Le RGPD occupera une part importante de vos discussions ?
Il faudra trouver la manière de régler les situations controversées entre l’‘AI Act’ et le RGPD. Le RGPD se base un peu sur le principe du ‘ne traitez pas les données, à moins que vous ayez une base légale’. Pour entraîner les systèmes et les algorithmes, vous avez besoin de données de qualité, en très grande quantité. Si nous n’y parvenons pas, alors nous ne pourrons pas répondre aux besoins et attentes.
Quitte à imaginer le fait de revoir la copie du RGPD ?
Je plaide depuis des années en faveur d’une révision du RGPD. Dans certains groupes, on dit ‘Axel Voss n’aime pas la protection des données’. La Commission dit ‘nous avons les normes les plus élevées, on ne doit pas revoir le RGPD à la baisse’, mais ne voit pas qu’il y a des problèmes qui ne sont pas réglés, qui créent de l’incertitude et qui poussent nos développeurs à quitter l’UE. Nous ne devons pas tout rouvrir. Peut-être pourrions-nous seulement revoir le RGPD de manière chirurgicale. Ce pourrait être un moyen d’avancer, mais il ne le font pas et cela peut être frustrant. Si nous attendons que le RGPD soit revu pour mieux prendre en considération l’IA, cela prendra des années et nous perdrons la course.
Quels outils doivent, d’après vous, être mis en avant ?
Les bacs à sable réglementaires sont des éléments très importants. Si nous saisissons l’opportunité des bacs à sable réglementaires, qui pourraient être des genres de zones plus libres pour le développement de l’IA qui ne seraient pas nuisibles, alors on pourrait compenser certaines restrictions du RGPD, mais il faudra être attentif à la formulation. Les données synthétiques pourraient aussi aider.
Concernant la gouvernance, vous avez émis plusieurs hypothèses, comme la création d’une nouvelle agence européenne. Quelle piste faut-il suivre, selon vous ?
C’est un point controversé. On peut se poser la question suivante : va-t-on renforcer les structures nationales existantes ou va-t-on créer une nouvelle agence pour toutes les questions numériques ? Il y a des possibilités pour cette piste, si on met en commun le travail sur les législations sur les marchés (DMA) (EUROPE 12919/12) et les services (DSA) (EUROPE 12924/17) numériques, notamment. Si nous mettons tout cela en commun, ça pourrait être intéressant.
Peut-on imaginer que cela fasse partie du futur texte sur l’IA ?
Je ne serais pas ‘fan’ de cette idée et je ne suis pas sûr que l’on puisse régler cette question dans le cadre du 'AI Act'. Mais si on combine avec d’autres législations, peut-être que cela vaudrait la peine d’y réfléchir.
Quid du calendrier espéré ?
C’est très tôt, mais les commissions compétentes espèrent arriver à une fin des négociations en interne au mois de novembre, avant de commencer les trilogues. Je pense que, du côté du Conseil, l’objectif est également d’arriver à une position commune en novembre. En étant optimistes, on peut imaginer des résultats dans un an, puis il y aura le délai de transposition dans le droit national.