Dissiper les craintes et éviter les dérives tout en s’assurant de rester dans la course. C’est avec ces objectifs que la vice-présidente exécutive pour une Europe adaptée à l’ère du numérique, Margrethe Vestager, et le commissaire européen au Marché intérieur, Thierry Breton, ont présenté, ce mercredi 21 avril, la proposition de la Commission européenne pour une nouvelle réglementation en matière d’intelligence artificielle (IA).
Dans ce numéro d’équilibriste, la Commission a mis l’accent sur la confiance des citoyens, à l’heure où de plus en plus de questions se posent dans la société civile, concernant notamment l’identification biométrique à distance ou la fiabilité des véhicules autonomes.
« En matière d'intelligence artificielle, la confiance n'est pas un luxe, mais une nécessité absolue. En adoptant ces règles qui feront date, l'Union européenne prend l'initiative d'élaborer de nouvelles normes mondiales qui garantiront que l'IA est digne de confiance. En établissant les normes, nous pouvons ouvrir la voie à une technologie éthique dans le monde entier, tout en préservant la compétitivité de l’UE », a insisté Mme Vestager.
« La Commission a présenté une proposition ambitieuse et d'une grande portée. Elle est clairement, et sans équivoque, centrée sur la protection des citoyens européens et de leurs droits et elle apporte une clarté initiale bien nécessaire sur ce qui est et ce qui n'est pas autorisé en matière d'intelligence artificielle », a abondé dans la foulée, par voie de communiqué, Dragoș Tudorache (Renew Europe, roumain), président de la commission spéciale du Parlement européen sur l'intelligence artificielle à l'ère numérique (AIDA).
Ainsi, la proposition de la Commission s’attache plus à l’encadrement des usages en termes d’IA qu’à une réglementation de la technologie elle-même. Car, plusieurs hauts-fonctionnaires européens l’ont martelé : il ne s’agirait pas d’oublier pour autant l’autre volonté de la Commission, à savoir faire de l’UE un champion de l’intelligence artificielle.
« L'IA est un moyen, et non une fin. (…) Cela offre un énorme potentiel dans des secteurs aussi divers que la santé, les transports, l'énergie, l'agriculture, le tourisme ou la cybersécurité », a estimé Thierry Breton, avant de reprendre : « Cela comporte aussi un certain nombre de risques. Les propositions présentées aujourd'hui visent à conforter la position de l'Europe en tant que pôle mondial d'excellence dans le domaine de l'IA, du laboratoire au marché, à faire en sorte qu'en Europe, l'IA respecte nos valeurs et nos règles et à exploiter son potentiel à des fins industrielles ».
Concrètement, la proposition législative poursuit une approche basée sur l’évaluation du risque et repose sur quatre catégories. La première concerne les usages représentant des risques minimes - dont la majorité des systèmes d’IA relèvent - et qui ne seront pas soumis à une intervention tierce. Les usages représentant des risques limités devront, pour leur part, respecter des règles de transparence, comme le fait, par exemple, de spécifier aux utilisateurs lorsqu’ils interagissent en ligne avec un chatbot.
Troisièmement, les systèmes d’IA considérés « à haut risque » - dans les infrastructures critiques de transports, en matière d’éducation, de formation, de sécurité des produits ou dans le domaine de l’emploi et des services privés - devront, eux, être conformes à des obligations strictes pour pouvoir être mis sur le marché et un contrôle humain devra être exercé. Outre la qualité des données, une transparence totale et une documentation détaillée et accessible des systèmes seront de mise.
Enfin, la proposition de réglementation prévoit une interdiction pure et simple des systèmes représentant un risque qualifié d’inacceptable. En font partie tous les usages de l’IA menaçant la sécurité, les moyens de subsistance et les droits des personnes.
L'identification biométrique à distance au cœur du débat
Les systèmes d’identification biométrique à distance, estampillés « à haut risque », pourront bénéficier d’exceptions lorsqu’il sera question de prévenir une menace terroriste spécifique et imminente, d’identifier ou de localiser le suspect d’une infraction pénale grave ou de rechercher un enfant disparu.
Néanmoins, stipule la Commission, l’utilisation de ces systèmes devra être autorisée par une instance judiciaire ou un organe indépendant. Et cela sera soumis à des limitations en termes de durée, de portée géographique et de bases de données consultées.
À l’inverse du groupe Renew Europe, qui se félicite de la proposition législative, cet engouement n’est pas partagé par l’ensemble de l’hémicycle du Parlement européen. « La proposition de la Commission européenne étendrait l'utilisation à haut risque de la reconnaissance faciale automatique dans les espaces publics à l'ensemble de l'UE. (…) Les exigences procédurales proposées ne sont qu'un simple écran de fumée », a tranché Patrick Breyer, eurodéputé allemand du parti Pirate.
Craignant l’avènement d’un 'Big Brother' européen, le groupe S&D a salué les bases de cette proposition, tout en prévenant qu'il fera tout pour « défendre les droits fondamentaux, comme la vie privée en particulier, lorsqu'il s'agit de reconnaissance faciale dans les espaces publics ».
Outre l’identification biométrique à distance, plusieurs organisations ont également fait part de leur déception, à l’instar du Bureau européen des unions de consommateurs (BEUC), pour qui les règles proposées ne protègent que trop faiblement les consommateurs. Et le réseau collectif d’ONG, d’experts et de chercheurs European Digital Rights (EDRi) a considéré que l’UE devait aller plus loin pour prévenir contre la surveillance et la discrimination. « S'il est positif que la Commission reconnaisse que certaines utilisations de l'IA sont tout simplement inacceptables et doivent être interdites, le projet de loi n'interdit pas toute l'étendue des utilisations inacceptables de l'IA. Cela laisse un vide inquiétant pour les technologies de discrimination et de surveillance utilisées par les gouvernements et les entreprises », a détaillé Sarah Chander, experte en IA pour l'EDRi.
Autre volet de ce paquet numérique, l’approche de l’UE concernant les nouveaux équipements et les machines. Dans ce domaine, la Commission souhaite garantir que les machines de nouvelle génération offrent toute la sécurité requise aux utilisateurs et aux consommateurs, tout en encourageant l'innovation. Cela devrait permettre une plus grande clarté juridique, en réduisant la charge administrative et les coûts pour les entreprises grâce à l'autorisation de la documentation au format numérique et en adaptant les frais d'évaluation de la conformité pour les PME, a précisé la Commission.
Le plan coordonné prévoit d’utiliser des fonds alloués au titre des programmes Europe numérique et Horizon Europe (EUROPE 12678/17), à hauteur d'un milliard d’euros chaque année. Rappelons par ailleurs que 20% des dépenses de l’enveloppe de l’instrument Facilité pour la reprise et la résilience, l'instrument budgétaire au cœur du Plan de relance européen Next Generation EU, devraient être consacrés à la transition numérique (EUROPE 12561/7).
Pour mener à bien ce dossier, la Commission entend s’appuyer sur les autorités nationales de surveillance du marché. Celles-ci devront veiller au respect des nouvelles règles et pourront elles-mêmes compter sur le futur Comité européen de l'intelligence artificielle. Ce comité sera également chargé de stimuler l'élaboration de nouvelles normes pour l'IA.
Les propositions, fruit d’un travail de trois années - la publication de la stratégie européenne en matière d’IA date de 2018 (EUROPE 12009/4) - devront être adoptées en codécision par le Parlement européen et les États membres.
Voir la proposition de règlement de la Commission : https://bit.ly/32BK0Lw (Thomas Mangin)