Le Parlement européen soutient globalement l'approche fondée sur le risque retenue par la Commission en matière d'intelligence artificielle (IA). C'est ce qu'a révélé une première série de discussions en commission des affaires juridiques du Parlement européen, le mardi 12 mars.
Le point de départ : le paquet de février
La Commission von der Leyen a présenté, le 19 février, un paquet de documents sur les technologies du futur (EUROPE 12429/5). Il s'agissait alors d'ouvrir les discussions, notamment par une consultation publique, en vue de possibles propositions législatives d'ici la fin 2020. Cependant, avec la pandémie de Covid-19, il y a de fortes chances pour que le calendrier soit modifié.
Si le partage de ce dossier entre commissions n'a pas été simple, le Parlement européen est aujourd'hui pleinement investi sur la question. Alors que les négociations pour une commission spéciale sont plus ou moins au point mort, une petite dizaine de rapports sur le fond sont aujourd'hui en préparation.
La commission des affaires juridiques a procédé, mardi 12 mai, à un premier tour de table sur trois d'entre eux dont elle est responsable et qui concernent plus particulièrement les questions éthiques, les régimes de responsabilité civile et les droits de propriété intellectuelle. Les députés ont globalement salué l'approche fondée sur le risque proposée par la Commission et reprise dans les projets de rapport d'Iban Garcia del Blanco (S&D, espagnol) sur l'éthique et d'Axel Voss (PPE, allemand) sur la responsabilité civile.
Contrôle et responsabilité fondée sur le risque
M. Garcia del Blanco suggère que les technologies à haut risque soient soumises à une évaluation de conformité réalisée sur base de « critères objectifs et harmonisés » arrêtés par une nouvelle agence de l'IA et « effectuée et vérifiée par les organismes nationaux de surveillance ».
M. Voss, lui, propose d'adapter la directive sur la sécurité des produits pour y inclure un régime de responsabilité stricte du « déployeur » d'IA à haut risque. Soumis à des exigences d'indemnisation (10 millions d'euros au maximum en cas de décès et 2 millions en cas de dommage causé à une propriété), ces déployeurs seraient obligés de souscrire une assurance responsabilité comparable à ce qui existe pour les propriétaires d'une voiture (c'est d'ailleurs à travers cette analogie qu'il illustre la notion de « déployeur »). Pour les autres, les déployeurs de technologies qui ne sont pas à haut risque, le rapporteur prévoit une « présomption de faute » et s'en remet au droit national.
Les deux rapporteurs optent pour une législation sous la forme d'un règlement, plutôt que d'une directive.
Des amendements à prévoir
Lors du tour de table organisé le 12 mai, une grande majorité de groupes politiques ont toutefois remis en question l'idée d'une nouvelle agence européenne de l'IA (PPE, Renew Europe, ID et CRE). Le rapporteur s'est dit prêt à revoir sa copie, à condition que cette demande ne soit pas justifiée par une logique comptable. « Si nous n'allons pas vers une agence, ce doit seulement être parce que cela ne présente pas de valeur ajoutée », a lancé à ses collègues M. Garcia del Blanco.
De nombreux eurodéputés ont également critiqué l'absence de coordination entre les deux rapports pour ce qui concerne les définitions, y compris des systèmes à risque. Dans une annexe, M. Voss propose une liste fermée qui pourrait être modifiée par la Commission avec l’aide d’une commission permanente regroupant des experts et des acteurs concernés des États membres. À ce stade, il recense les robots autonomes, les dispositifs autonomes de nettoyage des lieux publics, les voitures autonomes (niveau 4 et 5), les systèmes autonomes de gestion du trafic et les avions sans équipage. Pour le groupe S&D, Tiemo Woelken note par ailleurs que la responsabilité ne devrait pas peser exclusivement sur les déployeurs.
Une discussion rapide a également eu lieu sur le rapport sur la propriété intellectuelle de Stéphane Séjourné (Renew Europe, français) tandis que celle prévue sur le document de travail de Gilles Lebreton a été reportée.
Reconnaissance faciale et armes létales
Jusqu'ici, seul le rapport de M. Garcia del Blanco s'attaque à la délicate question de la reconnaissance faciale, sur laquelle la Commission européenne avait jusqu'ici refusé de prendre position. Le rapporteur socialiste se refuse à l'interdire. Son projet de rapport s'attaque aux « technologies de reconnaissance à distance, telles que la reconnaissance biométrique, (qui) sont déployées ou utilisées par les autorités publiques des États membres dans le but de répondre à une urgence nationale ». Dans ce cas, note le rapporteur, les autorités devraient veiller à ce que leur déploiement soit limité à des objectifs spécifiques, limité dans le temps et réalisé dans le respect des valeurs européennes.
De son côté, Axel Voss se focalise sur les atteintes à la vie, à la santé, à l'intégrité physique et à la propriété et exclut l'utilisation par les systèmes d'IA des données biométriques ou des techniques de reconnaissance faciale déjà couvertes par d'autres règles, comme le règlement général sur la protection des données.
Cette question pourrait toutefois refaire surface dans d'autres rapports du Parlement sur l'IA. Sont encore attendus les rapports concernant : - l'éducation (commission de l'éducation) ; - la sécurité et la responsabilité (commission du marché intérieur) ; - l'excellence et la confiance (commission de l'industrie) ; - le droit pénal (commission des libertés civiles).
Quant au document de travail du député Gilles Lebreton (ID, français), il s'attaque aux aspects militaires de l'IA, qu'il juge absents des travaux de la Commission. Le Français rappelle que le Parlement européen s'est prononcé en 2018 en faveur d'un traité international interdisant les « systèmes d'armes létales autonomes », mais que celui-ci a peu de chances de voir le jour, vu les positions des grandes puissances militaires. « Si le Parlement européen veut peser sur les débats du groupe d'experts gouvernementaux créé par l'ONU, il est préférable qu'il présente des propositions constructives pour encadrer l'utilisation de ces systèmes », note M. Lebreton.
Incertitudes sur le calendrier de la Commission
À l'heure actuelle, la Commission européenne poursuit ses consultations. Elle vient d'ailleurs de décider d'étendre une seconde fois - jusqu'au 14 juin - le délai de réponses.
Selon un projet de programme de travail 2020 remanié datant de plusieurs semaines, la Commission pourrait reporter certaines initiatives à 2021. Ce pourrait être le cas de l''Initiative horizontale sur l'intelligence artificielle', de l'initiative 'Responsabilité' ainsi que de la révision de la directive 'Machines' (2006/42/CE) et 'Sécurité générale des produits' (2001/95/CE). Toujours selon ce même document, les actes délégués au titre de la directive sur les équipements radio (fraude, vie privée et protection des données, appareils connectés) seraient maintenus en 2020.
Il faudra toutefois attendre la fin mai, lorsque la Commission publiera la version définitive de son programme de travail remanié, pour avoir confirmation de ces échéances.
Liens : éthique : https://bit.ly/3cweJNd ; responsabilité : https://bit.ly/2zvGYgq ; propriété intellectuelle : https://bit.ly/2T2k0nX ; Aspects militaires : https://bit.ly/2YWg8c1 (Sophie Petitjean)