Les eurodéputés s'apprêtent à arrêter leur position sur l'intelligence artificielle (IA). Après les compromis en début de semaine, les députés de la commission des affaires juridiques du Parlement européen devraient adopter leur projet de rapport jeudi 1er octobre. Cela concerne deux rapports législatifs (sur les aspects éthiques et le régime de responsabilité civile) et un non législatif (sur les droits de propriété intellectuelle).
Le rapport de Sabine Verheyen (PPE, allemande) sur l'intelligence artificielle dans les domaines de l’éducation, de la culture et de l’audiovisuel, discuté en commission de la culture (CULT), sera pour sa part voté plus tard dans l'année. Il s'agit d'un rapport non législatif.
Au vu des amendements de compromis, les rapports de la commission des affaires juridiques (JURI) plaident pour une liste exhaustive de technologies à haut risque soumises à des obligations plus importantes, liste qui serait mise à jour par la Commission européenne. Ils suggèrent un régime de responsabilité civile pour l'intelligence artificielle avec un système de dédommagement pouvant aller jusqu'à 2 millions d'euros.
Les eurodéputés s'inspirent des idées qui figurent dans le livre blanc et la feuille de route de la Commission européenne, qui sont censés appuyer les propositions législatives qu'elle présentera début 2021 (EUROPE 12429/5, 12538/13). La Commission européenne y interrogeait les parties prenantes sur la pertinence d'introduire une approche fondée sur le risque, avec un système de labellisation volontaire pour les applications d'IA et des obligations spécifiques pour les applications d'IA à haut risque.
Les députés embrassent l'approche fondée sur le risque
Le rapport préparé par Ibán García Del Blanco (S&D, espagnol), qui repose sur 80 pages de compromis, tient compte de l'avis de 7 commissions parlementaires (dont 2 associées). Consacré aux aspects éthiques, il invite la Commission à présenter un règlement sur l'intelligence artificielle, la robotique et les technologies liées, y compris les logiciels, les algorithmes et les données utilisées ou produites par ces technologies développées, déployées ou utilisées dans l'UE.
Il propose que les technologies très à risque soient soumises à une « évaluation ex ante externe, impartiale et objective » afin de veiller à ce qu'elles soient développées, déployées et utilisées d'une manière cybersécurisée, sûre, avec des performances fiables, précise, facilement explicable, informée et d'une manière qui permette de déconnecter ou de revenir à un état précédent en cas de perte de contrôle. Le projet de rapport souligne que les opérateurs de technologies à haut risque doivent aussi potentiellement fournir aux autorités publiques des documents sur l'utilisation, la conception et les instructions de sécurité, y compris le code source, les outils de développement et les données utilisées par le système.
Le document recense, dans une annexe, les technologies pouvant être considérées comme à haut risque, en fonction du secteur et de l'utilisation. Fruit d'un compromis, il intègre maintenant aux secteurs à risques la finance et le monde des assurances ; par contre, l'environnement disparait. Pour les utilisations à risques, il reprend, par exemple, le recrutement, l'octroi de prêts, le courtage et la fiscalité, la gestion des déchets, le contrôle des émissions, etc.
Ces technologies évaluées positivement devraient recevoir un « certificat européen de conformité éthique », également ouvert aux autres produits de l'IA après une évaluation volontaire.
Une pénalité pouvant aller jusqu'à 2 millions d'euros
Parallèlement, le rapport d'Axel Voss (PPE, allemand) soutient un régime de responsabilité obligatoire pour les systèmes d'intelligence artificielle à haut risque, qui obligerait ces opérateurs à souscrire une assurance. Il estime que la Commission devrait prévoir des règles supplémentaires pour les cas, par exemple, où la partie tierce est intraçable ou insolvable.
Il précise qu'un opérateur d'un système d'IA à haut risque responsable d'un dommage devrait offrir une compensation de 2 millions maximum en cas de décès ou de préjudice à l'intégrité physique ou à la santé d'une personne et de 1 million d'euro maximum en cas de dommage immatériel important ayant provoqué un dommage économique ou un dommage à la propriété
Pour le reste, le projet de rapport plaide pour une responsabilité « conjointe et solidaire » lorsque les opérateurs sont multiples (la proportion devant être déterminée par les degrés respectifs de contrôle que les opérateurs ont sur le risque contenu dans l'opération). Il estime que la traçabilité du produit devrait être améliorée afin de mieux identifier les acteurs impliqués dans les différentes étapes et invite à examiner la possibilité de renverser, dans certains cas, les règles sur la charge de la preuve pour les technologies émergentes.
Pas d'interdiction de la reconnaissance faciale
Les députés souhaitent aussi encadrer fermement la reconnaissance faciale, sans pour autant l'interdire. Ainsi, ils stipulent dans le rapport Del Blanco que « l'utilisation et la collecte de données biométriques à des fins d’identification à distance dans des lieux publics, comme la reconnaissance biométrique ou faciale, ne sont déployées ou utilisées que par les autorités publiques des États membres à des fins d’intérêt public substantielles ».
Ces autorités, ajoutent-ils, veillent à ce que ce déploiement ou cette utilisation soient divulgués de manière proportionnée, ciblée et limitée à des objectifs et lieux spécifiques et limités dans le temps.
Davantage tenir compte des droits de propriété intellectuelle
Lundi 28 septembre, les députés ont aussi voté sur les amendements de compromis du rapport préparé par Stéphane Séjourné (Renew Europe, français).
Ce texte regrette pour sa part que la question des droits de propriété intellectuelle ne soit jusqu'ici pas abordée dans les travaux de la Commission. Cette contribution non législative réclame notamment une étude d'impact sur la question et plaide pour que les créations techniques générées par des technologies d'IA soient protégées par des brevets.
Le vote final sur ces trois projets de rapport est prévu en commission des affaires juridiques jeudi 1er octobre. Texte de compromis : https://bit.ly/3kVcirm https://bit.ly/3cHvJRJ https://bit.ly/36dpMKZ (Sophie Petitjean)