La Présidence tchèque du Conseil de l’UE présentera aux États membres, mercredi 20 juillet, lors d’une réunion du groupe de travail 'télécommunications' du Conseil de l’UE, la seconde proposition de compromis concernant la législation sur l’intelligence artificielle (AI Act) (EUROPE 12992/12).
Un nombre important de changements ont tout d’abord été apportés aux définitions. Sur ce point, la nouvelle version du texte de compromis conserve les concepts de base de la définition de l’OCDE tout en la recentrant sur les « systèmes développés par des techniques d'apprentissage automatique et des approches basées sur la connaissance ».
Ce changement d’approche fait suite aux préoccupations formulées par un certain nombre d’États membres qui jugeaient la définition proposée par la précédente Présidence française du Conseil de l’UE « trop large et ambiguë » et craignaient que les critères de distinction ne suffisent pas à départager les systèmes d’IA de certains logiciels « classiques ».
Les pouvoirs de la Commission revus
En outre, le texte revoit également largement les pouvoirs de la Commission. L’habilitation de cette dernière à mettre à jour la définition des systèmes d’IA via des actes délégués a été supprimée et remplacée par des considérants précisant ce qu’il faut entendre par « apprentissage automatique » et « approches basées sur la logique et la connaissance ».
La Commission conserverait toutefois le pouvoir d'adopter des actes d'exécution pour « préciser et actualiser » les techniques relevant des approches d'apprentissage automatique et des approches fondées sur la logique et la connaissance.
La nouvelle version du texte de compromis revient aussi largement sur la classification des systèmes d’IA à haut risque. Là encore, un certain nombre d’États membres avaient fait part de leurs doutes quant à la méthode de classification proposée, jugeant que le recours à des termes trop généraux pourrait déboucher sur le fait que des systèmes d’IA ne représentant pas de risque pour les droits fondamentaux soient concernés.
Pour répondre à ces craintes, la Présidence tchèque du Conseil de l’UE a tablé sur l’introduction d’un nouveau 'niveau horizontal' venant compléter la classification à haut risque des systèmes, se basant sur les dispositions émises par le groupe d’experts de haut niveau sur l'IA et sur le cadre de classification des systèmes d'IA de l’OCDE.
Ce cadre prévoit que « l'importance du résultat du système d'IA par rapport à la décision ou à l'action prise par un être humain ainsi que l'immédiateté de l'effet devraient également être prises en compte lors de la classification des systèmes d'IA comme étant à haut risque. L'importance de la sortie d'un système d'IA serait évaluée en fonction de son caractère purement accessoire ou non par rapport à l'action ou à la décision pertinente à prendre par l’humain ».
Ici, la Commission aurait la capacité d’adopter des actes d'exécution pour préciser davantage la « nature purement accessoire de la sortie dans l'ensemble des systèmes d'IA à haut risque », précise le document.
Un rôle renforcé pour le Conseil européen pour l'IA
La Présidence tchèque du Conseil de l'UE a aussi revu la liste des cas d'utilisation à haut risque. La Commission, quant à elle, pourrait ajouter des cas d'utilisation à haut risque à la liste via des actes délégués, mais aussi en supprimer.
La question de la gouvernance était aussi revenue à de nombreuses reprises lors des discussions, au Conseil de l’UE comme au Parlement (EUROPE 12991/35). Certains États membres craignaient qu’une décentralisation excessive au niveau national nuise à la bonne application de cette législation du fait de l’insuffisance du savoir-faire et des capacités des autorités nationales.
Pour régler ce problème, la Présidence tchèque du Conseil propose de renforcer le rôle du Conseil européen pour l'intelligence artificielle afin qu'il soit mieux à même de soutenir les États membres dans la mise en œuvre du texte. Sa composition a été revue et le Conseil européen pour l’IA n’accueillerait que des représentants des États membres. Un sous-groupe permanent, dans lequel des experts interviendraient, verrait aussi le jour.
Enfin, plusieurs clarifications ont été apportées concernant l’exclusion de la sécurité nationale du champ d’application. Si une majorité d’États membres avaient salué cette décision, plusieurs d’entre eux avaient fait part de leur souhait d’apporter de la clarté sur ce qui est exclu du champ d’application et ce qui ne l’est pas. Concrètement, le texte propose, entre autres, que les obligations ne soient pas applicables lorsque des activités militaires, de défense ou de sécurité nationale sont concernées.
Les États membres devront formuler leurs remarques et recommandations concernant cette seconde proposition de compromis d'ici au 2 septembre prochain.
Voir le document : https://aeur.eu/f/2p0 (Thomas Mangin)