Les récents développements et le déploiement de nouveaux systèmes d’intelligence artificielle (IA) - tels que ChatGPT - ont poussé les eurodéputés chargés de travailler sur la future législation sur l’IA (AI Act) à revoir leur copie et à reporter le vote du rapport en commission du PE, prévu le 26 avril prochain (EUROPE 13155/5).
Les discussions se poursuivent et les groupes politiques ont pour objectif de parvenir à un accord en interne d’ici au 11 mai prochain, date à laquelle le rapport de Ioan-Dragoş Tudorache (Renew Europe, roumain) et Brando Benifei (S&D, italien) pourrait être soumis aux voix en commission du PE.
Le texte actuellement discuté par les eurodéputés chargés de la législation sur l'intelligence artificielle prévoit de distinguer les systèmes d’IA à usage général des modèles de base, qui sont des technologies génératives, reposent sur des données issues de l’ensemble de l’Internet et dont font partie les systèmes comme ChatGPT.
Ces modèles de base seraient soumis à des exigences supplémentaires, notamment avant leur mise sur le marché, afin de limiter les risques pesant potentiellement sur des secteurs et domaines sensibles, tels que la santé, l’environnement ou encore les droits fondamentaux et l'État de droit.
Outre des niveaux hauts et constants de performance, de sécurité et la possibilité d’apporter des mesures correctives tout au long du cycle de vie des systèmes d’IA concernés, le texte prévoit que les fournisseurs de ces modèles d’IA de base mettent à disposition, pendant 10 ans après la mise sur le marché, les données et documents « pertinents ».
Les utilisateurs devraient eux aussi pouvoir accéder à certaines informations par le biais d'une obligation imposée aux fournisseurs de mettre à disposition du public un résumé des données servant à l'entraînement du système d'IA.
Le Conseil pour l’intelligence artificielle - dont le rôle précis et les attributions sont encore discutés au PE, pourrait, dans ce contexte, être l’interlocuteur des fournisseurs des systèmes d’IA qualifiés de 'modèles de base'. Les échanges porteraient, entre autres, sur la mise en conformité des systèmes d’IA concernés. (Thomas Mangin)