Les groupes politiques du Parlement européen sont finalement parvenus, jeudi 27 avril, après plusieurs mois de négociations internes, à s’accorder sur une position commune en vue des futures négociations interinstitutionnelles concernant la législation sur l’intelligence artificielle ('AI Act') (EUROPE 13167/6). Après avoir été plusieurs fois reporté, le vote en commission du PE devrait avoir lieu le 11 mai prochain. Le vote en séance plénière pourrait avoir lieu en juin.
Les récents développements et le déploiement de nouveaux systèmes d’intelligence artificielle (IA) ont poussé les rapporteurs à se pencher sur la question des IA à usage général. Les eurodéputés avaient estimé, sur cette question, qu'il était nécessaire d'aller plus loin. Certains privilégiaient même l'option d'une nouvelle proposition législative spécifique (EUROPE 13168/12).
Sur ce volet, les eurodéputés ont précisé que les systèmes d’IA à usage général, comme le système d'IA générative ChatGPT, devraient être soumis à des exigences supplémentaires avant leur mise sur le marché, notamment pour s'assurer qu'ils ont été développés conformément aux législations européennes existantes relatives aux droits fondamentaux.
Les eurodéputés sont aussi revenus sur la question du classement de certains systèmes d’IA dans la catégorie des systèmes ‘à haut risque’. Ainsi, le texte prévoit que seuls les systèmes représentant un risque ‘significatif’ pour la santé, la sécurité et les droits fondamentaux soient considérés comme 'à haut risque'. Ils seraient soumis à des règles de transparence et de gouvernance plus strictes.
Ces systèmes qualifiés ‘à haut risque’ devraient, en outre, être soumis à une analyse d'impact tenant compte des conséquences sur les droits fondamentaux et être conformes aux normes environnementales et législations européennes en la matière.
Par ailleurs, les eurodéputés se sont aussi mis d’accord sur les pratiques interdites dans le cadre de la future législation sur l’IA. Ainsi, les systèmes d’IA dont la finalité est l’identification biométrique ne pourraient être utilisés a posteriori que dans les cas de « crimes graves ». Le recours à ces systèmes devrait faire l’objet d’une approbation en amont par les instances judiciaires.
Le recours aux systèmes de reconnaissance émotionnelle dans le cadre d’opérations de maintien de l’ordre, du travail, de la santé et de la gestion de flux migratoires serait interdit. (Thomas Mangin)