La présidente de la Commission européenne, Ursula von der Leyen, a souligné, jeudi 2 novembre, lors du Bletchley Park AI Safety Summit, l'importance de la culture de la responsabilité au cœur d'un système de gouvernance efficace de l'intelligence artificielle (IA).
« Nous devons établir des normes de sécurité en matière d'IA qui soient acceptées dans le monde entier », a-t-elle estimé.
Mme von der Leyen a plaidé pour un cadre permettant de comprendre et d'atténuer les risques liés aux systèmes d'IA très complexes reposant sur quatre piliers.
Selon elle, il faut une communauté scientifique florissante et indépendante, dotée des moyens d'évaluer les systèmes d'IA. Il est aussi nécessaire d'élaborer des procédures et des normes internationalement reconnues pour tester la sécurité de l'IA. De plus, chaque incident important causé par des erreurs ou une mauvaise utilisation de l'IA doit faire l'objet d'un rapport et d'un suivi. Enfin, il est nécessaire d'avoir un système international d'alertes alimenté par des signaleurs de confiance.
« Ces quatre piliers devraient constituer un système de gouvernance efficace. Au cœur de tout cela, il faut une culture de la responsabilité » des acteurs privés et des pouvoirs publics, a souligné la présidente de la Commission européenne.
La législation européenne sur l’intelligence artificielle (‘AI Act’) est en cours de négociation entre les institutions européennes. Cette législation comprend notamment la création d'un office européen de l'IA, qui, selon Mme von der Leyen, devrait avoir une vocation mondiale et être ouvert à la coopération avec des entités similaires dans le monde entier. (Camille-Cerise Gessant)