L'organe consultatif de haut niveau de l'Organisation des Nations unies (ONU) a publié, vendredi 20 septembre, son rapport final sur la gouvernance mondiale de l'intelligence artificielle, intitulé sobrement 'Gouverner l'IA pour l'humanité'.
Présenté juste avant l'ouverture du 'Sommet de l'avenir' à New York, dimanche 22 septembre, le document défend une plus grande implication de l'ONU dans la régulation de l'IA.
Il souligne les défis contradictoires que pose la mise en place d'une gouvernance pour une technologie qui se développe de façon aussi rapide et qui fait l'objet d'investissements massifs.
Le rapport pointe le paradoxe de l'encadrement de l'IA : malgré les « centaines de guides, de cadres et de principes (qui) ont été adoptés par des gouvernements, des entreprises et des consortiums ainsi que par des organisations régionales et internationales (...), il existe un déficit de gouvernance mondiale en matière d'IA ».
Tout en présentant de grands avantages pour le développement des pays et des populations, l'IA reste un outil au potentiel de dangerosité assez élevé : amplification des discriminations, désinformation massive, capacité de massification des problèmes ou de polémiques, incertitude sur son utilisation militaire, difficultés à légiférer et organiser une cohérence internationale, avec un ensemble disparate d'initiatives qui se recoupent ou se télescopent.
L'UE n'est pas en reste, ayant elle-même produit de nombreux cadres sur l'IA, ainsi que le très remarqué règlement sur l'IA, première réglementation directe de l'intelligence artificielle.
Il existe, selon le rapport de l'ONU, « une mosaïque de normes et d'institutions (qui) est encore naissante et pleine de lacunes. L'obligation de rendre des comptes brille souvent par son absence, y compris pour le déploiement de systèmes d'IA non explicables qui ont un impact sur les autres. La conformité repose souvent sur le volontariat ».
Le document propose donc d'instaurer un corps scientifique de gouvernance internationale, pour une approche globale et cohérente de l'IA.
Cette instance pourrait être chargée de recevoir et d'enquêter sur les rapports d'incidents ou d'abus, de rendre compte des violations graves, de vérifier le respect des obligations internationales et d'élaborer des normes globales pour la sécurité de l'IA.
Voir le rapport : https://aeur.eu/f/djf (Isalia Stieffatre)