Lors du sommet de l'intelligence artificielle organisé à Séoul mardi 21 et mercredi 22 mai, 16 grandes entreprises et 27 pays, en plus des représentants de l'Union européenne, ont signé deux déclarations pour s'engager à améliorer la sécurité relative aux systèmes d'intelligence artificielle sur le marché et en cours de développement.
Forcés de mettre en place des systèmes de surveillance et d'atténuation des risques par une législation de plus en plus consistante, les seize grandes entreprises signataires, parmi lesquelles Amazon, Google ou OpenAI, déclarent « s'engager à développer et à déployer leurs modèles et systèmes d'IA de manière responsable ». Elles annoncent « fixer des seuils à partir desquels les risques graves posés par un modèle ou un système d'IA seraient jugés intolérables » et s'engager à ne pas développer ni déployer ces modèles et systèmes si les risques sont effectivement trop élevés.
D'un autre côté, une vingtaine de pays comprenant la France, les États-Unis, la Corée du Sud ou le Royaume-Uni, ainsi que l'UE ont signé une déclaration pour développer en commun des seuils de risque partagés et s'engagent à investir dans des partenariats avec le privé et le monde de la recherche pour statuer sur les seuils à mettre en place.
La question de la sécurité liée au développement à grande échelle de l'IA générative prend de plus en plus de place dans le débat international, particulièrement en période d'élections et face aux conséquences qu'une absence de contrôle pourrait avoir.
Les pays signataires affirment également leur intention commune « d'orienter la conception, le développement, le déploiement et l'utilisation de l'IA de manière à en exploiter les avantages pour le meilleur ».
Voir la déclaration des seize entreprises : https://aeur.eu/f/ccb
Voir la déclaration des vingt-sept pays : https://aeur.eu/f/ccc (Isalia Stieffatre)