Des représentants de la Commission européenne, de l’Agence européenne de défense, du Parlement européen et de la recherche ont souligné, mardi 30 juin, l’importance de garder un contrôle humain sur les systèmes autonomes de défense, lors d’une conférence à Bruxelles organisée par l’Office national d'études et de recherches aérospatiales (ONERA) intitulée 'Les défis d’un champ de bataille en mutation : systèmes autonomes et collaboration homme/machine pour la défense européenne'.
« Le succès militaire futur dépendra de plus en plus de l’intégration des humains, des machines et de l’information au sein d’un écosystème opérationnel unique, capable de s’adapter à la vitesse du champ de bataille », a expliqué Nathalie Guichard, directrice de la recherche, de la technologie et de l’innovation à l’Agence européenne de défense (EDA).
Selon elle, le facteur clé du changement est une collaboration efficace entre l’humain et la machine. « Notre objectif n’est pas de remplacer l’humain, mais d’améliorer sa prise de décision et son efficacité opérationnelle », a-t-elle précisé. Nathalie Guichard a estimé que « trouver le juste équilibre entre contrôle humain et autonomie des machines sera l’un des défis majeurs des forces armées de demain ».
Selon le directeur de la politique de défense et des programmes industriels à la DG DEFIS de la Commission européenne, François Arbault, si l'IA peut accélérer les décisions, elle ne doit pas se substituer à la responsabilité humaine. « L'humain doit rester au cœur du processus ; il ne s'agit pas d'une contrainte ou d'une capacité, mais d'une condition essentielle à la confiance dans ces systèmes », a-t-il ajouté. M. Arbault a rappelé que la Commission avait déjà investi 3,3 milliards d’euros dans 180 projets portant sur des systèmes autonomes et 230 millions dans 13 projets HMT.
« En Europe, nous plaçons l'humain au cœur de nos préoccupations et nous ne pouvons accepter que des machines automatisées puissent prendre des décisions sans contrôle humain », a complété l’eurodéputé Nicolás Pascual de la Parte (PPE, espagnol). Alors que le développement des technologies est plus rapide que les réponses juridiques et les considérations éthiques, il faut, selon lui, faire preuve de pragmatisme : « Autrement dit, nous ne pouvons pas étouffer le développement des technologies par toutes nos réglementations, mais en même temps, nous devons nous assurer que ces nouvelles technologies restent sous le contrôle de l'être humain ».
Selon le président-directeur général de l'ONERA, Emmanuel Chiva, la question est comment développer et déployer l'IA efficacement et de manière responsable. « À cet égard, les organismes de recherche et de technologie ont un rôle crucial à jouer dans la montée en puissance de la souveraineté technologique », a-t-il estimé, ajoutant que cette souveraineté se construira par la recherche, l'innovation, les technologies de rupture et les investissements à long terme.
François Arbault a reconnu qu’il fallait intensifier les efforts en matière de R&D, et que « la recherche ne doit pas être négligée ».
« Nous devons donc continuer à faire preuve d'une grande ambition en finançant la recherche de défense dans le cadre du Fonds européen de compétitivité (ECF). (...) Les systèmes autonomes et la collaboration homme/machine demeureront une priorité stratégique majeure et devront être intégrés à l’ECF », a-t-il ajouté. (Camille-Cerise Gessant)