L’Agence de l'Union européenne pour la cybersécurité (ENISA) a publié, mercredi 7 juin, une série de rapports portant, notamment, sur les menaces que représente l’intelligence artificielle (IA) et les besoins clés en matière de recherche sur l’IA.
« Si nous voulons à la fois sécuriser les systèmes d'IA et garantir le respect de la vie privée, nous devons examiner minutieusement le fonctionnement de ces systèmes. (…) Nous devons également trouver un juste équilibre entre la sécurité et la performance des systèmes », a déclaré le directeur exécutif de l’ENISA, Juhan Lepassaar.
L’analyse menée par l’ENISA estime que des bancs d'essai seraient nécessaires pour étudier et optimiser les performances des outils et technologies fondés sur l’IA utilisés pour la cybersécurité. Il faudrait également, avance le rapport consacré à l’IA dans le secteur de la recherche, encourager le développement d'outils de test de pénétration fondés sur l'IA et l'intelligence artificielle « pour trouver et exploiter les failles de sécurité afin d'évaluer le comportement des attaquants ».
En outre, le texte plaide pour le développement de cadres normalisés évaluant la préservation de la vie privée et la confidentialité des flux d’informations et pour le développement de la formation à l'IA des praticiens à l'aide de scénarios réels. Un observatoire de l'IA et de la menace pour la cybersécurité devrait également être créé, avance l’ENISA, qui prévoit aussi d’élaborer une feuille de route axée sur l’intelligence artificielle.
L’un des rapports est consacré aux bonnes pratiques en matière d’IA. Sur ce point, l’ENISA insiste sur le besoin de voir les États membres et les institutions collaborer dans le but de mettre en place un cadre éthique qui pourrait devenir un standard universellement acceptable.
Un soutien à la collaboration entre les scientifiques spécialistes des données et les experts en cybersécurité est également demandé à la Commission et aux États membres afin de « développer les connaissances nécessaires pour améliorer la sécurité et la résilience des systèmes d'IA ainsi que la gestion des attaques d'IA », estime l'ENISA.
Voir le rapport sur l'IA et la recherche : https://aeur.eu/f/7cs
Voir le rapport sur les bonnes pratiques : https://aeur.eu/f/7ct (Thomas Mangin)