L’Agence de l’Union européenne pour la coopération judiciaire en matière pénale (Eurojust) et le Réseau judiciaire européen sur la cybercriminalité (EJCN) ont publié, mercredi 2 juillet, la dixième édition annuelle du Cybercrime Judicial Monitor (CJM).
Ce rapport à l’adresse des autorités judiciaires et policières de l’UE, qui détaille les évolutions législatives, judiciaires et opérationnelles en matière de cybercriminalité dans l’Union européenne, consacre son dossier thématique à l’intelligence artificielle, qu’il examine tant à travers le prisme de la criminalité que comme un outil au service de l’activité judiciaire.
D’une part, selon le rapport, « les systèmes d’IA sont de plus en plus utilisés à des fins criminelles », notamment pour générer des contenus trompeurs ou préjudiciables (deepfakes), automatiser des attaques par hameçonnage, développer des logiciels malveillants ou contourner des systèmes de sécurité.
Le CJM appelle donc à se concentrer sur le rôle et la « responsabilité des développeurs, fournisseurs et utilisateurs de systèmes ou modèles d’IA à usage général conçus pour des fins criminelles ».
D’autre part, les autorités judiciaires et policières s’appuient de plus en plus sur l’IA pour analyser des volumes importants de données électroniques, croiser des informations issues de multiples sources ou encore détecter des comportements suspects.
D'après le rapport, il est néanmoins nécessaire d'encadrer ces usages, et ce dernier avance que des « considérations spécifiques » doivent être prises en compte concernant l’admissibilité des éléments de preuve recueillis par ce biais.
Ces considérations portent sur des garanties fondamentales telles que le respect du droit à un procès équitable, mais aussi la transparence des outils technologiques utilisés, la traçabilité des traitements et la possibilité pour les parties d’accéder aux données et de contester les résultats produits.
En outre, un contrôle humain effectif, en particulier lorsque l’IA contribue à l’analyse de preuves ou à l’établissement de faits, est recommandé.
Le rapport signale également les risques liés à l’absence de documentation ou d’explications claires sur le fonctionnement des systèmes utilisés, ce qui peut avoir des conséquences sur l’évaluation de la preuve et les droits de la défense.
Aussi, il rappelle que, même si l’admissibilité des preuves relève du droit national, les principes européens s’imposent ; il faut donc, en ce sens, renforcer les compétences des magistrats face à ces outils ainsi que la coopération judiciaire entre États membres.
Lire le rapport (en anglais) : https://aeur.eu/f/hpl (Nithya Paquiry)