Les membres de la commission Libertés civiles du PE se sont penchés, mardi 29 juin, dans le rapport porté par le Bulgare Petar Vitanov (S&D), sur l’utilisation par les polices européennes et les services judiciaires d’outils d’intelligence artificielle (AI).
Par 36 voix contre 24 et 6 abstentions, ils ont demandé un « contrôle humain » de ces techniques, avec des algorithmes ouverts et des audits publics, et demandé l’interdiction de la « police comportementale, des bases de données privées de reconnaissance faciale et de la notation des citoyens ». Des systèmes tels que des détecteurs de mensonges aux frontières extérieures ne devraient pas non plus exister.
Ils disent aussi s’inquiéter de l’utilisation des systèmes d’AI dans la police, « qui pourrait mener à une surveillance de masse violant les principes clés de la proportionnalité et de la nécessité ». Ils évoquent aussi le risque de partialité et de discrimination dans les algorithmes sur lesquels se fondent les systèmes d’AI et d’apprentissage automatique.
« Actuellement, les systèmes d’identification basés sur l’AI sont imprécis et peuvent mal identifier les groupes ethniques minoritaires, les personnes LGBTI, les personnes âgées et les femmes, entre autres ». Et les prédictions alimentées par l’AI « peuvent amplifier les discriminations existantes, ce qui est préoccupant dans le contexte de l’application de la loi et du système judiciaire ».
La plénière de septembre sera invitée à valider ce vote.
Lien vers le rapport : https://bit.ly/3h6ugbd (Solenn Paulic)