Le scandale avait retenti bien au-delà des frontières européennes. Grok, l'intelligence artificielle du réseau social X, est sous le feu de critiques mondiales depuis plus d'un mois. En cause, sa fonction intégrée de génération d'images, qui a permis à plusieurs milliers d'utilisateurs de créer des 'deepfakes' à connotation sexuelle de femmes, parfois même de mineures, sans leur consentement (EUROPE 13779/14).
Les appels adressés à la Commission pour qu'elle agisse en vertu du règlement sur les services numériques (DSA) auquel est soumis X se sont multipliés depuis le début du mois de janvier (EUROPE 13782/7). Ce lundi 26, la Commission a finalement annoncé l'ouverture d'une enquête officielle contre le réseau social afin de « déterminer si l'entreprise a correctement évalué et atténué les risques liés au déploiement des fonctionnalités de Grok dans X au sein de l'UE ».
« Cela inclut les risques liés à la diffusion de contenus illégaux tels que les images sexuellement explicites manipulées, y compris les contenus pouvant constituer du matériel pédopornographique », détaille l'institution.
La fonctionnalité de génération d'images avait d'abord été restreinte aux seuls abonnés payants (EUROPE 13783/11), avant d'être retirée pour l'ensemble des utilisateurs quelques jours plus tard (EUROPE 13787/7).
Au titre du DSA, les plateformes sont tenues de réaliser des études sur les risques que peuvent poser certaines des fonctionnalités qu'elles offrent à leurs utilisateurs en termes de violences sexistes, de santé mentale ou de diffusion de contenus illégaux.
Cependant, l'intégration de Grok au sein de X, et donc son accès ouvert à n'importe quel utilisateur, ne sont pas mentionnés dans les récents rapports transmis par la plateforme, indique un haut fonctionnaire européen. Une absence qui fait soupçonner à la Commission que X n'ait pas fait le nécessaire pour anticiper correctement les risques qui pourraient découler de cet accès pour le grand public et ait donc failli aux obligations du DSA.
L'annonce de l'ouverture d'une enquête a été largement saluée par toute une partie de la classe politique européenne et des organisations de la société civile. D'aucuns toutefois continuent de regretter une décision tardive, trop tiède au regard de la polémique.
Pour contrer ces critiques, la Commission insiste : cela fait un moment que Grok est sous surveillance (EUROPE 13678/18). Si les mesures mises en place par X n'ont pas permis d'exclure la nécessité d'ouvrir une enquête, elles permettent cependant de ne pas avoir à mettre en place des mesures provisoires, telles que l'Article 70, qui aurait de fait permis de suspendre Grok dans l'UE et qui avait été réclamé par plusieurs eurodéputés (EUROPE 13789/10).
En parallèle de cette nouvelle enquête, la Commission élargit une autre enquête sur X, ouverte fin 2023 (EUROPE 13316/10). L'Union soupçonne les algorithmes de recommandation de X d'amplifier la diffusion de contenus illégaux et de répandre de fausses informations.
Or, Grok devrait, dans les prochains mois, être utilisé pour lire tous les posts et regarder toutes les vidéos postées sur X « afin de proposer aux utilisateurs le contenu susceptible de les intéresser le plus », selon Elon Musk. Face à ce changement et aux précédentes dérives de Grok, la Commission veut savoir si X a correctement évalué et atténué les risques qui pourraient apparaître. (Isalia Stieffatre)