La récente polémique autour des 'deepfakes' sexuels générés par Grok, l'intelligence artificielle de X (EUROPE 13779/14), continue d'enfler. Le modèle d'IA de X est sous le feu des critiques après avoir introduit un 'mode osé', à l’été 2025, rapidement détourné par des utilisateurs pour générer des images sexuelles non consenties, parfois impliquant des mineures.
Face à ces dérives, la Commission européenne a confirmé, jeudi 8 janvier, avoir ordonné à X de conserver tous les documents et données internes relatifs aux fonctionnalités de Grok jusqu'à la fin de l'année 2026.
« Nous sommes tout à fait conscients que ce n'est pas 'osé'. C'est illégal, c'est révoltant, c'est dégoûtant », a martelé Thomas Regnier, porte-parole de l'institution. « Le respect du droit européen n'est pas une option. C'est une obligation », a-t-il ajouté.
Au Parlement européen, l’affaire est perçue comme un nouveau test de crédibilité du DSA. Le groupe Renew Europe s'est emparé de l'affaire et a envoyé le même jour une lettre à la présidente de la Commission européenne, Ursula von der Leyen, pour réclamer « une action plus rapide et plus décisive », ainsi que l'ouverture formelle d'une enquête contre X dans le cadre du DSA.
Dans leur lettre, les eurodéputés estiment que les agissements de Grok constituent une grave « défaillance aux obligations d'atténuation des risques et de protection des mineurs inscrites » dans le DSA. La Commission devrait, au regard de la gravité des faits, « invoquer l'article 70 pour ordonner à la plateforme de suspendre ou de restreindre temporairement le 'chatbot' Grok de xAI pendant toute la durée de l'enquête », écrivent les élus.
Au-delà des institutions européennes, l’affaire inquiète aussi les acteurs de la lutte contre les abus sexuels en ligne. La Internet Watch Foundation, qui tient le rôle de 'hotline' du Royaume-Uni pour les signalements de photos ou de vidéos d'abus sexuels sur enfants sur Internet, a confirmé qu'elle avait découvert des images à caractère pédopornographique représentant des enfants âgés de 11 à 13 ans, générés via Grok et distribués sur le Dark Web.
Cette affaire arrive un mois à peine après l'amende de 120 millions d'euros infligée à X par la Commission européenne dans le cadre du DSA, le 5 décembre dernier (EUROPE 13767/1). La plateforme avait alors été jugée en infraction pour son manque de transparence sur ses algorithmes, son manque de coopération avec les chercheurs, et la conception trompeuse de sa 'coche bleue' ('blue checkmarks').
Cette sanction avait remis de l'huile sur le feu dans les relations transatlantiques, les États-Unis répétant à l'envi que la réglementation européenne est une censure déguisée contre les entreprises américaines. Cette nouvelle affaire impliquant X risque de raviver les critiques américaines contre l’application du DSA, jugée « abusive ». (Isalia Stieffatre)