La Commission européenne a adressé, vendredi 6 novembre, de nouvelles conclusions préliminaires au réseau social TikTok. Elles visent cette fois le système de recommandation de son fil personnalisé 'For You'. La Commission accuse la filiale du groupe chinois ByteDance d’avoir enfreint certaines dispositions du règlement sur les services numériques (DSA) en exposant ses utilisateurs, de manière « sans fin et répétée », à des contenus sur « la tristesse, l’isolement ou l’image corporelle ». Leur accumulation a une « incidence négative sur la santé mentale », en particulier celle des mineurs et des adultes vulnérables, a souligné la Commission dans un communiqué. Des accusations contestées par la plateforme.
C’est la troisième salve de conclusions préliminaires contre TikTok cette année, après celles de février sur l’interface addictive (EUROPE 13803/3) et celles de juillet sur la protection des comptes des mineurs (EUROPE 13916/3). La Commission précise que ce dossier ne porte pas sur le « design addictif » de l’application, mais sur ce que l’algorithme choisit de montrer, en enfermant l’utilisateur dans le visionnage ininterrompu de contenus préjudiciables pour son bien-être, un phénomène communément appelé 'rabbit hole'.
« À chaque fois qu’un utilisateur fait défiler ou 'aime' une vidéo, l’algorithme lui en propose davantage, l’entraînant dans des spirales dont il lui est difficile de s’extraire », a indiqué pour sa part la vice-présidente exécutive de la Commission chargée des dossiers numériques, Henna Virkkunen.
Garde-fous inefficaces. La Commission ne reproche pas à la plateforme d’avoir ignoré ce risque, mais estime que les mesures mises en place sont inefficaces. « Ce que nous constatons aujourd’hui, c’est que l’identification des risques est correcte, mais que leur évaluation et leur analyse ne sont pas approfondies et que les mesures d’atténuation ne sont pas efficaces », a assuré un responsable de la Commission. Ce dernier a cité l’exemple du fil non personnalisé, une option choisie par seulement 0,2% des utilisateurs, et celui de la fonction de rafraîchissement du fil, fonctionnalité qui n'est pas permanente.
Ces conclusions sont contestées par l’entreprise. La Commission « a fait une série de déclarations fondamentalement inexactes, qui déforment l’architecture de notre plateforme et notre engagement en faveur de la sécurité des utilisateurs », a assuré un porte-parole de l’entreprise à Agence Europe. « Nous avons fait nos preuves en matière de protection de notre communauté tout en offrant aux utilisateurs un contrôle direct et intuitif sur les contenus ». TikTok, qui assure que les contenus de son fil 'For You' sont examinés par ses systèmes de recommandation, cite ses efforts en matière de suppression de contenus enfreignant ses règles en matière de santé mentale.
La Commission réclame un changement profond d’un modèle construit sur « l’engagement implicite de ses utilisateurs ». Ce qu'elle souhaite, c’est un modèle fondé sur les « préférences explicites ».
Ces conclusions préfigurent l’article 10 du futur règlement sur la protection des mineurs ('Kids Act'), portant sur les systèmes de recommandation des plateformes. « C’est précisément ce que nous demanderons (...) à toutes les plateformes de faire à l’avenir. Ces conclusions préparent déjà le terrain », a souligné un responsable de la Commission. (Louis Dubar)