TikTok était conscient que ses caractéristiques de conception étaient préjudiciables à ses jeunes utilisateurs et que les outils vantés publiquement visant à limiter le temps passé par les enfants sur le site étaient largement inefficaces, selon des documents internes et des communications exposés dans le procès intenté par l’État du Kentucky.
Les détails font partie des parties expurgées du procès du Kentucky qui contiennent les communications internes et les documents découverts au cours d’une enquête de plus de deux ans sur l’entreprise menée par divers États du pays.
Le procès du Kentucky a été déposé cette semaine, aux côtés plaintes distinctes présenté par les procureurs généraux d’une douzaine d’États ainsi que du District de Columbia. TikTok est également confronté un autre procès du ministère de la Justice et est lui-même poursuivre le ministère de la Justice pour une loi fédérale cela pourrait l’interdire aux États-Unis d’ici la mi-janvier.
Les informations expurgées – qui ont été révélées par inadvertance par le bureau du procureur général du Kentucky et rapportées pour la première fois par Kentucky Public Radio – touchent à une série de sujets, notamment la mesure dans laquelle TikTok savait combien de temps les jeunes utilisateurs passaient sur la plateforme et à quel point elle était sincère. C’était lors du déploiement d’outils visant à freiner une utilisation excessive.
Au-delà de l’utilisation de TikTok chez les mineurs, la plainte allègue que l’application de partage de vidéos abrégées a donné la priorité aux « belles personnes » sur sa plate-forme et a noté en interne que certaines des mesures de modération de contenu qu’elle a publiées sont « largement trompeuses ».
La plainte non expurgée, qui a été consultée par l’Associated Press, a été scellée mercredi par un juge de l’État du Kentucky après que des responsables de l’État ont déposé une requête d’urgence pour la sceller.
Lorsqu’il a été contacté pour commenter, le porte-parole de TikTok, Alex Haurek, a déclaré : « Il est hautement irresponsable de la part d’Associated Press de publier des informations qui sont sous le sceau d’un tribunal. Malheureusement, cette plainte sélectionne des citations trompeuses et sort des documents obsolètes de leur contexte pour déformer notre engagement envers la sécurité communautaire.
« Nous disposons de mesures de protection robustes, qui incluent la suppression proactive des utilisateurs mineurs suspectés, et nous avons volontairement lancé des fonctionnalités de sécurité telles que des limites de temps d’écran par défaut, le jumelage familial et la confidentialité par défaut pour les mineurs de moins de 16 ans », a déclaré Haurek dans un communiqué préparé. « Nous maintenons ces efforts. »
La plainte allègue que TikTok a quantifié le temps nécessaire aux jeunes utilisateurs pour devenir accros à la plateforme et a partagé les résultats en interne dans des présentations visant à augmenter les taux de rétention des utilisateurs. Le « moment d’habitude », comme l’appelle TikTok, se produit lorsque les utilisateurs ont regardé 260 vidéos ou plus au cours de la première semaine d’existence d’un compte TikTok. Cela peut se produire en moins de 35 minutes puisque certaines vidéos TikTok ne durent que 8 secondes, indique la plainte.
Le procès du Kentucky cite également une présentation de TikTok au printemps 2020 qui concluait que la plateforme avait déjà « atteint un plafond » parmi les jeunes utilisateurs. À cette époque, les estimations de l’entreprise montraient qu’au moins 95 % des utilisateurs de smartphones de moins de 17 ans utilisaient TikTok au moins une fois par mois, note la plainte.
TikTok suit les statistiques des jeunes utilisateurs, notamment le temps passé à regarder des vidéos et le nombre d’entre eux qui utilisent la plateforme chaque jour. L’entreprise utilise les informations qu’elle glane à partir de ces avis pour alimenter son algorithme, qui adapte le contenu aux intérêts des gens et stimule l’engagement des utilisateurs, indique la plainte.
TikTok mène ses propres études internes pour découvrir l’impact de la plateforme sur les utilisateurs. Le procès cite un groupe au sein de l’entreprise, appelé « TikTok », qui a noté dans un rapport interne que l’utilisation compulsive était « endémique » sur la plateforme. Il cite également un dirigeant anonyme qui a déclaré que les enfants regardaient TikTok parce que l’algorithme était « vraiment bon ».
« Mais je pense que nous devons être conscients de ce que cela pourrait signifier pour d’autres opportunités. Et quand je parle d’autres opportunités, je veux littéralement dire dormir, manger, bouger dans la pièce et regarder quelqu’un dans les yeux », a déclaré le cadre anonyme, selon la plainte.
TikTok impose une limite de temps d’écran quotidien de 60 minutes pour les mineurs, une fonctionnalité déployée en mars 2023 dans le but déclaré d’aider les adolescents à gérer leur temps sur la plateforme. Mais la plainte du Kentucky fait valoir que le délai – que les utilisateurs peuvent facilement contourner ou désactiver – était davantage destiné à un outil de relations publiques qu’autre chose.
Le procès indique que TikTok a mesuré le succès de la fonction de limitation de temps non pas par la réduction du temps passé par les adolescents sur la plateforme, mais par trois autres mesures, dont la première était « l’amélioration de la confiance du public dans la plateforme TikTok via la couverture médiatique ».
La réduction du temps passé devant un écran chez les adolescents n’était pas incluse comme mesure de réussite, selon le procès. En fait, il a allégué que la société avait prévu de « revoir la conception » de la fonctionnalité si la fonctionnalité de limitation de temps avait amené les adolescents à réduire leur utilisation de TikTok de plus de 10 %.
TikTok a mené une expérience et a constaté que les invites de limitation de temps n’avaient diminué que d’une minute et demie par rapport au temps moyen que les adolescents passaient sur l’application – de 108,5 à 107 minutes par jour, selon la plainte. Mais malgré le manque de mouvement, TikTok n’a pas essayé de rendre la fonctionnalité plus efficace, affirment les responsables du Kentucky. Ils affirment que l’inefficacité de cette fonctionnalité était, à bien des égards, intentionnelle.
La plainte indique qu’un responsable de TikTok nommé Zhu Wenjia a donné son approbation à la fonctionnalité uniquement si son impact sur les « indicateurs de base » de TikTok était minime.
TikTok – y compris son PDG Shou Chew – a parlé des différents outils de gestion du temps de l’application, y compris des vidéos que TikTok envoie aux utilisateurs pour les encourager à quitter la plateforme. Mais un responsable de TikTok a déclaré lors d’une réunion interne que ces vidéos étaient des sujets de discussion « utiles », mais qu’elles n’étaient « pas totalement efficaces ».
Dans une section qui détaille les impacts négatifs que les filtres faciaux de TikTok peuvent avoir sur les utilisateurs, Kentucky allègue que l’algorithme de TikTok a « donné la priorité aux belles personnes », même s’il savait en interne que le contenu de la plateforme pourrait « perpétuer une norme de beauté étroite ».
La plainte allègue que TikTok a modifié son algorithme après qu’un rapport interne ait noté que l’application affichait un « volume élevé de… sujets peu attrayants » dans le flux principal « Pour vous » de l’application.
« En modifiant l’algorithme de TikTok pour afficher moins de ‘sujets peu attrayants’ dans le flux For You, les accusés ont pris des mesures actives pour promouvoir une norme de beauté étroite, même si cela pourrait avoir un impact négatif sur leurs jeunes utilisateurs », indique la plainte.
Le procès vise également les pratiques de modération de contenu de TikTok.
Il cite une communication interne dans laquelle l’entreprise note que ses mesures de modération sont « largement trompeuses » car « nous sommes doués pour modérer le contenu que nous capturons, mais ces mesures ne tiennent pas compte du contenu qui nous manque ».
La plainte indique que TikTok sait qu’il a – mais ne le divulgue pas – des taux de « fuites » importants, ou du contenu qui viole les directives de la communauté du site mais n’est ni supprimé ni modéré. D’autres sociétés de médias sociaux sont également confrontées à des problèmes similaires sur leurs plateformes.
Pour TikTok, la plainte note que les taux de « fuites » incluent environ 36 % de contenus normalisant la pédophilie et 50 % de contenus glorifiant des agressions sexuelles mineures.
Le procès accuse également l’entreprise d’avoir induit le public en erreur sur sa modération et d’avoir permis à certains créateurs populaires jugés de « grande valeur » de publier du contenu qui viole les directives du site.