Snapchat n’a pas réussi à réagir face à une « prolifération » rapports de toilettage d’enfantssextorsion et autres dangers pour les mineurs sur sa plateforme, selon une nouvelle plainte non expurgée contre la société déposée par le procureur général du Nouveau-Mexique.
Le procureur général Raúl Torrez a déposé la plainte initiale le 4 septembre, mais les messages internes et d’autres détails ont été largement expurgés. Le dossier de mardi dévoile des messages internes parmi les employés et dirigeants de Snap Inc. qui fournissent « une confirmation supplémentaire que les fonctionnalités de conception nuisibles de Snapchat créent un environnement qui favorise la sextorsion, les abus sexuels et les contacts non désirés entre adultes et mineurs », a déclaré Torrez dans un communiqué de presse.
Par exemple, d’anciens employés de Trust and Safety se sont plaints d’une « réticence » de la part de la direction lorsqu’ils ont tenté d’ajouter des mécanismes de sécurité, selon le procès. Les employés ont également noté que les rapports d’utilisateurs sur le toilettage et la sextorsion (persuader une personne d’envoyer des photos explicites en ligne, puis menacer de rendre les images publiques à moins que la victime ne paie de l’argent ou ne s’engage dans des faveurs sexuelles) passaient entre les mailles du filet. À un moment donné, un compte est resté actif malgré 75 rapports contre lui pour des mentions de « nus, mineurs et extorsion ».
Snap a déclaré dans un communiqué que sa plate-forme a été conçue « avec des garde-corps de sécurité intégrés » et que la société a fait « des choix de conception délibérés pour rendre difficile la découverte par des étrangers de mineurs sur notre service ».
« Nous continuons à faire évoluer nos mécanismes et nos politiques de sécurité, en tirant parti de la technologie de pointe pour détecter et bloquer certaines activités, en interdisant l’amitié avec des comptes suspects, en travaillant aux côtés des forces de l’ordre et des agences gouvernementales, et bien plus encore », a déclaré la société.
Selon le procès, Snap en était bien conscient, mais n’a pas averti les parents, les jeunes utilisateurs et le public que « la sextorsion était un problème endémique, « massif » et « incroyablement préoccupant » sur Snapchat.
Un e-mail interne de novembre 2022 provenant d’un employé de confiance et de sécurité indique que Snapchat recevait « environ 10 000 » rapports d’utilisateurs faisant état de sextorsion chaque mois.
« Si cela est exact, nous sommes confrontés à un problème incroyablement préoccupant, à mon humble avis », poursuit l’e-mail.
Un autre employé a répondu qu’il convient de noter que ce chiffre représente probablement une « petite fraction de cet abus », car les utilisateurs peuvent être gênés et parce que la sextorsion n’est « pas facile à catégoriser » lorsqu’on essaie de la signaler sur le site.
Torrez a intenté une action en justice contre Snap Inc., basé à Santa Monica, en Californie, devant le tribunal de l’État de Santa Fe. En plus des abus sexuels, le procès affirme que l’entreprise encourage également ouvertement le trafic d’enfants et le vente de drogues illicites et des armes à feu.