Tech

Google modifie le processus d’appel pour les images suspectées d’abus d’enfants

Google n’a pas dit à la femme que le compte était de nouveau actif. Dix jours après la réactivation de son compte, elle a appris la décision d’un journaliste du Times.

Lorsqu’elle s’est connectée, elle a constaté que tout avait été restauré au-delà de la vidéo que son fils avait faite. Un message est apparu sur YouTube, avec une illustration d’un arbitre sifflant et disant que son contenu avait enfreint les directives de la communauté. “Parce que c’est la première fois, ce n’est qu’un avertissement”, disait le message.

“J’aurais aimé qu’ils viennent de commencer ici”, a-t-elle déclaré. “Cela m’aurait épargné des mois de larmes.”

Jason Scott, un archiviste numérique qui a écrit un article de blog mémorablement profane en 2009 avertissant les gens de ne pas faire confiance au cloud, a déclaré que les entreprises devraient être légalement obligées de donner aux utilisateurs leurs données, même lorsqu’un compte a été fermé pour violation des règles.

“Le stockage des données devrait être comme la loi sur les locataires”, a déclaré M. Scott. “Vous ne devriez pas pouvoir conserver les données de quelqu’un et ne pas les rendre.”

La mère a également reçu un e-mail de “The Google Team”, envoyé le 9 décembre.

“Nous comprenons que vous avez tenté de faire appel à plusieurs reprises et nous nous excusons pour la gêne occasionnée”, a-t-il déclaré. “Nous espérons que vous comprendrez que nous avons des politiques strictes pour empêcher que nos services ne soient utilisés pour partager des contenus préjudiciables ou illégaux, en particulier des contenus flagrants comme du matériel d’abus sexuel d’enfants.”

De nombreuses entreprises autres que Google surveillent leurs plates-formes pour tenter d’empêcher le partage généralisé d’images d’abus sexuels sur des enfants. L’année dernière, plus de 100 entreprises ont envoyé 29 millions de signalements d’exploitation présumée d’enfants au National Center for Missing and Exploited Children, l’organisation à but non lucratif qui sert de centre d’échange pour ce matériel et transmet les signalements aux forces de l’ordre pour enquête. L’organisation à but non lucratif ne suit pas combien de ces signalements représentent de véritables abus.

Meta envoie le plus grand volume de rapports au centre national – plus de 25 millions en 2021 depuis Facebook et Instagram. L’année dernière, les scientifiques des données de l’entreprise ont analysé certains des éléments signalés et ont trouvé des exemples qualifiés d’illégaux en vertu de la loi fédérale, mais “non malveillants”. Dans un échantillon de 150 comptes signalés, plus de 75% “n’ont pas manifesté d’intention malveillante”, ont déclaré les chercheurs, donnant des exemples qui comprenaient un “mème des organes génitaux d’un enfant mordu par un animal” qui a été partagé avec humour et des adolescents se sextant. .

Articles similaires