Des programmes informatiques surveillent chaque mot des élèves au nom de la sécurité

Un élève travaille sur un ordinateur dans une école primaire et secondaire à Provo, dans l’Utah. Les districts scolaires de tout le pays ont adopté des plates-formes de surveillance informatique qui analysent ce que font les élèves sur les appareils fournis par l’école et signalent les activités pouvant signaler un risque d’automutilation ou de menace envers autrui. (George Frey/Getty Images)

Qu’il s’agisse d’un projet de recherche sur la guerre civile ou d’une expérience scientifique sur les éruptions volcaniques, les étudiants du district scolaire colonial près de Wilmington, dans le Delaware, peuvent rechercher à peu près n’importe quoi sur les ordinateurs portables fournis par leur école.

Mais dans un cas particulier, un élève du primaire a cherché « comment mourir ».

Dans ce cas, Meghan Feby, conseillère d’école primaire du district, a reçu un appel téléphonique via une plateforme appelée Balise GoGuardiandont l’algorithme a signalé la phrase. Le système vendu par la société de logiciels éducatifs GoGuardian permet aux écoles de surveiller et d’analyser ce que font les élèves sur les appareils fournis par l’école et de signaler toute activité signalant un risque d’automutilation ou de menace envers autrui.

L’étudiant qui avait cherché « comment mourir » ne voulait pas mourir et ne montrait aucun signe de détresse, a déclaré Feby – l’étudiant cherchait des informations mais ne courait aucun danger. Pourtant, elle apprécie le programme.

« Je me suis retrouvé dans certaines situations avec GoGuardian où je suis vraiment heureux qu’ils soient venus nous voir et que nous ayons pu intervenir », a déclaré Feby.

Les districts scolaires de tout le pays ont largement adopté de telles plateformes de surveillance informatique. Alors que la crise de la santé mentale des jeunes est aggravée par la pandémie de COVID-19 et que la violence scolaire touche davantage d’élèves de la maternelle à la 12e année dans tout le pays, les enseignants cherchent désespérément une solution, disent les experts.

Mais les critiques s’inquiètent du manque de transparence de la part des entreprises qui ont le pouvoir de surveiller les élèves et de choisir quand alerter le personnel scolaire. La surveillance constante des étudiants soulève également des inquiétudes concernant les données des étudiants, la vie privée et la liberté d’expression.

Bien qu’ils soient disponibles depuis plus d’une décennie, les programmes ont connu une augmentation de leur utilisation pendant la pandémie alors que les étudiants sont passés à l’apprentissage en ligne à domicile, a déclaré Jennifer Jones, avocate au Knight First Amendment Institute.

« Je pense que parce qu’il y a toutes sortes de problèmes auxquels les districts scolaires doivent faire face – comme les problèmes de santé mentale des élèves et les dangers des fusillades dans les écoles – je pense qu’ils [school districts] considérez-les simplement comme des moyens rapides et peu coûteux de résoudre le problème sans interroger les implications sur la liberté d’expression et la vie privée de manière plus réfléchie », a déclaré Jones.

Selon les comportements à risque les plus récents des jeunes enquête Selon les Centres fédéraux de contrôle et de prévention des maladies, presque tous les indicateurs de mauvaise santé mentale, de pensées suicidaires et de comportements suicidaires ont augmenté de 2013 à 2023. Au cours de la même période, le pourcentage d’élèves du secondaire qui ont été menacés ou blessés à l’école ont manqué l’école. en raison de problèmes de sécurité ou de rapports sexuels forcés, selon le CDC rapport.

Et la menace de fusillades dans les écoles reste présente à l’esprit de nombreux éducateurs. Depuis la fusillade du lycée de Columbine en 1999, plus de 383 000 élèves ont été victimes de violences armées à l’école, selon Le décompte du Washington Post.

Rich Preece, PDG de GoGuardian, a déclaré à Stateline qu’environ la moitié des écoles publiques de la maternelle à la 12e année aux États-Unis ont installé les plates-formes de l’entreprise.

En tant que déléguée de son école, Feby reçoit une alerte lorsqu’un élève utilise certains termes de recherche ou combinaisons de mots sur les ordinateurs portables fournis par l’école. « Cela me parviendra soit par e-mail, soit, si le risque est très élevé, par appel téléphonique. »

Une fois informée, Feby décidera si elle doit rencontrer l’élève ou appeler le domicile de l’enfant. Si le système détecte une activité troublante en dehors des heures de classe, GoGuardian Beacon contacte une autre personne dans le comté, y compris les forces de l’ordre, dans certains districts scolaires.

Feby a dit qu’elle avait eu de fausses alertes. Une élève a été signalée en raison des paroles d’une chanson qu’elle avait recherchée. Un autre avait recherché quelque chose en rapport avec l’anime.

Environ un tiers des élèves de l’école de Feby viennent d’un foyer où l’anglais n’est pas leur langue maternelle, de sorte que les élèves utilisent souvent par inadvertance des termes anglais inquiétants. Les enfants peuvent aussi être curieux, dit-elle.

Pourtant, avoir GoGuardian en classe est important, a déclaré Feby. Avant de devenir conseillère il y a 10 ans, elle était institutrice. Et après la fusillade de masse à l’école primaire de Sandy Hook en 2012, elle a réalisé que la sécurité à l’école était plus importante que jamais.

Données et confidentialité

Teddy Hartman, responsable de la confidentialité chez GoGuardian, a enseigné la littérature anglaise au lycée de l’Est de Los Angeles et a été administrateur d’école avant de rejoindre l’entreprise technologique il y a environ quatre ans.

Hartman a été amené à GoGuardian pour l’aider à créer un programme de confidentialité robuste, a-t-il déclaré, comprenant des garde-fous sur son utilisation de l’intelligence artificielle.

« Nous avons pensé : « Comment pouvons-nous co-créer avec les enseignants, les meilleurs des data scientists, les meilleurs des technologues, tout en nous rappelant que les étudiants et nos enseignants sont avant tout ? » », a déclaré Hartman.

GoGuardian n’utilise aucune donnée sur les élèves en dehors des accords autorisés par les districts scolaires, et ces données ne sont pas utilisées pour former l’IA de l’entreprise, a déclaré Hartman. Les entreprises qui réglementent ce que les enfants peuvent faire en ligne sont également tenues de respecter lois fédérales concernant la sécurité et la vie privée des mineurs, y compris la loi sur les droits éducatifs et la vie privée de la famille et la règle de protection de la vie privée en ligne des enfants.

Mais les experts en matière de protection de la vie privée s’inquiètent toujours du degré d’accès que ces types d’entreprises devraient avoir aux données des étudiants.

Les districts scolaires de tout le pays dépensent des centaines de milliers de dollars en contrats avec certains des principaux fournisseurs de surveillance informatique – notamment GoGuardian, Gaggle et d’autres – sans évaluer pleinement les implications en matière de vie privée et de droits civils, a déclaré Clarence Okoh, avocat principal au Centre. sur la confidentialité et la technologie au Georgetown University Law Center.

En 2021, alors que de nombreuses écoles commençaient tout juste à percevoir les effets de l’apprentissage en ligne, The 74, un média à but non lucratif couvrant l’éducation, a publié un enquête sur la façon dont Gaggle fonctionnait dans les écoles de Minneapolis. Des centaines de documents ont révélé comment les élèves d’un système scolaire étaient soumis à une surveillance numérique constante longtemps après la fin de la journée scolaire, y compris à la maison, a rapporté le média.

Ce niveau de surveillance omniprésente peut avoir des implications considérables, a déclaré Okoh. D’une part, dans les juridictions où les législateurs ont étendu la censure des « concepts qui divisent » dans les écoles, y compris la théorie critique de la race et les thèmes LGBTQ+, la capacité des écoles à surveiller les conversations incluant ces termes est préoccupante, a-t-il déclaré.

UN rapport par l’Electronic Frontier Foundation, un groupe de défense des droits numériques à but non lucratif basé à San Francisco, illustre quels types de déclencheurs de mots clés sont bloqués ou signalés pour les administrateurs. Dans un exemple, GoGuardian avait signalé un étudiant pour avoir consulté le texte d’un verset biblique comprenant le mot « nu », indique le rapport. Dans un autre cas, un site de la Chambre des représentants du Texas contenant des informations sur les factures de « cannabis » a été signalé.

GoGuardian et Gaggle ont également tous deux supprimé les termes LGBTQ+ de leurs listes de mots clés après la demande initiale d’enregistrement de la fondation, a indiqué le groupe.

Mais il est difficile de bien comprendre la manière dont ces entreprises surveillent les étudiants en raison du manque de transparence, a déclaré Jones. Il est difficile d’obtenir des informations auprès des entreprises technologiques privées, et la majorité de leurs données ne sont pas rendues publiques, a-t-elle déclaré.

Est-ce qu’ils fonctionnent?

Des années avant la fusillade de 2022 à l’école primaire Robb à Uvalde, au Texas, le district scolaire a acheté un service technologique pour surveiller ce que faisaient les élèves sur les réseaux sociaux, selon Les nouvelles du matin de Dallas. Le district a envoyé deux paiements à la société Social Sentinel totalisant plus de 9 900 dollars, selon le journal.

Bien que le coût varie, certains districts scolaires dépensent des centaines de milliers de dollars en programmes de surveillance en ligne. Le district scolaire du comté de Muscogee, en Géorgie, a payé 137 829 $ en coûts initiaux pour installer GoGuardian sur les Chromebooks du district. selon le Columbus Ledger-Enquirer. Dans le Maryland, les écoles publiques du comté de Montgomery éliminé GoGuardian de son budget pour l’année scolaire 2024-2025 après y avoir dépensé 230 000 $ par an, plus tard passer à Lightspeedselon le Wootton Common Sense.

Malgré les dépenses, il n’y a aucun moyen de prouver que ces technologies fonctionnent, a déclaré Chad Marlow, conseiller politique principal à l’American Civil Liberties Union et auteur d’un rapport sur les programmes de surveillance de l’éducation.

En 2019, Bark, une plateforme de surveillance de contenu, a affirmé avoir contribué à empêcher 16 fusillades dans des écoles dans un article de blog décrivant leur programme Bark for Schools. Le site Web de la société Gaggle le dit enregistré 5 790 vies entre 2018 et 2023.

Ces points de données sont mesurés par le nombre d’alertes générées par les systèmes qui indiquent qu’un élève est sur le point de se faire du mal ou de faire du mal à autrui. Mais il y a peu de preuves que ce type de technologie de sécurité scolaire soit efficace, selon le rapport de l’ACLU.

« Vous ne pouvez pas utiliser des données pour dire que s’il n’y avait pas eu d’intervention, quelque chose se serait produit », a déclaré Marlow.

Les programmes de surveillance informatique ne sont qu’un exemple d’une augmentation globale de la surveillance des écoles à l’échelle nationale, y compris les caméras, la technologie de reconnaissance faciale et bien plus encore. Et une surveillance accrue ne dissuade pas nécessairement les comportements préjudiciables, a déclaré Marlow.

« Beaucoup d’écoles disent : ‘Vous savez quoi, nous avons 50 000 $ à dépenser, je vais le dépenser pour un produit de surveillance des élèves qui ne fonctionne pas, au lieu d’une porte qui se verrouille ou d’un conseiller en santé mentale,’ ‘», a déclaré Marlow.

Certains experts plaident pour davantage de ressources en santé mentale, notamment en embauchant davantage de conseillers d’orientation et en adoptant des politiques scolaires favorables à la santé mentale, ce qui pourrait prévenir la violence ou le suicide, a déclaré Jones. Engagement communautaire les programmes, y compris le travail bénévole ou les événements communautaires, peuvent également contribuer au bien-être émotionnel et mental.

Mais cela se situe dans un monde idéal, a déclaré Hartman de GoGuardian. Les plateformes de surveillance informatique ne sont pas la seule solution pour résoudre l’épidémie de santé mentale et de violence chez les jeunes, mais elles visent à aider, a-t-il déclaré.

« Nous avons été fondés par des ingénieurs », a déclaré Hartman. « Alors, dans notre tranche de ce monde, y a-t-il quelque chose que nous pouvons faire, du point de vue de la technologie scolaire, qui puisse aider en étant un outil dans la boîte à outils ? Ce n’est pas une fin en soi.

Cette histoire est republiée à partir de Ligne d’Étatune publication sœur de Kentucky Lantern et qui fait partie de l’organisation à but non lucratif Salle de presse des États réseau.