Des photos d’IA montrant des étudiantes avec des corps nus bouleversent une école privée de Pennsylvanie

Les images représentant des visages de filles au corps nu ont conduit au départ des dirigeants d’une école privée de Pennsylvanie, provoqué une protestation étudiante et déclenché une enquête criminelle.

Un suspect mineur a été « retiré » de l’école de jour de Lancaster Country et son téléphone portable a été saisi par les enquêteurs en août, a déclaré mardi le détective Laurel Bair du département de police régional de Susquehanna.

C’est le dernier exemple en date de la façon dont l’utilisation de l’intelligence artificielle pour créer ou manipuler des images à contenu sexuel est devenue une préoccupation, y compris en milieu scolaire.

Les forces de l’ordre américaines ont été réprimer sur des représentations graphiques d’enfants générés par ordinateur ainsi que sur des photos manipulées d’enfants réels. Le ministère de la Justice déclare qu’il poursuit ceux qui exploitent les outils d’IA et les États font la course adopter des lois pour résoudre le problème.

Une nouvelle Pennsylvanie Droit de l’État qui entre en vigueur à la fin du mois prochain criminalise explicitement la création ou la diffusion de matériel d’abus sexuel sur enfants généré par l’IA.

Et la police en Corée du Sud est sur une sept mois lutter contre les contenus explicites deepfake, avec des sanctions plus sévères, un recours accru à des agents infiltrés et une réglementation accrue des médias sociaux. Les inquiétudes en Corée du Sud se sont intensifiées après la diffusion de listes non confirmées d’écoles ayant fait des victimes plus tôt cette année.

Dans le cadre de l’enquête policière sur ce que la Lancaster Country Day School décrit comme des « photographies troublantes générées par l’IA », un mandat de perquisition a été utilisé cet été pour obtenir un iPhone 11 lié à un jeune de 15 ans, selon les archives judiciaires. ne permet pas d’identifier l’adolescent.

Une femme a déclaré à la police que sa fille avait déclaré qu’un camarade « prenait des photos d’étudiants et utilisait la technologie de l’intelligence artificielle (IA) pour représenter les étudiantes mineures comme étant nues », selon un affidavit de cause probable utilisé pour demander le mandat de perquisition. .

Matt Micciche, alors directeur de l’école, a déclaré à la police que l’école avait reçu une plainte concernant les photos en novembre 2023 via le programme Safe2Say Something, mais le suspect, identifié par ses initiales, a nié les allégations, selon l’affidavit de Bair.

Lorsque certains parents ont pris connaissance des photos en mai, a écrit Bair, ils ont également appris que les « photographies de nus d’IA » avaient été publiées dans un salon de discussion.

Bair, qui dirige l’enquête car le suspect vit sur le territoire de la police régionale de Susquehanna, a déclaré que l’école était sous le choc « que cela se produise et que cela se soit produit au sein de leur petite communauté ». Elle a refusé de dire combien de filles étaient montrées sur les images, mais a ajouté que de plus amples informations sur l’affaire seraient probablement rendues publiques dans les deux prochaines semaines.

Erik Yabor, porte-parole de la procureure du district de Lancaster, Heather Adams, a déclaré mardi que les procureurs du comté de Lancaster n’avaient aucun commentaire sur l’enquête en cours.

Un porte-parole du bureau du procureur général Michelle Henry a déclaré que l’agence n’était pas en mesure de parler de conseils ou de rapports spécifiques envoyés à la plateforme Safe2Say Something, qui reçoit des rapports anonymes d’étudiants et d’autres personnes concernant des menaces pour la sécurité.

« D’une manière générale, notre équipe prend les conseils et les envoie aux forces de l’ordre ou au personnel scolaire concerné pour examen », a déclaré Brett Hambright. « Nous avons confirmé que cela a été fait concernant le sujet sur lequel vous vous êtes renseigné. »

TNL à Lancaster a rapporté que la plupart des étudiants en âge de fréquenter l’école secondaire du Lancaster Country Day ont organisé un débrayage le vendredi 8 novembre, marchant autour du campus et scandant : « Écoutez-nous. Reconnaissez-nous. Venez nous voir. » L’école a été annulée lundi.

LNP a déclaré que l’école avait indiqué vendredi qu’elle s’était « séparée » de Micciche et que la présidente du conseil d’administration, Angela Ang-Alhadeff, avait démissionné. L’Associated Press leur a laissé des messages téléphoniques demandant des commentaires mardi. Une lettre adressée lundi à la communauté scolaire par le conseil d’administration du Lancaster Country Day indiquait qu’il s’efforçait de les remplacer et qu’il était « toujours en train de finaliser la résolution de l’affaire ».

« Ce que nous pouvons dire, c’est qu’au cours de la semaine dernière, le conseil d’administration a été informé d’informations qui nous ont amenés à prendre la décision de résoudre le problème », a écrit le conseil d’administration, notamment en agissant « dans le meilleur intérêt des filles qui ont été impacté et dans le meilleur intérêt de l’école à long terme.

L’école a déclaré que des conseils avaient été proposés aux étudiants et que l’établissement réexaminait les procédures de signalement, les pratiques de sécurité et d’autres politiques concernant la sécurité des étudiants.