Cet article a été initialement publié dans Battement de craie.
Depuis la sortie de ChatGPT au public en novembre 2022, le nombre d’outils d’IA a grimpé en flèche, et il existe désormais de nombreux défenseurs des changements potentiels que l’IA peut provoquer dans l’éducation.
Mais les districts n’ont pas été aussi rapides à fournir une formation aux enseignants. En conséquence, nombreux sont ceux qui expérimentent sans aucune aide, ce qui approche qui peut présenter de graves risques pour la vie privée des étudiants.
Pour savoir comment les enseignants et autres éducateurs peuvent protéger les données des élèves et respecter la loi lorsqu’ils utilisent des outils d’IA, Chalkbeat a consulté des documents et interrogé des spécialistes des districts scolaires, des organisations à but non lucratif et d’autres groupes. Voici neuf suggestions d’experts.
L’éducation est à la croisée des chemins : aidez-nous à éclairer la voie à suivre. Faire un don au 74
Consultez votre district scolaire au sujet de l’IA
Naviguer dans les détails des politiques de confidentialité de chaque outil peut être un défi pour un enseignant. Certains districts répertorient les outils qu’ils ont approuvés ou avec lesquels ils ont des contrats.
50 ans après l’adoption de la FERPA, la loi sur la protection de la vie privée a besoin d’une mise à jour pour l’ère de l’IA
Privilégiez ces outils, si possible, et vérifiez si votre district a des recommandations sur la manière de les utiliser. Lorsqu’un outil a un contrat avec une école ou un district, celui-ci est censé protéger les données des élèves et respecter la législation nationale et nationale, mais vérifiez toujours si votre district a des recommandations sur la façon d’utiliser l’outil. Vérifier auprès du service informatique ou de technologie éducative de votre école est également une bonne option.
Il est également essentiel de vérifier si votre école ou district dispose de lignes directrices ou de politiques pour l’utilisation générale de l’IA. Ces documents examinent généralement les risques liés à la vie privée et les questions éthiques.
Une nouvelle enquête révèle que les écoles normales américaines sont à la traîne en matière de formation en IA. Voici 4 points à retenir
Consultez les avis sur la sécurité des plateformes d’IA
Des organisations comme Médias de bon sens et iGarder en sécurité examiner les outils de technologie éducative et fournir des commentaires sur leur sécurité.
Soyez prudent lorsque les plateformes affirment se conformer à des lois telles que la loi sur les droits éducatifs et la vie privée de la famille, ou FERPA, et la règle de protection de la vie privée en ligne des enfants. Selon la loi, l’école est responsable en dernier ressort des données des enfants et doit être consciente de toute information qu’elle partage avec un tiers.
Étudiez la politique de confidentialité et les conditions de la plateforme AI
La politique de confidentialité et les conditions d’utilisation devraient fournir des réponses sur la manière dont une entreprise utilise les données qu’elle collecte auprès de vous. Assurez-vous de les lire attentivement et recherchez certaines des informations suivantes :
-
Quelles informations la plateforme collecte-t-elle ?
-
Comment la plateforme utilise-t-elle les données collectées ? Est-il utilisé pour déterminer quelles annonces il vous montrera ? Partage-t-il des données avec une autre entreprise ou plateforme ?
-
Combien de temps conserve-t-il les données collectées ?
-
Les données collectées sont-elles utilisées pour entraîner le modèle d’IA ?
La liste des questions que Common Sense Media utilise pour ses évaluations de confidentialité est disponible en ligne.
Vous devez éviter de vous inscrire à des plateformes qui collectent un grand volume de données ou dont les politiques ne sont pas claires. Un signal d’alarme potentiel : de vagues affirmations sur la « conservation des informations personnelles aussi longtemps que nécessaire » et le « partage de données avec des tiers pour fournir des services ».
Des plateformes d’IA plus grandes peuvent être plus sûres
Les grandes entreprises comme OpenAI, Google, Meta et d’autres sont soumises à une surveillance plus étroite : les ONG, les journalistes et les politiciens ont tendance à enquêter plus fréquemment sur leurs politiques de confidentialité. Ils disposent également d’équipes et de ressources plus importantes qui leur permettent d’investir massivement dans le respect des réglementations en matière de confidentialité. Pour ces raisons, elles ont tendance à bénéficier de meilleures garanties que les petites entreprises ou les start-ups.
Il faut quand même être prudent. La plupart de ces plateformes ne sont pas explicitement destinées à des fins éducatives, ce qui les rend moins susceptibles de créer des politiques spécifiques concernant les données des étudiants ou des enseignants.
Utilisez les outils comme un assistant et non comme un remplaçant
Questions et réponses : Mettre l’IA à sa place à une époque de perte de connexion humaine à l’école
Même si ces outils fournissent de meilleurs résultats lorsque vous saisissez plus d’informations, essayez de les utiliser pour des tâches qui ne nécessitent pas beaucoup d’informations sur vos élèves.
Les outils d’IA peuvent aider à fournir des suggestions sur la façon de poser des questions sur un livre, à configurer des modèles de documents, comme un plan de programme éducatif individualisé ou une évaluation comportementale, ou à créer des grilles d’évaluation.
Pourquoi les robots ne sont pas des outils efficaces pour soutenir les personnes autistes
Mais même les tâches qui peuvent paraître banales peuvent accroître les risques. Par exemple, fournir à l’outil une liste des étudiants et leurs notes pour un devoir spécifique et lui demander de l’organiser par ordre alphabétique pourrait constituer une violation de la vie privée des étudiants.
Au-delà des plans de cours : l’IA peut stimuler la créativité des enseignants et fournir des conseils en classe
Activez les paramètres de confidentialité maximum pour les plateformes d’IA
Certains outils vous permettent d’ajuster vos paramètres de confidentialité. Recherchez en ligne des didacticiels sur les meilleurs paramètres privés pour l’outil que vous utilisez et comment les activer. ChatGPTpar exemple, permet aux utilisateurs de l’empêcher d’utiliser vos données pour entraîner des modèles d’IA.
Cela ne rend pas nécessairement les outils d’IA totalement sûrs ou conformes aux réglementations sur la confidentialité des étudiants.
Ne saisissez jamais d’informations personnelles sur les plateformes d’IA
Même si vous suivez toutes les étapes ci-dessus, ne saisissez pas les informations sur les étudiants. Les informations restreintes peuvent inclure :
-
Informations personnelles: le nom d’un étudiant, son numéro de sécurité sociale, sa carte d’identité scolaire, les noms des parents ou d’autres proches, son adresse et son numéro de téléphone, son lieu de naissance ou toute autre information pouvant être utilisée pour identifier un étudiant.
-
Dossiers académiques: rapports sur les absences, les notes et les comportements des élèves à l’école, le travail des élèves, ainsi que les commentaires et évaluations des enseignants sur le travail des élèves.
Cela peut être plus difficile qu’il n’y paraît.
Si les enseignants téléchargent le travail d’un élève sur une plateforme pour obtenir de l’aide pour la notation, par exemple, ils doivent supprimer toute identification, y compris le nom de l’élève, et le remplacer par un pseudonyme ou un numéro aléatoire qui ne permet pas de remonter jusqu’à l’élève. Il est également sage de s’assurer que les étudiants n’ont inclus aucune information personnelle, comme leur lieu de naissance, leur lieu de résidence ou des détails personnels sur leur famille, leurs amis, leurs inclinations religieuses ou politiques, leur orientation sexuelle et leur affiliation à un club.
Une exception concerne les plateformes agréées par l’école ou le district et détenant des contrats avec eux.
Soyez transparent avec les autres sur l’utilisation de l’IA
Communiquez avec les superviseurs de votre école, le directeur, les parents et les élèves pour savoir quand et comment vous utilisez l’IA dans votre travail. De cette façon, tout le monde peut poser des questions et soulever des préoccupations dont vous ignorez peut-être l’existence.
L’IA dans les écoles est-elle prometteuse ou surfaite ? Potentiellement les deux, suggèrent de nouveaux rapports
C’est également un bon moyen de modéliser le comportement des élèves. Par exemple, si les enseignants demandent aux élèves de divulguer quand ils utilisent l’IA pour terminer leurs devoirs, être transparent avec eux sur la manière dont les enseignants utilisent l’IA pourrait favoriser un meilleur environnement de classe.
En cas de doute, demandez aux plateformes d’IA de supprimer les informations
Dans certains États, la loi stipule que les plateformes doivent supprimer les informations des utilisateurs si elles le demandent. Et certaines entreprises le supprimeront même si vous n’êtes pas dans l’un de ces États.
La suppression des données peut s’avérer difficile et ne pas résoudre tous les problèmes causés par une mauvaise utilisation de l’IA. Certaines entreprises peuvent mettre beaucoup de temps à répondre aux demandes de suppression ou trouver des failles afin d’éviter de le supprimer.
Les conseils énumérés ci-dessus proviennent du Garde-fous de bon sens pour l’utilisation des technologies avancées dans les écolespublié par la Fédération américaine des enseignants ; le L’intelligence artificielle et l’avenir de l’enseignement et de l’apprentissage rapport du Bureau de technologie éducative du ministère américain de l’Éducation ; et le Liste de questions sur la confidentialité utilisé par Common Sense Media pour effectuer ses évaluations de confidentialité.
Une aide supplémentaire est venue de Calli Schroeder, avocate principale et conseillère mondiale en matière de protection de la vie privée à l’Electronic Privacy Information Center ; Brandon Wilmart, directeur de la technologie éducative aux écoles publiques Moore de l’Oklahoma ; et Anjali Nambiar, responsable de la recherche en éducation chez Learning Collider.
Cette histoire a été initialement publiée par Chalkbeat. Chalkbeat est un site d’information à but non lucratif qui couvre les changements pédagogiques dans les écoles publiques. Inscrivez-vous à leurs newsletters sur ckbe.at/newsletters.
