Le cours d’informatique de Marisa Shuman à la Young Women’s Leadership School du Bronx a commencé comme d’habitude un récent matin de janvier.
Juste après 23 h 30, des élèves de 11e et 12e énergiques ont fait irruption dans la salle de classe, se sont installés à des tables d’étude communes et ont sorti leurs ordinateurs portables. Puis ils se sont tournés vers l’avant de la salle, regardant un tableau blanc où Mme Shuman avait posté une question sur la technologie portable, le sujet du cours de ce jour-là.
Pour la première fois dans sa carrière d’enseignante longue de dix ans, Mme Shuman n’avait rédigé aucun plan de cours. Elle avait généré le matériel de cours à l’aide de ChatGPT, un nouveau chatbot qui s’appuie sur l’intelligence artificielle pour fournir des réponses écrites aux questions en prose claire. Mme Shuman utilisait la leçon générée par l’algorithme pour examiner l’utilité potentielle et les pièges du chatbot avec ses élèves.
« Je me fiche que vous appreniez quoi que ce soit sur la technologie portable aujourd’hui », a déclaré Mme Shuman à ses étudiants. « Nous évaluons ChatGPT. Votre objectif est d’identifier si la leçon est efficace ou inefficace.
Partout aux États-Unis, les universités et les districts scolaires se bousculent pour maîtriser les nouveaux chatbots capables de générer des textes et des images de type humain. Mais alors que beaucoup se précipitent pour interdire ChatGPT pour essayer d’empêcher son utilisation comme aide à la triche, des enseignants comme Mme Shuman tirent parti des innovations pour stimuler une réflexion plus critique en classe. Ils encouragent leurs étudiants à remettre en question le battage médiatique autour des outils d’intelligence artificielle en évolution rapide et à considérer les effets secondaires potentiels des technologies.
L’objectif, selon ces éducateurs, est de former la prochaine génération de créateurs et de consommateurs de technologies à l' »informatique critique ». Il s’agit d’une approche analytique dans laquelle comprendre comment critiquer les algorithmes informatiques est aussi important – voire plus important que – savoir programmer des ordinateurs.
Les écoles publiques de New York, le plus grand district du pays, desservant quelque 900 000 élèves, forment une cohorte de professeurs d’informatique pour aider leurs élèves à identifier les biais de l’IA et les risques potentiels. Les leçons comprennent des discussions sur les algorithmes de reconnaissance faciale défectueux qui peuvent être beaucoup plus précis pour identifier les visages blancs que les visages à la peau plus foncée.
Dans l’Illinois, la Floride, New York et la Virginie, certains enseignants de sciences et de sciences humaines du collège utilisent un programme d’alphabétisation en IA développé par des chercheurs du Scheller Teacher Education Program du Massachusetts Institute of Technology. Une leçon demande aux élèves de réfléchir à l’éthique de puissants systèmes d’IA, connus sous le nom de « réseaux antagonistes génératifs », qui peuvent être utilisés pour produire de faux contenus médiatiques, comme des vidéos réalistes dans lesquelles des politiciens bien connus prononcent des phrases qu’ils n’ont jamais dites.
Avec la prolifération des technologies d’IA génératives, les éducateurs et les chercheurs affirment que la compréhension de ces algorithmes informatiques est une compétence cruciale dont les étudiants auront besoin pour naviguer dans la vie quotidienne et participer à la vie civique et à la société.
En savoir plus sur les écoles et l’éducation aux États-Unis
« Il est important que les étudiants sachent comment fonctionne l’IA, car leurs données sont récupérées, leur activité d’utilisateur est utilisée pour former ces outils », a déclaré Kate Moore, chercheuse en éducation au MIT, qui a aidé à créer les cours d’IA pour les écoles. « Des décisions sont prises concernant les jeunes utilisant l’IA, qu’ils le sachent ou non. »
Pour observer comment certains éducateurs encouragent leurs élèves à scruter les technologies de l’IA, j’ai récemment passé deux jours à visiter des classes à la Young Women’s Leadership School du Bronx, un collège et lycée public pour filles qui est à la pointe de cette tendance.
L’immense école en briques beiges est spécialisée dans les mathématiques, les sciences et la technologie. Il dessert près de 550 étudiants, pour la plupart Latinx ou Noirs.
Ce n’est en aucun cas une école publique typique. Les enseignants sont encouragés à aider leurs élèves à devenir, comme le dit le site Web de l’école, des jeunes femmes « innovantes » ayant les compétences nécessaires pour terminer leurs études universitaires et « influencer les attitudes, les politiques et les lois du public pour créer une société plus juste sur le plan social ». L’école a également un taux de diplomation enviable de 98% sur quatre ans, nettement supérieur à la moyenne des lycées de New York.
Un matin de janvier, environ 30 élèves de 9e et 10e année, dont beaucoup portaient des sweat-shirts bleu marine et des pantalons gris, se sont précipités dans une classe appelée Génie logiciel 1. Le cours pratique initie les élèves au codage, à la résolution de problèmes informatiques et au répercussions sociales des innovations technologiques.
C’est l’un des nombreux cours d’informatique de l’école qui demandent aux étudiants de réfléchir à la façon dont les algorithmes informatiques populaires – souvent développés par des équipes d’entreprises technologiques composées principalement d’hommes blancs et asiatiques – peuvent avoir des impacts disparates sur des groupes comme les immigrants et les communautés à faible revenu. Le sujet de la matinée : les systèmes d’appariement des visages qui peuvent avoir du mal à reconnaître les visages à la peau plus foncée, comme ceux de certains élèves dans la salle et de leurs familles.
Debout devant sa classe, Abby Hahn, la professeure d’informatique, savait que ses élèves pourraient être choqués par le sujet. Une technologie de reconnaissance faciale défectueuse a contribué à mener à de fausses arrestations d’hommes noirs.
Alors Mme Hahn a alerté ses élèves que la classe discuterait de sujets sensibles comme le racisme et le sexisme. Puis elle a diffusé une vidéo YouTube, créée en 2018 par Joy Buolamwini, informaticiennemontrant comment certains systèmes d’analyse faciale populaires ont identifié par erreur des femmes noires emblématiques comme des hommes.
Alors que la classe regardait la vidéo, certains élèves ont eu le souffle coupé. Oprah Winfrey « semble être un homme », a déclaré la technologie d’Amazon avec une confiance de 76,5%, selon la vidéo. D’autres sections de la vidéo indiquaient que le système de Microsoft avait confondu Michelle Obama avec « un jeune homme portant une chemise noire » et que le système d’IBM avait identifié Serena Williams comme « homme » avec 89% de confiance.
(Microsoft et Amazon ont annoncé plus tard des améliorations de la précision de leurs systèmes, et IBM a cessé de vendre de tels outils. Amazon a déclaré qu’il s’était engagé à améliorer continuellement sa technologie d’analyse faciale grâce aux commentaires des clients et à la collaboration avec des chercheurs, et Microsoft et IBM ont déclaré qu’ils s’étaient engagés envers le responsable développement de l’IA)
« Je suis choquée de voir à quel point les femmes de couleur sont considérées comme des hommes, même si elles ne ressemblent en rien à des hommes », a déclaré Nadia Zadine, une étudiante de 14 ans. « Est-ce que Joe Biden est au courant? »
L’objectif de la leçon sur les biais de l’IA, a déclaré Mme Hahn, était de montrer aux étudiants programmeurs que les algorithmes informatiques peuvent être défectueux, tout comme les voitures et autres produits conçus par des humains, et de les encourager à défier les technologies problématiques.
« Vous êtes la prochaine génération », a déclaré Mme Hahn aux jeunes femmes à la fin de la période de cours. « Lorsque vous serez dans le monde, allez-vous laisser cela se produire? »
« Non! » répondit un chœur d’étudiants.
À quelques portes du couloir, dans une salle de classe colorée ornée de flocons de neige en papier faits à la main et de grues en origami, Mme Shuman se préparait à enseigner un cours de programmation plus avancé, Software Engineering 3, axé sur l’informatique créative comme la conception de jeux et l’art. Plus tôt cette semaine-là, ses étudiants codeurs avaient discuté de la façon dont de nouveaux systèmes alimentés par l’IA comme ChatGPT peuvent analyser de vastes réserves d’informations, puis produire des essais et des images de type humain en réponse à de courtes invites.
Dans le cadre de la leçon, les élèves de 11e et 12e année lisent des articles de presse sur la façon dont ChatGPT pourrait être à la fois utile et sujet aux erreurs. Ils ont également lu des publications sur les réseaux sociaux sur la manière dont le chatbot pourrait être invité à générer des textes faisant la promotion de la haine et de la violence.
Mais les étudiants ne pouvaient pas essayer ChatGPT en classe eux-mêmes. Le district scolaire l’a bloqué par crainte qu’il puisse être utilisé pour tricher. Les élèves ont donc demandé à Mme Shuman d’utiliser le chatbot pour créer une leçon pour la classe à titre expérimental.
Mme Shuman a passé des heures à la maison à inciter le système à générer une leçon sur la technologie portable comme les montres intelligentes. En réponse à ses demandes spécifiques, ChatGPT a produit un plan de cours remarquablement détaillé de 30 minutes – avec une discussion d’échauffement, des lectures sur la technologie portable, des exercices en classe et une discussion de synthèse.
Au début de la période de cours, Mme Shuman a demandé aux élèves de passer 20 minutes à suivre la leçon scénarisée, comme s’il s’agissait d’un véritable cours sur la technologie portable. Ensuite, ils analyseraient l’efficacité de ChatGPT en tant qu’enseignant simulé.
Réunis en petits groupes, les élèves lisent à haute voix les informations que le bot a générées sur les commodités, les avantages pour la santé, les noms de marque et la valeur marchande des montres intelligentes et des trackers de fitness. Il y avait des gémissements alors que les étudiants lisaient les phrases anodines de ChatGPT – « Des exemples de lunettes intelligentes incluent Google Glass Enterprise 2 » – qui, selon eux, ressemblaient à des copies marketing ou à des critiques de produits élogieuses.
« Cela m’a rappelé la quatrième année », a déclaré Jayda Arias, 18 ans. « C’était très fade. »
La classe a trouvé la leçon abrutissante par rapport à celles de Mme Shuman, une enseignante charismatique qui crée des supports de cours pour ses élèves spécifiques, leur pose des questions provocantes et propose des exemples pertinents et concrets à la volée.
« La seule partie efficace de cette leçon est qu’elle est simple », a déclaré Alexania Echevarria, 17 ans, à propos du matériel ChatGPT.
« ChatGPT semble aimer la technologie portable », a noté Alia Goddess Burke, 17 ans, une autre étudiante. « C’est biaisé ! »
Mme Shuman offrait une leçon qui allait au-delà de l’apprentissage de l’identification des biais de l’IA. Elle utilisait ChatGPT pour faire comprendre à ses élèves que l’intelligence artificielle n’était pas inévitable et que les jeunes femmes avaient les idées pour la défier.
« Vos enseignants devraient-ils utiliser ChatGPT ? » Mme Shuman a demandé vers la fin de la leçon.
La réponse des élèves a été un « Non ! » retentissant. Au moins pour l’instant.
