La nouvelle IA de modération de chat de Call of Duty connaît un succès majeur : baisse de 43 % de la toxicité

Bref: De nombreuses spéculations ont surgi sur les avantages possibles que des technologies telles que l’IA générative et l’apprentissage automatique pourraient apporter aux jeux vidéo. Alors que la reconstruction d’images s’est avérée utile et que l’IA générative serait entrée dans le processus de production, l’analyse basée sur l’IA a commencé à avoir un impact sur la modération du chat vocal dans les espaces de jeu compétitifs.

Activision Blizzard rapports cette exposition au chat vocal toxique dans Call of Duty a diminué de 43 % depuis le début de cette année. L’éditeur attribue les résultats à la récente mise en œuvre de la modération basée sur l’IA, qui l’a convaincu d’étendre son utilisation lors du lancement de Call of Duty : Black Ops 6 le 25 octobre.

L’éditeur a présenté le modérateur ToxMod lors du lancement de Call of Duty: Modern Warfare III en novembre dernier. Selon le site Web de ToxMod, le système analyse les transcriptions textuelles du chat vocal du jeu et détecte les mots-clés en fonction de plusieurs facteurs.

Pour faire la différence entre les propos trash et le harcèlement, ToxMod surveille les mots-clés et les réactions aux commentaires, reconnaissant les émotions des joueurs et comprenant le code de conduite du jeu. De plus, le système estime l’âge et le sexe perçus de l’orateur et des destinataires pour mieux comprendre le contexte de chaque conversation.

ToxMod ne peut interdire personne à lui seul, mais il peut rapidement signaler les violations pour examen par des modérateurs humains. Activision décide ensuite d’avertir ou de mettre les joueurs en sourdine, en émettant des interdictions uniquement après des infractions répétées. Le nombre de récidivistes dans Modern Warfare III et Call of Duty : Warzone a diminué de 67 % depuis qu’Activision a mis en œuvre des améliorations en juin 2024. Rien qu’en juillet, 80 % des joueurs surpris en train de violer les règles du chat vocal n’ont pas récidivé.

Toutes les régions, à l’exception de l’Asie, prennent actuellement en charge ToxMod et Call of Duty utilise le système pour modérer le chat vocal en anglais, espagnol et portugais. Lors du lancement de Black Ops 6, Activision ajoutera la prise en charge du français et de l’allemand.

Pendant ce temps, le chat textuel et la modération des noms d’utilisateur sont passés de 14 à 20 langues en août. Community Sift est le partenaire de modération de texte de Call of Duty depuis le lancement du premier jeu de redémarrage de Modern Warfare en 2019, bloquant 45 millions de messages depuis la sortie de Modern Warfare III en novembre.

L’utilisation de l’IA pour modérer le comportement des joueurs est beaucoup moins controversée que l’utilisation de la technologie pour les ressources du jeu. À la fin de l’année dernière, des illustrations générées par l’IA sont apparues dans les skins de contenu de Modern Warfare III. Au milieu du nombre historique de licenciements dans l’industrie du jeu à cette époque, certains craignent que les éditeurs tentent de remplacer les artistes par des modèles d’IA.