Au Pakistan, un pays socialement conservateur, un clip généré par l’IA prétend montrer un femme politique étreignant un homme provincial Le ministre en chef a été partagé dans des publications sur les réseaux sociaux. Le clip a été créé à partir d’une photo de la politicienne Meena Majeed avec l’actuel président. Asif Ali Zardari qui a précédé son élection à ce poste.
« L’impudeur n’a pas de limites. C’est une insulte à la culture baloutche », lit-on dans la légende en ourdou d’un message généré par l’IA. agrafe publié sur X le 29 septembre 2024.
Le court clip semble montrer Meena Majeed, membre de l’assemblée provinciale du Baloutchistan, dans un shalwar kameez vert serrant Sarfraz Bugti, le ministre en chef de la province. Tous deux sont membres du Parti du peuple pakistanais.
De telles démonstrations publiques d’affection sont considérées comme culturellement inappropriées dans Pakistan conservateur, à majorité musulmane, surtout chez les personnes qui ne sont pas mariées.
La diffusion de telles fausses informations peut grandement ternir la réputation et la carrière d’une femme ; dans les régions les plus conservatrices de ce pays d’Asie du Sud, cela peut même mettre leur sécurité en danger.
Le même clip a été partagé sur Tik Tok et YouTubeavec des commentaires sur les messages contenant un langage abusif dirigé contre Majeed.
Une analyse du clip montre qu’il a été extrait du compte TikTok « @gullzadibaloch1212 » – un compte qui n’est plus accessible – et qu’un filigrane dans le coin supérieur droit indique « Vidu ».
Selon un article des médias d’État chinois Agence de presse XinhuaVidu est un « grand modèle de génération vidéo » développé par la société chinoise d’IA ShengShu Technology et l’Université Tsinghua (lien archivé).
Un vidéo pédagogique sur le site Web de Vidu montre comment il est capable de créer de courts clips de quatre secondes à l’aide d’une image de référence et d’invites de texte (lien archivé).
Vous trouverez ci-dessous une capture d’écran de la vidéo d’instructions sur le site Web de Vidu montrant comment un clip peut être généré à l’aide d’une image de référence et d’invites de texte, avec le filigrane Vidu sur le clip terminé mis en évidence par l’AFP :
Une recherche d’image inversée sur Google à l’aide d’une image clé du clip partagé en ligne a conduit à une photo de Majeed a partagé sur son compte X officiel le 1er décembre 2023 (lien archivé).
La photo la montre dans la même tenue au même endroit, mais elle se tient à côté d’Asif Ali Zardari, qui a été élu président pour un deuxième fois en mars 2024 (lien archivé).
Vous trouverez ci-dessous une comparaison de capture d’écran entre le clip faussement partagé (à gauche) et la photo de Majeed de X (à droite) :
La vidéo générée par l’IA a déjà été démystifiée par une organisation pakistanaise de vérification des faits. Vérification des faits (lien archivé).
Hany Farid, professeur à l’Université de Californie à Berkeley, spécialisé dans l’analyse d’images numériques, a également déclaré à l’AFP dans un courriel que la vidéo était générée par l’IA.
« L’artefact le plus visible est visible lorsque Meena Majeed se déplace vers la gauche et que vous pouvez voir que la personne derrière elle est fortement déformée », a-t-il déclaré le 17 octobre.
« Cela est dû au fait que l’IA générative a du mal à créer du contenu à partir de rien, de sorte que les artefacts sont souvent visibles lorsque des parties de l’image originale sont révélées. »
Les femmes politiques sont fréquemment la cible de désinformation en ligne, et l’AFP a déjà démystifié un deepfake similaire ciblant l’ancienne première dame du Pakistan, Bushra Bibi. ici.