Images IA du pape François : la détection devient de plus en plus difficile

Un pape François élégant est devenu le sujet de conversation du week-end après que des images du dirigeant catholique portant une doudoune blanche ont commencé à circuler en ligne, apportant des compliments liés à la mode.

Mais le pape n’a en fait jamais porté la combinaison veste-collier croisé; les photos qui ont circulé n’étaient pas réelles.

Ces images, créées grâce au modèle de générateur d’intelligence artificielle (IA) Midjourney, ont été téléchargées sur des groupes Facebook et Reddit dédiés aux images et à l’art générés par l’IA. Ils ont ensuite été publiés sur d’autres sites de médias sociaux sans le contexte des groupes.

Le pape goutte à goutte
par u/trippy_art_special à mi-parcours

Alors que les images ont été prises comme une plaisanterie légère par certains, l’expert en cybersécurité Chester Wisniewski prévient que des photos générées par l’IA étrangement convaincantes pourraient encore exacerber la désinformation.

« Nous avons en quelque sorte traversé une étrange vallée maintenant », a déclaré Wisniewski à CTVNews.ca lors d’un entretien téléphonique lundi. « Je ne sais pas s’il existe un moyen pour les gens de faire la différence entre une vraie photo et une fausse et cela va avoir des ramifications sociétales profondément troublantes. »

Dans les premiers jours des images générées par l’IA, a expliqué Wisniewski, il y avait de nombreux signes révélateurs pour distinguer une vraie photo d’une photo générée par ordinateur. Par exemple, les membres et les doigts sont souvent déformés dans les images générées par l’IA, les cheveux semblaient irréalistes et extrêmement peints à l’aérographe ou les dents dans les portraits semblaient exagérées.

Aujourd’hui, cependant, la technologie s’est améliorée incroyablement rapidement, ce qui rend ces drapeaux rouges difficiles à distinguer pour un utilisateur en ligne de tous les jours.

L’OUEST SAUVAGE D’AI

Étant donné que le codage derrière les images, les voix et les vidéos générées par ordinateur est de notoriété publique et n’appartient pas à une seule entreprise ou personne, toute personne avertie sur le plan technologique peut créer n’importe quoi ou payer pour utiliser l’une des différentes applications ou sites Web de modèles d’IA.

Bien que cet accès ouvert à l’IA puisse conduire à des améliorations dans le monde numérique – par exemple, avec l’expansion de la cybersécurité pour protéger les données personnelles des utilisateurs – il impose également la responsabilité d’être transparent sur le contenu sur le créateur, ce qui n’est pas toujours arriver, dit Wisniewski.

« Le problème est que tout cela repose sur une sorte de système d’honneur, dont nous savons déjà que les gens ne sont pas assez honnêtes », a-t-il déclaré. « Même les influenceurs ont du mal à suivre les directives de la FTC américaine où ils sont censés mettre #ad ou #sponsor lorsqu’ils font la promotion de quelque chose. »

Étant donné que les images générées par ordinateur sont toutes apprises des humains, un biais dans les images créées pose également d’autres problèmes éthiques. Des rapports précédents ont montré que certains générateurs d’images d’IA ne peuvent représenter avec précision que les personnes blanches et masculines, montrant des disparités entre les Noirs et les autres personnes de couleur. De plus, des applications comme Lensa AI portrait ont été accusées de voler des œuvres d’art à des artistes.

Bien que le pape n’ait pas abordé directement les photos, il a parlé lundi de l’utilisation de l’intelligence artificielle, affirmant que son pouvoir ne peut aider les humains que s’il est utilisé de manière éthique.

« Je suis convaincu que le développement de l’intelligence artificielle et de l’apprentissage automatique a le potentiel de contribuer de manière positive à l’avenir de l’humanité », a déclaré le pape dans un communiqué de presse du Vatican. « Je suis certain que ce potentiel ne sera réalisé que s’il existe un engagement constant et cohérent de la part de ceux qui développent ces technologies pour agir de manière éthique et responsable. »