La cryptographie peut offrir une solution au problème massif de l’étiquetage de l’IA
Adobe a également déjà intégré C2PA, qu’il appelle les informations d’identification de contenu, dans plusieurs de ses produits, notamment Photoshop et Adobe Firefly. « Nous pensons qu’il s’agit d’une valeur ajoutée susceptible d’attirer davantage de clients vers les outils Adobe », déclare Parsons.
C2PA est sécurisé par cryptographie, qui s’appuie sur une série de codes et de clés pour protéger les informations contre la falsification et pour enregistrer l’origine des informations. Plus précisément, cela fonctionne en encodant les informations de provenance via un ensemble de hachages qui se lient cryptographiquement à chaque pixel, explique Jenks, qui dirige également les travaux de Microsoft sur C2PA.
C2PA offre des avantages critiques par rapport aux systèmes de détection d’IA, qui utilisent l’IA pour repérer le contenu généré par l’IA et peuvent à leur tour apprendre à mieux échapper à la détection. Il s’agit également d’un système plus standardisé et, dans certains cas, plus facilement visible que le filigrane, l’autre technique importante utilisée pour identifier le contenu généré par l’IA. Le protocole peut également fonctionner parallèlement aux outils de filigrane et de détection de l’IA, explique Jenks.
La valeur des informations de provenance
L’ajout d’informations de provenance aux médias pour lutter contre la désinformation n’est pas une idée nouvelle, et les premières recherches semblent montrer que cela pourrait être prometteur : un projet d’un étudiant à la maîtrise à l’Université d’Oxford, par exemple, a trouvé des preuves que les utilisateurs étaient moins sensibles à la désinformation. lorsqu’ils avaient accès à des informations de provenance sur le contenu. En effet, dans la mise à jour d’OpenAI sur son outil de détection d’IA, la société a déclaré qu’elle se concentrait sur d’autres « techniques de provenance » pour répondre aux exigences de divulgation.
Cela dit, les informations de provenance sont loin d’être une solution miracle. Le C2PA n’est pas juridiquement contraignant, et sans l’adoption requise de la norme à l’échelle de l’Internet, du contenu non étiqueté généré par l’IA existera, déclare Siwei Lyu, directeur du Center for Information Integrity et professeur à l’Université de Buffalo à New York. « Le manque de pouvoir contraignant par-dessus bord crée des failles intrinsèques dans cet effort », dit-il, tout en soulignant que le projet est néanmoins important.
De plus, étant donné que C2PA s’appuie sur l’adhésion des créateurs, le protocole ne résout pas vraiment le problème des mauvais acteurs utilisant du contenu généré par l’IA. Et on ne sait pas encore à quel point la fourniture de métadonnées sera utile en ce qui concerne la maîtrise des médias par le public. Les étiquettes de provenance ne mentionnent pas nécessairement si le contenu est vrai ou exact.
En fin de compte, le défi le plus important de la coalition pourrait être d’encourager une adoption généralisée dans l’ensemble de l’écosystème Internet, en particulier par les plateformes de médias sociaux. Le protocole est conçu pour qu’une photo, par exemple, ait des informations de provenance encodées depuis le moment où une caméra l’a capturée jusqu’au moment où elle a trouvé son chemin sur les réseaux sociaux. Mais si la plate-forme de médias sociaux n’utilise pas le protocole, elle n’affichera pas les données de provenance de la photo.
Les principales plateformes de médias sociaux n’ont pas encore adopté C2PA. Twitter avait signé le projet mais a abandonné après qu’Elon Musk a pris le relais. (Twitter a également cessé de participer à d’autres projets bénévoles axés sur la lutte contre la désinformation.)
C2PA « [is] ce n’est pas une panacée, cela ne résout pas tous nos problèmes de désinformation, mais cela met en place les bases d’une réalité objective partagée », déclare Parsons. « Tout comme la métaphore de l’étiquette nutritionnelle, vous n’avez pas à regarder l’étiquette nutritionnelle avant d’acheter les céréales sucrées.
« Et vous n’avez pas besoin de savoir d’où vient quelque chose avant de le partager sur Meta, mais vous le pouvez. Nous pensons que la capacité de le faire est essentielle compte tenu des capacités étonnantes des médias génératifs.
