Meta pour signaler le contenu généré par l’IA — RT World News
La société mère de Facebook et Instagram va détecter et étiqueter les vidéos, photos et audio créés par des robots.
Meta commencera à étiqueter le contenu généré par l’IA sur Facebook et Instagram à partir de mai, a annoncé le géant de la technologie. Jusqu’à présent, l’entreprise avait pour politique de supprimer ce type de contenu créé par ordinateur.
L’entreprise postulera « Fabriqué avec l’IA » étiquettes au contenu photo, audio ou vidéo créé avec l’intelligence artificielle, a-t-il expliqué dans un article de blog vendredi. Ces étiquettes seront soit appliquées automatiquement lorsque Meta détectera « signaux partagés par l’industrie » du contenu de l’IA, ou lorsque les utilisateurs révèlent volontairement que quelque chose qu’ils publient a été créé avec l’IA.
Si le contenu en question porte « un risque particulièrement élevé de tromper matériellement le public sur une question importante », une étiquette plus visible peut être appliquée, a déclaré Meta.
À l’heure actuelle, la politique relative aux « médias manipulés » de Meta ne couvre que les vidéos qui ont été « créé ou modifié par l’IA pour donner l’impression qu’une personne dit quelque chose qu’elle n’a pas dit. » Le contenu violant cette politique est supprimé plutôt que étiqueté.
EN SAVOIR PLUS:
Le Premier ministre italien veut 100 000 € pour du porno deepfake
La nouvelle politique étend ce phénomène aux vidéos montrant quelqu’un « faire quelque chose qu’ils n’ont pas fait » et aux photos et à l’audio. Elle est toutefois plus souple que l’ancienne approche dans la mesure où le contenu en question pourra rester en ligne.
La nouvelle politique étend ce phénomène aux vidéos montrant quelqu’un « faire quelque chose qu’ils n’ont pas fait » et aux photos et à l’audio. Elle est toutefois plus souple que l’ancienne approche dans la mesure où le contenu en question pourra rester en ligne.
« Notre politique relative aux médias manipulés a été rédigée en 2020, à une époque où les contenus réalistes générés par l’IA étaient rares et où la préoccupation majeure concernait les vidéos. » a expliqué l’entreprise. « Au cours des quatre dernières années, et particulièrement l’année dernière, les gens ont développé d’autres types de contenus réalistes générés par l’IA, comme l’audio et les photos, et cette technologie évolue rapidement. »
Depuis le début de cette année, les régulateurs américains ont annoncé l’interdiction des technologies générées par l’IA. « appels automatisés » après que les habitants du New Hampshire ont été contactés par un Joe Biden généré par ordinateur les exhortant à ne pas participer aux élections primaires démocrates de l’État, alors que la Maison Blanche a promis de le faire. « traiter avec » le problème de la pornographie non consensuelle après la diffusion de fausses photos nues de la pop star Taylor Swift sur les réseaux sociaux. L’ancien président américain Donald Trump s’est également prononcé sur la question, accusant les médias américains d’utiliser l’IA pour le faire paraître plus gros sur les photographies.
Meta n’est pas la seule entreprise Big Tech à lutter contre le contenu artificiel avec des labels. Depuis l’année dernière, TikTok demande aux utilisateurs d’étiqueter leur propre contenu généré par l’IA, tout en donnant aux autres utilisateurs la possibilité de signaler le contenu qu’ils soupçonnent d’avoir été généré par l’IA. YouTube a introduit le mois dernier un système similaire basé sur l’honneur.
EN SAVOIR PLUS:
Le pape met en garde contre les deepfakes « pervers »
Alors que des élections cruciales auront lieu dans l’UE en juin et aux États-Unis en novembre, les législateurs ont poussé les entreprises technologiques à prendre des mesures contre les créations d’IA. « deepfakes » qui, selon eux, pourrait être utilisé pour tromper les électeurs. Plus tôt cette année, Microsoft, Meta et Google se sont joints à plus d’une douzaine d’autres leaders du secteur en promettant de « Aidez à empêcher les contenus trompeurs de l’IA d’interférer avec les élections mondiales de cette année. »
Cependant, des plateformes telles que TikTok et YouTube qui utilisent des systèmes d’honneur pourraient bientôt être contraintes d’adopter l’approche de Meta. En vertu d’une disposition de la loi européenne sur l’IA, qui entrera en vigueur l’été prochain, les entreprises technologiques seront condamnées à des amendes pour ne pas avoir détecté et identifié le contenu créé par l’IA, y compris le texte. « publié dans le but d’informer le public sur des questions d’intérêt public. »
