Une loi californienne visant à lutter contre les deepfakes électoraux par l’IA va être testée

SACRAMENTO, Californie — La Californie a maintenant certaines des lois les plus strictes Les États-Unis veulent sévir contre les deepfakes électoraux avant les élections de 2024, après que le gouverneur Gavin Newsom a signé trois propositions historiques cette semaine lors d’une conférence sur l’intelligence artificielle à San Francisco.

L’État pourrait être parmi les premiers à tester une telle législation, qui interdit l’utilisation de l’IA pour créer de fausses images et vidéos dans les publicités politiques à l’approche du jour du scrutin.

Les législateurs de plus d’une douzaine d’États ont avancé des propositions similaires après que l’émergence de l’IA a commencé à accentuer la menace des élections. désinformation La loi californienne est la plus étendue dans le monde. Elle vise non seulement les contenus susceptibles d’influencer le vote des électeurs, mais aussi toutes les vidéos et images susceptibles de dénaturer l’intégrité des élections. La loi couvre également les contenus représentant les agents électoraux et les machines à voter, et pas seulement les candidats politiques.

Parmi les trois lois signées par Newsom mardi, une seule entre en vigueur immédiatement pour empêcher les deepfakes autour de l’élection de 2024. Elle rend illégale la création et la publication de faux documents liés aux élections 120 jours avant le jour du scrutin et 60 jours après. Elle permet également aux tribunaux d’arrêter la diffusion de ces documents, et les contrevenants pourraient être passibles de sanctions civiles. La loi exempte la parodie et la satire.

L’objectif, ont déclaré Newsom et les législateurs, est d’empêcher l’érosion de la confiance du public dans les élections américaines dans un « climat politique tendu ».

La législation suscite déjà de vives critiques de la part des défenseurs de la liberté d’expression et des opérateurs de plateformes de médias sociaux.

Elon Musk, propriétaire de la plateforme de médias sociaux X, a qualifié la nouvelle loi californienne d’inconstitutionnelle et de violation du premier amendement.

Quelques heures après leur signature, Elon Musk a élevé mardi soir un post sur X partageant une vidéo générée par l’IA contenant des audios modifiés de la vice-présidente et candidate démocrate à la présidence Kamala Harris. Sa publication d’un autre deepfake mettant en vedette Harris a incité Newsom s’engager à faire passer une loi une répression contre cette pratique est prévue depuis juillet.

« Le gouverneur de Californie vient de rendre cette vidéo parodique illégale, en violation de la Constitution des États-Unis. Ce serait dommage qu’elle devienne virale », a écrit Elon Musk à propos de la vidéo générée par l’IA, dont la légende identifie la vidéo comme une parodie.

Mais on ne sait pas vraiment dans quelle mesure ces lois sont efficaces pour mettre un terme aux deepfakes électoraux, a déclaré Ilana Beller de Public Citizen, une organisation à but non lucratif de défense des consommateurs. Le groupe suit la législation des États relative aux deepfakes électoraux.

Aucune loi n’a été testée devant un tribunal, a déclaré Beller.

L’efficacité de la loi pourrait être amoindrie par la lenteur des tribunaux face à une technologie capable de produire de fausses images pour des publicités politiques et de les diffuser à une vitesse fulgurante.

Il pourrait falloir plusieurs jours avant qu’un tribunal ordonne une injonction pour arrêter la distribution du contenu, et d’ici là, les dommages causés à un candidat ou à une élection pourraient déjà avoir été causés, a déclaré Beller.

« Dans un monde idéal, nous serions en mesure de supprimer le contenu dès qu’il est publié », a-t-elle déclaré. « Car plus tôt vous pourrez supprimer le contenu, moins les gens le verront, moins les gens le diffuseront par le biais de republications et autres, et plus vite vous pourrez le dissiper. »

Néanmoins, le fait d’avoir une telle loi dans les textes pourrait servir à dissuader d’éventuelles violations, a-t-elle déclaré.

Le bureau de Newsom n’a pas immédiatement répondu aux questions concernant la question de savoir si la publication de Musk violait la nouvelle loi de l’État.

La députée Gail Pellerin, auteur de la loi, n’était pas immédiatement disponible mercredi pour commenter.

Mardi, Newsom a également signé deux autres lois, s’appuyant sur certaines des premières lois américaines visant à lutter contre les deepfakes électoraux, adoptées en Californie en 2019, pour obliger les campagnes à commencer à divulguer les contenus générés par l’IA et obliger les plateformes en ligne, comme X, à supprimer les contenus trompeurs. Ces lois entreront en vigueur l’année prochaine, après les élections de 2024.