La Californie doit-elle réglementer l’IA ? La décision sera bientôt entre les mains du gouverneur Gavin Newsom

Une nouvelle arme biologique. Une panne du réseau électrique. Un effondrement du système bancaire.

Ce sont des catastrophes que l’intelligence artificielle pourrait un jour être capable de déclencher, prévient le sénateur californien Scott Wiener, démocrate de San Francisco, auteur d’un projet de loi qui mettrait en œuvre un nouvel ensemble de réglementations sur l’IA conçues pour prévenir de telles urgences.

L’Assemblée de Californie a approuvé le projet de Wiener Projet de loi SB 1047 Mercredi, le projet de loi a été voté par 41 voix contre 9. Il lui faut encore un vote de procédure avant d’atterrir sur le bureau du gouverneur Gavin Newsom.

Wiener et les partisans du projet de loi le décrivent comme une mesure « légère » qui obligerait les grandes entreprises qui développent l’IA à ajouter des garde-fous et des tests à leurs modèles. Elle donnerait également au procureur général de l’État le pouvoir de prendre des mesures contre les développeurs d’IA dont les modèles causent des « dommages critiques ».

« Je suis très favorable à l’innovation en matière d’IA », a déclaré Wiener, qui représente la ville de San Francisco, très axée sur la technologie, lors d’une conférence de presse plus tôt cette semaine. « L’IA a le potentiel de rendre le monde meilleur, mais comme toute technologie puissante, elle comporte également des risques. Nous devrions essayer de devancer ces risques au lieu de chercher à rattraper notre retard, ce que nous avons trop souvent fait en matière de technologie. »

Le projet de loi a profondément divisé les innovateurs technologiques – et les politiciens – dans la région de la Baie de San Francisco et à l’échelle nationale.

Google, Meta et OpenAI font partie des géants de la technologie qui s’opposent au projet de loi de Wiener, arguant qu’il ralentirait l’innovation et pousserait les entreprises et leurs employés hors de l’État. Dans une lettre adressée en juillet aux législateurs, Google a averti que les réglementations du projet de loi SB 1047 « risquaient de faire de la Californie l’une des juridictions les moins favorables au monde pour le développement et le déploiement de l’IA ».

Les trois entreprises ont fait valoir que l’IA devrait être réglementée à l’échelle nationale, plutôt qu’au niveau des États, et ont exprimé leur soutien à la législation fédérale, y compris la loi bipartite Loi sur l’avenir de l’innovation en IAqui, selon eux, serait appliquée de manière plus uniforme que les règles californiennes.

D’autres démocrates s’opposent également au projet de loi. L’ancienne présidente de la Chambre des représentants Nancy Pelosi, qui représente San Francisco au Congrès, a qualifié le projet de loi de « bien intentionné mais mal informé » et a souligné que le Congrès étudiait d’éventuelles réglementations sur l’IA. Les représentants démocrates de la région de la baie de San Francisco Anna Eshoo, Ro Khanna et d’autres représentants californiens ont exhorté Newsom à opposer son veto au projet de loi s’il lui parvenait.

Parallèlement, certains pionniers de la technologie soutiennent la législation de Wiener. Yoshua Bengio, connu comme le « parrain de l’IA », a déclaré que le projet de loi obligerait simplement les entreprises à respecter des politiques auxquelles nombre d’entre elles se sont déjà volontairement engagées.

« Nous ne pouvons tout simplement pas les laisser noter eux-mêmes leurs devoirs et espérer le meilleur », a-t-il déclaré.

Bengio, lauréat du prix Turing 2018, a déclaré que les chercheurs ont récemment révisé leurs estimations du moment où les ordinateurs pourraient atteindre « des niveaux humains ou au-delà de l’humain de compétence cognitive générale ».

« Alors que l’on pensait auparavant que ce serait possible dans des décennies ou des siècles, de nombreux chercheurs pensent désormais qu’il pourrait être mis au point dans les deux prochaines décennies, voire dans les prochaines années seulement », a-t-il déclaré. « Prôner le laisser-faire face à cette certitude est dangereux. »

La facture de Wiener était encore plus élevée approuvé plus tôt cette semaine par Elon Musk, le fondateur de Tesla et propriétaire de X qui a souvent en guerre avec les élus démocrates sur les réglementations californiennes concernant les entreprises, le climat et les droits LGBTQ.

Les législateurs espèrent que la législation incitera le Congrès à agir.

« Étant donné l’ampleur du risque, comment pouvons-nous dire que nous ne voulons pas faire même un petit geste léger ? », a déclaré le député Steve Bennett, démocrate d’Oxnard. « C’est la législation la plus appropriée que je puisse imaginer que quelqu’un propose à ce stade. »

Newsom n’a pas indiqué quelle était sa position sur la question, mais il a publié l’année dernière un décret autorisant les agences d’État à utiliser l’IA selon certaines directives. Il s’est également montré prudent quant à la possibilité d’être perçu comme un frein à l’innovation technologique. Le gouverneur a jusqu’au 30 septembre pour signer ou opposer son veto aux projets de loi.

Avant même que le projet de loi ne soit adopté par l’Assemblée législative, les défenseurs et les entreprises technologiques de l’opposition ont commencé à faire pression sur lui pour qu’il y oppose son veto.

Dans une lettre adressée à Newsom, une coalition de défenseurs de l’industrie, dont la Chambre du progrès, NetChoice et le Bay Area Council, a fait valoir que le projet de loi vise à remédier aux préjudices « théoriques ».

« En revanche, les dommages causés à l’économie de l’innovation en Californie sont bien réels », peut-on lire dans la lettre. « La SB 1047 introduirait des coûts de conformité élevés et une grande incertitude réglementaire quant aux modèles concernés. »

Le sénateur Wiener était présent à l’Assemblée pour assister au débat et à l’adoption du projet de loi. Il a ensuite déclaré qu’il « plaiderait » auprès du gouverneur pour qu’il le signe.

« Newsom est un professionnel et il est habitué à ce que des projets de loi lui fassent subir beaucoup de pression des deux côtés », a déclaré Wiener après le vote. « Il fera ce qu’il fait toujours, c’est-à-dire examiner les faits et prendre une décision réfléchie. »

Les législateurs envisagent également un certain nombre d’autres projets de loi sur l’intelligence artificielle, notamment des mesures qui interdiraient la pornographie infantile générée par l’IA. Interdire l’IA dans les messages politiques dans les quelques mois qui ont suivi une élection et nécessite une grande IA générative les développeurs doivent fournir des outils pour que les consommateurs puissent identifier le contenu généré par l’IA.