La législature californienne vient d’adopter le projet de loi sur la sécurité de l’IA qui a divisé la Silicon Valley

• Les législateurs californiens viennent d’adopter un projet de loi controversé sur la sécurité de l’IA, le SB 1047.

• Le projet de loi impose des mesures de sécurité aux entreprises qui dépensent 100 millions de dollars ou plus pour la formation à l’IA.

• La Silicon Valley est divisée : OpenAI s’est opposé au projet de loi et Elon Musk l’a soutenu.

Les législateurs californiens ont voté en faveur d’un projet de loi sur la sécurité de l’intelligence artificielle, qui a a semé la zizanie dans la Silicon Valley.

Le projet de loi, SB 1047, a été présenté il y a sept mois par le sénateur Scott Weiner et adopté par l’Assemblée de l’État mercredi.

Le projet de loi est désormais sur le bureau du gouverneur Gavin Newsom, qui a jusqu’au 30 septembre pour décider s’il le promulgue ou s’il y oppose son veto. Il n’a pas encore fait connaître publiquement sa position.

Le projet de loi vise à forcer le développement de mesures de sécurité dans les entreprises qui dépensent 100 millions de dollars ou plus pour former des modèles d’IA afin que leur technologie ne puisse pas être utilisée pour nuire à la société, par exemple pour créer des armes dangereuses ou lancer des cyberattaques.

Les mesures comprennent l’obligation pour les entreprises opérant en Californie de signaler tout incident de sécurité au gouvernement, protéger les lanceurs d’alerte et permettre à des tiers de tester leurs modèles pour plus de sécurité. Si nécessaire, ils inciteraient également les entreprises à mettre en place un arrêt complet.

Sélection des équipes

Le projet de loi a tracé une ligne à travers la Silicon Valley, et certaines des plus grandes figures de la technologie ont pris parti.

Jason Kwon, Directeur de la stratégie d’OpenAIa averti dans une lettre adressée au sénateur Wiener mercredi que le projet de loi pourrait freiner les progrès et chasser les entreprises de Californie.

Le créateur de ChatGPT a rejoint le poids lourd Meta dans son lobbying contre le projet de loi. Meta a déclaré que le projet de loi pourrait décourager le mouvement open source en exposant les développeurs à des responsabilités juridiques importantes.

Anciens employés d’OpenAI a déclaré que l’opposition de l’entreprise au projet de loi était décevante, mais conforme à sa trajectoire récente.

« Nous avons rejoint OpenAI parce que nous voulions garantir la sécurité des systèmes d’IA incroyablement puissants que l’entreprise développe », ont écrit dans la lettre William Saunders et Daniel Kokotajlo, anciens chercheurs d’OpenAI. « Mais nous avons démissionné d’OpenAI parce que nous avons perdu confiance dans le fait qu’elle développerait ses systèmes d’IA de manière sûre, honnête et responsable. »

Elon Musk a également soutenu le projet de loi.

Dans une publication sur les réseaux sociaux publiée lundi, Muscqui a fondé la société d’IA xAI l’année dernière et qui entretient une rivalité de longue date avec Altman d’OpenAI, a déclaré que même si c’était « une décision difficile qui va contrarier certaines personnes », il pense que « la Californie devrait probablement adopter le projet de loi SB 1047 sur la sécurité de l’IA ».

« Depuis plus de 20 ans, je suis un défenseur de la réglementation de l’IA, tout comme nous réglementons tout produit/technologie qui présente un risque potentiel pour le public », Musk a écrit sur X.

Anthropic, soutenu par Amazon, semble avoir changé de côté au milieu du débat, après que le projet de loi ait été modifié.

Dans un lettre Dans un rapport envoyé la semaine dernière au gouverneur de Californie Gavin Newsom, le PDG d’Anthropic, Dario Amodei, a déclaré que les « avantages du projet de loi dépassent probablement les coûts ». Il a toutefois ajouté que « nous n’en sommes pas certains et que certains aspects du projet de loi nous semblent encore préoccupants ou ambigus ».

Amodei a déclaré que le projet de loi « nous semble désormais être à mi-chemin entre notre version suggérée et le projet de loi original ».

Lire l’article original sur Business Insider