Le gouverneur Gavin Newsom oppose son veto au projet de loi sur la sécurité de l’IA opposé par la Silicon Valley

Le gouverneur Gavin Newsom a opposé dimanche son veto au SB 1047, un projet de loi sur la sécurité de l’intelligence artificielle qui aurait établi des exigences pour les développeurs de modèles d’IA avancés pour créer des protocoles visant à prévenir les catastrophes.

Le projet de loi, présenté par le sénateur Scott Wiener (Démocrate de San Francisco), aurait exigé que les développeurs soumettent leurs plans de sécurité au procureur général de l’État, qui pourrait les tenir responsables si les modèles d’IA qu’ils contrôlent directement causaient des dommages ou des menaces imminentes. la sécurité publique.

De plus, la législation aurait exigé que les entreprises technologiques puissent désactiver les modèles d’IA qu’elles contrôlent directement en cas de problème.

Dans son message de veto, Newsom a déclaré que la législation pourrait donner au public un « faux sentiment de sécurité quant au contrôle de cette technologie en évolution rapide » car elle ne cible que les modèles d’IA coûteux et à grande échelle et non les systèmes spécialisés plus petits.

« Bien que bien intentionné, le SB 1047 ne prend pas en compte si un système d’IA est déployé dans des environnements à haut risque, implique une prise de décision critique ou l’utilisation de données sensibles », indique le message de veto de Newsom. « Au lieu de cela, le projet de loi applique des normes strictes, même aux fonctions les plus élémentaires, à condition qu’un grand système le déploie. Je ne pense pas que ce soit la meilleure approche pour protéger le public des menaces réelles posées par la technologie.

Le gouverneur a également annoncé dimanche que son administration avait fait appel à des leaders dans le domaine pour aider l’État à créer des protections viables pour le déploiement de l’IA, en se concentrant sur l’analyse de ses capacités et de ses risques. Newsom a promis de continuer à travailler avec l’Assemblée législative sur cette question lors de la prochaine session.

Le projet de loi a été âprement débattu dans la Silicon Valley, avec le soutien du Center for AI safety, du directeur général de SpaceX, Elon Musk, du comité de rédaction du LA Times et d’éminents chercheurs en IA, mais il a été combattu par la société mère de Facebook, Meta, le créateur de ChatGPT, OpenAI, et plusieurs membres du Congrès démocrate. dont Nancy Pelosi (D-San Francisco).

Les partisans ont déclaré qu’il était important de mettre en place des garde-fous pour l’évolution rapide de la technologie de l’IA afin de prévenir de futurs dommages catastrophiques, tandis que les opposants ont déclaré que de telles mesures pourraient étouffer l’innovation.

Bien qu’il soit possible pour le projet de loi de surmonter le veto du gouverneur avec un vote des deux tiers des deux chambres, cela constitue un obstacle majeur à surmonter et ce serait inhabituel.

Newsom a déclaré plus tôt ce mois-ci lors d’une discussion au coin du feu à Dreamforce, une conférence technologique à San Francisco, que le SB 1047 avait généré un discours public démesuré, ajoutant qu’il avait « créé son propre système météorologique ».

Il a également évoqué les défis liés à la réglementation de l’IA.

« Nous avons travaillé au cours des deux dernières années pour parvenir à une réglementation rationnelle qui encourage la prise de risque, mais pas l’imprudence… », a déclaré Newsom.

Les partisans et les opposants du SB 1047 ont mis leurs ressources en commun pour exprimer leurs points de vue. Plus de 125 acteurs, producteurs, réalisateurs, artistes musicaux et autres dirigeants de l’industrie du divertissement, dont d’éminents démocrates, ont signé une lettre exhortant Newsom à signer le projet de loi. Les signataires de la lettre comprenaient les acteurs Pedro Pascal et Alec Baldwin, ainsi que la productrice exécutive de « Bridgerton », Shonda Rhimes.

« Nous voulons continuer à croire que vous êtes un leader qui défendra le bien-être de tous, et pas seulement celui de quelques géants de la Silicon Valley », indique la lettre.

Pendant ce temps, la Chambre du Progrès, qui s’oppose au projet de loi, a publié un Chanson rock générée par l’IA avec des paroles incluant « opposez votre veto aux chaînes qui nous retiennent ».

« C’est l’une de ces factures qui arrivent rarement sur votre bureau, où cela dépend de qui était la dernière personne à l’appel en termes de persuasion », a déclaré Newsom dans une interview avec le Times plus tôt ce mois-ci. « Cela divise tellement de gens. »