Biden s’attaque à l’IA – et à l’industrie technologique

À travers ses nombreuses dispositions, l’ordonnance ordonne aux agences fédérales à la fois de déployer l’IA et de se prémunir contre ses éventuels biais ; oblige les développeurs des plus grands modèles d’IA à suivre de nouvelles directives de sécurité ; et crée des normes gouvernementales et industrielles pour discerner le contenu généré par l’IA.

La Maison Blanche a publié un résumé général des principaux points de l’ordonnance avant la cérémonie de signature de lundi. De plus amples détails figuraient dans un projet divulgué de l’exécutif obtenu plus tôt par POLITICO.

Lisez l’analyse complète de POLITICO du projet de décret ici.

En l’absence de toute action du Congrès dans un avenir proche, l’ordonnance définira probablement les interactions de Washington avec un secteur largement non réglementé de l’industrie technologique américaine.

Leader de la majorité démocrate au Sénat Chuck Schumer n’a pas immédiatement commenté la commande mais la semaine dernière a appelé le gouvernement fédéral à investir dans des garde-fous pour empêcher « les mauvaises choses » dans l’IA.

Cette ordonnance ambitieuse approfondit les détails techniques des projets du gouvernement fédéral en matière d’IA. Il ordonne aux agences de clarifier leurs normes en matière de développement de l’IA, à la fois pour guider l’industrie et pour éviter toute discrimination – un objectif prioritaire de la Maison Blanche. Déclaration des droits de l’IA.

L’ordonnance révèle également les limites du pouvoir d’application du pouvoir exécutif sur les entreprises privées développant cette technologie, et risque d’attiser les tensions avec une industrie riche qui n’est pas habituée à une réglementation significative.

“Il y a un énorme écart entre les objectifs et la réalité dans l’ensemble de l’EO”, a déclaré Daniel Castro, vice-président de la Fondation pour les technologies de l’information et l’innovation. soutenu par Google, Amazon, Microsoft et d’autres entreprises technologiques.

Après avoir vu l’aperçu de la commande par la Maison Blanche, Castro a souligné l’accent mis sur le développement de normes industrielles pour relever les défis, comme l’utilisation de l’IA pour concevoir des armes biologiques et identifier les médias générés par l’IA.

“Les décideurs politiques oublient souvent que la raison pour laquelle l’industrie n’a pas encore adopté certaines solutions est parce que la solution n’existe pas encore”, a déclaré Castro.

IA avancée

Le décret invoque la loi sur la production de défense datant de la guerre de Corée pour suivre les entreprises développant les systèmes d’IA les plus puissants – ce que l’on appelle les modèles frontières qui représentent la pointe de la technologie.

L’ordonnance délègue le pouvoir de fixer les exigences en matière de déclaration au ministère du Commerce.

Cela signifiera probablement des négociations entre le ministère du Commerce, le secteur technologique et la société civile sur la manière de surveiller les grandes entreprises qui construisent les systèmes d’IA les plus avancés – des entreprises qui ont, dans certains cas, demandé des conseils à Washington, mais qui surveillent également de près. le fonctionnement de la technologie.

Castro, de la Fondation pour les technologies de l’information et l’innovation, a déclaré que l’ordonnance “contient de nombreux détails qui doivent encore être complétés”.

Sur les discriminations : déléguer aux agences fédérales

Selon un projet d’ordonnance consulté par POLITICO, l’ordonnance ordonne à chaque agence fédérale de créer le poste de responsable de l’IA, suivi d’une note du Bureau de la gestion budgétaire, décrivant les responsabilités de chaque responsable fédéral de l’IA.

Certaines agences, comme le Département de la Sécurité intérieure, ont déjà nommé un responsable de l’IA.

Le décret ordonne également aux agences fédérales d’utiliser leur autorité existante pour prévenir la discrimination dans des domaines tels que le logement, l’éducation et l’emploi. Les groupes de défense des droits civiques tirent depuis longtemps la sonnette d’alarme sur le fait que l’IA entraîne des résultats biaisés sous couvert d’objectivité technique. En août, la Commission américaine pour l’égalité des chances en matière d’emploi a réglé son tout premier cas sur la discrimination liée à l’IA à l’embauche.

“Le décret du président exige que des directives claires soient fournies aux propriétaires, aux programmes d’avantages sociaux fédéraux et aux entrepreneurs fédéraux pour empêcher que les algorithmes d’IA ne soient utilisés pour exacerber la discrimination”, a déclaré un haut responsable qui s’est exprimé dimanche lors d’une conférence de presse à la Maison Blanche.

Le responsable a ajouté que l’ordonnance obligerait les agences fédérales d’application de la loi, comme le ministère de la Justice, à produire un manuel pour enquêter et poursuivre les cas de violations des droits civils alimentées par l’IA.

L’accent mis par l’ordre sur les questions sociales et d’équité a suscité des critiques politiques de la droite, avant même qu’il ne soit officiellement publié. Le sénateur Ted Cruz (R-Texas), membre éminent de la commission sénatoriale du commerce, a déclaré qu’il avait vu un projet et qualifié les termes du nouvel ordre de “barrières à l’innovation déguisées en mesures de sécurité”.

« De manière typique, l’administration Biden a créé de nombreux processus bureaucratiques et mandats de veille qui sapent exactement ce que les technologies de l’IA promettent de faire : créer des gains d’efficacité, stimuler la croissance économique et améliorer nos vies », a-t-il déclaré dans un communiqué.

Les agences fédérales pourraient avoir du mal à apporter les changements systémiques dans leur gestion des outils et services basés sur l’IA que l’ordonnance appelle, déclare Janet Haven, membre du Comité consultatif national sur l’intelligence artificielle du président et directrice exécutive de l’organisation à but non lucratif de droits numériques Data & Society. . Elle l’a qualifié de « plan très ambitieux sur un court laps de temps ».

Se prémunir contre un « appétit sans fond pour les données personnelles »

Le décret vise la confidentialité des données, un domaine dans lequel le Congrès a promis d’agir depuis des années, en présentant des projets de loi bipartites sans jamais adopter de loi fédérale.

L’ordonnance ordonne aux agences fédérales d’établir des lignes directrices sur la manière dont elles collectent, utilisent et partagent les informations personnelles obtenues auprès des courtiers en données. Cela encourage également les agences à adopter des protections plus strictes de la vie privée.

S’adressant aux journalistes dimanche, le haut responsable de la Maison Blanche a fait allusion au blocage du processus législatif. “Le président n’attend pas seulement que le Congrès agisse”, a déclaré le responsable.

Caitriona Fitzgerald, directrice adjointe de l’Electronic Privacy Information Center, a salué l’approche consistant à fixer des limites de collecte de données pour les agences fédérales, notant que les contrats gouvernementaux peuvent souvent établir des normes pour l’industrie technologique dans son ensemble. Cependant, elle a déclaré que l’ordonnance laissait toujours un vide en ne traitant pas de la confidentialité des données des consommateurs – une politique qui devrait venir de Capitol Hill.

“Nous avons encore besoin que le Congrès adopte une loi complète sur la confidentialité pour mettre en place des dispositions sur la minimisation des données”, a déclaré Fitzgerald. « Sans règles de minimisation des données, la course aux armements en matière d’IA va continuer à alimenter cet appétit sans fin pour les données personnelles. »

La question du financement

Le succès de la Maison Blanche dans la réalisation des ambitions du décret dépendra en grande partie de la capacité des agences fédérales à répondre à ses exigences.

L’ordre comprend la création de groupes de travail pour s’attaquer à des problèmes tels que le renforcement de la main-d’œuvre fédérale en IA et la planification d’un déploiement responsable de l’IA dans les soins de santé.

Le financement de ces efforts nécessite une action du Congrès, qui est confronté à des conflits pour le poste de président de la Chambre et à une éventuelle fermeture imminente du budget de l’année prochaine.

« La délivrance de l’EO est la première étape. Vient maintenant la bataille budgétaire, puis vient la mise en œuvre », a déclaré Divyansh Kaushik, directrice associée pour les technologies émergentes et la sécurité nationale à la Fédération des scientifiques américains. “Il y a beaucoup de choses auxquelles les gens s’intéresseront l’année prochaine.”

Alfred Ng a contribué à ce rapport.