L’ordonnance Biden AI permet aux agences de faire face à des risques très variés

Le président Joe Biden signera un décret de grande envergure et complet qui régit l’utilisation de l’intelligence artificielle par les agences fédérales, selon un projet de copie obtenu par le gouvernement Bloomberg, marquant son étape la plus importante à ce jour pour faire face aux risques de la technologie émergente.

Le projet de copie de 111 pages, daté du 23 octobre, exploite la position du gouvernement en tant que principal client des entreprises technologiques telles que Microsoft Corp et Amazon.com Inc. pour conduire des changements dans leurs produits d’IA, en exigeant que les développeurs de systèmes d’IA puissants rendent compte leurs processus de formation et de tests au gouvernement fédéral.

Nous sommes désormais sur WhatsApp. Cliquez pour rejoindre.

Cette commande, qui devrait être publiée lundi, intervient alors qu’un mélange de peur et d’enthousiasme face aux progrès rapides de l’IA a catapulté cette technologie sous les projecteurs. Avec l’explosion de l’IA générative – de grands modèles de langage capables de produire du texte, des images et du son presque instantanément – ​​les Américains disposent d’outils à portée de main pour rédiger des discours, planifier des repas et accélérer la recherche, entre autres applications.

Les dirigeants de l’industrie technologique, la communauté de la sécurité nationale, les groupes de défense et d’autres acteurs des secteurs public et privé ont appelé de toute urgence le gouvernement à agir pour atténuer les risques de l’IA, en matière de vie privée, de désinformation, de discrimination et de suppression d’emplois. Les dirigeants fédéraux ont montré un grand appétit pour établir des règles qui protègent les Américains contre les pires dangers de la technologie, mais une réponse radicale n’a pas encore émergé.

La directive de Biden vise à promouvoir le déploiement sûr et responsable de l’IA avec une stratégie à l’échelle du gouvernement. Entre-temps, les législateurs du Congrès travaillent toujours à l’élaboration de règles qui établiraient des garde-fous tout en promouvant le potentiel de la technologie à stimuler l’innovation.

Embauche, Discrimination

Selon le projet de texte, le ministère du Travail serait chargé d’examiner le soutien des agences fédérales aux travailleurs déplacés par l’IA et de rédiger des lignes directrices pour les entrepreneurs fédéraux sur la prévention de la discrimination dans les systèmes d’embauche pilotés par l’IA – une préoccupation majeure des groupes de défense des droits civiques et de l’administration Biden. . La Maison Blanche demanderait également au procureur général de se coordonner avec les agences pour assurer la mise en œuvre et l’application des lois existantes concernant les violations des droits civils et la discrimination.

Le projet d’ordonnance encourage également la Federal Communications Commission à envisager d’utiliser l’IA pour bloquer les appels automatisés et les SMS indésirables et appelle les agents de l’immigration à rationaliser les exigences de visa pour les travailleurs étrangers possédant une expertise en IA. Il appellerait également les responsables de la Maison Blanche à convoquer un groupe de travail sur les talents en IA et en technologie pour le gouvernement fédéral.

Confidentialité, sécurité

La confidentialité devrait également être un domaine d’intérêt clé dans le décret, qui introduira des garanties exigeant la divulgation de la manière dont la technologie de l’IA est utilisée par les agences fédérales pour collecter ou utiliser les informations des citoyens, selon le projet.

L’ordonnance tant attendue fait suite à plus d’une douzaine de grandes sociétés d’IA, dont Microsoft, Meta, Google et OpenAI, qui ont proposé des engagements volontaires au cours de l’été pour déployer l’IA en toute sécurité, ainsi que le document directeur de la « Déclaration des droits » de l’administration sur l’IA, un document sur les droits de l’homme. pour le développement et l’utilisation sécuritaires de l’IA, publié l’automne dernier. Cela survient également alors que les États-Unis cherchent à maintenir leur avantage concurrentiel dans le domaine de l’IA, en particulier alors que la Chine s’efforce de devenir le leader mondial de cette technologie.

Le président devrait signer un décret radical sur l’IA quelques jours avant que la vice-présidente Kamala Harris et les dirigeants de l’industrie ne participent à un sommet au Royaume-Uni sur les risques liés à l’IA, dirigé par le Premier ministre Rishi Sunak. La directive lui donne des actions spécifiques sur l’IA à vanter sur la scène mondiale, alors que l’Union européenne et la Chine dépassent les États-Unis dans le développement d’une réglementation de cette technologie.

La Maison Blanche a refusé de commenter.

Focus sur les risques

L’ordonnance devrait aborder de nombreux risques liés à l’IA liés à la cybersécurité, à la défense, à la santé, au travail, à l’énergie, à l’éducation, aux avantages publics et à d’autres questions relevant de la compétence de l’agence, et soutient un grand nombre de groupes de travail et de bureaux pour développer des stratégies d’utilisation de l’IA. .

Il vise à lutter contre les préjudices causés par l’IA générative en demandant aux agences d’identifier des outils permettant de suivre, d’authentifier, d’étiqueter et d’auditer le contenu généré par l’IA, ainsi qu’à empêcher la diffusion de matériels d’abus sexuels sur des enfants et de relations intimes non consensuelles. visuels d’individus.

Le ministère de la Défense et le ministère de la Sécurité intérieure seraient chargés de développer et de déployer des capacités d’IA pour aider à détecter et corriger les vulnérabilités des infrastructures et logiciels critiques américains, selon le projet. Le DHS serait également chargé d’évaluer une éventuelle utilisation abusive de l’IA pour le développement d’armes biologiques.

Les responsables seraient également chargés d’examiner le soutien des agences aux travailleurs déplacés par l’IA et de rédiger des lignes directrices à l’intention des entrepreneurs fédéraux sur la prévention de la discrimination dans les systèmes d’embauche pilotés par l’IA. Les détails des principes attendus font suite aux préoccupations de la société civile et des experts en la matière concernant le potentiel de la technologie à remplacer certains parcours professionnels ainsi qu’à créer des opportunités.

Selon le projet de décret, les agences du gouvernement fédéral doivent s’efforcer d’empêcher toute discrimination illégale liée à l’utilisation de l’IA à l’embauche, qui constitue actuellement une priorité technologique majeure pour l’administration Biden.

Souscription, produits financiers

Dans les 180 jours, le secrétaire au Travail doit publier des directives à l’intention des entrepreneurs fédéraux sur la non-discrimination à l’embauche impliquant l’IA et d’autres systèmes d’embauche basés sur la technologie. L’Agence fédérale de financement du logement et le Bureau de protection financière des consommateurs sont également tenus de prendre des mesures si nécessaire pour lutter contre les biais causés par l’utilisation de l’outil d’IA pour la souscription de prêts et la vente d’autres produits financiers.

Le projet d’EO prévoit également des protections pour garantir que les personnes handicapées ne reçoivent pas de traitement inégal en raison de l’utilisation de l’IA, y compris de l’utilisation de données biométriques telles que la direction du regard, le suivi oculaire, l’analyse de la démarche et les mouvements de la main. En outre, l’ordonnance devrait introduire des mesures de protection de la vie privée exigeant la divulgation de la manière dont la technologie de l’IA est utilisée par les agences gouvernementales fédérales pour collecter ou utiliser les informations des citoyens.

Encore une chose ! HT Tech est maintenant sur les chaînes WhatsApp ! Suivez-nous en cliquant sur le lien pour ne manquer aucune mise à jour du monde de la technologie. Cliquez sur ici à rejoindre maintenant !