Pour l’IA générative, le groupe de travail de l’Illinois recherche une technologie « sûre, sécurisée et digne de confiance »

À l’instar d’une multitude d’autres États, l’Illinois examine attentivement les risques et les possibilités de l’intelligence artificielle générative.

Le Sénat de l’Illinois a adopté Projet de loi interne 3563 en août dernier, créant le groupe de travail de l’État sur l’IA générative et le traitement du langage naturel. Il se concentre sur le développement de meilleures pratiques en matière d’IA qui garantissent la sécurité publique, la confidentialité et l’équité. Plusieurs mois après la création du groupe de travail, Sanjay Gupta, secrétaire du ministère de l’Innovation et de la Technologie de l’Illinois et chef du groupe de travail, a partagé avec StateScoop ses réflexions sur les logiciels open source par rapport aux logiciels fermés, les créateurs et les consommateurs d’IA générative et la meilleure façon de équilibrer les avantages de la technologie avec la protection des résidents.

L’IA générative, a-t-il déclaré, se trouve à un tournant critique.

“Je pense que l’IA générative est à un point d’inflexion qui aura certainement un impact profond sur l’industrie, la technologie commerciale et le secteur public”, a déclaré Gupta, qui a passé plus de quatre ans en tant que directeur de la technologie de l’IA. Administration américaine des petites entreprises, où ses efforts pour moderniser l’agence lui ont permis de traiter plus de 1 000 milliards de dollars de prêts pour le plus grand effort de relance économique du pays. (Il est également un ancien membre du conseil d’administration du gouvernement fédéral Fonds de modernisation technologiqueoù il a aidé les agences gouvernementales à adopter de nouvelles technologies.)

Sûr, sécurisé, digne de confiance

Gupta a déclaré que l’IA judicieusement déployée peut révolutionner les industries, rationaliser les processus et stimuler la croissance économique. Il a déclaré qu’il préférait que l’État adopte un logiciel open source, qui rend son code source ouvert au public, car il offre une plus grande transparence entre les créateurs et les consommateurs quant à son fonctionnement et aux ensembles de données sur lesquels il est formé.

“Donc, de notre point de vue, cela se résume en quelque sorte au consommateur”, a déclaré Gupta, parlant des résidents de l’Illinois. “Il doit être sûr, il doit être sécurisé, il doit être digne de confiance – ce sont les trois éléments les plus importants que nous recherchons dans l’IA générative, ou dans d’autres formes d’IA dans l’État, pour garantir que nous savons ce que nous” réutiliser. Certains des ensembles fermés n’ont pas autant de transparence ou de visibilité sur ces éléments.

L’administration Biden a publié le mois dernier un long décret orienter les agences fédérales sur la manière dont elles doivent utiliser l’intelligence artificielle. Il fixe des délais pour les nouvelles études et exhorte les législateurs à élaborer de nouvelles réglementations donnant la priorité à la sûreté et à la sécurité.

Gupta a déclaré qu’il donne également la priorité à la sûreté et à la sécurité et que l’Illinois commencera par des cas d’utilisation présentant de faibles risques, mais des récompenses élevées, comme la création d’une expérience « plus riche » pour les utilisateurs en améliorant les chatbots et en augmentant la productivité en facilitant le traitement des documents par le personnel. et « synthétiser » des informations provenant de diverses sources.

« La plupart des organisations du secteur public ont un retard dans le traitement des demandes. Nous sommes également confrontés à la même situation dans cet État », a déclaré Gupta. “Cela améliore ainsi notre capacité à traiter davantage de ces demandes de manière plus rapide, ce qui nous donne une bande passante supplémentaire.”

Lorsque l’État sera prêt à poursuivre des cas d’utilisation plus avancés, a-t-il déclaré, il pourrait éventuellement envisager d’utiliser l’IA générative pour traiter les demandes de prestations et déterminer l’éligibilité, bien qu’il ait souligné l’importance de ne jamais automatiser complètement ces décisions.

Automatisation minutieuse

Gupta siège au groupe de travail de l’État sur l’IA avec 20 autres membres, des experts du secteur universitaire et privé qui, selon lui, peuvent parler des complexités de l’IA générative. Il a déclaré que le groupe de travail étudie également les possibilités permettant à l’État d’appliquer ses grands modèles linguistiques dans les domaines des salles de classe des écoles publiques, de la main-d’œuvre et de la cybersécurité.

Gupta a déclaré que même si l’IA peut automatiser des tâches répétitives, améliorant ainsi la précision et l’efficacité d’un large éventail de tâches, il est important de ne jamais permettre à un logiciel de prendre unilatéralement des décisions qui affectent les humains.

« Oui, nous pouvons automatiser les choses », a-t-il déclaré. « Mais le niveau d’automatisation que nous devrons réaliser est méthodique, nous commencerons par certaines des choses les plus banales et les plus basiques à automatiser. Il y aura une recommandation qui sera présentée, si vous voulez, à un ou plusieurs êtres humains, qui prendront ensuite en fin de compte la décision sur quoi faire avec la recommandation fournie par un système basé sur l’IA.

Gupta a reconnu les risques potentiels associés à une utilisation incontrôlée de l’IA générative, notamment les préjugés, le déplacement d’emplois et les problèmes de confidentialité. Il a également souligné ses limites.

« Il y aura toujours une erreur. Même les meilleurs LLM auront toujours des trous ou des lacunes. Ils ne seront pas parfaits à 100% », a-t-il déclaré. “Nous devons donc être conscients qu’il va y avoir un certain niveau d’erreurs [or] lacunes dans les connaissances qui seront là. Au fil du temps, à mesure que vous apprenez, les systèmes apprennent [and] ils deviendront meilleurs.

Le groupe de travail de l’Illinois doit tenir au moins cinq réunions publiques – à Chicago, Springfield, Metro East, Quad Cities et Southern Illinois – et résumer ses recommandations dans un rapport partagé avec le bureau du gouverneur et l’assemblée générale d’ici la fin de l’année prochaine.

Colin Wood a contribué au reportage.