Approfondir la démocratie dans un monde activé par l’IA – Enjeux mondiaux

• Avis par AH Monjurul Kabir (Les Nations Unies)
• Lundi 18 septembre 2023
• Service Inter Presse

Une analyse mondiale de l’OIT suggère que la plupart des emplois et des secteurs sont plus susceptibles d’être complétés plutôt que remplacés par la dernière vague d’intelligence artificielle. août 2023

L’année 2022 a introduit l’IA dans le courant dominant grâce à une large familiarité avec les applications de Generative Pre-Training Transformer (un type de grand modèle de langage et un cadre important pour l’intelligence artificielle générative).

L’application la plus populaire est ChatGPT d’OpenAI. La fascination généralisée pour ChatGPT en a fait synonyme d’IA dans l’esprit de la plupart des consommateurs. Cependant, cela ne représente qu’une petite partie des façons dont la technologie de l’IA est utilisée aujourd’hui. Les grands modèles linguistiques pourraient perturber bien plus que la simple économie. Ils semblent également remettre en question la démocratie, y compris les formes traditionnelles d’engagement démocratique.

Aujourd’hui, en 2023, à l’occasion de la #democracyday et au-delà, ces nouvelles innovations et capacités sont tout aussi importantes pour le développement humain (pour élargir les choix des citoyens) que la capacité de lire ou de jouir d’une bonne santé.

Le débat public peut être submergé par des quantités industrielles d’arguments autogénérés. Les deepfakes et la désinformation générées par l’IA pourraient nuire aux élections et à la démocratie. Perdons également de vue l’autonomisation des citoyens, la lutte contre la corruption, la réforme de l’administration publique et la lutte contre le changement climatique.

Renforcer la surveillance et l’examen internationaux

Nous savons tous que l’IA apporte des avantages ciblés tant au développement qu’à l’agenda politique à l’ère numérique. C’est déjà le principal moteur des technologies émergentes comme le big data, la robotique et l’IoT – sans parler de l’IA générative, avec des outils comme ChatGPT et les générateurs d’art IA qui attirent l’attention du grand public. Cela peut néanmoins susciter des préjugés et compromettre considérablement la sécurité et le libre arbitre des utilisateurs du monde entier.

De plus en plus, ces éléments d’IA interdépendants et interconnectés font l’objet d’une surveillance internationale accrue. Le Conseil de sécurité de l’ONU a tenu pour la première fois une session le 18 juillet 2023 sur la menace que l’intelligence artificielle fait peser sur la paix et la stabilité internationales, et le secrétaire général de l’ONU a appelé à la création d’un organisme de surveillance mondial pour superviser une nouvelle technologie qui a suscité au moins autant de craintes. comme des espoirs.

Le rapporteur spécial des Nations Unies sur les droits des personnes handicapées a présenté un rapport (mars 2022) au Conseil des droits de l’homme sur l’intelligence artificielle (IA) et les droits des personnes handicapées. Des efforts multipartites accrus en matière de coopération mondiale en matière d’IA sont nécessaires pour contribuer à renforcer les capacités mondiales en matière de développement et d’utilisation de l’IA d’une manière qui soit fiable, fondée sur les droits de l’homme, sûre et durable, et qui favorise la paix.

En fait, l’Organe consultatif multipartite de haut niveau sur l’intelligence artificielle, initialement proposé en 2020 dans le cadre de la Feuille de route du Secrétaire général pour la coopération numérique (A/74/821), est actuellement en cours de création pour entreprendre une analyse et formuler des recommandations pour la gouvernance internationale de l’intelligence artificielle (IA).

IA et démocratie : améliorer le processus démocratique

Le débat sur l’impact de l’IA sur la sphère publique est actuellement le plus important et le plus connu du grand public. Cette question est également directement liée aux débats de longue date sur la transformation structurelle de la sphère publique numérique. AI contribue aux deux aspects des aspirations démocratiques : le régime majoritaire et la protection des minorités.

Alors que le discours sur l’IA et la sphère publique démocratique se concentre principalement sur les exigences sociétales d’une démocratie saine, un discours supplémentaire examine la manière dont nous « pratiquons » la démocratie, notamment lors des élections et comment elles se déroulent. Les récents cycles électoraux dans différents pays ont clairement montré que les acteurs malveillants sont à la fois disposés et capables d’exploiter les applications numériques pour renverser la démocratie et les processus démocratiques.

Avec l’avènement de nouveaux modèles linguistiques puissants, ces acteurs disposent désormais d’une nouvelle arme puissante dans leur arsenal. Voilà de bonnes raisons de craindre que les systèmes d’IA comme ChatGPT et GPT4 nuisent à la démocratie.

L’appel à la numérisation de la politique implique souvent une montée en puissance de l’automatisation des procédures décisionnelles dans l’administration publique. Les exemples vont de l’administration sociale aux systèmes fiscaux et au contrôle des frontières. L’espoir est que, dans un monde de plus en plus complexe, l’évolution vers des systèmes hautement automatisés se traduira par un système politique plus efficace.

L’automatisation devrait éradiquer les échecs et la frustration, permettre une décision plus précise et plus rapide, et libérer des ressources pour d’autres problèmes. Cependant, il est important de s’assurer que l’automatisation valorise les réalités contextuelles.

Améliorer le processus démocratique : potentiels et défis de l’IA

Tout système réduisant l’implication personnelle nécessitera des années de tests avant d’être mis en œuvre à grande échelle. Cependant, cela pourrait grandement améliorer nos processus de plusieurs manières :

• Puisque l’IA peut comprendre les préférences individuelles, elle peut aider les électeurs à prendre des décisions et, par extension, accroître leur participation.
• L’IA aura la capacité ciblée d’identifier la fraude et la corruption dans le système.
• Grâce à de meilleurs moyens d’identifier la corruption, l’IA ouvrira la voie au vote électronique (vote électronique), créera plus de commodité et permettra à un échantillon plus large de la société de participer.
• L’IA a le potentiel de donner aux électeurs une autorité élargie, permettant ainsi à davantage de questions de faire l’objet de commentaires de la communauté et de décisions publiques.
• L’IA permettra aux électeurs de faire des choix éclairés et de prendre la décision correspondante (« explorer » et d’obtenir des informations claires sur toute décision avant de la prendre).
• L’IA aura la capacité de faire face aux campagnes négatives, aux reportages biaisés et aux arguments inutiles.
• L’IA a le potentiel de réduire le coût des campagnes électorales, de réduire la dépendance à l’égard des contributeurs et de réduire la corruption politique.
• L’IA a le potentiel d’atteindre ceux qui sont traditionnellement exclus ou marginalisés dans les processus publics.

Il va sans dire que tous ces potentiels, s’ils ne sont pas exploités correctement, pourraient finir par nuire au processus démocratique.

Quête du pluralisme dans la démocratie : la diversité, l’égalité et l’inclusion (DEI) peuvent-elles aider ?

L’IA peut jouer un rôle crucial dans la progression du programme de diversité et d’inclusion en luttant contre les préjugés, en promouvant l’équité et en permettant des opportunités équitables. En exploitant les capacités de l’IA, les organisations peuvent identifier et atténuer les préjugés, améliorer les pratiques de recrutement, améliorer l’accessibilité, promouvoir l’inclusion et cultiver un environnement inclusif. Un défi de taille qui nécessite beaucoup plus de travail et de véritables engagements grâce à l’innovation contextuelle.

Alors qu’il existe une prise de conscience croissante des vastes défis en matière de droits de l’homme que ces nouvelles technologies peuvent poser, un débat plus ciblé sur les défis spécifiques de ces technologies pour différents groupes, y compris les droits des personnes handicapées, est nécessaire de toute urgence.

Les droits de participation s’appliquent de manière intersectionnelle et couvrent, entre autres, les peuples autochtones, les migrants, les minorités, les femmes, les enfants et les personnes âgées handicapées. Par exemple, le droit des personnes handicapées et de leurs organisations représentatives, y compris les organisations dirigées par des femmes handicapées, de participer au processus électoral et aux politiques publiques, y compris l’élaboration des politiques en matière d’intelligence artificielle, ainsi qu’aux décisions concernant son développement, son déploiement et son utilisation, est essentiel pour tirer le meilleur parti de l’intelligence artificielle. intelligence et éviter le pire.

La question demeure : l’IA peut-elle être une véritable fenêtre sur le monde pour les groupes défavorisés et les communautés marginalisées ?

L’avenir …

Le discours sur l’IA et la démocratie en est encore à ses balbutiements. Les traitements universitaires et l’adaptation des politiques ont commencé à peu près au même moment et sont aujourd’hui encore principalement motivés par des débats plus larges sur la numérisation et la démocratie et par des cas exemplaires d’abus.

Les gouvernements doivent développer une expertise en matière d’intelligence artificielle afin de pouvoir élaborer des lois et des réglementations éclairées qui répondent à cette nouvelle technologie. Ils devront faire face à la désinformation et aux deepfakes, aux menaces pour la sécurité, aux changements sur le marché du travail et à leur impact sur l’éducation.

Pour ne citer qu’un exemple : la loi doit être claire sur les utilisations légales des deepfakes et sur la manière dont les deepfakes doivent être étiquetés afin que chacun comprenne quand quelque chose qu’il voit ou entend n’est pas authentique.

Peut-être avons-nous besoin d’une analyse plus approfondie pour voir comment le pouvoir politique et les institutions – formelles et informelles, nationales et internationales – façonnent le progrès humain dans un monde encore profondément fragmenté, rendu possible par l’IA.

Tout en se concentrant sur le renforcement de la coopération sur les défis critiques et en comblant les lacunes de la gouvernance mondiale, réaffirmons les engagements existants, notamment en faveur des objectifs de développement durable (ODD) et de la Charte des Nations Unies, et progressons vers un système multilatéral revigoré qui est mieux placé pour avoir un impact positif sur la vie des gens, le Sommet des Nations Unies sur le futur 2024 proposé devrait se pencher sur ces défis.

Nous devons évaluer ce qu’il faudra aux pays pour établir des systèmes de gouvernance démocratiques dans un monde croissant d’IA et de numérique qui favorisent le développement humain de tous dans un monde où tant de personnes sont laissées pour compte.

Dr AH Monjurul Kabir, conseillère principale au siège d’ONU Femmes, est politologue, analyste politique et spécialiste du droit et des droits de l’homme sur les questions mondiales et les tendances interrégionales. À des fins académiques, il peut être suivi sur Twitter à mkabir2011. Les opinions exprimées dans cet article le sont à titre personnel.

IPS Bureau de l’ONU

© Inter Press Service (2023) — Tous droits réservésSource originale : Inter Press Service