Des experts de l’ONU exhortent les Nations Unies à jeter les bases d’une gouvernance mondiale de l’intelligence artificielle

LES NATIONS UNIES — Un organe consultatif de haut niveau de l’ONU a déclaré jeudi que la gouvernance mondiale de intelligence artificielle est « impérative » et a exhorté les Nations Unies à jeter les bases des premières institutions mondiales inclusives pour réguler cette technologie en pleine croissance.

Dans un rapport de 100 pages, le groupe affirme que l’IA « transforme notre monde », offrant un potentiel énorme pour le bien, allant de l’ouverture de nouveaux domaines scientifiques et de l’accélération de la croissance économique à l’amélioration de la santé publique, de l’agriculture et de l’optimisation des réseaux énergétiques.

Mais si rien n’est fait, les avantages de l’IA pourraient être limités à une poignée de pays, d’entreprises et d’individus, tandis que des systèmes encore plus puissants que ceux qui existent aujourd’hui « pourraient bouleverser le monde du travail », créer des armes autonomes et présenter des risques pour la paix et la sécurité.

L’organe consultatif a défini les principes qui devraient guider la création de nouvelles institutions chargées de régir l’IA, notamment le droit international, et en particulier le droit relatif aux droits de l’homme. Il appelle tous les gouvernements et toutes les parties concernées par l’IA à travailler ensemble pour protéger les droits de l’homme.

Le groupe a formulé de nombreuses recommandations, notamment la création d’un panel scientifique international sur l’IA pour créer une compréhension mondiale de ses capacités et de ses risques, et un dialogue mondial sur la gouvernance de l’IA à l’ONU pour ancrer les futures institutions sur les principes des droits de l’homme et du droit international.

Les recommandations appellent également à la création d’un fonds mondial pour l’IA afin de garantir que la technologie comble le fossé entre les nations riches et pauvres et favorise la réalisation des objectifs de développement de l’ONU pour 2030, ainsi qu’à un « échange de normes » pour favoriser la compatibilité technique.

À l’heure actuelle, selon le rapport, seuls sept des 193 pays membres de l’ONU sont parties prenantes à sept initiatives récentes et importantes en matière de gouvernance de l’IA, tandis que 118 pays, principalement du Sud, « sont totalement absents » de toute conversation.

Parmi les initiatives figurent le premier cadre juridique de l’Union européenne pour réglementer l’IA, qui est entrée en vigueur le 1er août. Ce mois-ci, Groupe des 20 principales économies mondiales ont convenu d’établir des lignes directrices pour le développement de l’intelligence artificielle, appelant à une « utilisation éthique, transparente et responsable de l’IA », avec une surveillance humaine et le respect des lois sur la vie privée et les droits de l’homme. législateurs en Californie — qui abrite de nombreuses entreprises d’IA parmi les plus importantes au monde — a récemment adopté une loi visant à réglementer l’IA, qui est actuellement devant le gouverneur.

Le rapport du comité consultatif conclut sur une note positive mais prudente.

« En tant qu’experts, nous restons optimistes quant à l’avenir de l’IA et à son potentiel positif », indique le rapport. « Cet optimisme dépend toutefois du réalisme quant aux risques et à l’inadéquation des structures et des mesures incitatives actuellement en place. »

Le conseil d’administration a souligné que « la technologie est trop importante et les enjeux trop élevés pour s’appuyer uniquement sur les forces du marché et sur un patchwork fragmenté d’actions nationales et multilatérales ».

Le secrétaire général de l’ONU, Antonio Guterres, a nommé cet organe consultatif en octobre dernier, affirmant qu’une action coordonnée était nécessaire pour empêcher que la menace de l’intelligence artificielle ne devienne un « monstre » incontrôlé.

Le groupe est composé de 39 éminents dirigeants de l’IA issus de 33 pays, choisis parmi plus de 2 000 candidatures. Ils représentent toutes les régions du monde, siègent à titre personnel et comprennent des experts issus des gouvernements, du secteur privé et de la société civile.

Guterres a salué jeudi le travail du groupe, exprimant son soutien total à ses recommandations « qui fournissent un modèle pour s’appuyer sur les efforts existants et, ensemble, façonner une architecture internationale de l’IA inclusive, agile et efficace – pour aujourd’hui et pour l’avenir ».

Lorsque le secrétaire général a déclaré aux journalistes l’année dernière qu’il prévoyait de nommer cet organe consultatif, Guterres a déclaré qu’il réagirait favorablement à une nouvelle agence de l’ONU sur l’intelligence artificielle et a suggéré comme modèle l’Agence internationale de l’énergie atomique, qui est basée sur la connaissance et dispose de certains pouvoirs de réglementation.

Mais l’organisme consultatif a déclaré qu’il ne recommandait pas la création d’une agence.

Amandeep Singh Gill, envoyé spécial du secrétaire général pour les technologies et membre de l’organe consultatif, a déclaré lors d’une conférence de presse de lancement du rapport que pour l’instant une agence n’était pas nécessaire, « mais cela ne veut pas dire que nous n’aurons jamais besoin de quelque chose comme ça ». Le conseil souhaite que cette possibilité soit étudiée, a-t-il déclaré.

Le rapport a été publié avant le Sommet du futur qui débute dimanche et que Guterres a convoqué pour tenter d’unir les nations divisées du monde et de répondre aux défis et aux menaces auxquels l’humanité est confrontée, des conflits et du changement climatique à l’intelligence artificielle et à la réforme de l’ONU.