Révélé : le gouvernement utilise l’IA pour décider des avantages sociaux et des permis de conduire

Les responsables gouvernementaux utilisent l’intelligence artificielle (IA) pour décider de tout, de l’approbation des licences de mariage à qui devrait bénéficier des avantages, a-t-il été révélé.

Selon une enquête, les fonctionnaires d’au moins huit départements de Whitehall et plusieurs forces de police s’appuient sur l’IA pour prendre des décisions en matière de protection sociale, d’immigration et de justice pénale.

Les découvertes choquantes incluent l’utilisation d’un algorithme par le ministère du Travail et des Pensions (DWP) pour identifier une fraude potentielle aux prestations.

L’étude a également révélé qu’un outil de reconnaissance faciale utilisé par la police métropolitaine peut commettre plus d’erreurs en reconnaissant les visages noirs que les blancs.

Et il a montré qu’un algorithme utilisé par le ministère de l’Intérieur pour détecter les faux mariages ciblait de manière disproportionnée certaines nationalités.

L’enquête, menée par The Guardian, a montré qu’au moins huit départements de Whitehall utilisent l’IA d’une manière ou d’une autre, certains beaucoup plus que d’autres.

Le NHS s’est également appuyé sur l’IA dans certains contextes, notamment pendant la pandémie, pour identifier les patients à risque qui devraient se protéger.

Et le ministère de l’Intérieur l’utilise pour son « outil de mariage simulé », qui, selon le Guardian, signale de manière disproportionnée des personnes originaires d’Albanie, de Grèce, de Roumanie et de Bulgarie.

Il utilise également la technologie pour les portes d’embarquement électroniques dans les aéroports et dans le processus de demande de passeport.

Et le DWP a utilisé l’IA pour détecter les fraudes et les erreurs parmi les demandeurs de prestations.

Marion Oswald, professeur de droit à l’Université de Northumbria et ancienne membre du conseil consultatif gouvernemental sur l’éthique des données, a déclaré au journal : « Il y a un manque de cohérence et de transparence dans la manière dont l’IA est utilisée dans le secteur public. Beaucoup de ces outils affecteront de nombreuses personnes dans leur vie quotidienne, par exemple ceux qui réclament des prestations, mais les gens ne comprennent pas pourquoi ils sont utilisés et n’ont pas la possibilité de les contester.»

Signe de l’adoption croissante de l’IA par le gouvernement, les ministres ont alloué en août un investissement de 13 millions de livres sterling visant à faire progresser la recherche sur l’utilisation de cette technologie dans le domaine des soins de santé.

Cette décision, annoncée par la secrétaire à la Technologie Michelle Donelan, coïncide avec la nomination de deux experts de premier plan chargés de diriger les préparatifs du prochain grand sommet international sur l’utilisation responsable de l’IA.

Rishi Sunak tente de présenter la Grande-Bretagne comme un leader mondial dans le développement et la réglementation de l’IA.