Skip to content

VATICAN CITY (Reuters) – Le Vatican s'est associé vendredi aux géants de la technologie Microsoft et IBM pour promouvoir le développement éthique de l'intelligence artificielle (IA) et appeler à la réglementation des technologies intrusives telles que la reconnaissance faciale.

Le Vatican rejoint IBM et Microsoft pour réclamer une réglementation sur la reconnaissance faciale

PHOTO DE FICHIER: Le pape François salue lors de l'audience générale hebdomadaire au Vatican, le 26 février 2020. REUTERS / Remo Casilli

Les trois ont déclaré que l'IA devrait respecter la vie privée, travailler de manière fiable et sans parti pris, tenir compte des droits de l'homme et fonctionner de manière transparente.

Le pape François, qui a exprimé ses inquiétudes quant à la diffusion incontrôlée des technologies de l'IA, a apporté son soutien dans un discours lu en son nom lors d'une conférence à laquelle assistait le président de Microsoft, Brad Smith (MSFT.O) et IBM (IBM.N) Vice-président John Kelly. Le pape est malade et n'a pas pu livrer l'adresse lui-même.

Appelant au développement éthique d'algorithmes, appelés «algor-éthique», Francis a mis en garde contre les dangers de l'IA utilisée pour extraire des données à des fins commerciales ou politiques, souvent à l'insu des individus.

"Cette asymétrie, par laquelle quelques privilégiés savent tout sur nous alors que nous ne savons rien d'eux, émousse la pensée critique et l'exercice conscient de la liberté", a-t-il déclaré dans son message.

«Les inégalités augmentent énormément; les connaissances et les richesses s'accumulent entre quelques mains, ce qui représente un grave risque pour les sociétés démocratiques », a-t-il déclaré.

Le document conjoint faisait spécifiquement référence aux abus potentiels de la technologie de reconnaissance faciale.

"De nouvelles formes de réglementation doivent être encouragées pour promouvoir la transparence et le respect des principes éthiques, en particulier pour les technologies avancées qui ont un risque plus élevé d'avoir un impact sur les droits de l'homme, comme la reconnaissance faciale", indique le document.

La police a utilisé des systèmes de reconnaissance faciale pour enquêter sur les crimes, et les entreprises du Fortune 500 ont utilisé l'IA pour examiner les candidats à un emploi – les deux exemples de tâches à enjeux élevés où le déploiement de logiciels inexacts ou biaisés pourrait entraîner des dommages.

Il n'était pas immédiatement clair si d'autres sociétés de technologie pourraient adhérer au document, ni comment les signataires appliqueraient les principes.

IBM, par exemple, veut qu'un médecin soit au courant lorsque sa technologie d'IA fait des recommandations en matière de soins de santé – ce qui pourrait augmenter avec le temps suite à un accord avec l'hôpital pour enfants Bambino Gesù, propriété du Vatican à Rome.

Ce partenariat se concentrera sur le développement de technologies pour accélérer le diagnostic et le traitement des patients atteints de tumeurs cérébrales.

IBM et Microsoft ont tous deux déclaré avoir refusé de travailler lorsqu'ils se sentaient mal à l'aise avec la façon dont un client souhaitait utiliser sa technologie.

La conférence de Rome a été le dernier exemple du Vatican essayant de garder une longueur d'avance sur les questions technologiques et sociales afin d'influencer les pionniers de l'avenir, quelle que soit leur religion.

Les responsables du Vatican ont déclaré qu'ils pourraient fournir des documents pour un éventuel document papal sur l'IA, tout comme les réunions avec des scientifiques ont contribué à façonner l'encyclique historique du pape «Laudato Si» de 2015 sur la protection de l'environnement.

Reportage supplémentaire de Jeffrey Dastin à San Francisco; Montage par Mark Potter

Nos normes:Les principes du Thomson Reuters Trust.