Développer des technologies numériques plus sûres pour tous – Monde

Les nouvelles technologies numériques ont transformé la façon dont les gens vivent à bien des égards en créant de la croissance économique et de la création d’emplois, en favorisant les progrès scientifiques, en renforçant le militantisme en faveur des droits de l’homme et en offrant de nouvelles opportunités dans toutes les parties de la société, selon Lene Wendland, chef du département des droits de l’homme de l’ONU. Unité des entreprises et des droits de l’homme. Les technologies numériques peuvent également contribuer à faire progresser tous les objectifs de développement durable (ODD), a-t-elle ajouté.

Dans le même temps, le côté sombre de ces mêmes innovations peut présenter de graves risques pour les droits des personnes, notamment en portant atteinte à la vie privée, à travers la diffusion de discours de haine, la désinformation, l’affaiblissement des processus démocratiques et l’augmentation de la violence en ligne contre les femmes. et les personnes LGBTI, selon Wendland.

C’est pourquoi il était vital pour les Droits de l’homme de l’ONU, qui prend la tête des entreprises et des droits de l’homme au sein du système des Nations Unies, de créer le projet Entreprises et droits de l’homme dans la technologie (Projet B-Tech) en 2019, afin de répondre à ces problèmes. problèmes en fournissant une feuille de route faisant autorité pour appliquer les Principes directeurs des Nations Unies relatifs aux entreprises et aux droits de l’homme (UNGP) au développement et à l’utilisation des technologies numériques.

Le Bureau a joué un rôle déterminant en plaidant pour que les entreprises soient tenues responsables de violations des droits de l’homme, conformément aux Principes directeurs des Nations Unies. Il y a douze ans, les UNGP ont changé les attentes quant à la manière dont les entreprises devraient faire des affaires. Avant les Principes directeurs, la mesure dans laquelle les droits de l’homme s’appliquaient aux entreprises était autrefois un sujet de division et de polarisation. Les Principes directeurs sont rapidement devenus la norme mondiale que les pays et les entreprises peuvent utiliser comme manuel universel pour prévenir, traiter et remédier aux violations des droits de l’homme liées aux activités commerciales.

« Les UNGP ont permis des progrès révolutionnaires sur la manière de faire des affaires dans le respect des droits de l’homme et fournissent le cadre idéal pour prévenir, traiter et remédier aux dangers potentiels et réels liés aux technologies numériques », a déclaré Wendland.

Un cadre des droits de l’homme pour la technologie

Grâce au projet B-Tech, le Bureau travaille directement avec des entreprises telles que Microsoft, Hewlett Packard Enterprise, Google et Meta. Le projet s’engage non seulement avec des partenaires privés, mais aussi avec les gouvernements, le monde universitaire et la société civile en offrant un espace sûr pour s’engager et apprendre les uns des autres.

Les quatre domaines clés sur lesquels le projet B-Tech se concentre sont : la prise en compte des risques liés aux droits de l’homme dans les modèles commerciaux, la diligence raisonnable et l’utilisation finale en matière de droits de l’homme, la responsabilité et les recours, et l’exploration des réponses réglementaires et politiques aux défis en matière de droits de l’homme liés aux technologies numériques. L’accent est également mis sur le rôle des investisseurs technologiques.

« Nous ne pouvons pas y parvenir seuls. Nous avons besoin de ces engagements stratégiques et de ces partenariats stratégiques pour que ce projet ait un impact.
LENE WENDLAND, CHEF DE L’UNITÉ DES ENTREPRISES ET DES DROITS DE L’HOMME, DROITS DE L’HOMME DE L’ONU

Wendland félicite Google pour son engagement ferme à travailler en collaboration via B-Tech pour relever les défis en matière de droits de l’homme, notamment dans le domaine de l’IA générative. Le programme Google pour les droits de l’homme fait progresser la stratégie de Google en matière de droits civils et humains à l’échelle de l’entreprise.

“Notre équipe est chargée de travailler au sein de Google pour développer nos politiques, processus et outils en matière de droits de l’homme, notamment en effectuant une diligence raisonnable en matière de droits de l’homme, en fournissant des conseils à nos équipes de produits sur les risques potentiels et les atténuations, et bien plus encore”, a déclaré Shahla Naimi, adjointe mondiale. Responsable des droits de l’homme chez Google.

À Bruxelles, l’équipe des droits de l’homme de Google a récemment participé à une réunion organisée par B-Tech et la Global Network Initiative pour explorer l’IA, les droits de l’homme et l’évolution de l’environnement réglementaire aux côtés d’organisations de la société civile, d’universitaires, de décideurs politiques et d’autres entreprises.

“Chez Google, nous effectuons depuis des années une diligence raisonnable en matière de droits de l’homme sur les produits d’IA”, a déclaré Naimi. « Nous effectuons ce travail pour identifier les impacts négatifs réels et potentiels ainsi que les opportunités d’actions appropriées pour éviter, prévenir ou atténuer ces impacts. Nos efforts de diligence raisonnable sur l’IA générative s’inscrivent dans la continuité de ces efforts à long terme.

Par exemple, a déclaré Naimi, Google a mené une diligence raisonnable spécifique au produit pour éclairer une approche basée sur les droits pour les futurs produits de services qui intégreront ou déploieront une IA générative d’une portée, d’une échelle et d’une probabilité d’impact significatives. D’autres travaux comprenaient une analyse indépendante des produits de l’IA générative qui prend en compte les risques à long terme liés aux droits de l’homme pour les personnes et la société, afin d’éclairer la compréhension de Google des dommages et opportunités potentiels liés à leurs produits, a-t-elle ajouté.

Naimi a déclaré que le Bureau leur a fourni des conseils, un soutien et des commentaires essentiels alors qu’ils s’efforcent de respecter leurs engagements en matière de droits de l’homme et de mettre en œuvre les Principes directeurs dans l’ensemble de leur entreprise. Il s’agit également d’un forum utile pour dialoguer avec ses pairs et la société civile sur les défis et les opportunités liés à la diligence raisonnable en matière de droits de l’homme dans le secteur technologique.

« Les droits de l’homme des Nations Unies nous fournissent non seulement des conseils faisant autorité sur la mise en œuvre des Principes directeurs, mais ils nous fournissent également un lieu où nous pouvons apprendre aux côtés d’autres entreprises lors d’importants appels de partage d’informations et d’apprentissage », a déclaré Naimi. Communauté de pratiquepar exemple, nous aide à explorer des scénarios épineux avec d’autres entreprises et à obtenir des conseils pratiques de la part des droits de l’homme des Nations Unies dans le processus.

Responsabilité

Le Business & Human Rights Resource Centre (BHRRC), un partenaire de la société civile B-Tech, suit plus de 10 000 entreprises dans le monde et se concentre principalement sur l’intersection des entreprises et leur impact sur les droits de l’homme.

Gayatri Khandhadai, responsable de la technologie et des droits de l’homme au BHRRC, contribue à promouvoir la mise en œuvre des UNGP dans les entreprises technologiques du monde entier. En tant que défenseure des droits numériques, le travail qu’elle effectue avec le projet B-Tech lui est profondément personnel, car elle a été témoin de l’impact de la violence en ligne et des violations de la vie privée et a travaillé avec de nombreux défenseurs des droits humains qui ont été ciblés.

« Il existe un sentiment d’impuissance total qui nous envahit lorsque nous sommes confrontés à des attaques en ligne. Ni l’État ni les entreprises ne sont assez rapides, même lorsqu’elles le souhaitent, pour prévenir les dommages », a-t-elle déclaré.

Son équipe surveille régulièrement l’actualité et suit les rapports de la société civile faisant état d’allégations de violations des droits de l’homme contre des entreprises technologiques dans différents sous-secteurs de l’espace technologique.

« Le secteur de la technologie est relativement plus jeune que les autres secteurs, il reste donc encore beaucoup à faire », a-t-elle déclaré. « On a souvent l’impression que les États tentent constamment de rattraper ces entreprises. Trop souvent, cela signifie que la réponse politique au secteur technologique est réactive et pas nécessairement bien réfléchie. D’une certaine manière, le cycle de responsabilisation par lequel d’autres secteurs sont passés ne se joue que maintenant pour le secteur technologique. Il y a une courbe d’apprentissage pour les entreprises technologiques pour savoir comment se tenir responsables.

Khandhadai estime que le projet B-Tech rend l’espace technologique plus sûr pour les gens dans leur vie quotidienne.

« La façon dont ils articulent les normes et les attentes des entreprises est ancrée dans le droit international, ce qui nous aide en retour dans notre plaidoyer », a-t-elle déclaré. « Ils facilitent les conversations entre les entreprises technologiques et la société civile sur les principaux défis liés aux entreprises et aux droits de l’homme au niveau international. Il n’y a pas beaucoup d’espaces où cela se produit. Je trouve leur analyse et leurs conseils novateurs et collaboratifs.