GENÈVE: La police et les gardes-frontières doivent lutter contre le profilage racial et veiller à ce que leur utilisation des «mégadonnées» collectées via l’intelligence artificielle ne renforce pas les préjugés contre les minorités, ont déclaré jeudi des experts des Nations Unies.
Les entreprises qui vendent des systèmes de profilage algorithmique à des entités publiques et à des entreprises privées, souvent utilisées pour filtrer les candidats à un emploi, doivent être réglementées pour empêcher l’utilisation abusive des données personnelles qui perpétue les préjugés, ont-ils déclaré.
«C’est un moyen technologique en développement rapide utilisé par les forces de l’ordre pour déterminer, à l’aide du big data, qui est susceptible de faire quoi. Et c’est le danger », a déclaré à Reuters Verene Shepherd, membre du Comité des Nations Unies pour l’élimination de la discrimination raciale.
«Nous avons entendu parler d’entreprises utilisant ces méthodes algorithmiques pour discriminer en fonction de la couleur de la peau», a-t-elle ajouté, parlant de la Jamaïque.
Shepherd, un historien, a conduit les 18 experts indépendants à rédiger une «recommandation générale» aux 182 pays qui ont ratifié un traité international contraignant interdisant la discrimination raciale.
Les minorités et les militants se sont plaints de l’utilisation croissante de l’intelligence artificielle, de la reconnaissance faciale et d’autres nouvelles technologies, a-t-elle déclaré.
«Il est largement utilisé aux États-Unis d’Amérique, et nous avons également reçu des plaintes de communautés noires de l’Union européenne. Et l’Amérique latine, où les personnes d’ascendance africaine et les populations autochtones se plaignent du profilage », a déclaré Shepherd, citant le Brésil et la Colombie. «Ce sont les points chauds où nous entendons parler de cas de profilage plus répandus.»
Des manifestations contre le racisme et la brutalité policière ont éclaté aux États-Unis après la mort en mai de George Floyd, un Afro-américain décédé après qu’un policier de Minneapolis s’est agenouillé sur son cou pendant près de neuf minutes.
De nombreux policiers utilisent des systèmes de profilage «prédictifs» qui conduisent à des contrôles d’identité, des contrôles routiers et des fouilles, sur la base des données d’arrestations antérieures concernant un quartier, a déclaré Shepherd.
Le comité recommande que les personnes qui ont été ciblées méritent une compensation, a-t-elle déclaré, ajoutant: «Si elles vivent pour raconter l’histoire, au fait, parce que nous savons que parfois cela finit mal.»
