Le résident du Michigan, Robert Williams, a été arrêté pour un crime qu’il n’a pas commis parce qu’un système de reconnaissance faciale a à tort suggéré qu’il était le suspect vu dans les images de la caméra de sécurité. (Grâce à l’ACLU)
En janvier 2020, Farmington Hills, Michigan, le résident Robert Williams a passé 30 heures en garde à vue après qu’un algorithme l’a répertorié comme un match potentiel pour un suspect dans un vol commis un an et demi plus tôt.
Le service de police de la ville avait envoyé des images des images de sécurité du magasin de Watch de Detroit à la police de l’État du Michigan pour parcourir sa technologie de reconnaissance faciale. Une photo de permis de conduire expirée de Williams dans la base de données de la police de l’État était un match possible, a indiqué la technologie.
Mais Williams n’était pas près du magasin le jour du vol.
L’affaire Williams, maintenant une action en justice établie qui a été déposée en 2021 par l’American Civil Liberties Union et l’initiative de litige des droits civiques du Michigan, a été le premier cas public d’arrestation injustifiée en raison de l’utilisation abusive de la technologie de reconnaissance faciale (FRT) en matière de police.
Mais l’affaire n’est pas seule. Plusieurs autres cas documentés de fausses arrestations dus au FRT sont sortis de Détroit dans les années qui ont suivi l’arrestation de Williams et à travers le pays, au moins sept Les gens ont été faussement arrêtés Après que la police ait trouvé un match potentiel dans les profondeurs des bases de données FRT.
Le procès de Williams a été le catalyseur de la modification de la façon dont le service de police de Détroit peut utiliser la technologie, et d’autres combinaisons d’arrestation injustifiées et des cas sont citées dans la législation proposée entourant la technologie. Bien qu’il puisse être difficile de légiférer la technologie qui gagne rapidement en popularité, les défenseurs de la vie privée disent que l’utilisation sans entraves est un danger pour tout le monde.
« Lorsque la police s’appuie, comptez sur eux, la vie des gens peut être bouleversée », a déclaré Nate Wessler, l’un des directeurs adjoints du projet de discours, de confidentialité et de technologie à l’ACLU national.
Comment la police utilise-t-elle FRT?
La technologie de reconnaissance faciale est devenue omniprésente dans la vie des Amerciciens et peut être utilisée pour de petites tâches personnelles comme le déverrouillage d’un téléphone ou dans des efforts plus importants, comme déplacer des milliers de personnes grâce à des contrôles de sécurité aéroportuaire.
La technologie est conçue pour évaluer une photo, souvent appelée image de sonde, contre une base de données de photos publiques. Il utilise des données biométriques comme les analyses oculaires, la géométrie faciale ou la distance entre les fonctionnalités pour évaluer les correspondances potentielles. Le logiciel FRT convertit les données en une chaîne unique de nombres, appelée faces de chevet, et présentera un ensemble de correspondances potentielles classées à partir de sa base de données d’images.
Lorsque la police utilise ces systèmes, ils téléchargent souvent des images à partir d’une caméra de sécurité ou d’une caméra usée du corps. La société populaire de l’IA Clearview, qui contracte souvent avec la police et a développé une version spécifiquement pour les enquêtes, dit qu’elle accueille plus de 50 milliards d’images faciales de sites Web publics, notamment les médias sociaux, les mugshots et les photos de permis de conduire.
Katie Kinsey, chef d’état-major et conseiller en politique technologique du projet de police, une organisation axée sur la responsabilité de la police, a déclaré qu’elle était presque certaine que si vous êtes adulte aux États-Unis, votre photo est incluse dans la base de données de Clearview et est numérisée lorsque La police recherche des matchs FRT.
« Il faudrait aucune présence sur Internet pour ne pas être dans cette base de données », a-t-elle déclaré.
L’utilisation du FRT par les organismes fédéraux d’application de la loi remonte à la technologie, plus de deux décennies, a déclaré Kinsey, mais les services de police locaux ont commencé à l’utiliser au cours des 10 dernières années.
Habituellement, la police l’utilise à la suite d’un crime, mais les libertés civiles et les problèmes de confidentialité proviennent de l’idée que la technologie pourrait être utilisée pour scanner les visages en temps réel, avec des données de géolocalisation attachées, a-t-elle déclaré. Kinsey, qui rencontre souvent des agents de l’application des lois pour développer les meilleures pratiques et suggestions législativesa déclaré qu’elle pensait que les forces de police se méfient des utilisations en temps réel.
La police de Boston a tenté de l’utiliser lors de la recherche des suspects dans le bombardement du marathon de Boston 2013, par exemple, mais l’imagerie granuleuse a gêné la technologie En identifiant les coupables, a déclaré Kinsey.
Arrestations injustifiées
Le rôle du FRT dans les cas d’arrestation injustifiée provient généralement des cas où la police n’a pas de pistes sur un crime autre qu’une image capturée par des caméras de sécurité, a déclaré Margaret Kovera, Professeur de psychologie au John Jay College of Criminal Justice et expert en identification des témoins oculaires.
Avant que la technologie ne soit disponible, la police avait besoin d’enquêter entraîner des suspects – des preuves physiques, comme une empreinte digitale ou une déclaration de témoins oculaires, peut-être. Mais avec l’accès aux caméras de sécurité et à la technologie de reconnaissance faciale, la police peut rapidement évoquer plusieurs suspects possibles qui ont une forte probabilité de match.
Avec des millions de visages dans une base de données, le pool de suspects potentiels se sent sans fin. Étant donné que la technologie trouve des correspondances qui ressemblent si à la photo fournie, quelqu’un qui choisit un suspect dans un tableau photo peut facilement faire une mauvaise identification, a déclaré Kovera. Sans une enquête supplémentaire et un travail de police traditionnel pour relier le match choisi par la technologie à une scène de crime, le match est inutile.
« Vous allez augmenter le nombre de personnes innocentes qui apparaissent en tant que suspects et vous allez réduire le nombre de coupables », a déclaré Kovera. « Et juste cet acte seul va gâcher le rapport des identifications positives en termes de combien d’entre eux sont corrects et combien d’entre eux se trompent. »
Dans les sept cas connus d’arrestation injustifiée après des matchs de FRT, la police n’a pas mené une enquête de suivi suffisante, qui aurait pu empêcher les incidents. Un homme en Louisiane J’ai passé une semaine en prison, bien qu’il soit 40 livres plus léger qu’un voleur qui aurait vu dans des images de surveillance. Une femme enceinte de huit mois à Détroit était détenu pendant 11 heures Après avoir été arrêté à tort pour détournement de voiture, malgré aucune mention du carjacker qui apparaissait enceinte.
Lorsque Williams a été arrêté en janvier 2020, il a été le neuvième meilleur match pour la personne dans les images de sécurité, Michael King, chercheur au Florida Institute of Technology (Fit) HARRIS Institute for Assured Information, a témoigné dans le procès de l’ACLU. Et les détectives n’ont pas poursuivi l’enquête sur son sort avant de procéder à l’arrestation.
La police de Détroit a utilisé l’image de licence expirée dans un tableau de photos présenté à un entrepreneur de prévention des pertes qui n’était pas présent sur les lieux du crime. L’entrepreneur de prévention des pertes a choisi Williams comme le meilleur match aux caméras de sécurité. Sans plus approfondie d’enquête sur le lieu où se trouve Williams en octobre 2018, la police de Détroit l’a arrêté et l’a gardé en détention pendant 30 heures.
Le procès indique que Williams n’a été informé qu’après plusieurs lignes d’interrogation qu’il était là en raison d’un match via la technologie de reconnaissance faciale. Dans le cadre du règlement, qui Williams est arrivé à l’été 2024La police de Détroit a dû changer la façon dont il utilise la technologie de reconnaissance faciale. La ville observe désormais certaines des utilisations les plus strictes de la technologie à travers le pays, qui est légiférée sur l’état par État.
La police ne peut plus passer directement des résultats de la technologie de reconnaissance faciale à une procédure d’identification des témoins, et ils ne peuvent pas demander un mandat d’arrêt basé uniquement sur les résultats d’une base de données de technologie de reconnaissance faciale, a déclaré Wessler. Parce qu’il peut y avoir des erreurs ou des préjugés dans la technologie, et par ses utilisateurs, les garde-corps sont importants pour se protéger contre les fausses arrestations, a-t-il déclaré.
Lois émergentes
Au début de 2025, 15 États – Washington, Oregon, Montana, Utah, Colorado, Minnesota, Illinois, Alabama, Virginie, Maryland, New Jersey, Massachusetts, New Hampshire, Vermont et Maine – a eu une législation autour de la reconnaissance faciale dans la police. Certains États, comme le Montana et l’Utah, ont besoin d’un mandat pour que la police utilise la reconnaissance faciale, tandis que d’autres, comme le New Jersey, disent que les défendeurs doivent être informés de son utilisation dans les enquêtes.
Au moins sept autres États envisagent des lois pour clarifier comment et quand la technologie peut être utilisée – les législateurs Géorgie, Hawaii, Kentucky, Massachusetts, Minnesota, New Hampshire et Virginie-Occidentale ont introduit une législation.
Comme Toutes les technologies d’IAla reconnaissance faciale peut avoir un biais de préparation ou produit des réponses défectueuses. Le FRT a historiquement perçu pire sur des groupes de visages noirs que sur le blanc, et a également montré des différences de genre. L’IA est formée pour s’améliorez avec le tempsmais les gens semblent penser qu’en impliquant simplement les humains dans le processus, nous allons attraper tous les problèmes, a déclaré Wessler.
Mais les humains ont tendance à avoir quelque chose appelé «biais d’automatisation», a déclaré Wessler – «Cette tendance câblée des gens à croire que la sortie informatique a raison autant de fois que vous dites à quelqu’un que l’algorithme pourrait se tromper.»
Ainsi, lorsque la police s’appuie sur la technologie de reconnaissance faciale comme son principal outil d’investigation, au lieu de suivre les pratiques de l’application des lois plus anciennes, il est « particulièrement insidieux » quand il va mal, a déclaré Wessler.
« Je dis souvent que c’est une technologie qui est à la fois dangereuse quand elle fonctionne et dangereuse quand elle ne fonctionne pas », a déclaré Wessler.
Kinsey a déclaré que dans son travail avec le projet de police, elle avait trouvé le soutien bipartite pour placer des garde-corps sur la police en utilisant cette technologie. Au cours de plusieurs réunions avec des défenseurs de la vie privée, des forces de police, des législateurs et des universitaires, le projet de police a développé un liste de contrôle législative.
Il explique comment les services de police pourraient utiliser la technologie avec la transparence, les tests et les stratégies de normes, la formation des officiers, les limites de procédure et la divulgation aux personnes accusées de crimes. Il indique également que la législation devrait obliger les fournisseurs à divulguer des documents sur leurs systèmes FRT, et cette législation devrait fournir des moyens de lutter contre les violations de leur utilisation.
Le projet de police fait également des recommandations similaires pour une considération du Congrès, et bien que Kinsey ait déclaré qu’elle pensait que les directives fédérales sont importantes, nous ne verrons peut-être pas la législation fédérale adoptée de sitôt. En attendant, nous continuerons probablement à voir les États s’influencer mutuellement, et les lois récentes dans le Maryland et en Virginie sont un exemple d’une large approche pour réglementer les FRT dans différents domaines.
Kinsey a déclaré que lors de ses réunions avec la police, ils affirment que les technologies sont essentielles à la résolution de la criminalité. Elle a dit qu’elle croyait qu’il y avait de l’espace pour FRT, et d’autres technologies utilisées par la police comme lecteurs de la plaque d’immatriculation et des caméras de sécurité, mais que le fait de faire un peu peut faire beaucoup de mal.
« Nous pensons que certains d’entre eux peuvent absolument fournir des avantages pour résoudre la criminalité, protéger les victimes », a déclaré Kinsey. «Mais en utilisant ces outils, en les utilisant selon des règles publiques, transparentes et à la responsabilité, ne sont pas des objectifs mutuellement exclusifs. Ils peuvent réellement se produire de concert.
