La reconnaissance faciale par l’IA donne lieu à des procès intentés par des plaignants noirs

Ils lui ont dit qu’il était recherché pour des crimes commis en Louisiane, avant de l’emmener en prison. Reid, qui préfère être identifié comme Quran, a passé les jours suivants enfermé, essayant de comprendre comment il pouvait être un suspect dans un état qu’il dit n’avoir jamais visité.

Un procès intenté ce mois-ci accuse un inspecteur du shérif de la paroisse de Jefferson, en Louisiane, d’avoir abusé de la technologie de reconnaissance faciale pour lui faire subir cette épreuve.

“J’étais confus et en colère parce que je ne savais pas ce qui se passait”, a déclaré M. Quran à l’Associated Press. Ils ne pouvaient pas me donner d’autres informations que “Vous devez attendre que la Louisiane vienne vous chercher”, et il n’y avait pas de délai pour cela.

Quran, 29 ans, fait partie d’au moins cinq plaignants noirs qui ont intenté des actions en justice contre les forces de l’ordre ces dernières années, affirmant qu’ils avaient été mal identifiés par la technologie de reconnaissance faciale et arrêtés à tort. Trois de ces procès, dont celui d’une femme enceinte de huit mois accusée d’un vol de voiture, ont été intentés contre la police de Détroit.

Cette technologie permet aux forces de l’ordre d’introduire des images issues de la vidéosurveillance dans un logiciel qui peut rechercher une correspondance possible dans les bases de données gouvernementales ou les médias sociaux.

Ses détracteurs affirment qu’elle entraîne un taux plus élevé d’erreurs d’identification chez les personnes de couleur que chez les personnes blanches. Ses partisans affirment qu’elle a joué un rôle essentiel dans l’arrestation de trafiquants de drogue, la résolution de meurtres et de cas de personnes disparues, ainsi que dans l’identification et le sauvetage de victimes de la traite des êtres humains. Ils affirment également que la grande majorité des images examinées sont des photos de criminels, et non des photos de permis de conduire ou d’individus pris au hasard.

Néanmoins, certains États et certaines villes ont limité son utilisation.

“L’utilisation de cette technologie par les forces de l’ordre, même si des normes et des protocoles sont en place, pose de graves problèmes de liberté civile et de respect de la vie privée”, a déclaré Sam Starks, avocat principal du cabinet Cochran à Atlanta, qui représente Quran. “Et c’est sans parler de la fiabilité de la technologie elle-même.

La plainte de Quran a été déposée le 8 septembre devant le tribunal fédéral d’Atlanta. Elle désigne le shérif de la paroisse de Jefferson, Joseph Lopinto, et le détective Andrew Bartholomew comme défendeurs.

Bartholomew, utilisant la vidéo de surveillance, s’est appuyé uniquement sur une correspondance générée par la technologie de reconnaissance faciale pour demander un mandat d’arrêt contre Reid après l’utilisation d’une carte de crédit volée pour acheter deux sacs à main pour plus de 8 000 dollars dans un magasin de consignation près de la Nouvelle-Orléans en juin 2022, selon le procès.

“Bartholomew n’a même pas effectué une recherche élémentaire sur M. Reid, qui aurait révélé que ce dernier se trouvait en Géorgie au moment du vol”, indique le procès.

Joint par téléphone, Bartholomew n’a fait aucun commentaire. Un porte-parole du bureau du shérif, le capitaine Jason Rivarde, a déclaré que le bureau ne commentait pas les litiges en cours.

Dans une déclaration sous serment demandant le mandat, Bartholomew a cité des photos de la vidéo de surveillance, mais n’a pas mentionné l’utilisation de la technologie de reconnaissance faciale, selon le procès de Quran.

Le détective a déclaré avoir été informé par une “source crédible” que l’un des suspects de la vidéo était Quran. Une photographie de Quran prise par le Department of Motor Vehicles semble correspondre à la description du suspect sur la vidéo de surveillance, a déclaré Bartholomew.

Starks pense que la source citée par Bartholomew était une technologie de reconnaissance faciale, ce qui rend la déclaration sous serment “au mieux trompeuse”, a-t-il déclaré. Un courriel envoyé en janvier par le chef adjoint de la paroisse de Jefferson, Dax Russo, au shérif en est une preuve supplémentaire, selon Starks.

Le courriel expliquant les événements qui ont conduit à l’arrestation de Quran indique que les membres de la force ont été informés à nouveau qu’ils ont besoin de preuves ou de pistes supplémentaires lorsqu’ils utilisent la technologie de reconnaissance faciale pour un mandat d’arrêt, selon l’action en justice.

Le procès accuse Bartholomew de fausse arrestation, de poursuite malveillante et de négligence. Lopinto n’a pas mis en œuvre les politiques adéquates concernant l’utilisation de la technologie de reconnaissance faciale, et devrait donc lui aussi être responsable, selon la plainte. Les dommages-intérêts demandés ne sont pas précisés.

Alors que Quran était en prison, sa famille a engagé un avocat en Louisiane qui a présenté des photos et des vidéos de Quran au bureau du shérif. La personne figurant sur les images de surveillance était beaucoup plus lourde et n’avait pas de grain de beauté comme celui de Quran, selon l’action en justice intentée par ce dernier.

Le bureau du shérif a demandé à un juge de retirer le mandat. Six jours après son arrestation, les fonctionnaires du shérif du comté de DeKalb, en Géorgie, ont libéré Quran.

Sa voiture avait été remorquée et la nourriture de la prison l’avait rendu malade, a-t-il déclaré. Quran, qui travaille dans la logistique des transports, a également manqué le travail.

Près d’un an plus tard, cette expérience le hante encore. Il se demande ce qui se serait passé s’il n’avait pas eu l’argent nécessaire pour engager un avocat. Et il pense encore à cette interpellation de la police sur une autoroute de Géorgie.

“Chaque fois que je vois la police dans mon rétroviseur, dit-il, je pense à ce qui aurait pu arriver même si je n’avais rien fait.