Pourquoi il est important que Microsoft et Amazon ne vendent plus de reconnaissance faciale à la police

Pourquoi il est important que Microsoft et Amazon ne vendent plus de reconnaissance faciale à la police

Publié le 17 juin 2020 à 10h19

Une liste croissante d’entreprises technologiques interdisent l’utilisation d’ outils de reconnaissance faciale par les forces de l’ordre. Microsoft et Amazon ont rejoint IBM, qui avait précédemment déclaré qu’il abandonnait complètement la fabrication de la technologie.

Les logiciels de reconnaissance faciale  sont devenus une partie croissante de notre vie quotidienne car nos smartphones, tablettes et de nombreux ordinateurs portables utilisent la technologie pour sécuriser ou déverrouiller . C’est également devenu un domaine d’intérêt pour les entreprises qui souhaitent tirer parti de la puissance de l’intelligence artificielle (IA) pour automatiser des processus qui prenaient auparavant beaucoup de temps et devaient être effectués manuellement.

À mesure que l’utilisation de la reconnaissance faciale augmente,  les défenseurs de la vie privée se sont dits préoccupés par le fait qu’elle porte atteinte à la vie privée et contribue à la discrimination. Jusqu’à présent, aucune de ces préoccupations n’était suffisante pour persuader les entreprises de technologie de reconsidérer la façon dont elles mettaient les outils à la disposition du gouvernement et des forces de l’ordre.

Le logiciel d’Amazon, appelé Rekognition, permet aux services de police de télécharger des photos à partir de séquences de sécurité, par exemple, et de les comparer à une base de données d’images connues comme des photos de mug. Ce n’est pas si différent de ce qu’une personne pourrait faire en comparant les photos, mais en utilisant l’IA et l’apprentissage automatique, l’outil de reconnaissance faciale est capable de faire la même tâche beaucoup plus rapidement. Il est également relativement peu coûteux, ce qui en fait une option attrayante pour les agences gouvernementales.

Dans le même temps, des études ont montré que la technologie a un taux d’erreur beaucoup plus élevé lors de la comparaison des visages masculins noirs et asiatiques, ce qui pourrait potentiellement conduire à l’arrestation de la mauvaise personne. Cette faille majeure est apparue alors que les entreprises technologiques se retrouvent à répondre au tollé général suscité par les cas de brutalités policières contre les minorités. En conséquence, ils décident que la fourniture de la technologie aux services de police est mauvaise pour les affaires. Au moins pour l’instant.

« Nous ne vendrons pas de technologie de reconnaissance faciale aux services de police des États-Unis tant que nous n’aurons pas en place une loi nationale, fondée sur les droits de l’homme, qui régira cette technologie », a déclaré le président de Microsoft , Brad Smith.

Dans un communiqué, Amazon a déclaré qu’il espérait qu’un « moratoire d’un an pourrait donner au Congrès suffisamment de temps pour mettre en œuvre les règles appropriées, et nous sommes prêts à aider si nécessaire. » Amazon a déclaré qu’il continuerait de fournir cet outil aux organisations qui l’utilisent pour lutter contre la traite des êtres humains et aider les enfants disparus et exploités. Il n’est pas tout à fait clair si Amazon interrompt sa vente de la technologie au gouvernement fédéral.

D’une part, il est juste de demander aux entreprises technologiques pourquoi il a fallu autant de temps pour trouver le bon côté de ce problème. Cela n’aurait pas dû prendre le tollé du public pour qu’ils réalisent que leurs outils pouvaient être utilisés de manière nuisible.

Il est également particulièrement intéressant que cette décision intervienne alors que le Congrès se penche sur la question. Les législateurs devant réglementer l’utilisation de la reconnaissance faciale, les entreprises qui le font sont naturellement soucieuses de voir où vont à la fois le sentiment du public et la politique gouvernementale.

En même temps, je suis prêt à donner au moins aux entreprises de technologie un certain crédit pour avoir réalisé que même si elles produisent des produits avec des intentions positives, il existe des effets collatéraux qui contribuent aux problèmes structurels et sociétaux. Agir pour faire la bonne chose, même si cela vous coûte de l’argent, est toujours la bonne chose.

Si rien d’autre, c’est une leçon que nous pourrions tous apprendre dès maintenant. Il est grand temps de faire la bonne chose, et même lorsque les entreprises technologiques géantes ont des motivations mixtes, nous en profitons tous lorsque nous les encourageons à faire la bonne chose de toute façon.