Nous l’avons tous lu ou effleuré : en 1949, dans son ouvrage 1984, George Orwell décrivait une société dystopique au sein de laquelle règne Big Brother, surveillant en permanence les citoyens. Plusieurs dizaines d’années plus tard, l’outil inventé par l’écrivain semble bien devenir réalité. Depuis quelques années, la reconnaissance faciale est de plus en plus adoptée à travers le monde. D’abord outil de sécurité, elle est désormais omniprésente dans notre quotidien, au risque de compromettre nos libertés.
Bienvenue à Hyderabad
On la surnomme « la ville de perles et des diamants. » C’est l’une des plus grandes villes de l’Inde, à la frontière entre le Nord et le Sud du pays, dans l’Etat du Telangana. Une histoire populaire raconte qu’elle doit son nom à une certaine Bhagmathi, du pays Banjara. Tombé fou amoureux d’elle, Muhammad Quli Qutb Shah l’épouse et nomme la ville Bhagyanagaram. Lorsque Bhagmathi se convertit à l’islam et prit le nom d’Hyder Mahal, la ville fut renommée Hyder-A’bad, ce qui signifie « Vive Hyder ». Aujourd’hui, Hyderabad est reconnue pour sa culture et son architecture : temples et mosquées, les sept tombes des rois Qutb Shahi, ou encore la célèbre statue de Bouddha surplombant le lac de Hussain Sagar.
On ne vous le racontera pas dans le Guide du Routard, mais Hyderabad est aussi la ville où se trouve le plus grand bâtiment d’Amazon au monde et le seul campus d’Amazon en dehors des Etats-Unis.
Autre revers de la médaille : aujourd’hui, Hyderabad est l’une des villes les plus surveillées au monde. D’après une étude de The Internet Freedom Foundation, cette région est celle du pays qui compte le plus grand nombre de projets de technologies de reconnaissance faciale enregistrés. Le gouvernement aurait déjà dépensé l’équivalent d’un million d’euros (9.6 milliards de roupies) en équipements de ce genre.
Vers une surveillance totale ?
Dans le viseur notamment : la ville est en train de construire un centre de commande et de contrôle colossal, capable de traiter les données de 600 000 caméras. Parmi les entreprises étrangères aidant l’Inde à se procurer des outils de reconnaissance faciale, une française, Idemia.
D’après Matt Mahmoudi, chercheur à Amnesty International Tech, « il est devenu presque impossible de marcher dans les rues d’Hyderabad sans risquer d’être exposé à la reconnaissance faciale. » Et pour cause : une enquête menée conjointement par Amnesty International, Internet Freedom Foundation et Article 19 a montré que le quartier Kala Pathar était surveillé à 53% et Kishan Bagh à 62%.
La reconnaissance faciale est de plus en plus utilisée dans l’État de Telangana : les autorités en ont usé pendant les confinements successifs, dans les bureaux de vote afin de vérifier l’identité des électeurs, lors de manifestations et de rassemblements…
En Inde, une situation préoccupante
Déjà en 2019, le journal local Indian Express expliquait que la reconnaissance faciale avait été largement utilisée lors des manifestations contre la loi sur la citoyenneté. Cette loi était alors perçue comme antimusulmane, car elle permettait de donner la nationalité indienne aux réfugiés d’Afghanistan, du Pakistan et du Bangladesh, sauf ceux de confession musulmane. La même année, le gouvernement annonçait vouloir créer « le système de reconnaissance faciale le plus large au monde » dans le but de surveiller ses 1.3 milliard d’habitants. L’Etat avait alors lancé un appel d’offres à destination des entreprises privées chargées de développer un système qui permettra de relier les données de reconnaissance faciale avec les informations telles que les numéros de passeport et empreintes digitales des citoyens.
Cette technologie expose et menace particulièrement les droits des musulmans, des dalits (opprimés), des adivasis (aborigènes), des personnes transgenres et de toutes les catégories de la société historiquement défavorisées.
Autre fait préoccupant : l’Inde n’a pas de politique de cybersécurité en place. La confidentialité de ses citoyens, tout comme leur vie privée, est donc largement compromise.
Qu’est-ce que la reconnaissance faciale ?
Il s’agit d’un outil technologique servant soit à vérifier l’identité d’un individu (c’est l’authentification) soit de retrouver une personne dans une masse (c’est l’identification), le tout grâce à son visage. Elle s’inscrit dans la technologie de sécurité biométrique, c’est-à-dire qu’elle fonctionne à l’aide de nos caractéristiques physiques ou biologiques, comme c’est aussi le cas de la reconnaissance vocale ou des empreintes digitales. Dans le cas de la reconnaissance faciale, un capteur détecte d’abord un visage, puis l’algorithme extrait plusieurs descripteurs (le niveau des yeux, les commissures des lèvres, le niveau des oreilles…)
Historiquement parlant, il est d’abord utilisé dans un contexte sécuritaire. Il a par exemple permis de retrouver des enfants disparus dans des bases de données pédopornographiques. Aujourd’hui, cette technologie est de plus en plus utilisée dans la vie quotidienne, dans le cadre de nos loisirs ou de nos services (supermarchés, banques…)
A travers le monde, la reconnaissance faciale gagne du terrain
Perçue pendant longtemps comme une technologie de science-fiction, la reconnaissance faciale est de plus en plus présente dans notre quotidien. Au point que leur utilisation est devenue banale dans certains domaines : le système de reconnaissance faciale remplace le mot de passe sur les smartphones Android depuis 2011, les utilisateurs de SnapChat ou Instagram y sont de plus en plus tributaires, et il est aujourd’hui question de les utiliser dans les supermarchés… afin de gagner du temps au moment du paiement.
En France, on trouve des caméras dans la Gare du Nord, à Paris, depuis 2017, et dans les aéroports depuis 2018. A Nice, le système de reconnaissance faciale expérimenté il y a quelques années avait fait débat.
Aux Etats-Unis, la reconnaissance faciale bénéficie d’un cadre législatif flou. La technologie se faufile dans le pays à la manière d’un épisode de Black Mirror : partout, tout le temps. La loi autorise en effet tout un chacun à prendre « n’importe qui » en photo et à la diffuser comme bon lui semble. En janvier 2019, une enquête du New York Times révélait que la société américaine Clearview avait conçu un logiciel de reconnaissance faciale en pillant sur les réseaux sociaux des milliards de photos à l’insu de leurs propriétaires avant de vendre cet outil à plusieurs services de police. La même année, San Francisco, pourtant reine de la haute-technologie, est devenue la première ville américaine à interdire la reconnaissance faciale à ses services de police et à la municipalité. En cause pour la mairie : « La propension de cette technologie à mettre en danger les libertés civiles surpasse substantiellement ses bénéfices supposés. La technologie va exacerber les injustices raciales et menacer notre capacité à vivre libres de la surveillance permanente du gouvernement ». D’autres villes ont suivi comme Boston et Oakland.
A Singapour, en 2018, le gouvernement a lancé l’expérimentation de caméras à reconnaissance faciale sur les lampadaires de la ville afin, notamment, « de soutenir les enquêtes en cas d’incident terroriste ». Des systèmes d’identification en temps réel ont aussi été testés dans la prison de Selarang, pour gérer automatiquement les déplacements de détenus. Deux ans plus tard, le gouvernement a mis en place le système SingPass Verification : désormais, les 5.7 citoyens de la Cité-Etat s’identifient par reconnaissance faciale pour accéder aux services publics en ligne, comme le paiement d’impôts.
Nos libertés en danger ?
Or, son implantation fait de plus en plus débat dans la société. En première ligne : la reconnaissance faciale est une violation de nos libertés et de notre vie privée, mais aussi de notre corps, intime et inaliénable, devenu un outil d’identification. La Quadrature du Net lui reproche également son caractère non démocratique : pour l’association, dans la mesure où les recherches en reconnaissance faciale sont financées grâce à l’argent public, celles-ci devraient nécessairement faire davantage l’objet de discussions avec la population.
La reconnaissance faciale est aussi de plus en plus accusée d’être « raciste » ou « misogyne », favorisant ainsi les politiques de répression. Championne de la reconnaissance faciale, la Chine a rendu obligatoire la reconnaissance faciale dans le cadre d’un achat de téléphone depuis 2019. Désormais, un consommateur poussant la porte d’une boutique de téléphonie mobile doit accepter de se faire enregistrer via ce biais. En 2020, on comptait plus de 400 millions de caméras dans le pays, dispersées à travers les aéroports, gares, bureaux, banques, hôtels et toilettes publiques. Plus inquiétant : dans le Xinjiang, la reconnaissance faciale est utilisée pour reconnaître les Ouïghours, placés dans des camps de redressement. Même chose à Hong-Kong où le pouvoir se sert de cette technologie pour repérer les activistes en opposition avec Pékin.
En 2017, une enquête du Guardian pointait du doigt une technologie « raciste » et alourdie par une « biométrie imparfaite ». Un rapport de Clare Garvie révélait en effet que les individus de couleurs, comme pour de nombreux aspects du système judiciaire, étaient les plus susceptibles d’être examinés par un logiciel de reconnaissance faciale. Le rapport suggérait aussi que le logiciel était plus susceptible d’être incorrect lorsqu’il était utilisé sur des individus noirs – une conclusion corroborée par les propres recherches du FBI. Or, écrit Garvie, « dans une investigation criminelle, les enjeux sont trop élevés pour que des données manipulées ou fausses entrent en ligne de compte.»
En 2018, Reuters révélait que le programme informatique d’Amazon sélectionnant les CV à la place du recruteur éliminait automatiquement les candidatures des femmes. Un problème qui ne date pas d’hier selon l’Express.
Utilisée pour « gagner du temps » ou « par urgence sécuritaire », la technologie de reconnaissance faciale semble avoir de beaux jours devant elle, mais alerte de plus en plus sur le prix de nos libertés. Alors que le pays investit de plus en plus dans ces outils 2.0, une enquête de 2019 révélait que « 58 des 59 attentats déjoués depuis six ans l’ont été grâce au renseignement humain. » Nos yeux valent encore plus que ceux de nos robots.
Pour aller plus loin :
Article : Amnesty International, “Ban the Scan”, ici
Podcast : France culture, “États-Unis : la reconnaissance faciale accusée de favoriser les biais racists », 14/06/2020, ici
Documentaire : Arte, « Tous Surveillés – 7 milliards de suspects », 2020
Fiction : Coded Bias, un film Netflix sur le racisme de l’intelligence artificielle
Vous souhaitez choisir le sujet de notre prochain décryptage? Rendez-vous sur nos réseaux sociaux !
Combat 