[MAJ] La reconnaissance faciale de la RATP est une très mauvaise idée…

Mise à jour importante : la RATP vient d’annoncer la chose suivante : « c’est une erreur de notre part, cela n’a pas été validé et ne correspond pas à l’esprit de l’entreprise. On ne travaille pas dans ce sens-là. » (source)

Il faut donc croire que le projet est abandonné, l’article restera tout de même ici, on ne sait jamais. Ce qu’il faut en comprendre, là, c’est qu’ils ont fait une boulette et que la prochaine fois, ils feront ça plus discrètement.


Article original : 

…et je vais tenter de vous expliquer pourquoi.

J’ai appris aujourd’hui, sur Numérama, que la RATP envisageait d’installer un système de reconnaissance faciale dans le métro.

C’est Jujusete qui a trouvé l’information d’ailleurs, reprise ensuite sur Numérama, PcInpact et d’autres.

La raison : « facturer automatiquement les usagers identifiés par les caméras du métro, et repérer les fraudeurs »

Présenté ainsi, le projet semble prometteur :

  • Il permettra de faciliter le paiement, de faciliter le passage aux bornes également et donc de fluidifier les entrées et sorties de métro. Ce projet pourrait permettre également de ne plus avoir besoin de sortir sa carte.
  • Dans un second temps, cela pourrait également permettre de repérer les fraudeurs dans le métro, aubaine, miracle, automatiser le travail des agents RATP qui sont humainement incapables de le faire. Ce n’est pas un reproche mais un constat, le trafic est trop dense pour rendre la chose possible.

Bref, que des avantages comme vous pouvez le constater. Alors pourquoi je trouve que cette idée est mauvaise ?

Bien, parce que l’histoire me donne presque raison. Rien que ça.

Parce que ce n’est pas un argument valable, passons aux explications « un peu » plus détaillées.

Premièrement, l’éternel problème de l’automatisme : l’erreur. Ce système n’échappera pas à une erreur survenue dans la reconnaissance d’une personne, parce que le visage de Pierre est proche de celui de Paul.

Si ce système est implanté, il devra obligatoirement être rapide, ce qui sous-entend deux choses : soit le système à un seuil d’acceptation, soit les données sont traitées après.

Par seuil d’acceptation, on entend une marge d’erreur. Imaginons que pour reconnaitre un visage, il soit nécessaire d’avoir 20 points du visage mais, que pour être sûr et certain du visage, ça soit 40. Si le système doit aller vite sans couter des milliards, il me semble alors probable qu’on ira vers le « moins » de contrôle et donc, vers une plus grande marge d’erreur.

Vient ensuite un autre problème, et pas des moindres : la surveillance.

Je vais vous raconter une histoire, pour bien comprendre la chose. « Les personnages et les situations de ce récit étant purement fictifs, toute ressemblance avec des personnes ou des situations existantes ou ayant existé ne saurait être que fortuite. »

Il était une fois une société qui, pour protéger ses locaux, installa des caméras de surveillance partout. A l’époque, la société déclarait « nous faisons ceci pour votre bien et pour être certains que les portes se ferment bien derrière vous. »

Et pour un temps, c’était bien.

Puis un jour, cette société déclara « nous allons nous servir des caméras pour surveiller les entrées et sorties afin que toute personne étrangère au service ne puisse pas rentrer dans les locaux. »

Et pour un temps, c’était bien.

Puis un jour, cette société utilisa les caméras installées pour sanctionner une personne, en retard de 14 minutes sur son horaire initial.

Et les gens se disaient « bien ce système, c’est égalitaire, tout le monde au même régime. »

Un autre jour, la société a utilisé les caméras afin de surveiller une personne « à risques », des rumeurs laissaient entendre que cette personne était surveillée par la police, alors la société a préféré la surveiller, chaque geste étant enregistré.

Et là, les gens ont commencé à se dire « ce n’est pas normal, quelque chose me dérange. »

Puis un jour, la société a utilisé les caméras pour détecter chaque action étrange, chaque parole qui dérange, chaque geste contre la société, chaque tentative d’avoir une vie privée, a filmé chaque rédaction de mail, de sms, a détecté chaque possible enfreinte au règlement avant qu’elle n’arrive.

Et là, les gens se sont révoltés, mais il était bien trop tard pour se révolter, le système était déjà en place.

Le patron de la société a répondu : « dans ce monde, il y a un ordre et cet ordre est fait pour rester en place et perdurer et quiconque s’oppose à cet ordre est condamné à l’échec. »

Bien sûr, beaucoup vont se dire (comme d’habitude) que j’abuse, que je vais sans doute trop loin mais pourtant, la RATP n’en est pas à son premier coup dans l’utilisation détournée d’un outil de chez eux, je vous invite à vous renseigner sur les pass navigos et carte imaginai’r, qui sont des espions de la RATP dans votre poche.

Initialement, les trajets de ces cartes devaient servir à des fins statistiques et uniquement statistiques, ces cartes servent maintenant d’espion pour la RATP (à ce titre, vous pouvez lire ceci, ceci[PDF] ou bien cela) qui sait exactement ce que vous faites. Je n’ai pas de sources pour appuyer la suite du propos, mais m’est d’avis que les forces de l’ordre doivent pouvoir obtenir tout une partie de ces enregistrements.

Cet outil sera, et j’en suis convaincu, détourné de son but premier et servira à filmer tout le monde, ce qui, pour moi, est une atteinte à aux libertés publiques dont nous bénéficions encore.

Il sera possible de savoir où vous êtes, avec qui, ce que vous dites ou écrivez puisqu’il sera sans doute possible de filmer vos écrans, là où vous êtes entrés, là où vous êtes sortis, si vous avez oublié quelque chose dans tel métro, telle rame, à telle heure.

Cela ne vous dérange pas ?

Vous-vous dites peut-être que c’est pour le bien ? C’est fait pour.

Depuis déjà trop longtemps, on invoque une noble cause pour justifier l’injustifiable. On invoque la pédopornographie pour faire fermer des hébergeurs, on invoque la protection pour légitimer les drones…

On invoque la sécurité pour l’amendement numéro 2 de la constitution des états unis d’Amérique … et je vous laisse comprendre la suite.

Alors non, ce projet de reconnaissance faciale n’est pas une bonne idée et c’est à nous, à vous, de le faire savoir.

[EDIT] : Pour des raisons inconnues, les documents dont nous disposions se sont évaporés alors, parce que nous n’aimons pas trop voir des documents s’envoler, voici le document [PDF] qui parle du projet.

[EDIT N°2] : Manhack nous informe, via un tweet, que ce projet n’est pas validé et qu’aucun déploiement est prévu. Je préfère tout de même conserver ces informations là, m’est d’avis que tout ceci arrivera.

5 réflexions au sujet de « [MAJ] La reconnaissance faciale de la RATP est une très mauvaise idée… »

  1. Intéressant.
    Pour compléter ce que tu dis dans ton exemple d’entreprise avec ses caméras, toute révolte contre l’entreprise deviens effectivement impossible car toute action subversive sera détecter et bloqué. Et c’est évidement là que le bas blesse. Le problème dans une entreprise, c’est qu’on a affaire à une quasi dictature. L’entreprise fait bien ce qu’elle envie avec son outils. Du moins dans l’état actuel des choses. Et si il n’y a aucun contre pouvoir, il y aura nécessairement des abus. D’où la nécessité de bien légiférer pour encadrer ces outils, quitte à ne les autoriser que dans certains cas. C’est un peu le rôle de la CNIL pour les fichiers numérique. Bon après, ils n’ont pas un pouvoir dément. Ce qui prouve qu’il y a vraisemblablement des problèmes. Mais l’idée est la.
    Pour ce qui est de l’exemple de la RATP, en fait, que les forces de l’ordre l’utilise dans le cadre d’une enquête avec autorisation d’un procureur, ça ne me gêne pas outre mesure. C’est le fait que l’entreprise agisse d’elle même qui serait gênant. De même pour des forces de l’ordre qui utiliseraient l’outil sans autorisation. Dans ces deux cas, les fauteurs devrait être lourdement punis.

  2. Ouf, projet annulé (ou plutôt repoussé pour combien de temps ???).
    Un super article sur un sujet très sensible, on le voit chaque jour avec le web et nos données persos, la NSA tout ça.
    Sur la RATP, j’avais écrit un petit billet, je serais ravi d’avoir votre avis dessus !
    >> http://www.indigne-du-canape.com/ratp-bipez-vous-etes-filmes/

    Et moi j’ai adoré votre petite histoire, je la trouve malheureusement plus que vraie !
    Bonne continuation !

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.