surveillance de masse

L’enfer de la reconnaissance faciale est pavé de débats sur son “acceptabilité sociale”

Dans la rubrique “Fausses bonnes idées”, Libération publie une tribune signée par des député•es LREM, des représentants de think tank, mais aussi des ONG, des chercheur•es et des journalistes. Le texte propose un moratoire “urgent” sur la reconnaissance faciale et un “débat social lors d’une convention citoyenne”. Non pas une interdiction de cette technologie de surveillance de masse, mais une suspension de son usage “sans le consentement préalable et éclairé” des individus concernés, le temps de mettre en place un énième “Grenelle de l’innovation”.

Tout en étant un défenseur des usages et des appropriations citoyennes des technologies numériques, je reste néanmoins convaincu que certaines innovations naissent et demeurent des instruments de domination. Pour celles-là se pose une question foncière, à savoir si la limite de leur introduction doit être franchie. Dans le cas de la reconnaissance faciale, ce n’est pas un moratoire que je défends, mais une interdiction pure et simple.

Cette tribune est hélas semée de chausse-trappes conceptuelles qui finissent par faire le jeu des thuriféraires et des producteurs de ces technologies. Je ne rentre même pas dans la question du “consentement” au flicage facial. Les institutions étatiques, tout comme les acteurs du privé, ont à leur disposition un arsenal de leviers psychologiques, de ruses du design et de chantages au déni de service pour forcer ce consentement. Sans parler de la difficulté de qualifier ce dernier d'”éclairé” dans un contexte d’application d’algorithmes opaques, biaisés et inefficaces pour traiter les données collectées par les caméras qui intègrent du tracking et de la reconnaissance de visage.

Mais ce que je tiens surtout à souligner ici, c’est la nature problématique de la notion d’”acceptabilité”, présentée dans ce texte comme un acquis théorique et un horizon politiquement souhaitable. En sociologie de l’innovation ce concept est désormais devenu synonyme d’approche top-down des technologies, où la société civile ne peut que se prononcer sur le degré d’acquiescement face à des dispositifs élaborés par des acteurs dont les valeurs et les finalités divergent largement du bien commun. Cela revient à dire : “les ingénieurs ont déjà inventé un truc dont personne ne veut ; maintenant faites une étude d’acceptabilité pour repérer des éléments de langage qui nous permettront de mieux le faire gober aux citoyens”.

Une autre position problématique défendue dans cette tribune est la solution-miracle du “débat” citoyen. Je suis pour ma part âprement critique à l’égard de ce type d’outil, que je considère comme un simulacre de discussion démocratique sujette à tout type de manipulations et restrictions de la parole. Si la démocratie est à envisager comme le gouvernement par la discussion, les “débats” dont LREM raffole consistent dans la meilleure des hypothèses à orchestrer un bon chœur d’opinions jusqu’à ce que le sujet ne soit plus à la mode. Dans la pire (v. “le Grand débat national”), ils se transforment en plateformes de propagande de l’exécutif, sans qu’à la fin aucun des points de vue exprimés lors de la consultation ne soit concrètement pris en compte.

Quant à moi, je partage avec les autres membres de la Quadrature du Net la conviction qu’il est possible d’interdire par la délibération locale et par la loi cette pratique de surveillance de masse, dont les dégâts sociaux sont déjà sous nos yeux, en Europe comme dans d’autres continents.