la quadrature du net

L’enfer de la reconnaissance faciale est pavé de débats sur son “acceptabilité sociale”

Dans la rubrique “Fausses bonnes idées”, Libération publie une tribune signée par des député•es LREM, des représentants de think tank, mais aussi des ONG, des chercheur•es et des journalistes. Le texte propose un moratoire “urgent” sur la reconnaissance faciale et un “débat social lors d’une convention citoyenne”. Non pas une interdiction de cette technologie de surveillance de masse, mais une suspension de son usage “sans le consentement préalable et éclairé” des individus concernés, le temps de mettre en place un énième “Grenelle de l’innovation”.

Tout en étant un défenseur des usages et des appropriations citoyennes des technologies numériques, je reste néanmoins convaincu que certaines innovations naissent et demeurent des instruments de domination. Pour celles-là se pose une question foncière, à savoir si la limite de leur introduction doit être franchie. Dans le cas de la reconnaissance faciale, ce n’est pas un moratoire que je défends, mais une interdiction pure et simple.

Cette tribune est hélas semée de chausse-trappes conceptuelles qui finissent par faire le jeu des thuriféraires et des producteurs de ces technologies. Je ne rentre même pas dans la question du “consentement” au flicage facial. Les institutions étatiques, tout comme les acteurs du privé, ont à leur disposition un arsenal de leviers psychologiques, de ruses du design et de chantages au déni de service pour forcer ce consentement. Sans parler de la difficulté de qualifier ce dernier d'”éclairé” dans un contexte d’application d’algorithmes opaques, biaisés et inefficaces pour traiter les données collectées par les caméras qui intègrent du tracking et de la reconnaissance de visage.

Mais ce que je tiens surtout à souligner ici, c’est la nature problématique de la notion d’”acceptabilité”, présentée dans ce texte comme un acquis théorique et un horizon politiquement souhaitable. En sociologie de l’innovation ce concept est désormais devenu synonyme d’approche top-down des technologies, où la société civile ne peut que se prononcer sur le degré d’acquiescement face à des dispositifs élaborés par des acteurs dont les valeurs et les finalités divergent largement du bien commun. Cela revient à dire : “les ingénieurs ont déjà inventé un truc dont personne ne veut ; maintenant faites une étude d’acceptabilité pour repérer des éléments de langage qui nous permettront de mieux le faire gober aux citoyens”.

Une autre position problématique défendue dans cette tribune est la solution-miracle du “débat” citoyen. Je suis pour ma part âprement critique à l’égard de ce type d’outil, que je considère comme un simulacre de discussion démocratique sujette à tout type de manipulations et restrictions de la parole. Si la démocratie est à envisager comme le gouvernement par la discussion, les “débats” dont LREM raffole consistent dans la meilleure des hypothèses à orchestrer un bon chœur d’opinions jusqu’à ce que le sujet ne soit plus à la mode. Dans la pire (v. “le Grand débat national”), ils se transforment en plateformes de propagande de l’exécutif, sans qu’à la fin aucun des points de vue exprimés lors de la consultation ne soit concrètement pris en compte.

Quant à moi, je partage avec les autres membres de la Quadrature du Net la conviction qu’il est possible d’interdire par la délibération locale et par la loi cette pratique de surveillance de masse, dont les dégâts sociaux sont déjà sous nos yeux, en Europe comme dans d’autres continents.

[Slides séminaire #ecnEHESS] Christophe Benavent : Plateformes et gouvernementalité algorithmique (21 nov. 2016, 17h)

Pour la première séance de mon séminaire EHESS Étudier les cultures du numérique : approches théoriques et empiriques nous avons eu le plaisir d’accueillir Christophe Benavent, professeur à l’Université Paris Ouest, et auteur de l’ouvrage “Plateformes. Sites collaboratifs, marketplaces, réseaux sociaux” (FyP Editions, 2016).

Le séminaire a eu lieu le lundi 21 novembre 2016, de 17h à 20h, à l’EHESS.

 

—–

Titre : D’un versant à l’autre : gouvernementalité algorithmique des plateformes.

Intervenant : Christophe Benavent

View Fullscreen

Résumé : “Si la notion de marché multi-versants fournit un cadre utile pour penser l’émergence, la croissance et la compétition de l’économie des plateformes, sa limite est d’ignorer les modalités pratiques de leur gestion. Ces dernières passent essentiellement par une propagation algorithmique de dispositifs (architecture des capacitations et des restrictions, surveillance et police, mécanismes d’incitation et de motivation) destinés in fine à orienter et conditionner les conduites des individus de telle sorte à obtenir des propriétés particulières des populations qui caractérisent ces versants et se constituent en ressources. L’imperfection des  algorithmes, qu’elle soit intrinsèque (défaut de conception, données inappropriées..) ou extrinsèque (dépendance des données ou computation sociale), nécessite qu’on leur attribue une politique propre, qui impliquerait une exigence de redevabilité dont on devra aussi et surtout évaluer les conditions politiques.”

—–