stopcovid
[Vidéo] Biopolitique et coronavirus (La Manufacture d’Idées, 23 août 2020)
Dans le cadre de la manifestation La Manufacture d’Idées dont l’édition 2020 a eu lieu à Hurigny du 21 au 23 août, j’ai eu le plaisir d’échanger avec Pauline Londeix (co-fondatrice de l’Observatoire de la transparence dans les politiques du médicament) et Mathieu Potte-Bonneville (directeur du Département du développement culturel du Centre Pompidou) au sujet de société, technologies, Covid-19 et biopolitique.
L’invocation de la valeur absolue de la vie aura ces derniers mois justifié non pas une politique, mais une nuée d’options, de décisions et de contestations à l’échelle nationale ou internationale ; elle aura plaidé pour la mise entre parenthèses des libertés publiques, mais aussi bien relancé l’exigence de justice en faisant apparaître l’inégalité des conditions de vie. Entre dépolitisation et repolitisation, renforcement du contrôle gouvernemental et appel à un droit de regard citoyen sur les décisions sanitaires, comment entendre le lien de la politique avec la vie ? Le sociologue Antonio Casilli, l’activiste Pauline Londeix et le philosophe Mathieu Potte-Bonneville en ont débattu lors de La Manufacture d’idées 2020.
[Video] Massey Dialogues (University of Toronto, 29 Apr. 2020)
The Massey Dialogues – Prof. Antonio Casilli on COVID19 & Digital Labour: The Fate Of Last-Mile Workers
Wednesday, April 29 at 12:00 pm – 1:00 pm EDT
Principal Nathalie Des Rosiers will take us to France’s struggles with the pandemic, in her interview with Antonio A. Casilli, a professor of sociology at Telecom Paris (Paris Grande École of Telecommunications), which will focus on civil liberties, privacy issues, digital workers in France during COVID-19 and particularly privacy invasion. They will be joined in conversation by Junior Fellow and former Don of Hall Julian Posada, who is pursuing his Ph.D. at the Faculty of Information at the University of Toronto and Brenda McPhail, Director of Privacy, Technology & Surveillance Project at Canadian Civil Liberties Association.
The Dialogues are open to the public – we invite everyone to join and take part in what will be a very informative online discussion. Participants are invited to submit questions to the speakers in real time via the youtube channel’s chat function as well as through Twitter with the hashtag #MasseyDialogues.
Click here Wednesday at 12:00pm EST to join this livestream event.
Antonio A. Casilli is a professor of sociology at Telecom Paris (Paris Grande École of Telecommunications, part of the Polytechnic Institute of Paris) and a researcher at the Interdisciplinary Institute on Innovation (i3), an institute of the French CNRS.
He is also an associate researcher at the LACI-IIAC (Critical Interdisciplinary Anthropology Center, formerly Edgar Morin Centre, of the School for Advanced Studies in Social Sciences – EHESS, Paris) and a faculty fellow et the Nexa Center for Internet and Society (an institute of the Polytechnic University of Turin).
Julian Posada is a Ph.D. candidate at the Faculty of Information. He also served as the 56th Don of Hall of Massey College during the 2019-2020 academic year. His research combines sociology, political economy, and software studies to explore ethical organizational models of labour platforms and the implementation of artificial intelligence into online work. He worked for the French National Centre for Scientific Research and holds a BA in the humanities from the University of Paris-Sorbonne and an MSc in economic sociology from the School for Advanced Studies in the Social Sciences, where he was an elected student representative and member of the fencing team.
Brenda McPhail is the Director of the Canadian Civil Liberties Association’s Privacy, Surveillance, and Technology Project. She guides CCLA’s interventions in key court cases that raise privacy issues, such as the recent Supreme Court of Canada cases R. v. Marakah and R v. Jones, which confirmed privacy rights in electronic communications. Her research agenda focuses on the social implications of technology, and recent work has focused on surveillance of dissent, government information sharing, digital surveillance, video surveillance, and rights issues raised by artificial intelligence. CCLA also has an education mandate, and Brenda works to develop resources and presentations to drive public awareness about the importance of privacy as both an individual and a social good. She received her Ph.D. from the University of Toronto, Faculty of Information.
Tribune : « StopCovid est un projet désastreux piloté par des apprentis sorciers » (Le Monde, 25 avr. 2020)
Avec le mathématicien Paul-Olivier Dehaye et l’avocat Jean-Baptiste Soufron, je cosigne cette tribune dans Le Monde contre le projet d’application de “traçage des contacts” StopCovid proposée par le gouvernement français.
StopCovid est un projet désastreux piloté par des apprentis sorciers
Antonio Casilli, Sociologue
Paul-Olivier Dehaye, Mathématicien
Jean-Baptiste Soufron, Avocat
Il faut renoncer à la mise en place d’un outil de surveillance enregistrant toutes nos interactions humaines et sur lequel pèse l’ombre d’intérêts privés et politiques, à l’instar du scandale Cambridge Analytica, plaident trois spécialistes du numérique Antonio Casilli, Paul-Olivier Dehaye et Baptiste Soufron
Le mardi 28 avril, les parlementaires français seront amenés à voter sur StopCovid, l’application mobile de traçage des individus imposée par l’exécutif. Nous souhaitons que, par leur vote, ils convainquent l’exécutif de renoncer à cette idée tant qu’il est encore temps. Non pas de l’améliorer, mais d’y renoncer tout court. En fait, même si toutes les garanties légales et techniques étaient mises en place (anonymisation des données, open source, technologies Bluetooth, consentement des utilisateurs, protocole décentralisé, etc.), StopCovid serait exposée au plus grand des dangers : celui de se transformer sous peu en « StopCovid Analytica », une nouvelle version du scandale Cambridge Analytica [siphonnage des données privées de dizaines de millions de comptes Facebook].
L’application StopCovid a été imaginée comme un outil pour permettre de sortir la population française de la situation de restriction des libertés publiques provoquée par le Covid-19. En réalité, cette « solution » technologique ne serait qu’une continuation du confinement par d’autres moyens. Si, avec ce dernier, nous avons fait l’expérience d’une assignation à résidence collective, les applications mobiles de surveillance risquent de banaliser le port du bracelet électronique.
Tous les citoyens, malades ou non
C’est déjà le cas à Hongkong, qui impose un capteur au poignet des personnes en quarantaine, et c’est l’objet de tests et de propositions en Italie, en Corée du Sud et au Liechtenstein pour certaines catégories de citoyens à risque. StopCovid, elle, a vocation à être installée dans les smartphones, mais elle concerne tous les citoyens, malades ou non. Chaque jour, toutes les interactions humaines de chacun d’entre nous seraient enregistrées par un outil de surveillance étatique, sur lequel pèse l’ombre d’intérêts privés d’entreprises technologiques.
L’affaire Cambridge Analytica, révélée au grand jour en 2018, avait comme point de départ les travaux de chercheurs de l’université anglaise. Une application appelée « Thisisyourdigitallife », présentée comme un simple quiz psychologique, avait d’abord été proposée à des utilisateurs de la plate-forme de microtravail Amazon Mechanical Turk. Ensuite, ces derniers avaient été amenés à donner accès au profil Facebook de tous leurs contacts. C’était, en quelque sorte, du traçage numérique des contacts avant la lettre. A aucun moment ces sujets n’avaient consenti à la réutilisation de leurs informations dans la campagne du Brexit, dans celle de Donald Trump, ou dans des élections en Inde et en Argentine.
Cela est arrivé ensuite, lorsque les chercheurs ont voulu monétiser les données, initialement collectées dans un but théoriquement désintéressé, par le biais de l’entreprise Cambridge Analytica. En principe, cette démarche respectait les lois des différents pays et les règles de ces grandes plates-formes. Néanmoins, de puissants algorithmes ont été mis au service des intérêts personnels et de la soif de pouvoir d’hommes politiques sans scrupules.
Les mêmes ingrédients sont réunis ici : des scientifiques « de bonne volonté », des géants de la « tech », des intérêts politiques. Dans le cas de StopCovid, c’est le consortium universitaire européen Pan-European Privacy Preserving Proximity Tracing (PEPP-PT), qui a vu le jour à la suite de la pandémie. Ces scientifiques se sont attelés à la tâche de concevoir dans l’urgence le capteur de contacts le plus puissant, dans le respect des lois. Cela s’articule avec les intérêts économiques d’acteurs privés, tels les grands groupes industriels nationaux, le secteur automobile et les banques en Italie, les télécoms et les professionnels de l’hébergement informatique en France. Mais surtout les GAFA, les géants américains du numérique, se sont emparés du sujet.
Cette fois, ce ne sont pas Facebook et Amazon, mais Google et Apple, qui ont tout de suite proposé d’héberger les applications de suivi de contacts sur leurs plates-formes. La menace qui plane au-delà de tous ces acteurs vient des ambitions de certains milieux politiques européens d’afficher leur détermination dans la lutte contre le Covid-19, en se targuant d’une solution technique à grande échelle, utilisant les données personnelles pour la « campagne du déconfinement .
Le projet StopCovid n’offre aucune garantie sur les finalités exactes de la collecte de ces données. L’exécutif français ne s’autorise pas à réfléchir à la phase qui suit la collecte, c’est-à-dire au traitement qui sera fait de ces informations sensibles. Quels algorithmes les analyseront ? Avec quelles autres données seront-elles croisées ? Son court-termisme s’accompagne d’une myopie sur les dimensions sociales des données.
Que se passerait-il si, comme plusieurs scientifiques de l’Inria, du CNRS et d’Informatics Europe s’époumonent à nous le dire, des entreprises ou des puissances étrangères décidaient de créer des « applications parasites » qui, comme Cambridge Analytica, croiseraient les données anonymisées de StopCovid avec d’autres bases de données nominatives ? Que se passerait-il, par exemple, si une plate-forme de livraison à domicile décidait (cela s’est passé récemment en Chine) de donner des informations en temps réel sur la santé de ses coursiers ? Comment pourrait-on empêcher un employeur ou un donneur d’ordres de profiter dans le futur des données sur l’état de santé et les habitudes sociales des travailleurs ?
L’affaire Cambridge Analytica nous a permis de comprendre que les jeux de pouvoir violents et partisans autour de la maîtrise de nos données personnelles ont des conséquences directes sur l’ensemble de la vie réelle. Il ne s’agit pas d’une lubie abstraite. Le cas de StopCovid est tout aussi marquant. En focalisant des ressources, l’attention du public et celle des parlementaires sur une solution technique probablement inefficace, le gouvernement nous détourne des urgences les plus criantes : la pénurie de masques, de tests et de médicaments, ou les inégalités d’exposition au risque d’infection.
Recul fondamental
Cette malheureuse diversion n’aurait pas lieu si le gouvernement n’imposait pas ses stratégies numériques, verticalement, n’étant plus guidé que par l’urgence de faire semblant d’agir. Face à ces enjeux, il faudrait au contraire impliquer activement et à parts égales les citoyens, les institutions, les organisations et les territoires pour repenser notre rapport à la technologie. Le modèle de gouvernance qui accompagnera StopCovid sera manifestement centré dans les mains d’une poignée d’acteurs étatiques et marchands. Une telle verticalité n’offre aucune garantie contre l’évolution rapide de l’application en un outil coercitif, imposé à tout le monde.
Ce dispositif entraînerait un recul fondamental en matière de libertés, à la fois symbolique et concret : tant sur la liberté de déplacement, notamment entre les pays qui refuseraient d’avoir des systèmes de traçage ou qui prendront ce prétexte pour renforcer leur forteresse, que sur la liberté de travailler, de se réunir ou sur la vie privée. Les pouvoirs publics, les entreprises et les chercheurs qui, dans le courant des dernières semaines, sont allés de l’avant avec cette proposition désastreuse, ressemblent à des apprentis sorciers qui manient des outils dont la puissance destructrice leur échappe. Et, comme dans le poème de Goethe, quand l’apprenti sorcier n’arrive plus à retenir les forces qu’il a invoquées, il finit par implorer une figure d’autorité, une puissance supérieure qui remette de l’ordre. Sauf que, comme le poète nous l’apprend, ce « maître habile » ne reprend ces outils « que pour les faire servir à ses desseins .
Note(s) :
Antonio Casilli est sociologue, membre de La Quadrature du Net ; Paul-Olivier Dehaye est mathématicien, expert aux sources de l’affaire Cambridge Analytica ; Jean-Baptiste Soufron est avocat, ancien secrétaire général du Conseil national du numérique.