Monthly Archives: April 2020

[Video] Massey Dialogues (University of Toronto, 29 Apr. 2020)

The Massey Dialogues – Prof. Antonio Casilli on COVID19 & Digital Labour: The Fate Of Last-Mile Workers

Wednesday, April 29 at 12:00 pm – 1:00 pm EDT 

Principal Nathalie Des Rosiers will take us to France’s struggles with the pandemic, in her interview with Antonio A. Casilli, a professor of sociology at Telecom Paris (Paris Grande École of Telecommunications), which will focus on civil liberties, privacy issues, digital workers in France during COVID-19 and particularly privacy invasion. They will be joined in conversation by Junior Fellow and former Don of Hall Julian Posada, who is pursuing his Ph.D. at the Faculty of Information at the University of Toronto and Brenda McPhail, Director of Privacy, Technology & Surveillance Project at Canadian Civil Liberties Association.

The Dialogues are open to the public – we invite everyone to join and take part in what will be a very informative online discussion. Participants are invited to submit questions to the speakers in real time via the youtube channel’s chat function as well as through Twitter with the hashtag #MasseyDialogues.

Click here Wednesday at 12:00pm EST to join this livestream event.

Antonio A. Casilli is a professor of sociology at Telecom Paris (Paris Grande École of Telecommunications, part of the Polytechnic Institute of Paris) and a researcher at the Interdisciplinary Institute on Innovation (i3), an institute of the French CNRS.

He is also an associate researcher at the LACI-IIAC (Critical Interdisciplinary Anthropology Center, formerly Edgar Morin Centre, of the School for Advanced Studies in Social Sciences – EHESS, Paris) and a faculty fellow et the Nexa Center for Internet and Society (an institute of the Polytechnic University of Turin).

Julian Posada is a Ph.D. candidate at the Faculty of Information. He also served as the 56th Don of Hall of Massey College during the 2019-2020 academic year. His research combines sociology, political economy, and software studies to explore ethical organizational models of labour platforms and the implementation of artificial intelligence into online work. He worked for the French National Centre for Scientific Research and holds a BA in the humanities from the University of Paris-Sorbonne and an MSc in economic sociology from the School for Advanced Studies in the Social Sciences, where he was an elected student representative and member of the fencing team.

Brenda McPhail is the Director of the Canadian Civil Liberties Association’s Privacy, Surveillance, and Technology Project. She guides CCLA’s interventions in key court cases that raise privacy issues, such as the recent Supreme Court of Canada cases R. v. Marakah and R v. Jones, which confirmed privacy rights in electronic communications. Her research agenda focuses on the social implications of technology, and recent work has focused on surveillance of dissent, government information sharing, digital surveillance, video surveillance, and rights issues raised by artificial intelligence. CCLA also has an education mandate, and Brenda works to develop resources and presentations to drive public awareness about the importance of privacy as both an individual and a social good. She received her Ph.D. from the University of Toronto, Faculty of Information.

Intervista ne Il Manifesto (29 avr. 2020)

Antonio Casilli: i nuovi conflitti del lavoro digitale nella società virale | il manifesto

Roberto Ciccarelli


Verso il primo Maggio 2020. Intervista al sociologo Antonio Casilli: «Economie delle app, grande distribuzione, e-commerce. Organizziamoci senza essere subalterni alla retorica dell’innovazione. A Madrid i rider hanno scioperato in quarantena. Azioni sindacali sono previste anche il primo maggio negli Stati Uniti»

Antonio Casilli (Università Paris Télécom)
Antonio Casilli (Università Paris Télécom)

Edizione del 29.04.2020

Pubblicato 28.4.2020, 23:07

Aggiornato 30.4.2020, 8:31

La crisi pandemica ha fatto emergere un mercato del lavoro a tre teste – afferma Antonio Casilli, docente di sociologia presso l’università Télécom Paris – Ci sono persone che possono tele-lavorare da casa durante la quarantena. Lo “smart working” è molto celebrato, ma la possibilità di ricorrere a questo uso delle piattaforme digitali non supera in media il 30 per cento della forza lavoro dipendente. Nel lungo post-quarantena lo “smart working” potrebbe essere imposto e non scelto. In alcuni casi potrebbe essere il preludio al licenziamento, al part time involontario o al taglio del costo del lavoro».

Quali sono le altre teste?
La seconda è costituita da lavoratori precari o dipendenti già attivi che non possono tele-lavorare. Il personale medico, quello della grande distribuzione, i trasporti pubblici e i lavoratori di prossimità. Tra questi ci sono i lavoratori delle consegne dell’ultimo chilometro: i rider in moto o in bici, i driver con i camioncini che Amazon considera “liberi professionisti” o conto-terzisti e sono invece alle sue dipendenze. Consegnano le merci a chi è in quarantena e sono diventati più visibili quando le folle sono scomparse dalle città. La terza testa è quella dei lavoratori dell’automazione che moderano i commenti sui social network o allenano gli algoritmi a diventare “intelligenti”. Oggi il traffico di dati è enormemente aumentato a causa della reclusione di miliardi di persone. Questi “operai” digitali, a volte dei cottimisti pagati a clic, operano in tutto il mondo e, pur essendo molto numerosi, sono a volte impossibilitati a radunarsi nelle fabbriche del clic dove operano in Spagna, in Irlanda, paesi anche loro in quarantena. E, se operano da casa, o da smartphone, sono pochi per gestire lo spam e le fake news che si sviluppano nelle relazioni digitali.

Che ruolo occupa il lavoro di cura in questa divisione del lavoro in quarantena?
La gestione delle relazioni familiari e delle mansioni è distribuita in maniera diseguale e il peso è ancora più forte sulle donne. Ha ragione chi rivendica il riconoscimento di un reddito per permettere l’autodeterminazione delle donne in un contesto drammatico dove aumentano le violenze domestiche e gli omicidi. In molti casi le donne lavorano nei settori di prossimità, nella grande distribuzione o nel settore sanitario. I sindacati stanno chiedendo aumenti, tutele e la regolarizzazione di lavoratrici che sono costrette ad operare nell’economia informale. La soluzione può essere dunque duplice: da una parte ci vuole un reddito che permette l’autodeterminazione, dall’altra i diritti del lavoro.

È emersa la divisione tra chi non ha sussidi ed è in povertà e chi può comunque accedere a una precarietà piattaformizzata per cercare di guadagnare. Qual è il ruolo delle piattaforme digitali in questa nuova stratificazione sociale?
Nominalmente, aiutare i lavoratori. In realtà, rafforzare il loro sfruttamento. In un contesto dove a un enorme numero di persone, anche lavoratori autonomi, sono stati estesi in maniera eccezionale i classici sussidi sociali, esiste una moltitudine di persone che non hanno accesso al welfare. Il lavoro digitale è un’opportunità per sbarcare il lunario e una giustificazione legale per uscire di casa. Assistiamo anche a una trasformazione delle piattaforme. Uber, specializzata nel trasporto privato non di linea, sta cercando di reinventarsi come trasportatore di merci dell’ultimo chilometro.

Quali sono i rischi che corre chi lavora per queste piattaforme?
Prendiamo il caso del «Contactless delivery», la consegna senza contatto. I fattorini non consegnano direttamente, ma lasciano la merce fuori dalla porta o nel portone. Ma la sicurezza è solo per il consumatore. Questi lavoratori devono relazionarsi con i ristoratori o gli hub di consegna, viaggiare in città, correre ogni tipo di rischio. Dare il monopolio a queste piattaforme significa riconoscere il monopolio di usare un linguaggio che stravolge la realtà.

Perché i gig workers protestano in molti paesi?
Le piattaforme cercano di abbassare il prezzo del lavoro, quando la domanda aumenta. In Spagna accade con Glovo che ha dimezzato la tariffa base e sta provocando ondate di scioperi. A Madrid c’è stato il primo sciopero di strada in una città in quarantena. Azioni sindacali che prima erano scioperi selvaggi si stanno organizzando per il primo maggio anche negli Stati Uniti. Si aprono nuovi fronti di conflitto attorno le piattaforme e contro la loro visione angelicata dell’innovazione. È uno scenario comune all’economia delle app, alla grande distribuzione e all’e-commerce su Instacart, Amazon o Whole Foods.

In che modo è possibile riconoscere i diritti dei lavoratori digitali dell’ultimo chilometro?
Questo era un problema scottante prima dell’epidemia, ora è ancora più urgente. Esistono due orientamenti: fare rientrare il lavoro della consegna dell’ultimo chilometro in quello subordinato, garantendo le tutele. È la posizione prevalente tra i sindacati e in alcuni attori della società civile. Non tutti sono però d’accordo. Tra i lavoratori alcuni chiedono addirittura la chiusura o la collettivizzazione delle piattaforme e l’estensione dei diritti oltre il lavoro salariato. In entrambi i casi non si hanno conseguenze negative. In un contesto come quello attuale, con una recessione mai vista, essere riconosciuti salariati di aziende che possono scomparire da un momento all’altro, potrebbe non essere l’unica soluzione.

Didattica a distanza, piattaforme, social media, logistica. Il capitalismo digitale sarà uno dei vincitori della crisi?
È una conclusione probabile. È in atto una cattura sociale e un’appropriazione del valore. Una serie di servizi offerti in modalità alternative sono stati sussunti da WhatsApp, Instagram, Zoom e compagnia. È urgente capire come organizzare diversamente una società evitando la subalternità alle retoriche sull’automazione che occultano l’attività di persone senza diritti ma svolgono un lavoro fondamentale.

Tribune : « StopCovid est un projet désastreux piloté par des apprentis sorciers » (Le Monde, 25 avr. 2020)

Avec le mathématicien Paul-Olivier Dehaye et l’avocat Jean-Baptiste Soufron, je cosigne cette tribune dans Le Monde contre le projet d’application de “traçage des contacts” StopCovid proposée par le gouvernement français.

StopCovid est un projet désastreux piloté par des apprentis sorciers

Antonio Casilli, Sociologue

Paul-Olivier Dehaye, Mathématicien

Jean-Baptiste Soufron, Avocat

Il faut renoncer à la mise en place d’un outil de surveillance enregistrant toutes nos interactions humaines et sur lequel pèse l’ombre d’intérêts privés et politiques, à l’instar du scandale Cambridge Analytica, plaident trois spécialistes du numérique Antonio Casilli, Paul-Olivier Dehaye et Baptiste Soufron

Le mardi 28 avril, les parlementaires français seront amenés à voter sur StopCovid, l’application mobile de traçage des individus imposée par l’exécutif. Nous souhaitons que, par leur vote, ils convainquent l’exécutif de renoncer à cette idée tant qu’il est encore temps. Non pas de l’améliorer, mais d’y renoncer tout court. En fait, même si toutes les garanties légales et techniques étaient mises en place (anonymisation des données, open source, technologies Bluetooth, consentement des utilisateurs, protocole décentralisé, etc.), StopCovid serait exposée au plus grand des dangers : celui de se transformer sous peu en « StopCovid Analytica », une nouvelle version du scandale Cambridge Analytica [siphonnage des données privées de dizaines de millions de comptes Facebook].

L’application StopCovid a été imaginée comme un outil pour permettre de sortir la population française de la situation de restriction des libertés publiques provoquée par le Covid-19. En réalité, cette « solution » technologique ne serait qu’une continuation du confinement par d’autres moyens. Si, avec ce dernier, nous avons fait l’expérience d’une assignation à résidence collective, les applications mobiles de surveillance risquent de banaliser le port du bracelet électronique.

Tous les citoyens, malades ou non

C’est déjà le cas à Hongkong, qui impose un capteur au poignet des personnes en quarantaine, et c’est l’objet de tests et de propositions en Italie, en Corée du Sud et au Liechtenstein pour certaines catégories de citoyens à risque. StopCovid, elle, a vocation à être installée dans les smartphones, mais elle concerne tous les citoyens, malades ou non. Chaque jour, toutes les interactions humaines de chacun d’entre nous seraient enregistrées par un outil de surveillance étatique, sur lequel pèse l’ombre d’intérêts privés d’entreprises technologiques.

L’affaire Cambridge Analytica, révélée au grand jour en 2018, avait comme point de départ les travaux de chercheurs de l’université anglaise. Une application appelée « Thisisyourdigitallife », présentée comme un simple quiz psychologique, avait d’abord été proposée à des utilisateurs de la plate-forme de microtravail Amazon Mechanical Turk. Ensuite, ces derniers avaient été amenés à donner accès au profil Facebook de tous leurs contacts. C’était, en quelque sorte, du traçage numérique des contacts avant la lettre. A aucun moment ces sujets n’avaient consenti à la réutilisation de leurs informations dans la campagne du Brexit, dans celle de Donald Trump, ou dans des élections en Inde et en Argentine.

Cela est arrivé ensuite, lorsque les chercheurs ont voulu monétiser les données, initialement collectées dans un but théoriquement désintéressé, par le biais de l’entreprise Cambridge Analytica. En principe, cette démarche respectait les lois des différents pays et les règles de ces grandes plates-formes. Néanmoins, de puissants algorithmes ont été mis au service des intérêts personnels et de la soif de pouvoir d’hommes politiques sans scrupules.

Les mêmes ingrédients sont réunis ici : des scientifiques « de bonne volonté », des géants de la « tech », des intérêts politiques. Dans le cas de StopCovid, c’est le consortium universitaire européen Pan-European Privacy Preserving Proximity Tracing (PEPP-PT), qui a vu le jour à la suite de la pandémie. Ces scientifiques se sont attelés à la tâche de concevoir dans l’urgence le capteur de contacts le plus puissant, dans le respect des lois. Cela s’articule avec les intérêts économiques d’acteurs privés, tels les grands groupes industriels nationaux, le secteur automobile et les banques en Italie, les télécoms et les professionnels de l’hébergement informatique en France. Mais surtout les GAFA, les géants américains du numérique, se sont emparés du sujet.

Cette fois, ce ne sont pas Facebook et Amazon, mais Google et Apple, qui ont tout de suite proposé d’héberger les applications de suivi de contacts sur leurs plates-formes. La menace qui plane au-delà de tous ces acteurs vient des ambitions de certains milieux politiques européens d’afficher leur détermination dans la lutte contre le Covid-19, en se targuant d’une solution technique à grande échelle, utilisant les données personnelles pour la « campagne du déconfinement .

Le projet StopCovid n’offre aucune garantie sur les finalités exactes de la collecte de ces données. L’exécutif français ne s’autorise pas à réfléchir à la phase qui suit la collecte, c’est-à-dire au traitement qui sera fait de ces informations sensibles. Quels algorithmes les analyseront ? Avec quelles autres données seront-elles croisées ? Son court-termisme s’accompagne d’une myopie sur les dimensions sociales des données.

Que se passerait-il si, comme plusieurs scientifiques de l’Inria, du CNRS et d’Informatics Europe s’époumonent à nous le dire, des entreprises ou des puissances étrangères décidaient de créer des « applications parasites » qui, comme Cambridge Analytica, croiseraient les données anonymisées de StopCovid avec d’autres bases de données nominatives ? Que se passerait-il, par exemple, si une plate-forme de livraison à domicile décidait (cela s’est passé récemment en Chine) de donner des informations en temps réel sur la santé de ses coursiers ? Comment pourrait-on empêcher un employeur ou un donneur d’ordres de profiter dans le futur des données sur l’état de santé et les habitudes sociales des travailleurs ?

L’affaire Cambridge Analytica nous a permis de comprendre que les jeux de pouvoir violents et partisans autour de la maîtrise de nos données personnelles ont des conséquences directes sur l’ensemble de la vie réelle. Il ne s’agit pas d’une lubie abstraite. Le cas de StopCovid est tout aussi marquant. En focalisant des ressources, l’attention du public et celle des parlementaires sur une solution technique probablement inefficace, le gouvernement nous détourne des urgences les plus criantes : la pénurie de masques, de tests et de médicaments, ou les inégalités d’exposition au risque d’infection.

Recul fondamental

Cette malheureuse diversion n’aurait pas lieu si le gouvernement n’imposait pas ses stratégies numériques, verticalement, n’étant plus guidé que par l’urgence de faire semblant d’agir. Face à ces enjeux, il faudrait au contraire impliquer activement et à parts égales les citoyens, les institutions, les organisations et les territoires pour repenser notre rapport à la technologie. Le modèle de gouvernance qui accompagnera StopCovid sera manifestement centré dans les mains d’une poignée d’acteurs étatiques et marchands. Une telle verticalité n’offre aucune garantie contre l’évolution rapide de l’application en un outil coercitif, imposé à tout le monde.

Ce dispositif entraînerait un recul fondamental en matière de libertés, à la fois symbolique et concret : tant sur la liberté de déplacement, notamment entre les pays qui refuseraient d’avoir des systèmes de traçage ou qui prendront ce prétexte pour renforcer leur forteresse, que sur la liberté de travailler, de se réunir ou sur la vie privée. Les pouvoirs publics, les entreprises et les chercheurs qui, dans le courant des dernières semaines, sont allés de l’avant avec cette proposition désastreuse, ressemblent à des apprentis sorciers qui manient des outils dont la puissance destructrice leur échappe. Et, comme dans le poème de Goethe, quand l’apprenti sorcier n’arrive plus à retenir les forces qu’il a invoquées, il finit par implorer une figure d’autorité, une puissance supérieure qui remette de l’ordre. Sauf que, comme le poète nous l’apprend, ce « maître habile » ne reprend ces outils « que pour les faire servir à ses desseins .

Note(s) :

Antonio Casilli est sociologue, membre de La Quadrature du Net ; Paul-Olivier Dehaye est mathématicien, expert aux sources de l’affaire Cambridge Analytica ; Jean-Baptiste Soufron est avocat, ancien secrétaire général du Conseil national du numérique.

Grand entretien dans le Journal du CNRS (24 avr. 2020)

Dans le Journal du CNRS, une interview avec Lydia Ben Ytzhak.

« Il n’existe pas d’application capable de remplacer une politique de santé publique »

24.04.2020, par Lydia Ben Ytzhak

 Valentino BELLONI / Hans Lucas / Hans Lucas via AFP PartagerLe sociologue Antonio A. Casilli nous livre son regard sur l’utilisation d’outils numériques par de nombreux pays pour accompagner le déconfinement. 

Membre de l’Institut interdisciplinaire de l’innovation et chercheur associé à l’Institut interdisciplinaire d’anthropologie du contemporain, vous étudiez depuis 2009 les effets des plateformes et des outils numériques sur la société et la vie privée. Alors que l’on commence à préparer le déconfinement en France, quels sont les différents scénarii observés dans le monde ?
Antonio Casilli1 : La première possibilité est de ne suivre que les personnes infectées et d’en restreindre la circulation. C’est le cas en Corée du Sud où les itinéraires des personnes contaminées sont reconstruits grâce aux données des mobiles et des cartes bleues. Hong Kong, quant à lui, impose désormais des véritables bracelets électroniques pour assurer le respect de la quarantaine par les personnes venant de l’étranger.
 
Ensuite, il y a la possibilité de suivre tout le monde. En Chine, cela a été réalisé via les données de géolocalisation des citoyens de Wuhan, obtenues par les télécoms d’État. De son côté, Singapour a mis en place une application, TraceTogether, basée sur le Bluetooth. Même si elle ne géolocalise pas les usagers, elle relève toutes les personnes croisées sur une période de 14 jours. Elle a été très faiblement adoptée, par 12 % de la population. Impossible donc d’en évaluer l’efficacité contre le virus. La France, à l’instar d’autres pays européens, s’oriente vers cette même technologie, avec une application Bluetooth, StopCovid, dont l’installation serait volontaire mais qui aurait vocation à être adoptée par tout le monde, et pas seulement les personnes en quarantaine.
 Système visualisant les données de géolocalisation recueillies pour lutter contre le coronavirus.  Abdesslam MIRDASS / Hans Lucas / Hans Lucas via AFP Partager

Les scenarii de déconfinement sont multiples, et assez cohérents avec les orientations politiques de chaque pays. En France, on assiste par exemple depuis longtemps à une baisse importante des dépenses publiques dans certains secteurs retenus non stratégiques, et notamment dans la santé publique. L’exécutif a promis un plan massif d’investissement pour l’hôpital, mais pourrait aller plus loin dès à présent en misant plutôt et entièrement sur la consolidation des moyens à disposition des personnels soignants.
 
Le recours au pistage numérique n’est-il pas indispensable pour organiser un déconfinement ?  
En vérité, la question de la surveillance numérique et celle du déconfinement sont entièrement décorrélées : cantonner le numérique à des fins de surveillance est un choix politique. Pour moi, le succès du déconfinement est d’abord une question d’investissements dans des dépenses de santé publique, permettant de réaliser des tests massifs, de doter tout le monde de masques et d’optimiser la gestion de lits d’hôpitaux. Dans l’idéal, on pourrait ainsi imaginer un numérique au service du référencement de ces éléments, par exemple une application officielle qui permettrait de savoir combien de tests sont disponibles et où les effectuer autour de moi.

ll a été décidé d’aller dans un sens différent qui fait passer le pistage des êtres humains avant le dépistage de la maladie. C’est une tendance à la généralisation de la surveillance électronique qui se dessine depuis deux décennies, mais qui se retrouve aujourd’hui dans des expériences menées partout dans le monde au nom de la lutte contre le Covid-19.

Mais nous sommes en état d’urgence sanitaire et nos déplacement sont déjà contrôlés. En quoi cette surveillance numérique serait-elle selon vous si problématique ?

A. C. : Avec le confinement, nous avons fait l’expérience d’une assignation à résidence collective ; avec les applications de surveillance, nous risquons d’assister à la banalisation du bracelet électronique. Autrement dit : si la surveillance numérique est la condition pour recommencer à circuler dans l’espace public, nous ne sommes pas face à la fin d’une restriction temporaire de nos libertés, mais à la continuation du confinement par d’autres moyens.
 Un passager munis d'un bracelet électronique après avoir été testé au COVID-19 à l'aéroport de Hong KongUn passager munis d’un bracelet électronique après avoir été testé au COVID-19 à l’aéroport de Hong Kong  ISAAC LAWRENCE / AFP Partager

Or, rendre visible dans l’espace public les personnes malades comporte des risques, avec différentes dérives possibles. En Chine, il existe ainsi une application de livraison de repas qui affiche la température des coursiers. En Corée du Sud, on a vu la prolifération d’applications non officielles qui permettent le traçage ciblé de personnes positives au virus, avec tous les risques de harcèlement que cela induit. Par exemple, l’appli « Corona 100m » vous permet de savoir si autour de vous quelqu’un a été déclaré positif au Covid-19. Outre la violation du secret médical, cette information est inutile puisqu’elle ne dit même pas si cette personne est encore contaminante, ou désormais immunisée…
 
Et puis pour chaque usage, des problèmes importants de consentement des usagers se posent. Lorsque par exemple des start-up proposent de construire des cartographies de la mobilité des Français au temps du Covid-19 en récupérant à notre insu les données d’applications en apparence aussi anodines  qu’un jeu sur mobile ou des applis GPS, comment être sûr que ces mouchards respectent bien la loi ?

Justement quelle est plus précisément la voie envisagée en France ?
A. C. : Le déploiement en Europe du « tracking », utilisé dans de nombreux pays où il permet grâce aux données mobiles ou à la reconnaissance faciale de suivre les déplacements des personnes et de mettre une amende en cas d’éloignement du domicile, n’est pas facile en Europe à cause des législations comme le Règlement général sur la protection des données (RGPD) et la directive ePrivacy. De même, l’utilisation des données de géolocalisation (la liste des antennes-relais auxquelles nos téléphones se connectent au fil de la journée) a été proposée par certains acteurs de télécommunications comme Orange. Quels que soient les efforts pour anonymiser ces données, ceci est impossible une fois qu’elles ont été collectées.
 
Ce que proposent Google et Apple et qui est sérieusement débattu en France est un système de « contact tracing » par Bluetooth. Là, si vous êtes testé positif, toutes les personnes qui auront été à proximité de votre smartphone recevront une notification du type : « au cours des deux dernières semaines vous avez été en contact avec une personne contaminée ». Il s’agit de la version numérique d’une méthode qui existait bien avant l’arrivée des smartphones et qu’utilisaient les soignants pour enquêter sur les chaînes de contaminations en cas d’épidémie de tuberculose par exemple, et prévenir les personnes concernées si besoin.
 L’application de “contact tracing” par Bluetooth TraceTogether a été déployée à Singapour à partir du 20 mars 2020.  Catherine LAI / AFP Partager

Confier cette mission à une application mobile élimine le discernement des professionnels et introduit un fort risque de faux positifs. Si j’oublie le smartphone dans mon manteau, toute personne qui passe à proximité sera-t-elle notifiée ? Cela pourrait rendre le système inefficace. De plus, il deviendra possible de discriminer les personnes qui n’installeront pas l’application ; ce qui constitue un risque notable en termes de libertés publiques. Imaginez qu’une telle application soit obligatoire pour monter dans les bus. Cette obligation pourrait être étendue indéfiniment, tout comme le plan Vigipirate, qui à l’origine devait être limité dans le temps. D’où l’importance d’avoir maintenant un débat au Parlement sur ce sujet .
 
N’est-il pas possible d’établir des garde-fous pour limiter les atteintes aux libertés et à la vie privée ?
A. C. : On peut les limiter, oui, mais pas les éliminer. En France on envisage que l’application StopCovid produise des pseudonymes, des identifiants éphémères. De cette manière si je croise un individu, mon smartphone ne détecte pas son identité. Mais ces pseudonymes devraient être envoyés à une base de données centralisée. Et c’est là que, selon des experts en informatique, une ré-identification reste possible. En effet, dès que vous êtes déclaré positif, les personnes dans votre entourage sont informées; sous certaines conditions, ceci peut suffire à retrouver votre identité. Par ailleurs, ce genre d’application est très vulnérable au piratage et aux détournements: on peut notamment imaginer l’apparition d’applications « parasites » capables de croiser les données Bluetooth avec d’autres informations, voire des « blagues » informatiques où des plaisantins s’amuseraient à désanonymiser les identifiants de leurs voisins et de leurs connaissances testées positives.
 
Voulons-nous vraiment abolir le secret médical ? Il faut casser ce modèle dystopique auquel le discours ambiant semble nous avoir destinés. Cette surveillance numérique est présentée comme inéluctable, alors qu’elle peut s’avérer inefficace, discriminatoire et atteindre la vie privée des citoyens si on ne permet pas aux citoyens de protéger leur vie privée et la confidentialité de leurs informations médicales.
 
En réalité, il ne s’agit pas de lutter contre une maladie difficile à détecter en renonçant à nos libertés, mais en nous efforçant de la détecter ! La question centrale est celle des tests, des masques et du nombre de lits d’hôpitaux, et il n’existe pas d’application « magique » capable de remplacer une solide politique de santé publique. ♦Notes

  • 1.Antonio Casilli est chercheur à l’Institut interdisciplinaire de l’innovation (I3 – CNRS/École polytechnique/Mines ParisTech/Telecom Paris) et chercheur associé à l’Institut interdisciplinaire d’anthropologie du contemporain (IIAC – CNRS/EHESS).

[Podcast] Entretien : y a-t-il un boom des jobs des plateformes depuis le coronavirus ? (RTS, 20 avr. 2020)

Ailleurs dans les médias (avr.-oct. 2020)

(08 sept. 2020) Pourquoi peut-on déjà parler d’échec de l’application de traçage StopCovid?, Challenges.

(22 juil. 2020) Derrière le néotravail, notre dépossession ?, InternetActu.

(15 juil. 2020) Microtravail : comment j’ai essayé de gagner de l’argent sur internet en comptant des shampoings sur une photo, NeonMag.

(10 juil. 2020) Dark patterns, des dérives inacceptables, Hello Future/Orange.

(30 juin 2020) Quand les décisions au travail seront prises par la machine, Contretemps.

(29 juin 2020) Invisibles : Les travailleurs du clic, Agir Par La Culture.

(27 juin 2020) Trabalho e plataformas digitais: precarização, controle, formas de luta e resistência, Esquerda Online.

(23 juin 2020) Ecrire des tribunes, un sport de combat par temps de pandémie, Libération.

(18 juin 2020) Le capitalisme de plateforme et la précarisation de l’emploi, une réalité réinventée ?, Géopoweb.

(18 juin 2020) Qui est responsable quand l’automatisation défaille ?, InterentActu.

(11 juin 2020) Antonio Casilli: «Immuni? Pericolosa. Mi aspetto una “Covid Analytica”», Open Online.

(04 juin 2020) Vigilância digital em tempos de pandemia, Jota.

(29 mai 2020) LES HUMAINS DERRIÈRE L’IA : A quoi rêvent ceux qui rêvent des algorithmes ?, Digital Society Forum.

(25 mai 2020) « Désubériser » : Réflexions et bonnes pratiques pour des plateformes d’emploi plus saines, Toute la culture.

(25 mai 2020) Plus de libertés si vous utilisez StopCovid : la proposition controversée d’un député, Numérama.

(23 mai 2020) La pandémie a fait dérailler l’intelligence artificielle, Slate.

(05.05.2020) StopCovid : le guide pour tout comprendre, Zdnet.

(04 mai 2020) Comment les techs transforment le travail et pourquoi l’accélération actuelle n’est pas une bonne nouvelle pour les travailleurs, Miroir Social.

(28 avr. 2020) Le gouvernement s’embourbe dans son projet d’application «StopCovid», Mediapart.

(28 avr. 2020) StopCovid : faire « passer le pistage des êtres humains avant le dépistage de la maladie » ?, Généthique.

(27.04.2020) Polémique #StopCovid sur Twitter : un débat d’experts où les politiques n’arrivent pas à convaincre, CartoRezo.

(24.04.2020) Al via ‘Il mondo che verrà’, su social Gruppo Feltrinelli, Ansa.

(27.04.2020) CNRS “Il n’existe pas d’application magique”, NextInPact.

(23.04.2020) «Contact tracing» et capitalisme de surveillance, Ligues des Droits et Libertés.

(22.04.2020) COVID-19 e human tracking – di Giorgio Griziotti [1], Effimera.

(18.04.2020) Covid-19 : le traçage numérique en question, France Culture.

(16.04.2020) Traçage numérique : les libertés plus menacées que le covid, Charlie Hebdo.

(08.04.2020) Quels sont les enjeux d’une sortie de crise ?, Edeni.fr.

(07.04.2020) Intelligence artificielle : mais que se passe-t-il dans le cerveau des machines ?, Capital.

(07.04.2020) L’après-crise : Le télétravail, ce nouvel esclavage, L’aut’journal.

(02 avril 2020) Coronavirus : le gouvernement planche sur une application pour tracer les malades après la levée du confinement, LCI.

(02 avril 2020) Emprise du numérique sur nos vies : “Le technopouvoir échoue quand il finit par se croire invincible”, Marianne.

[Podcast] Coronavirus et surveillance de masse (France Inter, 2 avr. 2020)

Le 2 avril 2020, j’étais l’invité de l’émission Le Grand Rendez-Vous sur France Inter. Avec le journaliste Bruno Duvic et le directeur de recherche du CNRS Alain Chouraqui, j’ai répondu aux questions concernant l’urgence sanitaire du coronavirus et les solutions technologiques mises en place ou envisagées par le gouvernement français pour permettre une surveillance de masse accrue sur la population, sous prétexte d'”accompagner le déconfinement”.

A la question “nos libertés publiques sont-elles menacées par les mesures envisagées par le gouvernement pour lutter contre le coronavirus ?” ma réponse est évidemment oui. Dans le courant de l’émission je rappelle que :

  • il n’y a pas eu de violations massives du confinement qui justifient l’usage de drones par les autorités
  • le traçage des citoyens par GPS est inefficace et ne respecte pas le RGPD
  • le traçage “de proximité” par bluetooth est inefficace et discriminatoire

NB : ce podcast est mis à disposition sur ce serveur parce que, à cause d’un bug technique, le site web de l’émission l’a téléversé à trois reprises, et à trois reprises il a été effacé. Je répète : c’est un bug technique dû au fait que les équipes techniques travaillent avec beaucoup de difficultés à cause du confinement.

“Coronavirus tracking apps are a serious threat to medical privacy” (BBC World Turkey, 2 April 2020)

I was interviewed by journalist Çağıl Kasapoğlu for BBC World Turkey.

Casilli: Koronavirüs kitlesel gözetim ve veri toplama sistemlerini güçlendiriyor

Çağıl Kasapoğlu BBC Türkçe 12-16 minutes


Gözetim sistemlerinin en yaygın kullanıldığı ülkelerden biri Çin.
Image caption Gözetim sistemlerinin en yaygın kullanıldığı ülkelerden biri Çin.

Koronavirüs, Covid-19 salgınıyla mücadelede bazı ülkeler vatandaşlarının sağlık durumlarını takip edebilmek için dijital teknolojiye başvurdu.

Çin, Singapur, İsrail ve Güney Kore gibi ülkelerde bireylerin cep telefonlarına yüklenen izleme takip uygulamalarıyla koronavirüsün yayılması engellenmeye çalışıyor.

Avrupa ülkeleri de benzer yöntemleri gündemlerine almaya başladı.

Ama bu yöntemleri eleştirenler, gizlilik hakkının, bireysel veri koruma haklarının ihlali olarak görüyor.

Diğer yandan milyonlarca kişinin evlerine kurulan yazılımlarla uzaktan çalışmaya başlamaları da siber güvenlik açısından soru işaretleri doğuruyor.

İnternet gizliliği ve dijital istihdam konularında uzmanlaşan İtalyan-Fransız sosyolog Antonio Casilli, koronavirüsle değişen çalışma yöntemleri ve izleme takip sistemleriyle ilgi BBC Türkçe’nin sorularını yanıtladı.

Çin, Singapur, Güney Kore, İsrail gibi bazı ülkelerde koronavirüsün yayılmasını engellemek için bireyler cep telefonu uygulamaları veya farklı dijital araçlarla takibe alınıyor. Bu başarılı bir yöntem mi?

Hayır, kesinlikle başarılı bir yöntem değil. Ama tüm dünya genelinde uygulanan kitlesel gözetim politikalarıyla tutarlı bir yöntem. Çin, Güney Kore veya Singapur gibi ülkelerin her biri birbirinden farklı. Örneğin Çin’de koronavirüsle mücadelede başarı daha çok katı kuralların dayatıldığı karantina, sosyal mesafe ve tecrit uygulamalarıyla bağlantılı. Ve tabi enfeksiyon kapanların takibe alındığı cep telefonu uygulamaları ve sistemleri de var. Ama Çin’de bu tip gözetleme ve takip uygulamaları hali hazırda vardı.

Güney Kore’de de başarının asıl nedeni testlerin yaygın yapılması, Tayvan’dan da hükümet ve yetkililer tarafından kaliteli bilgi akışının sağlanmasından kaynaklanıyor.

Şimdi ise İtalya ve Fransa gibi ülkelerde koronavirüsle mücadelede, enfeksiyon kapanların belirlenmesi için kendi cep telefonu uygulamalarını başlatmak istiyor.

Bu tip yöntemler pandemiyle mücadelede değil, psikolojik caydırma politikalarında etkili olabilir. Dolayısıyla biyomedikal araçlardan çok disiplin sağlama açısından önemli olabilirler.

Antonio Casilli
Image caption Antonio Casilli

O zaman devletler, hükümetlerin kitlesel gözetleme sistemlerini uygulamak için bu tip krizlerden faydalandıklarını mı düşünüyorsunuz?

Evet, kesinlikle artık çok da gizli olmayan, kitlesel gözetim politikalarını uygulamaya çalışıyorlar. Aslında zaten bu tip yöntemler vardı. Hükümetlerin, siyasi partilerin, özel şirketlerin bu yöntemlere başvurduklarının farkına varmak için Edward Snowden veya Cambridge Analytica gibi krizleri beklememize gerek yok. Ama bu krizler hükümetler ve kuruluşlar tarafından gözetim yöntemlerini dayatmak için bir fırsat olarak görülüyor. Covid-19 salgını da bu krizlerden farklı değil.

Drone uçurmak, hayata müdahale eden cep telefonu uygulamalar dayatmak, bunlar demokrasiye tehdit oluşturuyor. Zira bu teknolojilerin üreticileri de genelde hükümetlere yakın şirketler oluyor.

Kitlesel gözetim sistemleri üreten şirketler demokratik yapılara girebilmek için başarılı lobi faaliyetleri yürüyor. Yüz tanıma teknolojileri, akıllı şehirler gibi teknolojilere karşı bazı sivil toplum kuruluşları da farkındalık yaratmaya çalışıyor.

Bunlar gizliliğin ihlali, bireysel hakların ihlali gibi görülebilir ama diğer yandan da insanlar ölüyor ve Covid-19 salgınında da bazıları çıkıp “Ben gizliliğimden ödün vermeye hazırım, yeter ki devlet beni korusun” diyebiliyor. O zaman bu nasıl dengelenebilir?

Tam da bu nedenle, ölüm korkusu nedeniyle, insanlar gizliliklerine daha çok değer vermeli, sahip çıkmalı. Gizlilik, yalnızca otoriter rejimlere karşı güçlü bir araç değil, aynı zamanda sağlığınızı da koruyan bir şey.

Tıbbi gizlilik ilkesi vardır mesela. Tıbbi sorunların, bilgilerin, hastalıkların teşhir edilmemesi hakkı vardır çünkü size karşı ayrımcılık amaçlı kullanılabilir. Şimdi ise, tıbbi gizliliğe ciddi tehditler oluştuğunu görüyoruz.

Koronavirüs kapanların teşhir edilmesi, kamuya duyurulması yalnızca tehlikeli değil aynı zamanda ayrımcılığa da neden olabilecek bir şey. Bazı durumlarda sağlık hizmetlerine erişimi engelleyebilir, bazı durumlarda da bireylerin sağlıklarıyla ilgili bilgileri paylaşmaya çekinmelerine neden olabilir. Covid-19 hastaları ayrımcılığa uğrarsa, komşuları tarafından saldırıya uğrarsa veya kamu sağlığına erişimleri engellenirse o zaman diğer hastalar da kendi durumlarının ortaya çıkmasını istemezler.

İnsanların tıbbi gizlilik hakları korunmalı ve bu bilgiler yalnızca sağlık çalışanlarıyla paylaşılmalı, herkesle değil. Bu yalnızca sizin gizliliğinizi korumakla kalmıyor, sağlığınızı, kolektif sağlığımızı da koruyor.

Tayvan'da da cep telefonlarında takip sistemi var.
Image caption Tayvan’da da cep telefonlarında takip sistemi var.

Ama bazı durumlarda insanlar kendilerini korumak için başkalarının verilerine de ihtiyaç duyuyor olabilir? Mesela nerede çıkmış, kimde çıkmış, böylece onlarsan sakınmak isteyebilirler?

Bu, kitlesel gözetim sistemleri üretenlerin ana argümanı. Son 10 yılda da böyle oldu. “Bunu insanlar istiyor, bilgilerinin açığa çıkarılmasından memnunlar” diyorlar. Facebook da bunu diyordu 10 yıl önce. Ama hayır. İnsanlar bilgilerinin, verilerinin açığa çıkmasından, paylaşılmasından memnun değil. Cambridge Analytica olayı da bunu gösterdi.

Bir de veri toplayıp paylaşanlar “Bu sizin kendi iyiliğiniz için” diyor. Hayır, bunu yalnızca otoriter rejimler söyler. Özellikle kitlesel gözetim araçları üretip bu yöntemle zengin olanlar söyler.

Bir de en tehlikeli bakış açılarından biri ‘koronavirüsle mücadele ile gizlilik hakkı arasında denge sağlamaya çalışmak’. Bu elmalarla, armutları, birbirleriyle hiçbir ilgileri olmayan meseleleri karşılaştırmak demek.

Koronavirüs ile gizlilik farklı şeyler. Gizlilik, temel bir özgürlük hakkıdır, dolayısıyla korunmalıdır. Herhangi bir şekilde aşağı çekilemez, çünkü temel bir haktır.

Avrupa’da bireysel verilerin korunmasına yönelik ciddi politikalar var ama şimdi Avrupa ülkeleri de Rusya ve bazı Asya ülkeleri gibi koronavirüsle mücadelede cep telefonlarından izleme yöntemlerinin kullanılıp kullanılamayacağını tartışıyor. Genel olarak tüm dünyada George Orwell’in distopyası ‘Big Brother’ (Büyük Birader) gibi bir durumla karşı karşıya kalabilir miyiz?

Daha da kötüsü ‘Big Mother’ (Büyük Anne) olacağız sonunda. Herkes Çin ve Rusya’yı ‘kötü adamlar’ olarak öne çıkarıyor. Evet, Moskova’daki yüz tanıma sistemi çok ürkütücü veya Çin’de uyguladıkları sosyal takip sistemleri korkunç ama İngiltere veya Fransa ve ABD, İsrail de aynı şekilde ‘kötü’. Çünkü bu teknolojilerin, devasa kitlesel gözetim sistemlerinin ana üreticileri bu ülkeler. Fransa, İngiltere ve ABD’de de sistematik olarak gizlilik ihlalleri yapılıyor.

‘Palantir’ (Avrupa ülkelerinin koronavirüs verileri toplamak için görüştüğü öne sürülen veri analizi şirketi) bir Rus şirketi değil, bir Amerikan şirketi. Kurucusu da büyük bir Trump destekçisi olan Peter Thiel. Bu mesele demokrasinin yozlaşması, kurumsal çıkarların hükümet işlerine girmesi meselesidir. ‘Big Brother’ olayı zaten birçok alanda kitlesel gözetim açısından var. Ama artık, büyük şirketlerin çıkar ilişkisi içerisinde hükümetlerin içine sızdığını görüyoruz.

cep telefonu

Siz ‘dijital işgücü’ üzerine de çalışmalar yapıyorsunuz. Şimdi koronavirüs salgını nedeniyle birçokları evlerde dijital çalışma ortamına girmişken, birçokları da hala dışarıda ve bazıları da bu sisteme geçemedikleri için işlerini kaybetme riskiyle karşı karşıya. Bu iş gücündeki eşitsizlikler açısında ne anlama geliyor?

Dünya nüfusunun neredeyse yarısı karantinada. ABD’de Gallup araştırma şirketinin yakın zamanda yaptığı bir ankete göre bu durumun, koronavirüse maruz kalma riski olanlarla olmayanlar arasında sınıfsal farklar var. Daha düşük gelirli işlerde çalışanların bazıları fiziksel teması daha yüksek olan işlerde çalışabiliyor.

Dolayısıyla evden de çalışmaları mümkün olmuyor. Diğer yandan orta sınıf, üst sınıf daha yüksek gelir sahibi olanlar ise uzaktan çalışma sistemine geçebiliyor. Zaten Avrupa’da, ABD’de bu kişiler daha karantina, tecrit uygulamaları başlamadan evlerine kapandı.

Tabii ki sınıfsal nedenler var, işçi sınıfları tehlikelere karşı daha az korunaklı olabiliyor veya güvenlikleri daha zayıf olabiliyor. Ama sınıf her şeyi açıklamıyor.

Bazı meslek grupları da tehlikelere daha açık. Örneğin sağlık çalışanları, doktorlar. Gelir seviyeleri yüksek olabilir ama risk altındalar.

Evet, zengin ile yoksul arasında büyük bir fark var ama mesafelerin belirlediği işler arasında da fark far. Grafik tasarımcısı, avukat gibi meslekler fazla fiziksel temas gerektirmeyen meslekler. Koronavirüs salgınıyla, fiziksel temas gerektirmeyen bu mesleklerin de daha hızlı ‘dijitalleştiğini’ gördük.

Ama bu dijitalleşmeyle oluşan Uber, Deliveroo gibi platformlarda çalışanlar ise sosyal sigortaları ve sosyal güvenceleri açısından yeterince korunmuyor. Resmi sözleşmeleri bile yok çoğu zaman. Ayrıca da fiziksel risklere karşı daha korunaksız kalıyorlar.

Koronavirüs ilüstrasyonu önünde zoom uygulaması olan cep telefonu görüntüsü
Image caption Zoom video konferans uygulamasının kullanıcı sayısı ve piyasa değeri arttı.

O zaman bu hızlı dijitalleşme kendi kurbanlarını da mı yaratmış oluyor?

Evet, teknoloji daha önce de var olan sınıfsal ve istihdamdaki bazı farklıları ortaya çıkarıyor. Bazı akımları abartma eğilimi de var. Ama bu teknolojiler toplumda ‘yanlış giden şeyleri düzeltme’ vaadiyle bizlere sunuldu. “Herkes özgürce çalışacak, herkes istediğini yapabilecek” fikirleri ortaya çıktı.

Ama sonunda bunun doğru olmadığını gördük, teknolojinin de maskesi düşüyor.

Bu evden çalışma ve dijitalleşme gelecekte çalışma tarzı anlayışımızı nasıl değiştirecek? Kalıcı bir uygulamaya dönüşür mü bu tarz istihdamlar?

Şimdi bazı şakalar yapılıyor: “CEOların, teknoloji vizyonerlerinin yıllarca beceremediği dijital dönüşümü koronavirüs yaptı” diye. Yani “insanların beceremediğini koronavirüs becerdi” diyenler var. Örneğin üniversiteler 10 yıldır dijital eğitimi deniyor ama hiçbir zaman tam olarak başarılı olamamıştı. Şimdi ise koronavirüs yüzünden tüm eğitim sektörü uzaktan eğitime geçti.

Veya, bazı başka ofis işleri, bakanlıklar bile ‘akıllı çalışma’ yöntemiyle uzaktan işlerini halletmeye başladılar.

Ama teknolojiler bize sunulduğunda, bize verilen sözler bunlar değildi. Video konferanslar, uzaktan eğitimler… Son birkaç günde ve haftada, bize sözü verilen teknolojilerin çok hızlı ve kötü bir şekilde uygulandığını gördük. Bu ani geçiş, altyapısı sağlam sistemler üzerine oturtulmadı.

Şirketler de bu uzaktan çalışma yöntemiyle çalışanlarını denetleyebilmek için bazı bilgisayar yazılımları satın almaya başladı. Bu da kitlesel gözetimin bir yöntemi. Uzaktan çalışma derken bunun bir gözetim ve takip sistemine dönüşebileceği hesaba katılmamıştı. İdeal olan da bu değil.

Evlere kurulan sistemler bireylerin siber güvenliği açısından bir tehlike oluştuyor mu? Zoom uygulaması giderek yaygınlaştı ama veri topladığı kaygıları da dile getiriliyor?

Zoom çok iyi bir örnek. Herkes kullanımı kolay etkin bir uygulama olarak görüyor ama altında yatan güvenlik ve gizlilik sorunları var.

Pazarlama argümanlarında söylediklerinin aksine şifreleme uygulamaları yok. Daha önce Zoom’un hassas bilgileri Facebook’la da çalıştığı haberleri çıkmıştı.

‘Veri yönetimi’ olarak tabir edilebilecek gizlilik kuralları çerçevesinde bireylerin verileriyle ne yapıldığı, kullanıcıların verilerinin tanımadıkları, bilmedikleri şirketlere satılmaması için, verilerini koruma hakkı için neler yaptığı önemli.

Zoom’un iş modeline bakarsanız, tamamen verileri Facebook, Google ve diğerlerine satmak üzerine inşa edilen bir model olduğunu görürsünüz.

Yalnızca iki gün önce veri politikalarıyla ilgili kullandıkları kelimeleri değiştirdiler ve satmadıklarını söylemeye başladılar.

Bu veriler yalnızca kişisel bilgileriniz değil, aynı zamanda IP adresleriniz. Herkes artık evlerinden Zoom kullandığı için bu da ev adreslerinizin, konumlarınızın ve kullandığınız cihazlara ait bilgilerinin toplanıyor olması demek.

Facebook sayfanız, iş vereniniz ile ilgili çok değerli bilgilerin yanlış kişilerin eline geçiyor olması çok feci bir durum. Genelde de hep, sistematik bir şekilde yanlış kişilerin yani big tech şirketlerinin eline geçiyor.

Zoom’un son dönemde piyasa değerinin neden arttığını da açıklayan bir durum. Kullanıcı sayıları, dolayısıyla topladıkları veriler arttı.