digital labor

“Pour sortir de cette crise pandémique il faut abattre la surveillance de masse” (grand entretien, AOC, 28 mars 2020)

Le 20 mars, quelques jours après le début du confinement en France, je me suis entretenu pendant un bon moment avec le journaliste Raphaël Bourgois. Le résultat de notre conversation est cette longue interview publiée sur le média AOC le 28 du même mois. J'en reproduis ici le contenu exclusivement à des fins d'archivage personnel, d'autant plus que le texte est accessible pour tout le monde sur le site de AOC (pas besoind d'être abonné•es, il suffit de s'inscrire avec une adresse email et, sans laisser aucun identifiant personnel ni moyen de paiement, vous pouvez accéder à 3 articles par mois pendant un an).
Antonio Casilli : « Cette épidémie s’avère aussi un signal d’alarme à propos du numérique »

Par Raphael Bourgois Journaliste

Près de 3 milliards de personnes sont aujourd’hui confinées. Dans cette situation, qu’il s’agisse du travail ou de toute autre forme d’interactions humaines, les relations numériques sont venues pallier l’absence de contact physique. Comme si nous avions été brutalement précipités dans un monde 2.0 depuis longtemps prophétisé. Reste à savoir si ce monde relève plutôt de l’utopie, ou de la dystopie.

Depuis le début de l’épidémie de Covid-19, devenue depuis pandémie, l’outil numérique est apparu tour à tour comme un moyen de lutte contre la propagation du coronavirus, un outil de contrôle social, un substitut à nos relations avec nos proches, une façon de maintenir une activité professionnelle… Tout se passe comme si du web 2.0 – qui désigne depuis maintenant près de 20 ans ce deuxième âge d’Internet dans lequel les interactions humaines sont simplifiées et accélérées – nous étions passés à un monde 2.0. Face à cette accélération d’une mutation en cours, et à l’affaiblissement des interrogations et des barrières qui en freinaient péniblement la progression, le sociologue Antonio Casilli possède l’avantage d’un regard porté sur le long terme. Professeur en sociologie à Telecom Paris, ses recherches portent principalement sur la politique, la santé et les usages informatiques. Il avait publié il y a dix ans Les Liaisons numériques. Vers une nouvelle sociabilité ? (Le Seuil), un ouvrage de référence sur ce qu’Internet fait à nos façons de nouer des amitiés, de développer des relations professionnelles ou encore de constituer un couple. Récemment, il s’est intéressé, dans En attendant les robots. Enquête sur le travail du clic (Le Seuil), à la fausse « promesse » de voir l’intelligence artificielle remplacer l’humain dans son labeur, et les machines finalement faire disparaître le travail. Son regard sur la situation actuelle fait émerger la nécessité de ne pas perdre de vue une approche critique, et un souci démocratique, quand on mobilise des outils numériques qui peuvent par ailleurs se révéler utiles pour lutter contre l’épidémie. RB.

Lutilisation des moyens offerts par le numérique, à loccasion de l’épidémie de Covid-19, qu’il s’agisse de garder le contact avec les proches ou de continuer à travailler, amène certains à évoquer un « basculement dans un monde 2.0 ». Quen pensez-vous ?
Le côté utopique de ce monde 2.0, tel qu’il est présenté ou prophétisé, se trouve mis à mal dans notre situation actuelle. Nous avons basculé en « mode dégradé » pour reprendre le vocabulaire des ingénieurs qui désignent ainsi un système qui ne marche pas, et pour lequel il faut trouver une solution de repli, mais en moins bien. Le numérique qu’on nous enjoint de pratiquer en ce moment pourrait ainsi être qualifié de quick and dirty, « rapide et sale » : des solutions adoptées en catastrophe et qui peuvent poser au mieux des problèmes sérieux en termes de surveillance, gouvernance et propriété des données produites ; et au pire qui nous exposent à tout un tas de risques qu’on n’a pas encore envisagés. En particulier le télétravail idéalisé ne ressemble en rien au télétravail en temps de crise. Il ne s’agit pas d’une activité choisie annoncée par des bataillons de consultants en gestion des RH, permettant d’articuler autonomie et contrainte, de moduler d’un côté ce que l’on réalise chez soi selon ses propres rythmes, de l’autre des activités ritualisées comme la signature d’un contrat ou la présentation d’un projet, à réaliser en présentiel. Ici, il n’y a que des contraintes, qui en plus s’installent dans l’intimité de l’habitation des travailleurs. Je pourrais donner l’exemple de ce qui se passe dans le milieu universitaire, où on a vu, avec le confinement, se multiplier les visioconférences qui ne sont qu’une imitation du pire du travail présentiel : la réunion à laquelle chacun cherche à échapper, la surveillance des étudiants par le relevé des présences… De plus, beaucoup passent par des plateformes comme Zoom, qui a d’ailleurs explosé en bourse à la mi-mars, voire Google Hangouts ou Microsoft Teams… ce sont donc les GAFAM qui profitent de la situation avec des conséquences potentiellement graves. D’abord en termes des données ainsi produites, puisque ces plateformes prennent pas mal de libertés avec le Règlement général sur la protection des données (RGPD), ou avec des règlements locaux comme la loi californienne de défense des consommateurs (CCPA) de 2020.

On se retrouve aujourd’hui dans une situation qui est non seulement affreuse du point de vue du respect de la vie privée et de la gouvernance des données, mais qui est aussi dangereuse du point de vue de la stabilité de ces systèmes. Il s’agit en effet de systèmes centralisés, chez Microsoft ou Google, et qui de ce fait ne sont pas forcément conçus pour être résilients. En cas de surcharge, ils tombent sans qu’il n’y ait la possibilité de trouver une alternative. Le 14 mars dernier, Google a envoyé un mail aux clients de son service GSuite. Tout en voulant les rassurer sur la performance des serveurs Google Cloud, le message prévenait qu’il ne fallait pas non plus s’attendre à des miracles et qu’il y aurait des pannes. Cela a d’ailleurs déjà eu lieu avec Microsoft Teams qui est tombé en panne lundi 16 mars quand la moitié des administrations et des entreprises d’Europe a voulu faire des vidéo-réunions en même temps. Ce sont des systèmes qui ne sont pas résilients, qui ne sont pas adaptés en réalité pour faire face à des situations de crise. C’est flagrant dans un autre contexte, celui d’Amazon, dont la chaîne d’approvisionnement est en train de s’écrouler sous la demande, sous les grèves des travailleurs des entrepôts et les fermetures de dizaines de centres de distribution pour cause de contamination. La firme a ainsi annoncé qu’elle concentrerait ses livraisons sur certaines catégories de produits jugés essentiels. Les centres de distribution d’Amazon sont des goulots d’étranglement qui rendent cette chaîne d’approvisionnement globale extrêmement instable.

Est-ce quen cette période où les autorités recommandent la « distanciation sociale », nous pouvons compter sur les Liaisons numériques pour reprendre le titre dun de vos ouvrages ?
Depuis les années 1990, plusieurs études sur les sociabilités connectées ont montré qu’il est impossible d’envisager les interactions en face à face et celles sur Internet comme des alternatives mutuellement exclusives. Contrairement à une idée reçue, ce n’est pas parce que nous passons du temps sur Internet que nous négligeons nos relations en face à face. De façon symétrique, en découle que les « liaisons numériques » ne remplacent pas les liaisons physiques, présentielles. Penser qu’on pourrait privilégier une dimension plutôt que l’autre est tout à fait ridicule d’un point de vue scientifique. C’était ce que j’écrivais déjà dans le livre que vous citez, nous vivons dans des espaces qui sont « en même temps » des espaces numériques et des espaces physiques. Moins d’interactions en face à face se soldent à terme par des tissus sociaux effilochés. Avant même la crise du Covid-19, les acteurs commerciaux l’avaient bien compris. La plupart des sites de mises en relation qui ont émergé ces derniers temps – médias sociaux, sites de rencontre, plateformes de livraison – ont été basés sur l’articulation de la vie locale et de la vie numérique. Uber nous met en contact avec des VTC qui sont à moins de 10 minutes de nous. Sur les sites de rencontre, on est mis en relation avec les célibataires de son quartier, de sa ville avec des indicateurs de leur proximité… à 100 m, à 1 km, etc.

C’est la même chose pour les sites de type Facebook ou WhatsApp, qui privilégient depuis quelques années la communication entre « liens forts », des gens qui ont déjà des formes d’interaction. On a donc eu plutôt tendance à superposer une couche numérique et une couche matérielle. Ce qu’il se passe aujourd’hui, c’est que la rhétorique du numérique en temps de confinement soutient qu’on peut éliminer l’une de ces deux couches, et en sortir indemne. Se passer de la couche de l’interaction physique via la « distanciation sociale », en la compensant simplement par des interactions numériques, c’est illusoire. Cela ne compense pas, par exemple, les pertes en termes de capital social, de ressources relationnelles qu’on peut mobiliser dans des situations de détresse, surtout pour les personnes les plus démunies. Si une personne est déjà isolée, ce n’est pas parce qu’on bascule tout sur Internet qu’elle va retrouver subitement des réseaux de solidarité. Et si quelqu’un a des enjeux d’intégration sociale, liés à son état de santé, à son grand âge, à des raisons économiques, etc., ce n’est pas la visioconférence qui va améliorer sa vie.

En quoi la situation que nous vivons révèle-t-elle les fractures de la société française ?
La quarantaine accentue très certainement les disparités sociales et les différentes formes de privilèges. Il n’y a que ceux qui ont déjà un capital social et financier important qui peuvent partir dans leur maison secondaire. Les autres vivent cette quarantaine de façon beaucoup plus intense. Par exemple, si l’on n’a pas de travail, on continue d’être au chômage et on est confiné chez soi, ce qui diminue les possibilités de trouver une source de revenus. Sans parler des personnes qui sont forcées de continuer à travailler soit parce qu’elles ne peuvent pas faire autrement, comme les livreurs Deliveroo, soit parce que leur métier n’est pas possible en télétravail. C’est tout de même le cas de 6 métiers sur 10. Je me suis particulièrement intéressé à ce que les Anglais désignent par « last mile job », les emplois des derniers kilomètres, qui sont « inéliminables ». Il s’agit de la toute fin de la chaîne de production : les services, les chaînes logistiques comme les hôpitaux, les usines, les réseaux de livraison. Souvent, il s’agit de métiers à très faible rémunération et protection sociale, et qui demandent une proximité physique avec ceux qui reçoivent ces services. Il y a aussi des risques dans les supermarchés, et malgré la rhétorique qui met en avant l’automatisation des caisses, les supermarchés requièrent toujours une présence humaine importante. Dans un contexte d’achats compulsifs dictés par la panique, il y a un afflux important de clients. Et même dans les parcs de caisses automatiques, 4 ou 5 personnes sont nécessaires contre 2 ou 3 en temps normal. Ces personnes ne peuvent pas respecter les distances de sécurité. Donc on voit que la quarantaine se joue bien à deux vitesses.

Très tôt les entreprises de livraison à domicile ont lancé des campagnes par mail pour garantir une « livraison sans contact ». Que cela révèle-t-il de limaginaire de ces plateformes et de la réalité de ceux qui y travaillent ?
Il s’agit tout simplement de la poursuite d’une entreprise d’euphémisation du travail que je dénonce dans mon dernier livre, En attendant les robots. Enquête sur le travail du clic. L’économie de plateforme s’est construite sur l’idée selon laquelle ce sont les machines, les algorithmes, qui travaillent à la place des humains, et sur la promesse d’un système sans faille et sans contact. Ce n’est pas vrai, il y a des personnes qui doivent produire la nourriture et d’autres qui doivent la livrer. Si un livreur tombe malade parce qu’il est exposé, on prend conscience que c’est toute l’infrastructure qui tombe en panne. Par leur communication, ces plateformes tentent aujourd’hui d’invisibiliser encore un peu plus ces personnes. On sait qu’une société comme Deliveroo anticipe déjà la maladie de plusieurs livreurs, et pour se prémunir, elle prétend de manière assez vague qu’elle assurera dans ce cas une aide financière, sans toutefois dire à combien s’élèvera cette aide, ni sous quelles modalités et pendant combien de temps elle sera versée à ces travailleurs qui n’ont ni salaire ni contrat de travail. Or, la question de savoir pour combien de temps ils seront indemnisés est essentielle. Il faut rappeler que même les jeunes peuvent être contaminés par le Covid-19. Et à l’issue d’une hospitalisation, on n’est plus forcément en bonne santé. On ne peut plus repartir à vélo comme avant. Jusqu’à combien de temps après l’hospitalisation Deliveroo est-il prêt à les aider ? Cette entreprise, comme ses semblables ou comme les plateformes de VTC, joue avec la protection sociale, en prétendant que c’est bénéfique aux indépendants. S’il y a un risque, déclarait dans le New York Times le 24 mars le PDG de Uber Dara Khosrowshahi, c’est parce que les salariés ont trop de droits, ce qui laisse les « partenaires » sans protection. C’est un discours irresponsable, malhonnête, et hélas cohérent avec celui de certains « dérégulateurs » bien de chez nous. Les plateformes ont refusé d’assumer leur responsabilité d’employeur et ils vont certainement se retrouver confrontés à un retour de bâton de la part des gens qu’ils ont refusé d’employer.

Depuis au moins deux ans un certain nombre dactions en justice débouchent sur la reconnaissance du lien de subordination entre travailleurs et employeurs, comme le 4 mars dernier lorsque la Cour de Cassation a reconnu le statut de salarié dun chauffeur Uber. Assiste-t-on là encore à un point de bascule comme en miroir de cette société 2.0 que vous nous évoquions ?
On assiste en effet à une vague de décisions de justice, en Espagne et en France, Deliveroo a été condamné, Uber a été condamné à requalifier les contrats de certains chauffeurs car on estime désormais – et c’est le point important de la décision de la Cour de Cassation – que l’acte même de se connecter à une plateforme relève du lien de subordination. Et on le voit dans d’autres services comme les services de micro-travail que j’ai beaucoup étudiés. Par exemple, la plateforme française Clic And Walk a été a condamnée à requalifier ses « usagers » en salariés. Or, ils avaient eu la mauvaise idée de déclarer le chiffre astronomique de 700 000 usagers, et ils risquent donc de se retrouver avec des centaines de milliers de personnes demandant à voir leur contrat régularisé. J’ai des doutes très forts sur ce chiffre, car les enquêtes que l’on a pu mener aboutissent à un total estimé à environ 250 000 personnes travaillant de manière occasionnelle sur les quelques 28 plateformes existantes en France. Mais ces plateformes ont tendance à gonfler le nombre de leurs utilisateurs au début, afin de montrer qu’elles sont bien dans la phase « up » de la start up, en voie de devenir une licorne, c’est-à-dire une entreprise du numérique à la croissance exceptionnelle. Il s’agit donc moins de refléter la réalité que de pouvoir se présenter aux investisseurs avec une base d’utilisateurs conséquente – en l’occurrence il serait plus juste de parler de travailleurs. Cette démarche qui consiste donc à exagérer ses résultats pour attirer les investisseurs se heurte à une sorte de moment de vérité quand il y a des décisions de justice telles que celles qui ont été rendues dans les deux dernières années. À ce moment-là, ces plateformes ont tendance à rétropédaler – la métaphore est particulièrement appropriée dans le cas de Deliveroo – et à inventer des critères comme le nombre de connexions durant tant de temps de suite, au cours de telle période, pour telle rémunération… Celles et ceux qui ne satisferaient pas ces critères particulièrement contraignants ne pourraient alors prétendre au statut de travailleur ou travailleuse. Dans la phase de « down », de redescente sur terre des start-up, il y a donc un nouveau jeu, qui consiste pour les plateformes qui ont, afin d’attirer les investisseurs, artificiellement gonflé le nombre de chauffeurs pour Uber, de livreurs pour Deliveroo, à réduire tout aussi artificiellement le nombre de celles et ceux qui pourraient être considérés comme leur salarié·e·s.

Le quotidien britannique The Guardian a évoqué la possibilité dun tournant pour le télétravail à la faveur de l’épidémie de Covid-19. Pour ces emplois éligibles au travail à domicile, quel changement en perspective ?
Je suis d’accord avec l’idée selon laquelle nous sommes à un tournant dans l’histoire du travail à distance, mais ce n’est pas celui qu’on attendait. La promesse d’une plus grande maîtrise individuelle, de plus d’autonomie afin de gérer les différents temps et les différents espaces, entre vie privée et travail, cette promesse offerte par l’évolution de la technologie, n’est pas au rendez-vous. Ce que je constate ne correspond pas à cette vision optimiste et apaisée. S’il y a un tournant, il se concrétise plutôt dans la généralisation d’un travail de la micro-tâche effectuée à distance. Pour faire court, il y a énormément d’activités qui dans les trois dernières décennies ont été impactées par la digitalisation. J’insiste sur ce terme de digitalisation, de « travail du doigt », qui n’est pas la numérisation, l’introduction d’une dimension scientifique. Un nombre important de métiers voient se multiplier les tâches répétitives, routinières, abrutissantes, aliénantes, et qui ne sont même pas reconnues. Je suis enseignant-chercheur, pourtant une partie croissante de mon temps est consacrée à envoyer des mails et à cliquer sur des plateformes dont j’ignore largement l’utilité et sur lesquelles je suis contraint d’aller cocher des cases, remplir des formulaires… Je peux donc considérer qu’il y a une forme de « tâcheronnisation » de mon métier, composé de manière croissante d’actions de plus en plus simples qui peuvent effectivement être réalisées à distance, et c’est une mauvaise nouvelle car cela introduit une dimension de déqualification. N’importe qui peut réaliser le travail de cliquer pour valider un devoir sur un MOOC. Pas besoin d’embaucher un fonctionnaire en CDI. Tout ce travail réalisé à distance n’est pas reconnu, il ne figure pas dans mon cahier des charges, et il est candidat à l’externalisation. En réalité un nombre important de métiers risquent de se retrouver non pas automatisés – c’est-à-dire réalisés par des robots – mais « tâcheronnisés » car réalisés par des personnes à distance et pour moins cher. À mon sens, la victoire du télétravail annonce en réalité une vague de délocalisations à l’aide de plateformes.

Il ny aurait donc aucun avantage à cette numérisation de la vie et du travail que l’épidémie actuelle est venue accélérer ? Ce regard critique ne passe-t-il pas à côté de certains aspects positifs de la numérisation ?
J’aimerais préciser le sens que je donne à ce discours « critique », tel que vous le définissez. Ce que je dis, avec d’autres, ce n’est pas qu’il faudrait déplorer l’existence même du numérique, bien au contraire nous nous en félicitons tout en regrettant qu’il soit tombé aux mains d’oligopoles capitalistes, transformés en véritables machines à cash par l’exploitation des utilisateurs. L’exemple de l’épidémie de coronavirus est encore une fois éclairant : il n’y a aucune espèce d’autocensure de ces entreprises qui vont continuer le business as usual. Or il y avait la possibilité, et on l’a toujours, d’avoir un numérique autre, un numérique décentralisé, un numérique respectueux de la vie privée, un numérique qui n’exploite pas les données et qui ne force pas les usagers à produire des données à outrance, un numérique qui rémunère les personnes à leur juste valeur… Mais force est de constater que tout a été organisé jusqu’à présent pour favoriser des grandes plateformes capitalistes. Cette épidémie est aussi un signal d’alarme à propos du numérique, et même un réveil-alarme qui sonne une prise de conscience : certaines de ces grandes plateformes sont en réalité des infrastructures d’utilité publique qu’on a intérêt a minima à réguler de manière contraignante, et a maxima à collectiviser. Je ne parle pas forcément de nationalisation, j’y suis même assez opposé, mais de retrouver la vocation initiale de ces plateformes, un terme qui évoque un projet commun. Cette approche par les communs serait un profond changement de nature qui pourrait émerger de l’urgence.

On voit pourtant certaines de ces plateformes commencer à samender, par exemple face à la diffusion de fake news et la propagation de rumeurs, le travail de modérateur qui avait été difficile à faire admettre face au terrorisme semble simposer spontanément. Ne peut-on espérer que ce « réveil-alarme » soit entendu par les géants du numérique et quils prennent un virage plus vertueux ?
Dans le cadre du documentaire de France Télévisions Invisibles, réalisé par Henri Poulain et co-écrit avec Julien Goetz, et pour lequel j’ai joué un rôle de conseiller scientifique, une personne interviewée dans le troisième épisode, modérateur pour Facebook, dit quelque chose d’à mon sens vraiment révélateur : la responsabilité de Facebook, c’est de faire des profit pour ses investisseurs, et tant que le réseau social n’arrivera pas à faire de l’argent en modérant, elle ne considérera jamais cette activité comme son cœur de métier. Donc le problème principal concernant la modération des contenus est qu’il s’agit d’une corvée considérée comme une nuisance nécessaire, à laquelle les plateformes se plient pour apaiser l’opinion publique. Leur seul problème, c’est d’éviter toute forme de responsabilité légale, de ne pas être attaquables devant des cours de justice pour avoir véhiculé des informations non seulement fausses, mais dangereuses. Ça ne permet pas de faire les choses sérieusement.

La situation actuelle offrirait donc plutôt loccasion pour les plateformes de la Silicon Valley d’étendre leur pouvoir ?
Tout d’abord je ne pense pas que ce soit seulement un problème de plateformes, ou d’entreprises de la Silicon Valley. C’est sans conteste l’un des centres, mais des choses de ce type se passent à Bangalore en Inde, à Shanghai en Chine, et même à Paris pas très loin de là où je travaille. Des grands groupes industriels qui prospèrent sur la surveillance de masse, sur la collecte d’énormes masses de données, et qui se retrouvent dans la situation de profiter de l’épidémie, il y en a partout. Des groupes pharmaceutiques, des groupes qui vendent des solutions d’intelligence (au sens de collecte d’information et de renseignement), la France est d’ailleurs bien lotie de ce point de vue. Le fait est que nous avons un devoir de vigilance, mais ces plateformes devraient aussi avoir un devoir de retenue dans un contexte comme celui-là. Parce que c’est vraiment une situation dans laquelle la confusion est grande, et les entités ou plutôt les organisations en mesure d’en profiter sont celles qui ont déjà un poids énorme sur le marché. Il me paraît donc tout aussi important de réguler leur comportement que de réguler celui des individus comme on le fait ces temps-ci avec le confinement. À l’enjeu de santé publique devrait s’ajouter un enjeu de santé démocratique, et donc une intervention toute aussi ferme des autorités pour demander par exemple aux entreprises qui collectent des informations liées à la santé des individus ce qu’elles comptent en faire. La régulation ne doit pas aller seulement vers le micro, mais aussi vers le macro.

Cette épidémie a commencé en Chine, un pays dont on connaît la capacité de contrôle social mais aussi de contrôle du numérique, et dont la gestion autoritaire de l’épidémie a produit de réels résultats. Dans quelle mesure cela fait-il triompher le modèle numérique chinois ?
À mon sens, le grand succès de la Chine dans ce contexte de pandémie ce ne sera pas les exploits médicaux, la preuve de sa capacité pharmaceutique, ni même l’aide internationale qu’elle assure déjà auprès de certains pays comme l’Italie, mais l’export d’un modèle idéologique. C’est le pire du Parti communiste chinois qui triomphe : l’alliance des outils déjà mis en place comme le système de crédit social, la surveillance généralisée par la reconnaissance faciale, les applications de contrôle des mouvements de population dans un contexte de pandémie. Les citoyens chinois sont ainsi géolocalisés et surveillés, au nom de la lutte contre le coronavirus, jusque dans leur état de santé par des applications qui contrôlent l’évolution de leur température corporelle, les symptômes, les hospitalisations, les consultations avec des médecins, et qui transmettent toutes ces données à la police. Ces données ne vont évidemment pas disparaître dans quelques mois ou dans quelques années, quand cette crise sanitaire aura pris fin. On retrouve cette problématique dans d’autres pays, comme Taïwan ou la Slovaquie où les télécoms mettent désormais les données des smartphones des personnes malades de Covid-19 à disposition des gouvernements. Il suffit de voir les lois qui ont été acceptées en Israël il y a quelques semaines pour constater ce qui commence à se généraliser en termes de surveillance de masse, en termes de violations systématiques de la vie privée des citoyens. Il faut aussi noter, encore une fois, qu’il existe d’autres modèles comme la Corée du Sud qui ont plus joué sur une actualisation de pratiques et de codes sociaux préexistants et un dépistage systématique, avec un beau succès. Une alternative est donc possible.

Aux défenseurs des libertés publiques qui, comme vous, alertent à propos de l’extension de la surveillance numérique au nom de la sécurité, que ce soit en matière de terrorisme ou de santé publique, on oppose souvent largument de lefficacité. Cette épidémie permet-elle d’enfin voir concrètement les contreparties, ce quon risque et ce quon abandonne au nom précisément de lefficacité ?
Ma profonde conviction est que pour sortir de cette crise pandémique il faut abattre définitivement et sans délai le système actuel de surveillance de masse numérique. Nous nous en sortirons avec des mesures comme la généralisation du port du masque dans l’espace public, donc en invalidant de fait les systèmes de reconnaissance faciale. Nous nous en sortirons en responsabilisant les citoyens et en les incitant à mettre en place des formes d’entraide locale, non pas en les menaçant avec les drones ou d’autres jouets dystopiques. Nous nous en sortirons en garantissant une application stricte du secret médical, pour que les personnes malades ou contaminées déclarent en confiance leur état à leur employeur, à leur assureur, etc. C’est la surveillance de masse, et non pas la privacy, la plus grande menace qui pèse sur notre santé et notre bien-être.
Lorsqu’on me parle donc d’« efficacité » en échange d’une perte qui peut sembler somme toute minime de libertés publiques, je souligne que brider nos libertés n’est efficace que pour les producteurs de technologies de surveillance. Puisque ça fait des années qu’on nous rebat les oreilles avec cette rengaine, ne serait-elle pas un prétexte ? Ce discours existe depuis longtemps, bien avant la crise pandémique. C’est une ritournelle qui est en soi un virus, un parasite, qui infecte nos libertés, et qui devient plus aiguë, plus virulente, quand il y a des crises qui lui offrent un levier. Aujourd’hui c’est une crise sanitaire, hier c’était un attentat terroriste, comme ceux qui en France en 2015 ont ensuite entraîné le choix désastreux d’inscrire l’état d’urgence dans le droit commun. À chaque crise, ce parasite de nos libertés publiques se manifeste de manière toujours plus violente. Il me semble pourtant que ce sont deux choses tout à fait indépendantes. S’il y a des moments où l’on doit effectivement adopter des comportements et des réflexes qui limitent volontairement nos comportements et notre liberté de circulation, il faut toujours se demander pendant combien de temps et dans quelle mesure cette limitation relève d’un choix responsabilisant pour les citoyens. Dans la situation que nous traversons aujourd’hui, la date-limite, la date-butoir à laquelle ces mesures vont s’arrêter reste très vague. Et la responsabilité des citoyens n’est même pas prise en compte. Il faut que les citoyens obéissent à des injonctions contradictoires qui les exposent à l’arbitraire de la répression : « allez voter mais restez chez vous », « n’allez pas travailler mais n’arrêtez pas la production », « portez un masque mais la République se vit à visage découvert »…

Tout ceci est extrêmement grave, surtout si effectivement la situation pandémique, même si on va sortir de la partie aiguë, devient une situation systématique, structurelle. Personnellement, je n’ai jamais été contre le fait de partager, selon des modalités inspirées par les « commons », des données qui pourraient aider effectivement le bien public. Arriver à éliminer ou guérir une maladie, une épidémie, c’est exactement la raison pour laquelle on a commencé à collecter des données au profit de la recherche médicale. Ce qui n’est pas soutenable et auquel je m’oppose, c’est le modèle d’appropriation centralisée, capitaliste et régalienne de ces données, qui ne sont pas considérées comme le bien commun qu’elles sont pourtant. Si c’était le cas, elles seraient gérées collectivement, et on trouverait des manières de contribuer à cette ressource commune tout en respectant les libertés individuelles.

NDLR – Antonio Casilli a publié en 2019 En attendant les robots. Enquête sur le travail du clic (Le Seuil) et participé comme expert scientifique au documentaire Invisibles d’Henri Poulain et Julien Goetz disponible sur France TV.

Raphael Bourgois

Journaliste, Rédacteur en Chef d’AOC

[Vidéo] En dialogue avec Clément Viktorovitch (CliqueTV, 19 janv. 2020)

Vidéo de mon interview dans l’émission Viens Voir Les Docteurs, avec Clément Viktorovitch.

L’intelligence artificielle est l’objet de tous les fantasmes : elle serait partout autour de nous, ses capacités pourraient dépasser celles des humains, et nous réduire, à terme à l’esclavage… Mais l’IA, c’est quoi exactement ? Comment ça marche ?…

[Podcast] Travail invisible, travail gratuit (France Culture, 17 janv. 2020)

Bénévolat, volontariat, digital labor: dans les associations, les entreprises ou sur nos smartphones, certaines de nos activités non rémunérées ont en commun de servir de modèles économiques à d’autres. Services publics et entreprises fonctionnent grâce à la gratuitisation de certaines activités.

Si récemment vous avez posté une photo sur Instagram, recommandé un restaurant sur TripAdvisor ou posté une critique de film sur un blog, vous n’avez pas juste partagé. Vous avez travaillé pour ces grandes plateformes. Gratuitement.  “Ces entreprises ont réussi à imposer l’idée que ces personnes qui travaillent gratuitement le font pour la communauté. Or les ressources communes qu’ils contribuent à créer (les contenus, les données…) sont captées par les plateformes et transformées en valeur monétaire à la fin”, rappelle le sociologue Antonio Casilli, spécialiste du “travail du clic” ou le digital labor 

C’est aussi au nom de valeurs — souvent l’innovation, la curiosité, l’envie de partager ou d’apprendre — que de nombreux professionnels participent à des hackathons (contraction de “hack” et de “marathon”). Durant ces événements, organisés par des entreprises privées mais aussi souvent des institutions publiques, des équipes de développeurs, entre autres, imaginent des nouveaux services ou applications. François Lacombe est ingénieur, mais aussi bénévole pour OpenStreetMap. Une association dédiée à l’ouverture à tous des données géographiques. Et c’est sur ce thème qu’il a participé des hackathons. “Cela dure 48h, souvent le week-end car c’est ouvert au grand public, et presque non-stop car il faut arriver le dimanche devant le jury avec une solution dont on sait qu’elle va fonctionner.”

[Séminaire #ecnEHESS] “Communiquer avec modération” avec Sarah T. Roberts (Gaité Lyrique, 9 janv. 2020, 19h)

Le prochain rendez-vous de notre séminaire Étudier les cultures du numérique inaugure une collaboration avec la Gaîté Lyrique. De janvier à mai 2020, le lieu de culture parisien nous fait l’honneur d’accueillir en ses murs les séances du séminaire #ecnEHESS ouvertes aux auditeurs libres. Quatre rencontres où chercheur•ses et artistes se penchent sur “le côté obscur du futur du travail”.

Enseignement ouvert aux auditeurs libres (dans la limite des places disponibles). Pour s’inscrire, merci de renseigner le formulaire.

N’hésitez pas à faire circuler cette information au sein de vos propres contacts et sur les réseaux.


“Communiquer avec modération”
Sarah T. Roberts (UCLA)

avec Lauren Huret

jeudi 9 janvier 2020 à 19h00
Gaîté Lyrique
Auditorium
3bis, rue Papin
75003 – Paris

Nous avons tendance à penser que ce sont les algorithmes qui filtrent les contenus illicites, qui nous servent de bouclier contre le langage haineux et les vidéos violentes en ligne. Mais en réalité, ce sont des humains. Plus de 100 000 modérateurs de contenus commerciaux évaluent les publications sur les plateformes des médias sociaux, filtrent et suppriment les contenus choquants. Un travail largement invisible.

Avec son livre Behind The Screen, Content Moderation in the Shadows of Social Media (Yale University Press, 2019), Sarah T. Roberts, professeure en sciences de l’information à UCLA et lauréate 2018 du prix EFF Pioneer, offre la première étude ethnographique approfondie sur l’industrie de la modération du contenu commercial. S’appuyant sur des entretiens avec des travailleurs de la Silicon Valley jusqu’aux Philippines, elle contextualise cette industrie cachée et examine le poids émotionnel porté par ses travailleurs. Cette enquête sur les personnes qui officient “derrière l’écran” offre un aperçu d’un travail de plus en plus mondialisé et du pouvoir politique des plateformes qui s’érigent en juges de la communication planétaire à l’ère numérique.

Le travail de l’artiste franco-suisse Lauren Huret porte sur l’activité des modérateurs et modératrices de contenu, exposés à des milliers d’images traumatisantes chaque jour, et interroge les conséquences psychiques et physiques de ces tâches, ainsi que leurs effets à long terme pour nos sociétés.

Dans les médias :

(05 janv. 2020) Sarah T. Roberts: «La liberté d’expression sur Internet n’a jamais existé», Mediapart.

(11 janv. 2020) Sarah T. Roberts : « Les géants du Web ont choisi de rendre le processus de modération invisible », Le Monde.

The real dangers of facial recognition: mass obedience and online labor exploitation

Facial recognition is a scam, but that doesn’t mean we should underestimate the threat it poses to freedom and fundamental human rights.

Case in point: Russian media MBKh discovered that Moscow police officers illegally “monetize” footage of 175,000 surveillance cameras on forums and messenger groups. For the equivalent of 470$, anyone can have access to facial recognition lookup services that, when provided with the picture of an individual, match it with passerby from hundreds of cameras, along with a list of addresses and times they were caught on camera. 

Interestingly enough, face recognition tech *does not work*, and the journalist has to grudgingly admit its low accuracy:

“As for the accuracy of the results, none of the photos returned were of the investigator. However, the facial features were similar to the input and the system assessed a similarity of 67%.”

According to the journalist, the explanation for this suboptimal performance is “the limited number of cameras connected to the face recognition algorithm”. Apparently, the sample is too small, but the technology is not fundamentally called into question…

Another explanation (often ignored by journalists, ever ready to believe the AI hype and therefore disregard its actual dangers) is introduced by a 2018 New York Times coverage of China’s surveillance-industrial complex: mass surveillance systems are not automated per se and are largely based on the intervention of crowds of micro-workers who cherry-pick millions of videos, cut out silhouettes of individual and tag metadata, fill in databases and annotate information:

“The system remains more of a digital patchwork than an all-seeing technological network. Many files still aren’t digitized, and others are on mismatched spreadsheets that can’t be easily reconciled. Systems that police hope will someday be powered by A.I. [emphasis added] are currently run by teams of people sorting through photos and data the old-fashioned way.”

“The old-fashioned way” here means “by hand”… Data annotation, triage, enrichment, especially for the computer vision models underlying face recognition algorithms, is a blossoming market. Recent research by Bonnie Nardi, Hamid Ekbia, Mary Gray, Sid Suri, Janine Berg, Six Silberman, Florian Schmidt, Trevor Paglen, Kate Crawford, Paola Tubaro and myself witnesses its development in sectors as diverse as home automation, transportation, advertising, health, entertainment… and the military. It is based on a workforce of hundreds of million of online laborers, alternatively called microworkers or crowdworkers. They work long hours, with precarious contracts and exploitative working conditions, and are paid very low wages (in some cases less than a cent per micro-task). Although they are attested in the global North, they are predominantly based in developing and emerging economies—such as Russia and China. But the companies that recruit them to package their annotated data and resell it as surveillance technologies, are mainly located in so-called liberal democracies. Despite the Chinese market supremacy, US, French, Japanese, Israeli and Finnish corporations are spreading these technologies all over the world, according to the 2019 AI Global Surveillance Index.

Despite the importance of these “humans in the loop” that constitute the secret ingredients of AI-based technological innovation, the threats of facial recognition, smart cities and predictive policing must not be minimized. The glorification of AI turns it into a powerful psychological deterrent and a disciplinary device. “The whole point,” explains an expert interviewed by the New York Times, “is that people don’t know if they’re being monitored, and that uncertainty makes them more obedient.”

Any action aimed to fight against the alleged omnipotence of these technologies begins with the recognition of their fictitious nature. If automated surveillance is made up of men and women who train, control and impersonate “artificial artificial intelligence“, it is from the awareness of their role in a dystopian and inhuman system that a change is going to come.

[Podcast] Débat Antonio Casilli, Jean-Gabriel Ganascia et Marine Al Dahdah sur automation et globalisation (16 oct. 2019)

Dans le cadre du cycle de conférences Les Débats du CAK, organisées depuis 2014 au Centre Alexandre-Koyré, j’ai eu le plaisir de débattre mon dernier ouvrage En attendant les robots. Enquête sur le travail du clic (Paris, Le Seuil, 2019) en compagnie de Marine Al Dahdah (sociologue au CEMSS CNRS et co-fondatrice du groupe de recherche « Digital studies in the Global South ») et de Jean-Gabriel Ganascia (informaticien et philosophe à la Sorbonne Université, et président du Comité d’éthique du CNRS).

Modération : Wolf Feuerhahn (CNRS, CAK).

Interview dans Sciences et Avenir (HS 35, 25 sept. 2019)

« Dans les usines à clic, des millions de petites mains bien humaines »

PROPOS RECUEILLIS PAR LOÏC CHAUVEAU

L’enrichissement continu des logiciels et des bases de données nécessite la contribution de « tâcherons » sans rémunération fixe ni droits sociaux. Une inflexion inquiétante du monde du travail. ANTONIO CASILLI Sociologue à Télécom Paris

page hors_serie_35

Selon vous, l’intelligence artificielle ne serait rien d’autre que du bluff?

Je ne me reconnais pas dans cette idée que l’on m’attribue parfois. Je dirais plutôt que, pour justifier des formes nouvelles de discipline du travail, pouvoirs politiques et économiques utilisent l’intelligence artificielle de façon idéologique. Quand ils en débattent, ces acteurs se concentrent sur les pertes d’emplois qui menacent les moins qualifiés. Mais pour peu que l’on regarde « sous le capot », on s’aperçoit que les masses de données nécessaires pour entraîner les machines sont introduites dans le système par des petites mains bien humaines! En Afrique, en Asie, de véritables « usines à clic » voient des millions de personnes nourrir des algorithmes de reconnaissance faciale, d’identification des objets pour les voitures autonomes, d’enregistrement de voix pour les enceintes connectées. Un travail que je qualifie de digital labor. Si quelqu’un n’apprend pas à une voiture autonome à quoi ressemble un piéton, celle-ci restera aveugle.

A-t-on une idée du nombre de personnes accomplissant aujourd’hui ce digital labor ?

Difficile de répondre, car il n’est pas toujours visible. On estime que, dans le monde, plusieurs dizaines de millions de personnes fabriquent des données. En France, notre projet Digital Platform Labor, qui a cherché à quantifier ce micro-travail, est arrivé au total de 260000 personnes inscrites à 23 plateformes proposant du travail « au clic ». Ce sont en majorité des femmes au foyer qui arrondissent leurs fins de mois avec ce travail faiblement rémunéré (moins de 300 euros par mois). Mais on peut y ajouter les 55 millions de Français qui, gratuitement, renseignent les Gafa en « likant », en répondant à un « Captcha » demandant de prouver que l’on n’est pas un robot. À chaque fois, la requête de l’internaute, sa géolocalisation, la consultation d’un site, un paiement, alimentent les bases de données sans lesquelles des technologies « intelligentes » n’existent pas.

Mais un jour, cet amoncellement de données finira bien par rendre ce travail inutile?

C’est l’argument entendu dans nombre de start-up : il arrivera un moment où les algorithmes auront ingurgité suffisamment de données pour parer à toutes les éventualités. Mais est-ce bien certain? L’intelligence artificielle arrivera-t-elle un jour à rivaliser avec le cerveau d’un enfant qui reconnaît immédiatement un chat d’un chien quel que soit leur aspect? En outre, le consommateur attend que le service qui lui est proposé soit toujours amélioré. Pour répondre à ces attentes, il est nécessaire d’enrichir en permanence les logiciels utilisés. Enfin, la concurrence pour vendre des objets « intelligents » est féroce. La course au « petit plus » qui permet de faire la différence oblige à relancer continuellement l’apprentissage des machines.

Quel est l’encadrement juridique de ces travailleurs?

Dans cette nouvelle économie, c’est le point le plus inquiétant. La relation salariale est mise entre parenthèses. C’est un travail « à la tâche ». Les nouveaux « tâcherons » ne bénéficient pas d’une rémunération fixe, ni de droits sociaux, ni d’une représentation auprès des donneurs d’ordre. Ils ne peuvent revendiquer la juste part de leur travail face à des plateformes bien décidées à capter l’essentiel de la richesse créée. La révolte des chauffeurs Uber ou des livreurs Deliveroo montre que ce système a cependant des limites.

http://diplab.eu/ Antonio Casilli, En attendant les robots, Seuil, 2019

[Vidéo] Leçon inaugurale année universitaire, département sociologie, Université de Genève (25 sept. 2019)

La Faculté des sciences de la société et le Département de sociologie de l’Université de Genève m’ont fait l’honneur de m’accueillir comme conférencier pour la leçon inaugurale de l’année universitaire 2019/2020.

Les poinçonneurs de l’IA. Le digital labor qui rend l’intelligence artificielle (im)possible

En 2003, le pionnier des systèmes experts Edward Feigenbaum qualifiait l’intelligence artificielle (IA) de « destinée manifeste » de nos sociétés. Ce slogan, emprunté de la doctrine politique du providentialisme américain, constitue un remède idéologique aux défaillances d’une discipline qui, depuis des décennies, n’arrive pas à s’attaquer à « la vraie majesté de l’intelligence générale ». Les déclarations des scientifiques, le buzz des investisseurs et les prises de position des décideurs politiques ne relèvent pas de la pensée magique : elles sont des vœux constamment renouvelés, non pas pour réaliser un objectif scientifique, mais pour affirmer une certaine vision du travail…

À l’occasion de la conférence de la rentrée de la sociologie, Antonio Casilli reviendra sur son dernier ouvrage : « En Attendant les robots. Enquête sur le travail du clic » (Seuil, 2019).

Les plateformes numériques mobilisent les compétences, le temps et les gestes productifs de leurs usagers pour produire de la valeur–et pour rendre possible l’automatisation. Des services de livraison express basés sur des applications mobiles aux plateformes de micro-travail comme Amazon Mechanical Turk, aux médias sociaux qui incitent leurs usagers à produire d’énormes masses de données personnelles, les usagers sont désormais mis à contribution pour entraîner des IA. Transcription, annotation, reconnaissance visuelle ou étiquetage de contenus : autant d’activités déléguées à des usagers sous forme de micro-tâches peu ou pas rémunérées. La recherche récente sur ces nouvelles formes de “digital labor” dresse un tableau surprenant des évolutions du marché du travail. À l’heure de l’automatisation intelligente, le travail humain est soumis à une pression pour le remplacement qui aboutit au résultat inattendu de pousser les usagers-travailleurs à réaliser des activités nécessaires de supervision de l’apprentissage des machines mêmes.

Mon ouvrage «En attendant les robots», Grand Prix de la Protection Sociale 2019

Mon livre En attendant les robots – Enquête sur le travail du clic, paru en janvier 2019 aux Éditions du Seuil, vient de recevoir le Grand Prix de la Protection Sociale 2019 décerné par l’École nationale supérieure de Sécurité sociale et la Caisse des dépôts.

La cérémonie de remise des prix a lieu le mercredi 9 octobre 2019, à 19h, à l’Hôtel de Pomereu, 67 Rue de Lille, 75007 Paris.

Inscription libre en renseignant ce formulaire.

L’autre lauréat du Grand prix pour cette années est Christophe Capuano, historien à l’Université Lumière Lyon 2, auteur de « Que faire de nos vieux ? Une histoire de la protection sociale de 1880 à nos jours ».