Dans La Croix, la journaliste Audrey Dufour consacre trois pages au sujet du microtravail et ses liens avec l’IA. Les recherches de l’équipe DiPLab y sont mises à l’honneur. Dans un court texte, tiré de l’interview que j’ai accordé au quotidien, j’entame un débat avec le scientifique Jean-Claude Heudin.
Croix-2022
Dans le cadre d’un grand dossier que le quotidien L’Humanité consacre aux travaux de notre équipe de recherche DiPLab, un long article dans lequel est présentée notre enquête sur la sous-traitance des données nécessaires pour produire les IA françaises à Madagascar (2022). Pour apporter un éclairage sur les liens entre travail du clic et héritages coloniaux, j’ai accordé un entretien au journaliste Pierric Marissal.
Le partage des tâches dans l’économie de l’intelligence artificielle se calque sur des rapports de dépendance Nord-Sud, analyse le chercheur Antonio Casilli.
Antonio Casilli (1) coordonne avec Ulrich Laitenberger et Paola Tubaro l’équipe de recherche DiPLab (Digital Platform Labor) afin de mettre en lumière toute la chaîne de production humaine derrière les technologies intelligentes et l’IA. Deux régions géographiques sont étudiées : l’Amérique latine (projet CNRS Tria) et l’Afrique (projet ANR Hush), et leurs liens avec les entreprises donneuses d’ordres européennes.
Comment qualifiez-vous ces liens entre les entreprises donneuses d’ordres et exécutantes dans l’intelligence artificielle ? De la sous-traitance classique ? Du colonialisme ?
Cela reste une classique volonté d’externalisation vers des pays tiers à but de minimisation des coûts du traitement des données et des infrastructures. Les groupes occidentaux, pour développer leur sous-traitance, se sont souvent appuyés sur des entreprises structurées qui existaient déjà, par exemple dans le secteur du textile ou des centres d’appels. Dans l’Afrique francophone, on retrouve ainsi Madagascar, mais aussi le Maroc, la Tunisie, le Cameroun, le Sénégal ou la Côte d’Ivoire. Il s’est ainsi créé tout un circuit d’entraînement des intelligences artificielles. Cette sous-traitance s’inscrit dans une logique de dépendance économique qui elle-même est parfois héritée d’une longue histoire de dépendance politique. On peut alors parler effectivement de trajectoire coloniale. Mais je préfère le terme de colonialité, qui souligne l’emprise culturelle que les pays du Nord ont sur ceux du Sud.
C’est-à-dire ?
La colonialité, c’est le pouvoir de façonner l’identité des citoyens d’une autre nation. Jadis, elle les réduisait à des sujets coloniaux, aujourd’hui à des « data subjects ». Lorsqu’on regarde qui produit des données annotées, au bénéfice de qui, on voit bien qu’il n’y a pas de hasard. C’est en tout cas ce que montrent nos propres enquêtes pour l’Afrique francophone, comme celles de l’Oxford Internet Institute, qui a beaucoup travaillé les liens entre l’Afrique de l’Est, l’Inde, l’Angleterre et les États-Unis. Et les Philippines, qui étaient un protectorat états-unien.
On retrouve donc de vieilles dépendances…
Les liens culturels et linguistiques sont en effet cruciaux pour certains produits d’intelligence artificielle comme les assistants vocaux, par exemple, ou des systèmes linguistiques ou lexicaux. Beaucoup de microtravailleurs s’inscrivent à des cours de l’Alliance française ou de l’Institut Cervantès pour parfaire leur maîtrise de la langue. On retrouve, là encore, des liens issus des siècles passés. Mais on voit aussi de nouvelles dépendances de l’Ouest vers l’Est qui lient l’Égypte, les pays du Golfe et la Chine. J’ai rencontré des propriétaires de start-up dans la banlieue du Caire, où des jeunes Égyptiennes faisaient de la reconnaissance faciale pour le gouvernement chinois. Cette sous-traitance de technologies de surveillance qui consiste à identifier et traquer en temps réel, on l’a aussi rencontrée à Madagascar, comme au Venezuela.
Comme cela se passe-t-il en Amérique latine, justement ?
La colonialité des siècles passés se manifeste dans des liens entre des pays de langue espagnole et l’Espagne. Mais il y a aussi des dépendances héritées du XIXe siècle et de la doctrine Monroe, qui théorisait la domination politique des États-Unis sur tout le continent sud-américain. Aujourd’hui, l’Argentine, la Colombie et particulièrement le Venezuela produisent des données pour des entreprises américaines. Ils ont une identité économique et politique qui ne se construit que par rapport au pays le plus fort. C’est la définition même de la colonialité telle que l’a pensée le sociologue péruvien Aníbal Quijano. Concrètement, ces pays sont des sous-traitants condamnés à le rester. Leur travail sera constamment considéré comme sans qualité ni qualification. Même si nous avons rencontré des Vénézuéliens diplômés en sciences de l’ingénieur et des Malgaches diplômés de l’enseignement supérieur, ils sont réduits à faire des microtâches pour quelques centimes par jour sur des plateformes.
Y a-t-il des stratégies des entreprises donneuses d’ordres pour maintenir leurs sous-traitants en bas de l’échelle de la production de valeur ?
Les entreprises donnent le moins d’informations possibles sur l’usage qui sera fait des données. La raison officielle est que s’ils savaient à quoi est destinée l’intelligence artificielle, les travailleurs pourraient saboter le processus d’entraînement et chercher à introduire des biais spécifiques, pour des raisons économiques ou politiques. Cela peut s’imaginer si l’IA sert à de la reconnaissance visuelle pour des missiles de l’armée, par exemple. Mais, effectivement, moins les start-up donnent de détails, moins elles risquent que leurs sous-traitants s’organisent et tentent de leur piquer le marché. Cela entretient ce système de subordination.
À l’inverse, celui qui commande l’IA a-t-il connaissance de toute cette chaîne de sous-traitance ?
Pas forcément. Pour notre projet ANR Hush, nous avions interrogé des grands groupes français qui recrutaient les travailleurs de plateforme. Nous avons remarqué que les responsables marketing pouvaient décider d’acheter 10 000 clics pour une campagne de communication sans en référer aux ressources humaines, alors qu’il y a des humains derrière. Les entreprises commandent ce type de services comme si elles se payaient du matériel de bureau. Cela crée une nouvelle chape d’invisibilité sur ces travailleurs.
Entretien réalisé par Pierric Marissal
9ème Rencontres Recherche et Création Festival d’Avignon – ANR, Contes, mondes et récits, les 11 et 12 juillet 2022. Le travail « sans qualités » ? par Antonio Casilli, professeur et sociologue à Télécom Paris. Antonio Casilli est coordinateur du projet Hush – La chaîne d’approvisionnement humaine derrière les technologies intelligentes, financé par l’ANR : https://anr.fr/Projet-ANR-19-CE10-0012
Les assistants vocaux et les chatbots sont devenus incontournables dans de nombreux domaines de la vie quotidienne. Pourtant leurs enjeux demeurent mal maîtrisés. Telerama recueille les propos de Lurence Devillers, Nicolas Sabouret et moi-même.
Kyrill Nikitine
Les assistants virtuels se multiplient et sont devenus incontournables dans de nombreux domaines de la vie quotidienne. Un épatant progrès technique, dont les enjeux demeurent toutefois mal maîtrisés.
Passez-vous plus de temps à discuter en ligne avec des chatbots, ces assistants virtuels censés répondre à vos questions, qu’avec votre propre conjoint ? Oui, à en croire une étude prévisionnelle réalisée en 2016 puis en 2019 par Gartner Inc., cabinet de conseil américain en technologie et intelligence artificielle. Et en se multipliant, ces échanges génèrent de vertigineuses économies : selon l’agence de conseils en technologie Juniper Research, les chatbots permettront d’économiser plus de 2,5 milliards d’heures de travail d’ici à 2023, soit 11 milliards de dollars de coût de main-d’œuvre… Quant à la célèbre holding financière JPMorgan Chase & Co., elle les utilise déjà pour influencer non seulement sa clientèle, mais aussi ses milliers d’employés : « C’est une énorme possibilité de suggérer des recommandations créatives et perspicaces, se targuait déjà en 2018 leur responsable Jason Tiede, dans une interview accordée à la chaîne américaine CNBC. Un chatbot peut dire par exemple : “On dirait que vous avez envoyé un virement de 100 dollars. Savez-vous que vous pourriez envoyer un paiement en devises à la place ?” »
A l’occasion de la parution d’un dossier sur le travail des plateformes, j’ai accordé un entretien à la journaliste Catherine Quignon (Le Monde).
Le professeur de sociologie Antonio Casilli explique au « Monde » que le nombre de personnes travaillant sur des plates-formes numériques a augmenté pendant la crise sanitaire, amorçant une nouvelle forme de précarisation.
Antonio Casilli est professeur de sociologie à Télécom Paris, grande école de l’Ixnstitut polytechnique de Paris, et codirigeant de l’équipe de recherche DiPLab (Digital Platform Labor) sur le travail en ligne. Il explique l’essor du microtravail sur les plates-formes.
Quel est le profil des microtravailleurs ?
En France, notre équipe de recherche a dénombré près de 15 000 personnes qui se connecteraient chaque semaine sur les plates-formes de microtravail – plus de 50 000 au moins une fois par mois –, et plus de 260 000 microtravailleurs seraient inscrits mais pas ou peu actifs. Contrairement à ce que l’on pourrait croire, ces personnes sont souvent diplômées.
Le profil des inscrits reflète aussi l’évolution des plates-formes. Depuis plusieurs années, la frontière s’estompe avec les sites de free-lance classique. Certaines plates-formes de microtravail recherchent des compétences assez avancées sur des missions mieux payées, autour de 15 dollars de l’heure. Parallèlement, on voit des plates-formes de free-lance se mettre à proposer des microtâches, comme taguer des images. Cela reflète une forme de paupérisation du travail indépendant.
Quel impact la crise sanitaire a-t-elle eu sur le microtravail ?
Plusieurs plates-formes annoncent qu’elles ont vu leur activité augmenter avec la crise sanitaire, mais on suppose qu’il s’agit d’abord d’une augmentation des personnes qui s’inscrivent. L’une des plus importantes au monde, Appen, déclare avoir vu son activité croître de 30 % depuis avril 2020. De son côté, Clickworker dit avoir atteint les 2 millions de travailleurs inscrits sur sa plate-forme. Preuve que la crise sanitaire est aussi une crise de l’emploi.
Parallèlement, il semble que certaines entreprises ont plutôt tendance à vouloir réinternaliser ce processus de microtravail, à cause du risque de fuites de données. On se souvient des controverses autour des assistants vocaux en 2019, lorsque les médias ont révélé que des armées de microtravailleurs écoutaient et retranscrivaient des conversations. On suppose que ces fuites ont pu contraindre les entreprises à renoncer à se tourner vers des sous-traitants, mais il reste difficile de mesurer l’ampleur réelle de ce phénomène.
L’intelligence artificielle va-t-elle tuer le microtravail ?
Contrairement aux idées reçues, l’intelligence artificielle favoriserait plutôt l’accélération du microtravail. On aurait pu croire que, une fois entraînées, les machines pourraient progresser toutes seules mais, en fait, elles ont constamment besoin d’être réentraînées. Car la réalité du terrain, le comportement des consommateurs, la manière de parler en ligne… changent constamment. Lorsqu’on tapait « corona » en 2018 dans Google, la première réponse affichée par le moteur de recherche était « bière ». Fin 2019, des millions de personnes se sont mises à rechercher le terme « coronavirus ». Il a fallu l’intervention humaine de milliers d’employés pour vérifier et rectifier les résultats du moteur de recherche. Preuve que plus il y a d’intelligences artificielles, plus il y a besoin d’êtres humains derrière pour les rééduquer.
Notre séminaire Étudier les cultures du numérique a été à nouveau accueilli par la Gaîté Lyrique pour un événément entièrement en ligne afin de respecter les mesures sanitaires. J’ai assuré mon intervention en binôme avec le collectif artistique RYBN qui développe entre autres le projet “Human Computers”.
Antonio A. Casilli (Télécom Paris, Institut Polytechnique de Paris)
RYBN
mercredi 16 décembre 2020, 19h-21h
Lien zoom : https://us02web.zoom.us/j/82845636453?pwd=TytjQXY0MlQ0cUpuWXp0dFNuMUJiZz09
Se pencher sur l’impact actuel de l’intelligence artificielle sur la société implique d’abord qu’on analyse le “travail du clic” nécessaire pour produire de grandes bases de données qui permettent l’apprentissage machine. Myriades de travailleur•ses, souvent recruté•es par le biais de plateformes numériques spécialisées, annotent, étiquettent, corrigent et trient les données qui permettent de calibrer et de tester des solutions intelligentes. Les micro-tâches réalisées par cette force de travail invisibilisée consistent, par exemple, à étiqueter des objets sur une photographie pour entraîner des modèles de vision par ordinateur, ou à vérifier l’exactitude des transcriptions réalisée par des système de conversion de la parole en texte.
Ces tâches de calcul humain, fragmentées et déléguées à une main d’oeuvre sous-payée, pourraient sembler un phénomène récent, mais en réalité elles existent depuis plusieurs siècles. Les recherches historiques documentent la présence d’”ordinateurs humains” (human computers) avant notre époque. A la fin du XVIIIe on confiait à des chômeurs des tâches de calcul répétitives, nécessaires pour fabriquer les tables logarithmiques. Dans le courant du XIXe siècle, l’idée allait être reproduite dans d’autres domaines tels que les données météorologiques, l’analyse des transmissions électriques, l’astronomie.
Déjà à cette époque le travail des “ordinateurs humains” oscillait entre deux modèles différents : la salle de calcul, proche du paradigme de l’usine, qui allait devenir le prototype des data center des plateformes capitalistes ; le calcul domestique, proche de la “cottage industry“, qui allait inspirer les grandes plateformes de micro-travail comme Amazon Mechanical Turk. Si ces activités de human computing ont survécu à l’essor de l’électronique et du numérique au XXe siècle, et deviennent aujourd’hui l’ingrédient secret de l’intelligence artificielle, il est urgent de les analyser en jetant un pont entre l’histoire des sciences et la sociologie des techniques.
En entretien avec la journaliste Marie-Amélie Carpio, National Geographic France.
Contrairement à ce que l’on pourrait croire, l’intelligence artificielle est sans cesse assistée par l’Homme. Son essor est à l’origine de la prolifération de nouveaux travailleurs pauvres partout dans le monde, y compris en France.
Si l’introduction croissante des robots dans le monde du travail fait surgir le spectre d’un remplacement des hommes par les machines, les scénarios en la matière restent incertains. En 2013, une étude menée par deux économistes d’Oxford prédisait ainsi la disparition probable de 47% des emplois humains aux États-Unis, tandis qu’une autre analyse de l’OCDE sur 21 pays, publiée en 2016, estimait à seulement 9% le taux d’emplois menacés. Un phénomène est toutefois déjà à l’œuvre : l’émergence d’un nouveau prolétariat généré par l’automatisation.
Derrière l’intelligence artificielle se cachent en effet des dizaines de millions de petites mains réparties sur tous les continents, soutiers de la révolution digitale œuvrant à une infinité de micro-tâches nécessaires au bon fonctionnement des algorithmes de l’IA. Certains chercheurs n’hésitent pas à parler d’« e-sclavagisme » et d’« atelier clandestin numérique planétaire » à propos de ces nouvelles masses laborieuses, invisibles et vouées à une précarisation extrême.
Antonio A. Casilli, professeur de sociologie à Télécom Paris, est un spécialiste de ces ouvriers du clic. Il leur a consacré un livre, En attendant les robots, paru aux éditions du Seuil en 2019, et a coordonné la première étude sur ce micro-travail en France. Entretien.
Antonio A. Casilli, Enseignant-chercheur au département SES de Télécom ParisTech et membre de l’Institut Interdisciplinaire de l’Innovation (i3, CNRS).Photographie de Alexandre Enard
Qui sont ces ouvriers du clic ?
Ce sont des travailleurs précaires qui réalisent un travail nécessaire de production, d’annotation et de tri des données qui constituent le carburant de l’intelligence artificielle. Ces personnes sont recrutées via des plateformes numériques accessibles à n’importe quelle entreprise, sur lesquelles sont publiées des micro-tâches réalisables en quelques minutes, voire moins. Il peut s’agir de regarder une photo et de dire ce qu’elle représente, de traduire quelques mots ou d’écouter un fragment de conversation et d’identifier la langue ou le sujet. Cela permet de produire des exemples qui alimentent « l’apprentissage automatique », le procédé sur lequel est basée l’IA. D’autres micro-tâches servent à vérifier la pertinence des résultats des moteurs de recherche ou celle des réponses des assistants vocaux. Dans ce dernier cas, les travailleurs interviennent de façon encore plus envahissante dans la vie privée des usagers, car ils peuvent tomber sur des conversations qui ne sont pas destinées aux assistants vocaux. Le problème est pointé du doigt depuis 2019 grâce aux révélations de plusieurs médias internationaux. Un lanceur d’alerte ayant travaillé pour Apple a par ailleurs engagé un recours au niveau européen.
Selon vous, ils jouent aussi un rôle de premier plan dans la modération des contenus.
Malgré la rhétorique d’une automatisation de la modération, il y a énormément de personnes qui regardent à longueur de journée les contenus mis en ligne et en jugent la légitimité. Ils peuvent censurer ceux qui sont considérés comme violents, pornographiques, appellent à la haine ou contiennent des « fake news » et bannir ceux qui les ont postés. Cela pose la question de la liberté d’expression, mais aussi des risques psycho-sociaux encourus par ces modérateurs exposés à des images troubles. La chercheuse américaine Sarah T. Roberts, qui a étudié les travailleurs des plateformes américaines aux États-Unis, en Amérique latine et aux Philippines a montré qu’ils développaient des problèmes psychologiques importants (ndlr : ses travaux paraissent ce mois-ci en français dans le livre Derrière les écrans, aux éditions La Découverte). En Europe, où les modérateurs sont plutôt installés en Espagne, en Irlande et dans les pays de l’Est, nous retrouvons les mêmes problèmes, qui peuvent être de l’ordre du syndrome de stress post-traumatique.
Vous comparez la rhétorique sur l’autonomie de l’IA à un « spectacle de marionnettes ». Pourquoi les développeurs le jouent-ils ?
Les grandes entreprises exagèrent les promesses de performances de leurs dispositifs, car si elles étaient plus honnêtes et moins tonitruantes, elles risqueraient de perdre leurs investisseurs et elles s’exposeraient en plus à une régulation étatique de leurs micro-travailleurs. Ils remplissent trois fonctions : entraîner les machines, vérifier leurs résultats et aussi simuler l’IA. Cette dernière fonction tient à un fait très banal : les processus automatiques peuvent dysfonctionner. Quand cela se produit, des opérateurs humains doivent intervenir pour reprendre en main le système. Si un assistant vocal interprète ma phrase de façon erronée, un opérateur peut ainsi le corriger en temps réel. La frontière est parfois fine avec ce que les Américains appellent l’« IA washing », l’arnaque à l’IA. L’assistant vocal Google Duplex en a fait les frais. Il a été présenté en 2018 comme entièrement automatisé. Quelques mois plus tard, le New York Times révélait qu’il était supervisé par des personnes qui écoutaient et corrigeaient l’IA et, dans certains cas, se faisaient passer pour l’assistant vocal qui simulait un être humain !
Carte conceptuelle du micro-travail selon les tâches proposées.
Photographie de DiPLab
Comment la géographie de ce nouveau marché du travail s’organise-t-elle ?
Les entreprises développant les IA sont basées dans les pays du Nord (Europe, États-Unis, Australie) et elles recrutent des travailleurs du clic majoritairement installés dans les pays du Sud. La Chine est un cas particulier, parce qu’elle fournit une force de travail mais fabrique aussi de l’IA. Il y a 10 ans, les micro-travailleurs se trouvaient surtout dans les pays asiatiques : Inde, Indonésie, Malaisie, Pakistan et Bangladesh. C’était une cartographie très orientée par la langue anglaise. Dernièrement, avec l’essor de l’IA dans d’autres langues, ce marché du travail a évolué. Par exemple, l’IA à la française est faite en Afrique francophone, à Madagascar, en Côte d’Ivoire et au Sénégal notamment. Les ouvriers du clic ont aussi connu un essor en Amérique du Sud, pour les marchés hispanophones. La situation économique de certains pays du continent favorise le phénomène, en particulier au Venezuela, où la crise économique qui dure depuis des années rend ce micro-travail attrayant. Les plateformes offrent la possibilité d’une délocalisation virtuelle : les entreprises n’ont plus besoin de réaliser des investissements importants dans un pays tiers ni de se coordonner avec des partenaires locaux. Il leur suffit de créer un compte sur une plateforme pour recruter des centaines de milliers de travailleurs dont elles peuvent se débarrasser une fois les micro-tâches effectuées. L’existence de ce modèle est aussi lié au durcissement de l’accès aux pays du Nord. Il permet la migration virtuelle de la main d’œuvre, ou du doigt d’œuvre, en l’occurrence.
Que sait-on des conditions de travail de ces ouvriers du clic ?
Une étude parue en 2018 faisait état d’une rémunération de 2 dollars de l’heure sur la plateforme Amazon Mechanical Turk (ndlr : la première plateforme du genre, créée par Amazon en 2001. Elle tire son nom du Turc mécanique, un automate en costume ottoman du XVIIIe siècle qui semblait pouvoir jouer aux échecs mais était en fait actionné par un humain caché à l’intérieur), laquelle rémunère mieux que les fermes à clic du fin fond de l’Indonésie. Mais il est difficile d’estimer un salaire moyen. De rares micro-travailleurs gagnent quelques dizaines voire centaines de dollars par mois, mais il y a aussi un long cortège de gens rémunérés quelques dizaines de centimes mensuels. L’offre de travail sur ces plateformes est par ailleurs très volatile et il y a peu de portabilité. Lorsqu’une personne a atteint un certain niveau de compétences sur l’une d’elles, elle peut rarement le faire valoir sur une autre. L’opacité du travail constitue un problème supplémentaire : on se retrouve à réaliser des micro-tâches dont on ignore la finalité. Les ouvriers du clic sont confrontés à une certaine forme d’aliénation, accentuée par le fait qu’ils n’ont pas de contact avec leur employeur principal, ni avec leurs « collègues » quand ils travaillent chez eux. Et ils n’ont pas de voix collective pour défendre leurs droits.
Répartition géographique des participants à l’enquête DiPLab (plateforme Foule Factory, 2018), sur le territoire de la France métropolitaine. Les zones les plus foncées représentent des départements comptant un nombre plus élevé de fouleurs, indiqué ici en pourcentage.
Photographie de DiPLab
L’IA a-t-elle vocation à devenir un jour autonome et les micro-travailleurs à n’être qu’un phénomène momentané ?
C’est une controverse ouverte. Il y a les professionnels de l’IA qui déclarent que la situation actuelle est préoccupante mais transitoire. Selon eux, les travailleurs du clic seraient un phénomène éphémère destiné à disparaître car les IA vont apprendre au fil de ces milliards d’exemples ce qu’elles promettent de faire. Et il y a ceux, comme moi, qui pointent le fait que le processus d’entraînement des machines ne pourra jamais s’achever et que le recours au micro-travail sera toujours nécessaire car l’histoire humaine ne s’arrête pas. Si un assistant vocal calibré pour le marché américain commence à être vendu au Mexique, il faut lui apprendre l’espagnol pratiqué dans le pays et s’il a été entraîné en 2010, il faudra recommencer en 2020 pour prendre en compte l’évolution du jargon local, des marques, des artistes… Tout cela demande un réentraînement systématique et structurel. De plus, il existe des chocs exogènes qui imposent de nouveaux apprentissages aux IA, telle la pandémie de COVID-19. Certaines IA, comme la reconnaissance faciale, ont ainsi cessé de fonctionner quand les gens ont circulé masqués.
Comment encadrer ce travail invisible ?
Il existe d’abord une voie légale, une régulation par l’application de lois qui existent déjà. Elle passe par l’identification des employeurs principaux de ces micro-travailleurs pour imposer une rémunération juste et le paiement de cotisations sociales.
Il y a aussi une voie syndicale. Les syndicats commencent à s’intéresser à ce sujet au niveau national et international et à accompagner ces ouvriers du clic dans des actions en justice. En France, où on compte environ 260 000 ouvriers du clic occasionnels, une décision récente de la cour d’appel de Douai a condamné la plateforme Clic and Walk à reconnaître ses micro-travailleurs en tant que salariés. Il y a eu d’autres décisions de justice, notamment aux États-Unis, comme en 2015, quand l’entreprise américaine Crowdflower a été condamnée à verser 500 000 dollars à ceux qu’elle employait.
[UPDATE AVRIL 2022] Une nouvelle version d’un seul épisode de 90′ de notre série documentaire “Invisibles. Les travailleurs du clic” sera diffuséé sur la chaîne France 5 le 11 avril à 21h.
[UPDATE MARS 2021] Notre série documentaire “Invisibles. Les travailleurs du clic” est désormais disponible sous-titrée en 6 langues (Anglais, Français, Espagnol, Polonnais, Italien et Allemand) dans le cadre de l’initiative The European Collection, née d’un partenariat entre ARTE, ARD, ZDF, France Télévisions and SRG SSR.
[UPDATE DECEMBRE 2020] La série documentaire “Invisibles. Les travailleurs du clic” a remporté le prix du meilleur documentaire de l’année au Bangkok International Documentary Awards (Thaïlande). Il est par ailleurs nommé au West Lake International Documentary Festival (Chine).
J’ai le plaisir d’annoncer la sortie de notre série documentaire France Télévisions Invisibles – Les travailleurs du clic. 90 minutes d’histoires en 4 épisodes, pour zoomer sur Uber, Facebook, Apple, le microtravail… Et surtout le travailleurs qui luttent, s’organisent, brisent le silence. La série a été réalisée par Henri Poulain, co-écrite avec Julien Goetz, avec mon expertise éditoriale—et surtout avec la confiance et le soutien de dizaines de livreur•ses, modérateur•rices, micro-travailleur•ses, syndicalistes en Europe et en Afrique. Il s’agit du premier documentaire du genre qui ne se limite pas à décrire le quotidien des “petites mains de l’IA”, mais se concentre sur les stratégies de résistance et les conflits pour la reconnaissance de ces nouveaux métiers.
Le documentaire est disponible sur la chaîne numérique FranceTV Slash à partir du 12 février 2020, et partout sur les internets à partir du 14 (un épisode chaque semaine).
Épisodes :
Coursiers à vélo, en scooter ou en voiture pour une plateforme de livraison de repas à domicile. De l’autre côté de nos applications, ces travailleurs du clic se démènent pour satisfaire nos besoins.
#2 Micro-travailler plus pour micro-gagner moins
Les algorithmes répondent à nos envies, à nos désirs. Et si de vraies personnes étaient employées à jouer les robots en attendant que ceux-ci existent réellement ?
Une infime quantité des contenus publiés sur les réseaux sociaux nous font voir le pire. Heureusement, des filtres automatiques modèrent ces contenus. Automatiques, vraiment ?
Au-delà de ces histoires singulières, des systèmes émergent et se dessinent. Le sociologue Antonio Casilli nous explique une part de ce monde moderne et de ses conditions de travail en apparence novatrices.
(13 févr. 2020) Henri Poulain : « Les plateformes invisibilisent pour mieux exploiter », L’Humanité.
(13 févr. 2020) “Invisibles” sur France TV Slash, un web-docu sur les forçats du numérique, Télérama.
(14 févr. 2020) Saint-Valentin : un collectif de livreurs appelle au boycott de Deliveroo, JT 20H France 2.
(14 févr. 2020) N’oubliez pas que derrière nos écrans se cache un nouveau prolétariat, Slate.
(14 févr. 2020) La révolte des travailleurs de l’invisible, le nouveau prolétariat précaire de la révolution numérique, Méta-Média.
(14 févr. 2020) Le journal des médias, Europe 1.
(17 févr. 2020) Documentaire : plongée dans l’enfer quotidien des travailleurs du clic, France Inter.
(19 févr. 2020) 17 minutes de gagnées, Europe 1.
(21 févr. 2020) Invisibles, les travailleurs du clic, RFI.
(22 févr. 2020) Petites mains et résistants de la Tech, Nova.
(01 mars 2020) Les travailleurs du clic sortent de l’ombre, L’Usine Nouvelle.
(10 mars 2020) Comment Apple vous écoute en permanence, Le Média.
(14 mars 2020) « Invisibles » donne la parole aux travailleurs du clic, Alternatives Economiques.
Et encore : Usbek&Rica, NetxINPact, L’ADN, Maddyness, Korben, Rotek, RTS Radio Télévision Suisse, Medium, Les Numériques, CLab, Clubic, iPhone Soft, Le Journal du Hacker, SyndiCoop, 01net, France 5.
Une avant première du documentaire “Invisibles”, a eu lieu au Forum des Images à Paris, le mardi 4 février à 20h. A la présence de presque 500 personnes, avec le réalisateur Henri Poulain et Antonio Grigolini (directeur de la chaine France Télévisions Slash), nous avons raconté un an de travail, une cinématographie et une écriture d’enfer, et de comment la recherche universitaire a pu nourrir un documentaire grand public.
Le public, envouté et réactif, a assisté à la projection des 4 épisodes, émaillés d’applaudissements, des rires, des “wah” (oui, beaucoup d’émotions, ce documentaire).
A la fin, nous avons eu le plaisir d’accueillir les travailleuses et les travailleurs, insurgés, syndiqués, lanceurs d’alerte venus de partout en Europe, d’Espagne, d’Irlande, pour témoigner de leur engagement et de leur détermination à dénoncer les conditions de travail au sein des plateformes de digital labor. C’est avec leur parole que la soirée s’est terminée : un débat riche et vivant, à l’occasion duquel iels ont répondu aux question du public.
En compagnie de Benjamin Bayard, j’ai eu le plaisir d’être l’invité de Nicolas Martin sur le plateau de France Culture pour parler de digital labor, micro-travail, intelligence artificielle et plateformes.
Retrouvez le podcast par ici :
Dans le numéro 59 du trimestriel belge Agir par la Culture (automne 2019), une longue conversation avec Aurélien Berthier à propos de travail, plateformes et mondialisation.
Coupe du Turc mécanique, avec la position supposée de l’opérateur. Joseph Racknitz, 1789
Avec « En attendant les robots », le sociologue Antonio A. Casilli s’attaque à l’un des principaux mythes des sociétés occidentales contemporaines : le développement sans frein de la technologie va conduire à la disparition du travail ; les humains sont condamnés à être remplacés par des « intelligences artificielles ». Or, en se penchant sur l’arrière-cuisine du secteur numérique, Casilli montre à quel point ces intelligences dites artificielles sont en réalité « largement faites à la main », par une armée de réserve de l’industrie numérique composée de travailleurs et travailleuses précaires qui se tuent à la microtâche.
Avec le développement de l’automation, il est en effet plus à craindre une précarisation et une atomisation accrues du travail plutôt que sa disparition. Le mythe du « grand remplacement » des humains par des robots, nous indique Casilli, renouvelle en fait la vieille ruse du régime capitaliste pour payer toujours moins la force de travail et la déprotéger socialement. La promesse d’automation portée par le secteur numérico-industriel s’avère ainsi à la fois le « bâton qui discipline la force de travail » et la « carotte qui attire les investisseurs ». Loin des fables marketing de la Silicon Valley sur l’intelligence artificielle toute puissante et autonome que de talentueux ingénieurs développeraient seuls, la réalité est faite de millions de digital workers (travailleur·euses du doigt) payé·es quelques centimes d’euro la pièce. Ils entrainent les algorithmes en cliquant sans fin dans des fermes à clics au Kenya, dans des cybercafés en Tunisie ou depuis la maison un peu partout, pour tenter d’améliorer leur salaire de working poor. Évoquer la disparition du travail, c’est donc une manière de ne pas voir son incessante altération et oublier bien vite que si la data (la donnée) brute est le nouveau pétrole, un raffinage par les humains est nécessaire avant tout usage par la machine.
On est aujourd’hui entouré par un discours ambiant qui rabâche les résultats de l’étude « The future of employment » de Frey et Osborne menée en 2013 selon laquelle 47 % des emplois disparaitraient d’ici 2030 au États-Unis en raison de l’utilisation des intelligences artificielles (IA) et de la robotique mobile… Or, si on se penche sur la nature de l’intelligence artificielle, considérée comme responsable de ce prétendu « grand remplacement technologique », celle qu’on a effectivement à notre disposition, on s’aperçoit que nous sommes loin d’une IAforte, c’est-à-dire capable de dépasser celles des humains. Au contraire, la réalité commerciale, mais aussi celle des recherches de pointe et des investissements actuels nous mènent plutôt vers un paradigme d’IA faible. C’est-à-dire celle qu’on a dans la poche : le Siri ou le OKGoogle des smartphones, le Cortana ou l’Alexa des enceintes connectées, c’est-à-dire des assistants virtuels qui accompagnent la décision ou certaines actions humaines. Le non-dit de la réflexion actuelle sur les technologies c’est que, pour pouvoir produire ces assistants virtuels, on a besoin d’énormément de travail humain. On parlera même ici plutôt de human assisted virtual assistants(des assistants virtuels eux-mêmes assistés par des êtres humains) car ils sont totalement inefficaces en l’absence d’une intervention humaine. Il est en effet nécessaire que des humains produisent des exemples, c’est-à-dire des données utilisables que les « intelligences artificielles » sauront reconnaitre et ranger. Car elles n’apprennent pas toutes seules. Ce sont des êtres humains qui annotent, qualifient et améliorent les données d’entrainement. Et encore des êtres humains qui testent ces outils et vérifient qu’ils interprètent correctement les données… Énormément de travail humain irrigue donc ces solutions technologiques loin d’être autonomes.
Le fonctionnement de ces technologies dites « apprenantes » et dont ont besoin les plateformes pour marcher, est assuré, pas tant par des informaticiens surdoués et spécialisés qui réaliseraient des prouesses algorithmiques, que par une foule de personnes sans qualification particulière. Ce sont elles qui produisent les données.
Une grande partie de ce travail est réalisé par des personnes qui évoluent sur des plateformes spécialisées dans le microtravail. La plus ancienne et la plus connue est Amazon Mechanical Turk[à l’initiative de la plateforme de vente Amazon.com] mais depuis, leur nombre a explosé. On connait relativement mal leur fonctionnement et leur étendue, mais une chose est sûre : ces plateformes ne permettent pas un encadrement classique du travail. On y est très rarement salarié, et même le statut de free lancers ne s’y adapte pas. Ce qui émerge ainsi actuellement, c’est une nouvelle catégorie de travailleur·euses que j’ai nommés les microtâcherons du clic. Ces travailleurs sont payés à la pièce pour réaliser une microtâche qui dure de quelques secondes à quelques minutes, et qui est très faiblement rémunérée : de quelques centimes à quelques euros. Il s’agit par exemple de labelliser des images pour que des algorithmes soient capables de discerner un arbre d’un poteau, typiquement, ce qu’ils ne savent pas faire d’entrée et qu’ils ont besoin « d’apprendre » en s’entrainant sur de gigantesques bases de données préparées par ces humains.
Une autre partie de ce travail, nous le réalisons nous-mêmes gratuitement, par notre usage des plateformes. Par exemple, quand je regarde 4 ou bien 40 minutes d’une vidéo sur YouTube, en la notant en bien ou en mal, ou quand je like ou partage tels articles, commentaires, photos etc. sur Facebook. Ce faisant, leurs algorithmes sont capables d’apprendre mes préférences et de s’améliorer à partir des données que j’ai créées, que j’ai produites. C’est le travail social en réseau que nous réalisons sans nous en rendre compte et sans toucher pour cela la moindre rémunération, alors même qu’ils utilisent et monétisent ces données et produisent donc de la valeur à partir d’elles.
Toutes ces plateformes – qui ne sont pas des entreprises classiques puisque leur activité est essentiellement de mettre en relation différents types d’acteurs – sont basées sur la production de données. Elles doivent pour cela mettre au travail leurs propres utilisateur·trices afin de leur faire réaliser une activité de type particulier : le digital labor. Le terme digital renvoie au terme latin digitus (le doigt). C’est donc en somme le travail du doigt dont le clic de la souris représente la tâche la plus élémentaire. Il est à distinguer du travail numérique, celui des managers, des ingénieurs, des informaticiens des grandes entreprises du numérique qui sont, eux, capables de gérer le numerus de par leurs compétences en mathématiques avancées.
Le digital labor est un travail qui est extrêmement fragmenté et surtout déqualifié, invisibilisé et invalorisé (c’est-à-dire en perte de valeur). Il est d’abord fondé sur le principe de tâcheronisation : l’activité se limite à des tâches extrêmement simples, courtes et fractionnées mais aussi standardisées, répétitives et assez rébarbatives. Elles sont effectuées pour la plupart devant un ordinateur : identifier des objets sur une image, étiqueter des contenus, enregistrer sa voix en lisant de courtes phrases, traduire de petits bouts de texte…
Le fil rouge qui relie un chauffeur de Uber, un micro-travailleur d’Amazon Mechanical Turk et un utilisateur lambda de Facebook, c’est donc la production des données, processus qu’on appelle la datafication et qui représente l’autre fondement de ce digital labor. Les plateformes et les IA — que les premières tentent de produire et de marchander — sont en effet fondées sur un flux constant de données produites et traitées. C’est la matière première nécessaire à leur fonctionnement. Ainsi, un chauffeur Uber passe certes une partie de son temps à conduire, mais ce qui intéresse surtout la plateforme sur laquelle il évolue, c’est de produire des données sur son smartphone en utilisant l’application Uber, en améliorant le GPS, l’algorithme de tarification dynamique ou la notation des passagers. Ces données sont en effet utilisées pour entrainer des robots de type particulier, des véhicules dits « autonomes », mais qui ont tout de même besoin de traiter et de travailler des données en temps réel. Un véhicule « sans chauffeur » enregistre des données grâce à un « lidar » [un capteur à radar laser], mais ces données, pour être exploitables, ont besoin d’être annotées, améliorées, raffinées. Ainsi, concrètement, si ce véhicule « autonome » a pris en photo une rue, il faut que quelqu’un lui enseigne à reconnaitre un arbre ou un piéton (à éviter), un panneau de signalisation (et son interprétation), etc. Et ce, de toutes les formes et dans tous les contextes possibles. Pour ce faire, on fait donc appel à des travailleurs du clic, comme ceux de The mighty IA, un sous-traitant spécialisé dans l’entrainement des données pour le secteur automobile. Au sein de cette plateforme, des milliers de personnes payées quelques centimes par tâche doivent regarder à longueur de journée des photos de villes, d’autoroutes, et détourer [tracer les contours de] les voitures ou les camions pour les identifier.
Ces microtravailleurs représentent une force de travail qui est en train de monter partout dans le monde. Les plateformes déclarent des effectifs qui dépassent déjà les cent millions ! On est donc loin d’une disparition du travail et des emplois volés par les robots. Au contraire, les besoins du secteur du numérique et de l’IA ne cessent de croitre et d’évoluer. Par contre, le travail et ses conditions d’exercice se voient fortement dégradées puisque cette tacheronisation entraine une fragmentation des emplois en microtâches externalisées accompagnée par le démantèlement des salaires au moyen des micropaiements.
Je viens d’estimer avec mon équipe le nombre de personnes qui microtravaillent en France : un peu plus de 260 000 personnes. C’est énorme compte-tenu du fait qu’on parle d’un pays riche, c’est-à-dire dans lequel on n’imagine pas à priori qu’un travailleur ait la nécessité de réaliser des microtâches payées quelques centimes d’euros. Il s’agit souvent de personnes en dessous du seuil de pauvreté et parfois de salarié·es qui ont besoin d’un complément pour terminer le mois. Ce qui témoigne au passage de la dégradation de leur pouvoir d’achat et leur condition de travail par rapport aux décennies passées.
Oui, tout simplement pour une question démographique : la masse des ouvriers se situe aujourd’hui dans le Sud du monde dans les secteurs primaires ou secondaires, l’extraction de minerais ou l’agriculture. Dans son ouvrage « L’avenir du travail vu du Sud », Cédric Leterme explique comment la masse ouvrière actuelle s’est « sudifiée » et féminisée. Les microtâcherons du clic, qui font partie à part entière de cette masse ouvrière, n’échappe pas à la tendance. Ainsi, des pays comme les Philippines, l’Inde, l’Afrique du Sud ou dans un contexte francophone Madagascar, le Sénégal, la Côte d’Ivoire ou la Tunisie concentrent le gros de ces microtravailleurs. Lesquels sont d’ailleurs très souvent plutôt des microtravailleuses.
Je viens d’estimer avec mon équipe le nombre de personnes qui microtravaillent en France : un peu plus de 260 000 personnes. C’est énorme compte-tenu du fait qu’on parle d’un pays riche, c’est-à-dire dans lequel on n’imagine pas à priori qu’un travailleur ait la nécessité de réaliser des microtâches payées quelques centimes d’euros. Il s’agit souvent de personnes en dessous du seuil de pauvreté et parfois de salarié·es qui ont besoin d’un complément pour terminer le mois. Ce qui témoigne au passage de la dégradation de leur pouvoir d’achat et leur condition de travail par rapport aux décennies passées.
L’idée de base du salariat c’est qu’en échange d’une subordination relative, je reçois une protection sociale généralisée. Ce pacte-là s’est cassé et les « indépendants » ont renoncé à la protection pour éviter la subordination à l’ancienne. Les travailleurs des plateformes, eux, qu’ils travaillent gratuitement ou pour des microrémunérations, se retrouvent face à une forme de subordination qu’on appelle la subordination technologique. Celle-ci se manifeste notamment à travers le flux d’ordres qui leur est transmis via les pastilles d’un message non lu, les annonces, les alertes, etc. C’est ce qu’on nomme des calls to action (« appels à l’action »), des solutions technologiques qui vous poussent à réaliser une action le plus vite possible et sans vous poser de questions. C’est assez clair si vous êtes un chauffeur Uber : chaque nouvelle proposition de course équivaut à un ordre, et chaque refus de course, c’est un refus d’ordre qui expose à une sanction possible comme une perte de réputation, un déclassement, etc. Même un utilisateur lambda de Facebook ou de Linkedin recevra ces appels à l’action ou subira la quantification de son effort productif via toute une métrique de performance (scores, likes, étoiles, nombre de followers, de partages, de contacts…) qui sert aussi d’outil de contrôle et de mise en concurrence.
Nous sommes clairement dans le prolongement extrême à la fois de l’ancienne division du travail dont parlait Adam Smith au 18e siècle, et de certaines bases du fordo-taylorisme comme la fragmentation du travail et le travail à la chaîne… Sur Amazon Mechanical Turk, un travailleur reçoit un flux d’offres de microtâches qu’il doit réaliser très vite. Ça ne doit pas lui prendre plus de quelques fractions de seconde pour distinguer de manière intuitive un chat d’un chien sur une image. Ce travail est donc en effet extrêmement atomisé au niveau de sa réalisation ainsi qu’au niveau de sa rémunération.
Mais ce qui représente la plus grosse différence par rapport au « travail en miettes » dont parlait Georges Friedmann en 1964, c’est le fait qu’il s’agisse d’un travail invisibilisé. Ainsi, au 20esiècle, malgré l’émiettement de leur activité, des modalités de solidarité active entre les travailleurs pouvaient subsister du fait même qu’ils partageaient un même lieu de travail : l’usine. Or, actuellement, les travailleurs des plateformes de microtravail n’ont aucune idée de qui sont les autres microtravailleurs. Pire, ils n’ont aucun intérêt à faire savoir aux autres ce qu’ils sont en train de faire : les autres ce sont des concurrents qui peuvent potentiellement leur voler des tâches un peu mieux rémunérées — c’est-à-dire un euro plutôt que quelques centimes… Cela contribue à une invisibilisation qui ne vient plus du haut et qui serait voulue par le patronat, mais bien à une invisibilisation qui vient du bas, et qui est opérée par le travailleur lui-même, chacun souhaitant rester invisible aux yeux des autres.
On constate aussi parfois même des formes d’entr’exploitation c’est-à-dire de micro sous-traitance en cascade. Une personne peut accepter une micro-tâche un peu plus importante, comme retravailler un logo pour la somme de 3 $. Elle va l’émietter à son tour, et faire réaliser cette tâche graphique par trente personnes différentes en réalisant un bénéfice au passage. Chaque personne s’occupera d’une micro-tâche payée quelques cents comme changer une couleur, changer un vecteur, changer un pixel et ainsi de suite…
En réalité, le conflit social est loin d’être évacué et on constate déjà une prise de conscience, au niveau international, des travailleur·euses des plateformes. On peut ainsi immédiatement penser aux travailleurs de plateforme de travail à la demande très visibles comme Uber ou Deliveroo qui se battent pour cette reconnaissance. Les litiges, les revendications, les grèves, les créations de syndicats ou l’intégration de ces travailleur·euses dans les syndicats traditionnels se multiplient, tant en Europe qu’en Australie, en Amérique ou en Inde. Ensuite, dans le monde du microtravail, on constate aussi la création de guildes, de recours collectif, et la volonté de certains syndicats d’organiser les microtravailleurs. Enfin, dans la troisième famille de travailleurs du clic qu’est le travail social en réseau, on observe aussi une multiplication d’actions en justices et d’embryon de formes d’organisation. Par exemple, il y a de plus en plus d’appels à la grève sur Facebook ou à la formation de data unions c’est-à-dire de syndicats de créateurs de données sur les plateformes sociales. En 2015, il y a par exemple eu un recours collectif de plusieurs centaines de personnes dans l’État américain du Massachusetts qui ont cherché à se faire requalifier comme employé·es de Google parce qu’elles avaient utilisé recaptcha [Il s’agit de ces caractères que l’on doit reconnaitre pour valider un formulaire ou une inscription en ligne et qui sont en réalité extraits de livres numérisés que le système de reconnaissance optique de Google n’a pas réussi à identifier NDLR]. Elles estimaient avoir créé de la valeur en entrainant des algorithmes de reconnaissances textuelles pour Google sans avoir été rémunérées pour cela. Il y a donc énormément d’efforts d’organisation et une multiplication des conflits avec ces plateformes même si le contexte reste assez défavorable aux travailleurs pour l’instant.
Par ailleurs, on observe aussi des mouvements de type nouveau, comme le coopérativisme de plateformes. Celui-ci cherche à dépasser la conception capitaliste et prédatrice des plateformes actuelles et vise à créer un Twitter ou un Uber du peuple ! C’est-à-dire à inscrire les plateformes et les technologies numériques dans le contexte de l’économie sociale et solidaire et non plus exclusivement de se baser sur la captation de la valeur produite par ses utilisateurs. Il s’agit en somme d’une réactualisation de la grande tradition mutualiste des siècles passés qui propose aux usagers de ces plateformes d’en être les propriétaires et même les concepteurs. Même si ce mouvement se heurte aujourd’hui à pas mal de contradictions en interne, et lutte pour pouvoir trouver une manière de s’affirmer et ne pas se faire approprier par les plateformes capitalistes, c’est quelque chose d’extrêmement prometteur.
Antonio A. Casilli, En Attendant les robots, Enquête sur le travail du clic, Le Seuil, 2019