Lors de la Matinale de RTS, j’ai été interviewé par Chrystel Domenjoz.
IA
[Vidéo] L’interview éco (France Info, 28 janv. 2019)
J’étais l’invité de Jean Leymarie, pour l’émission “L’interview éco” de France Info (podcast et vidéo).
Avec le sociologue Antonio Casilli, une enquête sur “les galériens du clic”
L’économie numérique met en avant la puissance des algorithmes et les progrès de l’intelligence artificielle. Mais pour faire tourner les plateformes, des millions d’hommes et de femmes réalisent chaque jour des microtâches, peu connues et peu payées. Le sociologue Antonio Casilli a enquêté sur ces “tâcherons” modernes.00’0007’00

Qui est derrière les plateformes que nous utilisons tous les jours, les Google, Amazon, Facebook, Twitter ? Des algorithmes, bien sûr, de l’intelligence artificielle, mais aussi des hommes et des femmes. Le sociologue Antonio Casilli a enquêté sur ceux qu’il appelle les “travailleurs du clic”, et même les “galériens du clic”. Il publie En attendant les robots, aux éditions du Seuil.
La face inconnue de l’économie “digitale”
Sans hommes et femmes, pas de machines… et pas d’économie “digitale”. C’est la thèse d’Antonio Casilli. “Pour calibrer les intelligences artificielles, pour qu’elles réalisent les tâches qu’elles promettent, explique le sociologue, chaque jour des personnes doivent traiter des centaines et même des milliers de petites tâches : reconnaître des chansons pour organiser des playlists, retranscrire des tickets de caisse, interpréter ce que d’autres personnes ont dit à des enceintes connectées”. Ces tâches fragmentées, répétitives, constituent la face inconnue de l’économie “digitale”.
Des tâches payées parfois moins d’un centime
Qui sont ces travailleuses et ces travailleurs du clic ? “lls sont partout dans le monde. Souvent depuis chez eux, ils et elles se connectent à des plateformes pour accomplir des microtâches et sont payés très peu”, parfois un centime ou moins par tâche, si ces personnes sont installées dans des pays à faibles revenus. Dans certains pays, les travailleurs forment même des “fermes à clic” ou des “usines à clic”. “Dans les pays du nord, ajoute le sociologue, il s’agit souvent d’un complément du revenu. Mais dans un pays comme Madagascar, où le salaire moyen est de 40 euros par mois, ou un peu plus, la possibilité de gagner 30 ou 40 euros grâce à des microtâches constitue un deuxième salaire”. Antonio Casilli estime qu’au moins cent millions de personnes, dans le monde, sont aujourd’hui des “travailleurs du clic”.
Une polarisation du travail
La technologie progresse. Les machines vont-elles remplacer un jour ces femmes et ces hommes ? “Le remplacement n’aura pas lieu, estime Antonio Casilli : vous aurez toujours besoin de personnes qui vérifient ce que les machines ont fait. Il y aura toujours ce travail humble, invisible”. Pour le sociologue, il y a bien “une polarisation du travail produit par ces solutions technologiques intelligentes : d’un côté des data scientists, des ingénieurs, des ’sublimes’ du numérique ; de l’autre côté, des travailleurs du digital (…) Digital renvoie vraiment à un travail du doigt, du clic. Un travail pour l’instant nécessaire”. Pour le chercheur, il est urgent de traiter le “besoin de reconnaissance de ces travailleurs et d’examiner les pistes qui nous permettront de sortir de cette situation”.
[Vidéo] Dans Hors Série (19 janv. 2019)
Je me suis entretenu pendant une heure et trente minutes avec la journaliste Laura Raim. La vidéo est disponible sur le site Hors Série (sur abonnement).
Les forçats du clic
Laura Raim
Je fais partie de cette catégorie de gens qui ont le permis mais qui ne savent plus conduire. A force de ne jamais pratiquer, je n’ai acquis aucun réflexe. Et plus le temps passe, plus j’ai peur de réesssayer. Je pense qu’on peut désormais parler de « blocage psychologique ». Vous imaginez donc la lueur d’espoir qu’ont suscitée les nouvelles sur l’arrivée imminente des voitures autonomes, qui promettaient de me délivrer de ce handicap un peu honteux.
Je ne lui en veux pas, mais Antonio Casilli a brisé ce rêve. Dans son ouvrage, En attendant les Robots. Enquête sur le travail du clic ( Seuil), le sociologue démonte implacablement le grand bluff idéologique du mythe du « grand remplacement technologique ». On découvre que l’intelligence artificielle est moins l’affaire d’une poignée de génies des mathématiques en blouse blanche confectionnant des supercalculateurs de 200 pétaflops dédiés au « deep learning », que de millions de « tâcherons » du numérique, « mélange de stagiaires français et de précaires malgaches », sous-payés pour à la fois entraîner, cadrer et fournir les ordinateurs en données fiables et utilisables. Ce ne sont pas en effet « les machines qui font le travail des hommes, mais les hommes qui sont poussés à réaliser un digital labor pour les machines ».
J’avais déjà eu un choc similaire en lisant le génial En Amazonie de Jean-Baptiste Malet, qui dévoilait les conditions de travail hallucinantes dans un entrepôt d’Amazon. De même que le journaliste rendait visible la réalité physique, sale et humaine, derrière l’image faussement virtuelle et désincarnée du numérique, Antonio Casilli fait apparaître l’exploitation très concrète qui se cache derrière l’abstraction des algorithmes, et met à jour l’intérêt stratégique d’alimenter le mensonge d’un inéluctable remplacement des hommes par les robots : empêcher l’organisation des prolétaires du numérique. Et moi je n’ai plus qu’à reprendre des heures de conduite.
Aux Ressources
, émission publiée le 19/01/2019
Durée de l’émission : 76 minutes
[Vidéo] A l’Instant M (France Inter, 16 janv. 2019)
Le 16 janvier 2019 à 9h40 j’étais l’invité de l’Instant M avec Sonia Devillers, sur France Inter.
Ces travailleurs du clic qui font les opinions sur Internet
L'auteur de "En attendant les robots" fait apparaître la réalité du "digital labor", l'exploitation des petites mains de l'intelligence artificielle. Enquête et réflexion passionnante que celles du chercheur Antonio Casilli.
Transcription de cette émission réalisée par l’association April.
Les plateformes du nouveau monde que sont Amazon, Facebook, Youtube ou Twitter nous feraient, à dessin, miroiter des algorithmes surpuissants capables bientôt de gouverner les envies et les opinions de 7 milliards d’êtres humains. Mirage.
C’est sans compter une armée invisible d’hommes et de femmes qui travaillent de leur doigt à cliquer toute la journée. Des volontaires bien heureux de poster, de liker ou de partager. Mais aussi des prolétaires sous-payés pour faire et défaire tout ce qui circule sur le web. Les robots n’auront pas tôt fait de remplacer le travail des hommes. En revanche, et c’est une question sociale et politique brûlante, ils le transforment.
A la manœuvre, les grandes plateformes d’Internet qui mentent sur leur modèle économique pour mieux masquer ce qui les enrichit en réalité.
L’automate et le tâcheron (AOC, 15 janv. 2019)
Le site d’information AOC (Analyse Opinion Critique) accueille mon texte.
L’automate et le tâcheron
Par Antonio CasilliE
En 2018, Amazon aurait détruit trois millions de produits vient-on d’apprendre. Rien de surprenant pour le sociologue Antonio A. Casilli qui, à l’issue d’une longue enquête, montre pourquoi lesdits produits ne sont en réalité qu’un prétexte pour ce type de plateforme – Amazon, mais aussi Facebook ou Uber – dont l’activité principale s’avère l’accumulation et la préparation de données qui serviront à développer des intelligences artificielles.
En 2006, les publicités de l’agence d’intérim Jobsintown.de envahissent les lieux publics berlinois. Des images, placardées sur des automates, donnent l’impression que des individus travaillent à l’intérieur de ceux-là. Niché dans un guichet automatique, un guichetier compte des billets. Un lavomatique cache une femme frottant vos vêtements sur une planche à laver. Dans le scanner à rayons X d’un aéroport, un douanier inspecte vos bagages à l’aide d’une lampe de poche. Par-delà son message affiché (« n’acceptez pas des emplois pénibles qui vous réduisent à des machines »), cette campagne publicitaire est avant tout un clin l’œil à un phénomène qui apparaît de façon concomitante : la servicialisation de l’humain vis-à-vis des machines.
C’est Jeff Bezos, le patron d’Amazon, qui exprime cette nouvelle philosophie du travail cette même année, lors d’une intervention au MIT de Boston. D’après lui, les technologies intelligentes à base de données et d’algorithmes apprenants ne sont pas là pour « servir les humains ». Au contraire, insiste-t-il, nous assistons à l’inversion « des rôles respectifs des ordinateurs et des êtres vivants » puisqu’il est aujourd’hui possible coder et inscrire « de l’intelligence humaine au sein d’un logiciel ». Et l’entrepreneur de préciser que cette « inscription » ne relève pas du génie et du savoir-faire de ses informaticiens, mais au contraire d’une stratégie consistant à transformer des usagers non spécialisés en fournisseurs de services numériques pour sa plateforme.
L’un des piliers de la stratégie big data du géant américain, est la création d’un marché du travail en appui à l’automation.
Amazon est certes plus connue pour son catalogue d’achats en ligne, mais son modèle d’affaires tourne depuis longtemps autour de la vente de solutions informatiques sous forme de « logiciel-en-tant-que-service » (software-as-a-service). Selon cette logique commerciale, les applications ne sont pas installées sur les ordinateurs de ceux qui les achètent, mais sur une plateforme propriétaire de ceux qui les produisent. L’un des piliers de la stratégie big data du géant américain, est la création d’un marché du travail en appui à l’automation. Il s’agit de la clé de voûte du programme scientifique et industriel du machine learning : pour que les machines apprennent à reproduire le comportement humain, il faut bien que des humains les instruisent à reconnaître des images, à lire des textes ou à interpréter des commandes vocales. Ces humains ne sont plus installés au sein des entreprises qui les emploient, mais sur une plateforme qui les met à disposition de ces mêmes entreprises. « Grosso modo », concluait Jeff Bezos, « c’est de l’humain-en-tant-que-service »[1].
Sur Internet, ces effectifs sont recrutés sur des plateformes de « micro-travail ». Ce terme décrit une forme de travail datafié (à savoir, orienté vers la production de données) et tâcheronnisé (c’est-à-dire réduit à des tâches fragmentées et déqualifiées).
La plus célèbre de ces plateformes, est Mechanical Turk, un service créé justement par Amazon. Longtemps, le problème d’Amazon avait consisté à éliminer les doublons de son vaste catalogue d’articles commerciaux. Au début des années 2000, ayant constaté l’inefficacité des solutions logicielles pour résoudre ce problème, les ingénieurs de la société de Seattle ont envisagé un système consistant à recruter un grand nombre de personnes payées à la pièce pour regarder quelques pages chacune et signaler les répétitions. De là à en faire profiter d’autres sociétés, en retirant au passage une commission pour leur rôle de courtier, il n’y a qu’un pas[2].
Ce portail doit son nom à un célèbre joueur d’échecs mécanique du 18ème siècle, un robot anthropomorphe affublé d’un costume ottoman. Le Turc, censé simuler les processus cognitifs de ses adversaires, se présentait de fait comme la première intelligence artificielle. Mais il était surtout une complète mystification. Les pièces n’étaient pas déplacées par le joueur d’échecs mécanique, mais par un opérateur humain caché à l’intérieur du mécanisme.
La métaphore du robot avec un être humain à l’intérieur est utile aujourd’hui pour décrire ce que vend Amazon. Quand il s’agit de séduire les actionnaires, les drones qui effectuent les livraisons ou les algorithmes qui suggèrent les produits les plus adaptés sont au-devant de la scène. Mais en coulisses, ce sont des centaines de milliers de « Turkers » qui trient à la main les adresses ou classent en fonction de leur pertinence tous les produits du catalogue. Ce travail en amont (calibrer les logiciels pour qu’il classent bien) et en aval (vérifier que les résultats de classement automatique soient corrects) est essentiel pour la réussite commerciale d’Amazon et des sociétés de son écosystème. Il s’agit, dans le jargon de la plateforme, d’une démarche d’« intelligence artificielle artificielle ».
La possibilité même pour les micro-travailleurs d’arriver à cumuler un montant équivalent à un salaire minimum à la fin du mois est contrainte par plusieurs aléas : assiduité, rapidité, compétences, disponibilité des tâches ou leur réalisabilité…
Si une entreprise veut numériser un processus (par exemple, départager des images pour développer un moteur de recherche visuel ou transcrire des tickets de caisse pour commercialiser une app de comptabilité personnelle), au lieu de perdre du temps et de l’argent pour créer un logiciel propriétaire elle peut recruter sur Amazon Mechanical Turk des micro-travailleurs qui réaliseront des tâches simples avec ou à la place de la solution automatique. Il n’est plus question d’employer un ou dix salariés, ni de mettre au travail cent stagiaires : elle peut désormais « requérir » cent mille « tâcherons du clic » et les charger de transcrire une facture ou de labéliser une image chacun.
Les centaines de plateformes comme Mechanical Turk sur lesquelles ces micro-tâches sont allouées constituent un véritable marché du travail. Chacune des tâches reçoit une compensation dérisoire : un ou deux centimes et, dans certains cas, encore moins. En 2017 le salaire horaire médian d’un micro-travailleur ne dépassait pas les 2 dollars[3]. De surcroit, penser en termes d’heures de travail pose des problèmes sur une plateforme qui rémunère à la pièce. La possibilité même pour les micro-travailleurs d’arriver à cumuler un montant équivalent à un salaire minimum à la fin du mois est contrainte par plusieurs aléas : leur assiduité, leur rapidité, leurs compétences, mais aussi la disponibilité des tâches ou leur réalisabilité à des heures déterminées.
Quand sonnent les 18h à San Francisco, généralement les Turkers américains terminent leur journée. C’est à ce moment-là qu’à Hyderabad se mettent au travail les tâcherons du clic indiens. Pour les travailleurs du Nord, les micro-tâches représentent un revenu complémentaire, qui revêt un intérêt certain pour les couches les plus fragilisées de nos sociétés : des femmes travaillant à temps partiel, avec enfants, nécessitant un complément de revenu. En revanche pour ceux qui micro-travaillent depuis des pays émergents ou en voie de développement, où le salaire moyen peut parfois ne pas dépasser les 40 euros par mois, travailler à distance à la mise en place d’intelligences artificielles devient une source de revenu primaire tout à fait convenable. Il s’agit toutefois d’une occupation précaire et non couverte par toute une série de garanties salariales et syndicales, pour la simple raison que les plateformes de micro-travail ne reconnaissent pas leurs usagers comme des salariés, ni même comme des fournisseurs. Ils sont des simples usagers[4].
Un certain nombre de structures de dépendance économique à l’échelle mondiale sont héritées de notre passé colonial et réapparaissent à travers ces micro-marchés du travail.
Selon des études récentes menées par des chercheurs de l’Oxford Internet Institute, les pays qui achètent des micro-tâches sont les États-Unis, le Canada, l’Australie, la France et le Royaume-Uni, alors que ceux où ils résident effectivement, les travailleurs du clic sont l’Inde, les Philippines, le Pakistan, le Népal, la Chine, le Bangladesh[5]. Cela suffit à dire qu’un certain nombre de structures de dépendance économique à l’échelle mondiale sont héritées de notre passé colonial et réapparaissent à travers ces micro-marchés du travail.
Malgré cette polarisation Nord/Sud, il ne faut pas entièrement se rabattre sur la reproduction des logiques colonialistes pour interpréter le marché du travail du clic nécessaire pour entretenir nos intelligences artificielles. Les micro-travailleurs du Sud global ne sont pas relégués dans la passivité par les plateformes plus que les ceux du Nord. Bien que les principales valorisations boursières reviennent aujourd’hui aux multinationales étasuniennes du numérique, les pays du Nord ne sont pas les seuls moteurs de ce secteur crucial pour la mise en place des IA. Les pays à revenu intermédiaire et faible les concurrencent activement avec leurs propres plateformes de micro-travail[6].
La Chine est sans doute l’un des plus grands acteurs sur le marché international des tâches numériques. Ses plus importantes plateformes, comme Zhubajie, surpassent Amazon en termes d’ambition, de revenus et de base d’utilisateurs. Malgré sa popularité, Mechanical Turk ne compte que 500 000 utilisateurs ; les plateformes chinoises, elles, comptent aujourd’hui dix, douze, quinze millions de micro-travailleurs chacune. Si nous réunissons toutes les plateformes de micro-travail et de travail à la demande mondiale, nous dépassons largement les cent millions d’effectifs répertoriés.
Au niveau international, l’attractivité du recours à ces places de marchés du micro-travail est conditionnée par le recentrage actuel des plateformes numériques sur une philosophie de l’innovation « disruptive » reposant largement sur l’intelligence artificielle. Amazon n’est donc pas le seul géant de la tech qui dispose d’un service de micro-travail pour former ses intelligences artificielles. Ainsi, en 2004, Microsoft s’est doté d’Universal Human Relevance System (UHRS) et Google a lancé EWOQ (ensuite devenu Rater Hub) en 2008. Sur ces deux plateformes le micro-travail humain sert avant tout à rendre possible le fonctionnement d’un type particulier d’algorithmes, à savoir ceux qui régissent les moteurs de recherche Bing et Google Search.
Pour calibrer sa célèbre intelligence artificielle Watson, IBM a à son tour utilisé une plateforme appelée Mighty AI. Quel genre de microtravail réalisaient-ils, les tâcherons œuvrant pour cette « puissante intelligence artificielle » ? Ils doivent, par exemple, identifier la langue d’une conversation, après en avoir écouté un fragment. En regardant la photo d’une station touristique, ils doivent détectent des éléments tels un nuage, une montagne, un lac, un chemin, etc. Dans une courte vidéo d’une webcam d’autoroute, ils doivent départager les plaques d’immatriculation des véhicules. Ces simples tâches sont utilisées respectivement pour « alimenter » des traducteurs automatiques, des systèmes de reconnaissance d’images, des véhicules autonomes…
Les tâches réalisées chaque jour par l’armée industrielle de l’ombre que les plateformes de micro-travail recrutent sont les ingrédients secrets des IA d’aujourd’hui.
La mythologie et, si j’ose le dire, l’idéologie de l’intelligence artificielle voudrait que les solutions de machine learning naissent déjà formées. Elles seraient – comme Athéna jaillissant de la tête de Zeus – tout prêtes au combat. Au contraire, elles doivent apprendre à partir de données structurées, triées, qualifiées pour pouvoir fonctionner. Les tâches réalisées chaque jour par l’armée industrielle de l’ombre que les plateformes de micro-travail recrutent sont les ingrédients secrets des IA d’aujourd’hui, pour peu qu’elles permettent d’introduire dans nos systèmes automatiques une suffisamment grande variété d’exemples.
L’apprentissage automatique exige alors beaucoup de travail « non automatique », c’est-à-dire réalisé par des humains. Non pas (ou non seulement) une poignée d’ingénieurs et de codeurs, mais avant et surtout des multitudes d’ouvriers du clic qui dessinent les contours d’un futur du travail voué à une véritable tâcheronnisation numérique. L’effet inattendu de l’intelligence artificielle sur le travail n’est donc pas le « grand remplacement » des travailleurs par des intelligences artificielles, souvent présenté comme une perspective dystopique dans la presse et dans le débat universitaire. Au contraire, c’est le remplacement du travail formel par du micro-travail précaire, invisibilisé et en fin de compte asservi à la fabrication des machines, qui doit inquiéter la société civile, les corps intermédiaires et les décideurs publics. La centralité du geste productif humain est irréductible. Ce dernier représente, même lorsqu’il est réduit à un clic, le carburant des grandes plateformes numériques. De ce point de vue, il convient de parler non pas de substitution mais de symbiose entre le geste humain et le fonctionnement automatique.
Ce qui semble vraiment être mis en péril n’est donc pas le travail lui-même, mais son encadrement institutionnel au sein de l’emploi formel. Les formes atypiques de travail précaire, sous-payé et (nous l’avons vu) micro-payé se multiplient. Parallèlement, nous assistons à la constante remise en discussion des catégories héritées de la civilisation salariale du siècle dernier, et notamment du binôme constitué par une subordination formellement délimitée et une protection sociale généralisée. Pour contribuer à résorber ce déséquilibre économique et culturel, une régulation collective est également nécessaire, fondée sur la reconnaissance du changement radical des activités humaines de production à l’heure de technologies—parfois intelligentes mais jamais entièrement « artificielles ».
NDLR Antonio A. Casilli a publié le 3 janvier En attendant les robots : Enquête sur le travail du clic, Seuil.
[1] “This is basically people-as-a-service” Jeff Bezos, “Opening Keynote and Keynote Interview”, MIT World – special events and lectures, 2006.
[2] Birgitta Bergvall-Kåreborn et Debra Howcroft, “Amazon Mechanical Turk and the commodification of labour”, New Technology, Work and Employment, vol. 29, no. 3, 2014, pp. 213-223.
[3] Kotaro Hara, Abi Adams, Kristy Milland, Saiph Savage, Chris Callison-Burch et Jeffrey Bigham, “A Data-Driven Analysis of Workers’ Earnings on Amazon Mechanical Turk”, arXiv, 2017.
[4] Amazon stipule avec ses Turkers un « Accord de Participation » dont les termes sont clairement conçus pour échapper à l’identification d’un lien de subordination des micro-travailleurs envers la plateforme ou envers les requérants. « Participation Agreement », Amazon Mechanical Turk, 17 oct. 2017.
[5] Graham, M., Hjorth, I., Lehdonvirta, V. (2017), Digital labour and development: impacts of global digital labour platforms and the gig economy on worker livelihoods, Transfer: European Review of Labour and Research, Vol. 23, n. 2, pp. 135-162.
[6] Casilli, Antonio A. (2017). Digital Labor Studies Go Global: Toward a Digital Decolonial Turn. International Journal of Communication, 11, Special Section “Global Digital Culture”, pp. 3934–3954.
Sociologue, Maître de conférence à Telecom ParisTech et chercheur à L’institut Interdisciplinaire de l’Innovation (CNRS) et au LACI-IIAC de l’EHESS.
Dans Le Figaro (14 janv. 2019)
La section Économie du Figaro du 14 janvier 2019 contient un compte rendu signé par Elisa Braün de En attendant les robots. Enquête sur le travail du clic (Seuil, 2019).
Le Figaro Économie
Lundi 14 janvier 2019, p. 28
LIVRES IDÉES ELISA BRAUN
INTERNET L’intelligence artificielle a beau promettre un futur fait de machines autonomes prêtes à servir les humains, elle a encore besoin, en coulisses, de millions de petites mains pour fonctionner. Dans son ouvrage En attendant les robots (Seuil), le sociologue Antonio Casilli s’oppose au discours ambiant et prouve dans une enquête édifiante que l’heure n’est pas encore venue où les robots remplaceront l’homme dans son dur labeur. En près de 400 pages richement documentées (une centaine est dédiée aux sources), il dénonce un « spectacle de marionnettes » , un « bluff technologique » auquel une foule d’acteurs voudrait bien laisser croire… Pour mieux masquer la réalité d’une transformation profonde du monde du travail, qui affecte pourtant chacun.
Car derrière chaque plateforme numérique (Facebook, Google, Amazon…), chaque service innovant, se cache une armée de travailleurs d’un genre nouveau. Chaque jour, partout dans le monde, des millions de petites mains cliquent, « likent » , commentent et réalisent sur Internet des tâches répétitives, peu qualifiées et chronophages pour le compte de ces entreprises, des tâches qu’aucune intelligence artificielle n’est vraiment en mesure de réaliser. Dès le début, le sociologue cite ainsi l’exemple d’une start-up dont l’algorithme surpuissant chargé de recommander des contenus sur Internet n’est en fait rien d’autre qu’un jeune Malgache payé pour se faire passer pour une intelligence artificielle…
Et le cas est loin d’être isolé. On estime aujourd’hui qu’entre 45 et 90 millions de personnes sont de ces « ouvriers du clic » réguliers, c’est-à-dire une main-d’oeuvre invisible, payée à la tâche et essentielle au fonctionnement de l’économie numérique. Ceux-ci ne sont pas seulement délocalisés dans les économies « émergentes » , alerte le sociologue. Dans une riche analyse de la redéfinition du travail à l’heure des plateformes, il démontre qu’en réalité, chacun contribue à ce « digital labor » .
« Poinçonneurs des IA »
La participation quotidienne aux réseaux sociaux, la notation des activités des chauffeurs ou des services de livraison, la correction des erreurs sur un outil de cartographie… Tous ces gestes participent à la création de valeur pour les plateformes numériques comme Google, Facebook ou Uber. Celles-ci « s e basent sur la captation, l’extraction et non pas sur la création de données » , fait apparaître Antonio Casilli. Dans le miroir glaçant que tend l’auteur au monde merveilleux des start-up et des IA, le clic d’un usager de réseau social participe du « même schéma d’incitations économiques » que celui d’une personne payée pour se faire passer pour une intelligence artificielle.
En explorant les perspectives offertes par ce néo-taylorisme numérique où chacun est un « poinçonneur des IA » , Antonio Casilli livre une réflexion vertigineuse sur la nouvelle nature du travail au XXIe siècle. Ses maîtres-mots évoquent pourtant ceux du XIXe : précarisation, travail à la tâche, tâcherons… Heureusement, le sociologue ne manque pas d’idées pour repenser le « coopérativisme de plateforme » dont Uber s’était un jour inspiré pour changer l’économie… en mieux !
Dans Digital Society Forum (11 et 16 janv. 2019)
Le site web Digital Society Forum accueille deux compte-rendus de mon ouvrage En attendant les robots (Seuil, 2019), signés respectivement par la journaliste Claire Richard et l’expert d’innovation Irénée Régnauld.
Et si l’IA n’existait pas ?
Irénée Régnauld

Sheep Pain Facial Expression Scale (SPFES) est un outil élaboré en 2016 par le docteur Krista McLennan de l’Université de Cambridge. « Les chercheurs ont nourri l'intelligence artificielle avec 500 photos de moutons et lui ont appris à mesurer la souffrance en analysant la position de la bouche, le plissement des yeux, l'inclinaison des oreilles et tous les autres éléments susceptibles de traduire un mal-être. » La douleur est reconnue dans 80% des cas et permet d’établir des diagnostics précoces en vue de soigner les pauvres bêtes. Voilà qui fait avancer la science, même si l’histoire ne dit pas si ce sont des travailleurs sous payés en Asie du Sud-Est qui ont tagué les photos d’ovins. Le dernier ouvrage d’Antonio Casilli, En attendant les robots, enquête sur le travail du clic (Seuil), a défrayé la chronique. La thèse : l’intelligence artificielle repose sur le travail manuel de millions de travailleurs précaires qui trient, annotent et commentent les données nécessaires à son bon fonctionnement. De là à affirmer que l’intelligence artificielle n’existe pas, il n’y a qu’un pas, qu’il est tentant de franchir ici. Juste pour voir.
La semaine de l’intelligence artificielle a une drôle de tête : le lundi, elle va nous remplacer ; le mardi, elle va créer des emplois ; le mercredi, elle nous dépasse de nouveau ; mais heureusement, elle nous augmente le jeudi (ouf !). Et ainsi de suite jusqu’à ce que nous nous persuadions qu’elle est une personne avec sa volonté propre, une bonne copine ou notre pire ennemie, selon le jour, nos convictions ou notre position dans la société. En fait, nous la connaissons plutôt mal. Nous n’en n’avons pas toutes les clés, et c’est là que Casilli apporte un éclairage supplémentaire. C’est en sociologue de terrain qu’il est allé soulever le capot des intelligences artificielles qui prennent place dans nos smartphones, nos maisons et nos automobiles. Derrière ces IA aux airs schizophrènes, une autre réalité couve : des travailleurs précaires, essentiellement en Asie et en Afrique. Des petites mains qui taguent, annotent et commentent les images que « voient » les véhicules autonomes. Des petits doigts qui cliquent pour censurer les vidéos de décapitation sur YouTube et Facebook afin de nous éviter d’avoir à tomber dessus par un malencontreux hasard algorithmique. L’IA ne s’incarne donc pas en une unique personne virtuelle aux multiples interfaces, à la façon de l’OS du film Her de Spike Jonze, mais en des millions (de chair et d’os), qui travaillent dans l’ombre des mines de la modération, et qui ne sont pas cher payées.
Si l’on suite de plus près le fil “casillien”, l’intelligence artificielle est un mode d’organisation du travail. Un rapport d’exploitation qui modèle nos sociétés à son image. Non seulement nos intelligences artificielles sont « artificielles », mais elles embarquent toute une vision du monde et du travail. Cela pourrait tenir en deux étapes. Étape 1 : réduire tous les emplois en petites tâches compréhensibles par une machine. Étape 2 : dissoudre le travail dans les machines. C’est le même processus qui aurait mis les ouvriers derrière les machines, ou les clients devant les distributeurs de billets plutôt que face aux guichetiers. Pour Casilli, et comme il l’explique à Libération, l’objectif de cette IA est de « discipliner la force de travail », de calmer ses ardeurs en lui rappelant que si elle en demande trop, on l’automatisera. Automatisation qui relève selon lui d’un mythe : les distributeurs de billets n’ont pas remplacé les guichetiers, rappelle-t-il en début d’ouvrage. En d’autres termes, l’intelligence artificielle ne détruirait pas le travail, mais ne ferait qu’en déplacer les modèles et modalités.
Une thèse qui ne fait pas l’unanimité mais que partage l’activiste Astra Taylor (@astradisastra), pas loin elle non plus de nous dire que l’automatisation est une farce. En témoigne sa charade de l’automatisation où elle explique que la soi-disant obsolescence de l’homme a souvent servi de prétexte pour réduire en cendre les revendications des salariés. Ce fut le cas en 2013 lors du mouvement « Fight for 15$ », au cours duquel les salariés des fast-foods américains demandèrent une revalorisation salariale. De son côté, l’ancien PDG de Mac Donald les menaçait subtilement d’automatisation. Ce qui ne manqua pas d’arriver quelques mois plus tard quand la grande chaîne de fast-food introduisit les bornes digitales en libre service dans ses restaurants. Seulement voilà, le travail des salariés n’a pas disparu. Les clients se chargent de sélectionner leurs menus (ce sont maintenant eux qui travaillent, dirait Casilli). Les employés de la chaîne, quant à eux, préparent les commandes. « Macdo » les embauche encore, le travail aurait juste, de nouveau, été déplacé. Le fond de l’affaire serait psychologique : il s’agirait de faire croire à n’importe quel travailleur qu’il est potentiellement automatisable. Astra Taylor invente un terme pour exprimer cette peur de l’automatisation qui n’arrive jamais : « Fauxtomation ». La fauxtomation, c’est le « en attendant les robots » de Casilli. Une épée de Damoclès technologique. Un horizon menaçant dont le seul objet serait de reproduire les structures en place. De nouveau, il n’y a pas d’automatisation, il y a juste des rapports de force.
Ces deux pensées font écho à ce que le philosophe allemand Günther Anders (1902-1992) appelait la « honte prométhéenne » : ce sentiment de faiblesse qui s’empare de l’homme quand celui-ci compare sa condition biologique à la toute puissance de la machine. Mais quand on y réfléchit, cette honte ne mène à rien, car le match est truqué. Il n’y a aucune raison d’être honteux face à une machine, pas plus que face à un casse-noix qui lui, casse des noix bien plus vite et mieux que nous. Nous ne sommes pas non plus honteux face aux mouches (qui volent, elles), ou devant les lapins (qui copulent cent fois plus). Pour le dire autrement, Casilli, Taylor et Anders analysent la technologie selon un prisme nouveau, mais celui-ci n’épuise pas les nombreuses interprétations disponibles sur le marché des idées.
Et c’est là toute la difficulté. Si on la dilue dans les rapports de domination qui la sous-tendent, alors l’intelligence artificielle disparaît à leur profit. On ne voit plus que ce qu’on ne voyait pas avant : des travailleurs pauvres dans des pays lointains. Mais il reste que, du point de vue du développeur, l’intelligence artificielle est un programme qu’il souhaite mettre au service de ceci ou de cela, sans nécessairement désirer un déclassement généralisé de la population. Du point de vue de l’historien des sciences, l’intelligence artificielle sera un assemblage de techniques, d’inventeurs et de faits sociaux qui ont conduit à son premier véritable essor au sortir de la Seconde Guerre mondiale. Du point de vue du badaud qui traduit un texte dans une langue étrangère, elle sera une aide précieuse. Du point de vue de l’entrepreneur, un relais de croissance. Et ainsi de suite. Tous ces points de vues sont réels. D’où ce paradoxe : si l’une de ces visions ne saurait remplacer toutes les autres, leur coexistence ne devrait pas non plus diluer le tout dans un relativisme inopérant. Ou plus grave, dans une tétanie annihilant toute action ou réflexion pour le mieux plutôt que le pire.
Derrière les promesses de l’intelligence artificielle, le cauchemar du “digital labor”
Claire Richard.

Un spectre hante l’intelligence artificielle, c’est le digital labor. Le dernier livre du sociologue Antonio Casilli , spécialiste des réseaux sociaux et des mutations du travail à l’ère numérique, dresse un panorama sombre des nouvelles formes de travail déconsidéré ou invisible apparues avec l’essor des plateformes et de l’automatisation.
En attendant les robots
(Seuil), Le nouveau livre d’Antonio Casilli s’ouvre sur une histoire
édifiante. Simon (c’est un nom d’emprunt) est embauché dans une start-up
qui promet une solution d’intelligence artificielle pour proposer des
offres personnalisées à des clients de luxe. Peu de temps après son
arrivée, à la machine à café, il demande à un collègue pourquoi la boîte
n’a pas embauché de data scientist, si son cœur de métier est l’IA.
Parce qu’il n’y a pas d’IA, s’entend-il répondre. La personnalisation
des offres, ce sont des humains qui la font : des travailleurs à
Madagascar – et de temps en temps les stagiaires.
Le « secret » des intelligences artificielles ? Les humains
On l’aura compris : le titre de l’ouvrage, En attendant les robots,
et sa référence à Beckett, est ironique. Car Antonio Casilli ne croit
pas au « grand remplacement technologique », le spectre de la
disparition des emplois à cause de l’intelligence artificielle, agité
tant par des chercheurs (on se souvient de la fracassante étude d’Oxford annonçant que 47% des emplois disparaîtraient avec l’automatisation) que des éditorialistes et des entrepreneurs.
En réalité, explique le chercheur, les solutions d’intelligence
artificielle actuellement disponibles sur le marché ne peuvent se passer
d’humains. Même en laissant de côté les supercheries comme celle citée
plus haut, les exemples sont légions : systèmes de modération de
contenus vérifiés largement par des humains (comme chez YouTube),
opérateurs vérifiant les appariement proposés par des machines (comme
chez Amazon), assistants virtuels intelligents reposant largement sur
des humains (comme l’assistant virtuel de Facebook « M », retiré de la
circulation depuis) ou encore voitures autonomes assistées par des
opérateurs chargés d’analyser le données récoltées par le système (comme
chez Uber, où un chef de projet, ancien chef de projet de Google Street
View, a décrit lesdits opérateurs comme des « robots humains »).
« Ce ne sont pas les machines qui font le travail des hommes, mais les hommes qui sont poussés à réaliser un digital labor pour les machines en les accompagnant, en les invitant, en les entraînant », résume le chercheur.
Les intelligences artificielles doivent toujours être paramétrées,
entraînées et encore très largement supervisées par des humains, malgré
les progrès des méthodes d’apprentissage non supervisés. Les progrès
fulgurants des IA ces dernières années sont surtout dus à l’explosion
des quantités de données d’entraînement : or celles-ci doivent être
triées, annotées, préparées par des humains. Et enfin, ces programmes
doivent être évalués et corrigés pour pouvoir s’améliorer. Ainsi, les
utilisateurs vont utiliser pendant plusieurs années une version beta du
service Gmail de Google, pour l’améliorer, ou tagger leurs amis sur des
photos et contribuer ainsi sans nécessairement en avoir conscience à
l’affinement du service de reconnaissance faciale de Facebook : « C’est
un travail humble et discret, qui fait de nous, contemporains, à la fois
les dresseurs, les manouvriers et les agents d’entretien de ces
équipements. »
La question que pose l’intelligence artificielle et
l’automatisation, ce n’est donc pas celle de la menace sur l’emploi –
mais celle de la transformation profonde du travail pour répondre aux
besoins de la machine.
Un travail invisible
Ces nouvelles formes de travail, Antonio Casilli les range dans la catégorie du digital labor.
Littéralement « travail numérique », le terme désigne l’ensemble des
nouvelles formes de tâches que nécessite l’économie des plateformes
numériques — que ces tâches soient ou non (et c’est un point crucial)
reconnues comme du travail. Le digital labor, la plupart du
temps, est invisible. Parce qu’une large part se déroule dans les pays
du Sud, à la périphérie de la conscience des pays du Nord. Et surtout
parce que les plateformes refusent de le considérer comme travail :
elles se décrivent comme des services, des intermédiaires mettant en
relation des groupes d’usagers différents, des espaces de publication ou
des marchés – mais jamais comme des employeurs. Pourtant, dit Antonio
Casilli, c’est faux. Elles font bien appel à du travail immatériel mais
soit elles le délocalisent, soit elles le rendent invisibile, soit elles
le font passer pour des activités ludiques. Quoi qu’il en soit,
écrit-il, il existe « un continuum entre activités non rémunérées,
activités sous-payées et activités rémunérées de manière flexible. »
Tâcherons, salariés déguisés et utilisateurs dupés : les visages du digital labor
Antonio Casilli décrit surtout des cas assez connus (les chauffeurs
Uber, les travailleurs à la tâche payés quelques centimes de la
plateforme Mechanical Turk, et les usagers de Facebook), et on n’y
trouvera pas de révélations factuelles fracassantes – même si on apprend
au détour d’une page que Google emploie des humains pour vérifier les résultats de son moteur de recherche, qu’Uber embauche des opérateurs
pour assister ses voitures automatiques , que Twitter vend désormais
les données de ses utilisateurs à des fins publicitaires mais aussi à
des entreprises de solution de machine learning, comme IBM, Oracle ou
Salesforce, ou encore que les détenus chinois ou russes sont parfois
forcés de travailler à produire des vidéos YouTube ou des contenus web,
monétisés par les prisons).
Mais l’enquête n’est pas le propos du livre : l’auteur se propose surtout de brosser un panorama des différentes formes de digital labor.
Il décrit d’abord le monde du « microtravail » : les toutes petites
tâches proposées sur des plateformes comme Mechanical Turk, Freelancer
ou Upwork, sur lesquelles n’importe qui peut s’inscrire et offrir ses
services pour des sommes avoisinant souvent les dizaines de centimes.
Ces « micro-tâches » sont diverses : filtrer des contenus sur les
plateformes, traduire des mots ou des groupe de mots pour développer des
services de traduction « intelligents », identifier des éléments sur
une image pour améliorer un service de géolocalisation, enregistrer des
bribes de conversations ou les transcrire pour développer des assistants
vocaux, vérifier les résultats d’un moteur de recherche ou passer
derrière des algorithmes de filtrage… Elles ont en commun d’être
infimes, répétitives, peu qualifiées, et peu ou pas payées.
Viennent ensuite les travailleurs à la demande, les usagers de
plateformes de travail comme Uber, Foodora, Deliveroo. Ils utilisent le
service de la plateforme, qui prélève une commission sur les échanges,
mais ce n’est pas leur seule contribution. Ils produisent des données
personnelles diverses et les qualifient (quand un chauffeur note son
passager ou son passager un chauffeur) — celles-ci peuvent alors
également être vendues ou utilisées pour améliorer l’algorithme.
Ce qui fait plus débat concerne le troisième cas, celui des
contributions non payées : les posts, les commentaires, les messages,
les évaluations, les partages… Pour certains, ce sont des marques de la
culture web, de la sociabilité, de l’expression… et pour d’autres, dont
Antonio Casilli, du travail gratuit. La plateforme tire une valeur
réelle, et monétisée, des activités et des données des usagers. Elle
capte et exploite la valeur générée par ces activités, ces données – qui
peuvent être vendues ou utilisées pour entraîner des algorithmes, par
exemple. Mais les usagers ne touchent aucune rétribution, en dépit du
fait que leur activité génère de la valeur et est indispensable au
fonctionnement économique du site et constitue donc une forme de
travail. On peut citer le fait, par exemple, que les influenceurs sont
rémunérés pour leur posts, ou encore que, parmi la minorité d’usagers
très actifs sur une plateforme, une portion non négligeable espère se
professionnaliser (ce que des sociologues ont décrit comme le « hope
labor », le travail de l’espoir).
Certains exemples sont plus convaincants que d’autres : forcer les
internautes à identifier des images pour accéder à des contenus, comme
avec le système ReCAPTCHA, semble clairement relever du travail gratuit.
Poster ou partager un post qui nous tient à cœur entre dans une
catégorie plus difficile à cerner. En réponse à ces critiques, Antonio
Casilli rappelle que la notion de travail est le produit de luttes de
définition et de luttes sociales. Ainsi, le féminisme a fait émerger la
notion de « travail domestique » puis de travail de care, pour désigner
des activités qui étaient jusqu’alors considérées comme allant de soi.
Extension du travail précaire sous couvert de liberté
Ce digital labor est donc extrêmement répandu en ligne. Il
témoigne, explique le chercheur, de deux tendances à l’œuvre dans un
champ plus large que le numérique : la mise au travail de pans
croissants de notre réalité d’une part (puisque nos technologies de
communication nous permettent d’être joignable et productifs partout et
tout le temps, et puisque toutes nos données peuvent être
potentiellement génératrices de valeur), l’érosion du modèle du salariat
d’autre part. Or le salariat est fondé sur un pacte entre l’entreprise
et le salarié : en échange de sa subordination, l’entreprise lui fournit
une certaine protection sociale. Aujourd’hui quand elles refusent
d’être considérées comme des employeurs (même si la justice ne leur
donne pas toujours raison), les plateformes mettent à mal ce pacte et
participent à une tendance vers des travailleurs toujours plus isolés et
aux droits restreints : elles concluent, dit Antonio Casilli « un pacte
oxymorique » avec le travailleurs, « en les mettant à la fois au
travail et hors travail ».
Les plateformes mettent en avant la liberté du travail indépendant,
la possibilité d’être entrepreneur de soi-même sans avoir à se plier aux
règles hiérarchiques. « Idéalement, sur les plateformes et dans leurs
écosystèmes, tout individu est une start-up », résume le chercheur.
Cet imaginaire largement libertarien irrigue profondément la culture du web depuis ses débuts
et s’incarne, par exemple, dans la figure du hacker ou de
l’entrepreneur nomade, du passionné qui s’accomplit dans un « projet
professionnel qui est aussi existentiel ». Mais Antonio Casilli note
combien cette vision est élitiste et ne prend pas en compte l’asymétrie
des forces dans un marché du travail en berne où le chômage est élevé et
l’ascenseur social en panne, dans un passage qu’on a envie de citer en
entier :
« Aucune place, dans cette définition, pour la routine des
microtravailleurs de Clickworker, l’épuisement des livreurs de Foodora
ou la confusion des poinçonneurs de ReCAPTCHA transcrivant des mots
machinalement pour entraîner des systèmes de vision par ordinateur.
Cette approche passe donc sous silence les perdants de la transformation
numérique : ceux dont l’extrême flexibilité n’est pas un choix de vie
et dont le digital labor à la chaîne peut difficilement être
considéré comme un vecteur de réalisation de soi. Les entrepreneurs
d’eux-même que célèbre le discours d’accompagnement des plateformes
laissent une fois de plus dans l’ombre les digital laborers,
souffrant de la vacuité et du caractère répétitif de leurs tâches ou
anesthésiés par la ludification de leurs usages. La « soif de liberté »
n’est certainement pas moins grande que celle des slashers, co-workers,
lanceurs de start-up et autres « précaires entreprenants » qui se vivent
comme des fugueurs de la condition salariale, mais elle n’a
manifestement pas plus de chance d’être étanchée que leur quête de
stabilité dans l’emploi d’être atteinte. »
En l’absence de régulation, le digital labor préfigure le
pire du travail : un monde de travailleurs isolés, privés de droits
sociaux et iolés les uns des autres, livrés aux conditions léonines des
employeurs — et accomplissant des tâches standardisées, fragmentées, peu
qualifiées et dépourvues de sens global. Ici et là, des tentatives de régulation ou de création de plateformes équitables
sont en cours. Il est urgent de les soutenir, si l’on ne veut pas que
le développement croissant de l’automatisation ne soit synonyme non
d’une disparition du travail, mais de sa dégradation irrémédiable.
Un compte rendu et un grand entretien dans Libération (10 janv. 2019)
La livraison du quotidien Libération du 10 janvier 2019 met à l’honneur En attendant les robots (Seuil, 2019) en lui consacrant 4 pages dans la section Idées.
On commence par une riche recension de l’ouvrage signée Cécile Daumas, et on poursuit avec un long entretien avec Erwan Cario. (Traduction de l’interview en espagnol dans la revue Contexto).
“En attendant les robots : un ouvrage aussi vertigineux que rigoureux” (Mediapart, 10 janv. 2019)
Le 10 janvier 2019 dans Mediapart, un long et passionnant compte rendu de mon ouvrage En attendant les robots. Enquête sur le travail du clic (Seuil, 2019) signé par Joseph Confavreux. (more…)
[Podcast] Le mirage de l’IA (Radio Nova, 9 janv. 2019)
Le 9 janvier 2019 j’ai eu le plaisir d’être l’invité de Julie Groetz à la Radio Nova, dans le cadre de l’émission Nova Book Box. Non seulement nous avons eu l’occasion de parler de En attendant les robots. Enquête sur le travail du clic (Seuil, 2019), mais nous avons aussi lu des passages qui ont marqué mon parcours de lecteur et d’écrivain–de Slavoj Zizek à Luciano Bianciardi.