micro-travail

[Podcast] Comme un bruit qui court… sur le micro-travail (France Inter, 23 mars 2019)

Sur FranceInter, un reportage de Giv Anquetil qui fait la part belle à l’ouvrage En attendant les robots, enquête sur le travail du clic, (éditions Seuil, 2019) et au projet DiPLab.

Travailleurs du clic, les soutiers du clavier

Après le travail précarisé, bienvenue dans le micro-travail ! De plus en plus de plateformes proposent à des êtres humains de travailler pour des intelligences artificielles : des micro tâches de quelques minutes derrière son clavier pour quelques centimes.

Sans contrat de travail ni fiche de paie, vous serez payés à la tâche, à cliquer sur toutes sortes de choses sans savoir trop pourquoi. Les temps modernes, version 2019 où il faut, non pas serrer des boulons mais identifier des objets, traduire, cliquer, trier, classer, retrouver des adresses du fin fond du Nevada depuis son canapé contre une poignée de centimes. 

Tâche à exécuter pour une plateforme de micro travail.
Tâche à exécuter pour une plateforme de micro travail. © Radio France / Giv Anquetil

Antonio Casilli, sociologue et auteur du livre En attendant les robots, enquête sur le travail du clic (éditions Seuil, 2019) évalue à 250 000 le nombre de français qui se rabattent sur ces micro-boulots, souvent comme revenu d’appoint. 

Et, dans le monde, ils sont 100 millions de micro travailleurs à cliquer au doigt et à l’œil pour la machine : les forçats du clavier, stakhanovistes du clic ou tâcherons du web.

Sur Les Jours (12-28 févr. 2019)

Sur magazine en ligne Les Jours Sophian Fanen lance une nouvelle série d’enquêtes intitulée Working Class Robot. Le premier épisode porte sur les travailleurs invisibles de l’IA, traité dans mon ouvrage En attendant les robots (Ed. du Seuil, 2019). Le deuxième, explique le fonctionnement de l’entraînement des intelligences artificielles. Le troisième, propose une interview avec Votre Dévoué et Jean-Louis Dessalles, professeur en informatique à Télécom ParisTech. En voilà quelques extraits.

« L’intelligence artificielle s’attaque au propre de l’être humain : son cerveau »


Les recherches d’Antonio Casilli et de Jean-Louis Dessalles, tous deux enseignants à l’école d’ingénieurs Telecom ParisTech, n’étaient pas faites pour se croiser. Le premier, maître de conférences en humanités numériques, travaille principalement sur le digital labor, c’est-à-dire le travail plus ou moins volontaire des internautes dont les grandes plateformes comme Google, Amazon ou Facebook tirent un profit technique et financier : liker une page, écouter de la musique en streaming, diffuser ses photos en ligne ou carrément réaliser des tâches rémunérées sur une plateforme de microtravail comme Amazon Mechanical Turk. C’est ce que raconte son ouvrage En attendant les robots sorti il y a peu, qui pointe aussi comment cette armée de travailleurs éparpillés et invisibilisés permet à ces mêmes plateformes de vanter leurs intelligences artificielles qui ne pourraient pourtant pas fonctionner aujourd’hui sans travail humain pour les corriger et les tester.

C’est sur ce point que le travail d’Antonio Casilli se connecte aujourd’hui avec le livre publié par Jean-Louis Dessalles, Des intelligences très artificielles. Informaticien, chercheur en intelligence artificielle et en sciences cognitives, ce dernier y raconte avec des mots simples les grandes découvertes qui ont marqué la construction de machines capables d’actions autonomes. Surtout, il pointe comment de nombreux chercheurs avant lui ont trop fantasmé un futur proche où les ordinateurs seraient réellement intelligents, allant jusqu’à dépasser l’homme. À la place, Jean-Louis Dessalles et Antonio Casilli proposent de revenir à la réalité pour se poser les bonnes questions sur ce que nous pouvons et voulons faire avec les machines que nous construisons. Antonio Casilli — Vidéo Sébastien Calvet/Les Jours.

Est-ce la première fois que des études sur le travail et sur l’intelligence artificielle se rejoignent sur le constat que l’humain ne sera pas remplacé par les machines ?

Antonio Casilli : Nos deux ouvrages vont dans le même sens et on l’a découvert au fur et à mesure, car on n’a pas travaillé ensemble. Ce qui nous rapproche, c’est que l’on dit tous les deux que rien n’est certain. On introduit un élément de doute, on dit que l’automation entraînée par l’intelligence artificielle a des aspects positifs. Qu’elle nous oblige à nous interroger sur la nature de ce processus d’automation. Que vise-t-il ?

(…)

A. C. : Un autre aspect important de cette question, c’est qu’au siècle passé, l’automatisation se concentrait sur la force brute. On remplaçait des gestes. L’IA propose aujourd’hui de déléguer à des machines la capacité à apprendre et à communiquer. C’est là que cette automation est différente. On est en train de répartir la responsabilité de la production de la valeur entre les machines et les humains.

(…)

A. C. : Mais le sens commun est nécessaire aux machines, car c’est une façon d’harmoniser leurs décisions avec nos cultures humaines. De faire en sorte que leurs résultats soient cohérents avec ce que nous attendons. Ça commence par la langue que la machine parle, par exemple. Aujourd’hui, le digital labor [notamment le travail humain via des plateformes comme Amazon Mechanical Turk, ndlr] est une manière d’injecter du sens commun dans une intelligence artificielle qui en manque. Dans le film The Moderators, on voit un formateur expliquer à des modérateurs indiens qui vont devoir traiter des milliers d’images problématiques publiées sur un réseau social qu’ils doivent « juger la donnée ». La juger sur la base des indications du client, mais aussi à partir de leur sens commun, lequel dépasse leurs valeurs puisqu’ils sont très croyants. C’est très complexe et extrêmement simple en même temps, parce que c’est humain. C’est une compétence accessible à des chômeurs non diplômés après quelques heures de formation, mais pas à une intelligence artificielle. Ant

(…)

A. C. : Il n’y a pas de données réellement brutes. Même dans une base d’images comme ImageNet, on a besoin d’avoir le bon format, le bon cadrage, la bonne lumière… Une standardisation qui fait en sorte que ces données sont exploitables.

(Poursuivre la lecture)

L’automate et le tâcheron (AOC, 15 janv. 2019)

Le site d’information AOC (Analyse Opinion Critique) accueille mon texte.

L’automate et le tâcheron

Par Antonio CasilliE

En 2018, Amazon aurait détruit trois millions de produits vient-on d’apprendre. Rien de surprenant pour le sociologue Antonio A. Casilli qui, à l’issue d’une longue enquête, montre pourquoi lesdits produits ne sont en réalité qu’un prétexte pour ce type de plateforme – Amazon, mais aussi Facebook ou Uber – dont l’activité principale s’avère l’accumulation et la préparation de données qui serviront à développer des intelligences artificielles.

En 2006, les publicités de l’agence d’intérim Jobsintown.de envahissent les lieux publics berlinois. Des images, placardées sur des automates, donnent l’impression que des individus travaillent à l’intérieur de ceux-là. Niché dans un guichet automatique, un guichetier compte des billets. Un lavomatique cache une femme frottant vos vêtements sur une planche à laver. Dans le scanner à rayons X d’un aéroport, un douanier inspecte vos bagages à l’aide d’une lampe de poche. Par-delà son message affiché (« n’acceptez pas des emplois pénibles qui vous réduisent à des machines »), cette campagne publicitaire est avant tout un clin l’œil à un phénomène qui apparaît de façon concomitante : la servicialisation de l’humain vis-à-vis des machines.

C’est Jeff Bezos, le patron d’Amazon, qui exprime cette nouvelle philosophie du travail cette même année, lors d’une intervention au MIT de Boston. D’après lui, les technologies intelligentes à base de données et d’algorithmes apprenants ne sont pas là pour « servir les humains ». Au contraire, insiste-t-il, nous assistons à l’inversion « des rôles respectifs des ordinateurs et des êtres vivants » puisqu’il est aujourd’hui possible coder et inscrire « de l’intelligence humaine au sein d’un logiciel ». Et l’entrepreneur de préciser que cette « inscription » ne relève pas du génie et du savoir-faire de ses informaticiens, mais au contraire d’une stratégie consistant à transformer des usagers non spécialisés en fournisseurs de services numériques pour sa plateforme.

L’un des piliers de la stratégie big data du géant américain, est la création d’un marché du travail en appui à l’automation.

Amazon est certes plus connue pour son catalogue d’achats en ligne, mais son modèle d’affaires tourne depuis longtemps autour de la vente de solutions informatiques sous forme de « logiciel-en-tant-que-service » (software-as-a-service). Selon cette logique commerciale, les applications ne sont pas installées sur les ordinateurs de ceux qui les achètent, mais sur une plateforme propriétaire de ceux qui les produisent. L’un des piliers de la stratégie big data du géant américain, est la création d’un marché du travail en appui à l’automation. Il s’agit de la clé de voûte du programme scientifique et industriel du machine learning : pour que les machines apprennent à reproduire le comportement humain, il faut bien que des humains les instruisent à reconnaître des images, à lire des textes ou à interpréter des commandes vocales. Ces humains ne sont plus installés au sein des entreprises qui les emploient, mais sur une plateforme qui les met à disposition de ces mêmes entreprises. « Grosso modo », concluait Jeff Bezos, « c’est de l’humain-en-tant-que-service »[1].

Sur Internet, ces effectifs sont recrutés sur des plateformes de « micro-travail ». Ce terme décrit une forme de travail datafié (à savoir, orienté vers la production de données) et tâcheronnisé (c’est-à-dire réduit à des tâches fragmentées et déqualifiées).

La plus célèbre de ces plateformes, est Mechanical Turk, un service créé justement par Amazon. Longtemps, le problème d’Amazon avait consisté à éliminer les doublons de son vaste catalogue d’articles commerciaux. Au début des années 2000, ayant constaté l’inefficacité des solutions logicielles pour résoudre ce problème, les ingénieurs de la société de Seattle ont envisagé un système consistant à recruter un grand nombre de personnes payées à la pièce pour regarder quelques pages chacune et signaler les répétitions. De là à en faire profiter d’autres sociétés, en retirant au passage une commission pour leur rôle de courtier, il n’y a qu’un pas[2].

Ce portail doit son nom à un célèbre joueur d’échecs mécanique du 18ème siècle, un robot anthropomorphe affublé d’un costume ottoman. Le Turc, censé simuler les processus cognitifs de ses adversaires, se présentait de fait comme la première intelligence artificielle. Mais il était surtout une complète mystification. Les pièces n’étaient pas déplacées par le joueur d’échecs mécanique, mais par un opérateur humain caché à l’intérieur du mécanisme.

La métaphore du robot avec un être humain à l’intérieur est utile aujourd’hui pour décrire ce que vend Amazon. Quand il s’agit de séduire les actionnaires, les drones qui effectuent les livraisons ou les algorithmes qui suggèrent les produits les plus adaptés sont au-devant de la scène. Mais en coulisses, ce sont des centaines de milliers de « Turkers » qui trient à la main les adresses ou classent en fonction de leur pertinence tous les produits du catalogue. Ce travail en amont (calibrer les logiciels pour qu’il classent bien) et en aval (vérifier que les résultats de classement automatique soient corrects) est essentiel pour la réussite commerciale d’Amazon et des sociétés de son écosystème. Il s’agit, dans le jargon de la plateforme, d’une démarche d’« intelligence artificielle artificielle ».

La possibilité même pour les micro-travailleurs d’arriver à cumuler un montant équivalent à un salaire minimum à la fin du mois est contrainte par plusieurs aléas : assiduité, rapidité, compétences,  disponibilité des tâches ou leur réalisabilité…

Si une entreprise veut numériser un processus (par exemple, départager des images pour développer un moteur de recherche visuel ou transcrire des tickets de caisse pour commercialiser une app de comptabilité personnelle), au lieu de perdre du temps et de l’argent pour créer un logiciel propriétaire elle peut recruter sur Amazon Mechanical Turk des micro-travailleurs qui réaliseront des tâches simples avec ou à la place de la solution automatique. Il n’est plus question d’employer un ou dix salariés, ni de mettre au travail cent stagiaires : elle peut désormais « requérir » cent mille « tâcherons du clic » et les charger de transcrire une facture ou de labéliser une image chacun.

Les centaines de plateformes comme Mechanical Turk sur lesquelles ces micro-tâches sont allouées constituent un véritable marché du travail. Chacune des tâches reçoit une compensation dérisoire : un ou deux centimes et, dans certains cas, encore moins. En 2017 le salaire horaire médian d’un micro-travailleur ne dépassait pas les 2 dollars[3]. De surcroit, penser en termes d’heures de travail pose des problèmes sur une plateforme qui rémunère à la pièce. La possibilité même pour les micro-travailleurs d’arriver à cumuler un montant équivalent à un salaire minimum à la fin du mois est contrainte par plusieurs aléas : leur assiduité, leur rapidité, leurs compétences, mais aussi la disponibilité des tâches ou leur réalisabilité à des heures déterminées.

Quand sonnent les 18h à San Francisco, généralement les Turkers américains terminent leur journée. C’est à ce moment-là qu’à Hyderabad se mettent au travail les tâcherons du clic indiens. Pour les travailleurs du Nord, les micro-tâches représentent un revenu complémentaire, qui revêt un intérêt certain pour les couches les plus fragilisées de nos sociétés : des femmes travaillant à temps partiel, avec enfants, nécessitant un complément de revenu. En revanche pour ceux qui micro-travaillent depuis des pays émergents ou en voie de développement, où le salaire moyen peut parfois ne pas dépasser les 40 euros par mois, travailler à distance à la mise en place d’intelligences artificielles devient une source de revenu primaire tout à fait convenable. Il s’agit toutefois d’une occupation précaire et non couverte par toute une série de garanties salariales et syndicales, pour la simple raison que les plateformes de micro-travail ne reconnaissent pas leurs usagers comme des salariés, ni même comme des fournisseurs. Ils sont des simples usagers[4].

Un certain nombre de structures de dépendance économique à l’échelle mondiale sont héritées de notre passé colonial et réapparaissent à travers ces micro-marchés du travail.

Selon des études récentes menées par des chercheurs de l’Oxford Internet Institute, les pays qui achètent des micro-tâches sont les États-Unis, le Canada, l’Australie, la France et le Royaume-Uni, alors que ceux où ils résident effectivement, les travailleurs du clic sont l’Inde, les Philippines, le Pakistan, le Népal, la Chine, le Bangladesh[5]. Cela suffit à dire qu’un certain nombre de structures de dépendance économique à l’échelle mondiale sont héritées de notre passé colonial et réapparaissent à travers ces micro-marchés du travail.

Malgré cette polarisation Nord/Sud, il ne faut pas entièrement se rabattre sur la reproduction des logiques colonialistes pour interpréter le marché du travail du clic nécessaire pour entretenir nos intelligences artificielles. Les micro-travailleurs du Sud global ne sont pas relégués dans la passivité par les plateformes plus que les ceux du Nord. Bien que les principales valorisations boursières reviennent aujourd’hui aux multinationales étasuniennes du numérique, les pays du Nord ne sont pas les seuls moteurs de ce secteur crucial pour la mise en place des IA. Les pays à revenu intermédiaire et faible les concurrencent activement avec leurs propres plateformes de micro-travail[6].

La Chine est sans doute l’un des plus grands acteurs sur le marché international des tâches numériques. Ses plus importantes plateformes, comme Zhubajie, surpassent Amazon en termes d’ambition, de revenus et de base d’utilisateurs. Malgré sa popularité, Mechanical Turk ne compte que 500 000 utilisateurs ; les plateformes chinoises, elles, comptent aujourd’hui dix, douze, quinze millions de micro-travailleurs chacune. Si nous réunissons toutes les plateformes de micro-travail et de travail à la demande mondiale, nous dépassons largement les cent millions d’effectifs répertoriés.

Au niveau international, l’attractivité du recours à ces places de marchés du micro-travail est conditionnée par le recentrage actuel des plateformes numériques sur une philosophie de l’innovation « disruptive » reposant largement sur l’intelligence artificielle. Amazon n’est donc pas le seul géant de la tech qui dispose d’un service de micro-travail pour former ses intelligences artificielles. Ainsi, en 2004, Microsoft s’est doté d’Universal Human Relevance System (UHRS) et Google a lancé EWOQ (ensuite devenu Rater Hub) en 2008. Sur ces deux plateformes le micro-travail humain sert avant tout à rendre possible le fonctionnement d’un type particulier d’algorithmes, à savoir ceux qui régissent les moteurs de recherche Bing et Google Search.

Pour calibrer sa célèbre intelligence artificielle Watson, IBM a à son tour utilisé une plateforme appelée Mighty AI. Quel genre de microtravail réalisaient-ils, les tâcherons œuvrant pour cette « puissante intelligence artificielle » ? Ils doivent, par exemple, identifier la langue d’une conversation, après en avoir écouté un fragment. En regardant la photo d’une station touristique, ils doivent détectent des éléments tels un nuage, une montagne, un lac, un chemin, etc. Dans une courte vidéo d’une webcam d’autoroute, ils doivent départager les plaques d’immatriculation des véhicules. Ces simples tâches sont utilisées respectivement pour « alimenter » des traducteurs automatiques, des systèmes de reconnaissance d’images, des véhicules autonomes…

Les tâches réalisées chaque jour par l’armée industrielle de l’ombre que les plateformes de micro-travail recrutent sont les ingrédients secrets des IA d’aujourd’hui.

La mythologie et, si j’ose le dire, l’idéologie de l’intelligence artificielle voudrait que les solutions de machine learning naissent déjà formées. Elles seraient – comme Athéna jaillissant de la tête de Zeus – tout prêtes au combat. Au contraire, elles doivent apprendre à partir de données structurées, triées, qualifiées pour pouvoir fonctionner. Les tâches réalisées chaque jour par l’armée industrielle de l’ombre que les plateformes de micro-travail recrutent sont les ingrédients secrets des IA d’aujourd’hui, pour peu qu’elles permettent d’introduire dans nos systèmes automatiques une suffisamment grande variété d’exemples.

L’apprentissage automatique exige alors beaucoup de travail « non automatique », c’est-à-dire réalisé par des humains. Non pas (ou non seulement) une poignée d’ingénieurs et de codeurs, mais avant et surtout des multitudes d’ouvriers du clic qui dessinent les contours d’un futur du travail voué à une véritable tâcheronnisation numérique. L’effet inattendu de l’intelligence artificielle sur le travail n’est donc pas le « grand remplacement » des travailleurs par des intelligences artificielles, souvent présenté comme une perspective dystopique dans la presse et dans le débat universitaire. Au contraire, c’est le remplacement du travail formel par du micro-travail précaire, invisibilisé et en fin de compte asservi à la fabrication des machines, qui doit inquiéter la société civile, les corps intermédiaires et les décideurs publics. La centralité du geste productif humain est irréductible. Ce dernier représente, même lorsqu’il est réduit à un clic, le carburant des grandes plateformes numériques. De ce point de vue, il convient de parler non pas de substitution mais de symbiose entre le geste humain et le fonctionnement automatique.

Ce qui semble vraiment être mis en péril n’est donc pas le travail lui-même, mais son encadrement institutionnel au sein de l’emploi formel. Les formes atypiques de travail précaire, sous-payé et (nous l’avons vu) micro-payé se multiplient. Parallèlement, nous assistons à la constante remise en discussion des catégories héritées de la civilisation salariale du siècle dernier, et notamment du binôme constitué par une subordination formellement délimitée et une protection sociale généralisée. Pour contribuer à résorber ce déséquilibre économique et culturel, une régulation collective est également nécessaire, fondée sur la reconnaissance du changement radical des activités humaines de production à l’heure de technologies—parfois intelligentes mais jamais entièrement « artificielles ».

NDLR Antonio A. Casilli a publié le 3 janvier En attendant les robots : Enquête sur le travail du clic, Seuil.


[1] “This is basically people-as-a-service” Jeff Bezos, “Opening Keynote and Keynote Interview”, MIT World – special events and lectures, 2006.

[2] Birgitta Bergvall-Kåreborn et Debra Howcroft, “Amazon Mechanical Turk and the commodification of labour”, New Technology, Work and Employment, vol. 29, no. 3, 2014, pp. 213-223.

[3] Kotaro Hara, Abi Adams, Kristy Milland, Saiph Savage, Chris Callison-Burch et Jeffrey Bigham, “A Data-Driven Analysis of Workers’ Earnings on Amazon Mechanical Turk”, arXiv, 2017.

[4] Amazon stipule avec ses Turkers un « Accord de Participation » dont les termes sont clairement conçus pour échapper à l’identification d’un lien de subordination des micro-travailleurs envers la plateforme ou envers les requérants. « Participation Agreement »Amazon Mechanical Turk, 17 oct. 2017.

[5] Graham, M., Hjorth, I., Lehdonvirta, V. (2017), Digital labour and development: impacts of global digital labour platforms and the gig economy on worker livelihoods, Transfer: European Review of Labour and Research, Vol. 23, n. 2, pp. 135-162.

[6] Casilli, Antonio A. (2017). Digital Labor Studies Go Global: Toward a Digital Decolonial Turn. International Journal of Communication, 11, Special Section “Global Digital Culture”, pp. 3934–3954.

Antonio Casilli

Sociologue, Maître de conférence à Telecom ParisTech et chercheur à L’institut Interdisciplinaire de l’Innovation (CNRS) et au LACI-IIAC de l’EHESS.

Espaces numériques, travail et idéologie (conférence, La Gaîté Lyrique, 6 nov. 2018)

Le 6 novembre 2018 j’ai eu le plaisir d’intervenir lors de la conférence de lancement du cycle “Idéologies et technologies”, né d’un partenariat entre l’EHESS, la Gaîté Lyrique et Mediapart.

Cette première séance s’est interrogée sur la manière dont le Web, espace autrefois foisonnant et décentralisé, se reconfigure sous la concentration des services, des politiques d’utilisation et des visions développées par ces plateformes hégémoniques. À qui appartiennent les données personnelles qui les nourrissent ? Qui les utilisent et comment circulent-elles ? La soirée a proposé de cartographier les jeux d’influence et de contrôle en ligne. Elle a donné à voir comme un territoire où s’affrontent des idéologies antagonistes et des intérêts divergents. 

Avec moi, Louise Drulhe, designer graphique, dessinatrice et artiste et Arthur Messaud (animateur), analyste juridique et politique de l’Association la Quadrature du Net.


Comment se fabriquent les “fake news” ? (entretien France Inter, 8 juin 2018)

J’étais l’invité de Sonia Devillers à l’Instant M de France Inter pour parler du Projet de loi sur les fausses informations actuellement en discussion à l’Assemblée Nationale.

Le vote de “la loi contre la manipulation de l’information” s’est embourbée cette nuit à l’Assemblée. Le sociologue et spécialiste d’internet Antonio Casilli nous explique ce matin les dessous de la fabrication et diffusion des fake news. Pas d’adoption en première lecture. La majorité a sous-estimé les assauts de la France Insoumise, du Front National et des Républicains qui hurlent à la mort de la liberté d’expression. « Cette loi les empoisonnent », écrit l’Obs ce matin. Pourtant dans son édito, Le Monde la juge « délibérément inefficace pour qu’elle ne soit pas dangereuse ». Après la matinale d’Inter, ce matin, L’Instant M vous propose de creuser le sujet. Pas de discussion sur la confiance ou la vérité, mais un focus sur ces armées de l’ombre payées pour répandre des fausses nouvelles. Nous vous racontons comment ce système est complètement artificiel.

Les brèves de L’Instant M Coup d’arrêt, hier, net et brutal pour Buzzfeed France. Décision totalement inattendue de son actionnaire américain en difficulté financière. Ce site – une équipe de quatorze personnes – avait développé une ligne éditoriale très nouvelle et très remuante. Au départ, des classements rigolos et anecdotiques partagés à gogo sur les réseaux sociaux. Puis, en France comme aux Etats-Unis, un deuxième fil, d’info celui-là, recrutant des journalistes d’investigation. Scoops et révélations : le restaurant L’Avenue refusant les clients arabes, enquête sur les candidats aux législatives du Front National, actes de violence commis par Jean-Michel Baylet, ancien ministre à l’encontre d’une collaboratrice … Fin de partie.

Pour un tournant décolonial numérique (Télérama, 5 févr. 2018)

Dans Télérama, l’entretien accordé au journaliste Romain Jeanticou.

La domination des géants du numérique est-elle un nouveau colonialisme ?

Romain Jeanticou Publié le 05/02/2018.

Google, Apple, Facebook, Amazon, Microsoft… En offrant nos données personnelles à ces géants aussi puissants que des Etats, nous les laissons nous exploiter, selon le sociologue et chercheur italien Antonio Casilli, qui plaide pour un “tournant décolonial numérique”.

On les dit plus puissants que certains Etats. Les géants de l’économie numérique – Google, Apple, Facebook, Amazon et Microsoft en tête – n’ont qu’à jeter un œil par les fenêtres que nous leur ouvrons sur nos vies pour savoir ce que nous faisons, ce que nous consommons ou ce à quoi nous rêvons. Sans nous en rendre compte, nous produisons chaque jour, gratuitement, et parfois même avec délectation, des données personnelles monétisées et revendues à des entreprises tierces ou à des Etats. L’autonomie des utilisateurs vantée par les plateformes cache en réalité l’exploitation de cette production bénévole : nous travaillons tous gratuitement pour Facebook ou Google. Nous serions même devenus de la « chair à algorithmes », comme le dénonce une tribune datée du 5 février, parue dans Le Monde, invitant chacun à monnayer ses données personnelles. 

Une position à laquelle s’oppose fermement le sociologue et chercheur italien Antonio Casilli, maître de conférences en humanités numériques à Télécom ParisTech et auteur, en 2010, des Liaisons numériques. Vers une nouvelle sociabilité ? (éd. Seuil). Dans un article paru en fin d’année dernière dans la revue académique américaine International Journal of Communication, il met toutefois en parallèle la « mise au travail » des internautes avec les modes de subordination appliqués à ses travailleurs par l’économie numérique. Dans le Nord – les chauffeurs Uber – mais aussi et surtout dans le Sud – les employés des « fermes à clics », ces « micro-travailleurs » engagés pour accomplir de toutes petites tâches censées enrichir ces mêmes plateformes.

Ces asymétries et ces rapports de force font émerger un discours critique de la situation de puissance des entreprises du numérique, de plus en plus assimilée à une forme de colonisation. Pour autant, Antonio Casilli appelle à définir ces relations de pouvoir inédites à l’aide de nouveaux concepts, parmi lesquels la « colonialité ».

Est-il pertinent de comparer les géants du numérique à des Etats ?

C’est très cohérent avec la rhétorique commerciale de ces entreprises. Etre comparé à un Etat est très flatteur lorsque l’on se présente comme capable de le remplacer. Plusieurs dirigeants des entreprises de la Silicon Valley sont proches des postures politiques libertariennes qui prônent le remplacement des structures publiques par des sociétés privées. Lorsque Google propose aux villes de développer des services de « smart cities », à Toronto par exemple, elle cherche à se substituer aux administrations locales. En développant ces services, ces entreprises nous mettent face à la possibilité de nous passer d’un gouvernement démocratiquement élu. Cette posture est possible parce que nos démocraties sont imparfaites et montrent leurs limites : depuis le tournant néolibéral de la fin du siècle dernier, elles ne garantissent plus le minimum de services indispensables d’un Etat-providence. Cette déficience crée un appel d’air qui permet aux plateformes de s’imposer comme fournisseurs de ces services tout en créant une proximité avec les citoyens. Avec un téléphone dans sa poche, on est toujours plus proche d’Apple que de l’administration publique.

Les tâcherons du clic

Selon vous, la dynamique d’exploitation de ces plateformes est double : la mise au travail des utilisateurs dans les pays riches, celle des micro-travailleurs dans les pays pauvres. Nous serions tous des ouvriers du travail numérique.

Ces plateformes, même les plus ludiques, sont basées sur des mécanismes de mise au travail de leurs usagers. Quatre milliards d’êtres humains connectés produisent en permanence des biens, des contenus et des données qui constituent l’actif immatériel de ces plateformes. Ceux-ci sont ensuite revendus et monétisés à des entreprises tierces ou à certains Etats. Vos recherches Internet permettent par exemple à des sites de vente en ligne de vous proposer des publicités ciblées. Il faut ajouter à cela une utilisation de ces données à des fins d’automatisation, c’est-à-dire pour l’apprentissage des machines à intelligence artificielle qui seront chargées d’évaluer, d’analyser et de trier ce contenu.

Ces bases de données sont produites quotidiennement par nous-mêmes, mais aussi par des « tâcherons du clic », ces travailleurs rémunérés en centimes pour cliquer sur des publicités ou modérer du contenu. Ils évoluent dans des conditions de précarité et de volatilité de revenus extrêmes. Le tout sans encadrement contractuel ni protection sociale. Cette économie est florissante dans le sud de l’hémisphère : dans les pays émergents ou en voie de développement comme les Philippines, l’Inde, le Népal, le Mexique, la Colombie…

Comment les gouvernements occidentaux participent-ils à la construction de ces systèmes de domination et d’exploitation ?

Il y participent par omission. A l’exception de certains efforts de réflexion comme ceux de France Stratégie [institution d’expertise rattachée au cabinet du Premier ministre, ndlr] ou du Conseil national du numérique en France, on assiste à une forme d’aveuglement des gouvernements face au développement de l’automatisation. Ils n’y voient que l’aspect technique – la montée en puissance de l’intelligence artificielle – et oublient l’humain dans l’équation – les ouvriers chargés d’entraîner les machines. Cette économie n’est pas faite que de robots, ni seulement d’ingénieurs ou d’experts de la gestion de données. Elle épouse même des formes de délocalisation : les entreprises occidentales achètent du clic à des usines de micro-travailleurs au Kenya ou en Thaïlande pour augmenter leurs revenus. C’est parfois cohérent avec l’histoire coloniale de certains pays : la France en Afrique, le Royaume-Uni en Inde, les Etats-Unis aux Philippines… Comme de nombreux autres secteurs de l’économie mondiale, cette mise au travail est construite sur des formes d’asymétrie globale qui ont affaire à des logiques d’exploitation historiques du Sud par le Nord.

Cette nouvelle économie est parfois comparée à du « néocolonialisme » ou à du « cybercolonialisme ». Quelles sont les limites de ces comparaisons ?

La première est l’historicisation immédiate qui en résulte. Le terme « colonialisme » a une histoire, celle de catastrophes humaines et économiques dont les effets courent encore sur de nombreux territoires de l’hémisphère Sud. Le récupérer, c’est risquer l’appropriation et l’effacement de ces spécificités historiques.

La deuxième limite se trouve dans la coupure opérée entre le Nord, que l’on assimilerait à de la production à forte valeur ajoutée et à de la contribution intellectuelle, et le Sud, qui ne produirait que de la matière brute. Ce dualisme contient un jugement de valeur qui fait fi de la production massive de contenu culturel dans le sud du monde. En Chine, on trouve à la fois d’immenses usines à clics et certaines des structures les plus innovantes de la planète en matière de haute technologie.

Enfin, il faut éviter de tomber dans le piège de l’orientalisme : en reléguant le Sud à un schéma statique et passif, on l’éloigne de toute évolution possible. Cette exotisation mène à considérer ces pays comme des territoires arriérés incapables de se défaire de leur position historique. En réalité, beaucoup ont la volonté de devenir compétitifs dans le secteur technologique, à l’image d’une ville comme Bangalore, aujourd’hui considérée comme la Silicon Valley indienne grâce à son important pôle de recherche et de production.

Un travail exploité et invisibilisé

A « colonialisme », vous préférez le concept philosophique de « colonialité ». Pourquoi ?

C’est un concept initié par le chercheur Nelson Maldonado-Torres, qui cherche à élargir la notion de colonialisme. Nous avons besoin d’une notion qui exprime ces formes d’asymétrie politique, économique et culturelle entre le Nord et le Sud tout en dépassant les caractéristiques historiques du colonialisme. La colonialité est détachée de l’expérience coloniale dans le sens où elle renvoie à un ressenti que l’on peut tout aussi bien trouver dans des pays sans histoire coloniale, voire dans des pays du nord de la planète. Lorsque l’on exploite ou vole nos données, nous sommes tous dans cette situation où le travail que nous fournissons pour ces entreprises est exploité et invisibilisé.

Vous plaidez désormais pour un « tournant décolonial numérique ».

On y vient petit à petit. De plus en plus de personnes se rendent compte de cette mise au travail et de sa non-reconnaissance, autant dans le nord que dans le sud. Cette prise de conscience se retrouve chez les chercheurs, mais aussi chez les travailleurs. Pensons aux luttes syndicales en cours : les travailleurs d’Uber et autres Deliveroo contestent partout le management algorithmique auquel ils sont soumis. Ajoutons à cela les groupes d’utilisateurs qui se demandent comment redistribuer la valeur créée sur ces plateformes, via la fiscalité numérique ou la contractualisation des algorithmes, pour contrôler la production de leurs contenus. Les syndicats en France, au Royaume-Uni, en Italie ou en Allemagne s’emparent de ces questions, mais dans le sud aussi une prise de conscience est en cours pour contrer la puissance de ces plateformes, à l’image de l’Inde et du Brésil qui se sont opposés à Facebook et WhatsApp.

 

 

[Podcast] Digital labor, micro-travail et fermes à clic : grand entretien sur RTS (Suisse, 10 juin 2017)

J’ai été l’invité du journaliste Antoine Droux au Six heures-Neuf heures du samedi sur Le 1ère de RTS (Radio Télévision Suisse).

» [Podcast] Lʹéconomie du clic devient incontrôlable (25’49”)

Nous travaillons tous sur Internet. Chacune de nos actions sur le web renforce lʹéconomie du clic, génère des milliards de francs qui tombent dans dʹautres poches que les nôtres et entraîne les intelligences artificielles. Et quand un internaute de lʹautre bout du monde est rétribué pour décrire une photo ou faire une traduction, ce nʹest quʹà hauteur de quelques centimes par minute. Aucune pénibilité reconnue, aucune réglementation, aucun syndicat, bienvenue dans le merveilleux monde du “digital labor”. Chronique: Laurence Difélix et Stéphane Laurenceau. Invité: Antonio Casilli, sociologue, maître de conférences en humanités numériques à Télécom ParisTech. Co-auteur en 2015 de “Quʹest-ce que le digital labor ?” (éd. INA).

Linkiesta (Italie, 2 juin 2017)

La giornalista Lidia Baratta pubblica sul sito di informazione Linkiesta una sintesi dettagliata del mio intervento al Jobless Society Forum della Fondazione Feltrinelli di Milano.

Siamo già nell’era del microlavoro (e non è una buona notizia)

Dietro assistenti virtuali, intelligenze artificiali e pagine Facebook da centinaia di migliaia di like si nascondono microlavoratori situati per lo più in Paesi emergenti e pagati anche 1 centesimo di dollaro per task. Casilli (ParisTech): “Siamo davanti a un vero mercato del lavoro a cottimo”

2 Giugno 2017 – 08:02

Trascrivere scontrini, riconoscere il cielo e le montagne in un’immagine, risolvere un captcha, scaricare un videogame. Se le tecnologie e le intelligenze artificiali non sostituiranno del tutto i lavoratori, di certo hanno già creato un mercato del lavoro parallelo fatto di “microlavoratori”. È quello che ha sostenuto Antonio Casilli, professore associato di Digital Humanities al Telecommunication College of the Paris Institute of Technology, nel suo intervento nel corso del Jobless Society Forum della Fondazione Feltrinelli a Milano. Operai digitali, delocalizzati per lo più tra India, Bangladesh e Nepal, vengono ingaggiati per realizzare davanti a un computer o allo schermo di uno smartphone micromansioni pagate anche un centesimo di dollaro per ogni “task”. Sono i lavoratori umani invisibili che alimentano e “allenano” le intelligenze artificiali, le app e gli assistenti virtuali di cui ci serviamo ogni giorno. Una nuova era digitale del lavoro a cottimo, che vale fino 400 milioni di dollari (il mercato dell’online outsourcing tra freelance e microworker vale in totale 4,8 miliardi di dollari, destinato a crescere – secondo la Banca mondiale – fino a 15-25 miliardi di ricavi entro il 2020).

Il ragionamento è semplice: se serve un sistema che identifichi automaticamente i cani nei video di YouTube, ci deve essere prima un umano che mostri all’intelligenza artificiale cos’è e che forma ha un cane, taggando milioni di foto di cani. Taggare milioni di foto di cani così diventa un lavoro. Le competenze richieste sono basse, la creatività pure, e il salario lo è ancora meno.

Gli stessi assistenti virtuali come Siri di Apple, Cortana di Microsoft o Alexa di Amazon sarebbero (ancora) più stupidi senza il lavoro umano che si nasconde dietro. Le intelligenze artificiali, insomma, non sono nate già così intelligenti. Così come i consigli azzeccati di Amazon sulle sneakers che potrebbero piacerci mentre compriamo un pantalone: dietro c’è un database “compilato a mano” da uomini che hanno memorizzato tipologie, marche, colori e anno di produzione di migliaia di altre sneakers.

Facebook, da parte sua, non ha mai nascosto la presenza di esseri umani dietro il suo assistente virtuale “M”. E anzi, l’ha trasformata in argomento di distinzione rispetto ai concorrenti. L’intelligenza artificiale di casa Zuckerberg risponde “in tandem” con gli umani, è controllata dagli umani e continuamente “alimentata” da loro attraverso la produzione di dati in modo da renderla più evoluta. Quando si fa una domanda, M lavora per capire cosa abbiamo chiesto e formula una risposta, ma prima aspetta l’ok dei “trainer” umani. Così quando parliamo con una chat bot non sappiamo mai se dietro c’è un software o una persona che si trova a San Francisco, Milano o Dhaka.

«L’effetto dell’intelligenza artificiale sul lavoro non è la grande sostituzione dei lavoratori con delle intelligenze artificiali, ma la sostituzione del lavoro formale con micro-lavoro precarizzato e invisibilizzato», spiega Antonio Casilli. «Nonostante si parli di micro-lavoro, siamo davanti a un vero mercato del lavoro e non a un fenomeno di nicchia, con veri e propri annunci di lavoro».

L’effetto dell’intelligenza artificiale sul lavoro non è la grande sostituzione dei lavoratori con delle intelligenze artificiali, ma la sostituzione del lavoro formale con micro-lavoro precarizzato e invisibilizzato

Antonio Casilli, Telecommunication College of the Paris Institute of Technology

Per avere un panorama delle offerte dei microlavori digitali offerti, basta andare su Amazon Mechanical Turk, la piattaforma creata da Amazon in cui aziende e sviluppatori comprano intelligenza umana per le loro applicazioni. Il nome stesso del sito nasce da “il turco”, un automa creato nel 18esimo secolo che avrebbe dovuto simulare un giocatore di scacchi ma che in realtà era manovrato da un giocatore umano all’interno. La metafora c’è tutta. Se un’azienda ha bisogno di trascrivere delle fatture, classificare immagini o inserire dati, si rivolge al lato umano di Amazon reclutando migliaia di microworker per realizzare altrettante microtask.

Ma quando si fa un giro tra gli annunci di lavoro del sito, il lato umano si vede un po’ meno. Per un centesimo di dollaro si chiede ad esempio di collezionare indirizzi email tramite i canali di YouTube e risolvere i relativi captcha. Per 5 centesimi la mansione richiesta è di scrivere cosa si vede nelle immagini di vecchie cartoline. Per la stessa paga si possono classificare alcune immagini. Ma ci sono anche i lavori offerti per zero centesimi, come la trascrizione delle cifre della console di un un tapis roulant.

Amazon

Gli annunci su Amazon Mechanical Turk

Taggare milioni di foto di cani diventa un lavoro. Le competenze richieste sono basse, la creatività pure, e il salario garantito lo è ancora meno. Nei Paesi in cui lo stipendio medio è di 20-30 dollari al mese, lavori a 1 centesimo di dollaro per task possono essere interessanti

Mecahnical Turk conta intorno ai 500mila utenti. Ma ci sono giganti come Upwork, che arrivano fino a 12 milioni di iscritti e 750 milioni di ricavi (nel 2013). Per una paga di 20 dollari, ad esempio, viene chiesto di trascrivere in un documento di testo il contenuto di 31 foto. In Cina, principale player nel mondo dei microlavori, domina Zhubajie, con 15 milioni di iscritti. Accanto alle ricerche di freelance per comporre il menù di un ristorante di ramen o il logo di un blog in giapponese, per un budget di 50 dollari viene chiesto di testare la qualità video e audio di alcune app da computer e smartphone, comunicando quante volte si blocca il video e quante volte salta l’audio. Gli altri nomi di piattaforme per freelance e microlavoratori sono Freelancer (22 milioni di iscritti), Taskcn (10 milioni), Crowdsource (8 milioni), Witmart (7 milioni), Care (6,6 milioni), Crowdflower (5 milioni), Epweike (oltre 3 milioni), Fiverr (3 milioni), 99designes (1,35 milioni), Microworkers (873mila) e Clickworker (800mila).

Mettendo insieme tutte le piattaforme, si superano i 100 milioni di lavoratori. Una fetta importante della forza lavoro. Che a fine mese si vede poi recapitare una microbustapaga con la lista di tutte le task realizzate e il compenso ottenuto. Secondo i calcoli della Banca mondiale, la maggior parte dei lavoratori di Amazon Mechanical Turk lavora 10-20 ore a settimana, guadagnando circa 80 dollari al mese. Le ore lavorate dipendono dal tipo di lavoro disponibile. Ma molti full time, in ogni caso, arrivano a 20-40 ore a settimana per uno stipendio di 200-750 dollari al mese. La paga media oraria è di 2-3 dollari. I lavoratori con più esperienza possono arrivare al massimo a 6-8 euro. Solo per le task più qualificate, dagli sviluppatori ai data scientist, si possono toccare i 3mila euro al mese. Ma i microlavori non richiedono alcun tipo di competenza specifica e anche il titolo di studio tra chi svolge queste mansioni è più basso rispetto ai classici freelance: il 38% ha una laurea contro il 75% dei freelance.

La domanda è: chi è disposto a lavorare per pochi centesimi a mansione? «Nei Paesi in cui lo stipendio medio è di 20-30 dollari al mese, lavori come questi possono essere interessanti», dice Casilli.

Upwork

Un’offerta su Upwork

Zhubajie

Un’offerta su Zhubajie

Ma Amazon non è l’unico gigante a essersi dotato di un mercato interno di microlavoro. Anche Microsoft ha la sua piattaforma di annunci: si chiama Uhrs. Per due centesimi di dollaro viene chiesto di decidere se una pagina web è per adulti o no, per sei centesimi se un tag è rilevante o no per la ricerca di una certa pagina. IBM ha creato invece MightyAI. Lo slogan è: “The tools you need to generate training data”. Le mansioni consistono nello stabilire in che lingua è scritto un certo testo o nell’identificare gli oggetti presenti nelle immagini. Tutto con uno scopo: allenare le intelligenze artificiali. Il digital labour, umano, è l’ingrediente segreto.

In alcuni casi, poi, il pagamento può essere in natura, ma digitale. È quello che fa ad esempio il colosso mCent, 30 milioni di utenti diffusi in 93 Paesi. La mansione in questo caso è provare e debuggare determinate app partner. In cambio si ricevono dati da consumare all’interno di altre app. Un modo per avere Internet gratis, insomma.

«Assistiamo a un vero processo di cottimizzazione del lavoro per task. Si viene pagati in quanto cliccatori di task», spiega Antonio Casilli. E il mercato non finisce qui. «Esiste poi l’enorme economia dei clic». Accanto ai social network è nata una vera e propria economia parallela con portali in cui si vendono clic a pagamento. E chi c’è dietro i clic? Ancora folle di microworker. «Chi si fa pagare per condividere e likare certe pagine è situato fisicamente in quelle che vengono chiamate “click farm”». O anche “like farm”. Fabbriche dei clic segretissime, dove gli operai digitali a turno cliccano su alcuni link o mettono mi piace ad alcune pagine Facebook. In Rete si trovano immagini e video di questi stanzoni pieni di computer o smartphone. Channel 4 è riuscita a entrare in una click farm di Dhaka, dove per 3 dollari si comprano mille like di Facebook. E i lavoratori giorno e notte cliccano sulla pagina di siti che non hanno scelto, con una paga di un millesimo di dollaro per clic. Lo scopo è manipolare le statistiche dei social media, collezionare quanti più accessi o condivisioni o far salire una app nei ranking di iTunes. Una frode, in teoria. «Ma ogni Paese nega la presenza delle click farm sul proprio territorio e dice che si trova in quello accanto», commenta Casilli.

Clickfarm

Una click farm in Cina

L’Oxford Internet Institute ha mappato il microlavoro nel mondo. I Paesi con la più alta concentrazione di microlavoratori sono Filippine, India, Bangladesh e Pakistan. E anche se si guarda al mercato dei clic, la distribuzione geografica è più o meno la stessa. I maggiori Paesi acquirenti sono Usa, Canada, Australia e gran Bretagna. I Paesi che li producono Pakistan, Filippine, Nepal, Hong Kong, India, Cina, Bangladesh. In alcuni casi si è anche riusciti a identificare la sorgente dei clic, con scoperte esilaranti. «Da una ricerca che abbiamo condotto, è venuto fuori che la maggior parte dei fan che hanno messo like alla pagina Facebook di Donald Trump viene da Filippine e… Messico», dice Casilli. «Se guardiamo la geografia di questi lavoratori, ci si rende conto che non sono sempre accanto a noi. Al contrario, la maggioranza dei microworker è situata in Paesi in via di sviluppo o Paesi emergenti». Dove sono allettanti anche paghe orarie che in Occidente non vengono prese in considerazione.

OOI

La geografia del microlavoro (Source: Oxford Internet Institute)

Oii2

Chi compra e chi vende clic nel mondo (Source: Oxford Internet Institute)

Senza dimenticare che ognuno di noi, nel suo piccolo, è un microworker invisibile che lavora per allenare le intelligenze artificiali fornendo loro i dati di cui si cibano. Prendiamo Google Translate: se ci propone una traduzione che non ci piace, veniamo invitati a suggerire la nostra versione. Google registra la nostra traduzione e immagazzina. Così abbiamo lavorato per Mountaine View. Google Search, allo stesso modo, viene allenato dalle nostre ricerche a suggerire quelle più pertinenti.

Ma non sempre questo meccanismo fila liscio come l’olio. Nel caso di reCAPTCHA di Google, ad esempio, fino a qualche tempo fa per recuperare una password bisognava provare di non essere un robot trascrivendo le parole indicate. Parole che poi venivano a loro volta immagazzinate e usate per gli algoritmi di Google Books destinati al riconoscimento testuale dei libri. Lavoro gratuito, insomma. Tanto che Mountain View ha subito anche una class action per frode in Massachussets da parte di un gruppo di utilizzatori di reCaptcha, che volevano essere riconosciuti come lavoratori salariati. La seconda parola richiesta, dicevano gli avvocati, non è finalizzata alla sicurezza ma va solo a beneficio del business di Google che si avvantaggia del lavoro di trascrizione gratuito. Google intanto ha abbandonato il sistema, chiedendo un solo clic per identificarsi come umani. Ma intanto il giudice federale ha respinto la causa, sostenendo che l’eventuale danno non supera il vantaggio, poiché il lavoro di trascrizione gratuito aumenta la precisione di altri servizi gratuiti come Google Map e Google Books. Una sentenza che fa scuola. Siamo destinati a essere microlavoratori. Con la differenza che quello che i microworker in Bangladesh fanno per uno o due centesimi, noi lo facciamo gratuitamente. Buon lavoro.