digital labor

Interview dans Sciences et Avenir (HS 35, 25 sept. 2019)

« Dans les usines à clic, des millions de petites mains bien humaines »

PROPOS RECUEILLIS PAR LOÏC CHAUVEAU

L’enrichissement continu des logiciels et des bases de données nécessite la contribution de « tâcherons » sans rémunération fixe ni droits sociaux. Une inflexion inquiétante du monde du travail. ANTONIO CASILLI Sociologue à Télécom Paris

page hors_serie_35

Selon vous, l’intelligence artificielle ne serait rien d’autre que du bluff?

Je ne me reconnais pas dans cette idée que l’on m’attribue parfois. Je dirais plutôt que, pour justifier des formes nouvelles de discipline du travail, pouvoirs politiques et économiques utilisent l’intelligence artificielle de façon idéologique. Quand ils en débattent, ces acteurs se concentrent sur les pertes d’emplois qui menacent les moins qualifiés. Mais pour peu que l’on regarde « sous le capot », on s’aperçoit que les masses de données nécessaires pour entraîner les machines sont introduites dans le système par des petites mains bien humaines! En Afrique, en Asie, de véritables « usines à clic » voient des millions de personnes nourrir des algorithmes de reconnaissance faciale, d’identification des objets pour les voitures autonomes, d’enregistrement de voix pour les enceintes connectées. Un travail que je qualifie de digital labor. Si quelqu’un n’apprend pas à une voiture autonome à quoi ressemble un piéton, celle-ci restera aveugle.

A-t-on une idée du nombre de personnes accomplissant aujourd’hui ce digital labor ?

Difficile de répondre, car il n’est pas toujours visible. On estime que, dans le monde, plusieurs dizaines de millions de personnes fabriquent des données. En France, notre projet Digital Platform Labor, qui a cherché à quantifier ce micro-travail, est arrivé au total de 260000 personnes inscrites à 23 plateformes proposant du travail « au clic ». Ce sont en majorité des femmes au foyer qui arrondissent leurs fins de mois avec ce travail faiblement rémunéré (moins de 300 euros par mois). Mais on peut y ajouter les 55 millions de Français qui, gratuitement, renseignent les Gafa en « likant », en répondant à un « Captcha » demandant de prouver que l’on n’est pas un robot. À chaque fois, la requête de l’internaute, sa géolocalisation, la consultation d’un site, un paiement, alimentent les bases de données sans lesquelles des technologies « intelligentes » n’existent pas.

Mais un jour, cet amoncellement de données finira bien par rendre ce travail inutile?

C’est l’argument entendu dans nombre de start-up : il arrivera un moment où les algorithmes auront ingurgité suffisamment de données pour parer à toutes les éventualités. Mais est-ce bien certain? L’intelligence artificielle arrivera-t-elle un jour à rivaliser avec le cerveau d’un enfant qui reconnaît immédiatement un chat d’un chien quel que soit leur aspect? En outre, le consommateur attend que le service qui lui est proposé soit toujours amélioré. Pour répondre à ces attentes, il est nécessaire d’enrichir en permanence les logiciels utilisés. Enfin, la concurrence pour vendre des objets « intelligents » est féroce. La course au « petit plus » qui permet de faire la différence oblige à relancer continuellement l’apprentissage des machines.

Quel est l’encadrement juridique de ces travailleurs?

Dans cette nouvelle économie, c’est le point le plus inquiétant. La relation salariale est mise entre parenthèses. C’est un travail « à la tâche ». Les nouveaux « tâcherons » ne bénéficient pas d’une rémunération fixe, ni de droits sociaux, ni d’une représentation auprès des donneurs d’ordre. Ils ne peuvent revendiquer la juste part de leur travail face à des plateformes bien décidées à capter l’essentiel de la richesse créée. La révolte des chauffeurs Uber ou des livreurs Deliveroo montre que ce système a cependant des limites.

http://diplab.eu/ Antonio Casilli, En attendant les robots, Seuil, 2019

Mon ouvrage «En attendant les robots», Grand Prix de la Protection Sociale 2019

Mon livre En attendant les robots – Enquête sur le travail du clic, paru en janvier 2019 aux Éditions du Seuil, vient de recevoir le Grand Prix de la Protection Sociale 2019 décerné par l’École nationale supérieure de Sécurité sociale et la Caisse des dépôts.

La cérémonie de remise des prix a lieu le mercredi 9 octobre 2019, à 19h, à l’Hôtel de Pomereu, 67 Rue de Lille, 75007 Paris.

Inscription libre en renseignant ce formulaire.

L’autre lauréat du Grand prix pour cette années est Christophe Capuano, historien à l’Université Lumière Lyon 2, auteur de « Que faire de nos vieux ? Une histoire de la protection sociale de 1880 à nos jours ».

Interviewé dans l’enquête Mediapart sur assistants vocaux, digital labor et privacy (31 août 2019)

Le site d’information et d’enquête Mediapart publie les révélations depuis l’usine à “intelligence artificielle artificielle” de Siri, signées Jerome Hourdeaux. Le journaliste donne la parole aux micro-travailleurs français travaillant depuis le siège de Cork en Irlande d’un sous-traitant du géant de Cupertino, et met la main sur les documents qui attestent l’étendue des abus d’Apple. J’ai été interviewé dans le cadre de cette enquête et j’ai pu apporter mon éclairage à la publication de ces sources inédites.

Par-delà les risques psychosociaux qu’encourent les micro-travailleurs (isolement, TSPT, perte de sens), il y a un problème évident en termes de violation systématique de la vie privée des usagers des produits Apple. L’entreprise a depuis promis de mettre fin à ces pratiques. Crédible ? Pas vraiment, à mon avis.

La partie vraiment passionnante de l’enquête de Mediapart est la plongée dans le fonctionnement concret du micro-travail. Ça rassemble à quoi une micro-tâche de retranscription et d’annotation de conversations captées par une IA ? Comment se structure le workflow de Siri ?

Capture d’écran de l’interface pour la réalisation de micro-tâche de transcription de l’assistant vocal Siri. Source : Mediapart.

A cette révélation s’en ajoute une autre, celle-ci des plus inquiétantes. Les micro-travailleurs recrutés par Apple ne se limitent pas à retranscrire des phrases anodines que n’importe qui pourrait prononcer. Ils gèrent des données à caractère personnel qui identifient les usagers, lesquels font référence dans leurs conversations à noms, adresses, situations souvent sensibles. De surcroît, pour vérifier que Siri aie bien répondu aux requêtes formulées par les usagers, Apple donne à ses micro-travailleurs accès à tous leurs fichiers personnels via une fonctionnalité qui, selon Mediapart, s’appelle user data browser.

L’usage de ces données n’est pas restreint ni discret, puisque les assistants virtuels comme Siri ont besoin de millions d’exemples pour apprendre à interpréter une simple requête. Leur apprentissage machine nécessite la mise sur écoute systématique et massive des usagers. Ce n’est pas un accident ni le problème de la seule Apple.

J’ai eu l’occasion de l’affirmer ailleurs, et je le répète dans l’article de Mediapart : tous les GAFAM ont désormais été démasqués. Ils ont menti à propos du respect de la vie privée de leurs usagers, mais ils ont surtout menti sur l’artificialité de leurs intelligences artificielles.


Assistant vocal d’Apple: le calvaire des salariés

PAR JÉRÔME HOURDEAUX
ARTICLE PUBLIÉ LE SAMEDI 31 AOÛT 2019

Assistant vocal d’Apple: le calvaire des salariés

À la fin du mois de juillet, TheGuardian et El País révélaient que des centaines de personnes étaient chargées d’écouter les conversations d’utilisateurs de Siri, l’assistant vocal d’Apple, afin de corriger ses résultats. Après avoir suspendu le programme qui reprendra à l’automne, la société vient d’annoncer le licenciement de 300 salariés.

Alors que, acculé par les révélations sur l’écoute des utilisateurs de Siri, Apple vient de mettre à la porte plusieurs centaines de salariés, Mediapart a pu recueillir les témoignages de plusieurs d’entre eux et consulter des documents détaillant le travail de ces employés, chargés d’écouter les utilisateurs.

Au total, au moins 300 personnes travaillant pour des sous-traitants d’Apple à Cork, en Irlande, se sont vu notifier la fin de leur contrat vendredi dernier, rapporte mercredi 28 août The Guardian.

Cette annonce n’a pas vraiment été une surprise pour les salariés concernés. Depuis le 2 août, nombre d’entre eux avaient été placés en chômage technique après la révélation, par The Guardian et El País, de la nature réelle de leur travail : écouter les utilisateurs d’Apple parler à Siri. Cette intelligence artificielle, embarquée sur l’ensemble des appareils vendus par la marque à la pomme, permet d’activer une application, d’écouter de la musique, de faire une recherche sur Internet ou encore d’appeler un contact, simplement en donnant un ordre oral.

Les articles du Guardian et d’El País n’étaient pourtant pas en eux-mêmes des scoops. Plusieurs chercheurs avaient déjà expliqué que les intelligences artificielles le sont beaucoup moins que ce que leurs concepteurs prétendent. Incapables de réellement « apprendre » par eux-mêmes, les algorithmes ont besoin de centaines de milliers d’exemples, fournis par des êtres humains.

Les deux quotidiens rapportaient en revanche les témoignages inédits d’anciens salariés de sous- traitants d’Apple ayant passé leurs journées à écouter des conversations de clients et à noter la réponse apportée par Siri. De plus, révélaient-ils, les différents appareils sur lesquels est embarqué l’assistant vocal ont une fâcheuse tendance à activer celui-ci à tout bout de champ.

Les salariés chargés d’écouter les extraits sonores enregistrés par Siri tombaient ainsi régulièrement sur des échanges particulièrement privés, comme lors de relations sexuelles ou encore lors de ce qui semblait être un trafic de drogue. En réaction, Apple avait annoncé la suspension de programmes d’amélioration de Siri, le temps de revoir ceux-ci et de les reprendre, sous une forme modifiée, à l’automne prochain.

Depuis, Mediapart a également recueilli les témoignages de plusieurs ex-salariés ayant travaillé dans les locaux de GlobeTech, l’une des deux principales sociétés travaillant pour Apple à Cork (l’autre étant Lionbridge). Ceux-ci confirment les informations du Guardian et d’El País et donnent des détails supplémentaires.

Les centaines de personnes travaillant pour Globetech et Lionbridge étaient affectées à de multiples « projets » correspondant aux différentes phases de vérification et de notation de Siri. Ces différentes tâches nécessitaient des compétences et des niveaux d’accréditation différenciés permettant, pour certaines d’entre elles, d’accéder aux données personnelles contenues dans l’appareil de l’usager.

Chaque salarié étant soumis à une clause de confidentialité, il est très difficile de savoir à quoi correspond exactement chacun de ses projets. Mais plusieurs documents internes et témoignages d’ex- salariés recueillis par Mediapart permettent d’avoir une idée assez précise du rôle des humains au cœur du fonctionnement de l’intelligence artificielle et de leurs conditions de travail.

Les salariés travaillant directement sur Siri sont classés en deux principales catégories. Il y a tout d’abord les « language analysts », qui travaillent sur les « bulk data », les données brutes, c’est-à-dire les extraits audio livrés sans autre information.

La tâche de base correspond aux programmes « 1.000 hours » (1 000 heures) et se décline au sein de projets spécifiques en fonction de l’appareil : « 1.000 hours iPhone », « 1.000 hours iPad », « 1.000 hours CarPlay », etc. Le salarié, connecté à une interface sur un réseau interne d’Apple, a accès à l’enregistrement audio et, dessous, la transcription automatique qui a été faite par l’algorithme. Il doit se contenter d’écouter la séquence, appelée « itération », et de corriger les éventuelles fautes de retranscription.

Le nombre d’itérations nécessaires au bon fonctionnement de Siri est impressionnant. Dans les documents consultés par Mediapart, un tableau d’objectifs trimestriel donne le chiffre de 609 309 extraits audio pour les clients francophones, 874 778 pour les Chinois, ou encore 716 388 pour les Japonais. Et ce, uniquement sur le troisième trimestre 2019 et pour l’iPad. S’ensuit, pour les employés, un rythme effréné afin d’atteindre un quota quotidien fixé à 1 300 itérations par jour.

L’autre catégorie d’employés correspond aux « data analysts » qui, eux, ont accès à certaines données personnelles des utilisateurs. Apple avait pourtant affirmé que ses salariés n’avaient pas les moyens d’identifier les personnes écoutées, notamment parce qu’ils ne disposaient pas de l’« user ID », l’identifiant.

C’est en partie vrai. Le nom de l’utilisateur ou son numéro n’apparaissent effectivement pas. Mais un petit menu intégré à l’interface d’Apple, le user data browser, permet d’effectuer des recherches parmi les données stockées dans l’appareil. Cette fonctionnalité est principalement intégrée à l’outil de notation de Siri, le Siri results widget (SRW).

Assistant vocal d’Apple: le calvaire des salariés

Celui-ci présente, en haut, l’extrait sonore et, en dessous à gauche, la réponse apportée par Siri à la requête. À droite, une série de questions permet de noter celle-ci. Et en dessous, le user data browser permet de fouiller dans les données de l’appareil pour vérifier que Siri a utilisé les bonnes informations.

Comme l’explique l’un des documents, « les données d’utilisateur peuvent être utiles pour comprendre l’intention de l’utilisateur. Par exemple, si l’utilisateur dit : “Montre coucher de soleil horizontal”, cela peut être dur à comprendre. Toutefois, si l’utilisateur a un album photo appelé “Couchers de soleil horizontaux”, ce que l’utilisateur voulait devient clair ».

Concernant les conditions de travail, les salariés des sous-traitants d’Apple sont un peu mieux lotis que beaucoup d’autres micro-travailleurs, tels que ceux décrits notamment par le sociologue Antonio Casilli, auteur du livre En attendant les robots (Seuil, janvier 2019) et membre du projet DipLab (Digital Platform Labor), à l’origine du rapport « Le micro-travail en France », sorti en avril 2019.

Ce nouveau sous-prolétariat numérique, ces « tâcherons du Web », travaillent bien souvent de chez eux, via des plateformes intermédiaires, et ne connaissent souvent même pas l’identité du commanditaire. Ils sont rémunérés à la tâche, le plus souvent quelques centimes d’euros.

À GlobeTech, les salariés disposent d’un contrat de travail de droit irlandais, avec un salaire mensuel d’environ 2 000 euros brut par mois, pour des journées de 7 h 30, pause déjeuner déduite, avec deux pauses de 15 minutes. Ils travaillent dans des locaux spécifiques d’où ils se connectent à l’interface d’Apple via un réseau sécurisé.

Les conditions de travail y sont strictes, et souvent mal vécues par les salariés. « Le pire, c’est le côté répétitif, les itérations qui reviennent constamment, du style “mets l’alarme à telle heure”, explique Antoine*, un des anciens salariés que Mediapart a rencontrés. Les gens étaient tous surdiplômés, des bac + 3 à bac + 5. Tout le monde s’ennuyait. La plupart des gens s’en allaient le plus tôt possible, dès qu’ils avaient fini leur quota journalier d’itérations. Je crois que personne ne reste plus de six mois. Même nos supérieurs avaient l’air de détester leur travail. »

« De plus, poursuit le jeune homme, on était hyper fliqués. Quand on ne faisait pas d’itération pendant plus de six minutes, on était considéré en pause. Il fallait envoyer chaque soir par mail le nombre d’itérations que l’on avait faites durant la journée. »« On pouvait être viré du jour au lendemain, confirme Gaël*, un autre ex-salarié. Le soir, votre superviseur pouvait venir vous voir pour vous dire : t’as pas fait tes stats aujourd’hui, tu pars. »

Beaucoup de salariés ont mal vécu le fait d’être les témoins de la vie privée des utilisateurs. Une bonne partie des requêtes concernent des ordres assez classiques, comme appeler un contact. « Le plus drôle que j’ai eu, c’est un “appel Frank Riester” », se souvient Antoine.

Mais certains se révèlent particulièrement intrusifs.

« Beaucoup de gens dictent leurs textos. Et on a donc beaucoup de “sextos” », raconte Antoine. Il y a également les cas de demande de recherche relative à des maladies par exemple. « On entend aussi beaucoup de voix d’enfant. On ne leur a pas demandé leur avis,

à eux ! », s’indigne Gaël, qui se souvient d’une voix enfantine demandant : « Dis Siri, tu peux me montrer une photo de vrai zizi ? »

Il y a également les nombreuses personnes qui utilisent Siri comme dictaphone, afin d’enregistrer des mémos vocaux. Antoine et Gaël sont ainsi tous deux tombés à de nombreuses reprises sur des extraits de professeurs, enregistrant leurs avis de conseils de classe.

Enfin, il y a les enregistrements accidentels, provoqués par un déclenchement involontaire de Siri. Car l’assistante vocale semble particulièrement sensible. « Ça s’active à tout bout de champ, confirme Antoine. J’ai remarqué que ça marchait notamment avec les phrases des autres assistants vocaux, par exemple si vous dites “OK Google”. »

Lorsqu’un salarié tombait sur un de ces enregistrements, il devait l’écouter et le signaler en cliquant sur un bouton « accidental trigger ». « C’était tout simplement le bouton sur lequel on appuyait le plus, se souvient Antoine. On pouvait entendre de tout. Ça pouvait être la musique d’une voiture pendant plusieurs minutes ou deux ados se racontant leurs drames. » Gaël, lui aussi, est tombé à plusieurs reprises sur des disputes amoureuses, des confessions intimes…

Parfois, le malaise ressenti par le salarié se transforme en traumatisme. Certains salariés peuvent être confrontés à des enregistrements dévoilant des pratiques illégales ou des situations de violence. « Je me souviens un jour d’une fille qui disait à sa copine, a priori à propos de son petit copain, un truc du style : “il est dangereux, il faut le faire enfermer”. Dans ces cas-là, on se sait pas quoi faire, on ne sait pas s’il y a réellement danger. » Gaël, de son côté, se souvient d’un enregistrement dans lequel un homme tient des propos explicitement pédophiles. « Ça m’a mis hors de moi, se souvient-il. Avons-nous un devoir moral à partir du moment où on surveille ? Est-ce qu’il n’y a pas un délit de complicité ? »

En page d’accueil du portail d’aide mis à la disposition des salariés par Apple, un message les prévient qu’ils peuvent être confrontés à « des propos vulgaires, des thèmes violents, pornographiques ou des sujets criminels » et les incite à contacter leur supérieur si besoin. Pourtant, dans la pratique, les salariés n’ont aucune information sur ce qui arrive par la suite.

« Ce genre de traumatisme est assez courant, explique Antonio Casilli. Il arrive même que certains travailleurs souffrent du syndrome de stress posttraumatique, notamment chez ceux chargés de la modération des commentaires. Des modérateurs de Microsoft et de Facebook ont déjà poursuivi leur employeur après avoir été frappés par ce syndrome. Dans le contexte des correcteurs de Siri, poursuit le sociologue, il y a un facteur supplémentaire qui joue : la difficulté de contextualisation. Ils sont confrontés à des extraits de discussions, des propos isolés, totalement déracinés du contexte général. Ils ne peuvent pas savoir s’il s’agit d’une provocation ou d’une exagération. Cela peut être plus perturbant que s’ils étaient présents physiquement. »

Dans ses travaux, Antonio Casilli a démontré à quel point les micro-travailleurs étaient indispensables au bon fonctionnement des intelligences artificielles. Dans ce cas, quelles mesures prendra Apple ? La marque à la pomme a annoncé au Guardian que le programme de notations de Siri reprendrait à l’automne, avec quelques modifications. Les utilisateurs auront notamment la possibilité de préciser qu’ils refusent d’être écoutés et les personnes chargées d’écouter les extraits sonores seront directement employées par Apple.

Antonio Casilli prend ces annonces « avec beaucoup de méfiance ». « Le travail de ces personnes est fondamental pour le fonctionnement d’un assistant vocal, rappelle-t-il. L’intelligence artificielle a besoin d’être entraînée et vérifiée. Sinon, elle ne marche pas. Ils vont donc devoir inventer une nouvelle manière de faire cet entraînement et cette vérification.

La solution consistant à internaliser ces tâches permettrait notamment d’imposer des contraintes de confidentialité accrue. Mais ça irait tout simplement à l’encontre des principes de gestion d’Apple. Une autre solution serait de morceler encore plus les tâches d’entraînement et de vérification et de les confier à des centres de gestion dans des pays tiers, poursuit le sociologue. Il y a tout de même eu une vague de révélations ces derniers mois, avec plusieurs travailleurs qui se sont transformés en lanceurs d’alerte. Et il semblerait que la plupart d’entre eux soient originaires de pays de l’Union européenne, où les législations sont plus protectrices qu’ailleurs. On peut imaginer qu’Apple cherche à installer ses centres de gestion dans des pays ayant une législation moins clémente. »

Gaël, lui aussi, est convaincu que le programme reprendra sous peu, peut-être en interne. « Ils vont se contenter de modifier les conditions générales d’utilisation pour y inclure le fait que ce que vous dites à Siri peut être écouté. Les gens vont signer et ça reprendra », prédit le jeune homme. « C’est, hélas, très possible, acquiesce Antonio Casilli. Nous sommes tous les esclaves de ce consentement forcé que sont les CGU. Ils sont totalement capables d’y mettre ce qui était encore inimaginable hier. »

Les révélations de ces derniers mois marquent cependant un tournant incontestable. Le 13 août, c’est Facebook qui admettait, lui aussi, écouter les conversations des utilisateurs des fonctions audio de son service Messenger et annonçait leur suspension. Apple, de son côté, a présenté jeudi 29 août ses excuses à ses clients écoutés.

« Tous les Gafam ont désormais été démasqués, constate Antonio Casilli. Il y a encore un an, si je disais dans une conférence que des travailleurs écoutent ce que l’on dit à un assistant vocal, c’était une “educated guess”, une supposition éclairée, une conséquence logique de ce que j’avais pu comprendre de leur fonctionnement lors de mes recherches. »

« Depuis, il y a eu une avalanche de témoignages qui montrent que non seulement il y a des enregistrements sauvages, mais également que ces assistants vocaux sont extrêmement défectueux, poursuit le sociologue. Quand on voit des taux de précision de 90 %, on peut se dire que c’est déjà pas mal, mais ça veut dire tout de même que quand vous demandez votre chemin, une fois sur dix, l’algorithme vous donnera le mauvais. C’est tout de même problématique. Apple a donc doublement menti : en disant qu’ils n’enregistraient pas les gens, et en leur affirmant que Siri fonctionne. »

Recension dans La Vie des Idées (24 juillet 2019)

Cannibale machine À propos de : Antonio Casilli, En attendant les robots, Seuil


Des machines intelligentes à l’assaut du travail humain ? Enquêtant sur le digital labor qui se cache derrière les promesses de l’automatisation et des robots, Antonio Casilli soutient notamment que les médias sociaux constituent une forme de travail non rémunéré.

Aimer ou partager cet article sur Facebook, est-ce travailler ? Et regarder une vidéo sur YouPorn ? Oui, répond en substance Antonio Casilli dans En attendant les robots : enquête sur le travail du clic. Un livre à la fois dense, solidement documenté et stimulant.

Ce travail qui n’en a pas l’air, c’est ce que Casilli nomme – avec d’autres – le digital labor, un des concepts clés de cet ouvrage qu’on pourrait présenter comme une sociologie critique de l’intelligence artificielle. L’auteur, qui est lui-même sociologue du travail et chercheur à l’EHESS, nous propose de sortir de l’IA washing et de la hype pour mieux découvrir toutes ces petites mains humaines trop humaines qui œuvrent dans l’ombre des algorithmes d’IA.

L’erreur, soutient Casilli, serait de croire qu’avec l’automation, le travail va disparaître. Il va plutôt être « plateformisé » et digitalisé. Autrement dit, en attendant les robots qui, comme dans le Godot de Beckett, pourraient tarder à entrer en scène, on ferait bien d’examiner les changements concrets qui s’opèrent dans le travail humain. Car, en lieu et place d’un remplacement du travail par des robots, on a souvent affaire à un simple déplacement. C’est ce que montre bien l’exemple des guichets automatiques. Ceux-ci ne remplacent pas complètement le travail qui était jadis celui du guichetier : ce sont plutôt les clients qui prennent désormais en charge la responsabilité de faire fonctionner la machine. À plusieurs égards, cet exemple est symptomatique de notre difficulté à percevoir ces nouvelles formes de travail qu’analyse Casilli.

Le digital labor

Le concept de digital labor désigne d’abord le travail du doigt « qui sert à compter, mais aussi qui pointe, clique, appuie sur le bouton » (p. 48). Mais c’est aussi plus compliqué que ça. Et c’est tout l’objet de la partie centrale du livre qui prolonge un débat sur la pertinence de ce concept avec le sociologue Dominique Cardon. Situé dans une « zone grise entre le marchandage et l’emploi salarié », le digital labor s’inscrit « dans un rapport de subordination, de surveillance et d’inégalité de droit entre les travailleurs et les propriétaires de services numériques » (p. 267). On peut le décliner de trois manières.

Le travail à la demande, comme avec Uber ou Foodora, en constitue une première forme. Ces services de transport ou de livraison s’appuient ainsi sur des plateformes et mobilisent des processus de décision basés sur des algorithmes et des données qui bouleversent l’organisation du travail. Il s’agit en quelque sorte de pousser à son maximum la logique du fordo-taylorisme (le travail à la chaîne) en mesurant et en divisant toujours plus les tâches. Et les travailleurs ne semblent pas en sortir gagnants.

Le micro-travail auquel se consacre le quatrième chapitre est une deuxième forme de digital labor. Il s’agit de réaliser « de petites corvées telles que l’annotation de vidéo, le tri de tweets, la retranscription de documents scannés (…) » (p. 119). C’est sans doute l’un des apports les plus intéressants de l’ouvrage que de braquer le projecteur sur le travail de ces personnes — une centaine de millions dans le monde, dont 260 000 en France — souvent précaires, qui font tourner le capitalisme numérique.

Des services en ligne comme le Mechanical Turk permettent par exemple à des entreprises d’externaliser le « travail du clic ». La plateforme d’Amazon, née en 2005, emploie principalement des citoyens américains et indiens qui accomplissent des micro-tâches mal payées. Ces personnes travaillent chez elles, ne se rencontrent pas et ne connaissent pas leurs clients. Elles ne sont évidemment pas syndiquées, ni même organisées. Il y a d’ailleurs beaucoup d’ironie à ce que ce service d’« IA artificielle », comme le nomme Jeff Bezos, le PDG d’Amazon, reprenne le nom du Turc mécanique, cet automate du XVIIIe siècle qui prétendait jouer aux échecs, mais dissimulait en réalité un humain derrière ses engrenages inutiles. Comment ne pas percevoir un troublant écho avec la situation actuelle ?

« L’automation revient à une formule simple, résume Casilli : une façade avec un ingénieur qui vante les prouesses de sa machine et une arrière-boutique dans laquelle des travailleurs se tuent à la micro-tâche. » (p. 136) Ce micro-travail invisibilisé passe aussi par de nouvelles formes de contrôle puisqu’il faut garantir aux clients qu’il est bien effectué par des humains. Ceux-ci doivent donc remplir des tests de type CAPTCHA toutes les quarante-cinq minutes. Plus généralement, les données de ces travailleurs (les turkers) sont requises pour faire fonctionner la plateforme et les mettre en relation avec des requérants — la plateforme tirant, en définitive, une « rente d’intermédiation ».

On l’aura deviné, partager un article sur Facebook ou regarder une vidéo sur YouPorn ne relève ni du travail à la demande ni du micro-travail, puisque ce n’est ni une activité rémunérée, ni un service réclamé par un client. Mais il existe, poursuit Casilli, une troisième forme de digital labor, le travail social en réseau, qui correspond en particulier à la participation des usagers aux médias sociaux. Comment analyser ce phénomène ? Le cinquième chapitre présente en détail la controverse sur la nature exacte de ce « travail gratuit ».

Du travail gratuit ?

Selon une approche « hédoniste », les médias sociaux ne relèvent pas du travail parce qu’on y participe librement et pour le plaisir, à travers une nouvelle culture de l’amateurisme. Mais Casilli préconise plutôt une approche travailliste qui voit le « produsage », c’est-à-dire les activités qui entremêlent production et usage, comme s’inscrivant « dans un rapport d’exploitation » (p. 168). Le travail non rémunéré n’est pas une nouveauté : travail domestique, bénévole, forcé… Mais comment de simples clics sur des médias sociaux peuvent-ils être considérés comme du travail ? C’est qu’en créant des données (et des métadonnées), l’utilisateur crée de la valeur. En likant ou partageant un article sur Facebook, on enrichit une base de données qui permettra à l’entreprise de générer d’importants revenus publicitaires – 55 milliards de dollars en 2018.

Casilli montre que la démarcation entre professionnalisme et amateurisme est souvent poreuse. Existe-t-il vraiment une différence de nature entre le critique gastronomique, la Youtubeuse cuisine et le commentaire anonyme sur Yelp ? La modératrice payée pour filtrer les contenus violents fait-elle autre chose que le simple usager qui bloque, masque ou signale de tels contenus ? D’aucuns répliqueront peut-être que le travail se définit d’abord par son caractère pénible. Pour autant, pourquoi le fait qu’une tâche soit plaisante, conviviale ou créative la disqualifierait-elle comme travail ? D’ailleurs, est-on si certain que les médias sociaux sont dépourvus de pénibilité ? L’auteur cite des enquêtes de terrain où des jeunes de milieux populaires décrivent l’inconfort et la « corvée » d’être sur Facebook « pour maîtriser ce que les autres exposent de soi » (p.187).

Mais l’argument qui semble le plus décisif, c’est celui des « fermes à liens » et des « fermes à clics ». Ainsi, en 2013, les faux clics sur Facebook auraient rapporté 200 millions de dollars, avec des services comme GetPaidForLikes. Facebook même propose aujourd’hui aux usagers de « booster un post » pour quelques dollars. Or, si des personnes sont rémunérées dans des « fermes » pour effectuer le même genre de micro-tâches que celles exécutées par les usagés ordinaires, ne faut-il pas en conclure — par analogie — que ces dernières sont, elles aussi, du travail ?

Ainsi, en aimant ou en partageant un article sur Facebook, vous contribuez à lui donner une visibilité qui aurait pu être autrement acquise en payant le prix. Si la valeur de ce travail est infime (en Inde en 2019, le clic vaut 0,008 $, explique Casilli dans une entrevue), sa démultiplication et son agrégation créent une richesse importante — pour autant qu’une entreprise est capable de valoriser ces données. « Sur les plateformes sociales, conclut l’auteur, tout nouvel abonné se retrouve aujourd’hui pris à l’intérieur d’un système de production de clics fondé sur du travail invisibilisé, celui “gratuit” qu’il est amené à assurer et celui de ses homologues microrémunérés. » (p. 218) Autrement dit, en dépit de son caractère ludique et gratuit, le travail du clic participe incontestablement de l’économie numérique.

La valorisation des données

Mais si l’on a du mal à percevoir ce travail comme authentique, c’est peut-être parce qu’il est plus facile de comprendre la valeur attachée à un objet que celle attachée à une base de données ou à un flux d’information. Pour y voir plus clair, Casilli propose de distinguer trois formes de valorisation, c’est-à-dire trois manières de donner de la valeur à des données.

On peut d’abord qualifier un contenu, c’est-à-dire ajouter de l’information, comme lorsqu’on crée un profil d’utilisateur, que l’on fait un commentaire ou qu’on like une vidéo sur un réseau social (on estime à 4.3 milliards le nombre de like quotidiens sur Facebook). On peut également qualifier un autre usager — et activer des mécanismes réputationnels — comme c’est par exemple le cas dans les applications de rencontre (quand on swipe à gauche ou à droite sur Tinder).

On peut ensuite créer de la valeur en monétisant des données personnelles. C’est ici le principal modèle d’affaire des plateformes qui vendent du ciblage publicitaire à des annonceurs. Les bases de données se composent du croisement d’informations parfois inattendues : marques des téléphones ou des ordinateurs, localisation, listes des contacts, comportement en ligne. Les courtiers en data (data brokers) sont les agents directs de cette valorisation des données par monétisation.

Avec le développement des systèmes d’intelligence artificielle, une troisième forme de valeur attachée aux données s’est développée : la valeur d’automation. En effet, les algorithmes d’apprentissage profond (deep learning) ont besoin d’être entraînés avec d’importantes quantités de données « personnelles » afin d’optimiser leurs prédictions (l’IA est essentiellement un outil de prédiction). Casilli donne comme exemple les applications controversées de reconnaissance faciale, mais on peut dire que c’est l’essentiel des systèmes d’IA aujourd’hui performants – de Google traduction à la reconnaissance de tumeurs – qui repose sur cette valeur d’automation des données.

On le voit, selon cette lecture, l’humain qui étiquette — de façon rémunérée ou non — apparaît comme la source principale de la valorisation des données. Dès lors, son occultation derrière les prouesses de l’IA et la promesse des robots accrédite la thèse d’une invisibilisation du travail humain au cœur de l’économie numérique. On peut toutefois se demander si l’automation fondée sur des données « non humaines » (issues par exemple d’animaux, de robots ou d’évènements météorologiques) ne risque pas d’ébranler ces analyses. De même, qu’adviendra-t-il de ce modèle si, comme l’espèrent les chercheurs en IA, l’apprentissage non supervisé, c’est-à-dire sans données étiquetées, se développe ?

Une critique sociale

Pour l’heure, il paraît difficile de contester à Antonio Casilli d’avoir mis le doigt sur une dimension importante de l’économie et de la sociologie contemporaine du numérique. D’autres ouvrages, comme le récent Ghost Work : how to stop Silicon Valley from building a new global underclass de Gray et Suri (2019) vont d’ailleurs dans le même sens. On ne sera pas surpris de voir le livre de Casilli déboucher, dans sa dernière partie, sur une critique sociale. Après tout, « le travail micro-, sous-, mal ou non payé est comme le fil rouge qui unit les différentes formes du digital labor » (p. 223). En attendant les robots entend donc promouvoir la reconnaissance du digital labor afin de créer une véritable conscience de classe parmi les travailleurs du clic.

Et pour mettre un visage sur ces travailleurs, Casilli mentionne le court documentaire The Moderators (2017) qui s’attache précisément à nous les montrer. Dans une salle de classe en Inde, on assiste à une semaine de formation pour de futurs modérateurs et modératrices de contenu. Pour la plupart d’entre eux, c’est un premier job qu’ils accueillent avec joie. Malgré la rumeur de la rue, ils écoutent avec attention les directives de la formatrice en sari : « Pourquoi ne voyez-vous pas de pornographie lorsque vous êtes sur Facebook, demande-elle ? Pensez-vous que c’est parce que personne n’en poste ? » Voilà tout le travail des modérateurs : s’assurer que Facebook ne devienne pas YouPorn. Et si ce documentaire complète très bien En attendant les robots, c’est parce qu’il donne à voir cette réalité très prosaïque : les images de pénis à rejeter, les gros ventilateurs au plafond, les chemises retroussées sur les manches et les regards concentrés sur l’écran.

En attendant les robots, l’économie numérique et l’IA vont avoir encore besoin des modérateurs indiens, des turkers américains et des données que nous créons, souvent à notre insu, sur les réseaux sociaux. Car tout cela produit de la valeur. Dans sa conclusion, l’auteur explore quelques pistes de redistribution, avec l’idée d’un revenu social numérique ou les travaux de Trebor Scholz sur le « coopérativisme de plateforme » et la propriété collective des moyens de production numérique.

Tous ces éléments font de ce livre à la lecture agréable une contribution importante à la sociologie critique de l’IA. Antonio Casilli propose incontestablement une description fine et très riche en exemples du digital labor. Il offre également des outils d’analyse et une perspective engagée dans le débat normatif. Sur ce dernier terrain, il y a évidemment place à la discussion. Qu’en est-il, par exemple, de ce travail du clic en termes de bien-être ?

Dans le cas du travail social en réseau, Casilli semble négliger la valeur du service rendu gratuitement par des plateformes comme YouPorn ou Facebook. Qu’il s’agisse de se masturber ou de s’informer, il ne fait guère de doute qu’une valeur est produite. Et même si c’est au prix des informations que partagent alors les usagers, on peut penser que ça reste un bon deal. On peut aussi penser que partager la recension d’un livre intéressant va produire de la valeur épistémique. Et c’est sans oublier qu’il est toujours bon pour l’ego de recevoir de l’attention, du love ou des likes. Antonio Casilli, En attendant les robots, Seuil, 2019, 400 p., 24 €.

par Martin Gibert, le 24 juillet

[Video] Einstein Forum Conference on fake news and digital labor (Germany, 5 July 2019)

Video of my Einstein Forum Lecture, Potsdam, 5 July 2019.

Automating Credulity. The Digital Labor Behind Fake News and Propaganda

In the wake of the Cambridge Analytica scandal, recent research has examined how unscrupulous politicians resort to content mills and click farms to influence the public opinion. Understanding how such specialized online services operate provides insights into the production process of fake content, malicious ads, and viral traffic for political messages. Interestingly, it also dispels the belief that disinformation is automatically spread by “bots”. On the contrary, much of the work is actually outsourced to developing or emerging countries, where it is performed by crowds of workers in exchange for remunerations as low as one cent or less per task. This new phenomenon highlights technological and industrial trends that, if left unaddressed, are bound to negatively affect arenas of public debate as well as labor rights.

Antonio A. Casilli is an Associate Professor at the Telecommunication School of the Paris Polytechnic Institute (Télécom ParisTech) and an Associate Fellow at the Critical Interdisciplinary Anthropology Center (LACI-IIAC) at the School for Advanced Studies in Social Sciences (EHESS, Paris). His main research foci are computer-mediated communication, work, and politics. In addition to several scientific publications in French, English, Spanish, Hungarian, and Italian, he is the author of En attendant les robots (Waiting for Robots, 2019); Qu’est-ce que le digital labor? (What is digital labor?, 2015); Les liaisons numériques (Digital relationships, 2010).

[Vidéo] Le micro-travail en France (séminaire CFE-CGC Orange, Paris, 1 juillet 2019)

Avec Paola Tubaro (CNRS), j’ai présenté lors du séminaire de la CFE-CGC Orange nos travaux concernant les « petites mains » cachées derrière les intelligences dites artificielles.

Ces « travailleurs et travailleuses du clic », qui sont plus de 260 000 en France et des millions à travers le monde, constituent un nouveau prolétariat, faisant le travail des robots et éduquant les logiciels d’intelligence artificielle (IA) pour quelques centimes par clic. En France, ces invisibles « néo-précaires du digital » sont majoritairement des femmes (56,1%), souvent sans réel contrat, et surtout sans stabilité d’emploi.

A l’heure des réflexions sur une IA éthique, l’étude du projet DiPlab pose clairement la question de la régulation et de la protection sociale généralement inexistante de cette nouvelle forme de travail : un défi pour les syndicats et les législateurs.

[Vidéo] Ailleurs en vidéo

(27 juin 2019) “Numérique et société”, colloque Agreenium, CNAM, Paris.
(25 juin 2019) “IA et micro-travail en France : résultats du projet DiPLab” (avec Paola Tubaro), Fondation Gabriel Péri, Paris.
(3 juin 2019) Présentation du livre “En attendant les robots” à l’Université Populaire d’Arcueil.
(8 février 2019) “Fake news et digital labor” (avec Francesca Musiani), colloque Post-vérité et infox : où allons-nous ?, Cité des sciences et de l’industrie, Paris.
(17 janvier 2019) IA et l’humanité qui vient (Rencontres philosophiques de Monaco), Monte Carlo.
(31 ottobre 2017) “Lavoro e capitalismo delle piattaforme”, ESC Atelier, Roma.

Grand entretien dans Sciences Humaines (mai 2019)

Comment internet nous met au travail : Rencontre avec Antonio Casilli.

Hélène FROUARD. Sciences humaines, mai 2019, n°314, pp. 30-33

A 12 ans, il tapait ses premières lignes de code informatique tout en jouant à Donjons & Dragons. Aujourd’hui il est un spécialiste reconnu de la sociologie de numérique…. Né en Italie dans un milieu populaire, attiré par la mouvance anarchiste et la pensée ouvriériste, Antonio A. Casilli commence son parcours par des études d’économie à la prestigieuse université Bocconi de Milan. Durant sa tesi di laurea (équivalent du Master 2) il écrit son premier livre, La Fabrique libertine (La Fabbrica libertina: de Sade e il sistema industriale, Manifesto Libri, 1997). Inspiré par une idée de Roland Barthes, Antonio Casilli s’y amuse à relire l’œuvre du Marquis de Sade à l’aune d’Adam Smith et de Marx. C’est dans cette même université qu’il avait découvert, quelques années auparavant, le premier serveur web accessible en se connectant à distance au CERN. Ceci allait le conduire à entreprendre un terrain d’étude sur la violence communicationnelle dans les entreprises qui développent les premiers tchat, mails, outils multimédias etc. Il en tire l’ouvrage Stop au harcèlement (Stop mobbing. Resistere alla violenza psicologica sul luogo di lavoro, 2000, editions Derive Approdi), qui s’accompagne d’un travail militant et associatif. Le thème le sensibilise aux problèmes de souffrance psychique et de santé . Antonio Casilli décide alors de venir à Paris rédiger sa thèse de sociologie sur le corps dans la culture numérique sous la direction de l’ historien George Vigarello. Il y aura ensuite une recherche sur les sites pro-ana (pro-anorexie). En 2010, le chercheur est finalement recruté à Télécom ParisTech. Il y retrouve d’autres personnalités atypiques, notamment des représentants de l’école française de la sociologie des usages ou de chercheurs issus des Orange Labs. Aujourd’hui Antonio Casilli publie au Seuil, un nouvel ouvrage. Intitulé En attendant les robots, il est l’occasion d’une réflexion originale et détaillée sur les nouvelles formes de travail qui se cachent derrière Twitter, Uber ou les chatbot.

SH- Dans votre dernier livre, vous vous intéressez au travail humain qui se dissimule dernière nos activités numériques. Ce travail n’est-il pas réalisé par des algorithmes et des robots ?

Antonio A. Casilli – La thèse centrale de mon livre est précisément de montrer qu’il n’y a pas de grand remplacement technologique ou automatique du travail humain, contrairement à ce que certains disent. Pour une simple raison : les machines n’ont pas les compétences de sens commun qu’ont les humains. Une machine ne peut distinguer un chat d’un chien qu’à partir de plusieurs centaines de milliers ou millions d’exemples préalablement enregistrés. Et si une nouvelle question lui est posée, il faudra à nouveau l’entrainer. Plus vous injectez de solutions intelligentes sur le marché, plus vous avez besoin de les entrainer d’abord, de les valider ensuite. Prenez l’exemple des enceintes connectées à qui l’on peut demander, de chez soi, de commander un hamburger ou de trouver le médecin le plus proche. La première a été lancée aux Etats-Unis. Si son concepteur veut l’installer en France, il doit lui apprendre à répondre à une nouvelle langue et de nouvelles exigences (par exemple des commandes de crêpes plutôt que de burgers). Elle doit donc réapprendre à faire ce qu’elle faisait avant dans une autre langue, et s’habituer à la variabilité des accents, des expressions etc. Or ce travail très concret engage de nombreuses personnes. Le mythe de l’intelligence artificielle qui remplacerait l’homme est une illusion.

SH – Concrètement, comment se fait ce travail humain nécessaire au fonctionnement de l’intelligence artificielle ?

AC- Il se fait par le micro-travail ou travail des foules (crowdworking), que j’appelle pour ma part la micro-tâcheronnisation. Cela consiste à externaliser des taches extrêmement fragmentées, qu’on confie à des personnes le plus souvent rémunérées à la pièce. Reprenez l’exemple de l’enceinte connectée : on va d’abord faire enregistrer à de nombreuses personnes la phrase « fais moi un café » via des plates-formes de micro-travail. Chaque travailleur sera payé quelques centimes pour enregistrer la phrase. Ensuite la machine va réaliser une première transcription, mais il faut la vérifier : voici à nouveau des microtâches à réaliser. Je prends un autre exemple : lorsque vous utilisez une plate-forme proposant des vidéos, des micro-travailleurs ont préalablement été pour regarder chacun 10 secondes et l’indexer, en mettant par exemple « vidéo en français, sketch drôle » ou « vidéo en anglais, enregistrement dans un laboratoire de recherche ».

SH- Ce sont ces microtâches que vous appelez travail du clic ?

AC- C’en est une première forme. Il en existe deux autres. D’abord celle incarnée par des applications comme Uber ou Deliveroo. Il s’agit d’un travail à flux tendu, très local et très visible : nous voyons autour de nous les livreurs ou les chauffeurs. Mais derrière la partie tangible, ostensible – la livraison d’une pizza, le transport d’un passage – il y a tout un travail invisible. Une plate-forme comme Uber tire la plus grande part de sa valeur non pas du transport des passagers lui-même, mais des données numériques produites par les utilisateurs de l’application, chauffeurs ou passagers. Un chauffeur passe jusqu’à 2/3 de son temps à aller chercher un client, se rendre sur zone etc. Pendant ce temps, il n’est pas payé. En revanche la plate-forme utilise les données numériques qu’il produit. De même lorsque 10 chauffeurs effectuent le même trajet, Uber calcule grâce aux évaluations laissées par les passagers quel est celui qui a conduit le mieux, puis analyse son parcours et son mode de conduite. Cela va optimiser les tournées de véhicules  pour ses voitures dites « autonomes ». Ces données de connexion à l’application sont donc une forme de travail.

SH Notre usage des réseaux sociaux comme Facebook et Twitter peut-il aussi être assimilé à du travail ?

AC- Oui, à mon sens. Pensez au cas où nous ajoutons un hashtag sur Instagramm ou Twitter. Pour vous et moi, c’est une tâche gratuite dont la rémunération se fait par des incitations variées, ludiques. Même chose lorsqu’on remplit sur Google un re-Captcha pour prouver qu’on n’est pas un robot : ces Captcha permettent à Google d’indexer du contenu, de retranscrire des livres ou trier des images. Elles ont donc une valeur. Nous travaillons aussi lorsque nous ajoutons de la production de contenu, par exemple une image ou une vidéo en ligne. Et enfin, bien sur, nos métadonnées sont exploitées par les plates-formes. Certes, une partie de la communauté universitaire s’oppose à la définition de ces activités comme du travail : ces chercheurs parlent plutôt de participation heureuse, d’amateurisme harmonieux. A l’inverse, d’autres universitaires dénoncent une forme d’exploitation de travail gratuit. Pour ma part, je considère qu’il s’agit bien de travail, mais qu’il n’est pas gratuit ! Car à coté, ou plutôt derrière nous, il y a de nombreux travailleurs qui permettent à ces plates-formes de fonctionner : des modérateurs, des débogueurs, ou encore des travailleurs des fermes à clic. Ce sont des personnes, qui travaillent au Pakistan, en Indonésie etc. pour faire la même chose que nous, mais en réponse à une commande. Leur activité consiste à cliquer sur les contenus proposés – tel compte Instagram, telle page Facebook. En Inde, par exemple, un clic est rémunéré 0,008 centimes de dollar. On voit bien qu’il y a une continuité entre notre clic non rémunéré et le clic micro-rémunéré : entre les deux, il n’y a que la frontière d’une rémunération presque nulle.

SH- Pour décrire l’ensemble de ces formes de travail disparates, vous utilisez l’expression anglo-saxonne de « digital labor », plutôt que « travail numérique ». Pourquoi ?

AC- En France on utilise le mot numérique. Il évoque l’idée de calcul et de savoir expert : cela renvoie à la dimension savante de la discipline informatique. Or le travail que je décris ne présuppose pas d’expertise particulière. Au contraire, les travailleurs du clic sont dépourvus de compétences spécifiques. De façon contre-intuitive, ce sont même les tâches les plus complexes qui sont dévolues aux machines, et les hommes qui prennent en charge les tâches les plus simples comme enregistrer une phrase, cliquer sur les images contenant un feu rouge etc.… C’est donc moins un travail de l’esprit que du doigt. D’où ma préférence pour le mot digital. Quant au mot labor, il permet – ce que n’autorise pas le mot français travail – de se démarquer du travail en tant que « job » c’est-à-dire entendu comme identité professionnelle, et du travail en tant que «work » c’est à dire désignant le geste productif qui modifie notre rapport au monde. L’expression de « digital labor » permet ainsi de mettre en évidence la réalité très matérielle de ce travail.

SH- Pouvez vous estimez son ampleur ?

AC – Les estimations du digital labor varient selon ses modalités. Rien qu’en France, les personnes travaillant sur les applications à la demande seraient 40 000 selon l’IGAS. Et le nombre de personnes qui « travaillent implicitement » puisqu’ils produisent de la valeur sur Facebook ou Google, c’est de l’ordre de 55 millions d’internautes. En revanche, il est beaucoup plus complexe de mesurer le nombre des micro-tâcherons.

Avec mes collègues de l’équipe DiPLab, je viens de mener une enquête en France, qui aboutit à des estimations d’environ 15 000 travailleurs du clic très actifs, 50 000 réguliers, et 266 000 occasionnels[1]. A l’échelle mondiale, on parle de millions de personnes. Mais ce travail est invisibilisé. C’est là un point très important. Cette invisibilité est construite de plusieurs façons. D’une part les plates-formes privilégient une rhétorique qui éloigne volontairement l’usage de l’univers du travail : on parle d’amateurisme, de participation, de sharing économy, de collaboration etc. D’autre part, ce travail est invisibilisé en étant fragmenté , tâcheronnisé, réduit à des micro-tâches. Par exemple lorsque vous remplissez un Re-captcha vous ne voyez pas que c’est un travail. Enfin, il y a un phénomène d’externalisation et de délocalisation de ce travail. Des pans entiers de population sont mis au travail dans cette économie, mais nous ne les voyons pas car ils vivent dans d’autres pays comme l’Inde, l’Indonésie, la Tunisie, Madagascar etc. Et en Europe même, les travailleurs rémunérés pour des microtâches sont difficilement visibles. C’est souvent une main d’œuvre qui a du mal à avoir accès au marché du travail, par exemple les femmes, qui vont accomplir du travail de clic dans leur temps libre, une fois que leur travail domestique est achevé. Ce digital labor se fait donc hors des modalités classiques de la relation d’emploi.

SH – On est donc loin du rêve d’une libération du travail grâce à la machine ?

AC- Absolument. J’ai été formé intellectuellement dans la mouvance de l’ouvriérisme, qui émerge en Italie dans les années 1960 avec une figure comme Toni Negri. Le capitalisme y était pensé comme une forme d’assujettissement omniprésent, dans l’usine comme dans les rues, dont on ne pouvait sortir qu’en « refusant le travail ». Cela s’accompagnait aussi parfois d’évocations assez fantaisistes d’un régime de « pleine automation » qui nous aurait émancipés en nous débarrassant du devoir de produire. D’une certaine façon, je fais le deuil de tout cela dans ce livre : il me semble que la prophétie de l’automation complète qui nous libérerait du travail est fausse. Au contraire, on observe de plus en plus de personnes précarisées – ce qui est d’ailleurs paradoxal alors que parallèlement, le travail salarial se développe dans les pays du Sud. Pensez que Twitter par exemple ne compte officiellement que 3372 salariés : la partie la plus importante de sa valeur est pourtant produite par ses centaines de millions d’utilisateurs, qui publient de l’information, des fermiers du clic qui la font circuler, des modérateurs qui la trient, etc. L’idée d’une machine autonome qui rendrait caduque le travail humain est un horizon vers lequel on avance peut-être… mais qu’on n’atteint jamais.

SH Cette forme de précarité que vivent les travailleurs du clic vous semble-t-elle une nouveauté ?

AC- Non, elle recompose des éléments qu’on trouvait précédemment. D’une part elle réactualise les formes de travail de la première industrialisation : les ouvriers qu’on qualifiait de « tâcherons » ou des « piéçards » travaillaient de façon indépendante sur des projets, par exemple bâtir un mur, produire des sacs, etc. Le sociologue Claude Didry parle à cet égard de marchandange. Mais petit à petit ce marchandage a été déclaré hors la loi et remplacé par le travail salarié encadré formellement. Par définition, celui-ci est une forme de subordination protégée : il implique un lien de subordination, mais complété par une protection sociale généralisée. Or la situation actuelle sur les plates-formes numériques réunit le pire des deux : une subordination qui devient plus sournoise, se manifeste à travers des appels à l’action, des pastilles, des incitations permanentes à consulter les sites, participer, cliquer dessus, et à coté des formes de marchandage et de travail à la pièce.

SH – Votre parcours de chercheur et de militant vous conduit-il à réfléchir à des solutions pour améliorer ces formes de digital labor ?

AC- Effectivement, la grande question, c’est comment en sortir ? Il faut d’abord mettre fin au fantasme de l’automatisation complète car cette illusion de la fin du travail dans un avenir proche, empêche les travailleurs des plates formes de se constituer en classe, de se reconnaître comme une force sociale, de construire des formes de solidarité active. Ils pensent faire un travail éphémère qui n’a pas à être rémunéré car il n’a pas de noblesse, pas de qualité. Si les travailleurs du clic arrivaient à se débarrasser de cet horizon dystopique de l’automatisation complète, ils pourraient comprendre que leur travail a une stabilité historique destinée à durer. Cette prise de conscience, nécessaire, n’est toutefois pas suffisante. Il y a ensuite un éventail de stratégies possibles. D’une part il faut lutter par la syndicalisation, la réglementation, pourquoi pas en empruntant la voie judiciaire, pour obtenir la reconnaissance formelle de certaines formes de travail. C’est le cas par exemple lorsque des chauffeurs sont requalifiés comme salariés après un procès. Mais cela ne répond pas à la captation des données et à l’entrainement des algorithmes. C’est pourquoi il faut réfléchir à une deuxième piste : le développement du coopératisme de plates-formes, c’est à dire la mise en place d’un système de propriété collective et de gestion collective des algorithmes. Enfin la troisième idée, cette fois radicalement utopique mais sur laquelle je travaille beaucoup avec des collègues et compagnons de route, notamment dans des associations comme la Quadrature du net ou le Coop des communs, c’est l’idée de développer des communs numériques : il s’agit de mettre en place des modèles de gouvernance dans lesquels la gestion des ressources est faite par ceux qui les produisent ou les utilisent, en dehors de tout système de propriété. Je pense par exemple, à la plate forme MiData : les données de santé y sont collectées pour être mises à la disposition des patients ou des professionnels de santé, mais sans être vendues à assureurs et industries pharmaceutiques. Car paradoxalement, pour mieux protéger les données personnelles, il faut en reconnaitre la valeur collective, ce qui veut dire mettre en place des formes de rémunération qui ne soient pas individuelles. Si on reste dans la rémunération individuelle de nos données, de nos clics et de nos infos, telle qu’elle est proposée par certains think tanks de centre-droite, on se retrouve dans un micro-tâcheronnage généralisé.

SH- Etes-vous optimiste pour l’avenir ?

AC- Je vais vous répondre par une formule de Gramsci : il faut allier le pessimisme de la raison, et l’optimisme de la volonté.


[1] Clément Le Ludec, Paola Tubaro et Antonio C. Casilli, « Combien de personnes micro-travaillent en France ? Estimer l’ampleur d’une nouvelle forme de travail», i3 Working Papers Series, 2019, 19-SES-02.

Dans Futuribles (8 avril 2019)

En attendant les robots. Enquête sur le travail du clic

Par Michel Héry

Face aux débats consacrés à l’avenir de l’intelligence articielle, Antonio Casilli fait clairement le pari que ce sont les formes les plus faibles qui se développeront le plus massivement, en raison des limites techniques de l’apprentissage des machines. Il fait même référence à la notion d’intelligence artificielle « artificielle » tant l’intervention humaine lui apparaît importante dans les processus d’acquisition de la connaissance pour ces techniques.

C’est le fruit de ce qu’il désigne sous le terme de digital labor qui consiste notamment à alimenter les dispositifs d’intelligence artificielle en données préalablement traitées par l’homme.Cette notion de digital labor recouvre la mise en données des activités humaines qui a pour effet de réduire le travail à la réalisation d’une succession de tâches unitaires fortement prescrites et normalisées, qui pourront être effectuées par des tâcherons, localisés dans le monde entier grâce à l’essor des technologies de l’information et de la communication.

Le digital labor devient alors un outil mis au service d’une automatisation organisée par des intelligences artificielles faibles nourries ainsi par une quantité énorme de contributions humaines. À ce titre, l’auteur englobe sous la notion les fermes à clics où des milliers de travailleurs pauvres effectuent des tâches liées aux technologies de l’information et de la communication, dont la plupart d’entre nous pensent à tort qu’elles sont automatisées, mais aussi le travail gratuit des consommateurs, la réalisation à distance de petits travaux par des indépendants payés à l’unité quelques fractions de cents ou quelques cents (annotation de vidéos, tri de tweets, modération de contenu des réseaux sociaux, etc.). L’auteur identifie trois types de digital labor : l’activité à la demande (mise en relation de demandeurs et de fournisseurs de prestations, via une plate-forme d’intermédiation comme Uber ou Deliveroo), le microtravail (Amazon Mechanical Turk qui consiste à mettre en relation un requérant et un indépendant qui effectuera des microtâches, la plate-forme facturant au requérant la mise en relation)et le travail social en réseau (avec en particulier la fourniture de contenus pour les réseaux sociaux effectuée le plus souvent gratuitement et valorisée financièrement à leur prot par les plates-formes).Ces trois types de travail ont en commun que la valeur produite est captée par les plates-formes au détriment des travailleurs indépendants, des tâcherons, des contributeurs volontaires non rémunérés.

Cette valeur est identifiée sous trois formes différentes par l’auteur :— valeur de qualification : elle est issue du travail effectué par les usagers, elle permet aux plates-formes d’améliorer leur architecture technique ;— valeur de monétisation : elle correspond au ciblage publicitaire des usagers dont les données sont revendues directement ou indirectement à des annonceurs ;— valeur d’automation : elle recouvre l’entraînement des algorithmes ou la constitution des bases de données utilisées dans le cadre du deep learning pour l’intelligence artificielle.Au bilan, ce à quoi on assiste à travers le développement du digital labor, ce n’est pas tant à la disparition du travail qu’à son « invisibilisation » : à travers, par exemple, le déplacement du salariat des pays développés vers le travail à la tâche des travailleurs des pays du Sud, la contribution volontaire etgratuite des usagers à la fabrication de contenus valorisés ensuite par des plates-formes auprès des publicitaires.

En somme, à travers une transformation progressive des modes de production, la captation de la richesse par les plates-formes de tous types aboutit à la précarisation et à l’exclusion sociale, au Nord comme au Sud. Cette nouvelle forme d’organisation de la production a un effet transformateur profond sur l’économie en ce sens que beaucoup d’entreprises issues du secteur traditionnel commencent à adopter le modèle : il existe par exemple des plates-formes industrielles qui vont coordonner la réalisation des biens en s’interposant à travers leurs algorithmes dans les relations entre acteurs du secteur et en prélevant au passage une partie significative de la plus-value.

Dans le même temps, on voit se développer l’hyperemploi qui contraint les travailleurs à être mobilisables à tout moment, y compris dans la sphère privée pour effectuer des travaux qui échappent à la codification habituelle du travail (rapport de sujétion, règles de lieu et de temps). Au bilan, il y a multiplication des formes de dépendance, avec la création d’une zone grise entre salariat et professions indépendantes. Cela induit une situation de dépendance bien identifiée des travailleurs par rapport aux plates-formes (règles à appliquer, flexibilité à sens unique nourrie par le risque de déconnexion, rémunération faible, absence ou carences des systèmes de protection sociale) qui est niée par ces dernières. On assiste à des tentatives des plates-formes de verrouiller juridiquement les « conditions générales d’utilisation » pour bénéficier d’un réservoir d’emploi captif avec toutes les subordinations possibles, tout en ne risquant pas une requalification de l’emploi.

Un des grands atouts du livre est la capacité de l’auteur de donner à voir des phénomènes généraux à travers la diversité des situations qu’il décrit, diversité elle-même liée aux multiples formes d’influence des technologies de l’information et de la communication dans la production de biens et de services. Si révolution il y a, ce n’est certainement pas dans la technologie et notamment pas dans l’intelligence artificielle, mais bien dans les modes d’organisation du travail, cette révolution ne s’inscrivant pas dans une logique de progrès ni d’émancipation.