Le site web Digital Society Forum accueille deux compte-rendus de mon ouvrage En attendant les robots (Seuil, 2019), signés respectivement par la journaliste Claire Richard et l’expert d’innovation Irénée Régnauld.

Et si l’IA n’existait pas ?

Irénée Régnauld

Sheep Pain Facial Expression Scale (SPFES)  est un outil élaboré en 2016 par le docteur Krista McLennan de l’Université de Cambridge. « Les
 chercheurs ont nourri l'intelligence artificielle avec 500 photos de 
moutons et lui ont appris à mesurer la souffrance en analysant la 
position de la bouche, le plissement des yeux, l'inclinaison des 
oreilles et tous les autres éléments susceptibles de traduire un 
mal-être. » La douleur est reconnue dans 80% des cas et permet 
d’établir des diagnostics précoces en vue de soigner les pauvres bêtes. 
Voilà qui fait avancer la science, même si l’histoire ne dit pas si ce 
sont des travailleurs sous payés en Asie du Sud-Est qui ont tagué les 
photos d’ovins.
                            
                    
                    Le dernier ouvrage d’Antonio Casilli, En attendant les robots, enquête sur le travail du clic 
 (Seuil), a défrayé la chronique. La thèse : l’intelligence artificielle
 repose sur le travail manuel de millions de travailleurs précaires qui 
trient, annotent et commentent les données nécessaires à son bon 
fonctionnement. De là à affirmer que l’intelligence artificielle 
n’existe pas, il n’y a qu’un pas, qu’il est tentant de franchir ici. 
Juste pour voir.

                    

La semaine de l’intelligence artificielle a une drôle de tête : le lundi, elle va nous remplacer ; le mardi, elle va créer des emplois ; le mercredi, elle nous dépasse de nouveau ; mais heureusement, elle nous augmente le jeudi (ouf !). Et ainsi de suite jusqu’à ce que nous nous persuadions qu’elle est une personne avec sa volonté propre, une bonne copine ou notre pire ennemie, selon le jour, nos convictions ou notre position dans la société. En fait, nous la connaissons plutôt mal. Nous n’en n’avons pas toutes les clés, et c’est là que Casilli apporte un éclairage supplémentaire. C’est en sociologue de terrain qu’il est allé soulever le capot des intelligences artificielles qui prennent place dans nos smartphones, nos maisons et nos automobiles. Derrière ces IA aux airs schizophrènes, une autre réalité couve : des travailleurs précaires, essentiellement en Asie et en Afrique. Des petites mains qui taguent, annotent et commentent les images que « voient » les véhicules autonomes. Des petits doigts qui cliquent pour censurer les vidéos de décapitation sur YouTube et Facebook afin de nous éviter d’avoir à tomber dessus par un malencontreux hasard algorithmique. L’IA ne s’incarne donc pas en une unique personne virtuelle aux multiples interfaces, à la façon de l’OS du film Her de Spike Jonze, mais en des millions (de chair et d’os), qui travaillent dans l’ombre des mines de la modération, et qui ne sont pas cher payées.

Si l’on suite de plus près le fil “casillien”, l’intelligence artificielle est un mode d’organisation du travail. Un rapport d’exploitation qui modèle nos sociétés à son image. Non seulement nos intelligences artificielles sont « artificielles », mais elles embarquent toute une vision du monde et du travail. Cela pourrait tenir en deux étapes. Étape 1 : réduire tous les emplois en petites tâches compréhensibles par une machine. Étape 2 : dissoudre le travail dans les machines. C’est le même processus qui aurait mis les ouvriers derrière les machines, ou les clients devant les distributeurs de billets plutôt que face aux guichetiers. Pour Casilli, et comme il l’explique à Libération, l’objectif de cette IA est de « discipliner la force de travail », de calmer ses ardeurs en lui rappelant que si elle en demande trop, on l’automatisera. Automatisation qui relève selon lui d’un mythe : les distributeurs de billets n’ont pas remplacé les guichetiers, rappelle-t-il en début d’ouvrage. En d’autres termes, l’intelligence artificielle ne détruirait pas le travail, mais ne ferait qu’en déplacer les modèles et modalités.

Une thèse qui ne fait pas l’unanimité mais que partage l’activiste Astra Taylor (@astradisastra), pas loin elle non plus de nous dire que l’automatisation est une farce. En témoigne sa charade de l’automatisation où elle explique que la soi-disant obsolescence de l’homme a souvent servi de prétexte pour réduire en cendre les revendications des salariés. Ce fut le cas en 2013 lors du mouvement « Fight for 15$ », au cours duquel les salariés des fast-foods américains demandèrent une revalorisation salariale. De son côté, l’ancien PDG de Mac Donald les menaçait subtilement d’automatisation. Ce qui ne manqua pas d’arriver quelques mois plus tard quand la grande chaîne de fast-food introduisit les bornes digitales en libre service dans ses restaurants. Seulement voilà, le travail des salariés n’a pas disparu. Les clients se chargent de sélectionner leurs menus (ce sont maintenant eux qui travaillent, dirait Casilli). Les employés de la chaîne, quant à eux, préparent les commandes. « Macdo » les embauche encore, le travail aurait juste, de nouveau, été déplacé. Le fond de l’affaire serait psychologique : il s’agirait de faire croire à n’importe quel travailleur qu’il est potentiellement automatisable. Astra Taylor invente un terme pour exprimer cette peur de l’automatisation qui n’arrive jamais : « Fauxtomation ». La fauxtomation, c’est le « en attendant les robots » de Casilli. Une épée de Damoclès technologique. Un horizon menaçant dont le seul objet serait de reproduire les structures en place. De nouveau, il n’y a pas d’automatisation, il y a juste des rapports de force.

Ces deux pensées font écho à ce que le philosophe allemand Günther Anders (1902-1992) appelait la « honte prométhéenne » : ce sentiment de faiblesse qui s’empare de l’homme quand celui-ci compare sa condition biologique à la toute puissance de la machine. Mais quand on y réfléchit, cette honte ne mène à rien, car le match est truqué. Il n’y a aucune raison d’être honteux face à une machine, pas plus que face à un casse-noix qui lui, casse des noix bien plus vite et mieux que nous. Nous ne sommes pas non plus honteux face aux mouches (qui volent, elles), ou devant les lapins (qui copulent cent fois plus). Pour le dire autrement, Casilli, Taylor et Anders analysent la technologie selon un prisme nouveau, mais celui-ci n’épuise pas les nombreuses interprétations disponibles sur le marché des idées.

Et c’est là toute la difficulté. Si on la dilue dans les rapports de domination qui la sous-tendent, alors l’intelligence artificielle disparaît à leur profit. On ne voit plus que ce qu’on ne voyait pas avant : des travailleurs pauvres dans des pays lointains. Mais il reste que, du point de vue du développeur, l’intelligence artificielle est un programme qu’il souhaite mettre au service de ceci ou de cela, sans nécessairement désirer un déclassement généralisé de la population. Du point de vue de l’historien des sciences, l’intelligence artificielle sera un assemblage de techniques, d’inventeurs et de faits sociaux qui ont conduit à son premier véritable essor au sortir de la Seconde Guerre mondiale. Du point de vue du badaud qui traduit un texte dans une langue étrangère, elle sera une aide précieuse. Du point de vue de l’entrepreneur, un relais de croissance. Et ainsi de suite. Tous ces points de vues sont réels. D’où ce paradoxe : si l’une de ces visions ne saurait remplacer toutes les autres, leur coexistence ne devrait pas non plus diluer le tout dans un relativisme inopérant. Ou plus grave, dans une tétanie annihilant toute action ou réflexion pour le mieux plutôt que le pire.

Derrière les promesses de l’intelligence artificielle, le cauchemar du “digital labor”

Claire Richard.

Un spectre hante l’intelligence artificielle, c’est le digital labor. Le dernier livre du sociologue Antonio Casilli , spécialiste des réseaux sociaux et des mutations du travail à l’ère numérique, dresse un panorama sombre des nouvelles formes de travail déconsidéré ou invisible apparues avec l’essor des plateformes et de l’automatisation.

En attendant les robots (Seuil), Le nouveau livre d’Antonio Casilli s’ouvre sur une histoire édifiante. Simon (c’est un nom d’emprunt) est embauché dans une start-up qui promet une solution d’intelligence artificielle pour proposer des offres personnalisées à des clients de luxe. Peu de temps après son arrivée, à la machine à café, il demande à un collègue pourquoi la boîte n’a pas embauché de data scientist, si son cœur de métier est l’IA. Parce qu’il n’y a pas d’IA, s’entend-il répondre. La personnalisation des offres, ce sont des humains qui la font : des travailleurs à Madagascar – et de temps en temps les stagiaires.

Le « secret » des intelligences artificielles ? Les humains

On l’aura compris : le titre de l’ouvrage, En attendant les robots, et sa référence à Beckett, est ironique. Car Antonio Casilli ne croit pas au « grand remplacement technologique », le spectre de la disparition des emplois à cause de l’intelligence artificielle, agité tant par des chercheurs (on se souvient de la fracassante étude d’Oxford annonçant que 47% des emplois disparaîtraient avec l’automatisation) que des éditorialistes et des entrepreneurs.
En réalité, explique le chercheur, les solutions d’intelligence artificielle actuellement disponibles sur le marché ne peuvent se passer d’humains. Même en laissant de côté les supercheries comme celle citée plus haut, les exemples sont légions : systèmes de modération de contenus vérifiés largement par des humains (comme chez YouTube), opérateurs vérifiant les appariement proposés par des machines (comme chez Amazon), assistants virtuels intelligents reposant largement sur des humains (comme l’assistant virtuel de Facebook « M », retiré de la circulation depuis) ou encore voitures autonomes assistées par des opérateurs chargés d’analyser le données récoltées par le système (comme chez Uber, où un chef de projet, ancien chef de projet de Google Street View, a décrit lesdits opérateurs comme des « robots humains »).
« Ce ne sont pas les machines qui font le travail des hommes, mais les hommes qui sont poussés à réaliser un digital labor pour les machines en les accompagnant, en les invitant, en les entraînant », résume le chercheur.
Les intelligences artificielles doivent toujours être paramétrées, entraînées et encore très largement supervisées par des humains, malgré les progrès des méthodes d’apprentissage non supervisés. Les progrès fulgurants des IA ces dernières années sont surtout dus à l’explosion des quantités de données d’entraînement : or celles-ci doivent être triées, annotées, préparées par des humains. Et enfin, ces programmes doivent être évalués et corrigés pour pouvoir s’améliorer. Ainsi, les utilisateurs vont utiliser pendant plusieurs années une version beta du service Gmail de Google, pour l’améliorer, ou tagger leurs amis sur des photos et contribuer ainsi sans nécessairement en avoir conscience à l’affinement du service de reconnaissance faciale de Facebook : « C’est un travail humble et discret, qui fait de nous, contemporains, à la fois les dresseurs, les manouvriers et les agents d’entretien de ces équipements. »
La question que pose l’intelligence artificielle et l’automatisation, ce n’est donc pas celle de la menace sur l’emploi – mais celle de la transformation profonde du travail pour répondre aux besoins de la machine.

Un travail invisible

Ces nouvelles formes de travail, Antonio Casilli les range dans la catégorie du digital labor. Littéralement « travail numérique », le terme désigne l’ensemble des nouvelles formes de tâches que nécessite l’économie des plateformes numériques — que ces tâches soient ou non (et c’est un point crucial) reconnues comme du travail. Le digital labor, la plupart du temps, est invisible. Parce qu’une large part se déroule dans les pays du Sud, à la périphérie de la conscience des pays du Nord. Et surtout parce que les plateformes refusent de le considérer comme travail : elles se décrivent comme des services, des intermédiaires mettant en relation des groupes d’usagers différents, des espaces de publication ou des marchés – mais jamais comme des employeurs. Pourtant, dit Antonio Casilli, c’est faux. Elles font bien appel à du travail immatériel mais soit elles le délocalisent, soit elles le rendent invisibile, soit elles le font passer pour des activités ludiques. Quoi qu’il en soit, écrit-il, il existe « un continuum entre activités non rémunérées, activités sous-payées et activités rémunérées de manière flexible. »

Tâcherons, salariés déguisés et utilisateurs dupés : les visages du digital labor

Antonio Casilli décrit surtout des cas assez connus (les chauffeurs Uber, les travailleurs à la tâche payés quelques centimes de la plateforme Mechanical Turk, et les usagers de Facebook), et on n’y trouvera pas de révélations factuelles fracassantes – même si on apprend au détour d’une page que Google emploie des humains pour vérifier les résultats de son moteur de recherche, qu’Uber embauche des opérateurs pour assister ses voitures automatiques , que Twitter vend désormais les données de ses utilisateurs à des fins publicitaires mais aussi à des entreprises de solution de machine learning, comme IBM, Oracle ou Salesforce, ou encore que les détenus chinois ou russes sont parfois forcés de travailler à produire des vidéos YouTube ou des contenus web, monétisés par les prisons).
Mais l’enquête n’est pas le propos du livre : l’auteur se propose surtout de brosser un panorama des différentes formes de digital labor.
Il décrit d’abord le monde du « microtravail » : les toutes petites tâches proposées sur des plateformes comme Mechanical Turk, Freelancer ou Upwork, sur lesquelles n’importe qui peut s’inscrire et offrir ses services pour des sommes avoisinant souvent les dizaines de centimes. Ces « micro-tâches » sont diverses : filtrer des contenus sur les plateformes, traduire des mots ou des groupe de mots pour développer des services de traduction « intelligents », identifier des éléments sur une image pour améliorer un service de géolocalisation, enregistrer des bribes de conversations ou les transcrire pour développer des assistants vocaux, vérifier les résultats d’un moteur de recherche ou passer derrière des algorithmes de filtrage… Elles ont en commun d’être infimes, répétitives, peu qualifiées, et peu ou pas payées.
Viennent ensuite les travailleurs à la demande, les usagers de plateformes de travail comme Uber, Foodora, Deliveroo. Ils utilisent le service de la plateforme, qui prélève une commission sur les échanges, mais ce n’est pas leur seule contribution. Ils produisent des données personnelles diverses et les qualifient (quand un chauffeur note son passager ou son passager un chauffeur) — celles-ci peuvent alors également être vendues ou utilisées pour améliorer l’algorithme.
Ce qui fait plus débat concerne le troisième cas, celui des contributions non payées : les posts, les commentaires, les messages, les évaluations, les partages… Pour certains, ce sont des marques de la culture web, de la sociabilité, de l’expression… et pour d’autres, dont Antonio Casilli, du travail gratuit. La plateforme tire une valeur réelle, et monétisée, des activités et des données des usagers. Elle capte et exploite la valeur générée par ces activités, ces données – qui peuvent être vendues ou utilisées pour entraîner des algorithmes, par exemple. Mais les usagers ne touchent aucune rétribution, en dépit du fait que leur activité génère de la valeur et est indispensable au fonctionnement économique du site et constitue donc une forme de travail. On peut citer le fait, par exemple, que les influenceurs sont rémunérés pour leur posts, ou encore que, parmi la minorité d’usagers très actifs sur une plateforme, une portion non négligeable espère se professionnaliser (ce que des sociologues ont décrit comme le « hope labor », le travail de l’espoir).
Certains exemples sont plus convaincants que d’autres : forcer les internautes à identifier des images pour accéder à des contenus, comme avec le système ReCAPTCHA, semble clairement relever du travail gratuit. Poster ou partager un post qui nous tient à cœur entre dans une catégorie plus difficile à cerner. En réponse à ces critiques, Antonio Casilli rappelle que la notion de travail est le produit de luttes de définition et de luttes sociales. Ainsi, le féminisme a fait émerger la notion de « travail domestique » puis de travail de care, pour désigner des activités qui étaient jusqu’alors considérées comme allant de soi.

Extension du travail précaire sous couvert de liberté

Ce digital labor est donc extrêmement répandu en ligne. Il témoigne, explique le chercheur, de deux tendances à l’œuvre dans un champ plus large que le numérique : la mise au travail de pans croissants de notre réalité d’une part (puisque nos technologies de communication nous permettent d’être joignable et productifs partout et tout le temps, et puisque toutes nos données peuvent être potentiellement génératrices de valeur), l’érosion du modèle du salariat d’autre part. Or le salariat est fondé sur un pacte entre l’entreprise et le salarié : en échange de sa subordination, l’entreprise lui fournit une certaine protection sociale. Aujourd’hui quand elles refusent d’être considérées comme des employeurs (même si la justice ne leur donne pas toujours raison), les plateformes mettent à mal ce pacte et participent à une tendance vers des travailleurs toujours plus isolés et aux droits restreints : elles concluent, dit Antonio Casilli « un pacte oxymorique » avec le travailleurs, « en les mettant à la fois au travail et hors travail ».
Les plateformes mettent en avant la liberté du travail indépendant, la possibilité d’être entrepreneur de soi-même sans avoir à se plier aux règles hiérarchiques. « Idéalement, sur les plateformes et dans leurs écosystèmes, tout individu est une start-up », résume le chercheur.
Cet imaginaire largement libertarien irrigue profondément la culture du web depuis ses débuts et s’incarne, par exemple, dans la figure du hacker ou de l’entrepreneur nomade, du passionné qui s’accomplit dans un « projet professionnel qui est aussi existentiel ». Mais Antonio Casilli note combien cette vision est élitiste et ne prend pas en compte l’asymétrie des forces dans un marché du travail en berne où le chômage est élevé et l’ascenseur social en panne, dans un passage qu’on a envie de citer en entier :
« Aucune place, dans cette définition, pour la routine des microtravailleurs de Clickworker, l’épuisement des livreurs de Foodora ou la confusion des poinçonneurs de ReCAPTCHA transcrivant des mots machinalement pour entraîner des systèmes de vision par ordinateur. Cette approche passe donc sous silence les perdants de la transformation numérique : ceux dont l’extrême flexibilité n’est pas un choix de vie et dont le digital labor à la chaîne peut difficilement être considéré comme un vecteur de réalisation de soi. Les entrepreneurs d’eux-même que célèbre le discours d’accompagnement des plateformes laissent une fois de plus dans l’ombre les digital laborers, souffrant de la vacuité et du caractère répétitif de leurs tâches ou anesthésiés par la ludification de leurs usages. La « soif de liberté » n’est certainement pas moins grande que celle des slashers, co-workers, lanceurs de start-up et autres « précaires entreprenants » qui se vivent comme des fugueurs de la condition salariale, mais elle n’a manifestement pas plus de chance d’être étanchée que leur quête de stabilité dans l’emploi d’être atteinte. »

En l’absence de régulation, le digital labor préfigure le pire du travail : un monde de travailleurs isolés, privés de droits sociaux et iolés les uns des autres, livrés aux conditions léonines des employeurs — et accomplissant des tâches standardisées, fragmentées, peu qualifiées et dépourvues de sens global. Ici et là, des tentatives de régulation ou de création de plateformes équitables sont en cours. Il est urgent de les soutenir, si l’on ne veut pas que le développement croissant de l’automatisation ne soit synonyme non d’une disparition du travail, mais de sa dégradation irrémédiable.