intelligence artificielle

Grand entretien dans Les Inrockuptibles (9 mars 2019)

La face cachée de l’intelligence artificielle : comment les forçats du clic font fonctionner les robots

Propos recueillis par Nidal Taibi.

Dans son ouvrage “En attendant les robots”, le sociologue Antonio Casilli enquête sur le travail du clic, l’autre versant de l’intelligence artificielle, et remet en question la thèse du “grand remplacement” de l’homme par les robots dans le monde du travail. Entretien.

Les premières inventions de la révolution industrielle au XIXe siècle ont témoigné de l’émergence d’un climat de panique généralisé chez les travailleurs, qui ont longtemps vécu sous la crainte d’un “grand remplacement” de l’homme-travailleur par les machines. A l’ère des technologies numériques, cette crainte se voit désormais dirigée à l’encontre des robots, qui seraient en train de supplanter les hommes dans le monde du travail.Cette analyse est devenue si hégémonique qu’elle est défendue—dans les champs médiatique ou politique—non seulement par les chantres du néolibéralisme mais également par quelques personnalités qui se veulent attachées à la justice sociale et aux acquis sociaux. Tel est le cas, par exemple, du candidat socialiste à la présidentielle de 2017, Benoît Hamon, qui avait établi son programme sur l’hypothèse de la substitution des robots aux hommes dans le monde du travail ; d’où la proposition axiale de son programme qu’était celle du revenu universel.

Pour Antonio Casilli, sociologue, enseignant-chercheur à Télécom ParisTech et chercheur associé au LACI-IIAC de l’EHESS, l’automation intégrale des machines est une arlésienne, promise depuis plusieurs décennies, voire siècles. Mais derrière les automates se cachent des millions de forçats du clic, rémunérés, dans certains cas, à moins d’un centime par clic, et sans lesquels les appareils guidés par l’”intelligence artificielle” ne pourraient jamais fonctionner. A cette analyse qu’il documente dans son ouvrage En attendant les robots(Seuil), le sociologue propose des pistes de solution à cette nouvelle forme de précarisation, poussée à l’extrême. Il revendique ainsi la nature politique de son travail. Entretien.

Qu’entendez-vous exactement par l’expression du titre de votre ouvrage, “en attendant les robots”?

Antonio Casilli – Le titre de l’ouvrage est une allusion à la pièce de théâtre de Samuel Beckett En attendant Godot. L’idée du dramaturge, que je reprends ici, est de véhiculer une sensation d’attente d’une entité transcendante, surnaturelle, qui finalement ne se manifeste jamais. Quand on prête attention au discours et à la mythologie concernant les robots, ceux-ci promettent toujours des choses qui n’arrivent jamais: cela fait plus de deux siècles qu’on ne cesse d’entendre que le travail humain disparaîtrait, que l’être humain serait condamné à l’oisiveté totale à cause de son remplacement par les robots, etc. Or, force est de constater que les transformations ne se manifestent pas dans les termes de ces différentes prophéties. Je voudrais aussi souligner que le noyau de cette expression est le terme “robot”, que j’utilise selon une acception précise. D’habitude, quand on parle de robots on pense automatiquement à des machines anthropomorphiques, telles qu’elles sont représentées dans les films de science-fiction ou dans l’iconographie de l’intelligence artificielle. Ici, je parle de «robot» en tant que machine intelligente et communicante, donc surtout en tant que machine de l’intelligence artificielle. Précisément, quand je parle de robots, je parle des data,de leurs valeurs, de leurs modalités d’extraction et de production, et de leur utilisation aussi bien à des fins de ciblage publicitaire qu’à des fins d’automatisation, c’est-à-dire comment elles sont utilisées pour entraîner et pour calibrer les machines de l’intelligence artificielle.

Vous entendez par là que l’intelligence artificielle n’est finalement pas si artificielle qu’on le laisse entendre?

Je démontre en effet dans le livre que l’intelligence artificielle ne l’est pas vraiment dans la mesure où elle est faite à la main, ou plutôt au doigt. D’où l’usage du terme digital labor,qu’on utilise pour la caractériser et qui fait référence au travail du clic nécessaire pour faire fonctionner l’intelligence artificielle.Il faut souligner aussi que lien entre “intelligence artificielle” et “robot” est l’automation, qui sert à véhiculer l’idée selon laquelle les machines sont capables de penser. C’est cela justement le pari des scientifiques et des investisseurs qui se nourrissent de cet espoir. Parfois les entreprises trichent en quelque sorte dans le sens où elles essayent de vendre du rêve aux investisseurs. Pour cela, ils mettent en place de la “fautomation”, c’est-à-dire de la fausse automation, ou de l’intelligence artificielle qui est artificielle, qui consiste à injecter du travail humain invisibilisé, et qu’on évite d’appeler travail, qu’on divise en une multitude de micro-tâches et qu’on ne rémunère pas ou trop peu. A proprement parler, il n’y a pas d’artifice dans ces machines.

Pour qualifier ce phénomène du travail du clic, vous préférez utiliser le terme de plateformisation. Pourquoi insistez-vous sur le choix de ce terme?

Je considère en effet que le terme plateformisation permet de bien définir le processus historique qui se cache derrière la soi-disant automation. Très souvent, quand on annonce l’automatisation d’un processus métier, en réalité, on ne fait que le plateformiser, c’est-à-dire qu’on le délègue à une plateforme qui réalloue ces mêmes processus mais sous une forme fragmentée en tâches destinées à une myriade de tâcherons du clic.Le terme plateformisation permet également de pointer un changement radical par rapport aux cadres du travail dans l’entreprise, et dans le marché d’un point de vue général. La plateforme, en tant que paradigme technologique et économique, est une nouveauté dans le sens où le travailleur renégocie constamment les règles, les rémunérations, la quantité de travail, en bref: toutes les conditions de travail. Dans une entreprise, la confrontation entre employeur et salariés s’interrompt, du moins pour un temps, avec le contrat de travail. Dans les plateformes, cette stabilité disparaît et les négociations ne s’interrompent jamais.

Le terme plateforme pousse à imaginer une structure horizontale, régie par un fonctionnement démocratique. Vous défendez dans l’ouvrage que c’est le contraire qui s’y passe…

Je me réfère sur ce point aux travaux de Tarleton Gillespie [Professeur au département de communication à l’Université de Cornell, NDLR]. Il insiste sur le fait que le terme plateforme et la rhétorique dont il fait l’objet impliquent la platitude et l’horizontalité, alors qu’en réalité les plateformes sont des structures verticales et très hiérarchisées. Pensez par exemple à Amazon: l’entreprise se présente comme une plateforme d’e-commerce et de Cloud, alors qu’on yretrouve les formes les plus radicales de verticalité dans la gestion du personnel, ce qui pousse au burn-out et à d’autres formes d’épuisement professionnel. Cela se voit plus clairement dans l’organisation du travail dans les entrepôts de l’entreprise, où on assiste à des hiérarchies tayloristes.Cette logique est poussée à l’extrême particulièrement dans la branche Amazon Mechanical Turk, qui est une plateforme de micro-travail où on retrouve la verticalité la plus totale, alors qu’on essaye de donner l’impression de faire participer tout le monde au même projet. Au contraire, c’est un structure qui fait l’intermédiaire entre des entreprises qui offrent des tâches et des tâcherons du clic qui les exécutent.

L’origine du nom de la plateforme Amazon Mechanical Turk a une histoire bien particulière, qui en dit sans doute long sur son esprit. Pourriez-vous nous la rappeler?

Le nom est emprunté au Turc mécanique, qui est un automate du XVIIIe siècle. Il avait rempli le rôle d’un joueur d’échec déguisé en Turc ,ottoman, et qui était censé être la première intelligence artificielle dans l’histoire. C’était un robot qui défiait des joueurs d’échec humains, et le but était de simuler les processus cognitives humains. Or, il s’agissait d’un simple canular: à l’intérieur de l’automate se cachait un être humain.Cette métaphore a été reprise au premier degré par Jeff Bezos [fondateur et directeur-président général d’Amazon, NDLR] quand il a lancé en2005 ce service d’Amazon Mechanical Turc, qui est un service d’externalisation du travail à la tâche. C’est une sorte d’Uber ou de Deliveroo mais poussé à l’extrême: le requérant paye quelques centimes pour l’exécution de petites tâches: traiter des textes, taguer des vidéos, etc. Ces petites tâches participent à entraîner des processus automatiques de l’intelligence artificielle. D’où la définition que Bezos a proposé pour présenter son service: “une intelligence artificielle artificielle”. Parce que finalement il s’agit d’une intelligence artificielle où le calcul est exécuté par les êtres humains.

Il paraît curieux que Amazon ait repris et revendique le nom d’un canular. A votre avis, pourquoi l’entreprise reprend ce nom alors que ce n’est pas forcément quelque chose de glorieux ni de valorisant ?

D’un certain point de vue, Amazon est sûr de ne pas subir les conséquences de cette initiative. Mais il faut aussi souligner un changement qui a eu lieu au sein d’Amazon Mechanical Turc entre le moment où la plateforme a été lancée et aujourd’hui: on s’est rendu qu’on peut vendre ce service aux entreprises d’une manière, dirais-je, un peu plus “noble”. L’idée est d’avouer qu’on n’est pas encore véritablement entré dans l’ère de l’intelligence artificielle tout en promettant qu’on s’y dirige.Il s’agit d’une nouvelle rhétorique qui s’est imposée à partir des années 2010. Elle consiste à dire “oui, aujourd’hui on n’est pas dans l’automation complète. Mais attendez, ça va arriver”.

Tandis que le sociologue que vous êtes estime que cela ne va pas arriver?

Je viens d’un pays, l’Italie, où on avait un fameux dicton qui dit “la révolution c’est pas pour aujourd’hui, mais peut-être pour demain, et certainement pour après-demain”. Ce qui n’est qu’une manière de procrastiner.On retrouve la même idée dans la rhétorique entourant l’automation. Cela est par excellence la définition marxiste de l’aliénation. A savoir la promesse d’un futur transcendant meilleur, qu’il soit d’ordre religieux, politique ou technologique. Ainsi, on étrangle toute tentative de changement de la situation dans le présent. C’est ce que je développe dans la dernière partie de mon livre où je démontre que ce genre de travail manque de reconnaissance, et que là les syndicats ont un rôle à jouer. C’est pour ça que j’appelle à la grande méfiance vis-à-vis du discours des artificiers de l’intelligence artificielle qui essayent de faire croire à ces travailleurs que leur travail est voué à disparaître et à être complètement remplacé par l’automation. Ce qui sous-entend: “votre travail est éphémère et vous n’avez aucun intérêt à vous organiser à moyen ou à long terme”.Je peux ajouter un exemple d’actualité: Amazon vient de lancer, en 2019, Amazon scout, qui est un robot présenté comme automatique et censé assurer la livraison des colis. Or ce sont des robots dirigés par ce qu’on appelle des “overseers”, c’est-à-dire des gardiens du qui accompagnent le robot dans son fonctionnement. Amazon se défend sur ce point en disant que le besoin de ces “overseers” n’est que temporaire. Mais en réalité, ils tiennent le même discours depuis plusieurs années.

Dans ces conditions de travail particulières, vous défendez que l’exploitation des travailleurs prend de nouvelles formes, plus radicales. Pourriez-vous nous les présenter?

Il y a plusieurs manières d’approcher l’exploitation dans ce contexte. Dans mon cadrage théorique, par exploitation j’entends surtout le travail dans des conditions qui ne sont pas formalisées et où les travailleurs ne sont pas rémunérés de manière adéquate.Il existe aussi d’autres formes d’exploitation qui renvoient à—selon l’expression de certains—de nouvelles formes de colonialisme. Pour ma part, je préfère parler d’immigration à distance. Je pense à la délocalisation de certains processus métiers dans des pays tiers en voie de développement, où le salaire est très faible. Il faut souligner que pour la même tâche réalisée en France ou à Madagascar, le prix est incomparable: dans le premier cas la rémunération peut atteindre quelques dizaines de centimes, voire quelques euros, dans le second on est à moins d’un centime par tâche.La troisième forme d’exploitation, qui est plus occulte et plus difficile à voir, est celle du travail gratuit. Il faut savoir que chaque utilisateur lambda des médias sociaux ou les plateformes, en créant des données (par exemple en taguant sur des photos, en notant ou en commentant un article qu’il a acheté, etc.) crée de la valeur. Cette valeur est ensuite captée, gratuitement, par ces entreprises.

Sur ce point, il existe une controverse entre universitaires : entre, d’une part, les “travaillistes”, qui considèrent les activités que vous venez de citer comme du travail, et, d’autre part, les “hédonistes”, qui les considèrent plutôt comme une activité ludique. Pourriez-vous nous préciser ces deux approches ?

Les premiers appréhendent la participation sur les médias sociaux comme une relation sociale relevant du travail et caractérisent l’appropriation par les grandes plateformes de la valeur qui en résulte comme un rapport d’exploitation. Quant aux seconds, ils interprètent la production de ces contenus comme l’expression d’une quête de plaisir et une participation librement consentie à une nouvelle culture de l’amateurisme, et, par là, nient la pertinence même de la notion de digital labor. A vrai dire, ce clivage est assez simpliste et j’essaye dans mon livre de le dépasser; mais disons que ma position est plutôt du côté travailliste puisqu’après tout, c’est du travail que s’efforce de réaliser l’usager dans ces circonstances, ne serait-ce que par l’effort cognitif qu’il engage …

Cela nous amène au cœur de votre démarche. Votre travail ne se limite pas à présenter des constats mais défend également des points de vue, argumente des choix politiques, propose des solutions.C’est un parti pris délibéré ?

Effectivement, c’est un ouvrage sociologique et politique aussi. Il faut se méfier des travaux sociologiques qui présentent des conclusions sous des allures de neutralité. Dans la mienne, intitulée “Que faire?”, je propose explicitement plusieurs pistes de solution, telles que l’inscription du digital labor dans l’orbite du salariat avec l’appui des syndicats, le “coopérativsme de plateforme”comme le propose Trebor Scholz dans son livre-manifesteou encore l’élaboration d’une gouvernance commune sur les données.


Antonio Casilli, En attendant les robots. Enquête sur le travail du clic, Seuil, 2019.

Compte-rendu dans Le Temps (Suisse, 22 févr. 2019)

Le quotidien genevois Le Temps publie une recension de mon ouvrage En Attendant les Robots (Ed. du Seuil, 2019).

L’intelligence artificielle, côté cour

Dans un essai stimulant, le sociologue Antonio Casilli démonte le mythe de la disparition du travail humain face au triomphe de la robotisation. Or si l’homme demeure indispensable, la valeur de son labeur tend à être occultée

Dans un texte fulgurant, Marx entrevoyait une société où le travail serait entièrement automatisé. Plus besoin de travailleurs, les machines feraient tout. Marx y voyait une immense promesse d’émancipation: car s’il n’y a plus besoin de personne pour travailler, il n’y a plus personne à exploiter. L’automatisation intégrale du travail permettrait à chacun, enfin, de s’épanouir.

Cent cinquante ans plus tard, le remplacement de l’humain par les machines est à l’ordre du jour, tous les jours. Que n’a-t-on entendu de prophéties, enflammées ou catastrophistes (c’est selon), sur l’obsolescence de l’homme, en tout cas de son travail, appelé à disparaître sous l’effet de la marche triomphale de l’intelligence artificielle (IA)? Robotisation, automatisation, numérisation: le travail humain deviendrait très vite marginal, et finalement inutile.

Bluff technologique

Illusion, nous dit Antonio Casilli dans son livre En attendant les robots. La disparition du travail humain, c’est de la poudre aux yeux, un slogan publicitaire, un élément de langage lénifiant dans une stratégie économique implacable. Un véritable bluff technologique. Car la réalité de l’intelligence dite artificielle est tout autre: elle n’élimine pas le travail, mais le dissimule; elle ne le supprime pas, mais le rend invisible. Les grandes plateformes que nous connaissons tous (Facebook, Uber, Amazon, Airbnb, etc.), qui toutes reposent sur les performances de l’IA, ne seraient rien sans ce qu’on appelle désormais le digital labor: un travail humain qui prélève, sélectionne, interprète des données sans lesquelles les machines seraient sourdes et aveugles.

Qui fait ce travail invisible? Nous, lorsque nous utilisons ces plateformes et produisons par là même des données (et notons les services par exemple), ou des millions de tâcherons répartis de par le monde, invisibles et sous-payés, des «prolétaires du clic». Qu’on le fasse par loisir ou pour compléter ses revenus, le digital labor produit une valeur sans laquelle les machines ne pourraient fonctionner. De sorte que Casilli invite à un renversement de perspective: «Ce ne sont pas les machines qui font le travail des hommes, mais les hommes qui sont poussés à réaliser un digital labor pour les machines.» Le travail est déplacé et masqué, pas remplacé. Le digital labor ne peut être automatisé, car c’est lui qui rend possible l’automatisation.

Arrière-boutique

L’intérêt de l’étude de Casilli est de replacer la problématique économique et philosophique de l’IA dans les conditions sociologiques de sa mise en œuvre. Il montre ainsi, moult exemples à l’appui (comme les prétendues voitures autonomes, qui ne sont pas si autonomes que cela, le passager jouant à maints égards le rôle du conducteur), que, pour des raisons à chaque fois différentes selon les secteurs, les agents humains jouent nécessairement un rôle de premier plan dans toutes ces activités «algorithmées». D’où cette formule frappante, qui masque toutefois la finesse et de détail des analyses de Casilli: «Une façade avec un ingénieur qui vante les prouesses de sa machine et une arrière-boutique dans laquelle des travailleurs se tuent à la microtâche.»

Au cœur de ce livre passionnant et novateur, ce paradoxe: «Les algorithmes sont des objets artificiels qui doivent produire des résultats ayant une signification dans un monde humain, dont ils n’ont pourtant aucune expérience. Ils ne sont pas inscrits culturellement et socialement dans le monde, et c’est pourquoi ils ont besoin de déléguer aux humains cette responsabilité.» C’est un argument puissant contre la prophétie de Marx, qui est entre-temps devenu – autre paradoxe – le rêve des entrepreneurs du numérique d’aujourd’hui.

[Podcast] Sur Radio-Canada, à l’occasion de la sortie de “En attendant les robots” [Canada, 18 févr. 2019]

A l’occasion de la sortie de En Attendant les Robots (Seuil, 2019) au Canada, la radio québecoise m’a interviewé.

Derrière l’intelligence artificielle, des ouvriers sous-payés

Un homme pointe une infographie de cerveau.
Toute intelligence artificielle est d’abord entraînée par un être humain.   Photo : getty images/istockphoto / hwanchul

Les grandes entreprises vantent l’intelligence artificielle (IA) comme étant la technologie de l’avenir. Quoi de plus efficace que des machines qui s’améliorent par elles-mêmes en apprenant du comportement des utilisateurs? Ce que l’on sait moins, c’est que derrière ces machines et ces algorithmes, se cache de la main-d’oeuvre bon marché, véritable clé du succès de l’IA. Le sociologue Antonio Casilli dresse le portrait de ces « travailleurs du clic » dans son livre En attendant les robots.

Que ce soit l’assistant Siri sur votre téléphone intelligent, votre Google Home ou votre GPS, les objets utilisant l’IA ont besoin d’être entraînés pour s’améliorer et gagner en efficacité, explique Antonio Casilli. Derrière ces équipements, il y a des êtres humains qui sont recrutés pour retranscrire et écouter afin de s’assurer que le logiciel a bien interprété ce qu’on a dit, précise le sociologue. Parfois, il s’agit véritablement d’écouter les conversations des utilisateurs, et c’est quelque chose qui est ignoré par les utilisateurs mêmes.

Ces personnes qui travaillent à améliorer l’AI, que l’on compte par millions, sont pour la plupart des femmes et sont souvent basées dans des pays en développement. Leur emploi est généralement très précaire et elles ne sont pratiquement pas payées pour le travail qu’elles accomplissent.

Pourtant, il s’agit de personnes cruciales pour développer certains robots, souligne Antonio Casilli.

Qui dresse [ces robots]? Non pas des ingénieurs, non pas des informaticiens, mais plutôt des personnes qui sont des ouvrières du clic qui produisent des millions d’exemples grâce auxquels les machines apprennent.Antonio Casilli, sociologue

Le sociologue affirme que les grandes entreprises technologiques laissent volontairement ces travailleurs dans l’ombre afin de faire croire au public que l’IA n’aura bientôt plus besoin de l’humain pour grandir. Cette hypocrisie est nécessaire pour convaincre les travailleurs et travailleuses qu’ils ne sont pas nécessaires, que leur travail est justement quelque chose qui va disparaître, soutient-il.

Grande interview sur les communs numériques (Le Monde, 14 févr. 2019)

Dans le quotidien Le Monde, j’ai accordé une interview au journaliste Frédéric Joignot.

« L’essor des technologies numériques a encouragé un renouveau de l’esprit des “communs” »

Le sociologue Antonio A. Casilli explique en quoi le mouvement du coopérativisme de plate-forme annonce une coexistence entre les plates-formes orientées vers le profit et celles inspirées par l’économie sociale et solidaire.

Propos recueillis par Frédéric Joignot Publié le 14 février 2019 à 18h36

Temps de Lecture 94 min.

Article réservé aux abonnés

Dans son essai En attendant les robots. Enquête sur le travail du clic (Seuil, 400 p., 24 €), le sociologue Antonio A. Casilli explique comment les grandes plates-formes électroniques s’appuient sur une armée de travailleurs sans garantie et de tâcherons sous-payés. Mais des formes de résistance se font jour.

Alors que se développe un « capitalisme de plate-forme », souvent appelé « ubérisation », vous évoquez le possible essor d’un « coopérativisme des plates-formes ». Dites-nous en davantage…

On voit bien l’attrait que peut représenter la forme coopérative pour les livreurs express de Deliveroo, pour les photographes de Flickr ou pour ceux qui effectuent des tâches ménagères par le biais de la plate-forme TaskRabbit… Pour eux, des alternatives mutualistes telles Coopify, CoopCycle ou Stocksy représentent des manières de gérer de manière autonome les services et les contenus qu’ils produisent. C’est la possibilité d’intégrer ces plates-formes non pas en simples façonniers mais en copropriétaires…

Ce mouvement cherche aussi à rétablir le respect des travailleurs des plates-formes, qui, vous le montrez bien, prennent tous les risques, apportant les moyens de production (véhicule, logement, etc.), travaillant à la tâche, subissant toutes les fluctuations du marché…

Le mouvement du coopérativisme de plate-forme est né de la convergence de deux volontés politiques. D’une part, il aspire à réformer le capitalisme des plates-formes pour le rendre plus éthique, plus respectueux des réglementations en vigueur et du code du travail, moins nuisible aux équilibres sociaux. De l’autre, il encourage la « transformation numérique » des coopératives traditionnelles et des structures de l’économie sociale et solidaire. Même si l’on peut espérer que ces deux lignes de tendance convergent, nous sommes face à un mouvement fortement hétérogène et, pour le moment, incapable de fédérer les diverses « familles » de travailleurs de plates-formes.

Vous pensez aux « travailleurs du clic » ?

De quelle manière une plate-forme coopérative pourrait-elle changer la condition des plus exploités des travailleurs du clic, les « microtâcherons » payés à la pièce pour faire tourner les intelligences artificielles ? Pour eux, le seul pas dans la direction de plates-formes plus mutualistes a été réalisé avec le lancement du service Daemo, où le pouvoir était réparti de manière équilibrée entre les « requérants » (les entreprises qui veulent entraîner leur intelligence artificielle) et les microtâcherons. Cette plate-forme « autogouvernée », alternative à Amazon Mechanical Turk, s’est tout de suite heurtée à la puissance du géant de Seattle…

Le scénario que le mouvement coopérativiste annonce est celui d’une coexistence entre les plates-formes orientées vers le profit et celles inspirées par l’économie sociale et solidaire. Le risque est que ces dernières se limitent à être la « caution éthique » des premières, voire à être récupérées comme variante présentable, mais jamais réellement concurrente, de Google ou d’Amazon. Au vu des développements récents, telle la subvention de 1 million de dollars que le Platform Cooperativism Consortium a acceptée de Google, cette récupération pourrait être déjà en cours…

La « mise en commun » comme forme de résistance vous apparaît-elle intéressante ?

L’essor des technologies numériques contemporaines a encouragé un renouveau de l’esprit des « communs ». Ces derniers représentent une orientation prometteuse des luttes pour la reconnaissance du travail des plates-formes. Face aux enfermements propriétaires des plates-formes capitalistes et à l’outrecuidance des partisans du droit de propriété privée sur les données personnelles, cette approche prône la multiplication d’expérimentations locales pour la mise en commun de ressources informationnelles, humaines… et naturelles.

Prôner une économie numérique des communs,n signifie revendiquer l’émancipation des précaires, des sous- et non-rémunérés des secteurs primaire et tertiaire

Un fil rouge connecte les communs naturels – surtout ceux liés à l’extraction des matières premières nécessaire pour produire batteries et équipements – et le travail de partage d’information, de contenus et de données personnelles des usagers des médias sociaux. L’exploitation des uns par des multinationales de l’énergie et du secteur manufacturier va de pair avec l’accaparement des données des autres par les grandes plates-formes numériques.

S’opposer à ces rapports de production, prôner une économie numérique des communs, signifie alors revendiquer l’émancipation des précaires, des sous- et non-rémunérés des secteurs primaire et tertiaire. Ce serait une manière de fédérer les travailleurs des mines avec ceux des fermes à clics ou des foyers d’internautes anonymes.

Ce mouvement a-t-il déjà commencé ?

Dans les Andes boliviennes, par exemple, se trouve le salar d’Uyuni, la plus grande étendue de sel du monde, où sont produits des accumulateurs lithium nécessaires au fonctionnement des véhicules autonomes. Le syndicat de paysans Fructas a négocié avec l’Etat la collectivisation du salar et le versement aux communautés locales d’une partie des profits des usines de lithium. Le tout est encadré par une loi qui établit les principes de gouvernance des ressources naturelles et culturelles, et qui consacre la tradition du « travail en commun », le « suma irnakaña » des communautés andines.

Et en Occident ?

Des instruments particulièrement intéressants se dégagent aujourd’hui dans les pays du Nord, dans le cadre de la renégociation des limites de l’usage des données personnelles. Leur valeur économique peut en effet être redistribuée sur une base locale. Ces négociations collectives pourraient s’avérer fructueuses au niveau des grandes villes. De New York à Séoul, les conflits sur l’utilisation des données d’Uber ou d’Airbnb ont déjà démontré que les informations produites par les citoyens et capturées par les plates-formes pourraient être récupérées par les collectivités territoriales et utilisées pour améliorer des infrastructures municipales.

Jusqu’ici, cette récupération a été menée sur une base commerciale. Mais rien n’empêche de penser cette reprise de contrôle sur les données d’usagers au niveau d’entités locales ou nationales sur des modes plus radicaux, tels qu’une collectivisation qui transforme les données en une propriété sociale, directe, indivisible et inaliénable de ses utilisateurs – bref, dans des communs.

Dans l’ADN (14 févr. 2019)

Dans le magazine L’ADN, David-Julien Rahmil passe en revue les lessons learned de mon ouvrage En attendant les robots (Seuil, 2019).

Les IA créent des emplois… que vous n’avez surement pas envie d’occuper 

Dans son enquête En attendant les robots, le sociologue Antonio A. Casilli porte un coup fatal aux prétentions de l’intelligence artificielle. Non, elle n’est pas à deux doigts de nous voler nos jobs. Elle serait même incapable de se passer de ses travailleurs de l’ombre.

« Système automatique », « deep learning », « réseau de neurones »… Il y a de fortes chances que vous ayez déjà croisé ces termes dans des articles parlant d’intelligence artificielle. Depuis plusieurs années, les entreprises du numérique nous vendent des IA autonomes qui remplacent peu à peu le travail des hommes. Pourtant, certains experts ne croient pas à cet intensif storytelling et le font savoir. Ainsi, en janvier 2018, le chercheur en intelligence artificielle Yann LeCun s’en prenait au fameux robot Sophia en employant les termes d’« IA Potemkine » ou « IA Magicien d’Oz ». Pour le scientifique en chef de l’IA chez Facebook, cette machine soit disant sophistiquée n’est en fait qu’une illusion, un pantin sans âme suivant des scripts de conversation plus ou moins complexes.

La grande illusion de l’automatisation

Loin de se limiter à l’androïde d’Hanson Robotics, la pseudo intelligence artificielle se trouverait dans toute l’industrie du numérique. Cette thématique est d’ailleurs explorée par Antonio A. Casilli, sociologue et enseignant à Télécom Paris-Tech. Dans son livre En attendant les robots, il passe en revue cette grande illusion de l’automatisation et souligne combien les IA ont encore besoin d’humains pour fonctionner correctement. On ne parle pas ici d’ingénieurs mais de travailleurs précaires qui gagnent leur vie en réalisant des micro-tâches. Passage en revue de cette grande illusion du numérique.

L’algorithme d’Amazon (et son armée de travailleurs humains)

Quand vous faites une recherche sur Amazon, vous êtes persuadé que l’algorithme trie pour vous les informations les plus pertinentes afin de les afficher en première page ? C’est en partie vraie, mais pas complètement. Depuis 2005,la firme de Jeff Bezos s’appuie sur son service Mechanical Turk, ou Turc Mécanique. Cette plateforme emploie des micro-travailleurs (appelés aussi tâcherons du clic) qui trient à la main les produits les plus pertinents en fonction des recherches. « Il s’agit, dans le jargon d’Amazon, d’une intelligence artificielle artificielle », indique le chercheur qui évoque ce système réunissant plus de 500 000 personnes dans le monde. Le nom fait quant à lui référence à un prétendu automate joueur d’échec qui fut inventé à la fin du XVIIIe siècle. 

Loin de se cantonner au magasin d’Amazon, on trouve ces travailleurs de l’ombre dans des domaines variés : l’interprétation automatique de texte, la création d’archive sonores de conversation ou l’annotation d’images pour la reconnaissance visuelle de formes. Leur mission ? Aider les IA dans leur apprentissage en leur pointant ce qu’elles doivent retenir.

Google, Bing et les quality raters

S’il existe un service qui semble être complètement automatique, c’est bien les moteurs de recherche. Depuis l’hégémonie de Google, on sait tous que ces services reposent sur des bots qui parcourent le web à la recherche de pages à indexer. Cependant, la pertinence des résultats doit encore être validée par des humains. C’est le rôle des quality raters, une armée de vérificateurs fonctionnant toujours sur ce principe du Mechanical Turk. Leur objectif est de vérifier que les résultats affichés répondent au mieux aux requêtes des internautes. C’est eux qui font en sorte que les sites les plus pertinents apparaissent en première page tandis que les sites malveillants ou de moins bonne qualité finissent dans les dernières pages. Les mêmes tâcherons sont aussi utilisés pour juger de la pertinence d’une publicité afin qu’elle soit bien en rapport avec les requêtes des internautes. 

Les « héros » de YouTube (qui démonétise votre contenu)

Parmi les complaintes récurrentes des youtubeurs, on retrouve souvent la « vidéo strikée ». Dans les faits, il s’agit d’une vidéo démonétisée car elle utilise du contenu soumis au droit d’auteur. Alors que YouTube se vante d’utiliser un système de détection automatique, les choses s’avèrent aussi un peu plus compliquées que ça. En effet, il existe trois catégories de modération. La première est mise en place avec les utilisateurs qui peuvent signaler du contenu inapproprié ou violant le droit d’auteur.

Là-dessus, YouTube fait intervenir ses YouTube Heroesappelés aussi Trusted Flagger (signaleur de confiance).  Il s’agit d’utilisateurs qui vérifient les signalements, les descriptions des vidéos ou bien qui ajoutent des sous-titres. Ces derniers ne sont pas payés mais plutôt récompensés avec des abonnements premium ou des offres commerciales. Vient enfin la dernière catégorie qu’Antonio Casilli qualifie de modérateurs commerciaux. Ces derniers sont souvent des sous-traitants dont le travail consiste à « passer en revue des dizaines de vidéos par heure et les classer selon différents critères ». Ils déterminent si les vidéos sont des extraits issus de la télévision, des clips musicaux, des contenus inappropriés, etc. 

Les traducteurs automatiques

Au bureau ou en voyage, Google Translate nous sauve souvent la vie. Cependant si le service de traduction de Google est si efficace, ce n’est pas seulement grâce à la puissance de ses algorithmes. Grâce à sa discrète applicationCrowdSource (une plateforme de micro-travail non rémunéré), des milliers d’utilisateurs sont encouragés à saisir des phrases et à les traduire automatiquement. Quand le résultat s’affiche, ils sont encouragés à proposer leur propre formulation, se transformant ainsi en traducteurs non rémunérés.

La voiture autonome ne conduira jamais seule

Si vous avez l’impression que les voitures autonomes sont déjà parmi nous, c’est que vous avez gobé de gros bobards !En effet, depuis les démonstrations de Google en 2010, de nombreux constructeurs automobiles présentent des véhicules concept censés conduire à votre place dans un futur proche. Mais à bien y regarder, la plupart de ces véhicules ne sont pas complètement autonomes. La plupart n’en sont qu’au stade 3 sur 5 de la classification officielle, ce qui veut dire qu’elles ne peuvent rouler seule que sur l’autoroute et qu’elles ne permettent pas au conducteur de quitter la route des yeux.

Oubliez les publicités montrant des passagers en train de dormir pendant un trajet. Chez Uber, les véhicules en expérimentation sont toujours « équipés » d’un opérateur humain chargé d’accueillir les passagers, d’entretenir la voiture et de vérifier que la voiture ne va pas percuter un groupe d’enfants. Si vous pensez que c’est transitoire, Antonio Casilli douche vos espoirs. En effet il rapporte qu’un document de Waymo (la firme de Google qui gère les voitures autonomes) envisage de faire travailler les abonnés de son service. Ces derniers devront surveiller la route pendant le trajet et appuyer sur un bouton stop en cas de danger de collision

Sur Les Jours (12-28 févr. 2019)

Sur magazine en ligne Les Jours Sophian Fanen lance une nouvelle série d’enquêtes intitulée Working Class Robot. Le premier épisode porte sur les travailleurs invisibles de l’IA, traité dans mon ouvrage En attendant les robots (Ed. du Seuil, 2019). Le deuxième, explique le fonctionnement de l’entraînement des intelligences artificielles. Le troisième, propose une interview avec Votre Dévoué et Jean-Louis Dessalles, professeur en informatique à Télécom ParisTech. En voilà quelques extraits.

« L’intelligence artificielle s’attaque au propre de l’être humain : son cerveau »


Les recherches d’Antonio Casilli et de Jean-Louis Dessalles, tous deux enseignants à l’école d’ingénieurs Telecom ParisTech, n’étaient pas faites pour se croiser. Le premier, maître de conférences en humanités numériques, travaille principalement sur le digital labor, c’est-à-dire le travail plus ou moins volontaire des internautes dont les grandes plateformes comme Google, Amazon ou Facebook tirent un profit technique et financier : liker une page, écouter de la musique en streaming, diffuser ses photos en ligne ou carrément réaliser des tâches rémunérées sur une plateforme de microtravail comme Amazon Mechanical Turk. C’est ce que raconte son ouvrage En attendant les robots sorti il y a peu, qui pointe aussi comment cette armée de travailleurs éparpillés et invisibilisés permet à ces mêmes plateformes de vanter leurs intelligences artificielles qui ne pourraient pourtant pas fonctionner aujourd’hui sans travail humain pour les corriger et les tester.

C’est sur ce point que le travail d’Antonio Casilli se connecte aujourd’hui avec le livre publié par Jean-Louis Dessalles, Des intelligences très artificielles. Informaticien, chercheur en intelligence artificielle et en sciences cognitives, ce dernier y raconte avec des mots simples les grandes découvertes qui ont marqué la construction de machines capables d’actions autonomes. Surtout, il pointe comment de nombreux chercheurs avant lui ont trop fantasmé un futur proche où les ordinateurs seraient réellement intelligents, allant jusqu’à dépasser l’homme. À la place, Jean-Louis Dessalles et Antonio Casilli proposent de revenir à la réalité pour se poser les bonnes questions sur ce que nous pouvons et voulons faire avec les machines que nous construisons. Antonio Casilli — Vidéo Sébastien Calvet/Les Jours.

Est-ce la première fois que des études sur le travail et sur l’intelligence artificielle se rejoignent sur le constat que l’humain ne sera pas remplacé par les machines ?

Antonio Casilli : Nos deux ouvrages vont dans le même sens et on l’a découvert au fur et à mesure, car on n’a pas travaillé ensemble. Ce qui nous rapproche, c’est que l’on dit tous les deux que rien n’est certain. On introduit un élément de doute, on dit que l’automation entraînée par l’intelligence artificielle a des aspects positifs. Qu’elle nous oblige à nous interroger sur la nature de ce processus d’automation. Que vise-t-il ?

(…)

A. C. : Un autre aspect important de cette question, c’est qu’au siècle passé, l’automatisation se concentrait sur la force brute. On remplaçait des gestes. L’IA propose aujourd’hui de déléguer à des machines la capacité à apprendre et à communiquer. C’est là que cette automation est différente. On est en train de répartir la responsabilité de la production de la valeur entre les machines et les humains.

(…)

A. C. : Mais le sens commun est nécessaire aux machines, car c’est une façon d’harmoniser leurs décisions avec nos cultures humaines. De faire en sorte que leurs résultats soient cohérents avec ce que nous attendons. Ça commence par la langue que la machine parle, par exemple. Aujourd’hui, le digital labor [notamment le travail humain via des plateformes comme Amazon Mechanical Turk, ndlr] est une manière d’injecter du sens commun dans une intelligence artificielle qui en manque. Dans le film The Moderators, on voit un formateur expliquer à des modérateurs indiens qui vont devoir traiter des milliers d’images problématiques publiées sur un réseau social qu’ils doivent « juger la donnée ». La juger sur la base des indications du client, mais aussi à partir de leur sens commun, lequel dépasse leurs valeurs puisqu’ils sont très croyants. C’est très complexe et extrêmement simple en même temps, parce que c’est humain. C’est une compétence accessible à des chômeurs non diplômés après quelques heures de formation, mais pas à une intelligence artificielle. Ant

(…)

A. C. : Il n’y a pas de données réellement brutes. Même dans une base d’images comme ImageNet, on a besoin d’avoir le bon format, le bon cadrage, la bonne lumière… Une standardisation qui fait en sorte que ces données sont exploitables.

(Poursuivre la lecture)

[Séminaire #ecnEHESS] Ce que les big data et l’IA font aux sciences sociales (Paola Tubaro & Étienne Ollion, 21 févr. 2019, 17h)

Enseignement ouvert aux auditeurs libres. Pour s’inscrire, merci de renseigner le formulaire.

Pour la deuxième des séances d’approfondissement ouvertes aux auditeurs libres de notre séminaire #ecnEHESS Etudier les cultures du numérique, nous aurons le plaisir d’accueillir Paola Tubaro (CNRS/LRI), coordinatrice du numéro spécial de la Revue Française de Sociologie consacré au “moment big data des sciences sociales”, et Étienne Ollion (CNRS/SAGE, chercheur associé à Polytechnique), qui a été parmi les contributeurs.

Le séminaire aura lieu le jeudi 21 février 2019, 17h-19h, salle séminaire 1.1, Institut des Systèmes Complexes, 113 rue Nationale, 75013, Paris.

N’hésitez pas à faire circuler cette information au sein de vos propres contacts et sur les réseaux.


Titre : Du bon usage des big data et de l’apprentissage machine en sciences sociales

Intervenant•es : Paola Tubaro, Étienne Ollion (CNRS).

Résumé : Depuis quelques années, big data, machine learning,  et intelligence artificielle ont colonisé nos imaginaires collectifs, et de plus en plus nos pratiques scientifiques. Comme bien d’autres domaines, les sciences sociales sont profondément touchées par ces débats et invitées à se positionner. Comment ces nouvelles technologies ont-elles transformé nos visions de ce qu’est le savoir, nos méthodes et nos liens avec les autres sciences ? Comment ont-elles changé la société qui fait l’objet de nos recherches ? Le séminaire reviendra sur ces évolutions et les controverses, scientifiques et politiques, qui les ont accompagnées, en explicitant les enjeux sous-jacents. Pour une partie, il s’appuie sur l’expérience de réalisation d’un numéro spécial de la Revue française de sociologie sur « Big data, sociétés et sciences sociales », paru en automne 2018.

A la une de 20 Minutes (11 févr. 2019)

20190211_PAR

«Fermier du clic», «robot humain»… Les robots ne volent pas nos «jobs à la con», ils en créent

INTERVIEW LEXICALE Avec l’aide du sociologue Antonio Casilli, nous revenons sur les nouveaux emplois précaires créés par l’intelligence artificielle

Laure Beaudonnet

Digital indique un travail du clic : un travail simple, fait à la main, tâcheronnisé et datafié. Illustration de l'intelligence artificielle.
Digital indique un travail du clic : un travail simple, fait à la main, tâcheronnisé et datafié. Illustration de l’intelligence artificielle. — PIXABAY / geralt
  • Dans En attendant les robots paru début janvier,Antonio Casilli détricote les fantasmes liés à l’intelligence artificielle.
  • L’enseignant-chercheur à Télécom Paristech met au jour les coulisses des algorithmes intelligentes et des grandes plateformes numériques.

En attendant les robots Pourquoi ne pas faire passer l’homme pour une intelligence artificielle et encourager le mythe du remplacement par les machines ? Dans son enquête sur le travail du clic, parue aux éditions Seuil, le sociologue Antonio Casilli, enseignant-chercheur à Télécom Paristech, détricote les fantasmes liés à l’intelligence artificielle.

Il met au jour les coulisses des algorithmes intelligentes et des grandes plateformes numériques. Alimentées par des micro-travailleurs qui effectuent « un travail tâcheronnisé et datafié », elles poussent à l’extrême les logiques tayloristes de fragmentation de l’activité humaine. A côté des « sublimes du numérique » -les data-scientists et les ingénieurs- a émergé une nouvelle forme de travailleurs précaires qui réalisent des activités répétitives à très bas salaire.

Avec l’aide d’Antonio Casilli, nous revenons sur les nouveaux emplois précaires créés par l’intelligence artificielle. Interview lexicale.

« Digital labor »

« En anglais, on utilise le terme “labor” pour parler d’un travail qui s’inscrit dans les rapports sociaux : “travailler pour”, “travailler avec”. Et on parle de “digital”. Non pas pour répondre à la diatribe du français : digital versus numérique. Mais pour rester fidèle à l’étymologie latine d’un travail fait avec le doigt, en latin, digitus. Digital indique un travail du clic : un travail simple, fait à la main, tâcheronnisé et datafié.

J’ai différencié trois types de digital labor. “Le travail à la demande”, comme Uber ou Deliveroo, qui repose sur des applications mobiles et qui produit énormément de données. “Le micro-travail” qui désigne le travail d’une foule de personnes auxquelles sont confiées des tâches très courtes, très limitées dans le temps et très fragmentées. Et “le travail social en réseau” qui illustre ce que chacun d’entre nous réalise sur les plateformes dites “sociales”, comme Facebook, Instagram. Il consiste moins à produire des contenus qu’à produire des méta-données. Et les plateformes se servent de ces données pour automatiser certains processus. »

« Micro-tâcheron »

« Au XIXe siècle, “tâcheron” définissait une catégorie de travailleurs qui se situaient entre l’artisanat et l’industrie. On les appelait aussi les “piéçards”, ces personnes étaient payées à la pièce ou à la tâche. Elles étaient organisées dans des ateliers, elles pouvaient négocier leurs prix. Il y avait une forte volatilité de leurs revenus, mais il y avait des marges de liberté importantes.

Aujourd’hui, si vous êtes un salarié, votre situation est différente. Vous avez une rémunération fixe et en échange de cette sécurité économique, vous accordez à votre employeur principal le pouvoir de vous subordonner. Et les micro-tâcherons dans tout ça ? Ils représentent une nouvelle classe de travailleurs des plateformes qui sont dans un état hybride.

Les plateformes mettent en place des stratégies pour les subordonner, et cette subordination est de nature économique et cognitive. Les micro-tâcherons ne réalisent pas des activités sur lesquelles ils peuvent développer des compétences, ou s’organiser entre eux. Ils n’ont pas d’emprise sur leur activité. Au contraire, leur travail est fragmenté, réduit au minimum et de cette manière, ils finissent par être relativement isolés, aliénées, mal payés et peu protégés. »

« Fermier du clic »

« Les fermiers du clic sont des ouvriers de l’Internet, souvent installés dans des pays émergents ou en voie de développement. Ils travaillent depuis des structures qu’on appelle des “fermes à clic” qui peuvent prendre différentes formes. Elles ont parfois pignon sur rue, parfois elles ressemblent à un garage, à la maison d’un particulier, à des usines désaffectées. Chaque fois, des centaines de personnes passent d’un smartphone à l’autre (il y en a des milliers) pour cliquer sur des applications, des contenus, des vidéos ; pour liker des posts sur Facebook, se déclarer fan de tel article ; pour retweeter, follower un compte.

Tout cela moyennant des payements extrêmement faibles (pouvant parfois aller jusqu’à 0,0001 euros). Il y a une forte continuité avec l’activité des micro-travailleurs d’Amazon Mechanical Turk, payés à la pièce, de même qu’avec le travail “actif” d’un utilisateur de Facebook. Ce dernier like aussi des contenus, son like est censé être authentique. Le fermier du clic, lui, ressemble plutôt à un mercenaire de ses usages. Par contre, les deux sont payés 0 euro ou presque 0 euro. Derrière les armées de bots, il y a en réalité des personnes qui cliquent sur énormément de contenus qu’ils n’aiment pas particulièrement. »

« Robot humain »

« Ce terme a été utilisé par Anthony Levandowski, ex-Monsieur véhicules autonomes de Google parti chez Uber. En 2013, il a employé l’expression de “robot humain” pour définir les personnes qui s’occupent de labelliser et de trier à la main les images et les données que les véhicules autonomes ont enregistrées. La voiture autonome est une sorte d’ordinateur sur roues qui enregistre énormément d’informations. Et ces informations ont besoin d’être traitées. Qui fait ce travail ? Ce sont les humains qui se cachent dans les robots.

Le nom commercial Amazon Mechanical Turk fait référence au célèbre canular du turc mécanique, un automate inventé au XVIIIe siècle. Il s’agissait d’un robot, habillé en turc Ottoman, capable de simuler un processus cognitif complexe pour jouer aux échecs. En réalité, il cachait un être humain qui faisait bouger les pièces du jeu d’échecs. Et Amazon a repris cette métaphore, sans aucune ironie. »

« Turker »

« Un Turker est un worker sur Mechanical Turk. Amazon a repris ce terme pour dire : on ne va pas mettre une seule personne à l’intérieur d’un robot mais des foules de micro-travailleurs à l’intérieur de chaque robot. A l’intérieur de chaque entité artificielle, on va mettre des centaines de milliers de personnes qui vont, à la main, parfois simuler le fonctionnement d’un logiciel, parfois entraîner un algorithme, parfois valider et contrôler ce qu’un robot fait. Ils passent derrière pour voir si le robot a bien œuvré. Ce sont des microtravailleurs, payés à la pièce, quelques centimes d’euros pour réaliser ces tâches nécessaires pour entretenir et faire fonctionner les intelligences artificielles actuelles. »