automation

Grand entretien dans le hors-série du magazine Socialter (25 oct. 2019)

Dans le deuxième hors-série que la revue Socialter consacre aux freelancers, un long entretien avec la journaliste Pauline Porro.

«L’intelligence artificielle invisibilise le travail»

La machine remplacera-t-elle le travailleur ? À cette question mille fois rebattue, le sociologue et professeur à Télécom Paris Antonio Casilli répond par la négative. Dans son ouvrage En attendant les robots, il affirme que ce discours procède d’une grande mystification à laquelle il convient d’apporter un démenti, pour mieux lever le voile sur les conditions de travail.

Grand entretien dans Agir Par La Culture (Belgique, 23 oct. 2019)

Dans le numéro 59 du trimestriel belge Agir par la Culture (automne 2019), une longue conversation avec Aurélien Berthier à propos de travail, plateformes et mondialisation.

Numérique : Vers un travail en micromiettes ?

Coupe du Turc mécanique, avec la position supposée de l’opérateur. Joseph Racknitz, 1789

Avec « En attendant les robots », le sociologue Antonio A. Casilli s’attaque à l’un des principaux mythes des sociétés occidentales contemporaines : le développement sans frein de la technologie va conduire à la disparition du travail ; les humains sont condamnés à être remplacés par des « intelligences artificielles ». Or, en se penchant sur l’arrière-cuisine du secteur numérique, Casilli montre à quel point ces intelligences dites artificielles sont en réalité « largement faites à la main », par une armée de réserve de l’industrie numérique composée de travailleurs et travailleuses précaires qui se tuent à la microtâche.

Avec le développement de l’automation, il est en effet plus à craindre une précarisation et une atomisation accrues du travail plutôt que sa disparition. Le mythe du « grand remplacement » des humains par des robots, nous indique Casilli, renouvelle en fait la vieille ruse du régime capitaliste pour payer toujours moins la force de travail et la déprotéger socialement. La promesse d’automation portée par le secteur numérico-industriel s’avère ainsi à la fois le « bâton qui discipline la force de travail » et la « carotte qui attire les investisseurs ». Loin des fables marketing de la Silicon Valley sur l’intelligence artificielle toute puissante et autonome que de talentueux ingénieurs développeraient seuls, la réalité est faite de millions de digital workers (travailleur·euses du doigt) payé·es quelques centimes d’euro la pièce. Ils entrainent les algorithmes en cliquant sans fin dans des fermes à clics au Kenya, dans des cybercafés en Tunisie ou depuis la maison un peu partout, pour tenter d’améliorer leur salaire de working poor. Évoquer la disparition du travail, c’est donc une manière de ne pas voir son incessante altération et oublier bien vite que si la data (la donnée) brute est le nouveau pétrole, un raffinage par les humains est nécessaire avant tout usage par la machine.

Contrairement à l’idée reçue, vous affirmez que ce sont plutôt les humains qui volent le job des robots. Qu’est-ce qui vous fait dire ça ?

On est aujourd’hui entouré par un discours ambiant qui rabâche les résultats de l’étude « The future of employment » de Frey et Osborne menée en 2013 selon laquelle 47 % des emplois disparaitraient d’ici 2030 au États-Unis en raison de l’utilisation des intelligences artificielles (IA) et de la robotique mobile… Or, si on se penche sur la nature de l’intelligence artificielle, considérée comme responsable de ce prétendu « grand remplacement technologique », celle qu’on a effectivement à notre disposition, on s’aperçoit que nous sommes loin d’une IAforte, c’est-à-dire capable de dépasser celles des humains. Au contraire, la réalité commerciale, mais aussi celle des recherches de pointe et des investissements actuels nous mènent plutôt vers un paradigme d’IA faible. C’est-à-dire celle qu’on a dans la poche : le Siri ou le OKGoogle des smartphones, le Cortana ou l’Alexa des enceintes connectées, c’est-à-dire des assistants virtuels qui accompagnent la décision ou certaines actions humaines. Le non-dit de la réflexion actuelle sur les technologies c’est que, pour pouvoir produire ces assistants virtuels, on a besoin d’énormément de travail humain. On parlera même ici plutôt de human assisted virtual assistants(des assistants virtuels eux-mêmes assistés par des êtres humains) car ils sont totalement inefficaces en l’absence d’une intervention humaine. Il est en effet nécessaire que des humains produisent des exemples, c’est-à-dire des données utilisables que les « intelligences artificielles » sauront reconnaitre et ranger. Car elles n’apprennent pas toutes seules. Ce sont des êtres humains qui annotent, qualifient et améliorent les données d’entrainement. Et encore des êtres humains qui testent ces outils et vérifient qu’ils interprètent correctement les données… Énormément de travail humain irrigue donc ces solutions technologiques loin d’être autonomes.

Qui réalise ce travail ?

Le fonctionnement de ces technologies dites « apprenantes » et dont ont besoin les plateformes pour marcher, est assuré, pas tant par des informaticiens surdoués et spécialisés qui réaliseraient des prouesses algorithmiques, que par une foule de personnes sans qualification particulière. Ce sont elles qui produisent les données.

Une grande partie de ce travail est réalisé par des personnes qui évoluent sur des plateformes spécialisées dans le microtravailLa plus ancienne et la plus connue est Amazon Mechanical Turk[à l’initiative de la plateforme de vente Amazon.com] mais depuis, leur nombre a explosé. On connait relativement mal leur fonctionnement et leur étendue, mais une chose est sûre : ces plateformes ne permettent pas un encadrement classique du travail. On y est très rarement salarié, et même le statut de free lancers ne s’y adapte pas. Ce qui émerge ainsi actuellement, c’est une nouvelle catégorie de travailleur·euses que j’ai nommés les microtâcherons du clic. Ces travailleurs sont payés à la pièce pour réaliser une microtâche qui dure de quelques secondes à quelques minutes, et qui est très faiblement rémunérée : de quelques centimes à quelques euros. Il s’agit par exemple de labelliser des images pour que des algorithmes soient capables de discerner un arbre d’un poteau, typiquement, ce qu’ils ne savent pas faire d’entrée et qu’ils ont besoin « d’apprendre » en s’entrainant sur de gigantesques bases de données préparées par ces humains.

Une autre partie de ce travail, nous le réalisons nous-mêmes gratuitement, par notre usage des plateformes. Par exemple, quand je regarde 4 ou bien 40 minutes d’une vidéo sur YouTube, en la notant en bien ou en mal, ou quand je like ou partage tels articles, commentaires, photos etc. sur Facebook. Ce faisant, leurs algorithmes sont capables d’apprendre mes préférences et de s’améliorer à partir des données que j’ai créées, que j’ai produites. C’est le travail social en réseau que nous réalisons sans nous en rendre compte et sans toucher pour cela la moindre rémunération, alors même qu’ils utilisent et monétisent ces données et produisent donc de la valeur à partir d’elles.

Vous montrez effectivement qu’il existe un continuum entre la course d’un chauffeur Uber, la microtâche d’un microtravailleur d’Amazon Mechanical Turk et les posts d’un internaute sur Facebook. Qu’est-ce qui relie ces trois personnes ?

Toutes ces plateformes – qui ne sont pas des entreprises classiques puisque leur activité est essentiellement de mettre en relation différents types d’acteurs – sont basées sur la production de données. Elles doivent pour cela mettre au travail leurs propres utilisateur·trices afin de leur faire réaliser une activité de type particulier : le digital labor. Le terme digital renvoie au terme latin digitus (le doigt). C’est donc en somme le travail du doigt dont le clic de la souris représente la tâche la plus élémentaire. Il est à distinguer du travail numérique, celui des managers, des ingénieurs, des informaticiens des grandes entreprises du numérique qui sont, eux, capables de gérer le numerus de par leurs compétences en mathématiques avancées.

Le digital labor est un travail qui est extrêmement fragmenté et surtout déqualifié, invisibilisé et invalorisé (c’est-à-dire en perte de valeur). Il est d’abord fondé sur le principe de tâcheronisation : l’activité se limite à des tâches extrêmement simples, courtes et fractionnées mais aussi standardisées, répétitives et assez rébarbatives. Elles sont effectuées pour la plupart devant un ordinateur : identifier des objets sur une image, étiqueter des contenus, enregistrer sa voix en lisant de courtes phrases, traduire de petits bouts de texte…

Le fil rouge qui relie un chauffeur de Uber, un micro-travailleur d’Amazon Mechanical Turk et un utilisateur lambda de Facebook, c’est donc la production des données, processus qu’on appelle la datafication et qui représente l’autre fondement de ce digital labor. Les plateformes et les IA — que les premières tentent de produire et de marchander — sont en effet fondées sur un flux constant de données produites et traitées. C’est la matière première nécessaire à leur fonctionnement. Ainsi, un chauffeur Uber passe certes une partie de son temps à conduire, mais ce qui intéresse surtout la plateforme sur laquelle il évolue, c’est de produire des données sur son smartphone en utilisant l’application Uber, en améliorant le GPS, l’algorithme de tarification dynamique ou la notation des passagers. Ces données sont en effet utilisées pour entrainer des robots de type particulier, des véhicules dits « autonomes », mais qui ont tout de même besoin de traiter et de travailler des données en temps réel. Un véhicule « sans chauffeur » enregistre des données grâce à un « lidar » [un capteur à radar laser], mais ces données, pour être exploitables, ont besoin d’être annotées, améliorées, raffinées. Ainsi, concrètement, si ce véhicule « autonome » a pris en photo une rue, il faut que quelqu’un lui enseigne à reconnaitre un arbre ou un piéton (à éviter), un panneau de signalisation (et son interprétation), etc. Et ce, de toutes les formes et dans tous les contextes possibles. Pour ce faire, on fait donc appel à des travailleurs du clic, comme ceux de The mighty IA, un sous-traitant spécialisé dans l’entrainement des données pour le secteur automobile. Au sein de cette plateforme, des milliers de personnes payées quelques centimes par tâche doivent regarder à longueur de journée des photos de villes, d’autoroutes, et détourer [tracer les contours de] les voitures ou les camions pour les identifier.

Combien sont-ils ces microtravailleur·euses ?

Ces microtravailleurs représentent une force de travail qui est en train de monter partout dans le monde. Les plateformes déclarent des effectifs qui dépassent déjà les cent millions ! On est donc loin d’une disparition du travail et des emplois volés par les robots. Au contraire, les besoins du secteur du numérique et de l’IA ne cessent de croitre et d’évoluer. Par contre, le travail et ses conditions d’exercice se voient fortement dégradées puisque cette tacheronisation entraine une fragmentation des emplois en microtâches externalisées accompagnée par le démantèlement des salaires au moyen des micropaiements.

Je viens d’estimer avec mon équipe le nombre de personnes qui microtravaillent en France : un peu plus de 260 000 personnes. C’est énorme compte-tenu du fait qu’on parle d’un pays riche, c’est-à-dire dans lequel on n’imagine pas à priori qu’un travailleur ait la nécessité de réaliser des microtâches payées quelques centimes d’euros. Il s’agit souvent de personnes en dessous du seuil de pauvreté et parfois de salarié·es qui ont besoin d’un complément pour terminer le mois. Ce qui témoigne au passage de la dégradation de leur pouvoir d’achat et leur condition de travail par rapport aux décennies passées.

Mais néanmoins, vous montrez que l’essentiel de cette armée industrielle de tâcherons du clic se situe dans les pays du Sud…

Oui, tout simplement pour une question démographique : la masse des ouvriers se situe aujourd’hui dans le Sud du monde dans les secteurs primaires ou secondaires, l’extraction de minerais ou l’agriculture. Dans son ouvrage « L’avenir du travail vu du Sud », Cédric Leterme explique comment la masse ouvrière actuelle s’est « sudifiée » et féminisée. Les microtâcherons du clic, qui font partie à part entière de cette masse ouvrière, n’échappe pas à la tendance. Ainsi, des pays comme les Philippines, l’Inde, l’Afrique du Sud ou dans un contexte francophone Madagascar, le Sénégal, la Côte d’Ivoire ou la Tunisie concentrent le gros de ces microtravailleurs. Lesquels sont d’ailleurs très souvent plutôt des microtravailleuses.

Je viens d’estimer avec mon équipe le nombre de personnes qui microtravaillent en France : un peu plus de 260 000 personnes. C’est énorme compte-tenu du fait qu’on parle d’un pays riche, c’est-à-dire dans lequel on n’imagine pas à priori qu’un travailleur ait la nécessité de réaliser des microtâches payées quelques centimes d’euros. Il s’agit souvent de personnes en dessous du seuil de pauvreté et parfois de salarié·es qui ont besoin d’un complément pour terminer le mois. Ce qui témoigne au passage de la dégradation de leur pouvoir d’achat et leur condition de travail par rapport aux décennies passées.

En somme, sur les plateformes de microtravail, non seulement le modèle vanté (l’auto-entrepreneuriat, où l’on est libre de travailler où on veut quand on veut) s’avère en fait être un environnement de travail aux conditions ultra précaires, sous-payées, sans aucune protection ni garantie de pérennité de son activité, mais de surcroit, celui qui y travaille subit aussi des contraintes liées au salariat comme la subordination, la surveillance, le contrôle…

L’idée de base du salariat c’est qu’en échange d’une subordination relative, je reçois une protection sociale généralisée. Ce pacte-là s’est cassé et les « indépendants » ont renoncé à la protection pour éviter la subordination à l’ancienne. Les travailleurs des plateformes, eux, qu’ils travaillent gratuitement ou pour des microrémunérations, se retrouvent face à une forme de subordination qu’on appelle la subordination technologique. Celle-ci se manifeste notamment à travers le flux d’ordres qui leur est transmis via les pastilles d’un message non lu, les annonces, les alertes, etc. C’est ce qu’on nomme des calls to action (« appels à l’action »), des solutions technologiques qui vous poussent à réaliser une action le plus vite possible et sans vous poser de questions. C’est assez clair si vous êtes un chauffeur Uber : chaque nouvelle proposition de course équivaut à un ordre, et chaque refus de course, c’est un refus d’ordre qui expose à une sanction possible comme une perte de réputation, un déclassement, etc. Même un utilisateur lambda de Facebook ou de Linkedin recevra ces appels à l’action ou subira la quantification de son effort productif via toute une métrique de performance (scores, likes, étoiles, nombre de followers, de partages, de contacts…) qui sert aussi d’outil de contrôle et de mise en concurrence.

Avec le microtravail, basé sur le modèle de rémunération à la micro-pièce, au clic de souris, est-ce qu’on arrive à une logique tayloriste poussée à son maximum ? À un travail non plus « en miettes » mais en micromiettes ?

Nous sommes clairement dans le prolongement extrême à la fois de l’ancienne division du travail dont parlait Adam Smith au 18e siècle, et de certaines bases du fordo-taylorisme comme la fragmentation du travail et le travail à la chaîne… Sur Amazon Mechanical Turk, un travailleur reçoit un flux d’offres de microtâches qu’il doit réaliser très vite. Ça ne doit pas lui prendre plus de quelques fractions de seconde pour distinguer de manière intuitive un chat d’un chien sur une image. Ce travail est donc en effet extrêmement atomisé au niveau de sa réalisation ainsi qu’au niveau de sa rémunération.

Mais ce qui représente la plus grosse différence par rapport au « travail en miettes » dont parlait Georges Friedmann en 1964, c’est le fait qu’il s’agisse d’un travail invisibilisé. Ainsi, au 20esiècle, malgré l’émiettement de leur activité, des modalités de solidarité active entre les travailleurs pouvaient subsister du fait même qu’ils partageaient un même lieu de travail : l’usine. Or, actuellement, les travailleurs des plateformes de microtravail n’ont aucune idée de qui sont les autres microtravailleurs. Pire, ils n’ont aucun intérêt à faire savoir aux autres ce qu’ils sont en train de faire : les autres ce sont des concurrents qui peuvent potentiellement leur voler des tâches un peu mieux rémunérées — c’est-à-dire un euro plutôt que quelques centimes… Cela contribue à une invisibilisation qui ne vient plus du haut et qui serait voulue par le patronat, mais bien à une invisibilisation qui vient du bas, et qui est opérée par le travailleur lui-même, chacun souhaitant rester invisible aux yeux des autres.

On constate aussi parfois même des formes d’entr’exploitation c’est-à-dire de micro sous-traitance en cascade. Une personne peut accepter une micro-tâche un peu plus importante, comme retravailler un logo pour la somme de 3 $. Elle va l’émietter à son tour, et faire réaliser cette tâche graphique par trente personnes différentes en réalisant un bénéfice au passage. Chaque personne s’occupera d’une micro-tâche payée quelques cents comme changer une couleur, changer un vecteur, changer un pixel et ainsi de suite…

Ce climat de travail semble défavorable à la construction de solidarité, comment susciter chez les travailleur·euses digitaux une prise de conscience de leur intérêt commun et les amener à s’organiser pour défendre leurs droits sociaux ?

En réalité, le conflit social est loin d’être évacué et on constate déjà une prise de conscience, au niveau international, des travailleur·euses des plateformes. On peut ainsi immédiatement penser aux travailleurs de plateforme de travail à la demande très visibles comme Uber ou Deliveroo qui se battent pour cette reconnaissance. Les litiges, les revendications, les grèves, les créations de syndicats ou l’intégration de ces travailleur·euses dans les syndicats traditionnels se multiplient, tant en Europe qu’en Australie, en Amérique ou en Inde. Ensuite, dans le monde du microtravail, on constate aussi la création de guildes, de recours collectif, et la volonté de certains syndicats d’organiser les microtravailleurs. Enfin, dans la troisième famille de travailleurs du clic qu’est le travail social en réseau, on observe aussi une multiplication d’actions en justices et d’embryon de formes d’organisation. Par exemple, il y a de plus en plus d’appels à la grève sur Facebook ou à la formation de data unions c’est-à-dire de syndicats de créateurs de données sur les plateformes sociales. En 2015, il y a par exemple eu un recours collectif de plusieurs centaines de personnes dans l’État américain du Massachusetts qui ont cherché à se faire requalifier comme employé·es de Google parce qu’elles avaient utilisé recaptcha [Il s’agit de ces caractères que l’on doit reconnaitre pour valider un formulaire ou une inscription en ligne et qui sont en réalité extraits de livres numérisés que le système de reconnaissance optique de Google n’a pas réussi à identifier NDLR]. Elles estimaient avoir créé de la valeur en entrainant des algorithmes de reconnaissances textuelles pour Google sans avoir été rémunérées pour cela. Il y a donc énormément d’efforts d’organisation et une multiplication des conflits avec ces plateformes même si le contexte reste assez défavorable aux travailleurs pour l’instant.

Par ailleurs, on observe aussi des mouvements de type nouveau, comme le coopérativisme de plateformes. Celui-ci cherche à dépasser la conception capitaliste et prédatrice des plateformes actuelles et vise à créer un Twitter ou un Uber du peuple ! C’est-à-dire à inscrire les plateformes et les technologies numériques dans le contexte de l’économie sociale et solidaire et non plus exclusivement de se baser sur la captation de la valeur produite par ses utilisateurs. Il s’agit en somme d’une réactualisation de la grande tradition mutualiste des siècles passés qui propose aux usagers de ces plateformes d’en être les propriétaires et même les concepteurs. Même si ce mouvement se heurte aujourd’hui à pas mal de contradictions en interne, et lutte pour pouvoir trouver une manière de s’affirmer et ne pas se faire approprier par les plateformes capitalistes, c’est quelque chose d’extrêmement prometteur.

Antonio A. Casilli, En Attendant les robots, Enquête sur le travail du clic, Le Seuil, 2019

[Vidéo] Dans Hors Série (19 janv. 2019)

Je me suis entretenu pendant une heure et trente minutes avec la journaliste Laura Raim. La vidéo est disponible sur le site Hors Série (sur abonnement).

Les forçats du clic

Laura Raim

Je fais partie de cette catégorie de gens qui ont le permis mais qui ne savent plus conduire. A force de ne jamais pratiquer, je n’ai acquis aucun réflexe. Et plus le temps passe, plus j’ai peur de réesssayer. Je pense qu’on peut désormais parler de « blocage psychologique ». Vous imaginez donc la lueur d’espoir qu’ont suscitée les nouvelles sur l’arrivée imminente des voitures autonomes, qui promettaient de me délivrer de ce handicap un peu honteux.

Je ne lui en veux pas, mais Antonio Casilli a brisé ce rêve. Dans son ouvrage, En attendant les Robots. Enquête sur le travail du clic ( Seuil), le sociologue démonte implacablement le grand bluff idéologique du mythe du « grand remplacement technologique ». On découvre que l’intelligence artificielle est moins l’affaire d’une poignée de génies des mathématiques en blouse blanche confectionnant des supercalculateurs de 200 pétaflops dédiés au « deep learning », que de millions de « tâcherons » du numérique, « mélange de stagiaires français et de précaires malgaches », sous-payés pour à la fois entraîner, cadrer et fournir les ordinateurs en données fiables et utilisables. Ce ne sont pas en effet « les machines qui font le travail des hommes, mais les hommes qui sont poussés à réaliser un digital labor pour les machines ».

J’avais déjà eu un choc similaire en lisant le génial En Amazonie de Jean-Baptiste Malet, qui dévoilait les conditions de travail hallucinantes dans un entrepôt d’Amazon. De même que le journaliste rendait visible la réalité physique, sale et humaine, derrière l’image faussement virtuelle et désincarnée du numérique, Antonio Casilli fait apparaître l’exploitation très concrète qui se cache derrière l’abstraction des algorithmes, et met à jour l’intérêt stratégique d’alimenter le mensonge d’un inéluctable remplacement des hommes par les robots : empêcher l’organisation des prolétaires du numérique. Et moi je n’ai plus qu’à reprendre des heures de conduite.

Aux Ressources , émission publiée le 19/01/2019
Durée de l’émission : 76 minutes

Le Monde publie les bonnes feuilles de “En attendant les robots” (3 janv. 2019)

Le jour 3 janvier 2019 Pixels, le supplément numérique du quotidien Le Monde, publie en avant-première des extraits de mon ouvrage En attendant les robots. Enquête sur le travail du clic (Editions du Seuil, 2019) à l’occasion de sa parution.


Derrière l’illusion de l’intelligence artificielle, la réalité précaire des « travailleurs du clic »

Dans son livre, dont nous publions les bonnes feuilles, le sociologue Antonio Casilli enquête sur le travail invisible et précarisé qui se cache derrière les IA et les algorithmes.

Pour la majorité des services et fonctionnalités des sites Web, applications et objets connectés, les fabricants vantent – et vendent – désormais de nouvelles solutions numériques personnalisées grâce aux intelligences artificielles et aux algorithmes qu’ils ont mis au point. Modération de contenus sur les réseaux sociaux, applications de livraison de repas ou de véhicules avec chauffeur, vente de produits culturels ou de vêtements, enceintes avec assistant vocal…, nos vies seraient désormais facilitées par les robots et autres solutions intelligentes. Cet argument promotionnel ravive la vieille idée selon laquelle le travail humain est peu à peu remplacé par les machines.

Dans son livre enquête En attendant les robots : enquête sur le travail du clic , qui paraît jeudi 3 janvier aux éditions du Seuil et que Le Monde a pu lire en exclusivité, le sociologue Antonio Casilli montre au contraire que ces avancées numériques ne fonctionnent pas sans digital labor , un travail humain invisibilisé et précarisé à grande échelle. En exposant les différentes facettes de ce que l’on appelle aussi le « travail du clic » – des internautes qui alimentent gratuitement les réseaux sociaux aux travailleurs des « fermes à clic » en passant par les prestataires de l’économie « ubérisée » -, Antonio Casilli démystifie l’illusion du tout automatique. Il rappelle aussi que ces nouvelles formes de travail, exercées par des millions de personnes dans le monde, sont un enjeu majeur de l’économie du XXIe siècle.

Bonnes feuilles. C’est en 2017 que j’interviewe Simon. Ce n’est pas son vrai nom, comme par ailleurs SuggEst n’est pas le vrai nom de la start-up qu’il intègre en 2016 en qualité de stagiaire, à la fin de son master Sup de Co. En revanche, l’entreprise existe et se porte bien. C’est une « pépite » du secteur innovant, spécialisée en intelligence artificielle (IA). SuggEst vend une solution automatisée de pointe qui propose des produits de luxe à des clients aisés. Si vous êtes une femme politique, un footballeur, une actrice ou un client étranger – comme l’explique la présentation du site -, en téléchargeant l’application, vous recevez des offres « 100 % personnalisables des marques françaises les plus emblématiques de l’univers du luxe, dans des conditions privilégiées » .

C’est « grâce à un procédé d’apprentissage automatique » que la start-up devine les préférences de ces personnalités et anticipe leurs choix. L’intelligence artificielle est censée collecter automatiquement leurs traces numériques sur des médias sociaux, leurs posts, les comptes rendus d’événements publics auxquels ils ont participé, les photos de leurs amis, fans, parents. Ensuite, elle les agrège, les analyse et suggère un produit.

Jouer les intelligences artificielles

Derrière cette machine qui apprend de manière anonyme, autonome et discrète se cache toutefois une réalité bien différente. Simon s’en rend compte trois jours après le début de son stage, quand, au hasard d’une conversation autour de la machine à café, il demande pour quelles raisons la start-up n’emploie pas un ingénieur en intelligence artificielle ni un data scientist . L’un des fondateurs lui avoue que la technologie proposée à leurs usagers n’existe pas : elle n’a jamais été développée. « Mais l’application offre bien un service personnalisé ? » , s’étonne Simon. Et l’entrepreneur de lui répondre que le travail que l’IA aurait dû réaliser est en fait exécuté à l’étranger par des travailleurs indépendants. A la place de l’IA, c’est-à-dire d’un robot intelligent qui collecte sur le Web des informations et restitue un résultat au bout d’un calcul mathématique, les fondateurs de la start-up ont conçu une plate-forme numérique, c’est-à-dire un logiciel qui achemine les requêtes des usagers de l’application mobile vers… Antananarivo.

C’est, en effet, dans la capitale de Madagascar que se trouvent des personnes disposées à « jouer les intelligences artificielles » . En quoi consiste leur travail ? La plate-forme leur envoie une alerte avec le nom d’une personnalité-cible qui se sert de l’application. Ensuite, en fouillant les médias sociaux et les archives du Web, ils collectent à la main un maximum d’informations sur son compte : des textes, des photos, des vidéos, des transactions financières et des journaux de fréquentation de sites… Ils font le travail qu’un bot, un logiciel d’agrégation de données, aurait dû réaliser. Ils suivent cette personnalité sur les réseaux, parfois en créant de faux profils, et rédigent des fiches avec ses préférences à envoyer en France. Ensuite, SuggEst les agrège et les monétise auprès d’entreprises du luxe, qui proposent les offres. Combien sont-elles, sur terre, ces petites mains de l’intelligence artificielle ? Personne ne le sait. Des millions, certainement. Et combien sont-elles payées ? A peine quelques centimes par clic, souvent sans contrat et sans stabilité d’emploi. Et d’où travaillent-elles ? Depuis des cybercafés, aux Philippines, chez elles en Inde, voire depuis des salles informatiques d’universités au Kenya. Pourquoi acceptent-elles ce job ? La perspective d’une rémunération, sans doute, surtout dans des pays où le salaire moyen d’un travailleur non qualifié ne dépasse pas les quelques dizaines de dollars par mois.

Des petites mains qui actionnent la marionnette

L’implication humaine est nécessaire autant pour des raisons techniques que commerciales. Les intelligences artificielles, on le verra, se basent largement sur des procédés d’apprentissage automatique que l’on appelle « supervisé » : les machines apprennent à interpréter les informations et à réaliser des actions au fil des interactions avec l’accompagnement de « professeurs » humains. Ces derniers proposent les exemples de processus cognitifs que les systèmes intelligents apprennent à reproduire. C’est un temps de formation, d’entraînement de logiciels encore gauches. Mais cet apprentissage ne s’interrompt jamais.

Ce qui aujourd’hui attire notre attention n’est pas le geste expert des informaticiens qui conçoivent les systèmes ou des ingénieurs qui mettent en place l’IA forte, mais bien les milliards (oui, des milliards…) de petites mains qui, au jour le jour, actionnent la marionnette de l’automation faible. C’est un travail humble et discret, qui fait de nous, contemporains, à la fois les dresseurs, les manouvriers et les agents d’entretien de ces équipements. La complexité, l’étendue et la variété des tâches numériques nécessaires pour permettre le fonctionnement des assistants virtuels font du digital labor un objet d’étude incontournable. Mais dès lors que les intelligences artificielles ne sont pas complètement automatisées, le doute surgit qu’elles puissent ne pas l’être du tout.

L’intervention humaine se manifeste alternativement au travers d’actions visant tantôt à faciliter ( enable ), tantôt à entraîner ( train ) et parfois même à se faire passer pour ( impersonate ) des intelligences artificielles. […] Les tâches qui permettent aux intelligences artificielles d’exister et de fonctionner font l’objet d’annonces, d’enchères, d’appariements sur des sites spécialisés en sous-traitance (ou en micro-sous-traitance). Dans d’autres cas, les négociations sont de nature non pécuniaire, par exemple quand la contribution humaine au fonctionnement des intelligences artificielles n’est pas encadrée par une simple transaction, mais par un système complexe d’incitations de nature économique (par exemple des bons d’achats, des services en échange de prestations) ou non économique (plaisir, reconnaissance, jeu, etc.).

Des « microtâcherons » du Web

Le premier type de digital labor renvoie au travail à la demande mettant en relation des demandeurs et des fournisseurs potentiels de prestations, que l’on peut associer à des plates-formes comme Uber ou Deliveroo, dont les applications et les sites Web composent une « économie de petits boulots » ( gig economy ).

En surface, l’usager-prestataire réalise des tâches manuelles en temps réel pour assurer des services de transport, d’hébergement, de livraison, d’aide à la personne, de réparation ou d’entretien. En profondeur, comme pour tous les types de digital labor , il produit des données, à cette différence près que leur extraction demande davantage d’effort physique de sa part. Il s’agit d’activités que l’on peut difficilement confondre avec du loisir : malgré la présence d’éléments de sociabilité, leur pénibilité est reconnaissable, et leurs composantes visibles (conduire, accueillir, s’occuper d’une livraison) demeurent centrales. De même, la dépendance (parfois seulement économique, parfois formalisée par un contrat) de l’usager vis-à-vis de la plate-forme est évidente.

Le deuxième type de digital labor que l’on rencontre sur les plates-formes numériques est le microtravail. Le terme désigne la délégation de tâches fractionnées aux usagers de portails comme Amazon Mechanical Turk ou Clickworker. Dans la mesure où des travailleurs y sont recrutés en nombre, on parle parfois de « travail des foules » ( crowdwork ). Parce qu’ils exécutent des activités standardisées et à faible qualification, on leur donne parfois le nom de « microtâcherons » . Ceux qui demandent l’effectuation des tâches sont des entreprises, des institutions publiques (surtout de recherche), voire des particuliers.

Ce type de digital labor est strictement lié à la pratique du « calcul assisté par l’humain » ( human-based computation ), qui consiste à dépêcher des travailleurs pour effectuer des opérations que les machines sont incapables d’accomplir elles-mêmes. Le microtravail consiste en la réalisation de petites corvées telles que l’annotation de vidéos, le tri de tweets, la retranscription de documents scannés, la réponse à des questionnaires en ligne, la correction de valeurs dans une base de données, la mise en relation de deux produits similaires dans un catalogue de vente en ligne, etc. Pour leurs activités, les usagers reçoivent des rémunérations pouvant aller de quelques euros à moins d’un centime par tâche. Comme dans l’économie à la demande, les plates-formes prélèvent une commission sur toute transaction, bien que des formes de microtravail non rémunérées soient aussi courantes.

Quoique avec un niveau d’organisation et de contestation moins important que dans le cas de l’économie à la demande, le microtravail n’est pas dénué de luttes et de conflits pour la reconnaissance des droits des usagers. En effet, la rhétorique commerciale des investisseurs et des concepteurs de ces services cherche constamment à reléguer ces tâches en dehors du « vrai travail » . Les interfaces des applications sont conçues pour être ludiques et engager les usagers à s’en servir en minimisant la perception de la pénibilité des missions qu’on leur confie. La rémunération modique qu’ils en retirent contribue elle aussi à éloigner les soupçons qu’il s’agit d’une activité travaillée, niant par là même tout lien de subordination. Usagers et propriétaires des plates-formes s’accordent pour dire que le microtravail peut tout au plus donner lieu à un complément de revenu, mais difficilement à un revenu principal. Le niveau de qualification est souvent faible, ce qui explique que ces microprestations favorisent aussi l’entrée sur le marché du travail de personnes affichant une extrême variété aussi bien par leur niveau d’éducation, leurs compétences linguistiques que par leur culture du travail.

La promesse fallacieuse de l’émancipation

Clé de voûte des modèles d’affaires des plates-formes numériques orientées vers la production de solutions « intelligentes » , le digital labor influence de larges écosystèmes d’entreprises et

irrigue les marchés actuels. Les modèles d’organisation du travail humain qu’il inspire présentent une forte variabilité. Les utilisateurs d’applications à la demande et les abonnés de médias sociaux se situent aux extrêmes d’un éventail de situations, dont les constantes sont la tâcheronnisation et la datafication. Le digital labor peut être tantôt assimilé à du freelancing, tantôt au travail temporaire, aux « contrats zéro heure » comme pour certains livreurs à la demande, voire au travail à la pièce pour les microtravailleurs, au travail « gratuit » ou rémunéré par des avantages en nature (bons d’achat, produits, accès à des services premium) pour les membres de plates-formes sociales.

Néanmoins, le digital labor est une occupation qui peine à être reconnue comme relevant du travail au regard des critères de définition de l’emploi formel. Son rapprochement avec d’autres formes de travail invisible (domestique, ludifié, « du consommateur » , « des publics » , immatériel) ayant fait surface au cours des dernières décennies fait en l’occurrence apparaître que la position relative d’un travailleur des plates-formes, les conditions matérielles et la nature de ses activités sont largement influencées par le degré d’ « ostensibilité » de ses tâches.

A travers la promesse fallacieuse de l’émancipation par l’automation et le spectre menaçant de l’obsolescence du travail humain, les plates-formes numériques condamnent la multitude grandissante des tâcherons du clic à une aliénation radicale : oeuvrer inlassablement à leur propre disparition en s’effaçant derrière des machines dont ils sont et resteront les rouages indispensables. Pour contrer cette destinée funeste, la reconnaissance du digital labor s’impose comme un objectif politique majeur, afin de doter les « travailleurs digitaux » d’une véritable conscience de classe en tant que producteurs de valeur.

Dans le Blog de l’IMT (4 janv. 2019)

Entretien avec le blog de l’Institut Mines-Telecom, pour reparcourir mon parcours, de mes travaux sur la vie privée et les données personnelles jusqu’à mon plus ouvrage En attendant les robots. Enquête sur le travail du clic (Editions du Seuil, 2019) à l’occasion de sa parution.

Des données personnelles aux intelligences artificielles : à qui profite le clic ?

Cliquer, liker, partager : toutes nos liaisons numériques produisent de la donnée. Ces informations, captées et monétarisées par les grandes plateformes du numérique, sont en phase de devenir l’or noir – virtuel – du XXIe siècle. Sommes-nous tous devenus les ouvriers du numérique ? À l’occasion de la sortie de son ouvrage, En attendant les robots, enquête sur le travail du clic, Antonio Casilli, chercheur à Télécom ParisTech et spécialiste du digital labor, revient pour nous sur les dessous de cette exploitation 2.0.

Qui nous sommes, ce que nous aimons, ce que nous faisons, quand, avec qui : les assistants personnels et autres interlocuteurs virtuels savent tout de nous. L’espace numérique est le nouveau terrain de l’intime. Ce capital social virtuel est la matière brute des géants de l’internet. La rentabilité des plateformes numériques, de Facebook à Airbnb en passant par Apple ou encore Uber, repose sur l’analyse massive de données des utilisateurs à des fins publicitaires. Dans son nouvel ouvrage intitulé En attendant les robots, enquête sur le travail du clic, Antonio Casilli explore ainsi l’émergence d’un capitalisme de surveillance, opaque et invisible, marquant l’avènement d’une nouvelle forme de prolétariat du numérique : le digital labor — ou travail numérique « du doigt » en français. Du microtravailleur du clic, conscient et rémunéré, à l’usager dont l’activité de production de données est implicite, le sociologue analyse les coulisses d’un travail hors travail, et la réalité bien palpable de cette économie de l’immatériel.

À lire sur I’MTech : Quèsaco le digital labor ?

Antonio Casilli interroge notamment la capacité des plateformes du net à mettre leurs utilisateurs au travail, convaincus d’être plus consommateurs que producteurs. « La gratuité de certains services numériques n’est qu’une illusion. Chaque clic alimente d’une part un vaste marché publicitaire, de l’autre il produit de la donnée qui nourrit des intelligences artificielles. Chaque j’aime, chaque post, chaque photo, chaque notation ou connexion remplit une condition : produire de la valeur. Ce digital labor est très faiblement voire non rémunéré, puisque personne ne touche une rétribution à la hauteur de la valeur produite. Mais cela reste du travail : c’est une source de valeur, tracée, mesurée, évaluée, et encadrée contractuellement par les conditions générales d’usage des plateformes » explique le sociologue.

Cachez cet humain que je ne saurais voir

Ainsi, pour lui, le digital labor est une nouvelle forme du travail, invisibilisée, qui se manifeste au travers de nos traces numériques. Loin de marquer la disparition du travail humain remplacé par les robots, ce travail au clic questionne la frontière entre le travail implicitement produit et l’emploi formellement reconnaissable. Et pour cause, les micro-travailleurs payés à la pièce ou les usagers-producteurs de données, comme nous, sont indispensables pour les plateformes. Ces données alimentent les modèles de machine learning : derrière l’automatisation d’une tâche, comme la reconnaissance visuelle ou textuelle, ce sont en fait des humains qui nourrissent les applications, en indiquant, par exemple sur des images le ciel, les nuages ou en retranscrivant un mot.

« Selon certaines idées reçues, ces machines apprendraient toutes seules. Mais pour entraîner leurs algorithmes  à calibrer, à améliorer leurs services, les plateformes ont besoin d’énormément de personnes qui les entraînent et les testent » rappelle Antonio Casilli. Parmi les exemples les plus emblématiques, un service proposé par le géant américain Amazon, Mechanical Turk. Ironie du sort, son nom fait référence à un canular remontant au XVIIIème siècle. Un automate joueur d’échecs, appelé le « turc mécanique », était capable de remporter des parties contre des joueurs humains. Le Turc était en réalité manipulé par de véritables humains qui se glissaient à l’intérieur.

I never tire of looking at videos of Chinese click farms. It’s just so surreal to see hundreds of phones playing the same video for the purposes of fake engagment. pic.twitter.com/bHAGLqRqVb

— Matthew Brennan (@mbrennanchina) December 10, 2018

De même, certains services dits “intelligents” s’appuient largement sur la mise au travail de petites mains. Une intelligence artificielle “artificielle” en quelque sorte. Un travail au service de la machine, où ces ouvriers du numérique accomplissent des microtâches maigrement rémunérées. « Le digital labor marque ainsi l’apparition d’une nouvelle manière de travailler : tâcheronnisé, parce que le geste humain est réduit à un simple clic ; dataisé, parce qu’il s’agit de produire de la donnée pour que les plateformes numériques en tirent de la valeur » explique Antonio Casilli. Et c’est bien là que la data blesse. Aliénation et exploitation : aux tâcherons du web installés dans le Nord, s’ajoutent le plus souvent des homologues situés en Inde, aux Philippines, ou dans des pays en voie de développement, où le salaire moyen est bas, où ils sont parfois rémunérés moins qu’un centime par clic.

Encadrer le digital labor par le droit ?

Ces nouvelles formes de travail échappent encore aux normes salariales. Néanmoins, les recours collectifs contre les plateformes numériques pour revendiquer certains droits se sont multipliés ces dernières années. À l’image des chauffeurs Uber ou des livreurs Deliveroo qui tentent, par voie de justice, de faire requalifier leur contrat commercial en contrat de travail. Face à cette précarisation du travail numérique, Antonio Casilli envisage trois évolutions possibles pour une reconnaissance sociale, économique et politique du digital labor.

« De Uber aux modérateurs des plateformes, le droit du travail classique — donc la requalification en salariat — pourrait permettre une reconnaissance de leur statut. Mais le travail dépendant n’est pas forcément la panacée. Aussi, on voit de plus en plus se développer des formes de plateformes coopératives où les usagers deviennent les propriétaires des moyens de production et des algorithmes. » Antonio Casilli voit toutefois des limites à ces deux évolutions. Pour lui, une troisième voie est possible. « Nous ne sommes ni les petits propriétaires, ni les petits entrepreneurs de nos données. Nous sommes les travailleurs de nos données. Et ces données personnelles, ni privées, ni publiques, appartiennent à tous et à personne. La vie privée doit être une négociation collective. Il nous reste à inventer et à faire émerger des institutions pour en faire un véritable bien commun. Internet est un nouveau champ de luttes » s’enthousiasme le chercheur.

Vers une fiscalité du numérique

Alors, les données personnelles de moins en moins personnelles ? “Chacun d’entre nous produit de la donnée. Mais cette donnée est, en fait, une ressource collective, appropriée et privatisée par des plateformes. Ces plateformes devraient non pas rémunérer à la pièce la donnée de chaque individu, mais plutôt restituer, redonner à la collectivité nationale ou internationale, via une fiscalité équitable, la valeur qu’elles ont extraite” détaille Antonio Casilli. En mai dernier, le règlement général sur la protection des données (RGPD) est entré en application dans l’Union Européenne. Entre autres, ce texte protège désormais les données comme des attribut de la personnalité et non plus comme une propriété. Ainsi, théoriquement, chacun peut désormais consentir librement – et à tout moment – à l’exploitation de ses données personnelles et retirer son consentement aussi simplement.

Si la régulation passe aujourd’hui par un ensemble de mesures de protection, la mise en place d’une fiscalité telle que promue par Antonio Casilli permettrait l’instauration d’un revenu de base inconditionnel. Le fait même d’avoir cliqué ou partagé une information pourrait donner droit à cette redevance et permettrait à chaque utilisateur d’être rémunéré pour n’importe quel contenu posté en ligne. Ce revenu ne serait donc pas lié aux tâches réalisées mais reconnaîtrait la valeur issue de ces contributions. En 2020, plus de 20 milliards d’appareils seront connectés à l’internet des objets. Le marché de la donnée pourrait ainsi atteindre près de 430 milliards d’euros par an d’ici là selon certaines estimations, soit ⅓ du PIB de la France. Les données ne sont définitivement pas des marchandises comme les autres.

En attendant les robots, enquête sur le travail du clic, Antonio A. Casilli, Éditions du Seuil, en librairie depuis le 3 janvier 2019.

Article rédigé par Anne-Sophie Boutaud, pour I’MTech.

We need a political subject capable to think an alternative to digital labor (interview Green European Journal, vol. 17, 2018)

[Update: this interview has been translated in portuguese by Priscila Pedrosa]
An interview with Yours Truly and political activist Lorenzo Marsili, published in vol. 17 (“Work on the Horizon: Tracking Employment’s Transformation in Europe”), pp. 80-88 of the Green European Journal. You can download the entire issue here.

Earn Money Online: The Politics of Microwork and Machines

With hype around automation and robotisation at fever pitch, many argue that we will soon see mass labour disappear altogether. Sociologist Antonio Casilli begs to differ. Work is not disappearing, he argues in this interview with Lorenzo Marsili, but is being transformed by the giants of the digital economy. Understanding how the world of work is changing, and in whose interest, is the key political question of the future.

Lorenzo Marsili: You claim that fears of automation are one of the most recurrent human concerns. Do you think the alarm about “robots taking our jobs” should be toned down?

Antonio Casilli: We are afraid of a ‘great substitution’ of humans by machines. This is quite an old concept, one we can trace back to early industrial capitalism. In the 18th and 19th centuries, thinkers like Thomas Mortimer and David Ricardo asked whether the rise of steam power or mechanised mills implied the “superseding of the human race.” This vision was clearly a dystopian prophecy that was never realised in the form originally predicted.

But when jobs were lost, it was because managers and investors decided to use machines – as they still do – as a political tool to put pressure on workers. Such pressures serve to push down wages and, by extension, to expand the profits made by capital. Machines therefore have a precise ideological alignment that typically benefits the part of society which possesses financial means, at the expense of that which works. As a result, the rhetoric around machines as inevitable and neutral job destroyers has been used for two centuries to squeeze the workforce and silence its demands. The discourse that surrounds automation today, with the accompanying fear of robots, is a reproduction of this same rhetoric.

Let’s take a step back. The ‘gig economy’ has become synonymous with underpaid, precarious employment. You choose to focus on the concept of the ‘microtask’. What does this concept refer to?

Microtasks are fragmented and under-remunerated productive processes. Examples include translating one line of a one-page text, watching 10 seconds of an hour-long surveillance video, and tagging the content of five images. Microworkers are usually paid a few cents per task. These tasks are usually posted on microwork platforms which function as labour markets or job search websites. Microworkers can choose the task they want to perform and are allocated a few minutes to complete it. Microtasks are becoming increasingly important in domains as wide-ranging as marketing, computer vision, and logistics, to name just a few. One of the smallest microtasks is the single click, which can be paid as little as one thousandth of a dollar.

The rhetoric around machines as inevitable and neutral job destroyers has been used for two centuries to squeeze the workforce and silence its demands

Are we talking about a significant new phenomenon or is it more of a niche area?

We are faced with a statistical problem when investigating microwork, one shared with the gig economy and indeed every type of informal, atypical, or undeclared work. Their scale and pervasiveness are difficult to gauge with the usual statistical resources such as large-scale surveys, models like the Labour Force Survey, data from the International Labour Organization, or businesses themselves supplying information voluntarily. As far as microwork alone goes, estimates vary wildly. The most conservative, like those of the World Bank, point to just 40 million microworkers. The most exaggerated, meanwhile, describe 300 million in China alone. Personally, I would estimate that there are around 100 million such workers in the world. But the real question is whether these 100 million are the seeds of a much broader tendency. If microwork indicates a way of working that is becoming the norm, how many workers are transforming into microworkers?

And would you say that all work is starting to resemble microwork?

If we look in detail at the evolution of a few particular professions, we can see that they are becoming fragmented and standardised. Take journalists and graphic designers. Instead of producing a campaign, an investigation, or some other project, like 10 or 20 years ago, they find themselves increasingly tasked with producing a small part of a larger project. They are assigned microtasks, to edit a line or to change the colour in a logo, while the rest is distributed to other people. The future of journalism is not threatened by algorithms that write pieces in place of humans, but by the owners of ‘content mills’ that do not demand entire articles but three lines which are used to optimise algorithms. Because the websites in which these texts appear are found by search engines and not by readers, the texts are tailored with the algorithms in mind. Similar kinds of transformations seem to be taking place across a number of sectors.

One interesting aspect of these microjobs is the symbiosis between automated and manual processes. There are jobs that require ‘teaching’ machines and algorithms to make them more efficient for a given task, such as autonomous driving or image recognition. It seems like Star Trek in reverse, where it is no longer the machines that work for the humans but the humans that work for the machines.

In a certain sense, we are seeing the old idea that computers are there for us to command overturned. What’s happening now is that these objects that are a part of our everyday lives – our smartphones, our cars, our personal computers, and many more objects in our homes – are often used to run the automatic processes we call artificial intelligence. By artificial intelligence we mean processes that take decisions in a more or less automatic manner, and which learn, solve problems, and ultimately make decisions, including purchases, in our place. But the problem is that we have this false idea that artificial intelligence is intelligent from its very inception. On the contrary, artificial intelligence needs to be trained, which is why we use terms like ‘machine learning.’ But who teaches artificial intelligence? If we still think the answer is engineers and data scientists, then we are making a big mistake. What artificial intelligence really requires is a huge quantity of examples, and these come from our own personal data. The problem is that this raw information we produce needs to be refined, cleaned, and corrected.

So this is where microwork comes in?

Yes, who wants to do this degrading, routine work? Many people recruited by microwork platforms come from developing countries where the labour market is so precarious and fragmented that they accept minimal remuneration. In return, they perform tasks that might include, for example, copying down a car license plate to provide data for the algorithm managing motorway speeding tickets, or to recognise 10 images, which might be used to provide data on pattern recognition.

But how does this expansion of microwork relate to the stagnation of labour markets in the more advanced capitalist economies? In the UK, for example, there is almost full employment but jobs are increasingly precarious and wages flat.

There is a longer-term trend here that became marked at the end of the 20th century. It consists in the segmentation of the labour market through a pronounced division between ‘insiders’, those who work in ‘formal’ jobs, and ‘outsiders’, who live on ‘odd jobs.’ The so-called outsiders, who are used to moving from one job to another, are the first candidates on microwork platforms. What’s also happening, however, is that insider jobs are becoming less and less formal. The decline of formal work is the result of a political assault on the rights and numbers of salaried workers with the goal of increasing the profit share relative to the wage share. What we see as a result in Western labour markets is an ongoing movement of people from jobs that were traditionally in the formal sector into informal work. This trend is both a result of the huge wave of layoffs seen in recent years, as well as of the outsourcing of productive processes. Outsourcing sees people leave formal jobs to become informal providers for the same company that previously employed them. These people are sometimes asked to leave companies to create their own small businesses and become subcontractors of their former employer.

So labour is not so much destroyed as transformed. Can this development be explained by today’s new monopoly capitalism, with a few large monopolies each dominating a specific platform service?

I would say that there is a process of concentration of capitalism but I don’t agree completely with the notion of monopoly capitalism. I tend to follow the school of thought presented by Nikos Smyrnaios, a Greek researcher, who wrote a book about oligopolistic capitalism, specifically regarding online and digital platforms. The point of his analysis is that there is no such thing as a monopolistic approach to the digital economy. What actually happens is that, for structural and political reasons, these platforms tend to become big oligopolistic economic agents and tend to create what economists would describe as ‘oligopsonies’, or markets dominated by a few buyers, in this case buyers of labour. Thus a handful of big platforms buys labour from a myriad of providers, as happens on microtask services like Amazon Mechanical Turk. These platforms cannot become actual monopolies because they tend to compete amongst themselves.

Citizens are facing relentless efforts deployed by digital capitalists to fragment, standardise, and ‘taskify’ their activities

One way of describing it today is by using quick acronyms like the GAFAM (Google, Apple, Facebook, Amazon, and Microsoft). There are four or five big actors, big platforms, which despite being known for a specific product – whether it is the Google search engine or the Amazon catalogue – don’t really have a ‘typical’ product either. Instead, they are ready to regularly shift to new products and new models. Look at Google’s parent company, Alphabet: it trades in everything from military robot-dogs to think-tanks to fighting corruption. The only thing that is constant for these platforms across products and services is that they rely heavily on data and automated processes, that which we now call artificial intelligence. To capture the data they need to nourish the artificial intelligence they create and sell, they need people to create and refine this data. And so we are back to our role as digital producers of data.

So you would agree with the late Stephen Hawking: the problem is not the robots, but capitalism or, put differently, whoever controls the algorithmic means of production.

This has always been the main problem. The point today is that the algorithmic means of production have become an excuse for capitalists to take certain decisions that would otherwise cause popular uproar. If I were a CEO of a big platform and I declared that my intention was to “destroy the labour market”, I would of course provoke a serious social backlash. But if I said, “I’m not destroying anything, this is just progress, and you cannot stop it”, nobody would react. Nobody wants to be identified with obscurantism or backwardness, especially on the Western Left, whose entire identity is rooted in historical materialism and social progress. So the cultural discourse of “robots who are definitely going to take our jobs” is designed to relieve industrial and political decision-makers from their responsibilities, and to defuse any criticism, reaction, or resistance.

So we need to push against the portrayal of these transformations as natural or magical events, as opposed to political choices. As you know, in the 1970s there was an early re-reading of Marx’s Fragment on Machines, led by Toni Negri and others, which developed the idea of a ‘cognitariat’ as a new political class that could rise up from new forms of immaterial labour. Where do you think that a political force to contest top-down automation might come from?

My own personal history is rooted in a specific intellectual milieu: Italian post-workerism. Nevertheless, some of its hypotheses need to be critically reappraised. I can think of three in particular. The first one is the Marxist notion of a general intellect. With today’s platforms, we are not facing such a phenomenon. Our use of contemporary digital platforms is extremely fragmented and there is no such thing as progress of the collective intelligence of the entire working class or society. Citizens are facing relentless efforts deployed by digital capitalists to fragment, standardise, and ‘taskify’ their activities and their very existences.

The second point is that the bulk of ‘Italian theory’ is based on the notion of immaterial labour. But if we look at digital platforms, and the way they command labour, we see that there is no such thing as a dematerialisation of tasks. The work of Uber drivers or Deliveroo riders relies on physical, material tasks. Even their data is produced by a very tangible process, resting on a series of clicks that an actual finger has to perform.

And finally, we need to dispute the idea that such a political entity, a class of proletarians whose work depends on their cognitive capacities, actually exists. Even if it did, can we really characterise this political subjectivity as a cognitariat? If you read Richard Barbrook’s 2006 book The Class of the New, you’ll see there’s a long list of candidates for the role of Left-sponsored ‘emerging political subjectivities’, one for each time we experience technological or economic change. Between the ‘lumpenproletariat’, the ‘cognitariat’, the ‘cybertariat’, the ‘virtual class’, and the ‘vectorialist class’, the list could go on forever. But which one of these political and social entities is best suited to defending rights and advancing the conditions of its members? And more importantly, which is able to overcome itself?

What do you mean by overcome itself?

The world doesn’t need a new class that simply establishes digital labour and the gig economy as the only way to be. We need a political subject that is able to think about an alternative.

What do you think should be the role of the state? It seems that the only two national ecosystems trying to govern artificial intelligence are the US and China: Silicon Valley and the state-driven ‘Great Firewall of China’. Where does this leave Europe?

There is a question of what the role of the nation state is in a situation where you have a dozen big players internationally whose power, influence, and economic weight are so vast that in some cases they surpass those of the states themselves. Yet states and platforms are not competitors; they collude. U.S. multinationals are just as state driven as Chinese ones. U.S. government funds and big agency contracts have been keeping Silicon Valley afloat for decades. Moreover, there’s a clear revolving door effect: Silicon Valley CEOs going to work for Washington think tanks or for the Pentagon, like Google’s Eric Schmidt for example.

To be extremely blunt, states should heavily regulate these multinationals, but at the same time they should adopt a policy of extreme laissez faire when it comes to individuals, citizens, and civil society at large. Yet so far exactly the opposite has happened: generally speaking, states are repressing any kind of development or experimentation coming from civil society. They stigmatise independent projects by accusing them of being possible receptacles for terrorists, sexual deviants, and hostiles. Meanwhile, the big platforms are left free to do whatever they want. This situation has to change if we are to have actual political and economic progress.

[Séminaire #ecnEHESS] Antonio Casilli : Intelligences artificielles et travail des plateformes (13 nov. 2017)

Enseignement ouvert aux auditeurs libres. Pour s’inscrire, merci de renseigner le formulaire.

Pour la première séance de l’édition 2017/18 de notre séminaire #ecnEHESS Étudier les cultures du numérique : approches théoriques et empiriques, je vais présenter mes travaux récents sur le lien entre digital labor, plateformisation et intelligence artificielle.

Le séminaire aura lieu le lundi 13 novembre, de 17 h à 20 h (salle M. & D. Lombard, 96 bd Raspail 75006 Paris).

Des intelligences pas si artificielles : plateformes, digital labor et la « tentation d’automatiser »

L’un des penseurs classiques de l’industrialisme, David Ricardo, consacrait à la question de la « destruction du travail » par les machines le chapitre 31 de ses Principes de l’économie politique. À ses yeux, l’utilisation de solutions technologiques n’était pas un destin inéluctable, aboutissant à la substitution complète des travailleurs, mais plutôt un choix humain, résultant d’une « tentation d’employer des machines » [temptation to employ machinery] qui habitait le capitaliste. Était-ce un véritable aménagement libidinal qui poussait ce dernier à préférer l’automation à d’autres méthodes pour recruter de la main-d’œuvre meilleur marché, telle la délocalisation ou la mise au travail des familles des ouvriers ?

Cette présentation interroge le parcours culturel et socio-économique qui, de cette vision, nous a conduit aux sombres présages actuels du « grand remplacement » des humains par les technologies intelligentes. Le débat contemporain est marqué par les prophéties dystopiques de la disparition de 47% des emplois à cause des solutions automatisées, ou par les fantasmes de la gouvernance algorithmique du travail. Ceux-ci représentent autant de discours d’accompagnement de l’essor des plateformes numériques dont les modèles d’affaires sont de plus en plus structurés autour de l’automation des processus métier.

Bien que dans le contexte politique présent retentissent les annonces du dépassement des catégories héritées de la culture du travail des siècles passés (emploi, protection, subordination, pénibilité), l’heure d’une civilisation « post-laboriste » n’a pas encore sonné. Le fait est que les activités productives ont tellement évolué que le travail est en manque de reconnaissance. Pour le voir à nouveau, nous devons faire appel à la catégorie du digital labor, qui nous permet d’analyser l’articulation complexe de consommateurs/producteurs, de tâcherons du clic, de faux-freelances organisés en chaînes mondiales de sous-traitance. La centralité de la notion de travail est alors réaffirmée, à condition de jeter un regard derrière les rideaux de l’automation, pour observer le recours généralisé de la part des plateformes à des modalités intensives de captation de la valeur à partir des micro-tâches réalisées par des êtres humains afin de – justement – entraîner les intelligences artificielles, enseigner aux algorithmes d’apprentissage automatique, faire circuler les véhicules autonomes.