automation

[Vidéo] Dans Hors Série (19 janv. 2019)

Je me suis entretenu pendant une heure et trente minutes avec la journaliste Laura Raim. La vidéo est disponible sur le site Hors Série (sur abonnement).

Les forçats du clic

Laura Raim

Je fais partie de cette catégorie de gens qui ont le permis mais qui ne savent plus conduire. A force de ne jamais pratiquer, je n’ai acquis aucun réflexe. Et plus le temps passe, plus j’ai peur de réesssayer. Je pense qu’on peut désormais parler de « blocage psychologique ». Vous imaginez donc la lueur d’espoir qu’ont suscitée les nouvelles sur l’arrivée imminente des voitures autonomes, qui promettaient de me délivrer de ce handicap un peu honteux.

Je ne lui en veux pas, mais Antonio Casilli a brisé ce rêve. Dans son ouvrage, En attendant les Robots. Enquête sur le travail du clic ( Seuil), le sociologue démonte implacablement le grand bluff idéologique du mythe du « grand remplacement technologique ». On découvre que l’intelligence artificielle est moins l’affaire d’une poignée de génies des mathématiques en blouse blanche confectionnant des supercalculateurs de 200 pétaflops dédiés au « deep learning », que de millions de « tâcherons » du numérique, « mélange de stagiaires français et de précaires malgaches », sous-payés pour à la fois entraîner, cadrer et fournir les ordinateurs en données fiables et utilisables. Ce ne sont pas en effet « les machines qui font le travail des hommes, mais les hommes qui sont poussés à réaliser un digital labor pour les machines ».

J’avais déjà eu un choc similaire en lisant le génial En Amazonie de Jean-Baptiste Malet, qui dévoilait les conditions de travail hallucinantes dans un entrepôt d’Amazon. De même que le journaliste rendait visible la réalité physique, sale et humaine, derrière l’image faussement virtuelle et désincarnée du numérique, Antonio Casilli fait apparaître l’exploitation très concrète qui se cache derrière l’abstraction des algorithmes, et met à jour l’intérêt stratégique d’alimenter le mensonge d’un inéluctable remplacement des hommes par les robots : empêcher l’organisation des prolétaires du numérique. Et moi je n’ai plus qu’à reprendre des heures de conduite.

Aux Ressources , émission publiée le 19/01/2019
Durée de l’émission : 76 minutes

Le Monde publie les bonnes feuilles de “En attendant les robots” (3 janv. 2019)

Le jour 3 janvier 2019 Pixels, le supplément numérique du quotidien Le Monde, publie en avant-première des extraits de mon ouvrage En attendant les robots. Enquête sur le travail du clic (Editions du Seuil, 2019) à l’occasion de sa parution.


Derrière l’illusion de l’intelligence artificielle, la réalité précaire des « travailleurs du clic »

Dans son livre, dont nous publions les bonnes feuilles, le sociologue Antonio Casilli enquête sur le travail invisible et précarisé qui se cache derrière les IA et les algorithmes.

Pour la majorité des services et fonctionnalités des sites Web, applications et objets connectés, les fabricants vantent – et vendent – désormais de nouvelles solutions numériques personnalisées grâce aux intelligences artificielles et aux algorithmes qu’ils ont mis au point. Modération de contenus sur les réseaux sociaux, applications de livraison de repas ou de véhicules avec chauffeur, vente de produits culturels ou de vêtements, enceintes avec assistant vocal…, nos vies seraient désormais facilitées par les robots et autres solutions intelligentes. Cet argument promotionnel ravive la vieille idée selon laquelle le travail humain est peu à peu remplacé par les machines.

Dans son livre enquête En attendant les robots : enquête sur le travail du clic , qui paraît jeudi 3 janvier aux éditions du Seuil et que Le Monde a pu lire en exclusivité, le sociologue Antonio Casilli montre au contraire que ces avancées numériques ne fonctionnent pas sans digital labor , un travail humain invisibilisé et précarisé à grande échelle. En exposant les différentes facettes de ce que l’on appelle aussi le « travail du clic » – des internautes qui alimentent gratuitement les réseaux sociaux aux travailleurs des « fermes à clic » en passant par les prestataires de l’économie « ubérisée » -, Antonio Casilli démystifie l’illusion du tout automatique. Il rappelle aussi que ces nouvelles formes de travail, exercées par des millions de personnes dans le monde, sont un enjeu majeur de l’économie du XXIe siècle.

Bonnes feuilles. C’est en 2017 que j’interviewe Simon. Ce n’est pas son vrai nom, comme par ailleurs SuggEst n’est pas le vrai nom de la start-up qu’il intègre en 2016 en qualité de stagiaire, à la fin de son master Sup de Co. En revanche, l’entreprise existe et se porte bien. C’est une « pépite » du secteur innovant, spécialisée en intelligence artificielle (IA). SuggEst vend une solution automatisée de pointe qui propose des produits de luxe à des clients aisés. Si vous êtes une femme politique, un footballeur, une actrice ou un client étranger – comme l’explique la présentation du site -, en téléchargeant l’application, vous recevez des offres « 100 % personnalisables des marques françaises les plus emblématiques de l’univers du luxe, dans des conditions privilégiées » .

C’est « grâce à un procédé d’apprentissage automatique » que la start-up devine les préférences de ces personnalités et anticipe leurs choix. L’intelligence artificielle est censée collecter automatiquement leurs traces numériques sur des médias sociaux, leurs posts, les comptes rendus d’événements publics auxquels ils ont participé, les photos de leurs amis, fans, parents. Ensuite, elle les agrège, les analyse et suggère un produit.

Jouer les intelligences artificielles

Derrière cette machine qui apprend de manière anonyme, autonome et discrète se cache toutefois une réalité bien différente. Simon s’en rend compte trois jours après le début de son stage, quand, au hasard d’une conversation autour de la machine à café, il demande pour quelles raisons la start-up n’emploie pas un ingénieur en intelligence artificielle ni un data scientist . L’un des fondateurs lui avoue que la technologie proposée à leurs usagers n’existe pas : elle n’a jamais été développée. « Mais l’application offre bien un service personnalisé ? » , s’étonne Simon. Et l’entrepreneur de lui répondre que le travail que l’IA aurait dû réaliser est en fait exécuté à l’étranger par des travailleurs indépendants. A la place de l’IA, c’est-à-dire d’un robot intelligent qui collecte sur le Web des informations et restitue un résultat au bout d’un calcul mathématique, les fondateurs de la start-up ont conçu une plate-forme numérique, c’est-à-dire un logiciel qui achemine les requêtes des usagers de l’application mobile vers… Antananarivo.

C’est, en effet, dans la capitale de Madagascar que se trouvent des personnes disposées à « jouer les intelligences artificielles » . En quoi consiste leur travail ? La plate-forme leur envoie une alerte avec le nom d’une personnalité-cible qui se sert de l’application. Ensuite, en fouillant les médias sociaux et les archives du Web, ils collectent à la main un maximum d’informations sur son compte : des textes, des photos, des vidéos, des transactions financières et des journaux de fréquentation de sites… Ils font le travail qu’un bot, un logiciel d’agrégation de données, aurait dû réaliser. Ils suivent cette personnalité sur les réseaux, parfois en créant de faux profils, et rédigent des fiches avec ses préférences à envoyer en France. Ensuite, SuggEst les agrège et les monétise auprès d’entreprises du luxe, qui proposent les offres. Combien sont-elles, sur terre, ces petites mains de l’intelligence artificielle ? Personne ne le sait. Des millions, certainement. Et combien sont-elles payées ? A peine quelques centimes par clic, souvent sans contrat et sans stabilité d’emploi. Et d’où travaillent-elles ? Depuis des cybercafés, aux Philippines, chez elles en Inde, voire depuis des salles informatiques d’universités au Kenya. Pourquoi acceptent-elles ce job ? La perspective d’une rémunération, sans doute, surtout dans des pays où le salaire moyen d’un travailleur non qualifié ne dépasse pas les quelques dizaines de dollars par mois.

Des petites mains qui actionnent la marionnette

L’implication humaine est nécessaire autant pour des raisons techniques que commerciales. Les intelligences artificielles, on le verra, se basent largement sur des procédés d’apprentissage automatique que l’on appelle « supervisé » : les machines apprennent à interpréter les informations et à réaliser des actions au fil des interactions avec l’accompagnement de « professeurs » humains. Ces derniers proposent les exemples de processus cognitifs que les systèmes intelligents apprennent à reproduire. C’est un temps de formation, d’entraînement de logiciels encore gauches. Mais cet apprentissage ne s’interrompt jamais.

Ce qui aujourd’hui attire notre attention n’est pas le geste expert des informaticiens qui conçoivent les systèmes ou des ingénieurs qui mettent en place l’IA forte, mais bien les milliards (oui, des milliards…) de petites mains qui, au jour le jour, actionnent la marionnette de l’automation faible. C’est un travail humble et discret, qui fait de nous, contemporains, à la fois les dresseurs, les manouvriers et les agents d’entretien de ces équipements. La complexité, l’étendue et la variété des tâches numériques nécessaires pour permettre le fonctionnement des assistants virtuels font du digital labor un objet d’étude incontournable. Mais dès lors que les intelligences artificielles ne sont pas complètement automatisées, le doute surgit qu’elles puissent ne pas l’être du tout.

L’intervention humaine se manifeste alternativement au travers d’actions visant tantôt à faciliter ( enable ), tantôt à entraîner ( train ) et parfois même à se faire passer pour ( impersonate ) des intelligences artificielles. […] Les tâches qui permettent aux intelligences artificielles d’exister et de fonctionner font l’objet d’annonces, d’enchères, d’appariements sur des sites spécialisés en sous-traitance (ou en micro-sous-traitance). Dans d’autres cas, les négociations sont de nature non pécuniaire, par exemple quand la contribution humaine au fonctionnement des intelligences artificielles n’est pas encadrée par une simple transaction, mais par un système complexe d’incitations de nature économique (par exemple des bons d’achats, des services en échange de prestations) ou non économique (plaisir, reconnaissance, jeu, etc.).

Des « microtâcherons » du Web

Le premier type de digital labor renvoie au travail à la demande mettant en relation des demandeurs et des fournisseurs potentiels de prestations, que l’on peut associer à des plates-formes comme Uber ou Deliveroo, dont les applications et les sites Web composent une « économie de petits boulots » ( gig economy ).

En surface, l’usager-prestataire réalise des tâches manuelles en temps réel pour assurer des services de transport, d’hébergement, de livraison, d’aide à la personne, de réparation ou d’entretien. En profondeur, comme pour tous les types de digital labor , il produit des données, à cette différence près que leur extraction demande davantage d’effort physique de sa part. Il s’agit d’activités que l’on peut difficilement confondre avec du loisir : malgré la présence d’éléments de sociabilité, leur pénibilité est reconnaissable, et leurs composantes visibles (conduire, accueillir, s’occuper d’une livraison) demeurent centrales. De même, la dépendance (parfois seulement économique, parfois formalisée par un contrat) de l’usager vis-à-vis de la plate-forme est évidente.

Le deuxième type de digital labor que l’on rencontre sur les plates-formes numériques est le microtravail. Le terme désigne la délégation de tâches fractionnées aux usagers de portails comme Amazon Mechanical Turk ou Clickworker. Dans la mesure où des travailleurs y sont recrutés en nombre, on parle parfois de « travail des foules » ( crowdwork ). Parce qu’ils exécutent des activités standardisées et à faible qualification, on leur donne parfois le nom de « microtâcherons » . Ceux qui demandent l’effectuation des tâches sont des entreprises, des institutions publiques (surtout de recherche), voire des particuliers.

Ce type de digital labor est strictement lié à la pratique du « calcul assisté par l’humain » ( human-based computation ), qui consiste à dépêcher des travailleurs pour effectuer des opérations que les machines sont incapables d’accomplir elles-mêmes. Le microtravail consiste en la réalisation de petites corvées telles que l’annotation de vidéos, le tri de tweets, la retranscription de documents scannés, la réponse à des questionnaires en ligne, la correction de valeurs dans une base de données, la mise en relation de deux produits similaires dans un catalogue de vente en ligne, etc. Pour leurs activités, les usagers reçoivent des rémunérations pouvant aller de quelques euros à moins d’un centime par tâche. Comme dans l’économie à la demande, les plates-formes prélèvent une commission sur toute transaction, bien que des formes de microtravail non rémunérées soient aussi courantes.

Quoique avec un niveau d’organisation et de contestation moins important que dans le cas de l’économie à la demande, le microtravail n’est pas dénué de luttes et de conflits pour la reconnaissance des droits des usagers. En effet, la rhétorique commerciale des investisseurs et des concepteurs de ces services cherche constamment à reléguer ces tâches en dehors du « vrai travail » . Les interfaces des applications sont conçues pour être ludiques et engager les usagers à s’en servir en minimisant la perception de la pénibilité des missions qu’on leur confie. La rémunération modique qu’ils en retirent contribue elle aussi à éloigner les soupçons qu’il s’agit d’une activité travaillée, niant par là même tout lien de subordination. Usagers et propriétaires des plates-formes s’accordent pour dire que le microtravail peut tout au plus donner lieu à un complément de revenu, mais difficilement à un revenu principal. Le niveau de qualification est souvent faible, ce qui explique que ces microprestations favorisent aussi l’entrée sur le marché du travail de personnes affichant une extrême variété aussi bien par leur niveau d’éducation, leurs compétences linguistiques que par leur culture du travail.

La promesse fallacieuse de l’émancipation

Clé de voûte des modèles d’affaires des plates-formes numériques orientées vers la production de solutions « intelligentes » , le digital labor influence de larges écosystèmes d’entreprises et

irrigue les marchés actuels. Les modèles d’organisation du travail humain qu’il inspire présentent une forte variabilité. Les utilisateurs d’applications à la demande et les abonnés de médias sociaux se situent aux extrêmes d’un éventail de situations, dont les constantes sont la tâcheronnisation et la datafication. Le digital labor peut être tantôt assimilé à du freelancing, tantôt au travail temporaire, aux « contrats zéro heure » comme pour certains livreurs à la demande, voire au travail à la pièce pour les microtravailleurs, au travail « gratuit » ou rémunéré par des avantages en nature (bons d’achat, produits, accès à des services premium) pour les membres de plates-formes sociales.

Néanmoins, le digital labor est une occupation qui peine à être reconnue comme relevant du travail au regard des critères de définition de l’emploi formel. Son rapprochement avec d’autres formes de travail invisible (domestique, ludifié, « du consommateur » , « des publics » , immatériel) ayant fait surface au cours des dernières décennies fait en l’occurrence apparaître que la position relative d’un travailleur des plates-formes, les conditions matérielles et la nature de ses activités sont largement influencées par le degré d’ « ostensibilité » de ses tâches.

A travers la promesse fallacieuse de l’émancipation par l’automation et le spectre menaçant de l’obsolescence du travail humain, les plates-formes numériques condamnent la multitude grandissante des tâcherons du clic à une aliénation radicale : oeuvrer inlassablement à leur propre disparition en s’effaçant derrière des machines dont ils sont et resteront les rouages indispensables. Pour contrer cette destinée funeste, la reconnaissance du digital labor s’impose comme un objectif politique majeur, afin de doter les « travailleurs digitaux » d’une véritable conscience de classe en tant que producteurs de valeur.

Dans le Blog de l’IMT (4 janv. 2019)

Entretien avec le blog de l’Institut Mines-Telecom, pour reparcourir mon parcours, de mes travaux sur la vie privée et les données personnelles jusqu’à mon plus ouvrage En attendant les robots. Enquête sur le travail du clic (Editions du Seuil, 2019) à l’occasion de sa parution.

Des données personnelles aux intelligences artificielles : à qui profite le clic ?

Cliquer, liker, partager : toutes nos liaisons numériques produisent de la donnée. Ces informations, captées et monétarisées par les grandes plateformes du numérique, sont en phase de devenir l’or noir – virtuel – du XXIe siècle. Sommes-nous tous devenus les ouvriers du numérique ? À l’occasion de la sortie de son ouvrage, En attendant les robots, enquête sur le travail du clic, Antonio Casilli, chercheur à Télécom ParisTech et spécialiste du digital labor, revient pour nous sur les dessous de cette exploitation 2.0.

Qui nous sommes, ce que nous aimons, ce que nous faisons, quand, avec qui : les assistants personnels et autres interlocuteurs virtuels savent tout de nous. L’espace numérique est le nouveau terrain de l’intime. Ce capital social virtuel est la matière brute des géants de l’internet. La rentabilité des plateformes numériques, de Facebook à Airbnb en passant par Apple ou encore Uber, repose sur l’analyse massive de données des utilisateurs à des fins publicitaires. Dans son nouvel ouvrage intitulé En attendant les robots, enquête sur le travail du clic, Antonio Casilli explore ainsi l’émergence d’un capitalisme de surveillance, opaque et invisible, marquant l’avènement d’une nouvelle forme de prolétariat du numérique : le digital labor — ou travail numérique « du doigt » en français. Du microtravailleur du clic, conscient et rémunéré, à l’usager dont l’activité de production de données est implicite, le sociologue analyse les coulisses d’un travail hors travail, et la réalité bien palpable de cette économie de l’immatériel.

À lire sur I’MTech : Quèsaco le digital labor ?

Antonio Casilli interroge notamment la capacité des plateformes du net à mettre leurs utilisateurs au travail, convaincus d’être plus consommateurs que producteurs. « La gratuité de certains services numériques n’est qu’une illusion. Chaque clic alimente d’une part un vaste marché publicitaire, de l’autre il produit de la donnée qui nourrit des intelligences artificielles. Chaque j’aime, chaque post, chaque photo, chaque notation ou connexion remplit une condition : produire de la valeur. Ce digital labor est très faiblement voire non rémunéré, puisque personne ne touche une rétribution à la hauteur de la valeur produite. Mais cela reste du travail : c’est une source de valeur, tracée, mesurée, évaluée, et encadrée contractuellement par les conditions générales d’usage des plateformes » explique le sociologue.

Cachez cet humain que je ne saurais voir

Ainsi, pour lui, le digital labor est une nouvelle forme du travail, invisibilisée, qui se manifeste au travers de nos traces numériques. Loin de marquer la disparition du travail humain remplacé par les robots, ce travail au clic questionne la frontière entre le travail implicitement produit et l’emploi formellement reconnaissable. Et pour cause, les micro-travailleurs payés à la pièce ou les usagers-producteurs de données, comme nous, sont indispensables pour les plateformes. Ces données alimentent les modèles de machine learning : derrière l’automatisation d’une tâche, comme la reconnaissance visuelle ou textuelle, ce sont en fait des humains qui nourrissent les applications, en indiquant, par exemple sur des images le ciel, les nuages ou en retranscrivant un mot.

« Selon certaines idées reçues, ces machines apprendraient toutes seules. Mais pour entraîner leurs algorithmes  à calibrer, à améliorer leurs services, les plateformes ont besoin d’énormément de personnes qui les entraînent et les testent » rappelle Antonio Casilli. Parmi les exemples les plus emblématiques, un service proposé par le géant américain Amazon, Mechanical Turk. Ironie du sort, son nom fait référence à un canular remontant au XVIIIème siècle. Un automate joueur d’échecs, appelé le « turc mécanique », était capable de remporter des parties contre des joueurs humains. Le Turc était en réalité manipulé par de véritables humains qui se glissaient à l’intérieur.

I never tire of looking at videos of Chinese click farms. It’s just so surreal to see hundreds of phones playing the same video for the purposes of fake engagment. pic.twitter.com/bHAGLqRqVb

— Matthew Brennan (@mbrennanchina) December 10, 2018

De même, certains services dits “intelligents” s’appuient largement sur la mise au travail de petites mains. Une intelligence artificielle “artificielle” en quelque sorte. Un travail au service de la machine, où ces ouvriers du numérique accomplissent des microtâches maigrement rémunérées. « Le digital labor marque ainsi l’apparition d’une nouvelle manière de travailler : tâcheronnisé, parce que le geste humain est réduit à un simple clic ; dataisé, parce qu’il s’agit de produire de la donnée pour que les plateformes numériques en tirent de la valeur » explique Antonio Casilli. Et c’est bien là que la data blesse. Aliénation et exploitation : aux tâcherons du web installés dans le Nord, s’ajoutent le plus souvent des homologues situés en Inde, aux Philippines, ou dans des pays en voie de développement, où le salaire moyen est bas, où ils sont parfois rémunérés moins qu’un centime par clic.

Encadrer le digital labor par le droit ?

Ces nouvelles formes de travail échappent encore aux normes salariales. Néanmoins, les recours collectifs contre les plateformes numériques pour revendiquer certains droits se sont multipliés ces dernières années. À l’image des chauffeurs Uber ou des livreurs Deliveroo qui tentent, par voie de justice, de faire requalifier leur contrat commercial en contrat de travail. Face à cette précarisation du travail numérique, Antonio Casilli envisage trois évolutions possibles pour une reconnaissance sociale, économique et politique du digital labor.

« De Uber aux modérateurs des plateformes, le droit du travail classique — donc la requalification en salariat — pourrait permettre une reconnaissance de leur statut. Mais le travail dépendant n’est pas forcément la panacée. Aussi, on voit de plus en plus se développer des formes de plateformes coopératives où les usagers deviennent les propriétaires des moyens de production et des algorithmes. » Antonio Casilli voit toutefois des limites à ces deux évolutions. Pour lui, une troisième voie est possible. « Nous ne sommes ni les petits propriétaires, ni les petits entrepreneurs de nos données. Nous sommes les travailleurs de nos données. Et ces données personnelles, ni privées, ni publiques, appartiennent à tous et à personne. La vie privée doit être une négociation collective. Il nous reste à inventer et à faire émerger des institutions pour en faire un véritable bien commun. Internet est un nouveau champ de luttes » s’enthousiasme le chercheur.

Vers une fiscalité du numérique

Alors, les données personnelles de moins en moins personnelles ? “Chacun d’entre nous produit de la donnée. Mais cette donnée est, en fait, une ressource collective, appropriée et privatisée par des plateformes. Ces plateformes devraient non pas rémunérer à la pièce la donnée de chaque individu, mais plutôt restituer, redonner à la collectivité nationale ou internationale, via une fiscalité équitable, la valeur qu’elles ont extraite” détaille Antonio Casilli. En mai dernier, le règlement général sur la protection des données (RGPD) est entré en application dans l’Union Européenne. Entre autres, ce texte protège désormais les données comme des attribut de la personnalité et non plus comme une propriété. Ainsi, théoriquement, chacun peut désormais consentir librement – et à tout moment – à l’exploitation de ses données personnelles et retirer son consentement aussi simplement.

Si la régulation passe aujourd’hui par un ensemble de mesures de protection, la mise en place d’une fiscalité telle que promue par Antonio Casilli permettrait l’instauration d’un revenu de base inconditionnel. Le fait même d’avoir cliqué ou partagé une information pourrait donner droit à cette redevance et permettrait à chaque utilisateur d’être rémunéré pour n’importe quel contenu posté en ligne. Ce revenu ne serait donc pas lié aux tâches réalisées mais reconnaîtrait la valeur issue de ces contributions. En 2020, plus de 20 milliards d’appareils seront connectés à l’internet des objets. Le marché de la donnée pourrait ainsi atteindre près de 430 milliards d’euros par an d’ici là selon certaines estimations, soit ⅓ du PIB de la France. Les données ne sont définitivement pas des marchandises comme les autres.

En attendant les robots, enquête sur le travail du clic, Antonio A. Casilli, Éditions du Seuil, en librairie depuis le 3 janvier 2019.

Article rédigé par Anne-Sophie Boutaud, pour I’MTech.

We need a political subject capable to think an alternative to digital labor (interview Green European Journal, vol. 17, 2018)

[Update: this interview has been translated in portuguese by Priscila Pedrosa]
An interview with Yours Truly and political activist Lorenzo Marsili, published in vol. 17 (“Work on the Horizon: Tracking Employment’s Transformation in Europe”), pp. 80-88 of the Green European Journal. You can download the entire issue here.

Earn Money Online: The Politics of Microwork and Machines

With hype around automation and robotisation at fever pitch, many argue that we will soon see mass labour disappear altogether. Sociologist Antonio Casilli begs to differ. Work is not disappearing, he argues in this interview with Lorenzo Marsili, but is being transformed by the giants of the digital economy. Understanding how the world of work is changing, and in whose interest, is the key political question of the future.

Lorenzo Marsili: You claim that fears of automation are one of the most recurrent human concerns. Do you think the alarm about “robots taking our jobs” should be toned down?

Antonio Casilli: We are afraid of a ‘great substitution’ of humans by machines. This is quite an old concept, one we can trace back to early industrial capitalism. In the 18th and 19th centuries, thinkers like Thomas Mortimer and David Ricardo asked whether the rise of steam power or mechanised mills implied the “superseding of the human race.” This vision was clearly a dystopian prophecy that was never realised in the form originally predicted.

But when jobs were lost, it was because managers and investors decided to use machines – as they still do – as a political tool to put pressure on workers. Such pressures serve to push down wages and, by extension, to expand the profits made by capital. Machines therefore have a precise ideological alignment that typically benefits the part of society which possesses financial means, at the expense of that which works. As a result, the rhetoric around machines as inevitable and neutral job destroyers has been used for two centuries to squeeze the workforce and silence its demands. The discourse that surrounds automation today, with the accompanying fear of robots, is a reproduction of this same rhetoric.

Let’s take a step back. The ‘gig economy’ has become synonymous with underpaid, precarious employment. You choose to focus on the concept of the ‘microtask’. What does this concept refer to?

Microtasks are fragmented and under-remunerated productive processes. Examples include translating one line of a one-page text, watching 10 seconds of an hour-long surveillance video, and tagging the content of five images. Microworkers are usually paid a few cents per task. These tasks are usually posted on microwork platforms which function as labour markets or job search websites. Microworkers can choose the task they want to perform and are allocated a few minutes to complete it. Microtasks are becoming increasingly important in domains as wide-ranging as marketing, computer vision, and logistics, to name just a few. One of the smallest microtasks is the single click, which can be paid as little as one thousandth of a dollar.

The rhetoric around machines as inevitable and neutral job destroyers has been used for two centuries to squeeze the workforce and silence its demands

Are we talking about a significant new phenomenon or is it more of a niche area?

We are faced with a statistical problem when investigating microwork, one shared with the gig economy and indeed every type of informal, atypical, or undeclared work. Their scale and pervasiveness are difficult to gauge with the usual statistical resources such as large-scale surveys, models like the Labour Force Survey, data from the International Labour Organization, or businesses themselves supplying information voluntarily. As far as microwork alone goes, estimates vary wildly. The most conservative, like those of the World Bank, point to just 40 million microworkers. The most exaggerated, meanwhile, describe 300 million in China alone. Personally, I would estimate that there are around 100 million such workers in the world. But the real question is whether these 100 million are the seeds of a much broader tendency. If microwork indicates a way of working that is becoming the norm, how many workers are transforming into microworkers?

And would you say that all work is starting to resemble microwork?

If we look in detail at the evolution of a few particular professions, we can see that they are becoming fragmented and standardised. Take journalists and graphic designers. Instead of producing a campaign, an investigation, or some other project, like 10 or 20 years ago, they find themselves increasingly tasked with producing a small part of a larger project. They are assigned microtasks, to edit a line or to change the colour in a logo, while the rest is distributed to other people. The future of journalism is not threatened by algorithms that write pieces in place of humans, but by the owners of ‘content mills’ that do not demand entire articles but three lines which are used to optimise algorithms. Because the websites in which these texts appear are found by search engines and not by readers, the texts are tailored with the algorithms in mind. Similar kinds of transformations seem to be taking place across a number of sectors.

One interesting aspect of these microjobs is the symbiosis between automated and manual processes. There are jobs that require ‘teaching’ machines and algorithms to make them more efficient for a given task, such as autonomous driving or image recognition. It seems like Star Trek in reverse, where it is no longer the machines that work for the humans but the humans that work for the machines.

In a certain sense, we are seeing the old idea that computers are there for us to command overturned. What’s happening now is that these objects that are a part of our everyday lives – our smartphones, our cars, our personal computers, and many more objects in our homes – are often used to run the automatic processes we call artificial intelligence. By artificial intelligence we mean processes that take decisions in a more or less automatic manner, and which learn, solve problems, and ultimately make decisions, including purchases, in our place. But the problem is that we have this false idea that artificial intelligence is intelligent from its very inception. On the contrary, artificial intelligence needs to be trained, which is why we use terms like ‘machine learning.’ But who teaches artificial intelligence? If we still think the answer is engineers and data scientists, then we are making a big mistake. What artificial intelligence really requires is a huge quantity of examples, and these come from our own personal data. The problem is that this raw information we produce needs to be refined, cleaned, and corrected.

So this is where microwork comes in?

Yes, who wants to do this degrading, routine work? Many people recruited by microwork platforms come from developing countries where the labour market is so precarious and fragmented that they accept minimal remuneration. In return, they perform tasks that might include, for example, copying down a car license plate to provide data for the algorithm managing motorway speeding tickets, or to recognise 10 images, which might be used to provide data on pattern recognition.

But how does this expansion of microwork relate to the stagnation of labour markets in the more advanced capitalist economies? In the UK, for example, there is almost full employment but jobs are increasingly precarious and wages flat.

There is a longer-term trend here that became marked at the end of the 20th century. It consists in the segmentation of the labour market through a pronounced division between ‘insiders’, those who work in ‘formal’ jobs, and ‘outsiders’, who live on ‘odd jobs.’ The so-called outsiders, who are used to moving from one job to another, are the first candidates on microwork platforms. What’s also happening, however, is that insider jobs are becoming less and less formal. The decline of formal work is the result of a political assault on the rights and numbers of salaried workers with the goal of increasing the profit share relative to the wage share. What we see as a result in Western labour markets is an ongoing movement of people from jobs that were traditionally in the formal sector into informal work. This trend is both a result of the huge wave of layoffs seen in recent years, as well as of the outsourcing of productive processes. Outsourcing sees people leave formal jobs to become informal providers for the same company that previously employed them. These people are sometimes asked to leave companies to create their own small businesses and become subcontractors of their former employer.

So labour is not so much destroyed as transformed. Can this development be explained by today’s new monopoly capitalism, with a few large monopolies each dominating a specific platform service?

I would say that there is a process of concentration of capitalism but I don’t agree completely with the notion of monopoly capitalism. I tend to follow the school of thought presented by Nikos Smyrnaios, a Greek researcher, who wrote a book about oligopolistic capitalism, specifically regarding online and digital platforms. The point of his analysis is that there is no such thing as a monopolistic approach to the digital economy. What actually happens is that, for structural and political reasons, these platforms tend to become big oligopolistic economic agents and tend to create what economists would describe as ‘oligopsonies’, or markets dominated by a few buyers, in this case buyers of labour. Thus a handful of big platforms buys labour from a myriad of providers, as happens on microtask services like Amazon Mechanical Turk. These platforms cannot become actual monopolies because they tend to compete amongst themselves.

Citizens are facing relentless efforts deployed by digital capitalists to fragment, standardise, and ‘taskify’ their activities

One way of describing it today is by using quick acronyms like the GAFAM (Google, Apple, Facebook, Amazon, and Microsoft). There are four or five big actors, big platforms, which despite being known for a specific product – whether it is the Google search engine or the Amazon catalogue – don’t really have a ‘typical’ product either. Instead, they are ready to regularly shift to new products and new models. Look at Google’s parent company, Alphabet: it trades in everything from military robot-dogs to think-tanks to fighting corruption. The only thing that is constant for these platforms across products and services is that they rely heavily on data and automated processes, that which we now call artificial intelligence. To capture the data they need to nourish the artificial intelligence they create and sell, they need people to create and refine this data. And so we are back to our role as digital producers of data.

So you would agree with the late Stephen Hawking: the problem is not the robots, but capitalism or, put differently, whoever controls the algorithmic means of production.

This has always been the main problem. The point today is that the algorithmic means of production have become an excuse for capitalists to take certain decisions that would otherwise cause popular uproar. If I were a CEO of a big platform and I declared that my intention was to “destroy the labour market”, I would of course provoke a serious social backlash. But if I said, “I’m not destroying anything, this is just progress, and you cannot stop it”, nobody would react. Nobody wants to be identified with obscurantism or backwardness, especially on the Western Left, whose entire identity is rooted in historical materialism and social progress. So the cultural discourse of “robots who are definitely going to take our jobs” is designed to relieve industrial and political decision-makers from their responsibilities, and to defuse any criticism, reaction, or resistance.

So we need to push against the portrayal of these transformations as natural or magical events, as opposed to political choices. As you know, in the 1970s there was an early re-reading of Marx’s Fragment on Machines, led by Toni Negri and others, which developed the idea of a ‘cognitariat’ as a new political class that could rise up from new forms of immaterial labour. Where do you think that a political force to contest top-down automation might come from?

My own personal history is rooted in a specific intellectual milieu: Italian post-workerism. Nevertheless, some of its hypotheses need to be critically reappraised. I can think of three in particular. The first one is the Marxist notion of a general intellect. With today’s platforms, we are not facing such a phenomenon. Our use of contemporary digital platforms is extremely fragmented and there is no such thing as progress of the collective intelligence of the entire working class or society. Citizens are facing relentless efforts deployed by digital capitalists to fragment, standardise, and ‘taskify’ their activities and their very existences.

The second point is that the bulk of ‘Italian theory’ is based on the notion of immaterial labour. But if we look at digital platforms, and the way they command labour, we see that there is no such thing as a dematerialisation of tasks. The work of Uber drivers or Deliveroo riders relies on physical, material tasks. Even their data is produced by a very tangible process, resting on a series of clicks that an actual finger has to perform.

And finally, we need to dispute the idea that such a political entity, a class of proletarians whose work depends on their cognitive capacities, actually exists. Even if it did, can we really characterise this political subjectivity as a cognitariat? If you read Richard Barbrook’s 2006 book The Class of the New, you’ll see there’s a long list of candidates for the role of Left-sponsored ‘emerging political subjectivities’, one for each time we experience technological or economic change. Between the ‘lumpenproletariat’, the ‘cognitariat’, the ‘cybertariat’, the ‘virtual class’, and the ‘vectorialist class’, the list could go on forever. But which one of these political and social entities is best suited to defending rights and advancing the conditions of its members? And more importantly, which is able to overcome itself?

What do you mean by overcome itself?

The world doesn’t need a new class that simply establishes digital labour and the gig economy as the only way to be. We need a political subject that is able to think about an alternative.

What do you think should be the role of the state? It seems that the only two national ecosystems trying to govern artificial intelligence are the US and China: Silicon Valley and the state-driven ‘Great Firewall of China’. Where does this leave Europe?

There is a question of what the role of the nation state is in a situation where you have a dozen big players internationally whose power, influence, and economic weight are so vast that in some cases they surpass those of the states themselves. Yet states and platforms are not competitors; they collude. U.S. multinationals are just as state driven as Chinese ones. U.S. government funds and big agency contracts have been keeping Silicon Valley afloat for decades. Moreover, there’s a clear revolving door effect: Silicon Valley CEOs going to work for Washington think tanks or for the Pentagon, like Google’s Eric Schmidt for example.

To be extremely blunt, states should heavily regulate these multinationals, but at the same time they should adopt a policy of extreme laissez faire when it comes to individuals, citizens, and civil society at large. Yet so far exactly the opposite has happened: generally speaking, states are repressing any kind of development or experimentation coming from civil society. They stigmatise independent projects by accusing them of being possible receptacles for terrorists, sexual deviants, and hostiles. Meanwhile, the big platforms are left free to do whatever they want. This situation has to change if we are to have actual political and economic progress.

[Séminaire #ecnEHESS] Antonio Casilli : Intelligences artificielles et travail des plateformes (13 nov. 2017)

Enseignement ouvert aux auditeurs libres. Pour s’inscrire, merci de renseigner le formulaire.

Pour la première séance de l’édition 2017/18 de notre séminaire #ecnEHESS Étudier les cultures du numérique : approches théoriques et empiriques, je vais présenter mes travaux récents sur le lien entre digital labor, plateformisation et intelligence artificielle.

Le séminaire aura lieu le lundi 13 novembre, de 17 h à 20 h (salle M. & D. Lombard, 96 bd Raspail 75006 Paris).

Des intelligences pas si artificielles : plateformes, digital labor et la « tentation d’automatiser »

L’un des penseurs classiques de l’industrialisme, David Ricardo, consacrait à la question de la « destruction du travail » par les machines le chapitre 31 de ses Principes de l’économie politique. À ses yeux, l’utilisation de solutions technologiques n’était pas un destin inéluctable, aboutissant à la substitution complète des travailleurs, mais plutôt un choix humain, résultant d’une « tentation d’employer des machines » [temptation to employ machinery] qui habitait le capitaliste. Était-ce un véritable aménagement libidinal qui poussait ce dernier à préférer l’automation à d’autres méthodes pour recruter de la main-d’œuvre meilleur marché, telle la délocalisation ou la mise au travail des familles des ouvriers ?

Cette présentation interroge le parcours culturel et socio-économique qui, de cette vision, nous a conduit aux sombres présages actuels du « grand remplacement » des humains par les technologies intelligentes. Le débat contemporain est marqué par les prophéties dystopiques de la disparition de 47% des emplois à cause des solutions automatisées, ou par les fantasmes de la gouvernance algorithmique du travail. Ceux-ci représentent autant de discours d’accompagnement de l’essor des plateformes numériques dont les modèles d’affaires sont de plus en plus structurés autour de l’automation des processus métier.

Bien que dans le contexte politique présent retentissent les annonces du dépassement des catégories héritées de la culture du travail des siècles passés (emploi, protection, subordination, pénibilité), l’heure d’une civilisation « post-laboriste » n’a pas encore sonné. Le fait est que les activités productives ont tellement évolué que le travail est en manque de reconnaissance. Pour le voir à nouveau, nous devons faire appel à la catégorie du digital labor, qui nous permet d’analyser l’articulation complexe de consommateurs/producteurs, de tâcherons du clic, de faux-freelances organisés en chaînes mondiales de sous-traitance. La centralité de la notion de travail est alors réaffirmée, à condition de jeter un regard derrière les rideaux de l’automation, pour observer le recours généralisé de la part des plateformes à des modalités intensives de captation de la valeur à partir des micro-tâches réalisées par des êtres humains afin de – justement – entraîner les intelligences artificielles, enseigner aux algorithmes d’apprentissage automatique, faire circuler les véhicules autonomes.