Dietro le meraviglie dell’intelligenza artificiale, dal riconoscimento delle immagini alle traduzioni automatiche, non ci sono tanto i pochi pagatissimi programmatori. Ci sono soprattutto milioni di persone sottopagate e miliardi di consumatori ignari che, per pochi centesimi o per un’illusoria gratificazione, forniscono una manodopera a buon mercato alle grandi compagnie del web: filtrano i commenti, classificano le informazioni per aiutare gli algoritmi ad apprendere, votano e controllano chi fornisce i servizi. All’indomani dell’istruttoria aperta dall’Antitrust contro la posizione dominante di Google nella raccolta dei dati pubblicitari, Eta Beta esplora le strategie con cui, sotto la retorica della flessibilità della rete, i colossi di internet sfruttano l’attività degli utenti del web per risparmiare sui costi, venderne i dati e addestrare gli algoritmi di automazione.
“Schiavi del clic” (Feltrinelli 2020), traduzione italiana di “En attendant les robots” (Seuil 2019, Premio Écrit Social e Gran Premio Protection Sociale 2019), presenta una critica della profezia distopica della “fine del lavoro” nel contesto del trionfo dell’intelligenza artificiale. L’automazione attuale è basata su masse enormi di dati, dati prodotti da esseri umani. Non si tratta di ingegneri né di data scientists, ma di lavoratori precari e invisibili che costituiscono l’esercito industriale di riserva delle piattaforme digitali.
In alcuni casi, questi “operai del clic” non sono remunerati, come gli utenti dei social. In altri, si tratta di cottimisti pagati qualche centesimo, come i micro-lavoratori e i click-farmersnei paesi del Sud globale. In altri casi ancora, sono i precari dell’economia dei lavoretti: dietro la facciata dei servizi di trasporto e di consegna, il lavoro degli autisti di Uber o dei ciclo-fattorini di Glovo consiste principalmente nel produrre dati che “addestrano” algoritmi o migliorano veicoli a guida autonoma.
Per produrre le soluzioni di machine learning servono milioni di lavoratori che preparano i dati, verificano i risultati, e a volte impersonano le intelligenze artificiali stesse, secondo la celebre promessa di produrre della artificial intelligence fatta da Jeff Bezos in occasione del lancio del servizio Amazon Mechanical Turk.
Basandosi su anni di studi della sua equipe all’Institut Polytechnique de Paris e di suoi colleghi membri dell’International Network on Digital Labor, l’autore mostra con ricchezza di esempi, come l’automazione non sia un destino ineluttabile, ma una scelta ideologica che serve per disciplinare una forza lavoro globale sempre più imponente—e in cerca di riconoscimento.
Biografia:
Antonio A. CASILLI è professore ordinario di sociologia alla Telecom Paris, scuola di ingegneria delle telecomunicazioni dell’Institut Polytechnique de Paris. Dal 2007 coordina il seminario “Studiare le culture digitali” all’École des Hautes Études en Sciences Sociales (EHESS). È fra i fondatori dell’INDL (International Network on Digital Labor). Fra i suoi libri, tradotti in diverse lingue: Schiavi del clic (Feltrinelli, 2020); Trabajo, conocimiento y vigilancia (Editorial del Estado, 2018); Against the hypothesis of the end of privacy (con P. Tubaro e Y. Sarabi, Springer, 2014); Les Liaisons numériques (Editions du Seuil, 2010).
Lettura consigliata:
Antonio A. Casilli, Schiavi del clic. Perchè lavoriamo tutti per il nuovo capitalismo?, Feltrinelli, Milano, 2020.
Contrairement à ce que l’on pourrait croire, l’intelligence artificielle est sans cesse assistée par l’Homme. Son essor est à l’origine de la prolifération de nouveaux travailleurs pauvres partout dans le monde, y compris en France.
Si l’introduction croissante des robots dans le monde du travail fait surgir le spectre d’un remplacement des hommes par les machines, les scénarios en la matière restent incertains. En 2013, une étude menée par deux économistes d’Oxford prédisait ainsi la disparition probable de 47% des emplois humains aux États-Unis, tandis qu’une autre analyse de l’OCDE sur 21 pays, publiée en 2016, estimait à seulement 9% le taux d’emplois menacés. Un phénomène est toutefois déjà à l’œuvre : l’émergence d’un nouveau prolétariat généré par l’automatisation.
Derrière l’intelligence artificielle se cachent en effet des dizaines de millions de petites mains réparties sur tous les continents, soutiers de la révolution digitale œuvrant à une infinité de micro-tâches nécessaires au bon fonctionnement des algorithmes de l’IA. Certains chercheurs n’hésitent pas à parler d’« e-sclavagisme » et d’« atelier clandestin numérique planétaire » à propos de ces nouvelles masses laborieuses, invisibles et vouées à une précarisation extrême.
Antonio A. Casilli, professeur de sociologie à Télécom Paris, est un spécialiste de ces ouvriers du clic. Il leur a consacré un livre, En attendant les robots, paru aux éditions du Seuil en 2019, et a coordonné la première étude sur ce micro-travail en France. Entretien.
Antonio A. Casilli, Enseignant-chercheur au département SES de Télécom ParisTech et membre de l’Institut Interdisciplinaire de l’Innovation (i3, CNRS).Photographie de Alexandre Enard
Qui sont ces ouvriers du clic ?
Ce sont des travailleurs précaires qui réalisent un travail nécessaire de production, d’annotation et de tri des données qui constituent le carburant de l’intelligence artificielle. Ces personnes sont recrutées via des plateformes numériques accessibles à n’importe quelle entreprise, sur lesquelles sont publiées des micro-tâches réalisables en quelques minutes, voire moins. Il peut s’agir de regarder une photo et de dire ce qu’elle représente, de traduire quelques mots ou d’écouter un fragment de conversation et d’identifier la langue ou le sujet. Cela permet de produire des exemples qui alimentent « l’apprentissage automatique », le procédé sur lequel est basée l’IA. D’autres micro-tâches servent à vérifier la pertinence des résultats des moteurs de recherche ou celle des réponses des assistants vocaux. Dans ce dernier cas, les travailleurs interviennent de façon encore plus envahissante dans la vie privée des usagers, car ils peuvent tomber sur des conversations qui ne sont pas destinées aux assistants vocaux. Le problème est pointé du doigt depuis 2019 grâce aux révélations de plusieurs médias internationaux. Un lanceur d’alerte ayant travaillé pour Apple a par ailleurs engagé un recours au niveau européen.
Selon vous, ils jouent aussi un rôle de premier plan dans la modération des contenus.
Malgré la rhétorique d’une automatisation de la modération, il y a énormément de personnes qui regardent à longueur de journée les contenus mis en ligne et en jugent la légitimité. Ils peuvent censurer ceux qui sont considérés comme violents, pornographiques, appellent à la haine ou contiennent des « fake news » et bannir ceux qui les ont postés. Cela pose la question de la liberté d’expression, mais aussi des risques psycho-sociaux encourus par ces modérateurs exposés à des images troubles. La chercheuse américaine Sarah T. Roberts, qui a étudié les travailleurs des plateformes américaines aux États-Unis, en Amérique latine et aux Philippines a montré qu’ils développaient des problèmes psychologiques importants (ndlr : ses travaux paraissent ce mois-ci en français dans le livre Derrière les écrans, aux éditions La Découverte). En Europe, où les modérateurs sont plutôt installés en Espagne, en Irlande et dans les pays de l’Est, nous retrouvons les mêmes problèmes, qui peuvent être de l’ordre du syndrome de stress post-traumatique.
Vous comparez la rhétorique sur l’autonomie de l’IA à un « spectacle de marionnettes ». Pourquoi les développeurs le jouent-ils ?
Les grandes entreprises exagèrent les promesses de performances de leurs dispositifs, car si elles étaient plus honnêtes et moins tonitruantes, elles risqueraient de perdre leurs investisseurs et elles s’exposeraient en plus à une régulation étatique de leurs micro-travailleurs. Ils remplissent trois fonctions : entraîner les machines, vérifier leurs résultats et aussi simuler l’IA. Cette dernière fonction tient à un fait très banal : les processus automatiques peuvent dysfonctionner. Quand cela se produit, des opérateurs humains doivent intervenir pour reprendre en main le système. Si un assistant vocal interprète ma phrase de façon erronée, un opérateur peut ainsi le corriger en temps réel. La frontière est parfois fine avec ce que les Américains appellent l’« IA washing », l’arnaque à l’IA. L’assistant vocal Google Duplex en a fait les frais. Il a été présenté en 2018 comme entièrement automatisé. Quelques mois plus tard, le New York Times révélait qu’il était supervisé par des personnes qui écoutaient et corrigeaient l’IA et, dans certains cas, se faisaient passer pour l’assistant vocal qui simulait un être humain !
Carte conceptuelle du micro-travail selon les tâches proposées.
Photographie de DiPLab
Comment la géographie de ce nouveau marché du travail s’organise-t-elle ?
Les entreprises développant les IA sont basées dans les pays du Nord (Europe, États-Unis, Australie) et elles recrutent des travailleurs du clic majoritairement installés dans les pays du Sud. La Chine est un cas particulier, parce qu’elle fournit une force de travail mais fabrique aussi de l’IA. Il y a 10 ans, les micro-travailleurs se trouvaient surtout dans les pays asiatiques : Inde, Indonésie, Malaisie, Pakistan et Bangladesh. C’était une cartographie très orientée par la langue anglaise. Dernièrement, avec l’essor de l’IA dans d’autres langues, ce marché du travail a évolué. Par exemple, l’IA à la française est faite en Afrique francophone, à Madagascar, en Côte d’Ivoire et au Sénégal notamment. Les ouvriers du clic ont aussi connu un essor en Amérique du Sud, pour les marchés hispanophones. La situation économique de certains pays du continent favorise le phénomène, en particulier au Venezuela, où la crise économique qui dure depuis des années rend ce micro-travail attrayant. Les plateformes offrent la possibilité d’une délocalisation virtuelle : les entreprises n’ont plus besoin de réaliser des investissements importants dans un pays tiers ni de se coordonner avec des partenaires locaux. Il leur suffit de créer un compte sur une plateforme pour recruter des centaines de milliers de travailleurs dont elles peuvent se débarrasser une fois les micro-tâches effectuées. L’existence de ce modèle est aussi lié au durcissement de l’accès aux pays du Nord. Il permet la migration virtuelle de la main d’œuvre, ou du doigt d’œuvre, en l’occurrence.
Que sait-on des conditions de travail de ces ouvriers du clic ?
Une étude parue en 2018 faisait état d’une rémunération de 2 dollars de l’heure sur la plateforme Amazon Mechanical Turk (ndlr : la première plateforme du genre, créée par Amazon en 2001. Elle tire son nom du Turc mécanique, un automate en costume ottoman du XVIIIe siècle qui semblait pouvoir jouer aux échecs mais était en fait actionné par un humain caché à l’intérieur), laquelle rémunère mieux que les fermes à clic du fin fond de l’Indonésie. Mais il est difficile d’estimer un salaire moyen. De rares micro-travailleurs gagnent quelques dizaines voire centaines de dollars par mois, mais il y a aussi un long cortège de gens rémunérés quelques dizaines de centimes mensuels. L’offre de travail sur ces plateformes est par ailleurs très volatile et il y a peu de portabilité. Lorsqu’une personne a atteint un certain niveau de compétences sur l’une d’elles, elle peut rarement le faire valoir sur une autre. L’opacité du travail constitue un problème supplémentaire : on se retrouve à réaliser des micro-tâches dont on ignore la finalité. Les ouvriers du clic sont confrontés à une certaine forme d’aliénation, accentuée par le fait qu’ils n’ont pas de contact avec leur employeur principal, ni avec leurs « collègues » quand ils travaillent chez eux. Et ils n’ont pas de voix collective pour défendre leurs droits.
Répartition géographique des participants à l’enquête DiPLab (plateforme Foule Factory, 2018), sur le territoire de la France métropolitaine. Les zones les plus foncées représentent des départements comptant un nombre plus élevé de fouleurs, indiqué ici en pourcentage.
Photographie de DiPLab
L’IA a-t-elle vocation à devenir un jour autonome et les micro-travailleurs à n’être qu’un phénomène momentané ?
C’est une controverse ouverte. Il y a les professionnels de l’IA qui déclarent que la situation actuelle est préoccupante mais transitoire. Selon eux, les travailleurs du clic seraient un phénomène éphémère destiné à disparaître car les IA vont apprendre au fil de ces milliards d’exemples ce qu’elles promettent de faire. Et il y a ceux, comme moi, qui pointent le fait que le processus d’entraînement des machines ne pourra jamais s’achever et que le recours au micro-travail sera toujours nécessaire car l’histoire humaine ne s’arrête pas. Si un assistant vocal calibré pour le marché américain commence à être vendu au Mexique, il faut lui apprendre l’espagnol pratiqué dans le pays et s’il a été entraîné en 2010, il faudra recommencer en 2020 pour prendre en compte l’évolution du jargon local, des marques, des artistes… Tout cela demande un réentraînement systématique et structurel. De plus, il existe des chocs exogènes qui imposent de nouveaux apprentissages aux IA, telle la pandémie de COVID-19. Certaines IA, comme la reconnaissance faciale, ont ainsi cessé de fonctionner quand les gens ont circulé masqués.
Comment encadrer ce travail invisible ?
Il existe d’abord une voie légale, une régulation par l’application de lois qui existent déjà. Elle passe par l’identification des employeurs principaux de ces micro-travailleurs pour imposer une rémunération juste et le paiement de cotisations sociales.
Il y a aussi une voie syndicale. Les syndicats commencent à s’intéresser à ce sujet au niveau national et international et à accompagner ces ouvriers du clic dans des actions en justice. En France, où on compte environ 260 000 ouvriers du clic occasionnels, une décision récente de la cour d’appel de Douai a condamné la plateforme Clic and Walk à reconnaître ses micro-travailleurs en tant que salariés. Il y a eu d’autres décisions de justice, notamment aux États-Unis, comme en 2015, quand l’entreprise américaine Crowdflower a été condamnée à verser 500 000 dollars à ceux qu’elle employait.
Il lavoro cambia e il lavoro digitale ancora di più
In anni di studi e discussioni, l’International Labour Organization (Ilo) ha innovato radicalmente il concetto di “lavoro”. E poiché l’Ilo contribuisce significativamente alle definizioni standard per le statistiche sul lavoro, le sue indicazioni hanno un importantissimo valore intellettuale ma anche organizzativo e politico. Ebbene, il lavoro non è più soltanto l’insieme delle attività per le quali si riceve un pagamento. E non è neppure il sonno e ciò che fisiologicamente si fa per il proprio corpo. In pratica, è lavoro ciò che produce beni, servizi e valore per sé e per gli altri, comprese le attività svolte per la famiglia, lo studio, il volontariato e ogni servizio dedicato alla convivenza civile. Il concetto di lavoro si innova nel quadro della trasformazione dell’idea di economia che, ormai, non si concentra più solo su ciò che si scambia sul mercato e ha un prezzo, ma accoglie tutto ciò che ha un valore. L’esperienza degli economisti della felicità, compreso il premio Nobel Daniel Kahneman, non è passata invano. Il valore sociale, culturale, ambientale delle azioni che gli umani svolgono senza un pagamento e senza che quel valore abbia un prezzo, influenza la storia in modo spesso più profondo di quanto succede con molti scambi monetari.
Certo, tutto questo non è ancora entrato nel senso comune. La forza ideologica dell’economia otto-novecentesca è ancora potente. Una dimostrazione del ritardo del senso comune sulla realtà economica si trova nell’interpretazione di alcuni comportamenti che si sviluppano sulle piattaforme digitali. Uno dei punti centrali del contributo di Antonio Casilli all’analisi del lavoro è proprio la sua convincente critica della gratuità delle attività che le persone svolgono su molti social network. Sociologo, ricercatore alla parigina École des hautes études en sciences sociales, Casilli è autore di “Schiavi del clic. Perché lavoriamo tutti per il nuovo capitalismo?” (Feltrinelli 2020). In base alla definizione dell’Ilo, quello che gli “utenti” fanno sui social network è ovviamente lavoro non pagato, che genera ricchezza per le piattaforme. Casilli mostra come quel lavoro sia tutt’altro che volontario e descrive con attenzione l’ambiguità, se non la banalità, delle interpretazioni che lo presentano come un tipo di lavoro che le persone svolgono liberamente. In effetti, le costrizioni sociali e le ideologie dominanti hanno un’influenza decisiva nelle scelte delle persone: queste possono anche ritenere conveniente la loro dedizione gratuita ai social network in cambio di un servizio solo apparentemente gratuito e, invece, pagato con l’attenzione rivolta alla pubblicità. Nell’ampiezza dell’argomentazione di Casilli occorre qui sottolineare il conseguente rovesciamento del rapporto tra macchine e umani. Non sono le macchine che lavorano al servizio – e talvolta al posto – degli umani, in questo caso: sono gli umani che lavorano al servizio – e talvolta al posto – delle macchine che generano fatturato per i giganti dei media sociali. La conflittualità emergente tra gli stati e le grandi compagnie che possiedono le piattaforme sulle quali si svolgono questi fenomeni è probabilmente soltanto il preludio di una conflittualità più profonda, sul valore del lavoro offerto dagli utenti. La soluzione non è in vista. Ma il problema sì.
Non solo fattorini di cibo e pacchi: i cittadini vengono sfruttati dalle grandi piattaforme
di ELVIRA CARELLA
Ragazza al computer (foto repertorio)
Milano, 1 ottobre 2020 – «La rivoluzione digitale è il continuum di quella industriale, in cui iniziò la grande tendenza verso la divisione del lavoro e la forte opposizione tra logiche di capitale e quelle di profitto. Nel digitale, pertanto, ritroviamo gli stessi elementi, aggiunti o spinti all’estremo”. A parlare è il professore dell’Università Télécom Paris, il sociologo Antonio Casilli, autore di “Schiavi del clic. Perché lavoriamo tutti per il nuovo capitalismo” (Feltrinelli). Egli sostiene che la divisione del lavoro diventa la sua parcellizzazione. Basta poco per eseguire un’operazione, che spesso le piattaforme propongono di pagare a cottimo. “La più piccola è il clic, che realizziamo, selezionando un contenuto, lasciando un commento, un like…”.
Siamo tutti schiavi del clic? “Tutti ci troviamo su Internet e produciamo valore per grandi piattaforme, sotto forma di dati fonte di profitti attraverso la pubblicità, ma anche tramite l’uso che le grandi piattaforme ne fanno, per preparare e calibrare intelligenze artificiali”.
Cosa sono? “Non sono fatte solo di robot antropomorfi o braccia meccaniche applicate nel contesto industriale. Sono una forma di modelli matematici, che prevedono o anticipano eventi o decisioni. Software basati sul “digital labor” dell’utente, che con un input li addestra e fornisce le risposte più pertinenti”.
Sfata la profezia che gli uomini vengano sostituiti da robot “Dietro ai robot si nasconde il lavoro umano, reso invisibile da attori industriali e da decisioni di natura politica. Le operazioni sono svolte da persone, che a volte non vediamo, perché non presenti nella comunicazione delle aziende, o sono in strutture offshore, che creano dati e valore per le piattaforme, che servono a produrre i robot”. E gli operai del web? “Spesso definiti micro lavoratori, vivono, in condizioni molto precarie, per metà nei Paesi del Nord del mondo e metà in quelli del Sud. Quindi, siamo di fronte a fratture e disuguaglianze, che ripropongono antiche logiche, anche di natura coloniale”. Possiamo parlare di evasioni milionarie dei colossi web? “Di infrazioni milionarie delle regole di difesa del lavoro. Se Google, Uber, Amazon inquadrassero i cottimisti in base alla legge, dovrebbero pagare un conto molto salato. Rifiutano di farlo, malgrado sentenze che ingiungono di remunerare i lavoratori secondo il giusto valore”.
Nuova coscienza di classe? “È più una speranza. Ci sono forme di organizzazioni spontanee dei lavoratori delle piattaforme e dei sindacati tradizionali. Nel 2017 la Cgil ha adottato una dottrina, la contrattazione dell’algoritmo: abbiamo il diritto di vedere il funzionamento delle intelligenze artificiali. Ciò si trasforma in azioni di lotta e creazione della coscienza di classe degli operai attraverso piattaforme alternative non-profit”.
Per Marx il lavoro industriale portava all’alienazione. Quello digitale? “È molto più ambiguo. Facebook e Instagram aiutano a mantenere rapporti con la comunità, a disalienarsi in un certo senso, ma ci espongono a forme di sfruttamento. Per mitigare l’alienazione le piattaforme ci propongono il lavoro del clic, senza pagarlo o pagandolo poco. Stiamo ribaltando la logica dell’epoca di Marx, in cui c’era molta più alienazione e uno sfruttamento meno efficace dell’attuale, che produce in Borsa valorizzazioni stratosferiche”.
