Monthly Archives: February 2019

[Podcast] Interview in OECD’s ‘The Technofile’ [Feb. 28, 2019]

On the occasion of my presentation of the DiPLab project at the OECD ELS seminar, I was interviewed by Clara Young for the podcast The Technofile. The interview is available on Soundcloud.

[Errata: when discussing microworkers in France, I misspoke and claimed the esimate number amounts to approximately “forty to sixty thousands”. Of course, what I had in mind was “two-hundred and forty to sixty thousands”, as per our working paper “How many people micro-work in France?”.

Intervista ne Il Manifesto (27 febbraio 2019)

Nel quotidiano Il Manifesto, una intervista con il giornalista e filosofo Roberto Ciccarelli.

Antonio Casilli: «Gli operai del clic sono il cuore dell’automazione»


Antonio Casilli, docente all’università Telecom ParisTech, lei ha appena pubblicato in Francia En attendant les robots (Seuil), un’inchiesta sul lavoro digitale. The Cleaners, un documentario Hans Block e Moritz Riesewieck diffuso sulla rete Tv Arte, ha rivelato l’esistenza di migliaia di lavoratori del clic nelle Filippine che lavorano per le piattaforme digitali. Chi sono queste persone?
Sono lavoratori occupati nel settore del commercial content moderation, la moderazione dei contenuti commerciali. Sono gli operai del clic che rileggono e filtrano commenti sulle piattaforme digitali. Il loro lavoro è classificare l’informazione e aiutare gli algoritmi ad apprendere. Insieme svolgono il machine learning, ovvero l’apprendimento automatico, a partire da masse di dati e di informazioni. La moderazione è uno degli aspetti di un’operazione fondamentale che crea il valore. Il lavoro digitale è l’ingrediente segreto dell’automazione attuale.

Abbiamo conosciuto una parte di questa divisione del lavoro mondiale: l’attività estrattiva di Coltan in Congo, l’assemblaggio di componenti elettrici ed elettronici nelle fabbriche Foxxconn. Oggi si parla delle fabbriche del clic. Che cosa sono?
Esistono diversi modelli di click farms, fabbriche del clic. In certi casi sono divisioni di grandi gruppi industriali digitali americani come Google, Facebook o Amazon, a quelli cinesi o russi. Trattano i dati e spesso le loro attività sono coperte dal segreto industriale. Un altro tipo di fabbrica del clic la troviamo nelle reti globali degli appalti e dei subappalti dove la produzione di dati è esternalizzata verso altre aziende che sono, a loro volta, piattaforme digitali.

Come operano questi lavoratori?
Si connettono alle piattaforme da casa loro, entrano così a fare parte di fabbriche distribuite in rete. Nella maggioranza dei casi sono persone che si trovano in paesi in via di sviluppo ed emergenti. Altre volte operano in piccole strutture localizzate in Cina o in India. Possiamo anche trovare ex fabbriche trasformate in hangar dove centinaia o migliaia di persone, sottoposte a un turn-over molto rapido, operano su computer o smartphone e cliccano per migliorare algoritmi o creare falsa viralità.

In cosa consiste il micro-lavoro digitale?
Per esempio nella digitalizzazione e nel trattamento automatico di 900 milioni di documenti cartacei. Invece di aprire una sede in un paese terzo dove un’azienda può trovare manodopera a buon mercato e condizioni fiscali vantaggiose, si rivolge ad una piattaforma in un paese terzo si occupa di scannerizzare, anomizzare, labellizzare questi documenti in cambio di un abbonamento o un pagamento puntuale. I lavoratori non sono più localizzati in luoghi specifici, non appartengono solo a una città o regione, ma possono essere reclutati dappertutto, purché abbiano la possibilità di connettersi a una piattaforma. Questa economia si sviluppa attraverso un sistema di offshoring on demand in tempo reale l’azienda può decidere di esternalizzare in Cina o nelle Filippine solo un aspetto della produzione, non l’intero processo. La delocalizzazione classica era riservata ad aziende che potevano aprire sedi in paesi terzi, oppure avere partner in questi paesi dove stabilire rapporti commerciali stabili.

Questa divisione del lavoro è stata descritta come un «neo-colonialismo digitale». È d’accordo con questa definizione?
È un’espressione metaforica usata per indicare un’asimmetria di potere, ma indica fenomeni troppo diversi. Può essere utile per descrivere le situazioni in cui lo sviluppo del capitalismo tecnologico ripete forme di sfruttamento coloniale classico. Nel 2016 Facebook ha cercato di imporre «Freebasics», un servizio che permette gli utenti di accedere a una piccola selezione di siti web e servizi, in paesi come l’India o la Colombia. È stato rifiutato dalle autorità e gli stessi investitori hanno ammesso che era un’operazione neo-coloniale. Preferisco parlare invece di un micro-lavoro diffuso che nutre l’intelligenza artificiale dove il Sud non è passivo, ma è molto attivo e compete con cinesi o indiani sugli stessi mercati. Questo avviene perché in questi paesi sono fiorite aziende come i tele-servizi, call center, centri di assistenza a distanza di cui le grandi piattaforme di lavoro digitale rappresentano l’evoluzione. Questi paesi sono anche produttori di tecnologie, acquistano micro-lavoro.

Come definisce questi rapporti di potere?
Migrazioni su piattaforme, arbitraggi della forza lavoro a livello internazionale che non si basano più su aperture di filiali e delocalizzazioni in paesi a basso reddito, né sui flussi migratori dal sud al nord. Sono processi migratori che restano in loco. Negli ultimi trent’anni le frontiere dei paesi del Nord sono state militarizzate, i nostri paesi si sono trasformati in campi di concentramento in cui xenofobi perseguitano migranti e dove i legislatori mettono in atto misure draconiane contro di loro. In questo contesto di migrazione negata, le piattaforme di micro-lavoro a distanza permettono di avere accesso a questa forza lavoro di cui le aziende avranno sempre più bisogno.

Quali sono gli assi principali del mercato digitale mondiale?
C’è quello dal Sud-Est asiatico ai paesi occidentali: Australia, Stati uniti, Canada o Gran Bretagna. Da qualche anno sono emerse altre due dinamiche. La prima è quella dal Sud al Nord: i paesi africani e quelli dell’America del Sud hanno iniziato a lavorare per le aziende del Nord globale.

Per esempio?
In Francia il lavoro digitale necessario per sviluppare l’intelligenza artificiale è prodotto in Costa d’Avorio, in Madagascar, Senegal o Camerun, lì dove esistono micro-lavoratori francofoni che possono interagire con clienti francesi. Dall’altra parte si registra un’esplosione di micro-lavoratori sudamericani su piattaforme americane come Amazon Mechanical Turk, Upwork o Microworkers per le quali lavorano paesi che si trovano in crisi economica e politica come il Venezuela.

Che ruolo ha la Cina in questo mercato?
È un circuito chiuso dove grandi acquirenti e grandi masse di micro-lavoratori si trovano nella stessa macro-area geopolitica ed economica. Questo è dovuto al fatto che in Cina esiste il Witkey, un sistema di trattamento puntuale dell’informazione online attraverso il quale gli utenti possono scambiarsi e vendere servizi e informazioni. In questo sistema ci sono élite che guadagnano bene, diverse migliaia di euro al mese, e la quasi totalità degli altri che invece guadagnano meno di un euro al mese. Le élite aggregano i micro-lavoratori degli altri, sono i caporali digitali.

Quali sono le piattaforme di micro-lavoro cinesi e asiatiche più importanti?
In Cina c’è Zhubajie che aggrega fino a 15 milioni di micro-lavoratori digitali. TaskCn ne aggrega 10 milioni. Epweike, 11 milioni di persone. Esistono altri servizi più piccoli che lavorano con clienti interni. Più raramente con quelli dell’area sinofona come Singapore o Taiwan. In altri paesi asiatici, come la Corea del Sud – paese avanzato e alto reddito – esistono grandi gruppi industriali come Kakao, una specie di galassia di servizi dal pagamento su internet ai taxi alla Uber, fino ai videogiochi. Oppure Naver, un conglomerato basato su un motore di ricerca. Sono aziende che non si rivolgono ai lavoratori del clic dei paesi limitrofi, probabilmente per motivi linguistici, culturali e commerciali.

Esiste una competizione tra Cina e Usa per il primato mondiale anche in questo settore?
Va inquadrata nella competizione sull’intelligenza artificiale e sulle sue soluzioni. La Cina gioca su due piani. Da una parte, ci sono i grandi gruppi industriali parastatali come Baidu, Alibaba e Tencent, le cosiddette «Bat» – che competono con i «Gafa» americani, Google, Amazon, Facebook, Apple e gli altri. Dall’altra parte, la Cina è il paese del micro-lavoro che compete con altri paesi emergenti e in via di sviluppo. L’India con i due grandi cluster industriali digitali a Bangalore e a Hydebarad che producono tecnologie e reclutano i cottimisti del clic. La Cina deve essere competitiva su entrambi i fronti: produrre intelligenza artificiale abbastanza di punta per interessare il pubblico globale del Nord e essere competitiva con la manodopera dequalificata e sottopagata che rende possibile l’automazione, in India, in Nigeria o in Madagascar.

Quanti sono i lavoratori del clic in Francia, negli Usa o in Italia?
In una ricerca pubblicata da poco abbiamo stimato in Francia una platea di 266 mila lavoratori occasionali, al cui interno esistono decine di migliaia di persone molto attive. Negli Usa le stime sono più complesse: alcuni studi recenti parlano di 100 mila persone su Amazon Mechanical Turk, oltre a quelle che lavorano per Upwork o PeoplePerHour o Raterhub di Google. Anche l’Italia è un paese di micro-lavoratori, ma non è un paese di aziende che comprano micro-lavoro e sviluppano intelligenza artificiale. Questo la dice lunga sul tessuto produttivo e sul suo settore industriale digitale.

Cosa rappresenta il pagamento anche di pochi centesimi per clic per questi lavoratori?
La promessa di accedere a un minimo di attività remunerata. Nei paesi africani e asiatici il micro-lavoro necessario per calibrare l’intelligenza artificiale è presentato da campagne di marketing invasive come la promessa del lavoro del futuro per le giovani generazioni che arrivano da zone periferiche, ma vivono anche in quelle urbane svantaggiate e non hanno la possibilità di accedere a un lavoro formalmente riconosciuto. Sono persone non diplomate che non hanno qualifiche professionali. Lavorano negli internet caffè o da casa. Ci sono le donne alle quali è richiesto un lavoro flessibile che può armonizzarsi con quello di cura per gli anziani e per i figli che continuano a pesare sulle loro spalle.

In che modo questo proletariato digitale può autodeterminarsi e prendere coscienza della sua centralità?
Una condizione storica è il superamento del quadro concettuale dell’automazione digitale totale. Quella che attualmente gli operai del clic vivono è una condizione precaria perché il loro lavoro è presentato come effimero ed è destinato a scomparire. Gli si fa credere che stanno segando il ramo sul quale sono seduti. Il mio sforzo è dimostrare che questo non è vero. Stiamo creando una tecnologia che ha bisogno di lavoro umano e ne avrà bisogno sempre di più. Questo lavoro non sarà mai sostituito da un’automazione. Ed è per questo che le lotte per il riconoscimento di questo lavoro sono legittime e necessarie.

Quali strade possono seguire?
Quella tradizionale del sindacato, delle leghe e del coordinamento di base. La strada del cooperativismo tra le piattaforme, un movimento esistente che cerca di digitalizzare le strutture mutualistiche del XIX e del XX secolo e creare alternative solide alle piattaforme capitalistiche attuali. C’è poi la strada dei commons digitali che creano condizioni economiche materiali per raggiungere il potenziale veramente anarchico delle piattaforme politiche teorizzate dai Diggers nell’Inghilterra del Seicento. Dobbiamo riscoprire il vero significato del concetto di «piattaforma»: il superamento della proprietà privata, l’abolizione del lavoro salariato e la creazione del governo dei beni comuni.

[Vidéo] Invité de La Grande Table (France Culture, 26 févr. 2019)

Le 26 février 2019, j’étais l’invité de la deuxième partie de La Grande Table, le magazine culturel de France Culture.

La tâcheronnisation est-elle l’avenir du travail ?

Le Turc mécanique de Wolfgang von Kempelen (1734-1804)
Le Turc mécanique de Wolfgang von Kempelen (1734-1804) • Crédits :  Universal History Archive/UIG -Getty

Avec Antonio A.Casilli, sociologue, enseignant-chercheur à Télécom ParisTech et chercheur associé au LACI-IIAC de l’EHESS, pour “En attendant les robots. Enquête sur le travail du clic” (Seuil, janvier 2019).

D’un côté, les usagers qui laissent des traces, alimentent les réseaux de données, fournissent gratuitement du contenu. De l’autre, une armée de travailleurs mal payés et invisibles… C’est l’envers du décor que nous raconte Antonio Casilli dans « En attendant les robots : enquête sur le travail du clic » au Seuil (3 janvier 2019).

Antonio Casilli, "En attendant les robots. Enquête sur le travail du clic"
Antonio Casilli, “En attendant les robots. Enquête sur le travail du clic”

Antonio Casilli revient, entre autres, sur les malentendus qui entourent l’essor de l’intelligence artificielle, notamment sur celui qui annonce une disparition du travail peu qualifié : 

Je suis d’accord pour dire que la tâcheronnisation est en place, mais  cela concerne aussi les professions nobles.

On peut en effet constater l’existence d’un nouveau type de travail peu qualifié, nommé “travail du clic” par Antonio Casilli, qui est essentiel au développement technologique.

Le phénomène du micro-travail concerne tous les secteurs industriels aujourd’hui.

À  ÉCOUTER AUSSI

La Grande table (1ère partie)Xavier Barral, “d’un monde à l’autre”

Extraits sonores : 

  • Intervention de Yuval Noah Harari au Carnegie Council for Ethics in International Affairs, le 13 mars 2017
  • Reportage de France 24 sur une ferme à clic en Inde le 1er octobre 2013
  • Extrait du documentaire “The Cleaners” de Hans Block et Moritz Riesewieck

Compte-rendu dans Le Temps (Suisse, 22 févr. 2019)

Le quotidien genevois Le Temps publie une recension de mon ouvrage En Attendant les Robots (Ed. du Seuil, 2019).

L’intelligence artificielle, côté cour

Dans un essai stimulant, le sociologue Antonio Casilli démonte le mythe de la disparition du travail humain face au triomphe de la robotisation. Or si l’homme demeure indispensable, la valeur de son labeur tend à être occultée

Dans un texte fulgurant, Marx entrevoyait une société où le travail serait entièrement automatisé. Plus besoin de travailleurs, les machines feraient tout. Marx y voyait une immense promesse d’émancipation: car s’il n’y a plus besoin de personne pour travailler, il n’y a plus personne à exploiter. L’automatisation intégrale du travail permettrait à chacun, enfin, de s’épanouir.

Cent cinquante ans plus tard, le remplacement de l’humain par les machines est à l’ordre du jour, tous les jours. Que n’a-t-on entendu de prophéties, enflammées ou catastrophistes (c’est selon), sur l’obsolescence de l’homme, en tout cas de son travail, appelé à disparaître sous l’effet de la marche triomphale de l’intelligence artificielle (IA)? Robotisation, automatisation, numérisation: le travail humain deviendrait très vite marginal, et finalement inutile.

Bluff technologique

Illusion, nous dit Antonio Casilli dans son livre En attendant les robots. La disparition du travail humain, c’est de la poudre aux yeux, un slogan publicitaire, un élément de langage lénifiant dans une stratégie économique implacable. Un véritable bluff technologique. Car la réalité de l’intelligence dite artificielle est tout autre: elle n’élimine pas le travail, mais le dissimule; elle ne le supprime pas, mais le rend invisible. Les grandes plateformes que nous connaissons tous (Facebook, Uber, Amazon, Airbnb, etc.), qui toutes reposent sur les performances de l’IA, ne seraient rien sans ce qu’on appelle désormais le digital labor: un travail humain qui prélève, sélectionne, interprète des données sans lesquelles les machines seraient sourdes et aveugles.

Qui fait ce travail invisible? Nous, lorsque nous utilisons ces plateformes et produisons par là même des données (et notons les services par exemple), ou des millions de tâcherons répartis de par le monde, invisibles et sous-payés, des «prolétaires du clic». Qu’on le fasse par loisir ou pour compléter ses revenus, le digital labor produit une valeur sans laquelle les machines ne pourraient fonctionner. De sorte que Casilli invite à un renversement de perspective: «Ce ne sont pas les machines qui font le travail des hommes, mais les hommes qui sont poussés à réaliser un digital labor pour les machines.» Le travail est déplacé et masqué, pas remplacé. Le digital labor ne peut être automatisé, car c’est lui qui rend possible l’automatisation.

Arrière-boutique

L’intérêt de l’étude de Casilli est de replacer la problématique économique et philosophique de l’IA dans les conditions sociologiques de sa mise en œuvre. Il montre ainsi, moult exemples à l’appui (comme les prétendues voitures autonomes, qui ne sont pas si autonomes que cela, le passager jouant à maints égards le rôle du conducteur), que, pour des raisons à chaque fois différentes selon les secteurs, les agents humains jouent nécessairement un rôle de premier plan dans toutes ces activités «algorithmées». D’où cette formule frappante, qui masque toutefois la finesse et de détail des analyses de Casilli: «Une façade avec un ingénieur qui vante les prouesses de sa machine et une arrière-boutique dans laquelle des travailleurs se tuent à la microtâche.»

Au cœur de ce livre passionnant et novateur, ce paradoxe: «Les algorithmes sont des objets artificiels qui doivent produire des résultats ayant une signification dans un monde humain, dont ils n’ont pourtant aucune expérience. Ils ne sont pas inscrits culturellement et socialement dans le monde, et c’est pourquoi ils ont besoin de déléguer aux humains cette responsabilité.» C’est un argument puissant contre la prophétie de Marx, qui est entre-temps devenu – autre paradoxe – le rêve des entrepreneurs du numérique d’aujourd’hui.

[Podcast] Sur Radio-Canada, à l’occasion de la sortie de “En attendant les robots” [Canada, 18 févr. 2019]

A l’occasion de la sortie de En Attendant les Robots (Seuil, 2019) au Canada, la radio québecoise m’a interviewé.

Derrière l’intelligence artificielle, des ouvriers sous-payés

Un homme pointe une infographie de cerveau.
Toute intelligence artificielle est d’abord entraînée par un être humain.   Photo : getty images/istockphoto / hwanchul

Les grandes entreprises vantent l’intelligence artificielle (IA) comme étant la technologie de l’avenir. Quoi de plus efficace que des machines qui s’améliorent par elles-mêmes en apprenant du comportement des utilisateurs? Ce que l’on sait moins, c’est que derrière ces machines et ces algorithmes, se cache de la main-d’oeuvre bon marché, véritable clé du succès de l’IA. Le sociologue Antonio Casilli dresse le portrait de ces « travailleurs du clic » dans son livre En attendant les robots.

Que ce soit l’assistant Siri sur votre téléphone intelligent, votre Google Home ou votre GPS, les objets utilisant l’IA ont besoin d’être entraînés pour s’améliorer et gagner en efficacité, explique Antonio Casilli. Derrière ces équipements, il y a des êtres humains qui sont recrutés pour retranscrire et écouter afin de s’assurer que le logiciel a bien interprété ce qu’on a dit, précise le sociologue. Parfois, il s’agit véritablement d’écouter les conversations des utilisateurs, et c’est quelque chose qui est ignoré par les utilisateurs mêmes.

Ces personnes qui travaillent à améliorer l’AI, que l’on compte par millions, sont pour la plupart des femmes et sont souvent basées dans des pays en développement. Leur emploi est généralement très précaire et elles ne sont pratiquement pas payées pour le travail qu’elles accomplissent.

Pourtant, il s’agit de personnes cruciales pour développer certains robots, souligne Antonio Casilli.

Qui dresse [ces robots]? Non pas des ingénieurs, non pas des informaticiens, mais plutôt des personnes qui sont des ouvrières du clic qui produisent des millions d’exemples grâce auxquels les machines apprennent.Antonio Casilli, sociologue

Le sociologue affirme que les grandes entreprises technologiques laissent volontairement ces travailleurs dans l’ombre afin de faire croire au public que l’IA n’aura bientôt plus besoin de l’humain pour grandir. Cette hypocrisie est nécessaire pour convaincre les travailleurs et travailleuses qu’ils ne sont pas nécessaires, que leur travail est justement quelque chose qui va disparaître, soutient-il.

[Podcast] L’un de mes livres préférés (France Culture, 16 févr. 2019)

Dans le cadre de l’émission Les Matins du Samedi, j’étais l’invité de Natacha Triou pour son ségment L’Idée Culture. Chaque week-end, des invité.es parlent des lectures qui ont marqué leurs parcours intellectuel. Dans mon cas, la nouvelle Cor serpentis, de l’écrivain soviétique Ivan Efremov (1958) s’est avérée un moment-clé de mon rapport à la technologie, à la politique et à l’histoire.

La thèse principale d’Efremov est que pour voyager dans l’espace il faut être communistes, car la coopération sociale nécessaire à mettre en place les infrastructures nécessaires aux voyages interstellaires ne peut être atteinte que dans une société qui a dépassé les conflits de classe. Mais son imagination va même plus loin, puisqu’il affirme que tout voyageur intersidéral communiste ne peut qu’avoir une forme humaine harmonieuse. En fait, insiste-t-il, l’évolution de la société et celle de la physionomie vont de pair. Par conséquent, quand un vaisseau spatial guidé par des terriens croise un autre vaisseau, les extraterrestres ne pourront qu’être leurs semblables, autant sur le plan physique que sur le plan idéologique (Efremov préfère dire qu’ils ont atteint le même “niveau de progrès scientifique”). La rencontre sera alors parfaitement pacifique.

L’élément le plus intéressant de Cor Serpentis est la présence d’un “récit enchâssé”. Lorsque l’équipage du vaisseau terrien doit décider si approcher en paix ou attaquer l’autre vaisseau, ses membres se réunissent dans… la bibliothèque de leur astronef et lisent… un récit de SF américain du XXe sicle. Il s’agit de First contact de Murray Leinster (pseudonyme de William Fitzgerald Jenkins), dans lequel, lorsque deux vaisseaux spatiaux se croisent, le commandant étasunien décide de frapper en premier. Ceci pointe, d’après Efremov, les liens étroits entre capitalisme, compétition et agression impérialiste.

Petite curiosité : Murray Leinster, l’auteur américain critiqué par Efremov, a aussi écrit A logic named Joe (1946), récit qui préfigure une société où tout peut faire l’objet d’une recherche Google. Il est la pièce de résistance de l’introduction de mon livre “Liaisons numériques” (Seuil, 2010).

Grande interview sur les communs numériques (Le Monde, 14 févr. 2019)

Dans le quotidien Le Monde, j’ai accordé une interview au journaliste Frédéric Joignot.

« L’essor des technologies numériques a encouragé un renouveau de l’esprit des “communs” »

Le sociologue Antonio A. Casilli explique en quoi le mouvement du coopérativisme de plate-forme annonce une coexistence entre les plates-formes orientées vers le profit et celles inspirées par l’économie sociale et solidaire.

Propos recueillis par Frédéric Joignot Publié le 14 février 2019 à 18h36

Temps de Lecture 94 min.

Article réservé aux abonnés

Dans son essai En attendant les robots. Enquête sur le travail du clic (Seuil, 400 p., 24 €), le sociologue Antonio A. Casilli explique comment les grandes plates-formes électroniques s’appuient sur une armée de travailleurs sans garantie et de tâcherons sous-payés. Mais des formes de résistance se font jour.

Alors que se développe un « capitalisme de plate-forme », souvent appelé « ubérisation », vous évoquez le possible essor d’un « coopérativisme des plates-formes ». Dites-nous en davantage…

On voit bien l’attrait que peut représenter la forme coopérative pour les livreurs express de Deliveroo, pour les photographes de Flickr ou pour ceux qui effectuent des tâches ménagères par le biais de la plate-forme TaskRabbit… Pour eux, des alternatives mutualistes telles Coopify, CoopCycle ou Stocksy représentent des manières de gérer de manière autonome les services et les contenus qu’ils produisent. C’est la possibilité d’intégrer ces plates-formes non pas en simples façonniers mais en copropriétaires…

Ce mouvement cherche aussi à rétablir le respect des travailleurs des plates-formes, qui, vous le montrez bien, prennent tous les risques, apportant les moyens de production (véhicule, logement, etc.), travaillant à la tâche, subissant toutes les fluctuations du marché…

Le mouvement du coopérativisme de plate-forme est né de la convergence de deux volontés politiques. D’une part, il aspire à réformer le capitalisme des plates-formes pour le rendre plus éthique, plus respectueux des réglementations en vigueur et du code du travail, moins nuisible aux équilibres sociaux. De l’autre, il encourage la « transformation numérique » des coopératives traditionnelles et des structures de l’économie sociale et solidaire. Même si l’on peut espérer que ces deux lignes de tendance convergent, nous sommes face à un mouvement fortement hétérogène et, pour le moment, incapable de fédérer les diverses « familles » de travailleurs de plates-formes.

Vous pensez aux « travailleurs du clic » ?

De quelle manière une plate-forme coopérative pourrait-elle changer la condition des plus exploités des travailleurs du clic, les « microtâcherons » payés à la pièce pour faire tourner les intelligences artificielles ? Pour eux, le seul pas dans la direction de plates-formes plus mutualistes a été réalisé avec le lancement du service Daemo, où le pouvoir était réparti de manière équilibrée entre les « requérants » (les entreprises qui veulent entraîner leur intelligence artificielle) et les microtâcherons. Cette plate-forme « autogouvernée », alternative à Amazon Mechanical Turk, s’est tout de suite heurtée à la puissance du géant de Seattle…

Le scénario que le mouvement coopérativiste annonce est celui d’une coexistence entre les plates-formes orientées vers le profit et celles inspirées par l’économie sociale et solidaire. Le risque est que ces dernières se limitent à être la « caution éthique » des premières, voire à être récupérées comme variante présentable, mais jamais réellement concurrente, de Google ou d’Amazon. Au vu des développements récents, telle la subvention de 1 million de dollars que le Platform Cooperativism Consortium a acceptée de Google, cette récupération pourrait être déjà en cours…

La « mise en commun » comme forme de résistance vous apparaît-elle intéressante ?

L’essor des technologies numériques contemporaines a encouragé un renouveau de l’esprit des « communs ». Ces derniers représentent une orientation prometteuse des luttes pour la reconnaissance du travail des plates-formes. Face aux enfermements propriétaires des plates-formes capitalistes et à l’outrecuidance des partisans du droit de propriété privée sur les données personnelles, cette approche prône la multiplication d’expérimentations locales pour la mise en commun de ressources informationnelles, humaines… et naturelles.

Prôner une économie numérique des communs,n signifie revendiquer l’émancipation des précaires, des sous- et non-rémunérés des secteurs primaire et tertiaire

Un fil rouge connecte les communs naturels – surtout ceux liés à l’extraction des matières premières nécessaire pour produire batteries et équipements – et le travail de partage d’information, de contenus et de données personnelles des usagers des médias sociaux. L’exploitation des uns par des multinationales de l’énergie et du secteur manufacturier va de pair avec l’accaparement des données des autres par les grandes plates-formes numériques.

S’opposer à ces rapports de production, prôner une économie numérique des communs, signifie alors revendiquer l’émancipation des précaires, des sous- et non-rémunérés des secteurs primaire et tertiaire. Ce serait une manière de fédérer les travailleurs des mines avec ceux des fermes à clics ou des foyers d’internautes anonymes.

Ce mouvement a-t-il déjà commencé ?

Dans les Andes boliviennes, par exemple, se trouve le salar d’Uyuni, la plus grande étendue de sel du monde, où sont produits des accumulateurs lithium nécessaires au fonctionnement des véhicules autonomes. Le syndicat de paysans Fructas a négocié avec l’Etat la collectivisation du salar et le versement aux communautés locales d’une partie des profits des usines de lithium. Le tout est encadré par une loi qui établit les principes de gouvernance des ressources naturelles et culturelles, et qui consacre la tradition du « travail en commun », le « suma irnakaña » des communautés andines.

Et en Occident ?

Des instruments particulièrement intéressants se dégagent aujourd’hui dans les pays du Nord, dans le cadre de la renégociation des limites de l’usage des données personnelles. Leur valeur économique peut en effet être redistribuée sur une base locale. Ces négociations collectives pourraient s’avérer fructueuses au niveau des grandes villes. De New York à Séoul, les conflits sur l’utilisation des données d’Uber ou d’Airbnb ont déjà démontré que les informations produites par les citoyens et capturées par les plates-formes pourraient être récupérées par les collectivités territoriales et utilisées pour améliorer des infrastructures municipales.

Jusqu’ici, cette récupération a été menée sur une base commerciale. Mais rien n’empêche de penser cette reprise de contrôle sur les données d’usagers au niveau d’entités locales ou nationales sur des modes plus radicaux, tels qu’une collectivisation qui transforme les données en une propriété sociale, directe, indivisible et inaliénable de ses utilisateurs – bref, dans des communs.

Dans l’ADN (14 févr. 2019)

Dans le magazine L’ADN, David-Julien Rahmil passe en revue les lessons learned de mon ouvrage En attendant les robots (Seuil, 2019).

Les IA créent des emplois… que vous n’avez surement pas envie d’occuper 

Dans son enquête En attendant les robots, le sociologue Antonio A. Casilli porte un coup fatal aux prétentions de l’intelligence artificielle. Non, elle n’est pas à deux doigts de nous voler nos jobs. Elle serait même incapable de se passer de ses travailleurs de l’ombre.

« Système automatique », « deep learning », « réseau de neurones »… Il y a de fortes chances que vous ayez déjà croisé ces termes dans des articles parlant d’intelligence artificielle. Depuis plusieurs années, les entreprises du numérique nous vendent des IA autonomes qui remplacent peu à peu le travail des hommes. Pourtant, certains experts ne croient pas à cet intensif storytelling et le font savoir. Ainsi, en janvier 2018, le chercheur en intelligence artificielle Yann LeCun s’en prenait au fameux robot Sophia en employant les termes d’« IA Potemkine » ou « IA Magicien d’Oz ». Pour le scientifique en chef de l’IA chez Facebook, cette machine soit disant sophistiquée n’est en fait qu’une illusion, un pantin sans âme suivant des scripts de conversation plus ou moins complexes.

La grande illusion de l’automatisation

Loin de se limiter à l’androïde d’Hanson Robotics, la pseudo intelligence artificielle se trouverait dans toute l’industrie du numérique. Cette thématique est d’ailleurs explorée par Antonio A. Casilli, sociologue et enseignant à Télécom Paris-Tech. Dans son livre En attendant les robots, il passe en revue cette grande illusion de l’automatisation et souligne combien les IA ont encore besoin d’humains pour fonctionner correctement. On ne parle pas ici d’ingénieurs mais de travailleurs précaires qui gagnent leur vie en réalisant des micro-tâches. Passage en revue de cette grande illusion du numérique.

L’algorithme d’Amazon (et son armée de travailleurs humains)

Quand vous faites une recherche sur Amazon, vous êtes persuadé que l’algorithme trie pour vous les informations les plus pertinentes afin de les afficher en première page ? C’est en partie vraie, mais pas complètement. Depuis 2005,la firme de Jeff Bezos s’appuie sur son service Mechanical Turk, ou Turc Mécanique. Cette plateforme emploie des micro-travailleurs (appelés aussi tâcherons du clic) qui trient à la main les produits les plus pertinents en fonction des recherches. « Il s’agit, dans le jargon d’Amazon, d’une intelligence artificielle artificielle », indique le chercheur qui évoque ce système réunissant plus de 500 000 personnes dans le monde. Le nom fait quant à lui référence à un prétendu automate joueur d’échec qui fut inventé à la fin du XVIIIe siècle. 

Loin de se cantonner au magasin d’Amazon, on trouve ces travailleurs de l’ombre dans des domaines variés : l’interprétation automatique de texte, la création d’archive sonores de conversation ou l’annotation d’images pour la reconnaissance visuelle de formes. Leur mission ? Aider les IA dans leur apprentissage en leur pointant ce qu’elles doivent retenir.

Google, Bing et les quality raters

S’il existe un service qui semble être complètement automatique, c’est bien les moteurs de recherche. Depuis l’hégémonie de Google, on sait tous que ces services reposent sur des bots qui parcourent le web à la recherche de pages à indexer. Cependant, la pertinence des résultats doit encore être validée par des humains. C’est le rôle des quality raters, une armée de vérificateurs fonctionnant toujours sur ce principe du Mechanical Turk. Leur objectif est de vérifier que les résultats affichés répondent au mieux aux requêtes des internautes. C’est eux qui font en sorte que les sites les plus pertinents apparaissent en première page tandis que les sites malveillants ou de moins bonne qualité finissent dans les dernières pages. Les mêmes tâcherons sont aussi utilisés pour juger de la pertinence d’une publicité afin qu’elle soit bien en rapport avec les requêtes des internautes. 

Les « héros » de YouTube (qui démonétise votre contenu)

Parmi les complaintes récurrentes des youtubeurs, on retrouve souvent la « vidéo strikée ». Dans les faits, il s’agit d’une vidéo démonétisée car elle utilise du contenu soumis au droit d’auteur. Alors que YouTube se vante d’utiliser un système de détection automatique, les choses s’avèrent aussi un peu plus compliquées que ça. En effet, il existe trois catégories de modération. La première est mise en place avec les utilisateurs qui peuvent signaler du contenu inapproprié ou violant le droit d’auteur.

Là-dessus, YouTube fait intervenir ses YouTube Heroesappelés aussi Trusted Flagger (signaleur de confiance).  Il s’agit d’utilisateurs qui vérifient les signalements, les descriptions des vidéos ou bien qui ajoutent des sous-titres. Ces derniers ne sont pas payés mais plutôt récompensés avec des abonnements premium ou des offres commerciales. Vient enfin la dernière catégorie qu’Antonio Casilli qualifie de modérateurs commerciaux. Ces derniers sont souvent des sous-traitants dont le travail consiste à « passer en revue des dizaines de vidéos par heure et les classer selon différents critères ». Ils déterminent si les vidéos sont des extraits issus de la télévision, des clips musicaux, des contenus inappropriés, etc. 

Les traducteurs automatiques

Au bureau ou en voyage, Google Translate nous sauve souvent la vie. Cependant si le service de traduction de Google est si efficace, ce n’est pas seulement grâce à la puissance de ses algorithmes. Grâce à sa discrète applicationCrowdSource (une plateforme de micro-travail non rémunéré), des milliers d’utilisateurs sont encouragés à saisir des phrases et à les traduire automatiquement. Quand le résultat s’affiche, ils sont encouragés à proposer leur propre formulation, se transformant ainsi en traducteurs non rémunérés.

La voiture autonome ne conduira jamais seule

Si vous avez l’impression que les voitures autonomes sont déjà parmi nous, c’est que vous avez gobé de gros bobards !En effet, depuis les démonstrations de Google en 2010, de nombreux constructeurs automobiles présentent des véhicules concept censés conduire à votre place dans un futur proche. Mais à bien y regarder, la plupart de ces véhicules ne sont pas complètement autonomes. La plupart n’en sont qu’au stade 3 sur 5 de la classification officielle, ce qui veut dire qu’elles ne peuvent rouler seule que sur l’autoroute et qu’elles ne permettent pas au conducteur de quitter la route des yeux.

Oubliez les publicités montrant des passagers en train de dormir pendant un trajet. Chez Uber, les véhicules en expérimentation sont toujours « équipés » d’un opérateur humain chargé d’accueillir les passagers, d’entretenir la voiture et de vérifier que la voiture ne va pas percuter un groupe d’enfants. Si vous pensez que c’est transitoire, Antonio Casilli douche vos espoirs. En effet il rapporte qu’un document de Waymo (la firme de Google qui gère les voitures autonomes) envisage de faire travailler les abonnés de son service. Ces derniers devront surveiller la route pendant le trajet et appuyer sur un bouton stop en cas de danger de collision

Sur Les Jours (12-28 févr. 2019)

Sur magazine en ligne Les Jours Sophian Fanen lance une nouvelle série d’enquêtes intitulée Working Class Robot. Le premier épisode porte sur les travailleurs invisibles de l’IA, traité dans mon ouvrage En attendant les robots (Ed. du Seuil, 2019). Le deuxième, explique le fonctionnement de l’entraînement des intelligences artificielles. Le troisième, propose une interview avec Votre Dévoué et Jean-Louis Dessalles, professeur en informatique à Télécom ParisTech. En voilà quelques extraits.

« L’intelligence artificielle s’attaque au propre de l’être humain : son cerveau »


Les recherches d’Antonio Casilli et de Jean-Louis Dessalles, tous deux enseignants à l’école d’ingénieurs Telecom ParisTech, n’étaient pas faites pour se croiser. Le premier, maître de conférences en humanités numériques, travaille principalement sur le digital labor, c’est-à-dire le travail plus ou moins volontaire des internautes dont les grandes plateformes comme Google, Amazon ou Facebook tirent un profit technique et financier : liker une page, écouter de la musique en streaming, diffuser ses photos en ligne ou carrément réaliser des tâches rémunérées sur une plateforme de microtravail comme Amazon Mechanical Turk. C’est ce que raconte son ouvrage En attendant les robots sorti il y a peu, qui pointe aussi comment cette armée de travailleurs éparpillés et invisibilisés permet à ces mêmes plateformes de vanter leurs intelligences artificielles qui ne pourraient pourtant pas fonctionner aujourd’hui sans travail humain pour les corriger et les tester.

C’est sur ce point que le travail d’Antonio Casilli se connecte aujourd’hui avec le livre publié par Jean-Louis Dessalles, Des intelligences très artificielles. Informaticien, chercheur en intelligence artificielle et en sciences cognitives, ce dernier y raconte avec des mots simples les grandes découvertes qui ont marqué la construction de machines capables d’actions autonomes. Surtout, il pointe comment de nombreux chercheurs avant lui ont trop fantasmé un futur proche où les ordinateurs seraient réellement intelligents, allant jusqu’à dépasser l’homme. À la place, Jean-Louis Dessalles et Antonio Casilli proposent de revenir à la réalité pour se poser les bonnes questions sur ce que nous pouvons et voulons faire avec les machines que nous construisons. Antonio Casilli — Vidéo Sébastien Calvet/Les Jours.

Est-ce la première fois que des études sur le travail et sur l’intelligence artificielle se rejoignent sur le constat que l’humain ne sera pas remplacé par les machines ?

Antonio Casilli : Nos deux ouvrages vont dans le même sens et on l’a découvert au fur et à mesure, car on n’a pas travaillé ensemble. Ce qui nous rapproche, c’est que l’on dit tous les deux que rien n’est certain. On introduit un élément de doute, on dit que l’automation entraînée par l’intelligence artificielle a des aspects positifs. Qu’elle nous oblige à nous interroger sur la nature de ce processus d’automation. Que vise-t-il ?

(…)

A. C. : Un autre aspect important de cette question, c’est qu’au siècle passé, l’automatisation se concentrait sur la force brute. On remplaçait des gestes. L’IA propose aujourd’hui de déléguer à des machines la capacité à apprendre et à communiquer. C’est là que cette automation est différente. On est en train de répartir la responsabilité de la production de la valeur entre les machines et les humains.

(…)

A. C. : Mais le sens commun est nécessaire aux machines, car c’est une façon d’harmoniser leurs décisions avec nos cultures humaines. De faire en sorte que leurs résultats soient cohérents avec ce que nous attendons. Ça commence par la langue que la machine parle, par exemple. Aujourd’hui, le digital labor [notamment le travail humain via des plateformes comme Amazon Mechanical Turk, ndlr] est une manière d’injecter du sens commun dans une intelligence artificielle qui en manque. Dans le film The Moderators, on voit un formateur expliquer à des modérateurs indiens qui vont devoir traiter des milliers d’images problématiques publiées sur un réseau social qu’ils doivent « juger la donnée ». La juger sur la base des indications du client, mais aussi à partir de leur sens commun, lequel dépasse leurs valeurs puisqu’ils sont très croyants. C’est très complexe et extrêmement simple en même temps, parce que c’est humain. C’est une compétence accessible à des chômeurs non diplômés après quelques heures de formation, mais pas à une intelligence artificielle. Ant

(…)

A. C. : Il n’y a pas de données réellement brutes. Même dans une base d’images comme ImageNet, on a besoin d’avoir le bon format, le bon cadrage, la bonne lumière… Une standardisation qui fait en sorte que ces données sont exploitables.

(Poursuivre la lecture)