interview

Dans l’Humanité, mon interview sur colonialité et travail du clic (9 déc. 2022)

Dans le cadre d’un grand dossier que le quotidien L’Humanité consacre aux travaux de notre équipe de recherche DiPLab, un long article dans lequel est présentée notre enquête sur la sous-traitance des données nécessaires pour produire les IA françaises à Madagascar (2022). Pour apporter un éclairage sur les liens entre travail du clic et héritages coloniaux, j’ai accordé un entretien au journaliste Pierric Marissal.

Antonio Casilli : « De sujets coloniaux à des “data subjects” »

Le partage des tâches dans l’économie de l’intelligence artificielle se calque sur des rapports de dépendance Nord-Sud, analyse le chercheur Antonio Casilli.

Antonio Casilli (1) coordonne avec Ulrich Laitenberger et Paola Tubaro l’équipe de recherche DiPLab (Digital Platform Labor) afin de mettre en lumière toute la chaîne de production humaine derrière les technologies intelligentes et l’IA. Deux régions géographiques sont étudiées : l’Amérique latine (projet CNRS Tria) et l’Afrique (projet ANR Hush), et leurs liens avec les entreprises donneuses d’ordres européennes.

Comment qualifiez-vous ces liens entre les entreprises donneuses d’ordres et exécutantes dans l’intelligence artificielle ? De la sous-traitance classique ? Du colonialisme ?

Cela reste une classique volonté d’externalisation vers des pays tiers à but de minimisation des coûts du traitement des données et des infrastructures. Les groupes occidentaux, pour développer leur sous-traitance, se sont souvent appuyés sur des entreprises structurées qui existaient déjà, par exemple dans le secteur du textile ou des centres d’appels. Dans l’Afrique francophone, on retrouve ainsi Madagascar, mais aussi le Maroc, la Tunisie, le Cameroun, le Sénégal ou la Côte d’Ivoire. Il s’est ainsi créé tout un circuit d’entraînement des intelligences artificielles. Cette sous-traitance s’inscrit dans une logique de dépendance économique qui elle-même est parfois héritée d’une longue histoire de dépendance politique. On peut alors parler effectivement de trajectoire coloniale. Mais je préfère le terme de colonialité, qui souligne l’emprise culturelle que les pays du Nord ont sur ceux du Sud.

C’est-à-dire ?

La colonialité, c’est le pouvoir de façonner l’identité des citoyens d’une autre nation. Jadis, elle les réduisait à des sujets coloniaux, aujourd’hui à des « data subjects ». Lorsqu’on regarde qui produit des données annotées, au bénéfice de qui, on voit bien qu’il n’y a pas de hasard. C’est en tout cas ce que montrent nos propres enquêtes pour l’Afrique francophone, comme celles de l’Oxford Internet Institute, qui a beaucoup travaillé les liens entre l’Afrique de l’Est, l’Inde, l’Angleterre et les États-Unis. Et les Philippines, qui étaient un protectorat états-unien.

On retrouve donc de vieilles dépendances…

Les liens culturels et linguistiques sont en effet cruciaux pour certains produits d’intelligence artificielle comme les assistants vocaux, par exemple, ou des systèmes linguistiques ou lexicaux. Beaucoup de microtravailleurs s’inscrivent à des cours de l’Alliance française ou de l’Institut Cervantès pour parfaire leur maîtrise de la langue. On retrouve, là encore, des liens issus des siècles passés. Mais on voit aussi de nouvelles dépendances de l’Ouest vers l’Est qui lient l’Égypte, les pays du Golfe et la Chine. J’ai rencontré des propriétaires de start-up dans la banlieue du Caire, où des jeunes Égyptiennes faisaient de la reconnaissance faciale pour le gouvernement chinois. Cette sous-traitance de technologies de surveillance qui consiste à identifier et traquer en temps réel, on l’a aussi rencontrée à Madagascar, comme au Venezuela.

Comme cela se passe-t-il en Amérique latine, justement ?

La colonialité des siècles passés se manifeste dans des liens entre des pays de langue espagnole et l’Espagne. Mais il y a aussi des dépendances héritées du XIXe siècle et de la doctrine Monroe, qui théorisait la domination politique des États-Unis sur tout le continent sud-américain. Aujourd’hui, l’Argentine, la Colombie et particulièrement le Venezuela produisent des données pour des entreprises américaines. Ils ont une identité économique et politique qui ne se construit que par rapport au pays le plus fort. C’est la définition même de la colonialité telle que l’a pensée le sociologue péruvien Aníbal Quijano. Concrètement, ces pays sont des sous-traitants condamnés à le rester. Leur travail sera constamment considéré comme sans qualité ni qualification. Même si nous avons rencontré des Vénézuéliens diplômés en sciences de l’ingénieur et des Malgaches diplômés de l’enseignement supérieur, ils sont réduits à faire des microtâches pour quelques centimes par jour sur des plateformes.

Y a-t-il des stratégies des entreprises donneuses d’ordres pour maintenir leurs sous-traitants en bas de l’échelle de la production de valeur ?

Les entreprises donnent le moins d’informations possibles sur l’usage qui sera fait des données. La raison officielle est que s’ils savaient à quoi est destinée l’intelligence artificielle, les travailleurs pourraient saboter le processus d’entraînement et chercher à introduire des biais spécifiques, pour des raisons économiques ou politiques. Cela peut s’imaginer si l’IA sert à de la reconnaissance visuelle pour des missiles de l’armée, par exemple. Mais, effectivement, moins les start-up donnent de détails, moins elles risquent que leurs sous-traitants s’organisent et tentent de leur piquer le marché. Cela entretient ce système de subordination.

À l’inverse, celui qui commande l’IA a-t-il connaissance de toute cette chaîne de sous-traitance ?

Pas forcément. Pour notre projet ANR Hush, nous avions interrogé des grands groupes français qui recrutaient les travailleurs de plateforme. Nous avons remarqué que les responsables marketing pouvaient décider d’acheter 10 000 clics pour une campagne de communication sans en référer aux ressources humaines, alors qu’il y a des humains derrière. Les entreprises commandent ce type de services comme si elles se payaient du matériel de bureau. Cela crée une nouvelle chape d’invisibilité sur ces travailleurs.

Entretien réalisé par Pierric Marissal

Dans AlgorithmWatch: Why neofascists love AI (11 oct. 2022)

Josephine Lulamae interviewed me in the website of the NGO AlgorithmWatch about the a trend in European far-right policy: the preference for algorithmic solutions to social problems, such as unemployment, precarity, disability.

Italian neofascists considered building an authoritarian AI to solve unemployment. They are far from alone. – AlgorithmWatch

Back in April, the far-right Brothers of Italy party presented “Notes on a Conservative Program”. In a chapter on work, they called for an “artificial intelligence system” that “traces the list of young people who finish high school and university every year and connects them to companies in the sector.” This, the authors of the chapter wrote, would finally solve “youth unemployment,” as “the young person will no longer be able to choose whether to work or not, but [will be] bound to accept the job offer for himself (sic), for his family and for the country, under penalty of loss of all benefits with the application of a system of sanctions.” 

The proposal did not make it to the final program that Brothers of Italy published prior to the election on 25 September, when they became Italy’s largest party with 26% of the vote.

Ironically, the neofascists most likely had intended to use Artificial Intelligence to “create a fog around them, around what they are and what they want, because they want to attract a more moderate right-wing electorate,” says sociologist Antonio Casilli. Guido Crosetto, the Brothers of Italy co-founder who edited the work chapter, is not considered knowledgeable on technology, though he once tweeted about being “in favor of introducing artificial intelligence to the Ministry of Justice”. Unlike in other countries, there is no noticeable overlap between the Italian tech scene and far-right parties like Lega Nord and Brothers of Italy.

“I haven’t met a fascist geek in Italy,” Casilli tells us. (He added later, posting on Twitter, “but I’ve left the country two decades ago, and I’ve met many elsewhere in Europe.”)

Artificial Intelligence and the far-right

In his essay Ur-Fascism, Umberto Eco, who was a child during Benito Mussolini’s dictatorship, lists some of the characteristics of fascism. As well as being into a “cult of tradition” that mythologizes and idolizes the past (e.g. Mussolini’s call for a “new Rome”), fascists also – irrationally, unsurprisingly – worship technology, insofar as they believe in it as a way to reassert inegalitarianism, Eco wrote. 

In the United States, powerful people in the field of Artificial Intelligence are known to have been fascinated with extreme-right views. William Shockley, also known as Silicon Valley’s first founder, was an ardent eugenicist. Another AI pioneer, Stanford professor John McCarthy, believed that women were biologically less gifted in math and science. In 2020, the founder of face recognition firm Clearview AI collaborated with far-right extremist Chuck Johnson in the development of Clearview AI’s software. A few weeks later, the CEO of the AI surveillance firm Banjo was exposed to be a former member of the Dixie Knights of the Ku Klux Klan, who in 1990 was charged with a hate crime for shooting at a synagogue. (This revelation lost the company a contract with Utah’s Department of Public Safety.) 

In 2016, one of the groups that far-right provocateur Milo Yianoppolous featured in his (ghostwritten) Breitbart “guide to the far-right” were the “neoreactionaries”: folks who subscribe to the political philosophy that democracy has failed and a return to authoritarian rule is required. In her essay “The Silicon Ideology”, critic Josephine Armistead describes one of the neoreactionary fantasies to be aristocrats or monarchs in a world ruled by a tech CEO or a super-intelligent AI. 

An early incubator of these ideas was LessWrong.com, a discussion forum created by the California-based Machine Intelligence Research Institute (MIRI), which holds – without proof – that a general AI with potential for world domination will be created. People associated with MIRI “do basically no research and tell scary stories about how AI will turn us all into paper clips,” says researcher David Gerard, “It’s a huge distraction.” 

Back in 2010, some LessWrong users were chatting about how to live forever by being reincarnated on a hard drive by a godlike AI. Then a man called Roko Mijic – a self-described “tradhumanist” barred from MIRI events for sexual harassment – posted the argument that anyone who imagines this future “AI god” but doesn’t help fund its development risks one day being tortured by it. Several users had breakdowns. Famous MIRI donors include tech mogul Peter Thiel and cryptocurrency founder Vitalik Buterin. “They’re reactionaries whose version of libertarian economics ends at neofeudalism with them on top,” Gerard says.

“Algorithmic solutions” to unemployment in the EU

According to Casilli, the Brothers of Italy party’s “Artificial Intelligence” proposal actually has a lot in common with previous proposals for using automated systems to tackle or manage unemployment that have been made by center-right or liberal parties in other countries of the European Union. 

For example, in 2014, the then-liberal Polish government introduced a ranking system for job centers to use to decide how to best allocate welfare resources. The centers were widely regarded as overworked and short on time to pay attention to people who were registering there as unemployed. For the scoring system, information was gathered from people who registered as unemployed (age, duration of unemployment, etc.) The system was then used to sort them into three categories, which determined how much help a jobseeker received. Single mothers, people with disabilities or who lived in the countryside disproportionately ended up in the third category, which in practice received little help from job centers, as this category was considered “not worth investing in”. And, similarly to the Brothers of Italy proposal, it was hardly possible to appeal against the algorithm’s decision. The system was scrapped in 2019. 

Meanwhile in 2017 France, Emmanuel Macron was elected president and promised to turn France into a “startup nation.” Around the same time, a 24-year-old “young genius” businessman called Paul Duan started a public relation blitz. He said he could reduce unemployment by 10% by designing an algorithm that – similarly to the Brothers in Italy proposal – would help people find jobs by matching them with potential employers and assisting them through the application process. Years later, the public administration that originally commissioned the project issued a report to say that the algorithm to match jobseekers with open positions does not work.

“This kind of algorithmic solution to unemployment shows a continuum between far-right politicians in Italy, politicians in Poland and center-right politicians like Macron,” says Casilli. He adds, “They are different shades of the same political ideology, some are presented as market-friendly solutions like the French one, others are presented as extremely bureaucratic and boring like the Polish one, and the Italian proposal, the way it is phrased, is really reactionary and authoritarian.”

edited on October 11 to better reflect Mr. Casilli’s position

Interview dans Le Monde (21 nov. 2021)

A l’occasion de la parution d’un dossier sur le travail des plateformes, j’ai accordé un entretien à la journaliste Catherine Quignon (Le Monde).

« L’intelligence artificielle favorise l’accélération du microtravail »

Le professeur de sociologie Antonio Casilli explique au « Monde » que le nombre de personnes travaillant sur des plates-formes numériques a augmenté pendant la crise sanitaire, amorçant une nouvelle forme de précarisation.

Par Catherine Quignon

Antonio Casilli est professeur de sociologie à Télécom Paris, grande école de l’Ixnstitut polytechnique de Paris, et codirigeant de l’équipe de recherche DiPLab (Digital Platform Labor) sur le travail en ligne. Il explique l’essor du microtravail sur les plates-formes.

Quel est le profil des microtravailleurs ?

En France, notre équipe de recherche a dénombré près de 15 000 personnes qui se connecteraient chaque semaine sur les plates-formes de microtravail – plus de 50 000 au moins une fois par mois –, et plus de 260 000 microtravailleurs seraient inscrits mais pas ou peu actifs. Contrairement à ce que l’on pourrait croire, ces personnes sont souvent diplômées.

Le profil des inscrits reflète aussi l’évolution des plates-formes. Depuis plusieurs années, la frontière s’estompe avec les sites de free-lance classique. Certaines plates-formes de microtravail recherchent des compétences assez avancées sur des missions mieux payées, autour de 15 dollars de l’heure. Parallèlement, on voit des plates-formes de free-lance se mettre à proposer des microtâches, comme taguer des images. Cela reflète une forme de paupérisation du travail indépendant.

Quel impact la crise sanitaire a-t-elle eu sur le microtravail ?

Plusieurs plates-formes annoncent qu’elles ont vu leur activité augmenter avec la crise sanitaire, mais on suppose qu’il s’agit d’abord d’une augmentation des personnes qui s’inscrivent. L’une des plus importantes au monde, Appen, déclare avoir vu son activité croître de 30 % depuis avril 2020. De son côté, Clickworker dit avoir atteint les 2 millions de travailleurs inscrits sur sa plate-forme. Preuve que la crise sanitaire est aussi une crise de l’emploi.

Parallèlement, il semble que certaines entreprises ont plutôt tendance à vouloir réinternaliser ce processus de microtravail, à cause du risque de fuites de données. On se souvient des controverses autour des assistants vocaux en 2019, lorsque les médias ont révélé que des armées de microtravailleurs écoutaient et retranscrivaient des conversations. On suppose que ces fuites ont pu contraindre les entreprises à renoncer à se tourner vers des sous-traitants, mais il reste difficile de mesurer l’ampleur réelle de ce phénomène.

L’intelligence artificielle va-t-elle tuer le microtravail ?

Contrairement aux idées reçues, l’intelligence artificielle favoriserait plutôt l’accélération du microtravail. On aurait pu croire que, une fois entraînées, les machines pourraient progresser toutes seules mais, en fait, elles ont constamment besoin d’être réentraînées. Car la réalité du terrain, le comportement des consommateurs, la manière de parler en ligne… changent constamment. Lorsqu’on tapait « corona » en 2018 dans Google, la première réponse affichée par le moteur de recherche était « bière ». Fin 2019, des millions de personnes se sont mises à rechercher le terme « coronavirus ». Il a fallu l’intervention humaine de milliers d’employés pour vérifier et rectifier les résultats du moteur de recherche. Preuve que plus il y a d’intelligences artificielles, plus il y a besoin d’êtres humains derrière pour les rééduquer.

[Video] Intervista con la Fondazione Giannino Bassetti (4 dic. 2020)

Intervista condotta da Gabriele Giacomini (Fondazione Giannino Bassetti).

Per limitare l’avidità di dati serve una fiscalità del digitale

L’obiettivo di questo “secondo giro” di interviste è, in primo luogo, analizzare le principali sfide alla cittadinanza poste dalla diffusione pervasiva delle ICT e in secondo luogo, individuare le diverse proposte teoriche e pratiche avanzate da filosofi, giuristi, politologi, nonché le azioni fattuali che sono state messe in campo da istituzioni private, amministrazioni locali e governi statali per la promozione di una cittadinanza digitale autonoma e consapevole, che porti all’elaborazione di un habeas mentem adeguato alle sfide presenti e future di una comunità politica (nel senso di polis) sempre più innervata dalle tecnologie dell’informazione e della comunicazione. (NdR)

(Sotto il video, sintesi ed elenco delle domande.)

Antonio A. Casilli è professore ordinario di Sociologia alla Telecom Paris, scuola di ingegneria delle telecomunicazioni dell’Institut Polytechnique de Paris. Dal 2007 coordina il seminario “Studiare le culture digitali” alla Scuola di studi superiori in scienze sociali di Parigi (EHESS). È fra i fondatori dell’INDL (International Network on Digital Labor). Fra i suoi libri, tradotti in diverse lingue: “Les Liaisons numériques” (Editions du Seuil 2010), “Against the hypothesis of the end of privacy” (con Paola Tubaro e Yasaman Sarabi, Springer 2014), “Trabajo, conocimiento y vigilancia” (Editorial del Estado 2018), “Schiavi del clic” (Feltrinelli 2020).

Intervista del 13 novembre 2020.

Con le tecnologie digitali non siamo usciti dalla società industriale. Abbiamo, invece, aggiunto un nuovo “livello”, rappresentato dalla “datificazione” del reale. L’informazione, rappresentata dai dati, diventa un fattore produttivo centrale.
Grandi protagonisti di questa nuova fase del capitalismo sono le piattaforme, architetture informatiche, caratterizzate da vere e proprie finalità politico-programmatiche (come suggerisce la genealogia del concetto “piattaforma”). La loro filosofia si basa su tre principali idee: la condivisione libera dell’informazione, la diffusione del lavoro autonomo e l’abbandono del lavoro salariato, il superamento degli stati-nazione. Inoltre, rispetto alle imprese del secolo scorso, le piattaforme oltrepassano i confini dell’azienda in senso stretto, diventando delle aziende-mercato, e non sono più dominate dall’ossessione di produrre valore, ma di estrarre valore dai loro utenti-produttori. Alla base del capitalismo digitale, dunque, troviamo una massa di lavoratori impliciti che, in diverse forme, producono l’enorme mole di dati necessaria al funzionamento delle piattaforme.
La gestione (e il controllo) dei dati diventa, quindi, terreno di contesa fra piano economico e piano politico, fra il livello dei consumi e quello della cittadinanza. Un esempio di ciò è la “fine della privacy”. Secondo i lobbisti delle piattaforme, la privacy in quanto valore politico sarebbe una parentesi storica. Ovviamente, la “fine della privacy” è commercialmente utile per le piattaforme. Al contrario, la privacy è un problema per il business model di molte piattaforme, che acquisiscono dati e li rivendono. Per i cittadini, invece, la privacy resta una delle preoccupazioni sociali principali. Lo manifestano in modo diretto, ad esempio crittografando le loro comunicazioni, oppure facendo “pulizia” dei propri dati sulle piattaforme. Le piattaforme cercano di liberare i dati, gli utilizzatori invece cercano di chiuderli tatticamente.
Il GDPR europeo ha provato una sintesi fra promozione del mercato digitale e rispetto di standard minimi di protezione dei dati personali. Si tratta di un primo passo nella giusta direzione. Ma ci sono altri strumenti: ad esempio, l’antitrust, che può redistribuire il potere di mercato delle grandi piattaforme ma che può essere utilizzato anche per impedire a professionisti e lavoratori indipendenti del digitale di federarsi e sindacalizzarsi. Promettente sembra essere il settore della fiscalità del digitale. Così come è stata introdotta una tassa sulla produzione dell’inquinamento, si potrebbe congegnare una tassa sull’estrazione dei dati della popolazione di uno stato. Sarebbe un incentivo a limitare l’estrazione dei dati, perché questa avrebbe un costo maggiore rispetto ad oggi e spingerebbe le imprese digitali a soluzioni meno avide in termini di dati. È assolutamente sbagliata, invece, l’idea di retribuire gli utenti.

Queste le domande poste nell’intervista:

1. min. 0:51 – Rispetto alla società industriale, quali sono i poteri emergenti connessi allo sviluppo delle tecnologie digitali?
2. min. 4:53 –Nel tuo ultimo libro, “Schiavi del clic”, presenti il concetto di piattaforma attraverso la sua genealogia, facendone emergere l’aspetto politico. Quale è la natura essenziale delle piattaforme digitali e quali sono le varie forme con cui si declinano?
3. min. 16:57 –Fra le varie “profezie desideranti” delle piattaforme troviamo la fine dalla privacy su Internet. Questa idea ti convince? Gli individui sono pronti a sbarazzarsene o tengono ancora alla loro privacy? 
4. min. 28:12 –Che ne pensi del Regolamento generale sulla protezione dei dati dell’Unione Europea? Quali sono i suoi punti di forza e quali i punti di debolezza? 
5. min. 32:38 –Oltre al GDPR, quali sono gli altri strumenti per limitare la raccolta dei dati personali e la profilazione dei comportamenti? Si pensi, ad esempio, all’antritrust.
6. min. 41:05 –Considerato che i dati raccolti dalle piattaforme dipendendo dal “lavoro volontario” in rete degli utenti, questi ultimi dovrebbero essere “retribuiti”? È una operazione auspicabile e realizzabile? 
7. min. 49:02 –I “diritti digitali” di cui si discute da alcuni anni sono molti: oblio, identità digitale, accesso, anonimato, partecipazione eccetera. Quale è il diritto più importante nella società digitale? 
8. min. 52:49 –La “rivoluzione digitale” sollecita in molti modi la democrazia. Quale sarà il suo futuro?

[Video] “La coscienza di classe degli operai digitali”: intervista per Wired Italia

In occasione dell’uscita per i tipi della Feltrinelli di Schiavi del clic. Perché lavoriamo tutti per il nuovo capitalismo?, traduzione del mio libro En attendant les robots (Éditions du Seuil, 2019), ho fatto due chiacchiere con il giornalista e ricercatore Philip Di Salvo nel contesto del Wired Next Fest 2020. Abbiamo parlato di digital labor, di automazione e di coscienza di classe.

Le fabbriche di clic, quelle strutture in cui veri e propri operai digitali generano dati per addestrare gli algoritmi, rischiano di riproporre i medesimi meccanismi del capitalismo dell’era analogica. È possibile costruire uno scenario diverso per il lavoro del futuro? In occasione dell’uscita del libro Schiavi del clic (Feltrinelli, 2020), ne parliamo con l’autore.

Na revista Época (Brasil, 20 dez. 2020)

Boeing, Tesla, Mercedez-Benz e Toyota: empresas que estão abandonando ou reduzindo a robotização em suas fábricas e linhas de produção. Sobre este assunto, dei uma entrevista para a revista semanal brasileira Época.


O FREIO DAS MÁQUINAS NO MUNDO DO TRABALHO

Grandes indústrias repensam estratégia e voltam a colocar humanos em operações antes automatizadas

Rennan Setti

­ Foto: Montagem com fotos de Jeff J Mitchell / Getty Images; e Bill Diodato / Corbis still / Getty Images

A Boeing jogou a toalha. A fabricante americana abandonou neste ano seu ambicioso projeto de delegar apenas a robôs a fabricação das principais partes da fuselagem das aeronaves 777 e 777x . Baseado em tecnologia da Kuka Systems, o sistema que funcionava na fábrica em Everett, Washington, nos Estados Unidos, foi desenvolvido para representar o suprassumo da automação. Em substituição a ferramentas manuais, um exército de máquinas instalaria 60 mil rebites por aeronave, acoplando as placas de metal que formam a estrutura dos jatos em ritmo, harmonia e eficiência sem paralelos. Porém, faltou combinar com os parafusos: os robôs não conseguiam trabalhar com a sincronia necessária, provocando uma série de erros que precisavam ser corrigidos pelas mãos de mecânicos — cujo volume de horas extras explodiu diante da incompetência de seus colegas androides, segundo reportou o Seattle Times.

O aparente fracasso da Boeing em sua arrogância automatizada tem certo sabor de Schadenfreude — expressão alemã para a ideia de satisfação diante do infortúnio alheio — para trabalhadores de carne e osso, que deparam com previsões catastróficas sobre seu futuro empregatício diante da ascensão das máquinas nos meios de produção, a chamada Quarta Revolução Industrial. No ano passado, a venda de robôs atingiu o recorde de US$ 16,5 bilhões, com um crescimento de 6% no número de unidades produzidas, segundo a Federação Internacional de Robótica (FIR). Entre 2020 e 2022, o ritmo de avanço deve ser de 12%. No mundo, a indústria já emprega 99 robôs para cada 10 mil operários, 34% a mais que em 2016. Em Cingapura e na Coreia do Sul, a quantidade é de 831 e 774, respectivamente, a cada 10 mil.

Um robô em linha de montagem de uma fábrica da Nissan, em Resende, no Rio de Janeiro. No Japão, a Toyota anunciou em 2014 a substituição de algumas máquinas por humanos. Foto: Yasuyoshi Chiba / AFP

Um robô em linha de montagem de uma fábrica da Nissan, em Resende, no Rio de Janeiro. No Japão, a Toyota anunciou em 2014 a substituição de algumas máquinas por humanos. Foto: Yasuyoshi Chiba / AFP

Alguns movimentos sugerem, contudo, que a robotização desenfreada pode ter pela frente um caminho acidentado antes de confirmar sua supremacia. A despeito das proclamadas proezas da inteligência virtual, as máquinas ainda enfrentam dificuldades para se adaptar a uma economia que depende cada vez mais de produtos e serviços customizáveis e complexos.

Os sinais surgiram primeiro na indústria automobilística, justamente aquela cuja explosão à época do fordismo foi definida por uma automatização que aproximava o trabalho humano daquele de um robô. A Toyota, cujo sistema de produção definiu o capitalismo nas últimas décadas, anunciou em 2014 que substituiria algumas de suas máquinas por seres humanos no Japão, um dos países mais robotizados do planeta. A estratégia da montadora era garantir que os empregados entendessem, de fato, o trabalho e, no longo prazo, obter processos mais eficientes. Naquele momento, os seres humanos conseguiram reduzir em 10% o desperdício nas linhas de montagem. Em 2016, a Mercedes-Benz seguiu os passos da japonesa, alegando que os robôs não davam conta da complexidade e do nível de customização que a fabricante deseja oferecer em seu luxuoso Classe S.

No ano passado, quem deu um passo atrás foi a americana Tesla, cujas fábricas de veículos elétricos estavam entre as mais automatizadas do mundo. Pressionada pelos investidores pela lentidão na produção do carro Model 3, a aposta da companhia para ampliar sua clientela para a classe média, o fundador Elon Musk culpou a robotização da linha de produção pelo problema. Para acelerar o processo, decidiu contratar mais trabalhadores. “A automação excessiva na Tesla foi um erro. Meu erro, para ser mais preciso. Humanos são subestimados”, admitiu Musk. Karla Figueiredo, do Laboratório de Inteligência e Robótica Aplicadas (Lira), da Pontifícia Universidade Católica do Rio de Janeiro (PUC-Rio), e professora da Universidade do Estado do Rio de Janeiro (Uerj), ponderou que, apesar desses casos, não há uma tendência generalizada de frear a automação nas linhas de montagem. Segundo ela, o mais provável é que essas companhias tenham refletido sobre os resultados práticos da automação em suas operações e promovido ajustes. “Embora elevem a produtividade, os robôs são menos maleáveis. Quanto maior a especificidade e a necessidade de ajuste dos produtos, mais difícil e caro fica adaptá-los”, explicou.

Um empregado ajusta o tamanho de um braço de um robô no centro de pesquisa de uma fábrica em Chemnitz, na Alemanha. A robotização desenfreada tem sido revista em empresas como a Boeing. Foto: Ute Grabowsky / Photothek / Getty Images

Um empregado ajusta o tamanho de um braço de um robô no centro de pesquisa de uma fábrica em Chemnitz, na Alemanha. A robotização desenfreada tem sido revista em empresas como a Boeing. Foto: Ute Grabowsky / Photothek / Getty Images

Em alguns casos, de fato, o imperativo da automação atropela as reais necessidades da companhia, que acaba automatizando por automatizar, observou Giovani Ortiz, sócio da consultoria Ernst & Young no Brasil. Em 2005, uma indústria paulista de linha branca abarrotou sua fábrica com sensores inteligentes e acabou acrescentando a sua produção uma complexidade com a qual não sabia lidar. “Nesse caso, a solução foi eliminar esses sensores, reduzir a automação e simplesmente deixar que pessoas apertassem o botão. Isso aumentou drasticamente a produtividade”, afirmou Ortiz, sem revelar a marca. Ele lembrou que as empresas não precisam atingir o nível máximo de automação para capturar os benefícios desse processo. “A robotização entrou na moda, e, como em um boom, todo mundo fez. Mas ganho real é outra coisa. O ganho de produtividade não necessariamente vem só da máquina”, disse Cayan Saavedra, pesquisador do Instituto de Pesquisa Econômica Aplicada (Ipea).

Saavedra não é nenhum cético quanto ao potencial da automação. Ele foi um dos responsáveis por um estudo da Universidade de Brasília (UnB) que atesta que 30 milhões de empregos, ou 54% dos postos formais no Brasil, correm o risco de ser substituídos por robôs até 2026. Mas Saavedra acredita que, mesmo com o avanço das máquinas e da inteligência artificial sobre tarefas cognitivas, a tendência é que os humanos seguirão sendo competitivos no longo prazo. “A vantagem humana em termos de adaptação, de criação de hipóteses, permanece. Steve Jobs criou o iPod sem pesquisa de mercado ou ajuda de robôs, por exemplo”, lembrou o pesquisador, cujo trabalho foi capitaneada pelo Laboratório de Aprendizado de Máquina em Finanças e Organizações (Lamfo) da UnB.

Gravura de Wolfgang von Kempelen (1734-1804), inventor húngaro conhecido como O Turco, criou uma “máquina” de jogar xadrez que enganou toda a nobreza europeia no século XVIII. Foto: Universal History Archive / Universal Images Group / Getty Images

Gravura de Wolfgang von Kempelen (1734-1804), inventor húngaro conhecido como O Turco, criou uma “máquina” de jogar xadrez que enganou toda a nobreza europeia no século XVIII. Foto: Universal History Archive / Universal Images Group / Getty Images

O aparente passo atrás dado por algumas indústrias também se manifesta no Zeitgeist cultural, como capturou o jornalista canadense David Sax no livro A vingança dos analógicos: por que os objetos de verdade ainda são importantes(Anfiteatro, 2017). A obra busca entender o que motiva a prosperidade de produtos e métodos do passado, como o vinil, os jogos de tabuleiro e o próprio papel, em uma economia digitalizada. Para ele, a chave da resposta está em uma barreira intransponível: os seres humanos são feitos de carne e osso. “Por mais que a tecnologia avance e promova mudanças nos métodos de produção, a realidade é que somos todos humanos em um mundo físico. Esse toque humano seguirá sendo necessário, já que os consumidores entendem que a combinação dessas duas dimensões, a digital e a analógica, resulta em algo mais interessante. Não existe dogma nesse caso: as duas têm seu papel”, afirmou Sax, que também é conhecedor da música brasileira e brinca que, quando o assunto é Carnaval, “a música eletrônica jamais seria capaz de substituir a batucada da Mangueira ou do Salgueiro”.

Antonio A. Casilli, autor de En attendant les robots (Esperando os robôs, em tradução livre), conta que o impulso rumo à automação é cíclico na história. Já no início do século XIX, o economista britânico David Ricardo, um dos pais da teoria econômica clássica, falava da tentação humana em utilizar máquinas com a ilusão de poder substituir totalmente o empregado. Quase dois séculos depois, em 1995, o americano Jeremy Rifkin traçou uma crítica um quê apocalíptica com O fim dos empregos. Em 2013, pesquisadores de Oxford previram que a automatização ameaça destruir 47% dos empregos. Segundo Casilli, que é professor da influente escola francesa Télécom Paris, as empresas que decidiram reduzir a automação em sua linha de montagem não deram um passo atrás, porque os humanos nunca vão sumir do processo produtivo. Segundo sua análise, os trabalhadores humanos acabam “escondidos” por um misto de terceirização, “gig economy” (economia do bico) e redes de microtrabalho digital.

As consequências da Quarta Revolução Industrial, de acordo com sua crítica, são a perda de direitos e a precarização do trabalho. “As chamadas tecnologias autônomas não são, na realidade, autônomas. Elas dependem de um intenso volume de trabalho humano, pessoas que recebem alguns centavos para realizar microtarefas com o objetivo de alimentar e treinar a inteligência artificial, como se a IA fosse uma espécie de animal. É o que chamo de ‘digital labor’”, disse Casilli.

“‘EMBORA ELEVEM A PRODUTIVIDADE, OS ROBÔS SÃO MENOS MALEÁVEIS. E QUANTO MAIS ESPECIFICIDADE TÊM OS PRODUTOS E MAIOR NECESSIDADE DE AJUSTE, MAIS DIFÍCIL E CARO FICA ADAPTÁ-LOS’, EXPLICOU A PESQUISADORA KARLA FIGUEIREDO, DA PUC-RIO”

A mais famosa das plataformas de microtrabalho é a Mechanical Turk, da Amazon. Seu nome é inspirado em uma máquina “inteligente” criada no fim do século XVIII e que prometia jogar xadrez sozinha. Ao longo de décadas, a engenhoca desafiou os melhores jogadores de seu tempo, batendo até personalidades como Napoleão Bonaparte e Benjamin Franklin. Na realidade, porém, a Mechanical Turk era uma fraude, pois escondia embaixo de sua estrutura grandes mestres de xadrez de carne e osso.

Na Mechanical Turk de Jeff Bezos, os grandes mestres são internautas, muitas vezes em países em desenvolvimento, que concordam em passar o dia realizando pequenas tarefas digitais, como identificar objetos em imagens, em troca de alguns centavos de dólar. No mês passado, o jornalista Andy Newman contou no jornal New York Times sua experiência na plataforma: após oito horas de um trabalho repetitivo, o repórter ganhou frustrantes US$ 7,83. “A Mechanical Turk é a plataforma mais conhecida de digital labor, mas há alternativas chinesas e australianas que são muito mais relevantes. A precarização fica clara na forma como elas atraem internautas em países pobres. A Venezuela, por exemplo, está se transformando em um celeiro desse digital labor por causa da crise”, explicou Antonio Casilli, em entrevista a ÉPOCA.

Em um momento político no qual os temas do privilégio e da desigualdade ganharam proeminência, um exemplo recente de digital labor gerou críticas na imprensa francesa. Dezenas de robôs se tornaram o xodó dos alunos da Universidade da Califórnia, em Berkeley. Os chamados kiwibots circulam por todo o campus entregando fast-food e bebidas, mas são, na verdade, carrinhos de controle remoto, guiados à distância por colombianos que recebem US$ 2 por hora pelo serviço. “As pesquisas mostram que, conforme a inteligência artificial avança, mais trabalho humano é necessário para suportá-la. É um paradoxo semelhante à expressão francesa que diz que, quanto mais queijo houver, mais buraco haverá”, afirmou Newman. Apesar das perspectivas incertas, ele se diz otimista: “Está havendo uma conscientização dos trabalhadores, com empregados da ‘gig economy’ reclamando direitos, por exemplo. Acredito que essas lutas vão levar, por meio do conflito, à melhora das condições”.

[Video] Entrevista al programa “30 minuts” (TV3 Catalunya, 22 nov. 2019)

M’han entrevistat pel programa “30 minuts” (televisió Catalana TV3), sobre el treball de plataformes, el micro-treball i l’economia freelance. El reportatge esmenta el nostre estudi “Le micro-travail en France” (Projecte Diplab).

Video del Reportatge.

“Proletaris online”, a “30 minuts”

El diumenge 24 de novembre, a les 21.55, “30 minuts” emetrà la producció pròpia “Proletaris online”, on s’analitzarà l’anomenada economia de plataforma, un nou mercat laboral d’ingressos intermitents, en què llibertat i flexibilitat es repeteixen com un mantra però que té conseqüències imprevisibles per a l’estat del benestar.

No és el futur. És el present. Treballadors freelance, per projectes, gig economy (feines esporàdiques sota demanda), remots digitals, crowdsourcing (subcontractació de la feina a una multitud), microtreballadors… La nova economia digital està plena de paraules noves que agafen força i sacsegen el mercat laboral tradicional, el dels drets dels treballadors aconseguits amb les lluites sindicals.

La industrialització va crear el proletariat. La digitalització, el proletariat online.

El “30 minuts d’aquesta setmana s’endinsa en l’anomenada economia de plataforma, el model de negoci de l’era digital. Potents plataformes tecnològiques que connecten oferta i demanda i converteixen els treballadors en proveïdors de serveis. Poden ser repartidors en bicicleta amb les seves vistoses motxilles o experts programadors. Qualsevol persona que pugui fer feines esporàdiques a través d’una aplicació. Tots formen part d’aquest nou mercat laboral en què llibertat i flexibilitat es repeteixen com un mantra i en què un algoritme és qui mana.

1 La gig economy, serveis sota demanda

“Hi ha una equivocació molt gran, i és pensar que aquests models de treball van un pas al davant de la llei, com si fossin tan innovadors que la llei no s’hagués pogut adaptar a ells”. Núria Soto, exrepartidora de la plataforma Deliveroo

“El fet que visquis en una ciutat on pots guanyar-te uns 300 o 400 euros extra amb un horari totalment flexible, sense caps i a través de la teva aplicació, és bo per a la societat”. Òscar Pierre, CEO i cofundador de Glovo

Aquest any se n’ha parlat molt, de plataformes i condicions laborals, perquè les dues grans plataformes de repartiment a domicili, Glovo i Deliveroo, han hagut de defensar-se als jutjats contra la Tresoreria de la Seguretat Social, que en diverses actes d’inspecció havia dictaminat que els repartidors havien de ser assalariats i no autònoms. Hem volgut analitzar de primera mà les condicions de feina d’aquests treballadors i per això un equip del “30 minuts” ha passat hores amb ells, al carrer, durant les hores anomenades d'”alta demanda”, esperant les comandes davant els restaurants. A un costat, els llatinoamericans; a l’altre, els pakistanesos. Molts acaben d’arribar a Catalunya. Entrevistem també per recollir el seu punt de vista Òscar Pierre, CEO i cofundador de Glovo, i Román Gil, advocat de Deliveroo.

2 El microtreball

“Els microtreballadors som una gran massa de gent invisible. Som completament invisibles. És per això que és tan important que parlem als mitjans, que expliquem el que fem. I quan siguem una mica més visibles tindrem força per negociar les nostres regles”. Julie, microtreballadora

El “30 minuts” també entrevista gent que treballa a les plataformes de microtasques (com ara Clickworker, Spare5, Appen, Lionbridge o Amazon Mechanical Turk), un fenomen procedent dels Estats Units que s’expandeix per tot el món. Transcripcions, gravacions per a sistemes de reconeixement de veu, identificar objectes dins una imatge, moderació de continguts a xarxes socials, analitzar resultats dels buscadors… Les grans empreses tecnològiques divideixen la feina en petites tasques i contacten en segons amb milions de treballadors a tot el món que les executen des de casa, a tant la tasca. Intervenen en el programa el sociòleg Antonio Casilli, coautor d’un exhaustiu estudi sobre el  microtreball a França, i Mary Gray, investigadora de Microsoft Research i autora del llibre “Ghost work” (“Treball fantasma”), sobre els microtreballadors als Estats Units.

3 Cap a un món de freelance?

Finalment, en el reportatge s’analitza com aquesta plataformatització de l’economia arriba també a la part alta de la piràmide. Qualsevol empresa pot contractar, a través de plataformes freelance, experts a l’altra punta del món. L’externalització d’un departament sencer a través d’una plataforma és cada cop més senzilla. I el mar de fons és un augment creixent a tot el món dels treballadors independents. Ens ajuden a treure’n l’entrellat Anna Ginés, professora de Dret del Treball d’ESADE, Luz Rodríguez, professora de Dret del Treball de l’UCLM i autora de l’estudi “Plataformes digitals i mercat de treball”, i Lucía Velasco, economista especialitzada en tecnologia que ha format part del grup d’experts que analitza l’impacte de la digitalització en el mercat laboral per a la Comissió Europea.

Hi ha un consens entre els experts que s’ha acabat la feina fixa per a tota la vida. Anem cap a feines flexibles amb ingressos intermitents, amb conseqüències imprevisibles per a l’estat del benestar.

Grand entretien dans le 1 Hebdo (25 sept. 2019)

Dans le numéro 265 de l’hebdomadaire Le 1, j’ai accordé un entretien au journaliste Julien Bisson.

« Des formes de subordination et de flexibilisation de plus en plus extrêmes »

Antonio Casilli, sociologue

Le titre de votre essai En attendant les robots offre un clin d’œil littéraire pour décrire le contexte actuel : l’intelligence artificielle (IA) tarde-t-elle à arriver ?

Dans la pièce de Samuel Beckett, Godot n’arrive jamais. Il est une promesse constamment renouvelée, un horizon pour certains utopique, pour d’autres apocalyptique, qui ne se réalise jamais. Je trouve que la métaphore colle très bien à la situation actuelle : la projection imaginaire et fantasmatique que nous faisons sur les intelligences artificielles et l’automatisation, qui n’est pas là aujourd’hui, mais le sera demain peut-être, ou certainement après-demain. En réalité, elle est constamment repoussée. Mais en attendant, on est sujet à des formes de subordination, de flexibilisation de plus en plus extrêmes, d’encasernement de la force de travail de plus en plus poussées, toujours sous la menace, comme une sorte d’épée de Damoclès, de ces robots qui feraient disparaître des millions ou des dizaines de millions d’emplois. 

Le titre de votre essai En attendant les robots offre un clin d’œil littéraire pour décrire le contexte actuel : l’intelligence artificielle (IA) tarde-t-elle à arriver ?

Dans la pièce de Samuel Beckett, Godot n’arrive jamais. Il est une promesse constamment renouvelée, un horizon pour certains utopique, pour d’autres apocalyptique, qui ne se réalise jamais. Je trouve que la métaphore colle très bien à la situation actuelle : la projection imaginaire et fantasmatique que nous faisons sur les intelligences artificielles et l’automatisation, qui n’est pas là aujourd’hui, mais le sera demain peut-être, ou certainement après-demain. En réalité, elle est constamment repoussée. Mais en attendant, on est sujet à des formes de subordination, de flexibilisation de plus en plus extrêmes, d’encasernement de la force de travail de plus en plus poussées, toujours sous la menace, comme une sorte d’épée de Damoclès, de ces robots qui feraient disparaître des millions ou des dizaines de millions d’emplois. 

La réalité est que l’emploi disparaît à la suite de décisions suivant des logiques capitalistes, et non par la faute des robots. Les décideurs du monde numérique, à commencer par les PDG et les actionnaires de ces plateformes, peuvent jouer la carte des robots pour dire : « Ce n’est pas ma faute, ce sont les robots qui arrivent, c’est l’automatisation. » Alors qu’en réalité, ces personnes qui sont virées, qui sortent par la porte de l’emploi classique, rentrent par la fenêtre en tant que microtâcherons. Il ne s’agit donc pas d’un grand remplacement technologique, mais d’un grand déplacement de la rémunération de ce travail. Ce phénomène, on le voit dans des tas de contextes productifs dans lesquels des usines prétendent automatiser leur production, mais recrutent ensuite d’autres personnes pour faire un travail bien plus flexibilisé ou bien plus usant. Cela se produit à l’échelle du monde, dans le contexte du digital labor et du travail plateformisé.

Qu’est-ce que le digital labor ?

Cette notion s’est imposée au milieu des années 2010. On cherche à travers elle, d’une part, à analyser le travail des plateformes numériques et, d’autre part, à réactualiser des notions développées dans d’autres contextes, comme l’ouvriérisme italien, qui concernent toute forme de travail informel, invisibilisé, caché. Il s’agit donc d’un travail plateformisé et difficile à saisir qui établit des relations sociales médiatisées par des technologies numériques. On insiste sur le terme digital, parce que c’est un travail qui se caractérise, d’un point de vue matériel, par l’acte de cliquer d’un doigt sur la touche d’une souris ou d’un écran tactile. C’est aussi une notion qui permet de se pencher sur des formes de travail qui échappent aux définitions traditionnelles d’activités travaillées parce qu’elles ne se situent pas dans les contextes et les lieux classiques du travail. Ce n’est pas un travail d’usine ni de bureau, même s’il peut avoir lieu dans des mondes sociaux de ce type, mais c’est un travail qui se poursuit dans la rue, dans les foyers. Il prend bien souvent la forme de tâches qui exigent très peu d’efforts tout en étant extrêmement fragmentées.

Vous écrivez dans votre livre que « pour chaque col blanc, il existe des millions de cols bleus dans le numérique ». Pourquoi ces travailleurs sont-ils si invisibles ?

D’abord, parce que les cols blancs sont extrêmement visibles et prennent toute la place. Je désigne par ce terme les personnes qui réalisent le travail noble et sublime du code, les ingénieurs, les concepteurs. Souvent ce sont des personnes qui ont une situation économiquement privilégiée et un positionnement politique assez hégémonique. Ils ont à la limite une vocation technocratique à se présenter comme les seuls responsables de l’innovation technologique. Par là même, ils effacent presque, ou du moins relèguent dans des zones assez obscures de l’économie numérique, les dizaines de millions de personnes qui réalisent des tâches beaucoup plus humbles, plus fragmentées et atomisées, et qui, surtout, sont des tâches constamment présentées comme dépourvues de qualité. Ces tâches sont parfois effectuées par les personnes précaires de cette économie numérique, et parfois par des utilisateurs lambda comme vous et moi, à nos heures, dans la mesure où chacun d’entre nous produit des données, entraîne les algorithmes, crée ainsi de la valeur captée par les plateformes. Certains ont le privilège assez douteux d’être rémunérés à la pièce et très, très faiblement. D’autres ont le privilège encore plus douteux de ne pas être rémunérés, puisque nous sommes considérés comme des consommateurs, des amateurs, des passionnés, mais pas comme des producteurs.

Quelle est la conséquence, pour les travailleurs du clic, de leur invisibilité ?

Être relégué à une situation de non-reconnaissance politique a des conséquences de nature économique – se retrouver dans une situation dans laquelle on n’est jamais rémunéré à sa juste valeur ou à la juste valeur de la contribution qu’on apporte à la production de valeur – et des conséquences de nature psychosociale – une atomisation et une aliénation. Dans le cas des plateformes de microtravail, l’on a des personnes qui entraînent des intelligences artificielles en réalisant des microtâches rémunérées à la pièce dans la plupart des cas. Ils travaillent souvent depuis chez eux, ou même s’ils se trouvent rassemblés dans des bureaux, les contrats qui les lient à leurs plateformes leur interdisent d’échanger au sujet du contenu de leur travail avec les personnes qui sont dans le même bureau. Ils n’arrivent alors jamais à créer une communauté de pratiques et ils ne parviennent pas non plus à organiser ces formes de travail et les luttes qui pourraient se structurer autour, comme peuvent le faire les livreurs par exemple. La dernière conséquence néfaste dont je parlerai est celle de la perte de sens, aux yeux de ces travailleurs du clic, de l’activité même qu’ils accomplissent. Bien souvent, les microtravailleurs n’ont pas une conscience précise de la finalité ultime de leur activité. Dans le cadre de notre enquête sur le microtravail en France, nous avons interrogé des personnes passant leur journée à dessiner des carreaux autour de tomates pour entraîner une application de recommandation nutritionnelle. Et pourtant ces personnes ignoraient la finalité ultime de leur travail. C’est quelque chose qui comporte de lourdes conséquences en termes psychosociaux, et présente donc un risque pour ces travailleurs.

D’autant qu’ils ignorent souvent l’identité même de leur employeur final ?

Oui, un élément auquel s’ajoute le risque de base qui est de ne pas savoir combien de temps on va travailler. Soyons clair, on ne parle pas de carrière, ce n’est pas un métier à proprement parler. Même les travailleurs des plateformes les plus reconnaissables pourraient difficilement dire : je fais le chauffeur pour Uber et je compte arriver jusqu’à l’âge de la retraite en faisant cela. Ils ne savent pas combien de temps ils pourront continuer à travailler sur ces plateformes. Et je vous parle là des formes de travail digital les plus visibles. Quand on rentre dans les formes invisibles comme le microtravail, le travail de modération publique ou l’activité des personnes qui à l’autre bout du monde font artificiellement gonfler la notoriété de certaines marques, produits ou personnalités dans des fermes à clics, non seulement il n’y a là aucune certitude d’être réemployé demain ou dans un mois, mais on n’est même pas certain d’être payé à la fin de la journée ou à la fin de la tâche. Parce qu’il y a souvent un problème pour encaisser ces faibles montants.

Y a-t-il une compétition entre les travailleurs du clic de différents pays ?

La question de la mise en concurrence des travailleurs n’est pas une nouveauté, mais elle est poussée ici à l’extrême. Je vous donne un exemple : avant Internet, si une entreprise voulait délocaliser une activité productive, elle avait des options assez coûteuses. Elle devait par exemple ouvrir sa propre usine dans un pays tiers ou s’associer avec une autre entreprise dans le pays d’accueil. Avec les plateformes, il s’agit d’une délocalisation en temps réel, à flux tendu et qui met en concurrence de manière encore plus poussée qu’auparavant des personnes qui travaillent depuis les pays du Nord, en l’occurrence, et d’autres depuis les pays du Sud ; cela peut même arriver entre habitants des pays du Sud. Souvent on rencontre dans nos enquêtes des habitants de Madagascar qui déplorent la concurrence extrêmement lourde de personnes qui seraient installées en Inde ; ou, au contraire, certains Indiens s’inquiètent des microtravailleurs ou des modérateurs nigérians, qui seraient plus performants et moins rémunérés qu’eux. Cette mise en concurrence, qui tire les revenus vers le bas, se généralise pour cette génération de travailleurs du clic.

Sommes-nous victimes d’une forme de crédulité face à cette supposée magie des algorithmes et de l’intelligence artificielle, qui implique en réalité tant de travailleurs sous-payés ?

Oui, c’est une crédulité qui s’est installée, même parmi les personnes qui devraient être les dépositaires de la vérité sur l’intelligence artificielle. Certaines créent et entretiennent activement de l’ignorance autour de l’IA – je pense aux investisseurs, à certains lobbies de grands groupes technologiques qui survendent les performances de cette intelligence artificielle et parfois même la vendent avant même de l’avoir créée. Google a ainsi été prise en train de faire de la fausse intelligence artificielle avec des assistants vocaux censés prendre de manière automatique des rendez-vous à votre place… Il s’est avéré qu’ils étaient gérés par des personnes en Irlande. Siri, l’assistant personnel d’Apple, est en réalité accompagnée et aidée par des petits doigts et des petites mains qui sont installés à Prague, à Cork ou ailleurs. 

Mais cette crédulité existe aussi en raison d’effets de marketing un peu poussés. Il s’agit parfois moins d’une arnaque que d’une situation d’hallucination collective. Même les ingénieurs qui font de l’intelligence artificielle ne savent pas exactement dans quelle mesure celle-ci fonctionne et parfois ferment un œil, voire les deux, sur la composante humaine de leur IA. Typiquement, si vous demandez à une personne, un scientifique, un informaticien qui fait du machine learning si son algorithme, fonctionne de manière autonome, il vous dira que oui, parce qu’il ignore bien souvent d’où viennent les données qui le nourrissent. Or ces données proviennent d’utilisateurs humains ; elles sont annotées, triées, classées, étiquetées par des utilisateurs humains.

Vous parliez de dizaines de millions de travailleurs du clic à travers le monde. Sait-on combien ils sont en France ?

Il est difficile de répondre à cette question. L’estimation du nombre de travailleurs sur ces plateformes se heurte aux effets d’annonce des plateformes elles-mêmes. À les croire, en France, sept millions de personnes seraient concernées. Nous avons fait un travail poussé pour restreindre de manière crédible ce chiffre et nous sommes arrivés aux estimations suivantes : environ 15 000 personnes constituent le noyau dur des utilisateurs très actifs de ces plateformes de microtravail, qui font aussi appel à 260 000 travailleurs occasionnels. À cela, il faut ajouter ceux qui travaillent sur des services visibles et localisés, ceux que l’on voit dans la rue : les chauffeurs Uber, les personnes qui viennent faire les tâches ménagères à la volée et payées à la pièce, les livreurs de Deliveroo, etc. Ces chiffres nous amèneraient pour la France à un total d’environ 400 000 personnes, voire plus, toutes plateformes confondues. Tout cela sans parler de la question encore plus épineuse et sujette à controverse : faut-il reconnaître ou non les consommateurs de plateformes sociales telles Facebook ou YouTube comme des producteurs de données et donc comme des travailleurs ? De ce point de vue, nous serions presque 70 millions à travailler pour les plateformes.

Comment le droit social peut-il s’adapter à cette tâcheronisation du travail ?

C’est une question importante. Les personnes qui s’occupent de protection sociale en France commencent à y travailler, avec un certain retard. La difficulté principale est liée au fait que la protection sociale dans les pays du Nord s’est organisée autour de l’emploi salarié, d’où une difficulté structurelle et historique à reconnaître et protéger les professions qui échappent à ce schéma. Le phénomène a commencé avec les indépendants, il a continué avec les travailleurs freelance à la fin des années 1990 et au début du XXIe siècle, et il se poursuit aujourd’hui. La situation devient encore plus grave et urgente pour les travailleurs des plateformes. Non seulement le tâcheronnage a été interdit en France, mais, à la différence d’autres pays comme l’Allemagne, l’Espagne, l’Italie ou l’Angleterre, on n’admet pas la parasubordination. Si on est indépendant, on l’est ; si on ne l’est pas, on doit être requalifié en travailleur salarié. De nombreux États, même parmi les plus inattendus comme la Californie aux États-Unis, ont récemment décidé de requalifier les travailleurs réguliers de plateforme.

C’est plus difficile dans le cas de personnes qui réalisent des tâches fragmentées, tâcheronisées, microtâcheronisées. Il faut imaginer d’autres formes de protection sociale pour ces personnes. Pousser la logique de la protection sociale en incitant à la protection des travailleurs par les travailleurs eux-mêmes. Je pense, par exemple, aux formes coopératives qui existent sur les plateformes ou – il s’agit de ma position personnelle – à l’idée de reconnaître ce travail invisibilisé et cette production de valeur à travers un revenu universel numérique. Cela permettrait de bien souligner le fait que la totalité des utilisateurs de plateformes numériques produisent de la valeur pour lesdites plateformes. Il doit y avoir une manière de rendre à la communauté ce que la société produit pour ces plateformes et que celles-ci s’approprient.