‘Microwerk is onzichtbaar voor het merendeel der mensen en trekt weinig de aandacht. Professor Paola Tubaro, onderzoeker aan Centre National de la Recherche Scientifique (CNRS), Parijs
Zonder
mensen geen machines… En ook geen ‘digitale’ economie. Om technologie
op een intelligente manier toe te passen, voeren wereldwijd miljoenen
mensen taken uit: van het sorteren van songs in afspeellijsten tot het
transcriberen van ontvangstbewijzen, van het taggen van
afbeeldingen tot het afluisteren van gesprekken via luidsprekers. Deze
fragmentarische, zich steeds herhalende microtaken vormen het geheime
ingrediënt van kunstmatige intelligentie.
Deze ‘onzichtbare’ arbeidskrachten worden wel microwerkers genoemd, of
‘klikwerkers’, of ze nu in India, Madagaskar Kenia of op de Filipijnen
wonen.
In zijn boek En attendant les robots, enquête sur le travail du clic
(Wachten op de robots, een onderzoek naar klikwerk) analyseert Antonio
Casilli het alom heersende, veel angst veroorzakende idee van het
verdwijnen van arbeid en het over de hele wereld verspreide werk op
‘klikboerderijen’. Casilli is een Frans-Italiaanse socioloog
gespecialiseerd in internet-privacy en digitale arbeid. Hij is
universitair hoofddocent digitale geesteswetenschappen aan Télécom Paris
Tech en onderzoeker aan de École des hautes études en sciences sociales
in Parijs.
Hij zegt dat de digitale revolutie niet bestaat uit de grootscheepse
vervanging van arbeidskrachten door robots, maar uit grote onzekerheid
over arbeid en arbeidsomstandigheden.
De nieuwe proletariërs
verrichten stukwerk op mondiale platforms. Zij zijn onzichtbaar en
vallen daardoor buiten elke jurisdictie. Ze werken vaak thuis en krijgen
weinig betaald, vooral degenen die wonen in lagelonenlanden. Dit soort
menselijk computerwerk vormt een sleutelrol in de hedendaagse
automatisering, ondanks de bewering dat ‘machines mensen vervangen’. Dat
gaat niet gebeuren volgens Casilli: “We zullen altijd dit soort
eenvoudige, onzichtbare, digitale arbeid nodig hebben. Digitale arbeid
is niet een tussenfase, maar een structureel onderdeel van de
automatisering van productieprocessen”.
Data-verzamelen
Al
onze digitale activiteiten produceren gegevens (data). Deze informatie
wordt verzameld door grote informatieplatforms en omgezet in geld.
Data-verzamelen is bezig het virtuele zwarte goud van de 21ste eeuw te
worden.
Een belangrijk vraag is of we allemaal digitale
werkkrachten zijn geworden? Casilli richt zich vooral op het vermogen
van digitale platforms om werkkrachten in te zetten die zij eerder als
consument dan als producent beschouwen.
Vrije toegang tot bepaalde digitale diensten is louter een illusie. Elke
muisklik voedt een uitgebreide advertentiemarkt en produceert gegevens
die dienen als grondstof voor kunstmatige intelligentie. Elk commentaar
en elke ‘like’, post of foto voldoet aan de voorwaarde: waarde
produceren. Dit soort digitaal werk wordt óf slecht betaald óf helemaal
niet betaald aangezien niemand gecompenseerd wordt voor de waarde die er
gecreëerd wordt. Maar het is werk: een bron van waarde die
gelokaliseerd en gemeten is, toegankelijk gemaakt en vastgelegd in een
overeenkomst met algemene gebruikersvoorwaarden van platforms.
We dienen te beseffen dat deze data de basis vormen van de machinaal
lerende modellen die gebruikt worden voor de technologie van
bijvoorbeeld zelfrijdende auto’s of automatisch vertalen.
Achter de automatisering van een bepaalde taak, zoals gezichts- of
tekstherkenning, staan mensen die in de werkelijke wereld toepassingen
voeden door bijvoorbeeld het typen van woorden of het indiceren van
wolken op afbeeldingen van de lucht.
Gelijk aan de manier waarop
wijsheid van oudsher ontstaat, zo leren machines uit zichzelf. Maar om
hun algoritmen te leren zich aan te passen of hun diensten te
verbeteren, hebben platforms heel veel mensen nodig om hun dat te leren
en vervolgens te toetsen. Het bekendste voorbeeld is de Mechanical Turk,
een dienst van het Amerikaanse e-commercebedrijf Amazon. Ironisch
genoeg verwijst de naam naar een verzinsel uit de achttiende eeuw,
waarin een automatische schaakspeler – de Mechanische Turk – in staat
was te winnen van menselijke tegenstanders. Maar, de Mechanische Turk
werd in werkelijkheid bediend door een mens die in de machine zat.
Zo
leunen zogenaamde ‘smart’-diensten zwaar op ongeschoolde
arbeidskrachten. Voor dit werk – ontworpen om machines van dienst te
zijn – worden de digitale werkers slecht betaald. Deze nieuwe soort
arbeid noemen we taskified – taakbeheerd – aangezien de menselijke handeling wordt gereduceerd tot een enkele muisklik. We noemen het ook datafied– gegevensbeheerd – vanwege het produceren van gegevens.
Voor deze nieuwe soorten arbeid gelden geen loonnormen. Desondanks wordt
er de laatste jaren tegen techplatforms geregeld actie gevoerd voor
bepaalde rechten. Denk aan de werkers bij Uber en Deliveroo die naar de
rechter zijn gestapt met de eis om een werknemerscontract.
Collectief middel voor onderhandeling
Caselli
ziet drie manieren voor digitale werkers om baanonzekerheid te
bestrijden en op te komen voor sociale, economische en politieke
erkenning van digitaal werk.
Traditioneel arbeidsrecht – werknemers met een vast salaris – kan leiden
tot de erkenning van de status van Uber- en plaformmedewerkers. Maar
een afhankelijke arbeidssituatie mag geen uniforme, kant-en-klare
oplossing zijn. Men is ook in toenemende mate bezig met de oprichting
van coöperatieve platforms waar gebruikers eigenaar worden van
productiemiddelen en algoritmen.
Toch zijn er volgens Casilli
grenzen aan deze ontwikkelingen. Hij ziet een derde mogelijkheid als
oplossing. Als het op onze gegevens aankomt, zijn we geen kleinschalige
eigenaar of kleinschalige ondernemer. We zijn kleinschalige
gegevensmedewerkers. En deze persoonlijke gegevens, die noch privé noch
openbaar zijn, zijn eigendom van iedereen en niemand. Onze privacy moet
een collectief middel voor onderhandeling worden. Het is nodig dat er
instituties komen om echt gemeenschappelijk bezit te creëren. Het
internet is een nieuw strijdtoneel.
Data zijn ongeëvenaarde handelswaar
Zullen
dergelijke maatregelen onze persoonlijke gegevens minder persoonlijk
maken? We produceren allemaal gegevens. Maar deze gegevens zijn in feite
een collectieve bron die platformen zich hebben toegeëigend en
geprivatiseerd. In plaats van personen een voor een te betalen voor hun
gegevens, zouden deze platforms de waarde die aan deze gegevens wordt
ontleend moeten teruggeven aan nationale of internationale autoriteiten
via billijke belastingheffing.
In mei 2018 trad de Algemene verordening gegevensbescherming (AVG) in
werking in de Europese Unie die de regels voor de verwerking van
persoonsgegevens door particuliere bedrijven en overheidsinstanties in
de hele Europese Unie standaardiseert. Gegevens worden gezien als een
persoonlijke eigenschap in plaats van bezit. Daarom kan in theorie
iedereen op elk willekeurig moment toestemming geven voor het gebruik
van gegevens of de toestemming weer intrekken.
Het opzetten van
een belastingstelsel volgens Casill’s ideeën zou de mogelijkheid zijn
tot een onvoorwaardelijk basisinkomen. Alleen al het muisklikken of
delen van informatie zou personen het recht kunnen geven op royalties
en elke gebruiker voor het plaatsen van inhoud online op betaling
daarvoor. Dat inkomen zou bijgevolg niet worden gekoppeld aan de
uitgevoerde taken, maar zou de waarde bevestigen die wordt gecreëerd
door middel van deze bijdragen.
In 2020 zijn volgens schatting meer dan twintig miljard apparaten verbonden met het Internet der dingen
– the Internet of Things (IoT). De datamarkt kan een bedrag van bijna
430 miljard dollar per jaar opleveren. Dat bedrag staat gelijk aan
eenderde van het BNP van Frankrijk.
Data zijn ongeëvenaarde handelswaar.
En attendant les robots, enquête sur le travail du clic, door Antonio A. Casilli, Éditions du Seuil, 400 p., 2019: www.seuil.com
La MSH Paris Saclay, en collaboration avec la revue L’Homme et la Société et les Editions du Seuil, m’a fait l’honneur d’organiser une journée d’études entièrement consacrée à mon ouvrage En attendant les robots. Au fil de 4 tables rondes, les collègues Florent Le Bot, Hélène Picard, David Gaborieau et Claude Didry, ont analysé plusieurs aspects de ce texte, en les mettant en résonance avec des enquêtes récentes en sociologie, sciences de la gestion, économie industrielle.
Programme :
Après une présentation de son livre, Antonio Casilli sera amené à échanger avec les chercheurs Hélène Picard (EM Grénoble), Claude Didry (CNRS / ENS Ulm) et David Gaborieau (UPEM). La journée sera animée par Florent Le Bot (IDHES / université d’Evry), historien et membre de la revue L’Homme & la Société, et se déroulera à l’ISC-PIF que la MSH Paris-Saclay remercie pour son accueil.
9h30 : Accueil café – Mot d’ouverture par la Direction de la MSH Paris-Saclay
10h / 11h30 Présentation de « En attendant les Robots » par Antonio Casilli (TelecomParis / i3)
11h45 / 12h45 : « Quand l’ouvrier devient robot » : Antonio Casilli & David Gaborieau (CNAM / CEET)
12h45 / 14h00 Déjeuner
14h00 / 15h00 : « La fin du travail ou le retour du marchandage ? » Antonio Casilli & Claude Didry (CMH / ENS)
15h15 / 16h15 : « Par delà les plateformes capitalistes: le
renouvellement de la réflexion sur les organisations alternatives »
Antonio Casilli & Hélène Picard (Professeure assistante, Grenoble
Ecole de Management)
L’intelligence artificielle est l’objet de tous les fantasmes : elle serait partout autour de nous, ses capacités pourraient dépasser celles des humains, et nous réduire, à terme à l’esclavage… Mais l’IA, c’est quoi exactement ? Comment ça marche ?…
En 2003, l’informaticien Edward Feigenbaum qualifiait l’intelligence artificielle de « destinée manifeste » de nos sociétés. Emprunté du providentialisme américain, ce slogan cache pourtant les défaillances d’une discipline qui n’arrive pas encore à s’attaquer à « la vraie majesté de l’intelligence générale ». Mais les effets de cette idéologie dépassent aujourd’hui la communauté scientifiques. Derrière les déclarations des pionniers de l’informatique intelligente et le buzz des investisseurs, s’affirme en fait une certaine vision du travail : le digital labor, une activité tâcheronnisée, sous-payée et parfois même gratuite qui a lieu sur les plateformes numériques. Elle pointe une dynamique profonde qui traverse toute la planète, où des myriades de personnes réalisent quotidiennement ce « travail du doigt ». Dans quelle mesure la rhétorique des visionnaires de l’IA et les prophéties de la disparition de centaines de millions d’emplois cèlent en réalité la pérennisation d’un travail humain de plus en plus précaire et invisibilisé ?
Grandes indústrias repensam estratégia e voltam a colocar humanos em operações antes automatizadas
Rennan Setti
A
Boeing jogou a toalha. A fabricante americana abandonou neste ano seu
ambicioso projeto de delegar apenas a robôs a fabricação das principais
partes da fuselagem das aeronaves 777 e 777x . Baseado em tecnologia da
Kuka Systems, o sistema que funcionava na fábrica em Everett,
Washington, nos Estados Unidos, foi desenvolvido para representar o
suprassumo da automação. Em substituição a ferramentas manuais, um
exército de máquinas instalaria 60 mil rebites por aeronave, acoplando
as placas de metal que formam a estrutura dos jatos em ritmo, harmonia e
eficiência sem paralelos. Porém, faltou combinar com os parafusos: os
robôs não conseguiam trabalhar com a sincronia necessária, provocando
uma série de erros que precisavam ser corrigidos pelas mãos de mecânicos
— cujo volume de horas extras explodiu diante da incompetência de seus
colegas androides, segundo reportou o Seattle Times.
O
aparente fracasso da Boeing em sua arrogância automatizada tem certo
sabor de Schadenfreude — expressão alemã para a ideia de satisfação
diante do infortúnio alheio — para trabalhadores de carne e osso, que
deparam com previsões catastróficas sobre seu futuro empregatício diante
da ascensão das máquinas nos meios de produção, a chamada Quarta
Revolução Industrial. No ano passado, a venda de robôs atingiu o recorde
de US$ 16,5 bilhões, com um crescimento de 6% no número de unidades
produzidas, segundo a Federação Internacional de Robótica (FIR). Entre
2020 e 2022, o ritmo de avanço deve ser de 12%. No mundo, a indústria já
emprega 99 robôs para cada 10 mil operários, 34% a mais que em 2016. Em
Cingapura e na Coreia do Sul, a quantidade é de 831 e 774,
respectivamente, a cada 10 mil.
Um robô em linha de montagem de uma fábrica da Nissan, em Resende, no Rio de Janeiro. No Japão, a Toyota anunciou em 2014 a substituição de algumas máquinas por humanos. Foto: Yasuyoshi Chiba / AFP
Alguns
movimentos sugerem, contudo, que a robotização desenfreada pode ter
pela frente um caminho acidentado antes de confirmar sua supremacia. A
despeito das proclamadas proezas da inteligência virtual, as máquinas
ainda enfrentam dificuldades para se adaptar a uma economia que depende
cada vez mais de produtos e serviços customizáveis e complexos.
Os
sinais surgiram primeiro na indústria automobilística, justamente
aquela cuja explosão à época do fordismo foi definida por uma
automatização que aproximava o trabalho humano daquele de um robô. A
Toyota, cujo sistema de produção definiu o capitalismo nas últimas
décadas, anunciou em 2014 que substituiria algumas de suas máquinas por
seres humanos no Japão, um dos países mais robotizados do planeta. A
estratégia da montadora era garantir que os empregados entendessem, de
fato, o trabalho e, no longo prazo, obter processos mais eficientes.
Naquele momento, os seres humanos conseguiram reduzir em 10% o
desperdício nas linhas de montagem. Em 2016, a Mercedes-Benz seguiu os
passos da japonesa, alegando que os robôs não davam conta da
complexidade e do nível de customização que a fabricante deseja oferecer
em seu luxuoso Classe S.
No
ano passado, quem deu um passo atrás foi a americana Tesla, cujas
fábricas de veículos elétricos estavam entre as mais automatizadas do
mundo. Pressionada pelos investidores pela lentidão na produção do carro
Model 3, a aposta da companhia para ampliar sua clientela para a classe
média, o fundador Elon Musk culpou a robotização da linha de produção
pelo problema. Para acelerar o processo, decidiu contratar mais
trabalhadores. “A automação excessiva na Tesla foi um erro. Meu erro,
para ser mais preciso. Humanos são subestimados”, admitiu Musk. Karla
Figueiredo, do Laboratório de Inteligência e Robótica Aplicadas (Lira),
da Pontifícia Universidade Católica do Rio de Janeiro (PUC-Rio), e
professora da Universidade do Estado do Rio de Janeiro (Uerj), ponderou
que, apesar desses casos, não há uma tendência generalizada de frear a
automação nas linhas de montagem. Segundo ela, o mais provável é que
essas companhias tenham refletido sobre os resultados práticos da
automação em suas operações e promovido ajustes. “Embora elevem a
produtividade, os robôs são menos maleáveis. Quanto maior a
especificidade e a necessidade de ajuste dos produtos, mais difícil e
caro fica adaptá-los”, explicou.
Um empregado ajusta o tamanho de um braço de um robô no centro de pesquisa de uma fábrica em Chemnitz, na Alemanha. A robotização desenfreada tem sido revista em empresas como a Boeing. Foto: Ute Grabowsky / Photothek / Getty Images
Em
alguns casos, de fato, o imperativo da automação atropela as reais
necessidades da companhia, que acaba automatizando por automatizar,
observou Giovani Ortiz, sócio da consultoria Ernst & Young no
Brasil. Em 2005, uma indústria paulista de linha branca abarrotou sua
fábrica com sensores inteligentes e acabou acrescentando a sua produção
uma complexidade com a qual não sabia lidar. “Nesse caso, a solução foi
eliminar esses sensores, reduzir a automação e simplesmente deixar que
pessoas apertassem o botão. Isso aumentou drasticamente a
produtividade”, afirmou Ortiz, sem revelar a marca. Ele lembrou que as
empresas não precisam atingir o nível máximo de automação para capturar
os benefícios desse processo. “A robotização entrou na moda, e, como em
um boom, todo mundo fez. Mas ganho real é outra coisa. O ganho de
produtividade não necessariamente vem só da máquina”, disse Cayan
Saavedra, pesquisador do Instituto de Pesquisa Econômica Aplicada
(Ipea).
Saavedra
não é nenhum cético quanto ao potencial da automação. Ele foi um dos
responsáveis por um estudo da Universidade de Brasília (UnB) que atesta
que 30 milhões de empregos, ou 54% dos postos formais no Brasil, correm o
risco de ser substituídos por robôs até 2026. Mas Saavedra acredita
que, mesmo com o avanço das máquinas e da inteligência artificial sobre
tarefas cognitivas, a tendência é que os humanos seguirão sendo
competitivos no longo prazo. “A vantagem humana em termos de adaptação,
de criação de hipóteses, permanece. Steve Jobs criou o iPod sem pesquisa
de mercado ou ajuda de robôs, por exemplo”, lembrou o pesquisador, cujo
trabalho foi capitaneada pelo Laboratório de Aprendizado de Máquina em
Finanças e Organizações (Lamfo) da UnB.
Gravura de Wolfgang von Kempelen (1734-1804), inventor húngaro conhecido como O Turco, criou uma “máquina” de jogar xadrez que enganou toda a nobreza europeia no século XVIII. Foto: Universal History Archive / Universal Images Group / Getty Images
O
aparente passo atrás dado por algumas indústrias também se manifesta no
Zeitgeist cultural, como capturou o jornalista canadense David Sax no
livro A vingança dos analógicos: por que os objetos de verdade ainda são importantes(Anfiteatro,
2017). A obra busca entender o que motiva a prosperidade de produtos e
métodos do passado, como o vinil, os jogos de tabuleiro e o próprio
papel, em uma economia digitalizada. Para ele, a chave da resposta está
em uma barreira intransponível: os seres humanos são feitos de carne e
osso. “Por mais que a tecnologia avance e promova mudanças nos métodos
de produção, a realidade é que somos todos humanos em um mundo físico.
Esse toque humano seguirá sendo necessário, já que os consumidores
entendem que a combinação dessas duas dimensões, a digital e a
analógica, resulta em algo mais interessante. Não existe dogma nesse
caso: as duas têm seu papel”, afirmou Sax, que também é conhecedor da
música brasileira e brinca que, quando o assunto é Carnaval, “a música
eletrônica jamais seria capaz de substituir a batucada da Mangueira ou
do Salgueiro”.
Antonio A. Casilli, autor de En attendant les robots (Esperando os robôs,
em tradução livre), conta que o impulso rumo à automação é cíclico na
história. Já no início do século XIX, o economista britânico David
Ricardo, um dos pais da teoria econômica clássica, falava da tentação
humana em utilizar máquinas com a ilusão de poder substituir totalmente o
empregado. Quase dois séculos depois, em 1995, o americano Jeremy
Rifkin traçou uma crítica um quê apocalíptica com O fim dos empregos.
Em 2013, pesquisadores de Oxford previram que a automatização ameaça
destruir 47% dos empregos. Segundo Casilli, que é professor da influente
escola francesa Télécom Paris, as empresas que decidiram reduzir a
automação em sua linha de montagem não deram um passo atrás, porque os
humanos nunca vão sumir do processo produtivo. Segundo sua análise, os
trabalhadores humanos acabam “escondidos” por um misto de terceirização,
“gig economy” (economia do bico) e redes de microtrabalho digital.
As
consequências da Quarta Revolução Industrial, de acordo com sua
crítica, são a perda de direitos e a precarização do trabalho. “As
chamadas tecnologias autônomas não são, na realidade, autônomas. Elas
dependem de um intenso volume de trabalho humano, pessoas que recebem
alguns centavos para realizar microtarefas com o objetivo de alimentar e
treinar a inteligência artificial, como se a IA fosse uma espécie de
animal. É o que chamo de ‘digital labor’”, disse Casilli.
“‘EMBORA ELEVEM A PRODUTIVIDADE, OS ROBÔS SÃO MENOS MALEÁVEIS. E QUANTO MAIS ESPECIFICIDADE TÊM OS PRODUTOS E MAIOR NECESSIDADE DE AJUSTE, MAIS DIFÍCIL E CARO FICA ADAPTÁ-LOS’, EXPLICOU A PESQUISADORA KARLA FIGUEIREDO, DA PUC-RIO”
A
mais famosa das plataformas de microtrabalho é a Mechanical Turk, da
Amazon. Seu nome é inspirado em uma máquina “inteligente” criada no fim
do século XVIII e que prometia jogar xadrez sozinha. Ao longo de
décadas, a engenhoca desafiou os melhores jogadores de seu tempo,
batendo até personalidades como Napoleão Bonaparte e Benjamin Franklin.
Na realidade, porém, a Mechanical Turk era uma fraude, pois escondia
embaixo de sua estrutura grandes mestres de xadrez de carne e osso.
Na
Mechanical Turk de Jeff Bezos, os grandes mestres são internautas,
muitas vezes em países em desenvolvimento, que concordam em passar o dia
realizando pequenas tarefas digitais, como identificar objetos em
imagens, em troca de alguns centavos de dólar. No mês passado, o
jornalista Andy Newman contou no jornal New York Times sua
experiência na plataforma: após oito horas de um trabalho repetitivo, o
repórter ganhou frustrantes US$ 7,83. “A Mechanical Turk é a plataforma
mais conhecida de digital labor, mas há alternativas chinesas e
australianas que são muito mais relevantes. A precarização fica clara na
forma como elas atraem internautas em países pobres. A Venezuela, por
exemplo, está se transformando em um celeiro desse digital labor por
causa da crise”, explicou Antonio Casilli, em entrevista a ÉPOCA.
Em
um momento político no qual os temas do privilégio e da desigualdade
ganharam proeminência, um exemplo recente de digital labor gerou
críticas na imprensa francesa. Dezenas de robôs se tornaram o xodó dos
alunos da Universidade da Califórnia, em Berkeley. Os chamados kiwibots
circulam por todo o campus entregando fast-food e bebidas, mas são, na
verdade, carrinhos de controle remoto, guiados à distância por
colombianos que recebem US$ 2 por hora pelo serviço. “As pesquisas
mostram que, conforme a inteligência artificial avança, mais trabalho
humano é necessário para suportá-la. É um paradoxo semelhante à
expressão francesa que diz que, quanto mais queijo houver, mais buraco
haverá”, afirmou Newman. Apesar das perspectivas incertas, ele se diz
otimista: “Está havendo uma conscientização dos trabalhadores, com
empregados da ‘gig economy’ reclamando direitos, por exemplo. Acredito
que essas lutas vão levar, por meio do conflito, à melhora das
condições”.
«L’intelligence artificielle invisibilise le travail»
La machine remplacera-t-elle le travailleur ? À cette question mille fois rebattue, le sociologue et professeur à Télécom Paris Antonio Casilli répond par la négative. Dans son ouvrage En attendant les robots, il affirme que ce discours procède d’une grande mystification à laquelle il convient d’apporter un démenti, pour mieux lever le voile sur les conditions de travail.
Coupe du Turc mécanique, avec la position supposée de l’opérateur. Joseph Racknitz, 1789
Avec « En attendant les robots », le sociologue Antonio A. Casilli s’attaque à l’un des principaux mythes des sociétés occidentales contemporaines : le développement sans frein de la technologie va conduire à la disparition du travail ; les humains sont condamnés à être remplacés par des « intelligences artificielles ». Or, en se penchant sur l’arrière-cuisine du secteur numérique, Casilli montre à quel point ces intelligences dites artificielles sont en réalité « largement faites à la main », par une armée de réserve de l’industrie numérique composée de travailleurs et travailleuses précaires qui se tuent à la microtâche.
Avec le développement de l’automation, il est en effet plus à craindre une précarisation et une atomisation accrues du travail plutôt que sa disparition. Le mythe du « grand remplacement » des humains par des robots, nous indique Casilli, renouvelle en fait la vieille ruse du régime capitaliste pour payer toujours moins la force de travail et la déprotéger socialement. La promesse d’automation portée par le secteur numérico-industriel s’avère ainsi à la fois le « bâton qui discipline la force de travail » et la « carotte qui attire les investisseurs ». Loin des fables marketing de la Silicon Valley sur l’intelligence artificielle toute puissante et autonome que de talentueux ingénieurs développeraient seuls, la réalité est faite de millions de digital workers (travailleur·euses du doigt) payé·es quelques centimes d’euro la pièce. Ils entrainent les algorithmes en cliquant sans fin dans des fermes à clics au Kenya, dans des cybercafés en Tunisie ou depuis la maison un peu partout, pour tenter d’améliorer leur salaire de working poor. Évoquer la disparition du travail, c’est donc une manière de ne pas voir son incessante altération et oublier bien vite que si la data (la donnée) brute est le nouveau pétrole, un raffinage par les humains est nécessaire avant tout usage par la machine.
Contrairement à l’idée reçue, vous affirmez que ce sont plutôt les humains qui volent le job des robots. Qu’est-ce qui vous fait dire ça ?
On est aujourd’hui entouré par un discours ambiant qui rabâche les résultats de l’étude « The future of employment » de Frey et Osborne menée en 2013 selon laquelle 47 % des emplois disparaitraient d’ici 2030 au États-Unis en raison de l’utilisation des intelligences artificielles (IA) et de la robotique mobile… Or, si on se penche sur la nature de l’intelligence artificielle, considérée comme responsable de ce prétendu « grand remplacement technologique », celle qu’on a effectivement à notre disposition, on s’aperçoit que nous sommes loin d’une IAforte, c’est-à-dire capable de dépasser celles des humains. Au contraire, la réalité commerciale, mais aussi celle des recherches de pointe et des investissements actuels nous mènent plutôt vers un paradigme d’IA faible. C’est-à-dire celle qu’on a dans la poche : le Siri ou le OKGoogle des smartphones, le Cortana ou l’Alexa des enceintes connectées, c’est-à-dire des assistants virtuels qui accompagnent la décision ou certaines actions humaines. Le non-dit de la réflexion actuelle sur les technologies c’est que, pour pouvoir produire ces assistants virtuels, on a besoin d’énormément de travail humain. On parlera même ici plutôt de human assisted virtual assistants(des assistants virtuels eux-mêmes assistés par des êtres humains) car ils sont totalement inefficaces en l’absence d’une intervention humaine. Il est en effet nécessaire que des humains produisent des exemples, c’est-à-dire des données utilisables que les « intelligences artificielles » sauront reconnaitre et ranger. Car elles n’apprennent pas toutes seules. Ce sont des êtres humains qui annotent, qualifient et améliorent les données d’entrainement. Et encore des êtres humains qui testent ces outils et vérifient qu’ils interprètent correctement les données… Énormément de travail humain irrigue donc ces solutions technologiques loin d’être autonomes.
Qui réalise ce travail ?
Le fonctionnement de ces technologies dites « apprenantes » et dont ont besoin les plateformes pour marcher, est assuré, pas tant par des informaticiens surdoués et spécialisés qui réaliseraient des prouesses algorithmiques, que par une foule de personnes sans qualification particulière. Ce sont elles qui produisent les données.
Une grande partie de ce travail est réalisé par des personnes qui évoluent sur des plateformes spécialisées dans le microtravail. La plus ancienne et la plus connue est Amazon Mechanical Turk[à l’initiative de la plateforme de vente Amazon.com] mais depuis, leur nombre a explosé. On connait relativement mal leur fonctionnement et leur étendue, mais une chose est sûre : ces plateformes ne permettent pas un encadrement classique du travail. On y est très rarement salarié, et même le statut de free lancers ne s’y adapte pas. Ce qui émerge ainsi actuellement, c’est une nouvelle catégorie de travailleur·euses que j’ai nommés les microtâcherons du clic. Ces travailleurs sont payés à la pièce pour réaliser une microtâche qui dure de quelques secondes à quelques minutes, et qui est très faiblement rémunérée : de quelques centimes à quelques euros. Il s’agit par exemple de labelliser des images pour que des algorithmes soient capables de discerner un arbre d’un poteau, typiquement, ce qu’ils ne savent pas faire d’entrée et qu’ils ont besoin « d’apprendre » en s’entrainant sur de gigantesques bases de données préparées par ces humains.
Une autre partie de ce travail, nous le réalisons nous-mêmes gratuitement, par notre usage des plateformes. Par exemple, quand je regarde 4 ou bien 40 minutes d’une vidéo sur YouTube, en la notant en bien ou en mal, ou quand je like ou partage tels articles, commentaires, photos etc. sur Facebook. Ce faisant, leurs algorithmes sont capables d’apprendre mes préférences et de s’améliorer à partir des données que j’ai créées, que j’ai produites. C’est le travail social en réseau que nous réalisons sans nous en rendre compte et sans toucher pour cela la moindre rémunération, alors même qu’ils utilisent et monétisent ces données et produisent donc de la valeur à partir d’elles.
Vous montrez effectivement qu’il existe un continuum entre la course d’un chauffeur Uber, la microtâche d’un microtravailleur d’Amazon Mechanical Turk et les posts d’un internaute sur Facebook. Qu’est-ce qui relie ces trois personnes ?
Toutes ces plateformes – qui ne sont pas des entreprises classiques puisque leur activité est essentiellement de mettre en relation différents types d’acteurs – sont basées sur la production de données. Elles doivent pour cela mettre au travail leurs propres utilisateur·trices afin de leur faire réaliser une activité de type particulier : le digital labor. Le terme digital renvoie au terme latin digitus (le doigt). C’est donc en somme le travail du doigt dont le clic de la souris représente la tâche la plus élémentaire. Il est à distinguer du travail numérique, celui des managers, des ingénieurs, des informaticiens des grandes entreprises du numérique qui sont, eux, capables de gérer le numerus de par leurs compétences en mathématiques avancées.
Le digital labor est un travail qui est extrêmement fragmenté et surtout déqualifié, invisibilisé et invalorisé (c’est-à-dire en perte de valeur). Il est d’abord fondé sur le principe de tâcheronisation : l’activité se limite à des tâches extrêmement simples, courtes et fractionnées mais aussi standardisées, répétitives et assez rébarbatives. Elles sont effectuées pour la plupart devant un ordinateur : identifier des objets sur une image, étiqueter des contenus, enregistrer sa voix en lisant de courtes phrases, traduire de petits bouts de texte…
Le fil rouge qui relie un chauffeur de Uber, un micro-travailleur d’Amazon Mechanical Turk et un utilisateur lambda de Facebook, c’est donc la production des données, processus qu’on appelle la datafication et qui représente l’autre fondement de ce digital labor. Les plateformes et les IA — que les premières tentent de produire et de marchander — sont en effet fondées sur un flux constant de données produites et traitées. C’est la matière première nécessaire à leur fonctionnement. Ainsi, un chauffeur Uber passe certes une partie de son temps à conduire, mais ce qui intéresse surtout la plateforme sur laquelle il évolue, c’est de produire des données sur son smartphone en utilisant l’application Uber, en améliorant le GPS, l’algorithme de tarification dynamique ou la notation des passagers. Ces données sont en effet utilisées pour entrainer des robots de type particulier, des véhicules dits « autonomes », mais qui ont tout de même besoin de traiter et de travailler des données en temps réel. Un véhicule « sans chauffeur » enregistre des données grâce à un « lidar » [un capteur à radar laser], mais ces données, pour être exploitables, ont besoin d’être annotées, améliorées, raffinées. Ainsi, concrètement, si ce véhicule « autonome » a pris en photo une rue, il faut que quelqu’un lui enseigne à reconnaitre un arbre ou un piéton (à éviter), un panneau de signalisation (et son interprétation), etc. Et ce, de toutes les formes et dans tous les contextes possibles. Pour ce faire, on fait donc appel à des travailleurs du clic, comme ceux de The mighty IA, un sous-traitant spécialisé dans l’entrainement des données pour le secteur automobile. Au sein de cette plateforme, des milliers de personnes payées quelques centimes par tâche doivent regarder à longueur de journée des photos de villes, d’autoroutes, et détourer [tracer les contours de] les voitures ou les camions pour les identifier.
Combien sont-ils ces microtravailleur·euses ?
Ces microtravailleurs représentent une force de travail qui est en train de monter partout dans le monde. Les plateformes déclarent des effectifs qui dépassent déjà les cent millions ! On est donc loin d’une disparition du travail et des emplois volés par les robots. Au contraire, les besoins du secteur du numérique et de l’IA ne cessent de croitre et d’évoluer. Par contre, le travail et ses conditions d’exercice se voient fortement dégradées puisque cette tacheronisation entraine une fragmentation des emplois en microtâches externalisées accompagnée par le démantèlement des salaires au moyen des micropaiements.
Je viens d’estimer avec mon équipe le nombre de personnes qui microtravaillent en France : un peu plus de 260 000 personnes. C’est énorme compte-tenu du fait qu’on parle d’un pays riche, c’est-à-dire dans lequel on n’imagine pas à priori qu’un travailleur ait la nécessité de réaliser des microtâches payées quelques centimes d’euros. Il s’agit souvent de personnes en dessous du seuil de pauvreté et parfois de salarié·es qui ont besoin d’un complément pour terminer le mois. Ce qui témoigne au passage de la dégradation de leur pouvoir d’achat et leur condition de travail par rapport aux décennies passées.
Mais néanmoins, vous montrez que l’essentiel de cette armée industrielle de tâcherons du clic se situe dans les pays du Sud…
Oui, tout simplement pour une question démographique : la masse des ouvriers se situe aujourd’hui dans le Sud du monde dans les secteurs primaires ou secondaires, l’extraction de minerais ou l’agriculture. Dans son ouvrage « L’avenir du travail vu du Sud », Cédric Leterme explique comment la masse ouvrière actuelle s’est « sudifiée » et féminisée. Les microtâcherons du clic, qui font partie à part entière de cette masse ouvrière, n’échappe pas à la tendance. Ainsi, des pays comme les Philippines, l’Inde, l’Afrique du Sud ou dans un contexte francophone Madagascar, le Sénégal, la Côte d’Ivoire ou la Tunisie concentrent le gros de ces microtravailleurs. Lesquels sont d’ailleurs très souvent plutôt des microtravailleuses.
Je viens d’estimer avec mon équipe le nombre de personnes qui microtravaillent en France : un peu plus de 260 000 personnes. C’est énorme compte-tenu du fait qu’on parle d’un pays riche, c’est-à-dire dans lequel on n’imagine pas à priori qu’un travailleur ait la nécessité de réaliser des microtâches payées quelques centimes d’euros. Il s’agit souvent de personnes en dessous du seuil de pauvreté et parfois de salarié·es qui ont besoin d’un complément pour terminer le mois. Ce qui témoigne au passage de la dégradation de leur pouvoir d’achat et leur condition de travail par rapport aux décennies passées.
En somme, sur les plateformes de microtravail, non seulement le modèle vanté (l’auto-entrepreneuriat, où l’on est libre de travailler où on veut quand on veut) s’avère en fait être un environnement de travail aux conditions ultra précaires, sous-payées, sans aucune protection ni garantie de pérennité de son activité, mais de surcroit, celui qui y travaille subit aussi des contraintes liées au salariat comme la subordination, la surveillance, le contrôle…
L’idée de base du salariat c’est qu’en échange d’une subordination relative, je reçois une protection sociale généralisée. Ce pacte-là s’est cassé et les « indépendants » ont renoncé à la protection pour éviter la subordination à l’ancienne. Les travailleurs des plateformes, eux, qu’ils travaillent gratuitement ou pour des microrémunérations, se retrouvent face à une forme de subordination qu’on appelle la subordination technologique. Celle-ci se manifeste notamment à travers le flux d’ordres qui leur est transmis via les pastilles d’un message non lu, les annonces, les alertes, etc. C’est ce qu’on nomme des calls to action (« appels à l’action »), des solutions technologiques qui vous poussent à réaliser une action le plus vite possible et sans vous poser de questions. C’est assez clair si vous êtes un chauffeur Uber : chaque nouvelle proposition de course équivaut à un ordre, et chaque refus de course, c’est un refus d’ordre qui expose à une sanction possible comme une perte de réputation, un déclassement, etc. Même un utilisateur lambda de Facebook ou de Linkedin recevra ces appels à l’action ou subira la quantification de son effort productif via toute une métrique de performance (scores, likes, étoiles, nombre de followers, de partages, de contacts…) qui sert aussi d’outil de contrôle et de mise en concurrence.
Avec le microtravail, basé sur le modèle de rémunération à la micro-pièce, au clic de souris, est-ce qu’on arrive à une logique tayloriste poussée à son maximum ? À un travail non plus « en miettes » mais en micromiettes ?
Nous sommes clairement dans le prolongement extrême à la fois de l’ancienne division du travail dont parlait Adam Smith au 18e siècle, et de certaines bases du fordo-taylorisme comme la fragmentation du travail et le travail à la chaîne… Sur Amazon Mechanical Turk, un travailleur reçoit un flux d’offres de microtâches qu’il doit réaliser très vite. Ça ne doit pas lui prendre plus de quelques fractions de seconde pour distinguer de manière intuitive un chat d’un chien sur une image. Ce travail est donc en effet extrêmement atomisé au niveau de sa réalisation ainsi qu’au niveau de sa rémunération.
Mais ce qui représente la plus grosse différence par rapport au « travail en miettes » dont parlait Georges Friedmann en 1964, c’est le fait qu’il s’agisse d’un travail invisibilisé. Ainsi, au 20esiècle, malgré l’émiettement de leur activité, des modalités de solidarité active entre les travailleurs pouvaient subsister du fait même qu’ils partageaient un même lieu de travail : l’usine. Or, actuellement, les travailleurs des plateformes de microtravail n’ont aucune idée de qui sont les autres microtravailleurs. Pire, ils n’ont aucun intérêt à faire savoir aux autres ce qu’ils sont en train de faire : les autres ce sont des concurrents qui peuvent potentiellement leur voler des tâches un peu mieux rémunérées — c’est-à-dire un euro plutôt que quelques centimes… Cela contribue à une invisibilisation qui ne vient plus du haut et qui serait voulue par le patronat, mais bien à une invisibilisation qui vient du bas, et qui est opérée par le travailleur lui-même, chacun souhaitant rester invisible aux yeux des autres.
On constate aussi parfois même des formes d’entr’exploitation c’est-à-dire de micro sous-traitance en cascade. Une personne peut accepter une micro-tâche un peu plus importante, comme retravailler un logo pour la somme de 3 $. Elle va l’émietter à son tour, et faire réaliser cette tâche graphique par trente personnes différentes en réalisant un bénéfice au passage. Chaque personne s’occupera d’une micro-tâche payée quelques cents comme changer une couleur, changer un vecteur, changer un pixel et ainsi de suite…
Ce climat de travail semble défavorable à la construction de solidarité, comment susciter chez les travailleur·euses digitaux une prise de conscience de leur intérêt commun et les amener à s’organiser pour défendre leurs droits sociaux ?
En réalité, le conflit social est loin d’être évacué et on constate déjà une prise de conscience, au niveau international, des travailleur·euses des plateformes. On peut ainsi immédiatement penser aux travailleurs de plateforme de travail à la demande très visibles comme Uber ou Deliveroo qui se battent pour cette reconnaissance. Les litiges, les revendications, les grèves, les créations de syndicats ou l’intégration de ces travailleur·euses dans les syndicats traditionnels se multiplient, tant en Europe qu’en Australie, en Amérique ou en Inde. Ensuite, dans le monde du microtravail, on constate aussi la création de guildes, de recours collectif, et la volonté de certains syndicats d’organiser les microtravailleurs. Enfin, dans la troisième famille de travailleurs du clic qu’est le travail social en réseau, on observe aussi une multiplication d’actions en justices et d’embryon de formes d’organisation. Par exemple, il y a de plus en plus d’appels à la grève sur Facebook ou à la formation de data unions c’est-à-dire de syndicats de créateurs de données sur les plateformes sociales. En 2015, il y a par exemple eu un recours collectif de plusieurs centaines de personnes dans l’État américain du Massachusetts qui ont cherché à se faire requalifier comme employé·es de Google parce qu’elles avaient utilisé recaptcha[Il s’agit de ces caractères que l’on doit reconnaitre pour valider un formulaire ou une inscription en ligne et qui sont en réalité extraits de livres numérisés que le système de reconnaissance optique de Google n’a pas réussi à identifier NDLR]. Elles estimaient avoir créé de la valeur en entrainant des algorithmes de reconnaissances textuelles pour Google sans avoir été rémunérées pour cela. Il y a donc énormément d’efforts d’organisation et une multiplication des conflits avec ces plateformes même si le contexte reste assez défavorable aux travailleurs pour l’instant.
Par ailleurs, on observe aussi des mouvements de type nouveau, comme le coopérativisme de plateformes. Celui-ci cherche à dépasser la conception capitaliste et prédatrice des plateformes actuelles et vise à créer un Twitter ou un Uber du peuple ! C’est-à-dire à inscrire les plateformes et les technologies numériques dans le contexte de l’économie sociale et solidaire et non plus exclusivement de se baser sur la captation de la valeur produite par ses utilisateurs. Il s’agit en somme d’une réactualisation de la grande tradition mutualiste des siècles passés qui propose aux usagers de ces plateformes d’en être les propriétaires et même les concepteurs. Même si ce mouvement se heurte aujourd’hui à pas mal de contradictions en interne, et lutte pour pouvoir trouver une manière de s’affirmer et ne pas se faire approprier par les plateformes capitalistes, c’est quelque chose d’extrêmement prometteur.
Antonio A. Casilli, En Attendant les robots, Enquête sur le travail du clic, Le Seuil, 2019
« Dans les usines à clic, des millions de petites mains bien humaines »
PROPOS RECUEILLIS PAR LOÏC CHAUVEAU
L’enrichissement continu des logiciels et des bases de données nécessite la contribution de « tâcherons » sans rémunération fixe ni droits sociaux. Une inflexion inquiétante du monde du travail. ANTONIO CASILLI Sociologue à Télécom Paris
page hors_serie_35
Selon vous, l’intelligence artificielle ne serait rien d’autre que du bluff?
Je ne me reconnais pas dans cette idée que l’on m’attribue parfois. Je dirais plutôt que, pour justifier des formes nouvelles de discipline du travail, pouvoirs politiques et économiques utilisent l’intelligence artificielle de façon idéologique. Quand ils en débattent, ces acteurs se concentrent sur les pertes d’emplois qui menacent les moins qualifiés. Mais pour peu que l’on regarde « sous le capot », on s’aperçoit que les masses de données nécessaires pour entraîner les machines sont introduites dans le système par des petites mains bien humaines! En Afrique, en Asie, de véritables « usines à clic » voient des millions de personnes nourrir des algorithmes de reconnaissance faciale, d’identification des objets pour les voitures autonomes, d’enregistrement de voix pour les enceintes connectées. Un travail que je qualifie de digital labor. Si quelqu’un n’apprend pas à une voiture autonome à quoi ressemble un piéton, celle-ci restera aveugle.
A-t-on une idée du nombre de personnes accomplissant aujourd’hui ce digital labor ?
Difficile de répondre, car il n’est pas toujours visible. On estime que, dans le monde, plusieurs dizaines de millions de personnes fabriquent des données. En France, notre projet Digital Platform Labor, qui a cherché à quantifier ce micro-travail, est arrivé au total de 260000 personnes inscrites à 23 plateformes proposant du travail « au clic ». Ce sont en majorité des femmes au foyer qui arrondissent leurs fins de mois avec ce travail faiblement rémunéré (moins de 300 euros par mois). Mais on peut y ajouter les 55 millions de Français qui, gratuitement, renseignent les Gafa en « likant », en répondant à un « Captcha » demandant de prouver que l’on n’est pas un robot. À chaque fois, la requête de l’internaute, sa géolocalisation, la consultation d’un site, un paiement, alimentent les bases de données sans lesquelles des technologies « intelligentes » n’existent pas.
Mais un jour, cet amoncellement de données finira bien par rendre ce travail inutile?
C’est l’argument entendu dans nombre de start-up : il arrivera un moment où les algorithmes auront ingurgité suffisamment de données pour parer à toutes les éventualités. Mais est-ce bien certain? L’intelligence artificielle arrivera-t-elle un jour à rivaliser avec le cerveau d’un enfant qui reconnaît immédiatement un chat d’un chien quel que soit leur aspect? En outre, le consommateur attend que le service qui lui est proposé soit toujours amélioré. Pour répondre à ces attentes, il est nécessaire d’enrichir en permanence les logiciels utilisés. Enfin, la concurrence pour vendre des objets « intelligents » est féroce. La course au « petit plus » qui permet de faire la différence oblige à relancer continuellement l’apprentissage des machines.
Quel est l’encadrement juridique de ces travailleurs?
Dans cette nouvelle économie, c’est le point le plus inquiétant. La relation salariale est mise entre parenthèses. C’est un travail « à la tâche ». Les nouveaux « tâcherons » ne bénéficient pas d’une rémunération fixe, ni de droits sociaux, ni d’une représentation auprès des donneurs d’ordre. Ils ne peuvent revendiquer la juste part de leur travail face à des plateformes bien décidées à capter l’essentiel de la richesse créée. La révolte des chauffeurs Uber ou des livreurs Deliveroo montre que ce système a cependant des limites.
Les poinçonneurs de l’IA. Le digital labor qui rend l’intelligence artificielle (im)possible
En 2003, le pionnier des systèmes experts Edward Feigenbaum qualifiait l’intelligence artificielle (IA) de « destinée manifeste » de nos sociétés. Ce slogan, emprunté de la doctrine politique du providentialisme américain, constitue un remède idéologique aux défaillances d’une discipline qui, depuis des décennies, n’arrive pas à s’attaquer à « la vraie majesté de l’intelligence générale ». Les déclarations des scientifiques, le buzz des investisseurs et les prises de position des décideurs politiques ne relèvent pas de la pensée magique : elles sont des vœux constamment renouvelés, non pas pour réaliser un objectif scientifique, mais pour affirmer une certaine vision du travail…
À l’occasion de la conférence de la rentrée de la sociologie, Antonio Casilli reviendra sur son dernier ouvrage : « En Attendant les robots. Enquête sur le travail du clic » (Seuil, 2019).
Les plateformes numériques mobilisent les compétences, le temps et les gestes productifs de leurs usagers pour produire de la valeur–et pour rendre possible l’automatisation. Des services de livraison express basés sur des applications mobiles aux plateformes de micro-travail comme Amazon Mechanical Turk, aux médias sociaux qui incitent leurs usagers à produire d’énormes masses de données personnelles, les usagers sont désormais mis à contribution pour entraîner des IA. Transcription, annotation, reconnaissance visuelle ou étiquetage de contenus : autant d’activités déléguées à des usagers sous forme de micro-tâches peu ou pas rémunérées. La recherche récente sur ces nouvelles formes de “digital labor” dresse un tableau surprenant des évolutions du marché du travail. À l’heure de l’automatisation intelligente, le travail humain est soumis à une pression pour le remplacement qui aboutit au résultat inattendu de pousser les usagers-travailleurs à réaliser des activités nécessaires de supervision de l’apprentissage des machines mêmes.
L’autre lauréat du Grand prix pour cette années est Christophe Capuano, historien à l’Université Lumière Lyon 2, auteur de « Que faire de nos vieux ? Une histoire de la protection sociale de 1880 à nos jours ».
