admin

Na revista Época (Brasil, 20 dez. 2020)

Boeing, Tesla, Mercedez-Benz e Toyota: empresas que estão abandonando ou reduzindo a robotização em suas fábricas e linhas de produção. Sobre este assunto, dei uma entrevista para a revista semanal brasileira Época.


O FREIO DAS MÁQUINAS NO MUNDO DO TRABALHO

Grandes indústrias repensam estratégia e voltam a colocar humanos em operações antes automatizadas

Rennan Setti

­ Foto: Montagem com fotos de Jeff J Mitchell / Getty Images; e Bill Diodato / Corbis still / Getty Images

A Boeing jogou a toalha. A fabricante americana abandonou neste ano seu ambicioso projeto de delegar apenas a robôs a fabricação das principais partes da fuselagem das aeronaves 777 e 777x . Baseado em tecnologia da Kuka Systems, o sistema que funcionava na fábrica em Everett, Washington, nos Estados Unidos, foi desenvolvido para representar o suprassumo da automação. Em substituição a ferramentas manuais, um exército de máquinas instalaria 60 mil rebites por aeronave, acoplando as placas de metal que formam a estrutura dos jatos em ritmo, harmonia e eficiência sem paralelos. Porém, faltou combinar com os parafusos: os robôs não conseguiam trabalhar com a sincronia necessária, provocando uma série de erros que precisavam ser corrigidos pelas mãos de mecânicos — cujo volume de horas extras explodiu diante da incompetência de seus colegas androides, segundo reportou o Seattle Times.

O aparente fracasso da Boeing em sua arrogância automatizada tem certo sabor de Schadenfreude — expressão alemã para a ideia de satisfação diante do infortúnio alheio — para trabalhadores de carne e osso, que deparam com previsões catastróficas sobre seu futuro empregatício diante da ascensão das máquinas nos meios de produção, a chamada Quarta Revolução Industrial. No ano passado, a venda de robôs atingiu o recorde de US$ 16,5 bilhões, com um crescimento de 6% no número de unidades produzidas, segundo a Federação Internacional de Robótica (FIR). Entre 2020 e 2022, o ritmo de avanço deve ser de 12%. No mundo, a indústria já emprega 99 robôs para cada 10 mil operários, 34% a mais que em 2016. Em Cingapura e na Coreia do Sul, a quantidade é de 831 e 774, respectivamente, a cada 10 mil.

Um robô em linha de montagem de uma fábrica da Nissan, em Resende, no Rio de Janeiro. No Japão, a Toyota anunciou em 2014 a substituição de algumas máquinas por humanos. Foto: Yasuyoshi Chiba / AFP

Um robô em linha de montagem de uma fábrica da Nissan, em Resende, no Rio de Janeiro. No Japão, a Toyota anunciou em 2014 a substituição de algumas máquinas por humanos. Foto: Yasuyoshi Chiba / AFP

Alguns movimentos sugerem, contudo, que a robotização desenfreada pode ter pela frente um caminho acidentado antes de confirmar sua supremacia. A despeito das proclamadas proezas da inteligência virtual, as máquinas ainda enfrentam dificuldades para se adaptar a uma economia que depende cada vez mais de produtos e serviços customizáveis e complexos.

Os sinais surgiram primeiro na indústria automobilística, justamente aquela cuja explosão à época do fordismo foi definida por uma automatização que aproximava o trabalho humano daquele de um robô. A Toyota, cujo sistema de produção definiu o capitalismo nas últimas décadas, anunciou em 2014 que substituiria algumas de suas máquinas por seres humanos no Japão, um dos países mais robotizados do planeta. A estratégia da montadora era garantir que os empregados entendessem, de fato, o trabalho e, no longo prazo, obter processos mais eficientes. Naquele momento, os seres humanos conseguiram reduzir em 10% o desperdício nas linhas de montagem. Em 2016, a Mercedes-Benz seguiu os passos da japonesa, alegando que os robôs não davam conta da complexidade e do nível de customização que a fabricante deseja oferecer em seu luxuoso Classe S.

No ano passado, quem deu um passo atrás foi a americana Tesla, cujas fábricas de veículos elétricos estavam entre as mais automatizadas do mundo. Pressionada pelos investidores pela lentidão na produção do carro Model 3, a aposta da companhia para ampliar sua clientela para a classe média, o fundador Elon Musk culpou a robotização da linha de produção pelo problema. Para acelerar o processo, decidiu contratar mais trabalhadores. “A automação excessiva na Tesla foi um erro. Meu erro, para ser mais preciso. Humanos são subestimados”, admitiu Musk. Karla Figueiredo, do Laboratório de Inteligência e Robótica Aplicadas (Lira), da Pontifícia Universidade Católica do Rio de Janeiro (PUC-Rio), e professora da Universidade do Estado do Rio de Janeiro (Uerj), ponderou que, apesar desses casos, não há uma tendência generalizada de frear a automação nas linhas de montagem. Segundo ela, o mais provável é que essas companhias tenham refletido sobre os resultados práticos da automação em suas operações e promovido ajustes. “Embora elevem a produtividade, os robôs são menos maleáveis. Quanto maior a especificidade e a necessidade de ajuste dos produtos, mais difícil e caro fica adaptá-los”, explicou.

Um empregado ajusta o tamanho de um braço de um robô no centro de pesquisa de uma fábrica em Chemnitz, na Alemanha. A robotização desenfreada tem sido revista em empresas como a Boeing. Foto: Ute Grabowsky / Photothek / Getty Images

Um empregado ajusta o tamanho de um braço de um robô no centro de pesquisa de uma fábrica em Chemnitz, na Alemanha. A robotização desenfreada tem sido revista em empresas como a Boeing. Foto: Ute Grabowsky / Photothek / Getty Images

Em alguns casos, de fato, o imperativo da automação atropela as reais necessidades da companhia, que acaba automatizando por automatizar, observou Giovani Ortiz, sócio da consultoria Ernst & Young no Brasil. Em 2005, uma indústria paulista de linha branca abarrotou sua fábrica com sensores inteligentes e acabou acrescentando a sua produção uma complexidade com a qual não sabia lidar. “Nesse caso, a solução foi eliminar esses sensores, reduzir a automação e simplesmente deixar que pessoas apertassem o botão. Isso aumentou drasticamente a produtividade”, afirmou Ortiz, sem revelar a marca. Ele lembrou que as empresas não precisam atingir o nível máximo de automação para capturar os benefícios desse processo. “A robotização entrou na moda, e, como em um boom, todo mundo fez. Mas ganho real é outra coisa. O ganho de produtividade não necessariamente vem só da máquina”, disse Cayan Saavedra, pesquisador do Instituto de Pesquisa Econômica Aplicada (Ipea).

Saavedra não é nenhum cético quanto ao potencial da automação. Ele foi um dos responsáveis por um estudo da Universidade de Brasília (UnB) que atesta que 30 milhões de empregos, ou 54% dos postos formais no Brasil, correm o risco de ser substituídos por robôs até 2026. Mas Saavedra acredita que, mesmo com o avanço das máquinas e da inteligência artificial sobre tarefas cognitivas, a tendência é que os humanos seguirão sendo competitivos no longo prazo. “A vantagem humana em termos de adaptação, de criação de hipóteses, permanece. Steve Jobs criou o iPod sem pesquisa de mercado ou ajuda de robôs, por exemplo”, lembrou o pesquisador, cujo trabalho foi capitaneada pelo Laboratório de Aprendizado de Máquina em Finanças e Organizações (Lamfo) da UnB.

Gravura de Wolfgang von Kempelen (1734-1804), inventor húngaro conhecido como O Turco, criou uma “máquina” de jogar xadrez que enganou toda a nobreza europeia no século XVIII. Foto: Universal History Archive / Universal Images Group / Getty Images

Gravura de Wolfgang von Kempelen (1734-1804), inventor húngaro conhecido como O Turco, criou uma “máquina” de jogar xadrez que enganou toda a nobreza europeia no século XVIII. Foto: Universal History Archive / Universal Images Group / Getty Images

O aparente passo atrás dado por algumas indústrias também se manifesta no Zeitgeist cultural, como capturou o jornalista canadense David Sax no livro A vingança dos analógicos: por que os objetos de verdade ainda são importantes(Anfiteatro, 2017). A obra busca entender o que motiva a prosperidade de produtos e métodos do passado, como o vinil, os jogos de tabuleiro e o próprio papel, em uma economia digitalizada. Para ele, a chave da resposta está em uma barreira intransponível: os seres humanos são feitos de carne e osso. “Por mais que a tecnologia avance e promova mudanças nos métodos de produção, a realidade é que somos todos humanos em um mundo físico. Esse toque humano seguirá sendo necessário, já que os consumidores entendem que a combinação dessas duas dimensões, a digital e a analógica, resulta em algo mais interessante. Não existe dogma nesse caso: as duas têm seu papel”, afirmou Sax, que também é conhecedor da música brasileira e brinca que, quando o assunto é Carnaval, “a música eletrônica jamais seria capaz de substituir a batucada da Mangueira ou do Salgueiro”.

Antonio A. Casilli, autor de En attendant les robots (Esperando os robôs, em tradução livre), conta que o impulso rumo à automação é cíclico na história. Já no início do século XIX, o economista britânico David Ricardo, um dos pais da teoria econômica clássica, falava da tentação humana em utilizar máquinas com a ilusão de poder substituir totalmente o empregado. Quase dois séculos depois, em 1995, o americano Jeremy Rifkin traçou uma crítica um quê apocalíptica com O fim dos empregos. Em 2013, pesquisadores de Oxford previram que a automatização ameaça destruir 47% dos empregos. Segundo Casilli, que é professor da influente escola francesa Télécom Paris, as empresas que decidiram reduzir a automação em sua linha de montagem não deram um passo atrás, porque os humanos nunca vão sumir do processo produtivo. Segundo sua análise, os trabalhadores humanos acabam “escondidos” por um misto de terceirização, “gig economy” (economia do bico) e redes de microtrabalho digital.

As consequências da Quarta Revolução Industrial, de acordo com sua crítica, são a perda de direitos e a precarização do trabalho. “As chamadas tecnologias autônomas não são, na realidade, autônomas. Elas dependem de um intenso volume de trabalho humano, pessoas que recebem alguns centavos para realizar microtarefas com o objetivo de alimentar e treinar a inteligência artificial, como se a IA fosse uma espécie de animal. É o que chamo de ‘digital labor’”, disse Casilli.

“‘EMBORA ELEVEM A PRODUTIVIDADE, OS ROBÔS SÃO MENOS MALEÁVEIS. E QUANTO MAIS ESPECIFICIDADE TÊM OS PRODUTOS E MAIOR NECESSIDADE DE AJUSTE, MAIS DIFÍCIL E CARO FICA ADAPTÁ-LOS’, EXPLICOU A PESQUISADORA KARLA FIGUEIREDO, DA PUC-RIO”

A mais famosa das plataformas de microtrabalho é a Mechanical Turk, da Amazon. Seu nome é inspirado em uma máquina “inteligente” criada no fim do século XVIII e que prometia jogar xadrez sozinha. Ao longo de décadas, a engenhoca desafiou os melhores jogadores de seu tempo, batendo até personalidades como Napoleão Bonaparte e Benjamin Franklin. Na realidade, porém, a Mechanical Turk era uma fraude, pois escondia embaixo de sua estrutura grandes mestres de xadrez de carne e osso.

Na Mechanical Turk de Jeff Bezos, os grandes mestres são internautas, muitas vezes em países em desenvolvimento, que concordam em passar o dia realizando pequenas tarefas digitais, como identificar objetos em imagens, em troca de alguns centavos de dólar. No mês passado, o jornalista Andy Newman contou no jornal New York Times sua experiência na plataforma: após oito horas de um trabalho repetitivo, o repórter ganhou frustrantes US$ 7,83. “A Mechanical Turk é a plataforma mais conhecida de digital labor, mas há alternativas chinesas e australianas que são muito mais relevantes. A precarização fica clara na forma como elas atraem internautas em países pobres. A Venezuela, por exemplo, está se transformando em um celeiro desse digital labor por causa da crise”, explicou Antonio Casilli, em entrevista a ÉPOCA.

Em um momento político no qual os temas do privilégio e da desigualdade ganharam proeminência, um exemplo recente de digital labor gerou críticas na imprensa francesa. Dezenas de robôs se tornaram o xodó dos alunos da Universidade da Califórnia, em Berkeley. Os chamados kiwibots circulam por todo o campus entregando fast-food e bebidas, mas são, na verdade, carrinhos de controle remoto, guiados à distância por colombianos que recebem US$ 2 por hora pelo serviço. “As pesquisas mostram que, conforme a inteligência artificial avança, mais trabalho humano é necessário para suportá-la. É um paradoxo semelhante à expressão francesa que diz que, quanto mais queijo houver, mais buraco haverá”, afirmou Newman. Apesar das perspectivas incertas, ele se diz otimista: “Está havendo uma conscientização dos trabalhadores, com empregados da ‘gig economy’ reclamando direitos, por exemplo. Acredito que essas lutas vão levar, por meio do conflito, à melhora das condições”.

[Séminaire #ecnEHESS] “Communiquer avec modération” avec Sarah T. Roberts (Gaité Lyrique, 9 janv. 2020, 19h)

Le prochain rendez-vous de notre séminaire Étudier les cultures du numérique inaugure une collaboration avec la Gaîté Lyrique. De janvier à mai 2020, le lieu de culture parisien nous fait l’honneur d’accueillir en ses murs les séances du séminaire #ecnEHESS ouvertes aux auditeurs libres. Quatre rencontres où chercheur•ses et artistes se penchent sur “le côté obscur du futur du travail”.

Enseignement ouvert aux auditeurs libres (dans la limite des places disponibles). Pour s’inscrire, merci de renseigner le formulaire.

N’hésitez pas à faire circuler cette information au sein de vos propres contacts et sur les réseaux.


“Communiquer avec modération”
Sarah T. Roberts (UCLA)

avec Lauren Huret

jeudi 9 janvier 2020 à 19h00
Gaîté Lyrique
Auditorium
3bis, rue Papin
75003 – Paris

Nous avons tendance à penser que ce sont les algorithmes qui filtrent les contenus illicites, qui nous servent de bouclier contre le langage haineux et les vidéos violentes en ligne. Mais en réalité, ce sont des humains. Plus de 100 000 modérateurs de contenus commerciaux évaluent les publications sur les plateformes des médias sociaux, filtrent et suppriment les contenus choquants. Un travail largement invisible.

Avec son livre Behind The Screen, Content Moderation in the Shadows of Social Media (Yale University Press, 2019), Sarah T. Roberts, professeure en sciences de l’information à UCLA et lauréate 2018 du prix EFF Pioneer, offre la première étude ethnographique approfondie sur l’industrie de la modération du contenu commercial. S’appuyant sur des entretiens avec des travailleurs de la Silicon Valley jusqu’aux Philippines, elle contextualise cette industrie cachée et examine le poids émotionnel porté par ses travailleurs. Cette enquête sur les personnes qui officient “derrière l’écran” offre un aperçu d’un travail de plus en plus mondialisé et du pouvoir politique des plateformes qui s’érigent en juges de la communication planétaire à l’ère numérique.

Le travail de l’artiste franco-suisse Lauren Huret porte sur l’activité des modérateurs et modératrices de contenu, exposés à des milliers d’images traumatisantes chaque jour, et interroge les conséquences psychiques et physiques de ces tâches, ainsi que leurs effets à long terme pour nos sociétés.

L’enfer de la reconnaissance faciale est pavé de débats sur son “acceptabilité sociale”

Dans la rubrique “Fausses bonnes idées”, Libération publie une tribune signée par des député•es LREM, des représentants de think tank, mais aussi des ONG, des chercheur•es et des journalistes. Le texte propose un moratoire “urgent” sur la reconnaissance faciale et un “débat social lors d’une convention citoyenne”. Non pas une interdiction de cette technologie de surveillance de masse, mais une suspension de son usage “sans le consentement préalable et éclairé” des individus concernés, le temps de mettre en place un énième “Grenelle de l’innovation”.

Tout en étant un défenseur des usages et des appropriations citoyennes des technologies numériques, je reste néanmoins convaincu que certaines innovations naissent et demeurent des instruments de domination. Pour celles-là se pose une question foncière, à savoir si la limite de leur introduction doit être franchie. Dans le cas de la reconnaissance faciale, ce n’est pas un moratoire que je défends, mais une interdiction pure et simple.

Cette tribune est hélas semée de chausse-trappes conceptuelles qui finissent par faire le jeu des thuriféraires et des producteurs de ces technologies. Je ne rentre même pas dans la question du “consentement” au flicage facial. Les institutions étatiques, tout comme les acteurs du privé, ont à leur disposition un arsenal de leviers psychologiques, de ruses du design et de chantages au déni de service pour forcer ce consentement. Sans parler de la difficulté de qualifier ce dernier d'”éclairé” dans un contexte d’application d’algorithmes opaques, biaisés et inefficaces pour traiter les données collectées par les caméras qui intègrent du tracking et de la reconnaissance de visage.

Mais ce que je tiens surtout à souligner ici, c’est la nature problématique de la notion d’”acceptabilité”, présentée dans ce texte comme un acquis théorique et un horizon politiquement souhaitable. En sociologie de l’innovation ce concept est désormais devenu synonyme d’approche top-down des technologies, où la société civile ne peut que se prononcer sur le degré d’acquiescement face à des dispositifs élaborés par des acteurs dont les valeurs et les finalités divergent largement du bien commun. Cela revient à dire : “les ingénieurs ont déjà inventé un truc dont personne ne veut ; maintenant faites une étude d’acceptabilité pour repérer des éléments de langage qui nous permettront de mieux le faire gober aux citoyens”.

Une autre position problématique défendue dans cette tribune est la solution-miracle du “débat” citoyen. Je suis pour ma part âprement critique à l’égard de ce type d’outil, que je considère comme un simulacre de discussion démocratique sujette à tout type de manipulations et restrictions de la parole. Si la démocratie est à envisager comme le gouvernement par la discussion, les “débats” dont LREM raffole consistent dans la meilleure des hypothèses à orchestrer un bon chœur d’opinions jusqu’à ce que le sujet ne soit plus à la mode. Dans la pire (v. “le Grand débat national”), ils se transforment en plateformes de propagande de l’exécutif, sans qu’à la fin aucun des points de vue exprimés lors de la consultation ne soit concrètement pris en compte.

Quant à moi, je partage avec les autres membres de la Quadrature du Net la conviction qu’il est possible d’interdire par la délibération locale et par la loi cette pratique de surveillance de masse, dont les dégâts sociaux sont déjà sous nos yeux, en Europe comme dans d’autres continents.

The real dangers of facial recognition: mass obedience and online labor exploitation

Facial recognition is a scam, but that doesn’t mean we should underestimate the threat it poses to freedom and fundamental human rights.

Case in point: Russian media MBKh discovered that Moscow police officers illegally “monetize” footage of 175,000 surveillance cameras on forums and messenger groups. For the equivalent of 470$, anyone can have access to facial recognition lookup services that, when provided with the picture of an individual, match it with passerby from hundreds of cameras, along with a list of addresses and times they were caught on camera. 

Interestingly enough, face recognition tech *does not work*, and the journalist has to grudgingly admit its low accuracy:

“As for the accuracy of the results, none of the photos returned were of the investigator. However, the facial features were similar to the input and the system assessed a similarity of 67%.”

According to the journalist, the explanation for this suboptimal performance is “the limited number of cameras connected to the face recognition algorithm”. Apparently, the sample is too small, but the technology is not fundamentally called into question…

Another explanation (often ignored by journalists, ever ready to believe the AI hype and therefore disregard its actual dangers) is introduced by a 2018 New York Times coverage of China’s surveillance-industrial complex: mass surveillance systems are not automated per se and are largely based on the intervention of crowds of micro-workers who cherry-pick millions of videos, cut out silhouettes of individual and tag metadata, fill in databases and annotate information:

“The system remains more of a digital patchwork than an all-seeing technological network. Many files still aren’t digitized, and others are on mismatched spreadsheets that can’t be easily reconciled. Systems that police hope will someday be powered by A.I. [emphasis added] are currently run by teams of people sorting through photos and data the old-fashioned way.”

“The old-fashioned way” here means “by hand”… Data annotation, triage, enrichment, especially for the computer vision models underlying face recognition algorithms, is a blossoming market. Recent research by Bonnie Nardi, Hamid Ekbia, Mary Gray, Sid Suri, Janine Berg, Six Silberman, Florian Schmidt, Trevor Paglen, Kate Crawford, Paola Tubaro and myself witnesses its development in sectors as diverse as home automation, transportation, advertising, health, entertainment… and the military. It is based on a workforce of hundreds of million of online laborers, alternatively called microworkers or crowdworkers. They work long hours, with precarious contracts and exploitative working conditions, and are paid very low wages (in some cases less than a cent per micro-task). Although they are attested in the global North, they are predominantly based in developing and emerging economies—such as Russia and China. But the companies that recruit them to package their annotated data and resell it as surveillance technologies, are mainly located in so-called liberal democracies. Despite the Chinese market supremacy, US, French, Japanese, Israeli and Finnish corporations are spreading these technologies all over the world, according to the 2019 AI Global Surveillance Index.

Despite the importance of these “humans in the loop” that constitute the secret ingredients of AI-based technological innovation, the threats of facial recognition, smart cities and predictive policing must not be minimized. The glorification of AI turns it into a powerful psychological deterrent and a disciplinary device. “The whole point,” explains an expert interviewed by the New York Times, “is that people don’t know if they’re being monitored, and that uncertainty makes them more obedient.”

Any action aimed to fight against the alleged omnipotence of these technologies begins with the recognition of their fictitious nature. If automated surveillance is made up of men and women who train, control and impersonate “artificial artificial intelligence“, it is from the awareness of their role in a dystopian and inhuman system that a change is going to come.

Dans Philonomist (nov. 2019)

Dans le magazine en ligne Philonomist, branche web de Philosophie magazine, un entretien croisé entre moi et Dominique Méda sur le futur du travail, l’automatisation, l’environnement.

Humains ou robots : qui sert qui ?

Antonio Casilli et Dominique Méda débattent de l’avenir du travail à l’ère de l’IA

Derrière l’intelligence artificielle, il y a une quantité énorme de travail humain. Il ne tient qu’à nous d’aller vers un enrichissement des tâches et des travailleurs, plutôt que vers l’exploitation mortifère d’armées de tâcherons. Antonio Casilli, spécialiste du « travail du clic », en discute avec la sociologue Dominique Méda.

Antonio Casilli, le premier chapitre de votre ouvrage En attendant les robots. Enquête sur le travail du clic s’intitule « Les humains vont-ils remplacer les robots » ? Est-ce une antiphrase, une provocation? Vous ne croyez pas que les machines vont remplacer les hommes ?

Antonio Casilli : Je trouve problématique que ce titre soit interprété comme une provocation. Il semble admis par la doxa que oui, le remplacement technologique va avoir lieu, que les machines remplaceront les êtres humains. Cela fait des siècles que les philosophes présentent l’innovation technologique comme une solution pour économiser le travail, compris d’abord comme effort physique. En 1801, le père de l’économie politique anglaise, Thomas Mortimer, écrivait : « il y a une technologie qui est faite pour remplacer le travail du genre humain ». D’autres, dont Ricardo, disaient que les capitalistes sont sujets à « la tentation d’employer des machines » à la place des hommes. 

Cette idée se manifeste encore aujourd’hui. En 2013, un célèbre rapport d’Oxford estimait que 47 % des métiers étaient appelés à disparaître à cause de l’intelligence artificielle (IA) à l’horizon 2030 dans un pays comme les États-Unis. Ces métiers seraient voués à être remplacés parce qu’ils dépasseront un seuil critique d’automatisation de l’activité. Pour moi, l’idée même que les êtres humains puissent être remplacés par des automatismes est une construction sociale – avec des postures identitaires extrêmement connotées (à l’oeuvre par exemple dans la crainte d’un « grand remplacement technologique », en écho à certaines crispations de cet ordre), mais reprises partout et par n’importe qui. 

D’accord, nous sommes dans un contexte de peur. Mais il y a tout de même des chiffres sur la destruction de certaines catégories d’emplois, ne faut-il pas les prendre en compte ?

Dominique Méda : Ce rapport d’Oxford est frénétiquement cité depuis sa publication en 2013, souvent sans que la méthode soit interrogée. Ses auteurs, Carl Benedikt Frey et Michael A. Osborne, parlent de 702 métiers, mais ils n’en ont examiné que 60 ou 70. Ils sont allés voir des spécialistes en robotique pour leur demander si tel métier pouvait être automatisé. Et dès lors qu’une des tâches impliquées pouvait l’être, ils ont considéré que le métier concerné allait disparaître. Mais depuis 2013, quantité de travaux critiques de cette méthodologie ont conclu que, en gros, 10 à 15 % des emplois risquent effectivement d’être supprimés, mais que 50 % allaient plutôt être transformés. Les économistes d’Oxford ont travaillé en chambre : ils n’ont pas été voir comment ça se passe en entreprise. Ils ont de plus été soumis à une sorte de déterminisme technologique, et fait comme si l’innovation technologique s’implantait de façon automatique. Cela ne se passe pas du tout ainsi dans la vraie vie : il y a souvent des résistances de la part des travailleurs et/ou des consommateurs. 

“Les économistes en chambre l’ignorent mais, dans la vraie vie, l’innovation ne s’implante pas de façon automatique, il y a des résistances” 
– Dominique Méda

En 1978, le rapport Nora-Minc annonçait que l’emploi dans les services allait diminuer drastiquement, alors qu’on a assisté au contraire à une formidable augmentation. Puis est venue l’idée de la nouvelle économie qui, nous disait-on, allait tout bouleverser. Et voilà qu’on nous annonce maintenant que le travail va radicalement changer et que c’est génial puisqu’il deviendra collaboratif, épanouissant, etc. Dans leur livre Le Deuxième âge de la machine (2015), deux chercheurs du Massachussetts Institute of Technology (MIT), Erik Brynjolfsson et Andrew McAfee, annoncent ainsi qu’on pourra se débarrasser du travail comme tripalium, comme instrument de torture et punition millénaire, et qu’il se transformera en loisir. Mais personne ne se demande s’il est bon ou non que de telles innovations s’implantent. Est-ce que les consultants qui les préconisent envisagent les conséquences en termes d’organisation du travail ? Est-on suffisamment bordé du point de vue éthique ? 

Pour vous, il faudrait donc commencer à redéfinir la division du travail entre les humains et les robots, et privilégier l’interaction ?

D. M. : Oui. Ce grand remplacement technologique n’est ni fatal ni total. Il faut que ceux qui inventent des processus automatisés, mais aussi ceux qui les mettent en place, remettent l’organisation et les conditions de travail au centre de leurs réflexions. La philosophe Simone Weil, qui réfléchissait à ce que pourrait être un régime de travail vraiment humain, notamment dans son livre L’Enracinement (1949), notait que ceux qui décident d’une innovation ne s’interrogent jamais vraiment sur les besoins de la personne qui travaille et qui va l’utiliser. Les conséquences sont de ce fait souvent graves en termes de dégradation des conditions de travail. 

AC : Votre question fait directement écho à la définition de l’automation. L’automation, c’est une dynamique d’évolution de la répartition des responsabilités productives de la valeur entre processus où l’intervention humaine est visible et d’autres ou elle l’est moins. Pensez à l’introduction du véhicule autonome, qui délègue certains aspects de la conduite à un processus intelligent. Si l’on continue à voir l’automation comme simple remplacement, on fait l’impasse sur ce qu’elle est foncièrement : une re-répartition de l’agentivité entre êtres humains et machines. On se trompe alors sur la nature même du processus social qu’on appelle travail. Le problème, avec l’idée de remplacement technologique, est que l’on s’imagine qu’avant les technologies, existait une sorte de travail pur. Mais c’est un fantasme. Le travail « des mains » n’a jamais existé. On s’est toujours servi d’outils, et ceux-ci ont simplement changé : hier des marteaux, aujourd’hui des tablettes. Votre question fait directement écho à la définition de l’automation. L’automation, c’est une dynamique d’évolution de la répartition des responsabilités productives de la valeur entre processus où l’intervention humaine est visible et d’autres ou elle l’est moins. Pensez à l’introduction du véhicule autonome, qui délègue certains aspects de la conduite à un processus intelligent. Si l’on continue à voir l’automation comme simple remplacement, on fait l’impasse sur ce qu’elle est foncièrement : une re-répartition de l’agentivité entre êtres humains et machines. On se trompe alors sur la nature même du processus social qu’on appelle travail. Le problème, avec l’idée de remplacement technologique, est que l’on s’imagine qu’avant les technologies, existait une sorte de travail pur. Mais c’est un fantasme. Le travail « des mains » n’a jamais existé. On s’est toujours servi d’outils, et ceux-ci ont simplement changé : hier des marteaux, aujourd’hui des tablettes.

« On sous-estime la part de travail humain qui se cache derrière le « deep learning ». »
Antonio Casilli

Avec le travail du doigt sur le clavier, on découvre une nouvelle répartition : on pensait que la machine allait libérer l’homme, alors qu’au contraire elle l’asservit ?

AC : Elle semble produire une nouvelle donne qui met l’être humain à la fois hors travail et au travail. D’un côté, il y a l’annonce apocalyptique du remplacement de x% des emplois. De l’autre, il y a la réalité de la mise au travail d’êtres humains pour calibrer la machine, l’entraîner à résoudre des tâches, voire vérifier ce qu’elle a fait. On se passionne aujourd’hui pour le « machine learning », cette forme d’apprentissage statistique qui consiste à injecter suffisamment de données et à les encadrer dans les algorithmes pour faire en sorte que les processus informatiques produisent des résultats sans assistance humaine. Mais on sous-estime la part de travail humain qui se cache derrière cette expression. Prenez un algorithme de recommandations : il faut lui apprendre à classer et proposer pour qu’ensuite il soit capable de faire des recommandations personnalisées. On imagine toujours que ces machines naissent intelligentes ; mais elles doivent toujours être entraînées par des personnes comme vous et moi. L’antimodèle parfait est le chatbot qui a mal tourné : Tay était censé reproduire le comportement d’une jeune fille. Microsoft l’a lancé de manière sauvage sur Twitter, en disant aux utilisateurs d’entraîner cette IA. Des plaisantins lui ont enseigné les pires horreurs (propos racistes, misogynes, etc.), et, au bout de quelques jours, cette machine conversationnelle était devenue une source d’embarras pour Microsoft. Cela montre l’importance de l’enseignement humain dans l’apprentissage des machines. Dans la plupart des cas, des micro-tâcherons sont recrutés par des plateformes spécialisées pour les entraîner, produire des données, les annoter, et vérifier que la machine a bien interprété ce que les utilisateurs humains lui ont dit.

Quelles sont les conséquences de ce « tâcheronnage » sur le plan social ?

DM : Ce que révèle le dernier livre d’Antonio Casilli, c’est l’envers du décor : derrière les machines merveilleuses qui semblent fonctionner en toute fluidité, il y a, en coulisses, toutes les petites mains, dont le travail est occulté, envoyé très loin et dégradé. Il s’agit d’un processus d’externalisation bien connu que le numérique ne fait qu’approfondir.

AC : Ces plateformes délocalisent le travail numérique vers des pays comme l’Inde, le Sri Lanka, le Venezuela, dans lesquels souvent les rémunérations ne dépassent pas les 2 dollars de l’heure. À Madagascar, où les entreprises d’IA françaises délocalisent énormément de travail, le salaire moyen est de 40 euros par mois. Dans un autre contexte, en Indonésie, les clics sont payés 0,008 centimes de dollars ! Beaucoup d’entreprises font de la numérisation « à l’arrache », de la fausse automation. Comme elles n’ont pas le temps de faire une vraie plateforme de blockchain ou du machine learning, elles vont plutôt recruter 10 000 personnes dans un pays à faible revenu qui sont payées 1 centime par tâche, et ces personnes vont faire semblant d’être l’IA promise. On finira par se rendre compte qu’une partie de cette automatisation est de la pure fiction, comme pour le « Turc mécanique » du XVIIIe siècle dont on a fini par découvrir qu’un homme était caché à l’intérieur !

Vous dites, Dominique Méda, que ce fameux capitalisme de plateforme vient percuter toutes les règles du travail. Est-il aujourd’hui nécessaire que le Code du travail s’impose ?

D. M :Bien sûr, il faut des règles. Là, nous sommes dans une sorte de no man’s land, avec des gens prétendument indépendants qui travaillent en réalité pour des plateformes, je veux dire au profit des plate-formes, exactement comme des salariés. De plus en plus de tribunaux considèrent que ces travailleurs ne sont pas autonomes parce qu’on peut les géolocaliser en permanence et les sanctionner. Sans nécessairement vouloir requalifier tous les chauffeurs et crowdworkers en salariés, il est évident qu’il faut des règles plus claires et fortes.

« Il faut revenir à la grande division : soit salarié, soit indépendant, mais rejeter l’entre-deux, qui est une pirouette trop facile. »
Dominique Méda

N’y a-t-il pas la possibilité de garantir des droits sociaux indépendamment du salariat ?

D. M : Beaucoup croient que le salariat, c’est fini, mais je pense que jusqu’à présent on n’a rien inventé de mieux. Cela fait plus de vingt ans que l’on critique ce régime : trop lourd, trop rigide…Et que l’on prmoeut le travail indépendant. Je suis tout à fait pour le vrai travail indépendant, celui dans lequel vous fixez vos tarifs et êtes libre de travailler comme vous l’entendez ; mais ces travailleurs des plateformes ne sont pas dans ce cas. Par ailleurs les plateformes créent une concurrence absolument déloyale avec ceux qui se donnent la peine d’organiser le travail d’autrui et paient des cotisations sociales. Il faut donc revenir à la grande division : soit salarié soit indépendant, mais rejeter l’entre-deux, qui est une pirouette trop facile.

AC : Il y a effectivement eu ce genre de tentatives dans d’autres pays d’Europe – en Espagne, avec la création du statut de travailleur indépendant économiquement dépendant qu’on appelle les « TRADES », et en Italie dans les années 1970, avec l’invention d’une nouvelle catégorie de travailleurs qu’on appelle les « para-subordonnés ». En tant que ressortissant italien, j’ai vu cet effet de dégradation progressive des conditions des salariés à partir de ce moment-là. Aujourd’hui, si vous êtes un jeune de ces pays-là et que vous commencez à travailler, on vous propose exclusivement des formes de contrat qu’on appelle des « cococo », pour contrat continuatif de collaboration, mais qui sont in fine des formes dégradées de contrat salarial, avec une subordination accrue mais moins de protections. Ce qui définit l’institution salariale, en particulier en France, c’est qu’en échange d’une protection généralisée, on admet qu’il y ait une subordination bornée, spécifiée dans un cahier des charges, entre le salarié et le patron. Or aujourd’hui on se retrouve avec un manque cruel de protections assorti d’une subordination sournoise, qui se manifeste à travers le management algorithmique et ce flux tendu de notifications qui arrivent sur les smartphones.

N’est-ce pas tout de même un choix pour certains individus qui préfèrent garder leur indépendance ?

DM : Oui, mais là encore il y a là beaucoup d’illusions. Le statut d’autoentrepreneur peut sembler séduisant, mais à la fin vous travaillez trop souvent soixante-dix heures par semaine pour une rémunération infime et pas de protection. Le rapport de l’OIT montre que si on compte les heures passées à attendre le travail par les crowdworkers, la rémunération plafonne à 3,30 dollars de l’heure. Les plateformes se sont engouffrées dans la brèche : on doit remettre des règles sinon on va dégrader et détruire cette invention tout de même extraordinaire qu’est l’entreprise et le salariat.

AC : Et ces règles doivent être internationales.

Cette tâcheronnisation est-elle transitoire, le temps que les acteurs s’adaptent, ou structurelle ?

AC : Je fais le pari qu’elle sera structurelle. En même temps, je ne considère pas ça comme une déshumanisation. Au contraire, c’est un moyen de projeter de l’humain dans les processus automatisés. Entendons-nous bien sur ce qu’on appelle « l’humain ». La partie ostensible du travail de plateforme nous fait oublier la partie la plus importante, qui est un travail de production de données. Un chauffeur Uber passe le plus clair de son temps à effectuer des tâches sur le mobile : vérifier le trajet sur le GPS, gérer le score de réputation… Ce travail s’articule avec celui des micro-tâcherons recrutés sur des plateformes spécialisées, comme Amazon. Et les machines doivent sans cesse être adaptées : une fois arrivées sur le marché, elles ont besoin d’être re-calibrées, ré-entraînées. C’est édifiant dans le cas des enceintes connectées qui interprètent toutes les requêtes venant de vous. Le plus problématique, c’est que des personnes sont chargées d’écouter vos conversations avec vos assistants virtuels (localisation des enfants à l’école, conversations intimes, etc).

DM : Il n’empêche que si l’automatisation était bien mise en œuvre et conjuguée à l’action humaine, le résultat pourrait être une meilleure utilisation du cerveau et une augmentation des tâches qualifiées.

« À mesure qu’on supprime des tâches routinières, on invente du travail complexe et plus intelligent. »
Dominique Méda

Sauf qu’il n’y a pas de travail complexe pour tout le monde…

DM : Au contraire ! Les économistes qui pensent ce déversement vers l’automatisation estiment que nos besoins sont infinis. Donc à mesure qu’on supprime des tâches routinières, on invente du travail complexe et plus intelligent. Il y a là un pari. Mais, comme pour le déterminisme technologique, c’est à nous de réguler les choses de manière à ne pas déqualifier le travail et à organiser cette destruction créatrice pour faire émerger les nouveaux métiers chargés d’intelligence.

AC : Il y a des réflexions extrêmement stimulantes, aux États-Unis, sur ce qu’on appelle l’équitabilité des algorithmes afin de comprendre les critères utilisés en phase de codage. Le travail a toujours été technique. La question est : quelle technique ? Peut on imaginer des innovations inclusives, non dommageables ? Il faut qu’évoluent les acteurs de cette transformation numérique, qui sont trop imbibés d’idéologies impérialistes. Edward Feigenbaum, l’un des pionniers de l’intelligence artificielle, en parle comme de « la Destinée manifeste » de l’innovation : cette vision relève d’une idéologie expansionniste selon laquelle la puissance américaine répond à un dessein de la Providence. L’Europe est trop absente de ces réflexions sur la technologie, même si elle s’est positionnée pour protéger les droits des utilisateurs.

DM : J’émettrai encore un autre doute. Ces technologies consomment énormément d’énergie (bientôt au moins 10% de l’électricité mondiale), et des terres rares dont on atteindra le pic à un moment ou un autre. Je me demande donc si la mise à l’agenda de la crise écologique ne devrait pas au contraire exiger qu’on réinjecte du travail. Si on veut une agriculture bio, il faudra un certain type d’automatisation, mais aussi beaucoup plus de travail humain.

Ce scénario de la reconversion écologique dont vous parlez, c’est celui que vous préférez. Quelles conditions le sous-tendent ?

DM : Dans nos sociétés occidentales, les attentes sont de plus en plus « lourdes » : on cherche du sens, de la réalisation de soi. Or, comme le dit le sociologue Stefan Voswinkel, le travail est devenu la principale arène dans laquelle les individus peuvent faire montre de leurs capacités, susciter l’admiration. Quel serait le scénario qui répondrait le mieux à ces attentes dans un contexte de crise de l’emploi ? Dans un travail que j’ai fait pour l’Organisation internationale du travail (OIT), j’en ai distingué trois : le premier scénario, qui pour moi n’est pas satisfaisant, est celui d’un démantèlement du droit du travail – ça consiste simplement à suivre les prescriptions de l’OCDE des années 1990, pour qui seule compte la compétition entre les pays et les entreprises. Le deuxième scénario, c’est la révolution technologique dont on vient de montrer les ambivalences. Le troisième, qui me semble le plus raisonnable, c’est celui de la reconversion écologique. Cela exige de rebâtir complètement notre économie, de verdir les processus industriels, de baisser drastiquement notre consommation d’énergie… Une telle société, dont le seul but ne serait plus la poursuite de la croissance, pourrait avoir comme obsession première de créer des emplois qui permettraient de répondre aux besoins sociaux (nourrir, vêtir, soigner toute la population). C’est encore à l’état utopique, mais on devrait se dépêcher de construire des projets permettant de suivre ce chemin en une vingtaine d’années.


Antonio Casilli est sociologue, enseignant-chercheur à Télécom Paris et chercheur associé à l’Institut interdisciplinaire d’anthropologie du quotidien (IIAC) de l’EHESS. Il a notamment publié les Liaisons numériques (Seuil, 2010) et, récemment, En attendant les robots. Enquête sur le travail du clic (Seuil, 2019).

Dominique Méda est professeure de sociologie à l’université Paris-Dauphine, directrice de l’Institut de recherches interdisciplinaires en sciences sociales et titulaire de la chaire « Reconversion écologique, travail, emploi et politiques sociales » au Collège d’études mondiales de la Fondation Maison des sciences de l’homme (FMSH). Elle a écrit Le Travail (PUF, Que sais-je ?, 2015) et La Mystique de la croissance. Comment s’en libérer (Champs-Flammarion, 2014). Vient de faire paraître avec Sarah Abdelnour, Les nouveaux travailleurs des applis, PUF/ Vie des idées

[Video] Entrevista al programa “30 minuts” (TV3 Catalunya, 22 nov. 2019)

M’han entrevistat pel programa “30 minuts” (televisió Catalana TV3), sobre el treball de plataformes, el micro-treball i l’economia freelance. El reportatge esmenta el nostre estudi “Le micro-travail en France” (Projecte Diplab).

Video del Reportatge.

“Proletaris online”, a “30 minuts”

El diumenge 24 de novembre, a les 21.55, “30 minuts” emetrà la producció pròpia “Proletaris online”, on s’analitzarà l’anomenada economia de plataforma, un nou mercat laboral d’ingressos intermitents, en què llibertat i flexibilitat es repeteixen com un mantra però que té conseqüències imprevisibles per a l’estat del benestar.22/11/2019 – 10.41Imprimir

No és el futur. És el present. Treballadors freelance, per projectes, gig economy (feines esporàdiques sota demanda), remots digitals, crowdsourcing (subcontractació de la feina a una multitud), microtreballadors… La nova economia digital està plena de paraules noves que agafen força i sacsegen el mercat laboral tradicional, el dels drets dels treballadors aconseguits amb les lluites sindicals.

La industrialització va crear el proletariat. La digitalització, el proletariat online.

El “30 minuts d’aquesta setmana s’endinsa en l’anomenada economia de plataforma, el model de negoci de l’era digital. Potents plataformes tecnològiques que connecten oferta i demanda i converteixen els treballadors en proveïdors de serveis. Poden ser repartidors en bicicleta amb les seves vistoses motxilles o experts programadors. Qualsevol persona que pugui fer feines esporàdiques a través d’una aplicació. Tots formen part d’aquest nou mercat laboral en què llibertat i flexibilitat es repeteixen com un mantra i en què un algoritme és qui mana.

1 La gig economy, serveis sota demanda

“Hi ha una equivocació molt gran, i és pensar que aquests models de treball van un pas al davant de la llei, com si fossin tan innovadors que la llei no s’hagués pogut adaptar a ells”. Núria Soto, exrepartidora de la plataforma Deliveroo

“El fet que visquis en una ciutat on pots guanyar-te uns 300 o 400 euros extra amb un horari totalment flexible, sense caps i a través de la teva aplicació, és bo per a la societat”. Òscar Pierre, CEO i cofundador de Glovo

Aquest any se n’ha parlat molt, de plataformes i condicions laborals, perquè les dues grans plataformes de repartiment a domicili, Glovo i Deliveroo, han hagut de defensar-se als jutjats contra la Tresoreria de la Seguretat Social, que en diverses actes d’inspecció havia dictaminat que els repartidors havien de ser assalariats i no autònoms. Hem volgut analitzar de primera mà les condicions de feina d’aquests treballadors i per això un equip del “30 minuts” ha passat hores amb ells, al carrer, durant les hores anomenades d'”alta demanda”, esperant les comandes davant els restaurants. A un costat, els llatinoamericans; a l’altre, els pakistanesos. Molts acaben d’arribar a Catalunya. Entrevistem també per recollir el seu punt de vista Òscar Pierre, CEO i cofundador de Glovo, i Román Gil, advocat de Deliveroo.

2 El microtreball

“Els microtreballadors som una gran massa de gent invisible. Som completament invisibles. És per això que és tan important que parlem als mitjans, que expliquem el que fem. I quan siguem una mica més visibles tindrem força per negociar les nostres regles”. Julie, microtreballadora

El “30 minuts” també entrevista gent que treballa a les plataformes de microtasques (com ara Clickworker, Spare5, Appen, Lionbridge o Amazon Mechanical Turk), un fenomen procedent dels Estats Units que s’expandeix per tot el món. Transcripcions, gravacions per a sistemes de reconeixement de veu, identificar objectes dins una imatge, moderació de continguts a xarxes socials, analitzar resultats dels buscadors… Les grans empreses tecnològiques divideixen la feina en petites tasques i contacten en segons amb milions de treballadors a tot el món que les executen des de casa, a tant la tasca. Intervenen en el programa el sociòleg Antonio Casilli, coautor d’un exhaustiu estudi sobre el  microtreball a França, i Mary Gray, investigadora de Microsoft Research i autora del llibre “Ghost work” (“Treball fantasma”), sobre els microtreballadors als Estats Units.

3 Cap a un món de freelance?

Finalment, en el reportatge s’analitza com aquesta plataformatització de l’economia arriba també a la part alta de la piràmide. Qualsevol empresa pot contractar, a través de plataformes freelance, experts a l’altra punta del món. L’externalització d’un departament sencer a través d’una plataforma és cada cop més senzilla. I el mar de fons és un augment creixent a tot el món dels treballadors independents. Ens ajuden a treure’n l’entrellat Anna Ginés, professora de Dret del Treball d’ESADE, Luz Rodríguez, professora de Dret del Treball de l’UCLM i autora de l’estudi “Plataformes digitals i mercat de treball”, i Lucía Velasco, economista especialitzada en tecnologia que ha format part del grup d’experts que analitza l’impacte de la digitalització en el mercat laboral per a la Comissió Europea.

Hi ha un consens entre els experts que s’ha acabat la feina fixa per a tota la vida. Anem cap a feines flexibles amb ingressos intermitents, amb conseqüències imprevisibles per a l’estat del benestar.

Interview dans le livre-anniversaire de la MSH Paris-Saclay (20 nov. 2019)

A l’occasion de ses 5 ans, la MSH Paris-Saclay a sorti un livre bilan de ses 5 ans d’activitésassorti 10 portraits de chercheurs (dont moi) qui “ont marqué les projets MSH depuis 2015”.

Ces entretiens, réalisés par Sylvain Allemand, rédacteur en chef de Paris-Saclay Le Média, révèlent à la fois le travail accompli et ouvrent des perspectives fructueuses pour l’avenir.

5_ans_MSH_PS_CASILLI2

La construction d’un grand pôle scientifique sur le plateau de Saclay est avant tout comprise comme la création d’un fort potentiel de recherche technologique. Pourtant, les Sciences de l’Homme et de la Société ont un rôle majeur à y jouer, par leur volume et par leur place essentielle en termes d’activités et de dispositifs d’innovation.
La MSH Paris-Saclay, créée en 2015, apporte sa contribution à ce défi par son engagement au service des équipes du périmètre saclaysien. Le travail réalisé lui permet d’occuper une place centrale dans la promotion et l’organisation de leurs recherches interdisciplinaires, de développer une position d’interface entre les SHS et de s’ouvrir aux autres disciplines (sciences de la vie, sciences exactes, sciences de l’ingénieur).
Cet ouvrage a pour but de présenter le travail réalisé au cours de ces cinq premières années, à partir d’un bilan des recherches et d’interviews dans lesquels les trois directeurs successifs reviennent sur leur parcours. Dix chercheuses et chercheurs emblématiques des projets passés et en cours
apportent également leurs témoignages, afin d’éclairer à la fois la diversité des thèmes de recherche et la variété des résultats obtenus

AU SOMMAIRE : 

André Torre, La MSH Paris-Saclay
Itinéraire scientifique et méthode de travail pour une ambition territoriale

ENTRETIENS AVEC LES TROIS DIRECTEURS
DE LA MSH PARIS-SACLAY
Un « travail » d’accoucheur… Rencontre avec Claude Didry
Entre bottom up et top down.  Rencontre avec Stefano Bosi
Le temps de la maturité.  Rencontre avec André Torre

PORTRAITS DE CHERCHEURS
Antonio Casilli – Sous les plateformes numériques, le digital labor
Nathalie Delprat – Quand l’art et la science inventent ensemble
d’autres explorations de soi
Jean-Philippe Denis – Entre économie et sociologie, les sciences de gestion
voient au-delà de l’entreprise
Anaïs Fléchet – Relations internationales et globalisation culturelle
au rythme de la musique
Catherine Geel – Une approche historique et comparative du design
Florent Le Bot – De l’interdisciplinarité en compagnie de Durkheim
Romain Melot – TerriBio ou comment valoriser les productions alimentaires locales
Antoine Nebout – Quand des économistes se penchent sur nos assiettes
Ioana Vasilescu – La linguistique à l’heure de l’IA et des systèmes automatiques
Célia Zolynski – Un fructueux dialogue entre droit et informatique

Téléchargez l’ouvrage :

MSH-Paris-Saclay-5-ans-1Télécharger

[Séminaire #ecnEHESS] Comment étudier les communautés d’internet ? (Madeleine Pastinelli, 14 nov. 2019, 16h)

Enseignement ouvert aux auditeurs libres. Pour s’inscrire, merci de renseigner le formulaire.

Pour la première séance d’approfondissement ouverte aux auditeurs libres de l’édition 2019/20 de notre séminaire #ecnEHESS Etudier les cultures du numérique, nous aurons le plaisir d’accueillir l’ethnologue et pionnière des études d’internet Madeleine Pastinelli, professeure au Département de sociologie de l’Université Laval à Québec. Une occasion précieuse pour revenir sur les recherches qu’elle mène depuis la fin des années 1990 sur les communautés en ligne et les enjeux du rapport à l’autre dans des espaces numériques.

Le séminaire aura lieu le jeudi 14 novembre 2019, 16h00-19h00, Institut des Systèmes Complexes, salle séminaire 1.1, 113 rue Nationale, 75013, Paris.

N’hésitez pas à faire circuler cette information au sein de vos propres contacts et sur les réseaux.

Enquêter en ligne : stratégies de recherche et sociabilités numériques, des canaux IRC aux communautés Facebook

L’enquête de terrain en contexte numérique pose différentes questions quant aux stratégies de recherche à mettre en oeuvre. Vaut-il mieux mener l’enquête en se centrant sur l’usage d’un dispositif numérique, sur un espace en ligne en particulier et tous ceux qui le fréquentent ou sur l’ensemble des espaces fréquentés par ses répondants dans un même contexte ? En quoi les entretiens individuels menés en ligne se distinguent-ils des entretiens en face à face ? Doit-on privilégier des observations en temps réels des espaces numériques ou une analyse a posteriori des traces d’échanges archivés ? Que peut faire l’ethnologue menant une démarche de type ethnographique des possibilités offertes par ces « big datas » que sont les traces d’activités archivées qu’on trouve dans les forums de discussion, les historiques Facebook des répondants et autres données de ce genre ? En prenant appui sur quelques enquêtes menées ces dernières années sur les usages de Facebook et dans différentes communautés en ligne, cette conférence sera l’occasion de réfléchir autour de ces questions et plus largement des enjeux de l’enquête en contexte numérique. Le séminaire sera en outre l’occasion de discuter de l’intérêt que représente l’analyse des polémiques, dans des contextes d’enquête où le plus grand défi est d’abord la profusion de données desquelles faire sens plutôt que leur rareté.

Dans 60 millions de consommateurs (nov. 2019)

Dans le numéro 553 (novembre 2019) du mensuel 60 millions de consommateurs, j’ai accordé un entretien dans le cadre de l’expérimentation conduite par le magazine sur les assistants vocaux et leurs gestion des données personnelles des utilisateurs.

3 questions à Antonio A. Casilli

Des sous-traitants écoutent certains enregistrements issus des assistants vocaux, cela vous a surpris ?

Dans la communauté scientifique on savait depuis plusieurs années que des personnes -souvent des travailleurs indépendants ou précaires -étaient recrutées pour vérifier la performance des assistants virtuels. Il s’agit d’écouter des extraits ou de valider des retranscriptions.

Les révélations de la presse ont permis au grand public de le découvrir. Elles ont d’abord concerné Alexa d’Amazon en avril dernier. Mais depuis, tous les autres GAFAM y sont passés.

Le nombre d’enregistrements écoutés serait marginal, selon ces sociétés. Vous y croyez ?

On ne peut pas savoir quelle proportion est réellement écoutée. Elles ne le dévoilent pas, cela relève du secret industriel.

L’intelligence artificielle sur laquelle reposerait ces assistants est donc une illusion ?

Le terme cache le fait qu’une partie du travail est fait à la main. Ce travail a été présenté comme un entraînement pour les assistants virtuels. On parle de machine-learning, comme si les machines allaient opérer d’elle-mêmes après une phase d’apprentissage. La réalité économique et technologique est que ces assistants ne peuvent pas se passer d’une part de travail humain. De nouvelles tâches pour lesquelles il faut les entraîner, se présentent en permanence. Par exemple, un assistant d’abord calibré en anglais doit être adapté au marché français. Il faut alors l’entraîner à nouveau, comme le montre votre étude. L’apprentissage ne s’arrête jamais et l’autonomie de ces dispositifs est sans cesse repoussée.