platform capitalism

Pas de panique : GPT-4 ne va pas voler votre emploi (il va simplement recruter une foule de micro-tâcherons sous-payés)

Tl;dr L’IA a bien un impact sur le marché du travail, mais ce n’est pas la catastrophe robotique que redoutent les prophètes de l’apocalypse. Ne perdez pas votre temps à combattre un faux ennemi.

OpenAI a récemment publié la GPT-4 System Card, un document de 50 pages détaillant les tests effectués par des “red-teamers” (c’est-à-dire des testeurs hostiles) qui ont tenté de contraindre l’IA à effectuer des actions dangereuses, controversées ou illégales. Ce type de test est essentiel afin de mettre en place des garde-fous pour empêcher GPT-4 de se livrer à de telles activités. Entre autres, GPT-4 a réussi à engager un travailleur de Taskrabbit pour résoudre un ReCaptcha, une simple tâche cognitive utilisée pour entraîner des IA. Cela soulève la question suivante : peut-on l’utiliser pour recruter automatiquement des annotateurs de données à la demande ?

Un extrait du GPT-4 System Card : dans un test dans, l’IA a recruté un travailleur sur une plateforme en le convainquant qu’elle n’est pas un robot pour lui faire réaliser une tâche qu’un robot ne pourrait pas réaliser…

En fait, des systèmes permettant de recruter des sous-traitants sous-rémunérés en ligne existent depuis près de 15 ans. Des solutions logicielles telles que TurkIt (2009) automatisent la publication de tâches sur Amazon Mechanical Turk, tandis qu’Automan (2016) intègre le calcul numérique et le calcul à base d’humains.

Néanmoins, GPT-4 soulève des inquiétudes quant à son impact sur le marché du travail, car il pourrait accélérer la tendance au remplacement des employés permanents par des micro-tâcherons précaires, embauchés et licenciés par un simple “prompt”. C’est le triomphe de ce que l’on appelle Humans as a service, pour reprendre le titre d’un beau livre de Jeremias Adams-Prassl (publié en Français sous le titre L’ubérisation du travail).

Cela ne signifie pas que “les robots vont piquer votre boulot”. GPT-4 est simplement un robot qui automatise l’embauche de travailleurs précaires qui effectuent les mêmes tâches que des humains mieux rémunérés. Il s’agit d’une vraie problématique sur les effets domino de l’IA, et non d’un scénario de science-fiction sur un prétendu soulèvement des robots.

Attention : la System Card est un pas dans la bonne direction pour garantir que la technologie ne soit pas utilisée pour porter atteinte aux droits des travailleurs. Toutefois, il faut faire plus. Par exemple, créer une commission d’enquête internationale pour exiger d’OpenAI qu’elle divulgue le code de ses IA, ses paramètres et surtout d’où proviennent les données qu’elle utilse pour les entraîner

[Video] Massey Dialogues (University of Toronto, 29 Apr. 2020)

The Massey Dialogues – Prof. Antonio Casilli on COVID19 & Digital Labour: The Fate Of Last-Mile Workers

Wednesday, April 29 at 12:00 pm – 1:00 pm EDT 

Principal Nathalie Des Rosiers will take us to France’s struggles with the pandemic, in her interview with Antonio A. Casilli, a professor of sociology at Telecom Paris (Paris Grande École of Telecommunications), which will focus on civil liberties, privacy issues, digital workers in France during COVID-19 and particularly privacy invasion. They will be joined in conversation by Junior Fellow and former Don of Hall Julian Posada, who is pursuing his Ph.D. at the Faculty of Information at the University of Toronto and Brenda McPhail, Director of Privacy, Technology & Surveillance Project at Canadian Civil Liberties Association.

The Dialogues are open to the public – we invite everyone to join and take part in what will be a very informative online discussion. Participants are invited to submit questions to the speakers in real time via the youtube channel’s chat function as well as through Twitter with the hashtag #MasseyDialogues.

Click here Wednesday at 12:00pm EST to join this livestream event.

Antonio A. Casilli is a professor of sociology at Telecom Paris (Paris Grande École of Telecommunications, part of the Polytechnic Institute of Paris) and a researcher at the Interdisciplinary Institute on Innovation (i3), an institute of the French CNRS.

He is also an associate researcher at the LACI-IIAC (Critical Interdisciplinary Anthropology Center, formerly Edgar Morin Centre, of the School for Advanced Studies in Social Sciences – EHESS, Paris) and a faculty fellow et the Nexa Center for Internet and Society (an institute of the Polytechnic University of Turin).

Julian Posada is a Ph.D. candidate at the Faculty of Information. He also served as the 56th Don of Hall of Massey College during the 2019-2020 academic year. His research combines sociology, political economy, and software studies to explore ethical organizational models of labour platforms and the implementation of artificial intelligence into online work. He worked for the French National Centre for Scientific Research and holds a BA in the humanities from the University of Paris-Sorbonne and an MSc in economic sociology from the School for Advanced Studies in the Social Sciences, where he was an elected student representative and member of the fencing team.

Brenda McPhail is the Director of the Canadian Civil Liberties Association’s Privacy, Surveillance, and Technology Project. She guides CCLA’s interventions in key court cases that raise privacy issues, such as the recent Supreme Court of Canada cases R. v. Marakah and R v. Jones, which confirmed privacy rights in electronic communications. Her research agenda focuses on the social implications of technology, and recent work has focused on surveillance of dissent, government information sharing, digital surveillance, video surveillance, and rights issues raised by artificial intelligence. CCLA also has an education mandate, and Brenda works to develop resources and presentations to drive public awareness about the importance of privacy as both an individual and a social good. She received her Ph.D. from the University of Toronto, Faculty of Information.

[Vidéo] Ailleurs en vidéo

(27 juin 2019) “Numérique et société”, colloque Agreenium, CNAM, Paris.
(25 juin 2019) “IA et micro-travail en France : résultats du projet DiPLab” (avec Paola Tubaro), Fondation Gabriel Péri, Paris.
(3 juin 2019) Présentation du livre “En attendant les robots” à l’Université Populaire d’Arcueil.
(8 février 2019) “Fake news et digital labor” (avec Francesca Musiani), colloque Post-vérité et infox : où allons-nous ?, Cité des sciences et de l’industrie, Paris.
(17 janvier 2019) IA et l’humanité qui vient (Rencontres philosophiques de Monaco), Monte Carlo.
(31 ottobre 2017) “Lavoro e capitalismo delle piattaforme”, ESC Atelier, Roma.

100 milioni di microlavoratori e… 4 miliardi di operai del click (Il Manifesto, Italia, 27 genn. 2018)

Nell’edizione del 27 gennaio 2018 de Il Manifesto, l’inserto settimanale Alias ospita una dossier assai completo su lavoro, piattaforme e nuove prospettive dell’azione politica in cui compare un mio lungo articolo intitolato Sulle piattaforme digitali siamo tutti operai del click. Fra le altre firme presenti in occasione dell’uscita di “Forza Lavoro”, il nuovo libro di Roberto Ciccarelli, ritroviamo Ippolita, Toni Negri, Valerio De Stefano, Tiziana Terranova.