platform

M, le maudit chatbot (ou, de l’impossibilité de l’automation complète au lendemain de l’échec de l’assistant virtuel de Facebook)

L’année 2018 commence fort chez Zuckerberg. Facebook a décidé de mettre fin à l’expérience de son assistant virtuel, M. Par rapport aux autres chatbots sur le marché, M avait une particularité : il ne cachait pas la présence d’humains derrière les rideaux de l’automation, pour ainsi dire. Facebook allait jusqu’à intégrer cet attribut dans ses arguments de vente. M était présenté comme une intelligence artificielle « mue par des humains » (human powered).

Il s’agissait d’un logiciel qui envoyait des messages via l’application Messenger, initialement disponible pour un nombre limité d’usagers-testeurs (10 000 résidents de San Francisco) qui l’utilisaient surtout pour des opérations commerciales. La plupart des tâches réalisées par le chatbot nécessitaient de personnes pour assister, entraîner, vérifier ses réponses — et parfois se faire carrément passer pour M. D’où la suspicion que son nom ne soit pas un clin d’œil à l’assistant de James Bond, miss Moneypenny, mais une référence assez claire au “micro-travail”…

L’objectif de Facebook avec cet agent conversationnel était de développer une technologie d’intelligence artificielle capable d’automatiser presque n’importe quelle tâche (“Facebook put no bounds on what M could be asked to do“). C’est toujours la vieille promesse du machine learning : tu fais réaliser des tâches par des humains, puis “la machine” apprend et — bam ! tu te débarrasses des humains. Néanmoins, malgré les vastes ressources techniques de Facebook, le taux d’automation de M semble n’avoir jamais dépasse 30%. Presque trois quarts des tâches, donc, étaient effectuées par des petites mains payées à la pièce, entre San Francisco et Katmandou (si le bruit selon lequel elles étaient recrutées via le bureau népalais de la plateforme de micro-travail Cloudfactory était confirmé).

L’histoire de M contient une moralité pour toute entreprise qui développe ou achète des solutions de IA : quand on prend en compte le coût de the human in the loop, l’automation revient très chère. C’est à cause de l’importance de ces coûts (et de la médiocrité des résultats) que Facebook a définitivement décidé de discontinuer M en 2018.

L’autre leçon à retenir ici est que dans la mesure où l’objectif final de M était de préparer le développement de solutions IA qui auraient pu automatiser presque toutes les tâches que les usagers réalisent en ligne, l’automation complète s’avère être un fantasme de silconvallards. A chaque fois qu’on automatise une tâche, les êtres humains avec qui l’IA interagit en redemandent, et de plus en plus complexes. Comme Wired le souligne :

“Another challenge: When M could complete tasks, users asked for progressively harder tasks. A fully automated M would have to do things far beyond the capabilities of existing machine learning technology. Today’s best algorithms are a long way from being able to really understand all the nuances of natural language.”

Il faut alors recommencer et recommencer à concevoir-entraîner-tester-micro-travailler etc. Comme quoi, nous (autant les centaines de millions de tâcherons du clic sur les plateformes de micro-travail que les milliards de micro-tâcherons dissimulés que nous sommes sur les plateformes de médias sociaux) avons devant nous une longue carrière de dresseurs d’IA. Très longue. Interminable même, à en croire certains jeunes experts d’automation. Parmi eux, un nommé Ernest Mandel, lequel affirmait, dans un texte paru en… 1986 :

“Sous le capitalisme, l’automation complète, l’introduction de robots sur grande échelle sont impossibles car elles impliqueraient la disparition de l’économie de marché, de l’argent, du capital et des profits. (…) La variante la plus probable sous le capitalisme, c’est précisément la longue durée de la dépression actuelle, avec seulement le développement d’une automation partielle et d’une robotisation marginale, les deux étant accompagnées par une surcapacité de surproduction sur grande échelle (une surproduction de marchandises), un chômage sur grande échelle, une pression sur grande échelle pour extraire de plus en plus de plus-value d’un nombre de jours de travail et d’ouvriers productifs tendant à stagner et à décliner lentement. Cela équivaudrait à une augmentation de la pression à la surexploitation de la classe ouvrière (en faisant baisser les salaires réels et les prestations de Sécurité sociale), en affaiblissant ou détruisant le mouvement ouvrier organisé et en sapant les libertés démocratiques et les droits de l’homme.”

Lessons from Amazon’s Italian hub strike: industrial action that does not factor in both work AND data is doomed to be ineffective

On Nov 24, 2017, the three main Italian unions (CGIL, CISL, UIL) have called for a strike over the failure to negotiate Black Friday bonuses for the 1,600 permanent workers at the distribution hub near the Northern town of Piacenza. Unions say 50% of the workers partake in the strike. Amazon says it was more like 10%.

Bottom line: the strike did not stop Black Friday in Italy. Someone was working. Yet, according to several sources, it was not not permanent workers, but the 2,000 temps that Amazon recruited until Xmas who saved the day. They were not hired to replace striking workers. Even in Italy, this would be illegal. They were hired to face Nov./Dec. surge in retail sales. And of course they did not stop working on Black Friday 2017. That said, Amazon is known internationally for its brutal workplace discipline, its anti-labor stance, and has been accused of hiring temps, contingent workers and even workampers to edge out unionized labor force.

In Italy, one can recruit a lot of those. Unemployment is at 11.1% and there’s a millions-strong industrial reserve army of faux-freelance, part-timers, “coordinated collaborators”, “project-contractors”, “leased staff” and many other forms of non-standard employees. Especially since the infamous Jobs Act heralded by the government of former PM Matteo Renzi, among young workers temp jobs accounts for 50% of employment and they are up 7% since Sept 2017.

But Italian retail workers and their strike tell only part of the story. Amazon isn’t about e-commerce: it’s about big data. Interestingly, Matteo Renzi’s government has been very helpful in facilitating the strategy of “data entryism” of the Seattle giant, going as far as to hire Amazon’s former vice-president and now-biggest employee shareholder of the platform as “Commissioner for Digital Italy”. He’s doing this for free, and you know what they say when you’re not paying for something…

Which brings us to the main point. Amazon strategy is predicated on data and work. Even better: it is predicated on data-as-work, because it extracts value from the data stored in its humongous cloud and hosting services, and because it uses people-as-a-service (according to Jeff Bezos’s early characterization of Amazon Mechanical Turk) to train, enrich, refine data.

Btw, do you wanna know what the new Italian Digital Commissioner considers as a success story for digital transformation? The controversial Indian biometric ID system… And do you know where 36% of Amazon Mechanical Turkers live? India… (Here’s the interview [in Italian] where the Digital Commissioner talks about Indian ID system while at the same time declaring that “he misses Amazon so much”).

Take-away message: Amazon corporate takeover of Italy is as much a matter of labor policy as it is of data politics. As long as the unions continue to focus on the former while neglecting the latter, their action is doomed to be ineffective. Case in point: after dominating Black Friday sales, Amazon’s shares are up 2% and Jeff Bezos is still world’s wealthiest man. So Amazon Italia just gave a giant middle-finger to workers by cancelling the meeting with unions and rescheduling it for after Xmas…

[Podcast] Grand entretien sur Digital labor, micro-tâcheronnat et automation (RTS, Suisse, 20 nov. 2017)

Voilà le podcast de l’entretien que j’ai accordé à Sarah Dirren pour Versus-Penser, émission de la Radio Télévision Suisse (Espace 2) consacrée aux sciences humaines.

Révolution Travail 1/5: Le Digital Labor
Avec la révolution numérique de nouveaux métiers ont vu le jour, celui de cliqueurs par exemple. Ils sont estimés à plus de 100 millions dans le monde surtout dans les pays émergents. Ils fournissent un micro-travail essentiel, puisque ces prolétaires du numérique apprennent aux intelligences artificielles à reconnaitre une image ou une musique. Ces microtâcherons œuvrent dans des fermes à clic ou sur des plateformes telle quʹAmazon Mechanical Turk.
Nous aussi, nous travaillons – presque à notre insu – lorsque nous naviguons sur le net et les réseaux sociaux. Nous aussi nous produisons de la valeur, des données, ce big data, pilier de lʹéconomie numérique.
Tour dʹhorizon avec Antonio A. Casilli, sociologue, spécialiste des réseaux sociaux, maître de conférences en humanités numériques à Télécom ParisTech et chercheur au Centre Edgar-Morin de lʹEcole des Hautes Etudes en Sciences Sociales.

[Video] Lavoro e capitalismo delle piattaforme (Roma, Italia, 7 nov. 2017)

Il 7 novembre 2017, ho condotto un seminario-fiume (4 ore e più) nell’ambito della Scuola critica del digitale, una iniziativa del Centro per la Riforma dello Stato (CRS) in collaborazione con le Camere del lavoro autonomo e precario (CLAP). Il seminario si è svolto a Roma nello spazio autogestito Esc Atelier. Qui di seguito le cinque parti del video ritrasmesso in streaming.

Interventi di Francesco Raparelli (Esc) e Giulio De Petra (CRS). Seminario: piattaformizzazione.

Seminario: Lavoro on-demand, micro-lavoro, lavoro sociale in rete.

Seminario: Azione sindacale in rete, cooperativismo delle piattaforme.

Confronto con i partecipanti (1)

Confronto con i partecipanti (2)

Lavoro e capitalismo delle piattaforme
con Antonio Casilli

L’attenzione crescente di chi studia, per modificarle, le nuove forme che assume il lavoro si rivolge sempre più spesso alle attività quotidiane di miliardi di utilizzatori di servizi online le quali, pur sfuggendo a un inquadramento salariale, sono produttrici di valore. Per un numero crescente di lavoratori, di semi-professionisti, di persone in cerca di impiego, di semplici utilizzatori, il lavoro passa dalle piattaforme digitali.
Al centro dell’attenzione è la capacità di queste grandi infrastrutture tecnologiche di comandare non solo il lavoro esplicito e frammentato di quote crescenti di lavoratori sempre più precarizzati, dalla logistica alla produzione intellettuale, ma anche il ‘lavoro implicito’ più o meno volontario e gratuito degli utilizzatori, spesso strumentalizzando a fini commerciali concetti come ‘condivisione’, ‘partecipazione’, ‘collaborazione’.
Dalla fornitura di servizi (come su Foodora) alla creazione di contenuti (come su Youtube), dalla produzione di dati (come su Google) al perfezionamento di sistemi di intelligenza artificiale (come su Amazon Mechanical Turk), queste nuove forme di “lavoro digitale” sono spesso invisibili e presentate come attività accessorie rispetto al lavoro tradizionale. Eppure esse incanalano, contrattualizzano e misurano la performance degli utilizzatori umani e li articolano con operatori non umani (bots, intelligenze artificiali, etc.).
Ma generano anche nuovi conflitti sociali legati, ad esempio, al riconoscimento delle condizioni di produzione e della proprietà sui prodotti distribuiti per mezzo di Internet.
Di fronte allo strapotere di nuove e vecchie piattaforme, un numero crescente di rivendicazioni collettive si organizza e si manifesta.
Rinnovo del sindacalismo, nuove iniziative della società civile, altri movimenti: si sta avviando una nuova stagione di lotte sociali legate ai diritti fondamentali, alla redistribuzione del reddito e ai rapporti di potere connessi alle tecnologie digitali.

Indice degli argomenti

• L’analisi delle nuove forme di organizzazione sociale legate all’utiizzo delle piattaforme.
• L’analisi delle diverse forme di impiego generate dall’utilizzo delle piattaforme
• La descrizione e l’analisi delle diverse modalità di lavoro esplicito ed implicito realizzato mediante le piattaforme
• L’emersione e la convergenza dei conflitti generati e abilitati dall’uso delle piattaforme
• La descrizione di scenari per il “futuro del lavoro”
• La progettazione dell’azione militante

 

Qui la presentazione del seminario in PDF

De quoi une plateforme (numérique) est-elle le nom ?

Est-ce que le mot “plateforme” est adapté pour décrire ce qui se passe dans l’économie numérique des dernières années ?

Point de départ : les travaux de Tarleton Gillespie, qui s’est penché (avant et mieux que d’autres) sur l’utilisation de la notion de plateforme pour qualifier les services contemporains d’appariement algorithmique d’informations, relations, biens et services.

Sa théorie peut être ainsi résumée : le mot plateforme est avant tout une métaphore qui désigne une structure technique, voire une “architecture” (c’est par ailleurs de ce dernier domaine que l’emprunt linguistique s’est fait). Le choix de ce terme pour désigner une entité technologique relève d’une volonté de concepteurs, innovateurs et investisseurs de se présenter comme des simples intermédiaires, et non pas comme des moteurs d’interaction sociale et de décision stratégique dans le domaine économique. La plateforme n’est qu’une charpente, sur laquelle d’autres (usagers, entreprises, institutions) construisent. (← c’est toujours Gillespie qui résume les arguments des proprios des plateformes, hein…).

Dans un texte de 2017, il met en avant trois raisons pour lesquelles cette notion se prête à des instrumentalisations particulièrement lourdes de conséquences d’un point de vue politique.

1) La prétendue horizontalité des plateformes numériques dissimule des structures hiérarchiques et les liens de subordination qui persistent malgré la rhétorique des “flat organizations” ;
2) L’insistance sur une structure abstraite cache la pluralité d’acteurs et la diversité/conflictualité des intérêts des différentes communautés d’utilisateurs. La responsabilité sociale des plateformes, leur “empreinte” sur les sociétés semble ainsi être effacée ;
3) (point #digitallabor) en se présentant comme des mécanismes *précis* et *autonomes*, les plateformes servent à occulter la quantité de travail nécessaire à leur fonctionnement et à leur entretien.

De manière presque paradoxale, la réquisitoire de Gillespie contre le mot plateforme représente un plaidoyer pour le maintien du terme—pourvu qu’on s’entende sur sa signification et sa généalogie. Publié en 2010, un autre de ses textes esquissait une étymologie du terme.

Plateforme comme :
1) fondations d’un bâtiment
2) structure sur-élevée d’une fortification militaire
3) podium où un orateur prononce un discours
4) par métonymie, le discours même–ou son agenda politique
5) Gillespie mentionne aussi une autre valence, de nature religieuse et politique, du terme plateforme. Aux Etat-Unis, cette dernière s’est déployée entre 1648, année de rédaction de la “Cambridge Platform” des premiers groupes de colons britanniques, et la moitié du XIXe siècle, époque à laquelle sont attestées les premières utilisations du mot au sens de programme politique d’un parti étasunien.

A mon avis, cette deuxième généalogie a davantage de poids : une plateforme est une entité politique, et non pas une simple métaphore–elle illustre les dimensions collectives et la nature consensuelle des négociations qui ont lieu dans son périmètre. Pour saisir cet aspect il faut regarder l’histoire européenne, où s’est opéré ce transfert du mot plateforme du contexte des arts appliqués à celui de l’idéologie religieuse et politique.

Le terme anglais “platform” (si nous laissons pour l’instant de côté ses origines latines) est une importation directe du français du moyen âge (“platte fourme”). Certes, le Online Etymology Dictionary atteste de cette utilisation à partir du XVIe siècle (“1540s, ‘plan of action, scheme, design'” [sources non précisées]). D’autres usages sont attestés. Par ex., dans la traduction anglaise de 1582 du De Proprietatibus Rerum de Bartholomaeus Anglicus (1240), “platform” est un terme géologique qui indique la Terre en tant que “soutien” des créatures – ou le monde comme modèle idéal de la création (“archetypus” dans l’original latin).

Quelques décennies plus tard, Sir Francis Bacon écrit son An Advertisement Touching a Holy War (1622), où il emploie le terme pour indiquer un repère pour développer son “mélange des considérations civiles et religieuses” (“mix’d of Religious and Civil considerations”). Le glissement sémantique vient de commencer. C’est à l’occasion de la Grande Rébellion anglaise de 1642-1660 que “platform” s’impose comme une conception politique et religieuse très particulière et comme un outil concret, dont l’usage n’est pas exclusivement métaphorique.

C’est là que la transition de simple métaphore à notion de théologie religieuse à part entière s’achève. Bien évidemment, il y a la Cambridge Platform de 1648 (document des églises congrégationalistes puritaines du New England cité supra 👆 ). Un autre document de ce type est la Savoy Declaration (1658) qui propose “a platform of Discipline” : articles de foi et règles de gouvernance des congrégations. Ces règles régissent les questions religieuses et imposent des pratiques (“Models & Platforms of [a given] subject”).

Mais le premier usage éminemment politique du terme pour signifier une vision de la société et le rôle des êtres humains vis-à-vis des autorités et d’eux-mêmes, est principalement développé par Gerrard Winstanley, le fondateur du mouvement des Bêcheux (les “Diggers”). Nous sommes en 1652, sous le protectorat d’Oliver Cromwell. Gerrard Winstanley écrit un texte fondateur de son mouvement proto-communiste : l’essai The Law of Freedom in a Platform [Bien évidemment “proto-communiste” comme on pouvait l’être en ce siècle : des appels à l’autorité divine et de la spiritualité à fond la caisse… En même temps, c’est là que le terme “platform” s’affranchit de son origine religieuse.]

Le texte de Winstanley pose quelques principes de base d’un programme politique (la plateforme proprement dite) adapté à une société d’individus libres :
– mise en commun des ressources productives,
– abolition de la propriété privée,
– abolition du travail salarié.

Le terme désigne désormais un pacte (“covenant”) entre une pluralité d’acteurs politiques qui négocient de manière collective l’accès à un ensemble de ressources et de prérogatives communes.

Cette nouvelle signification n’échappe pas à un commentateur contemporain, sir Winston Churchill (pas celui du “sang et des larmes” de 1940, mais celui qui publia en 1660 le Divi Britannici: Being a Remark Upon the Lives of all the Kings of this Isle). Il écrit, à propos de Charles II, que les révolutionnaires qui les mirent à mort étaient comme animés par l’intention de “erect a new Model of Polity by Commons only”). Pour ce faire, ils “set up a new Platform, that they call’d The Agreement of The People” (p. 356). La convention entre entités religieuses était désormais devenue un accord entre entités politiques.

Via les écrits Winstanley ou de Churchill, il est possible d’identifier une généalogie alternative à celle proposée par Gillespie—une généalogie plus précisément politique, ainsi qu’un autre usage du terme, qui cesse d’être une simple métaphore pour devenir un levier d’action. Au vu de ceci, la reprise capitaliste (par les plateformes numériques privées) et régalienne (par l’Etat-plateforme) de cette notion au début du XXIe siècle, est moins une imitation métaphorique qu’une récupération et un détournement de ces principes.

Les principes détournés :
1) la mise en commun (la “polity by Commons” de Churchill) se transforme en “partage” sur les plateformes de la soi-disant sharing economy ;
Les principes détournés :
2) l’abolition du travail salarié (la critique de Winstanley de la servitude par le “work in hard drudgery for day wages”) se transforme en précarisation de l’emploi et en glorification du “freelance” dans les plateformes d’intermédiation du travail ;
3) l’abolition de la propriété privée (le communisme agraire des diggers) se transforme en “ouverture” de certaines ressources productives (telles les données) dans les programmes de l’Etat-plateforme.

Bref, l’expression plateforme n’est pas une simple métaphore, mais une dégradation/évolution d’un concept du XVIIe siècle. En tant que telle, elle reste porteuse d’implications et prescriptions politiques implicites qu’il serait nuisible d’égarer—si on abandonnait la notion.

[Slides séminaire #ecnEHESS] Mechanical Turk et le travail invisible des données (7 mars 2016)

Pour la séance du 7 mars 2016 de mon séminaire EHESS Etudier le cultures du numérique, j’ai eu le plaisir d’accueillir Jérôme Denis (Télécom ParisTech, co-auteur de Petite sociologie de la signalétique, 2010) et Karën Fort (Université Paris-Sorbonne, porteuse du projet ZombiLingo). Une intervention d’Elinor Wahal (Université de Trento) a complété leurs exposés.

Résumé : Les plus fervents avocats et les plus féroces critiques des projets de big data ou d’open data partagent l’idée que les données sont des entités informationnelles solides et puissantes. Qu’elles soient décrites comme un pétrole, comme un déluge, ou comme une technologie de gouvernance, celles-ci semblent toujours appréhendées dans un cadre positiviste, qui fait de leur existence et de leurs propriétés des évidences. Pourtant, celles et ceux qui « produisent, » «  saisissent »  ou « nettoient » des données savent que leur existence et leur circulation passent par des opérations délicates et coûteuses. Je propose d’explorer cet aspect méconnu des données en montrant d’abord que l’histoire de l’émergence des données dans les organisations est étroitement liée à la mécanisation et à l’invisibilisation du travail de l’information. À partir de deux études ethnographiques (dans une banque et dans une start-up), je mettrais ensuite en lumière quelques dimensions de ce travail et des conditions de son invisibilisation. À travers ce parcours, je tâcherai de donner à comprendre l’écologie du visible et de l’invisible qui est en jeu dans le processus fragile et incertain par lequel des choses très différentes, souvent indéfinies, deviennent progressivement et temporairement des données.

Résumé : Dans le cadre des travaux des étudiants du séminaire, une intervention sur les plateformes de micro-travail a été assurée par Elinor Wahal (EHESS/Univ. Trento).

Capture d’écran 2016-03-13 à 11.09.51

Karën Fort – Ce qu’Amazon Mechanical Turk fait à la recherche : l’exemple du Traitement Automatique des Langues

Résumé : La plateforme de myriadisation du travail parcellisé (microworking crowdsourcing) Amazon Mechanical Turk permet aux chercheurs de déposer des micro tâches (Human Intelligence Tasks) pour les faire réaliser par des travailleurs (des Turkers) pour une micro-rémunération. Le traitement automatique des langues (TAL) étant très gourmand en ressources langagières (lexiques, corpus annotés, etc), les chercheurs du domaine se sont rapidement emparés de cette plateforme pour produire des données à bas coût. Nous montrerons que cette évolution n’est pas sans conséquence sur la recherche, en termes de qualité et d’éthique. Enfin, nous présenterons les réactions et les alternatives proposées, notamment par le biais des sciences participatives et nous vous présenterons le projet Zombilingo.