Dans le numéro 10 de la revue ADN, une longue interview sur données personnelles, pouvoir des GAFAM et surveillance de masse, que j’ai accordé à Francisco Roa Bastos.
plateformes
Marché du travail : entre automation et modèles pré-capitalistes (Alternatives Economiques, 28 mars 2017)
Dans le magazine Alternatives Economiques, Franck Aggeri, professeur de management à Mines ParisTech, fournit une analyse en quatre temps de la question du travail à l’heure des plateformes numériques, à partir d’un compte-rendu d’un de mes séminaires portant sur les liens entre digital labor et automation.
4 idées reçues sur le travail à l’heure des plates-formes numériques
Le développement fulgurant des plates-formes numériques ne va pas sans susciter des craintes ou des espoirs que symbolise Uber, entreprise érigée tantôt en modèle, tantôt en bouc émissaire. L’un des sujets les plus discutés porte sur les conséquences de ces plates-formes sur le travail : comment modifient-elles les formes de travail ? En quoi remplacent-elles du travail salarié par du travail indépendant ? En quoi contribuent-elles à saper les fondements de notre modèle social et de notre droit du travail ? Des emplois sont-ils menacés par le travail des algorithmes ?
Le problème est que l’impact des plates-formes sur le travail suscite davantage de fantasmes et de conjectures que d’analyses solides fondées sur des études empiriques. C’est précisément l’objet du dernier numéro du Libellio d’Aegis, revue scientifique en ligne, que d’éclairer à partir d’analyses distanciées et informées les transformations du travail occasionnées par l’irruption des plates-formes. On y trouve en particulier deux contributions remarquables d’Aurélien Acquier, professeur de management à l’ESCP-Europe, et d’Antonio Casilli, sociologue à Telecom ParisTech, et auteur avec Dominique Cardon d’un livre remarqué sur le digital labor1.
Idée reçue n°1 : une menace pour l’emploi
Première idée reçue : la révolution numérique menacerait l’emploi. Antonio Casilli rappelle justement que la question de l’impact des nouvelles technologies, et notamment du machinisme, est aussi ancienne que la révolution industrielle. Dès le début du XIXème siècle, certains économistes comme Thomas Mortimer ou David Ricardo s’inquiètent déjà de la substitution massive du travail humain par des machines. Cette crainte s’est avérée infondée car ils ont sous-estimé les potentialités nouvelles ouvertes par les révolutions techniques qui ont certes détruit certains emplois mais ont contribué à en créer d’autres dans de nouveaux secteurs.
Au XIXème siècle, Thomas Mortimer ou David Ricardo s’inquiétaient déjà de la substitution massive du travail humain par des machinesA cet égard, le rapport controversé de Frey et Osborne de l’université d’Oxford paru en 2013 sur l’impact de l’économie numérique sur l’emploi ne fait que reproduire les biais d’analyse de leurs illustres aînés. Ainsi, ils prédisent que 47% des emplois sont menacés par la révolution digitale d’ici à 2050 à partir d’une recension de l’impact de ces technologies sur les métiers existants sans tenir compte des créations d’emploi associées aux nouveaux métiers que cette révolution numérique pourrait occasionner.
Idée reçue n°2 : des plates-formes peu intensives en travail
Seconde idée reçue : ces plates-formes seraient peu intensives en travail. Antonio Casilli indique que loin de l’imagerie d’un monde gouverné par les algorithmes, ces plates-formes sont intensives en travail, mais selon des modalités inhabituelles et largement invisibles du grand public. Il a notamment le grand mérite de pointer du doigt une première modalité qui constitue une face cachée de cette économie de plate-forme : l’exploitation d’un lumpen proletariat en charge de réaliser un ensemble de micro-tâches visant à compléter, améliorer ou pallier les défaillances des algorithmes. Cela recouvre une variété de petites tâches comme transcrire un ticket de caisse, écouter de la musique et la classer, labelliser des images, identifier des messages ou des sites douteux, etc. En échange, ces travailleurs perçoivent des micro-rémunérations qui, à la fin du mois, peuvent aller de quelques dollars à une centaine.
Quand un internaute reconnaît une image ou retranscrit une phrase, il travaille pour GoogleL’autre modalité, également méconnue, est le travail réalisé par les utilisateurs eux-mêmes. Cette idée que les clients participent à la co-construction de l’offre n’est pas propre à l’économie numérique mais elle atteint, dans ce cas, une ampleur sans précédent. Par exemple, quand un internaute améliore une traduction proposée, quand il traduit un bout de texte, reconnaît une image ou retranscrit une phrase, il travaille pour Google. Ainsi, les clients participent activement sans le savoir à l’activité de ces plates-formes. Ils contribuent également à les enrichir puisque les clics et les likes sont vendus à des entreprises commerciales qui sont prêtes à payer cher pour mieux connaître les besoins et les goûts de clients potentiels.
Idée reçue n°3 : un modèle d’organisation du travail inédit
Troisième idée reçue : les plates-formes constitueraient un modèle d’organisation du travail inédit. Aurélien Acquier explique comment le modèle d’intermédiation des plates-formes transactionnelles ressemble à s’y méprendre au modèle pré-capitaliste du domestic system dans lequel des agriculteurs réalisaient une activité ouvrière domestique (comme coudre, tisser, filer ou tricoter) pour le compte de négociants en échange d’une rémunération à la pièce ou à la tâche. Ces paysans réalisaient cette activité avec leurs propres outils. Ils étaient donc les détenteurs du capital. Comme dans le modèle du domestic system, les plates-formes ne sont pas propriétaires des actifs (les véhicules pour Uber, les appartements ou maisons pour AirBnB) ; elles ne gèrent pas un espace de travail spécifique ; les travailleurs sont contractuellement indépendants de l’apporteur d’affaires ; les activités constituent souvent un appoint par rapport à une autre activité principale.
Les produits et services issus de la vieille économie n’ont pas disparuCette forme organisationnelle revient au premier plan parce que les technologies de l’information facilitent l’accès à l’information et permettent son contrôle et qu’elles réduisent les coûts de transaction. Les entreprises y ont recours parce qu’elles leur permettent d’externaliser les coûts salariaux et les risques de licenciement, et qu’elles sont peu intensives en capital. Il faut cependant relativiser leur domaine d’extension. Les produits et services issus de la vieille économie n’ont pas disparu. Bien au contraire, il faut bien des contenus à vendre. Par exemple, le numérique n’a pas remplacé le travail du journaliste ou celui du musicien, il a modifié les supports pour qu’ils puissent circuler sur ces plates-formes, fragilisant, il est vrai, les modèles d’affaire des entreprises qui commercialisaient les anciens types de support (la presse papier ou les maisons de disque). Pour produire ces contenus, et notamment ceux qui réclament de l’innovation, il faut toujours des entreprises pour les concevoir et les produire et organiser les activités y concourant.
Idée reçue n°4 : le travail salarié fragilisé
Quatrième idée reçue : les plates-formes conduiraient à fragiliser le travail salarié. Un tel risque existe mais les événements récents soulignent la fragilité du modèle du travail indépendant associé au développement de ses plates-formes. Comme le rappelle les procès en France ou aux Etats-Unis auxquels Uber est confronté, l’entreprise, comme d’autres, est menacée de voir le contrat commercial qui l’unit aux chauffeurs considéré comme une forme déguisée de salariat et requalifié comme contrat de travail.
La démonstration d’un lien de subordination entre une plate-forme et ceux qui travaillent pour elle dépend du degré de prescription des tâchesSur le plan juridique, cette relation dépend de la capacité à démontrer l’existence d’un lien de subordination. S’il y a subordination, alors il faut requalifier les chauffeurs indépendants en salariés, ce qui mettrait en péril le modèle d’affaire d’Uber qui tire son avantage du fait que l’entreprise n’endosse pas les mêmes coûts et contraintes que les compagnies de taxis traditionnelles. Sur un plan technique, la démonstration d’un lien de subordination éventuel dépend du degré de prescription des tâches, explique Aurélien Acquier. Jusqu’où Uber prescrit-il aux chauffeurs le contenu de leurs activités ? Quelle est leur marge de liberté réelle dans le choix des clients, des trajets ou de la tarification, etc. ? Si le juge peut établir qu’existe un degré de prescription élevé, il est probable qu’il estime que le lien de subordination est effectif. Aurélien Acquier souligne cependant que le degré de prescription est variable d’une plate-forme à l’autre et qu’il faut éviter toute généralisation hâtive. Si certaines d’entre elles, à l’instar d’Uber, encadrent fortement l’activité de leurs chauffeurs, d’autres, comme Leboncoin par exemple, ne prescrivent pas la nature des relations entre les utilisateurs de la plate-forme.
Ces analyses sont utiles car elles nous aident à mieux comprendre le fonctionnement réel des plates-formes, les enjeux qu’elles soulèvent et les points de vigilance sur lesquels il est urgent d’enquêter pour éventuellement mieux les encadrer et les réguler. Elles montrent également que la grande entreprise et le salariat ne constituent pas des référents adéquats pour penser le travail sur ces plates-formes, et qu’à l’inverse, d’autres modèles d’organisation plus anciens, comme le domestic system, peuvent nous aider à mieux éclairer leur fonctionnement et leurs effets concrets.
[Séminaire #ecnEHESS] Mary L. Gray “Amazon MTurk: les coulisses de l’intelligence artificielle” (10 avril 2017, 17h)
Enseignement ouvert aux auditeurs libres. Pour s’inscrire, merci de renseigner le formulaire.
Pour la séance du 10 avril 2017 EHESS Etudier les cultures du numérique, nous avons l’honneur d’accueillir Mary L. Gray, chercheuse chez Microsoft Research et membre du Berkman Center for Internet and Society de l’Université Harvard. Mary Gray a été l’une des pionnières des études sur Amazon Mechanical Turk et sur les liens entre micro-travail et intelligence artificielle.
Pour suivre le séminaire sur Twitter : hashtag #ecnEHESS.
ATTENTION : Le siège habituel étant fermé pour les vacances universitaires, cette séance se déroulera le lundi 10 avril 2017, de 17h à 20h, amphi Opale, Télécom ParisTech, 46 rue Barrault, 13e arr. Paris.
Title: What is Going On Behind the API? Artificial Intelligence, Digital Labor and the Paradox of Automation’s “Last Mile.”
Speaker: Mary L. Gray
Abstract: On-demand digital labor has become the core “operating system” for a range of on-demand services. It is also vital to the advancement of artificial intelligence (AI) systems built to supplement or replace humans in industries ranging from tax preparation, like LegalZoom, to digital personal assistants, like Alexa. This presentation shares research that starts from the position that on-demand “crowdwork”—intelligent systems that blend AI and humans-in-the-loop to deliver paid services through an application programming interface (API)—will dominate the future of work by both buttressing the operations of future enterprises and advancing automation. For 2 years Mary L Gray and computer scientist Siddharth Suri have combined ethnographic fieldwork and computational analysis to understand the demographics, motivations, resources, skills and strategies workers drawn on to optimize their participation in this nascent but growing form of employment. Crowdwork systems are not, simply, technologies. They are sites of labor with complicated social dynamics that, ultimately, hold value and require recognition to be sustainable forms of work.
La présentation et les débats se dérouleront en anglais.
Séminaire organisé en collaboration avec ENDL (European Network on Digital Labour).
Qui entraîne les IA et les drones ? Les internautes (Le Figaro, 22 mars 2017)
Dans Le Figaro no. 22586, en kiosque le mercredi 22 mars 2017, un article sur les liens entre digital labor et l’intelligence artificielle. L’enquête est née des échanges entre la journaliste Elisa Braün, Mark Graham (Oxford Internet Institute) et moi-même.
Les internautes travaillent aussi pour les géants du Web
Braun, ElisaChez Google, il n’y a pas de petites économies. Un internaute veut changer son mot de passe ? Alors qu’il pense simplement prouver qu’il n’est pas un robot en cliquant sur un panneau de signalisation dans une série d’images, il entraîne les intelligences artificielles développées par l’entreprise et améliore sans le savoir des logiciels de conduite autonome à comprendre le Code de la route.
L’intelligence artificielle a beau promettre un futur rempli de machines entièrement autonomes, elle a encore besoin en coulisses de millions de petites actions humaines. « La plupart des services en ligne ont besoin de beaucoup d’êtres humains pour fonctionner » , explique au Figaro Mark Graham, géographe d’Internet à l’université d’Oxford et spécialiste de ces formes de travail invisibles de l’économie numérique. Cette activité, qui mobilise l’internaute moyen comme plusieurs centaines de millions de travailleurs insoupçonnés, a même un nom : le digital labor.
La ruée vers l’intelligence artificielle a amplifié ce phénomène. Google, Facebook, Microsoft et IBM ont chacun leurs propres laboratoires de recherche dans le domaine. Ces entreprises misent particulièrement sur cette technologie pour assurer leur avenir et ont recruté les meilleurs chercheurs pour réaliser leurs ambitions. Mais pour fonctionner correctement et réaliser leurs prouesses, les intelligences artificielles ont besoin de beaucoup d’attention humaine. Pour qu’un ordinateur reconnaisse un chaton parmi des milliards d’images, un humain doit d’abord lui montrer des milliers de photos de chatons. Cette phase d’entraînement ne revient pas aux grands savants mais à des internautes, qui se chargent de cliquer sur de nombreuses images de chatons jusqu’à ce que l’intelligence artificielle ait compris les traits distinctifs des félins et puisse prendre le relais.
Pour trouver cette main-d’oeuvre, les grandes entreprises adoptent différentes stratégies. Certaines font faire une partie de ce travail à leurs utilisateurs, sans même que ceux-ci en aient conscience. Lorsqu’un utilisateur de Facebook signale une image violente sur son flux d’actualités, il aide par exemple les algorithmes de modération du réseau social à repérer plus finement les contenus choquants postés chaque jour par milliers. Du côté de Google, la reconnaissance de caractères sur des « Captcha » (ces dispositifs qui apparaissent pour vérifier qu’un utilisateur n’est pas un robot) a longtemps permis d’aider les robots de l’entreprise à lire les pages de livres abîmées sur Google Books et à les indexer sur le moteur de recherche.
Les grandes entreprises adoptent une autre stratégie pour les sujets plus sensibles (comme la recherche militaire) ou laborieux (comme la reconnaissance de milliers d’images). Elles font appel à des internautes faiblement rémunérés sur des plateformes spécifiques de digital labor. Certaines ont même lancé leur propre système, de façon plus ou moins assumée. Google passe par EWOK, Amazon détient le service Mechanical Turk, Microsoft se sert de l’UHRS, et la technologie Watson, d’IBM, s’appuie sur la plateforme Spare5 (récemment rebaptisée Mighty AI). Sans connaître le commanditaire de leur travail, les internautes qui fréquentent ces sites doivent parfois reconnaître des pistes d’atterrissage sur des vues aériennes. « Je suis assez certain que certains travaux que nous observons servent pour entraîner les drones » , explique Mark Graham, qui a dirigé une importante étude auprès de centaines de « tâcherons du clic » en Afrique subsaharienne et en Asie du Sud-Est. Google, qui demande parfois à ses utilisateurs de repérer des pales d’hélicoptère sur des images pour recouvrer son mot de passe, est aussi propriétaire de Boston Dynamics, une entreprise investie dans la fabrication de robots militaires.
« Face à ce genre de cas, il faut se demander quel type d’intelligence artificielle nous aidons à développer » , note Antonio Casilli, sociologue à Télécom ParisTech et spécialiste du digital labor. Outre les finalités de ce type de travail, ses conditions posent aussi problème aux experts car elles perpétuent des inégalités. D’ici à 2019, 213 millions de travailleurs devraient pourtant intégrer le marché du digital labor, selon les chiffres de l’International Labour Organisation. L’utilisation des plateformes qui mettent en relation les entreprises et ces millions de travailleurs augmente de 25 % chaque année, selon les chiffres cités par l’étude de Mark Graham. Or, la rémunération de ces micro-tâches ou de ce travail n’est absolument pas régulée. Beaucoup de ces microtravailleurs passent 18 heures par semaine en moyenne à rechercher un travail précaire et épuisant. En France, le Conseil national du numérique a récemment lancé une grande consultation sur le digital labor. Les chercheurs européens se sont déjà fédérés en un réseau, European Network on Digital Labour (ENDL). –
Digital labor, privilège et invisibilisation de la pénibilité (grand entretien dans Le Monde, 11 mars 2017)
Le quotidien Le Monde démarre une enquête sur le digital labor. Le coup d’envoi ? Cette interview que j’ai accordée au journaliste Grégoire Orain.
« Sur Internet, nous travaillons tous, et la pénibilité de ce travail est invisible »
Le chercheur Antonio Casilli explique comment, derrière des services en apparence gratuits, Facebook, Amazon, Google… ont créé une « économie du clic ».
Par Grégoire Orain (propos recueillis par)
Quel est le point commun entre le moment ou vous remontez votre fil Facebook, celui où vous regardez des vidéos sur YouTube et lorsque vous cherchez des photos de chatons sur Google ? Dans les trois cas, vous l’ignorez sans doute, vous êtes en train de travailler.Sur Internet, les grandes plates-formes numériques américaines font tout pour capter notre attention et notre temps, nous offrant des services toujours plus sophistiqués pour communiquer, voyager, nous informer, ou tout simplement consommer.Des outils gratuits, du moins en apparence. Car derrière nos loisirs numériques se cache un bouleversement majeur, mondial, de la façon dont nous produisons de la valeur. De manière plus ou moins invisible, plus ou moins insidieuse, la Silicon Valley nous a tous mis au travail.Antonio Casilli est enseignant-chercheur à Télécom ParisTech et à l’Ecole des hautes études en sciences sociales (EHESS), auteur, avec le sociologue Dominique Cardon, de Qu’est-ce que le Digital Labor ? (INA éditions, 2015).
Dans votre ouvrage, vous expliquez que dès l’instant où quelqu’un se connecte à Facebook, voire à Internet en général, il est mis au travail. De quelle manière ?
C’est un concept que la communauté scientifique appelle le digital labor, c’est-à-dire un travail du clic, composé de plusieurs petites tâches, réalisé sur des plates-formes, qui ne demande pas de qualification et dont le principal intérêt est de produire des données. C’est un travail éminemment social.Sur les réseaux sociaux, par exemple, vous êtes toujours en train de coopérer avec quelqu’un – vous partagez son contenu, likez sa photo, et ainsi de suite –, mais également de travailler pour quelqu’un – le réseau social, qui exploite vos données. C’est ainsi que les grandes plates-formes numériques auxquelles nous avons accès produisent de la valeur.
Quelles sont ces plates-formes, et comment nous font-elles travailler ?
Il en existe quatre types. Le premier type, ce sont les plates-formes à la demande, comme Uber ou Airbnb, qui sous couvert d’une autre activité (transport, location, etc.) font de la production de données, enregistrent nos destinations, notre localisation, nos commentaires, notre réputation, nos évaluations, et qui revendent ensuite ces données.Du côté des chauffeurs du VTC, à lire : Uber crée « une nouvelle population de travailleurs pauvres et mal couverts »Le deuxième type, ce sont les plates-formes de microtravail comme Amazon Mechanical Turk, Upwork, l’application mCent… Des sites sur lesquels des millions de personnes dans le monde réalisent des tâches extrêmement simples [chercher sur Internet l’adresse d’un magasin, numériser les informations d’une carte de visite, décrire les éléments d’une image…] pour des rémunérations extrêmement faibles, de l’ordre de quelques centimes d’euros par minute.Le troisième type, ce sont les plates-formes de gestion de l’Internet des objets. Nos smartphones, nos montres connectées, mais aussi nos télévisions, nos ampoules ou nos thermostats connectés produisent de la donnée qui est ensuite exploitée. Nos maisons se transforment en usine à données, et cette production converge vers les immenses serveurs de Google ou d’Amazon.Le dernier type, enfin, ce sont les plates-formes sociales. Ecrire un post, formuler un tweet, filmer une vidéo pour la partager, mais aussi faire circuler des contenus, signaler ceux qui sont choquants ou inappropriés, c’est du travail, même s’il y a un côté jeu, un côté qui procure du plaisir.
Est-ce vraiment un problème de travailler indirectement et gratuitement pour Facebook ou pour Uber ? Après tout, ils fournissent aussi des services qui sont utiles et pour lesquels nous ne payons pas…
Les personnes qui ne voient pas le souci dans le digital labor sont des privilégiés. Ce sont les gens qui ont le temps et le capital social et culturel nécessaires pour profiter à l’extrême de ce qu’offre le Net. Internet a été conçu pour plaire à ces personnes-là, et celles-ci y trouvent un plaisir fou. Mais dans le même temps, lorsque nous laissons parler notre privilège, nous faisons l’impasse sur des dizaines de millions de personnes en Inde, en Chine ou ailleurs qui nous permettent de profiter d’Internet pour un salaire de la faim. Une plate-forme comme Upwork affiche 12 millions de travailleurs enregistrés, autant pour les Chinois de Witmart. Les microtâches réalisées sur ces plates-formes servent à améliorer les intelligences artificielles et les algorithmes des services que nous utilisons, à filtrer les contenus que nous ne voulons pas voir. Un travail invisible, une économie du clic, faite de travailleurs exploités à l’autre bout du monde.
Comment se fait-il que cet aspect de l’activité sur Internet soit méconnu des utilisateurs du réseau ?
Parce que ces entreprises font appel à des ruses pour nous convaincre de travailler pour elles. Pour commencer, la production de données est la plus simple possible. En 2011, Mark Zuckerberg affirmait qu’un partage sur Facebook devait se faire « sans aucune résistance ». On cherche à fluidifier la production de données. La seconde ruse, qui rend le travail invisible à nos yeux, c’est la « ludification » ; on fait de la production un jeu, ce qui permet aux gens de tirer un plaisir du fait de passer des heures et des heures connectés à des systèmes qui, pourtant, ne cessent de leur adresser des injonctions : clique ici, « like » cette vidéo, commente ton expérience, etc. Sur les plates-formes de microtravail, c’est la même chose. L’interface d’Amazon Mechanical Turk est assez sympa : des icônes partout, un effet d’émulation entre travailleurs, une valorisation de la réactivité, des scores qui débloquent d’autres jobs à accomplir, etc. En somme, la ludification permet de pousser les gens à constamment interagir… Pas seulement. En faisant de la production un jeu, et donc en la sortant de la transaction économique, on minimise le risque que les gens s’organisent, prennent conscience qu’ils sont en train de travailler et, finalement, demandent de l’argent. C’est pour cette raison qu’il est très difficile d’organiser une prise de conscience collective : tout est fait pour que l’utilisateur soit mis en dehors de la logique contractuelle ou salariale.
Dans ce cas, le « digital labor » n’est-il pas un travail heureux ?La vraie question n’est pas celle du bonheur ou du plaisir, mais celle de la pénibilité du travail, qui devient invisible. D’autres que nous se tapent les tâches pénibles, les visionnages de contenus méprisables, affreux, terribles, et font marcher le trafic organique dans Facebook. Les personnes qui filtrent les vidéos des égorgements de l’organisation Etat islamique sont aux Philippines, au Mexique, ailleurs. On a délocalisé la pénibilité.
Comment peut-on faire pour prendre en compte ces nouvelles formes de production qui échappent aux cadres habituels du temps de travail, des contrats, du salaire ?
Il y a un problème d’organisation au niveau international, un problème urgent, sérieux, pour lequel il n’y a pour l’instant pas de réponse. Aujourd’hui, si quelqu’un fait grève aux Philippines, un Indonésien va récupérer le travail. Mais ce n’est pas qu’une question de concurrence entre différents pays. Comment donner à tout le monde des droits, la possibilité de contester des conditions de travail ? En revanche, dans les contextes nationaux, les choses bougent rapidement. Les syndicats, en France, en Allemagne, en Scandinavie, en Autriche, lancent des réflexions sur les travailleurs des plates-formes, de toutes les plates-formes, celles à la demande, bien sûr, comme Uber, mais aussi les plates-formes de microtâches. Le syndicat allemand IGmetall, par exemple, a lancé Fair Crowd Work, un outil qui doit permettre à ceux qui accomplissent un microtravail de dénoncer les mauvaises pratiques, d’évaluer leurs employeurs, etc.
Si cette régulation ne vient pas, que se passera-t-il ?
Un syndicat, aujourd’hui, ne peut pas se permettre de continuer à avoir les mêmes logiques de dialogue social ou de financement, car les scénarios qui se préparent sont des scénarios de conflictualité. Elle est déjà là : Uber et tant d’autres font face à des grèves, les modérateurs et les filtreurs s’organisent. Mais en face, les entreprises traditionnelles se « plateformisent » à mesure qu’elles se tournent vers l’exploitation de données, la mise en place d’algorithmes, etc. Cette polarisation demande que les corps intermédiaires sachent de quoi il est question, et quelles sont leurs responsabilités sociales et politiques.
Source: « Sur Internet, nous travaillons tous, et la pénibilité de ce travail est invisible »
[Séminaire #ecnEHESS] Nikos Smyrnaios “Les GAFAM : notre oligopole quotidien” (20 mars 2017, 17h)
Enseignement ouvert aux auditeurs libres. Pour s’inscrire, merci de renseigner le formulaire.
Dans le cadre de notre séminaire EHESS Etudier les cultures du numérique, nous avons le plaisir d’accueillir Nikos Smyrnaios (Université Toulouse 3) et auteur de l’ouvrage Les GAFAM contre l’internet : une économie politique du numérique (INA Editions, 2017).
Pour suivre le séminaire sur Twitter : hashtag #ecnEHESS.
ATTENTION : CHANGEMENT DE SALLE : La séance se déroulera le lundi 20 mars 2017, de 17h à 20h, salle 13, 6e étage, EHESS, 105 bd. Raspail, Paris 6e arr.
Titre : GAFAM: logiques et stratégies de l’oligopole qui a pris le contrôle de nos outils numériques
Intervenant : Nikos Smyrnaios
Résumé : “Quelques startups autrefois ‘sympathiques’ ont donné naissance à des multinationales oligopolistiques qui régissent le cœur informationnel de nos sociétés au point qu’un acronyme, GAFAM, leur soit dédié. Google, Apple, Facebook, Amazon et Microsoft sont les produits emblématiques d’un ordre capitaliste nouveau qu’ils contribuent eux mêmes à forger, légitimer et renforcer. Cet ordre néolibéral s’inscrit résolument contre le projet originel de l’internet. La conférence s’intéressera précisément aux conditions qui ont permis l’émergence de cet oligopole et aux stratégies que celui-ci met en œuvre pour contrôler nos outils de communication quotidiens et les plateformes qui nous utilisons pour accéder à l’information et aux contenus en ligne (exploitation du travail, évitement de l’impôt, concentration horizontale et verticale, infomédiation, exploitation des données personnelles etc.).”
Prochaines séances
 |
10 avril 2017 Mary Gray (Microsoft Research) Behind the API: Work in On-Demand Digital Labor Markets |
 |
15 mai 2017 Louis-David Benyayer (Without Model) et Simon Chignard (Etalab) Les nouveaux business models des données |
 |
19 juin 2017 Juan Carlos De Martin (NEXA Center for Internet & Society) Looking back at the 2015 ‘Declaration of Internet Rights’ |
Ni bots, ni e-militants : François Fillon et l’exploitation des travailleurs du clic
Ce billet a été publié dans L’Obs / Rue89 le 3 février 2017.
Dans le sillage du PenelopeGate, l’affaire des prétendus “bots” de François Fillon représente une illustration parfaite de l’impact des dispositifs d’extraction de travail implicite de foules d’usagers de plateformes numériques (digital labor) sur les modalités de délibération démocratique. Ici, je présente quelques réflexions (initialement publiées sous forme de tweets) pour encourager le débat sur ces questions.
Tout d’abord, un élément de contexte: en novembre 2016, j’avais commis une tribune dans l’Obs sur le rôle des “tâcherons du clic” dans la campagne de Donald Trump. Il y était surtout question de micro-tâches (une slide, une fake news, un like, un partage) payées quelques centimes (ou parfois beaucoup moins que ça) à des travailleurs issus de pays émergents ou en voie de développement. Certains ont été surpris par ces quelques exemples, mais il existe des vrais marchés du micro-travail, où marques, particuliers ou personnalités politiques passent des annonces comme celui-ci :
Annonce parue sur Freelancer.com
Et en France ? Lors d’un entretien récent sur Médiapart, François Bonnet me demandait si le succès de Fillon à la primaire de la droite était dû au même phénomène. Et moi de lui répondre : “Je ne pense pas que Fillon soit le type de candidat qui va acheter du digital labor dans des fermes à clic” (11’58”).
Par cela je voulais dire que, somme toute, je ne le croyais pas à ce point sans scrupules. Mais les règles du marketing politique contemporain sont impitoyables. Et personne n’y échappe. Même les socialistes français ont eu recours à des plateformes qui monétisent des clics. Mais dans leur cas il s’agissait moins d’un achat direct de fans ou de partages que d’un système pyramidal de sollicitation d’influencers qui à leur tour mettaient à contribution les membres de leurs “commus”. Et on parle de 35-70¢/like— donc on est loin du salaire de la faim des “fermes à clic” dans le Sud global (0,006¢/clic).
Et Fillon dans tout ça ? Suite au PenelopeGate, il a eu besoin d’un petit coup de buzz sur internet. Et tout le monde a hâtivement crié au bot.
Parce que les bots c’est l’avant-garde, parce que les bots font baver les technofuturistes et insurger les luddites à deux sous, parce que les bots font jaser les journalistes qui ont peur d’être remplacé.e.s à leur tour. Néanmoins, quelques minutes après, Libération relate qu’il ne s’agit pas d’une armée d’entités artificielles, mais bien d’une plateforme qui tweete automatiquement à partir de vrais comptes Twitter et Facebook. Rien de différent d’une de ces applis que chacun d’entre nous a pu installer, à un moment ou à un autre, et qui spamme nos followers de messages sur nos exploits sportifs, nos paper.li (remember ?), et nos scores à Pokémon Go (remember ???).
Et comme toujours, derrière le bots se cachent des foules de micro-travailleurs humains. C’est la règle du crowdturfing, terme hybride de crowdsourcing (externalisation de tâches productives à des foules d’usagers/travailleurs) et astroturfing (faux activisme). C’est une pratique qui se généralise pour contrer la capacité des grandes plateformes à reconnaître et intercepter le trafic artificiel : au lieu de payer 100$ à un développeur qui va coder pour vous un logiciel qui envoie 10 000 tweets, vous pouvez recruter 10 000 tâcherons du clic payés 1¢ chacun, voir moins. Simple non ? Voilà un article qui vous explique comment il fonctionne. On retrouve deux cas de figure : la version centralisée du crowdturfing (cf. les fans Facebook de Donald Trump) et celle distribuée (basée sur des recruteurs intermédiaires, comme dans le cas de la Primaire de Gauche).
Source : Serf and Turf: Crowdturfing for Fun and Profit (Wang et al., 2012)
Et la plateforme de Fillon ? Elle fait un crowdturfing d’un type particulier, *sans échange monétaire*. Mais il s’agit bel et bien de digital labor, c’est à dire d’une suite de tâches allouées à des cliqueurs : s’inscrire, se connecter à son compte Twitter et Facebook, “réaliser des actions”.
Captures d’écran E-militants de l’Alternance
Zéro spontanéité, zéro loisir, zéro autonomie. Rien qu’une suite d’ordres pénibles et aliénants à réaliser “en zombie”. Le tout est mesuré, tracé, surveillé, et transformé en gratification non pas monétaire (c-à-d un micro-salaire) mais en “points”. Le maître mot ici, c’est gamification. La majorité des tâches valent 1 point. Certaines, plus urgentes/importantes, sont rémunérées 2 ou 3 points. D’autres ont des objectifs a atteindre (116 tweets ou 2k partages FB)…
Captures d’écran E-militants de l’Alternance
Mais alors, vous me direz, si ce n’est pas payé et en plus c’est un jeu, ce n’est pas du travail. Ah my dear friends, si vous saviez… Les mécanismes de ludification sont inhérents à la gestion du travail sur les plateformes numériques. Amazon Mechanical Turk les adopte, Uber les adopte, Facebook les adopte.
Derrière la ludification, le spectre de l’exploitation. Déjà en 2013, le philosophe Ian Bogost proposait de remplacer la notion de “gamification” par celle “exploitationware” (logiciel d’exploitation) :
“In particular, gamification proposes to replace real incentives with fictional ones. Real incentives come at a cost but provide value for both parties based on a relationship of trust. By contrast, pretend incentives reduce or eliminate costs, but in so doing they strip away both value and trust.
When companies and organizations provide incentives to help orient the goals of the organization against the desires of its constituency, they facilitate functional relationships, one in which both parties have come to an understanding about how they will relate to one another. Subsequent loyalty might exist between an organization and its customers, an organization and its employees, or a government and its citizens.
For example: an airline offers a view of its business model, and frequent flyers who advance those expectations get rewards. An employer offers a view of its goals, and employees who help meet those goals enjoy raises, perks, and promotions. When loyalty is real it’s reciprocal. It moves in two directions. Something real is at stake for both parties.
Gamification replaces these real, functional, two-way relationships with dysfunctional perversions of relationships. Organizations ask for loyalty, but they reciprocate that loyalty with shams, counterfeit incentives that neither provide value nor require investment.”[Bogost, I. (2013). Exploitationware. In R. Colby, M. S. S. Johnson, & R. S. Colby (Éd.), Rhetoric/Composition/Play through Video Games (p. 139‑147). Palgrave Macmillan]
Bref, on revient aux bases du digital labor : ce n’est pas parce que vous n’êtes pas payé.e.s que vous ne travaillez pas pour autant. Et ce n’est pas parce que François Fillon inscrit ses tâcherons dans un mécanisme ludique que sa campagne est moins fondée sur l’extraction de valeur à partir de tâches réalisées par des usagers de plateformes numériques. La prise de conscience de cette relation de “parasubordination technique“ entre tâcherons du clics (rémunérés ou pas) et recruteurs (marques, politiques, etc) est nécessaire pour éviter les dérives culturelles et politiques auxquelles ce système nous expose.
[Vidéo] MOOC : du crowsourcing au digital labor (janvier 2017)
J’ai été l’invité du Dominique Moulon pour assurer 6 épisodes du MOOC que l’Ecole Professionnelle Supérieure d’Arts Graphiques de la ville de Paris (EPSAA) consacre au médias numériques.
Les thématiques abordées sont :
1. Du crowdsourcing au digital labor
2. Internet et pouvoir politique
3. Pratique et usage des réseaux
4. Réseaux sociaux contre vie privée ?
Qui a fait élire Trump ? Pas les algorithmes, mais des millions de “tâcherons du clic” sous-payés
Ce billet a été publié par L’Obs / Rue89 le 19 novembre 2016. Une version en anglais est disponible ici.
Le débat sur les responsabilités médiatiques (et technologiques) de la victoire de Trump ne semble pas épuisé. Moi par contre je m’épuise à expliquer que le problème, ce ne sont pas les algorithmes. D’ailleurs, la candidate “algorithmique” c’était Clinton : elle avait hérité de l’approche big data au ciblage des électeurs qui avait fait gagner Obama en 2012, et sa campagne était apparemment régie par un système de traitement de données personnelles surnommé Ada.
Au contraire, le secret de la victoire du Toupet Parlant (s’il y en a un) a été d’avoir tout misé sur l’exploitation de masses de travailleurs du clic, situés pour la plupart à l’autre bout du monde. Si Hillary Clinton a dépensé 450 millions de dollars, Trump a investi un budget relativement plus modeste (la moitié en fait), en sous-payant des sous-traitants recrutés sur des plateformes d’intermédiation de micro-travail.
Une armée de micro-tâcherons dans des pays en voie de développement
Vous avez peut-être lu la news douce-amère d’une ado de Singapour qui a fini par produire les slides des présentation de Trump. Elle a été recrutée via Fiverr, une plateforme où l’on peut acheter des services de secrétariat, graphisme ou informatique, pour quelques dollars. Ses micro-travailleurs résident en plus de 200 pays, mais les tâches les moins bien rémunérées reviennent principalement à de ressortissants de pays de l’Asie du Sud-Est. L’histoire édifiante de cette jeune singapourienne ne doit pas nous distraire de la vraie nouvelle : Trump a externalisé la préparation de plusieurs supports de campagne à des tacherons numériques recrutés via des plateformes de digital labor, et cela de façon récurrente. L’arme secrète de la victoire de ce candidat raciste, misogyne et connu pour mal payer ses salariés s’avère être l’exploitation de travailleuses mineures asiatiques. Surprenant, non ?
Hrithie, la “tâcheronne numérique” qui a produit les slides de Donal Trump…
Mais certains témoignages de ces micro-travailleurs offshore sont moins édifiants. Vous avez certainement lu l’histoire des “spammeurs de Macédoine”. Trump aurait profité de l’aide opportuniste d’étudiants de milieux modestes d’une petite ville post-industrielle d’un pays ex-socialiste de l’Europe centrale devenus des producteurs de likes et de posts, qui ont généré et partagé les pires messages de haine et de désinformation pour pouvoir profiter d’un vaste marché des clics.
How Teens In The Balkans Are Duping Trump Supporters With Fake News
A qui la faute ? Au modèle d’affaires de Facebook
A qui la faute ? Aux méchants spammeurs ou bien à leur manditaires ? Selon Business Insider, les responsables de la comm’ de Trump ont directement acheté presque 60% des followers de sa page Facebook. Ces fans et la vaste majorité de ses likes proviennent de fermes à clic situées aux Philippines, en Malaysie, en Inde, en Afrique du Sud, en Indonesie, en Colombie… et au Méxique. (Avant de vous insurger, sachez que ceci est un classique du fonctionnement actuel de Facebook. Si vous n’êtes pas au fait de la façon dont la plateforme de Zuckerberg limite la circulation de vos posts pour ensuite vous pousser à acheter des likes, cette petite vidéo vous l’explique. Prenez 5 minutes pour finaliser votre instruction.)
Bien sûr, le travail dissimulé du clic concerne tout le monde. Facebook, présenté comme un service gratuit, se révèle aussi être un énorme marché de nos contacts et de notre engagement actif dans la vie de notre réseau. Aujourd’hui, Facebook opère une restriction artificielle de la portée organique des posts partagés par les utilisateurs : vous avez 1000 « amis », par exemple, mais moins de 10% lit vos messages hilarants ou regarde vos photos de chatons. Officiellement, Facebook prétend qu’il s’agit ainsi de limiter les spams. Mais en fait, la plateforme invente un nouveau modèle économique visant à faire payer pour une visibilité plus vaste ce que l’usager partage aujourd’hui via le sponsoring. Ce modèle concerne moins les particuliers que les entreprises ou les hommes politiques à la chevelure improbable qui fondent leur stratégies marketing sur ce réseau social : ces derniers ont en effet intérêt à ce que des centaines de milliers de personnes lisent leurs messages, et ils paieront pour obtenir plus de clics. Or ce système repose sur des « fermes à clics », qui exploitent des travailleurs installés dans des pays émergents ou en voie de développement. Cet énorme marché dévoile l’illusion d’une participation volontaire de l’usager, qui est aujourd’hui écrasée par un système de production de clics fondé sur du travail caché—parce que, littéralement, délocalisé à l’autre bout du monde.
Flux de digital labor entre pays du Sud et pays du Nord
Une étude récente de l’Oxford Internet Institute montre l’existence de flux de travail importants entre le sud et le nord de la planète : les pays du Sud deviennent les producteurs de micro-tâches pour les pays du Nord. Aujourd’hui, les plus grands réalisateurs de micro-taches se trouvent aux Philippines, au Pakistan, en Inde, au Népal, à Hong-Kong, en Ukraine et en Russie, et les plus grands acheteurs de leurs clics se situent aux Etats-Unis, au Canada, en Australie et au Royaume-Uni. Les inégalités classiques Nord/Sud se reproduisent à une échelle planétaire. D’autant qu’il ne s’agit pas d’un phénomène résiduel mais d’un véritable marché du travail : UpWork compte 10 millions d’utilisateurs, Freelancers.com, 18 millions, etc.
Nouvel “i-sclavagisme” ? Nouvel impérialisme numérique ? Je me suis efforcé d’expliquer que les nouvelles inégalités planétaires relèvent d’une marginalisation des travailleurs qui les expose à devoir accepter les tâches les plus affreuses et les plus moralement indéfendables (comme par exemple aider un candidat à l’idéologie clairement fasciste à remporter les élections). Je l’explique dans une contribution récente sur la structuration du digital labor en tant que phénomène global (attention : le document est en anglais et fait 42 pages). Que se serait-il passé si les droits de ces travailleurs du clics avaient été protégés, s’ils avaient eu la possibilité de résister au chantage au micro-travail, s’il avaient eu une voix pour protester contre et pour refuser de contribuer aux rêves impériaux d’un homme politique clairement dérangé, suivi par une cour de parasites corrompus ? Reconnaître ce travail invisible du clic, et le doter de méthodes de se protéger, est aussi – et avant tout – un enjeux de citoyenneté globale. Voilà quelques extraits de mon texte :
Extrait de “Is There a Global Digital Labor Culture?” (Antonio Casilli, 2016)
Conclusions:
- Pour être plus clair : ce ne sont pas ‘les algorithmes’ ni les ‘fake news’, mais la structure actuelle de l’économie du clic et du digital labor global qui ont aidé la victoire de Trump.
- Pour être ENCORE plus clair : la montée des fascismes et l’exploitation du digital labor s’entendent comme larrons en foire. Comme je le rappelais dans un billet récent de ce même blog :
L’oppression des citoyens des démocraties occidentales, écrasés par une offre politique constamment revue à la baisse depuis vingt ans, qui in fine a atteint l’alignement à l’extrême droite de tous les partis dans l’éventail constitutionnel, qui ne propose qu’un seul fascisme mais disponible en différents coloris, va de pair avec l’oppression des usagers de technologies numériques, marginalisés, forcés d’accepter une seule offre de sociabilité, centralisée, normalisée, policée, exploitée par le capitalisme des plateformes qui ne proposent qu’une seule modalité de gouvernance opaque et asymétrique, mais disponible via différents applications.
[Slides séminaire #ecnEHESS] Christophe Benavent : Plateformes et gouvernementalité algorithmique (21 nov. 2016, 17h)
Pour la première séance de mon séminaire EHESS Étudier les cultures du numérique : approches théoriques et empiriques nous avons eu le plaisir d’accueillir Christophe Benavent, professeur à l’Université Paris Ouest, et auteur de l’ouvrage “Plateformes. Sites collaboratifs, marketplaces, réseaux sociaux” (FyP Editions, 2016).
Le séminaire a eu lieu le lundi 21 novembre 2016, de 17h à 20h, à l’EHESS.
—–
Titre : D’un versant à l’autre : gouvernementalité algorithmique des plateformes.
Intervenant : Christophe Benavent
[pdfjs-viewer url=”http%3A%2F%2Fwww.casilli.fr%2Fwp-content%2Fuploads%2F2016%2F11%2FBenaventEhess211116.pdf” viewer_width=100% viewer_height=460px fullscreen=true download=true print=true]
Résumé : “Si la notion de marché multi-versants fournit un cadre utile pour penser l’émergence, la croissance et la compétition de l’économie des plateformes, sa limite est d’ignorer les modalités pratiques de leur gestion. Ces dernières passent essentiellement par une propagation algorithmique de dispositifs (architecture des capacitations et des restrictions, surveillance et police, mécanismes d’incitation et de motivation) destinés in fine à orienter et conditionner les conduites des individus de telle sorte à obtenir des propriétés particulières des populations qui caractérisent ces versants et se constituent en ressources. L’imperfection des algorithmes, qu’elle soit intrinsèque (défaut de conception, données inappropriées..) ou extrinsèque (dépendance des données ou computation sociale), nécessite qu’on leur attribue une politique propre, qui impliquerait une exigence de redevabilité dont on devra aussi et surtout évaluer les conditions politiques.”
—–