admin

Interview dans Sciences et Avenir (HS 35, 25 sept. 2019)

« Dans les usines à clic, des millions de petites mains bien humaines »

PROPOS RECUEILLIS PAR LOÏC CHAUVEAU

L’enrichissement continu des logiciels et des bases de données nécessite la contribution de « tâcherons » sans rémunération fixe ni droits sociaux. Une inflexion inquiétante du monde du travail. ANTONIO CASILLI Sociologue à Télécom Paris

page hors_serie_35

Selon vous, l’intelligence artificielle ne serait rien d’autre que du bluff?

Je ne me reconnais pas dans cette idée que l’on m’attribue parfois. Je dirais plutôt que, pour justifier des formes nouvelles de discipline du travail, pouvoirs politiques et économiques utilisent l’intelligence artificielle de façon idéologique. Quand ils en débattent, ces acteurs se concentrent sur les pertes d’emplois qui menacent les moins qualifiés. Mais pour peu que l’on regarde « sous le capot », on s’aperçoit que les masses de données nécessaires pour entraîner les machines sont introduites dans le système par des petites mains bien humaines! En Afrique, en Asie, de véritables « usines à clic » voient des millions de personnes nourrir des algorithmes de reconnaissance faciale, d’identification des objets pour les voitures autonomes, d’enregistrement de voix pour les enceintes connectées. Un travail que je qualifie de digital labor. Si quelqu’un n’apprend pas à une voiture autonome à quoi ressemble un piéton, celle-ci restera aveugle.

A-t-on une idée du nombre de personnes accomplissant aujourd’hui ce digital labor ?

Difficile de répondre, car il n’est pas toujours visible. On estime que, dans le monde, plusieurs dizaines de millions de personnes fabriquent des données. En France, notre projet Digital Platform Labor, qui a cherché à quantifier ce micro-travail, est arrivé au total de 260000 personnes inscrites à 23 plateformes proposant du travail « au clic ». Ce sont en majorité des femmes au foyer qui arrondissent leurs fins de mois avec ce travail faiblement rémunéré (moins de 300 euros par mois). Mais on peut y ajouter les 55 millions de Français qui, gratuitement, renseignent les Gafa en « likant », en répondant à un « Captcha » demandant de prouver que l’on n’est pas un robot. À chaque fois, la requête de l’internaute, sa géolocalisation, la consultation d’un site, un paiement, alimentent les bases de données sans lesquelles des technologies « intelligentes » n’existent pas.

Mais un jour, cet amoncellement de données finira bien par rendre ce travail inutile?

C’est l’argument entendu dans nombre de start-up : il arrivera un moment où les algorithmes auront ingurgité suffisamment de données pour parer à toutes les éventualités. Mais est-ce bien certain? L’intelligence artificielle arrivera-t-elle un jour à rivaliser avec le cerveau d’un enfant qui reconnaît immédiatement un chat d’un chien quel que soit leur aspect? En outre, le consommateur attend que le service qui lui est proposé soit toujours amélioré. Pour répondre à ces attentes, il est nécessaire d’enrichir en permanence les logiciels utilisés. Enfin, la concurrence pour vendre des objets « intelligents » est féroce. La course au « petit plus » qui permet de faire la différence oblige à relancer continuellement l’apprentissage des machines.

Quel est l’encadrement juridique de ces travailleurs?

Dans cette nouvelle économie, c’est le point le plus inquiétant. La relation salariale est mise entre parenthèses. C’est un travail « à la tâche ». Les nouveaux « tâcherons » ne bénéficient pas d’une rémunération fixe, ni de droits sociaux, ni d’une représentation auprès des donneurs d’ordre. Ils ne peuvent revendiquer la juste part de leur travail face à des plateformes bien décidées à capter l’essentiel de la richesse créée. La révolte des chauffeurs Uber ou des livreurs Deliveroo montre que ce système a cependant des limites.

http://diplab.eu/ Antonio Casilli, En attendant les robots, Seuil, 2019

[Vidéo] Leçon inaugurale année universitaire, département sociologie, Université de Genève (25 sept. 2019)

La Faculté des sciences de la société et le Département de sociologie de l’Université de Genève m’ont fait l’honneur de m’accueillir comme conférencier pour la leçon inaugurale de l’année universitaire 2019/2020.

Les poinçonneurs de l’IA. Le digital labor qui rend l’intelligence artificielle (im)possible

En 2003, le pionnier des systèmes experts Edward Feigenbaum qualifiait l’intelligence artificielle (IA) de « destinée manifeste » de nos sociétés. Ce slogan, emprunté de la doctrine politique du providentialisme américain, constitue un remède idéologique aux défaillances d’une discipline qui, depuis des décennies, n’arrive pas à s’attaquer à « la vraie majesté de l’intelligence générale ». Les déclarations des scientifiques, le buzz des investisseurs et les prises de position des décideurs politiques ne relèvent pas de la pensée magique : elles sont des vœux constamment renouvelés, non pas pour réaliser un objectif scientifique, mais pour affirmer une certaine vision du travail…

À l’occasion de la conférence de la rentrée de la sociologie, Antonio Casilli reviendra sur son dernier ouvrage : « En Attendant les robots. Enquête sur le travail du clic » (Seuil, 2019).

Les plateformes numériques mobilisent les compétences, le temps et les gestes productifs de leurs usagers pour produire de la valeur–et pour rendre possible l’automatisation. Des services de livraison express basés sur des applications mobiles aux plateformes de micro-travail comme Amazon Mechanical Turk, aux médias sociaux qui incitent leurs usagers à produire d’énormes masses de données personnelles, les usagers sont désormais mis à contribution pour entraîner des IA. Transcription, annotation, reconnaissance visuelle ou étiquetage de contenus : autant d’activités déléguées à des usagers sous forme de micro-tâches peu ou pas rémunérées. La recherche récente sur ces nouvelles formes de “digital labor” dresse un tableau surprenant des évolutions du marché du travail. À l’heure de l’automatisation intelligente, le travail humain est soumis à une pression pour le remplacement qui aboutit au résultat inattendu de pousser les usagers-travailleurs à réaliser des activités nécessaires de supervision de l’apprentissage des machines mêmes.

Grand entretien dans le 1 Hebdo (25 sept. 2019)

Dans le numéro 265 de l’hebdomadaire Le 1, j’ai accordé un entretien au journaliste Julien Bisson.

« Des formes de subordination et de flexibilisation de plus en plus extrêmes »

Antonio Casilli, sociologue

Le titre de votre essai En attendant les robots offre un clin d’œil littéraire pour décrire le contexte actuel : l’intelligence artificielle (IA) tarde-t-elle à arriver ?

Dans la pièce de Samuel Beckett, Godot n’arrive jamais. Il est une promesse constamment renouvelée, un horizon pour certains utopique, pour d’autres apocalyptique, qui ne se réalise jamais. Je trouve que la métaphore colle très bien à la situation actuelle : la projection imaginaire et fantasmatique que nous faisons sur les intelligences artificielles et l’automatisation, qui n’est pas là aujourd’hui, mais le sera demain peut-être, ou certainement après-demain. En réalité, elle est constamment repoussée. Mais en attendant, on est sujet à des formes de subordination, de flexibilisation de plus en plus extrêmes, d’encasernement de la force de travail de plus en plus poussées, toujours sous la menace, comme une sorte d’épée de Damoclès, de ces robots qui feraient disparaître des millions ou des dizaines de millions d’emplois. 

La réalité est que l’emploi disparaît à la suite de décisions suivant des logiques capitalistes, et non par la faute des robots. Les décideurs du monde numérique, à commencer par les PDG et les actionnaires de ces plateformes, peuvent jouer la carte des robots pour dire : « Ce n’est pas ma faute, ce sont les robots qui arrivent, c’est l’automatisation. » Alors qu’en réalité, ces personnes qui sont virées, qui sortent par la porte de l’emploi classique, rentrent par la fenêtre en tant que microtâcherons. Il ne s’agit donc pas d’un grand remplacement technologique, mais d’un grand déplacement de la rémunération de ce travail. Ce phénomène, on le voit dans des tas de contextes productifs dans lesquels des usines prétendent automatiser leur production, mais recrutent ensuite d’autres personnes pour faire un travail bien plus flexibilisé ou bien plus usant. Cela se produit à l’échelle du monde, dans le contexte du digital labor et du travail plateformisé.[…]

Le programme du séminaire “Étudier les cultures du numérique” (#ecnEHESS) 2019-2020 enfin disponible !

Mon séminaire EHESS Étudier les cultures du numérique (mieux connu comme #ecnEHESS) est de retour pour la 12e année consécutive !

Pour l’année 2019/20, le séminaire prévoit 9 séances (tot. 24 heures de cours), dont 5 ouvertes aux auditeurs libres. Grâce à un partenariat avec la Gaîté Lyrique, les séances publiques de 2020 auront lieu dans l’auditorium du 3bis rue Papin, 75003 Paris, et prendront la forme de conférences art & technologie. Les autres séances se dérouleront à l’Institut des Systèmes Complexes (ISC-PIF, 113 rue Nationale 75013 Paris).

Cet enseignement est une unité du tronc commun du master en sciences humaines et sociales de l’EHESS, mention Savoirs en sociétés (SES), parcours HSTS (Histoire des Sciences, des Techniques et des Savoirs), en collaboration avec le Centre Alexandre Koyré.

Structure — Le programme se compose de deux types de séances :

  • les séances thématiques retracent les grandes questions de la sociologie du numérique et sont réservées en priorité aux étudiant•es EHESS (mais peuvent accueillir des auditeur•rices libres dans la mesure des places disponibles) ;
  • les séances d’approfondissement, où des invité•es externes présentent leurs recherches en cours,  s’inscrivent dans la tradition du séminaire #ecnEHESS et sont ouvertes à tou•tes.
  • Une séance finale de restitution des travaux des étudiant•es aura lieu le jeudi 11 juin 2019. Lors de cette session, les étudiant•es présenteront une synthèse portant sur un sujet ayant trait aux usages sociaux des technologies numériques, choisi en accord avec l’enseignant. Le rendu prendra la forme d’une contributions à Wikipédia (création et modification d’articles) et d’une présentation orale.

Pour vous inscrire, merci de renseigner le formulaire de contact (option “seminar”).

PROGRAMME #ecnEHESS

1.         Jeudi 31 oct. 2019, 16h-19h, Institut des Systèmes complexes (ISC-PIF), salle 1.2.
Antonio Casilli Introduction au séminaire : socialisation et communautés sur internet
Séance réservée en priorité aux étudiant•es EHESS

2.         Jeudi 14 nov. 2019, 16h-19h, Institut des Systèmes complexes (ISC-PIF), salle 1.1.
Madeleine Pastinelli (Université Laval, Québec) Enquêter en ligne : stratégies de recherche et sociabilités numériques, des canaux IRC aux communautés Facebook
Séance ouverte aux auditeurs libres

3.         Jeudi 12 déc. 2019, 16h-19h, Institut des Systèmes complexes (ISC-PIF), salle 1.1.
Antonio Casilli Réseaux et capital social en ligne
Séance réservée en priorité aux étudiant•es EHESS

4.         Jeudi 9 janv. 2020, 19h-21h, Gaîté Lyrique.
Sarah T. Roberts (UCLA) Behind the screen: The hidden digital labor of online content moderation 🇬🇧
Séance ouverte aux auditeurs libres

5.         Jeudi 13 févr. 2020, 16h-19h, Institut des Systèmes complexes (ISC-PIF), salle 1.1.
Antonio Casilli Vie privée et capitalisme de surveillance à l’heure des plateformes
Séance réservée en priorité aux étudiant•es EHESS

6.         Jeudi 12 mars. 2020, 19h-21h, Gaîté Lyrique.
Silvio Lorusso (Institute of Network Cultures of Amsterdam) Entreprecariat: Everyone is an entrepreneur, nobody’s safe 🇬🇧
Séance ouverte aux auditeurs libres

7.         Jeudi 9 avr. 2020, 19h-21h, Gaîté Lyrique.
Antonio Casilli Travail, automation et digital labor
Séance ouverte aux auditeurs libres

8.         Jeudi 28 mai 2020, 19h-21h, Gaîté Lyrique.
Lilly Irani (UCSD) The cultural work of micro-work 🇬🇧
Séance ouverte aux auditeurs libres

9.         Jeudi 11 juin 2020, 14h-18h, Institut des Systèmes complexes (ISC-PIF), salle 1.2.
Travaux des étudiant•es du séminaire
Séance réservée en priorité aux étudiant•es EHESS

Mon ouvrage «En attendant les robots», Grand Prix de la Protection Sociale 2019

Mon livre En attendant les robots – Enquête sur le travail du clic, paru en janvier 2019 aux Éditions du Seuil, vient de recevoir le Grand Prix de la Protection Sociale 2019 décerné par l’École nationale supérieure de Sécurité sociale et la Caisse des dépôts.

La cérémonie de remise des prix a lieu le mercredi 9 octobre 2019, à 19h, à l’Hôtel de Pomereu, 67 Rue de Lille, 75007 Paris.

Inscription libre en renseignant ce formulaire.

L’autre lauréat du Grand prix pour cette années est Christophe Capuano, historien à l’Université Lumière Lyon 2, auteur de « Que faire de nos vieux ? Une histoire de la protection sociale de 1880 à nos jours ».

Interviewé dans l’enquête Mediapart sur assistants vocaux, digital labor et privacy (31 août 2019)

Le site d’information et d’enquête Mediapart publie les révélations depuis l’usine à “intelligence artificielle artificielle” de Siri, signées Jerome Hourdeaux. Le journaliste donne la parole aux micro-travailleurs français travaillant depuis le siège de Cork en Irlande d’un sous-traitant du géant de Cupertino, et met la main sur les documents qui attestent l’étendue des abus d’Apple. J’ai été interviewé dans le cadre de cette enquête et j’ai pu apporter mon éclairage à la publication de ces sources inédites.

Par-delà les risques psychosociaux qu’encourent les micro-travailleurs (isolement, TSPT, perte de sens), il y a un problème évident en termes de violation systématique de la vie privée des usagers des produits Apple. L’entreprise a depuis promis de mettre fin à ces pratiques. Crédible ? Pas vraiment, à mon avis.

La partie vraiment passionnante de l’enquête de Mediapart est la plongée dans le fonctionnement concret du micro-travail. Ça rassemble à quoi une micro-tâche de retranscription et d’annotation de conversations captées par une IA ? Comment se structure le workflow de Siri ?

Capture d’écran de l’interface pour la réalisation de micro-tâche de transcription de l’assistant vocal Siri. Source : Mediapart.

A cette révélation s’en ajoute une autre, celle-ci des plus inquiétantes. Les micro-travailleurs recrutés par Apple ne se limitent pas à retranscrire des phrases anodines que n’importe qui pourrait prononcer. Ils gèrent des données à caractère personnel qui identifient les usagers, lesquels font référence dans leurs conversations à noms, adresses, situations souvent sensibles. De surcroît, pour vérifier que Siri aie bien répondu aux requêtes formulées par les usagers, Apple donne à ses micro-travailleurs accès à tous leurs fichiers personnels via une fonctionnalité qui, selon Mediapart, s’appelle user data browser.

L’usage de ces données n’est pas restreint ni discret, puisque les assistants virtuels comme Siri ont besoin de millions d’exemples pour apprendre à interpréter une simple requête. Leur apprentissage machine nécessite la mise sur écoute systématique et massive des usagers. Ce n’est pas un accident ni le problème de la seule Apple.

J’ai eu l’occasion de l’affirmer ailleurs, et je le répète dans l’article de Mediapart : tous les GAFAM ont désormais été démasqués. Ils ont menti à propos du respect de la vie privée de leurs usagers, mais ils ont surtout menti sur l’artificialité de leurs intelligences artificielles.


Assistant vocal d’Apple: le calvaire des salariés

PAR JÉRÔME HOURDEAUX
ARTICLE PUBLIÉ LE SAMEDI 31 AOÛT 2019

Assistant vocal d’Apple: le calvaire des salariés

À la fin du mois de juillet, TheGuardian et El País révélaient que des centaines de personnes étaient chargées d’écouter les conversations d’utilisateurs de Siri, l’assistant vocal d’Apple, afin de corriger ses résultats. Après avoir suspendu le programme qui reprendra à l’automne, la société vient d’annoncer le licenciement de 300 salariés.

Alors que, acculé par les révélations sur l’écoute des utilisateurs de Siri, Apple vient de mettre à la porte plusieurs centaines de salariés, Mediapart a pu recueillir les témoignages de plusieurs d’entre eux et consulter des documents détaillant le travail de ces employés, chargés d’écouter les utilisateurs.

Au total, au moins 300 personnes travaillant pour des sous-traitants d’Apple à Cork, en Irlande, se sont vu notifier la fin de leur contrat vendredi dernier, rapporte mercredi 28 août The Guardian.

Cette annonce n’a pas vraiment été une surprise pour les salariés concernés. Depuis le 2 août, nombre d’entre eux avaient été placés en chômage technique après la révélation, par The Guardian et El País, de la nature réelle de leur travail : écouter les utilisateurs d’Apple parler à Siri. Cette intelligence artificielle, embarquée sur l’ensemble des appareils vendus par la marque à la pomme, permet d’activer une application, d’écouter de la musique, de faire une recherche sur Internet ou encore d’appeler un contact, simplement en donnant un ordre oral.

Les articles du Guardian et d’El País n’étaient pourtant pas en eux-mêmes des scoops. Plusieurs chercheurs avaient déjà expliqué que les intelligences artificielles le sont beaucoup moins que ce que leurs concepteurs prétendent. Incapables de réellement « apprendre » par eux-mêmes, les algorithmes ont besoin de centaines de milliers d’exemples, fournis par des êtres humains.

Les deux quotidiens rapportaient en revanche les témoignages inédits d’anciens salariés de sous- traitants d’Apple ayant passé leurs journées à écouter des conversations de clients et à noter la réponse apportée par Siri. De plus, révélaient-ils, les différents appareils sur lesquels est embarqué l’assistant vocal ont une fâcheuse tendance à activer celui-ci à tout bout de champ.

Les salariés chargés d’écouter les extraits sonores enregistrés par Siri tombaient ainsi régulièrement sur des échanges particulièrement privés, comme lors de relations sexuelles ou encore lors de ce qui semblait être un trafic de drogue. En réaction, Apple avait annoncé la suspension de programmes d’amélioration de Siri, le temps de revoir ceux-ci et de les reprendre, sous une forme modifiée, à l’automne prochain.

Depuis, Mediapart a également recueilli les témoignages de plusieurs ex-salariés ayant travaillé dans les locaux de GlobeTech, l’une des deux principales sociétés travaillant pour Apple à Cork (l’autre étant Lionbridge). Ceux-ci confirment les informations du Guardian et d’El País et donnent des détails supplémentaires.

Les centaines de personnes travaillant pour Globetech et Lionbridge étaient affectées à de multiples « projets » correspondant aux différentes phases de vérification et de notation de Siri. Ces différentes tâches nécessitaient des compétences et des niveaux d’accréditation différenciés permettant, pour certaines d’entre elles, d’accéder aux données personnelles contenues dans l’appareil de l’usager.

Chaque salarié étant soumis à une clause de confidentialité, il est très difficile de savoir à quoi correspond exactement chacun de ses projets. Mais plusieurs documents internes et témoignages d’ex- salariés recueillis par Mediapart permettent d’avoir une idée assez précise du rôle des humains au cœur du fonctionnement de l’intelligence artificielle et de leurs conditions de travail.

Les salariés travaillant directement sur Siri sont classés en deux principales catégories. Il y a tout d’abord les « language analysts », qui travaillent sur les « bulk data », les données brutes, c’est-à-dire les extraits audio livrés sans autre information.

La tâche de base correspond aux programmes « 1.000 hours » (1 000 heures) et se décline au sein de projets spécifiques en fonction de l’appareil : « 1.000 hours iPhone », « 1.000 hours iPad », « 1.000 hours CarPlay », etc. Le salarié, connecté à une interface sur un réseau interne d’Apple, a accès à l’enregistrement audio et, dessous, la transcription automatique qui a été faite par l’algorithme. Il doit se contenter d’écouter la séquence, appelée « itération », et de corriger les éventuelles fautes de retranscription.

Le nombre d’itérations nécessaires au bon fonctionnement de Siri est impressionnant. Dans les documents consultés par Mediapart, un tableau d’objectifs trimestriel donne le chiffre de 609 309 extraits audio pour les clients francophones, 874 778 pour les Chinois, ou encore 716 388 pour les Japonais. Et ce, uniquement sur le troisième trimestre 2019 et pour l’iPad. S’ensuit, pour les employés, un rythme effréné afin d’atteindre un quota quotidien fixé à 1 300 itérations par jour.

L’autre catégorie d’employés correspond aux « data analysts » qui, eux, ont accès à certaines données personnelles des utilisateurs. Apple avait pourtant affirmé que ses salariés n’avaient pas les moyens d’identifier les personnes écoutées, notamment parce qu’ils ne disposaient pas de l’« user ID », l’identifiant.

C’est en partie vrai. Le nom de l’utilisateur ou son numéro n’apparaissent effectivement pas. Mais un petit menu intégré à l’interface d’Apple, le user data browser, permet d’effectuer des recherches parmi les données stockées dans l’appareil. Cette fonctionnalité est principalement intégrée à l’outil de notation de Siri, le Siri results widget (SRW).

Assistant vocal d’Apple: le calvaire des salariés

Celui-ci présente, en haut, l’extrait sonore et, en dessous à gauche, la réponse apportée par Siri à la requête. À droite, une série de questions permet de noter celle-ci. Et en dessous, le user data browser permet de fouiller dans les données de l’appareil pour vérifier que Siri a utilisé les bonnes informations.

Comme l’explique l’un des documents, « les données d’utilisateur peuvent être utiles pour comprendre l’intention de l’utilisateur. Par exemple, si l’utilisateur dit : “Montre coucher de soleil horizontal”, cela peut être dur à comprendre. Toutefois, si l’utilisateur a un album photo appelé “Couchers de soleil horizontaux”, ce que l’utilisateur voulait devient clair ».

Concernant les conditions de travail, les salariés des sous-traitants d’Apple sont un peu mieux lotis que beaucoup d’autres micro-travailleurs, tels que ceux décrits notamment par le sociologue Antonio Casilli, auteur du livre En attendant les robots (Seuil, janvier 2019) et membre du projet DipLab (Digital Platform Labor), à l’origine du rapport « Le micro-travail en France », sorti en avril 2019.

Ce nouveau sous-prolétariat numérique, ces « tâcherons du Web », travaillent bien souvent de chez eux, via des plateformes intermédiaires, et ne connaissent souvent même pas l’identité du commanditaire. Ils sont rémunérés à la tâche, le plus souvent quelques centimes d’euros.

À GlobeTech, les salariés disposent d’un contrat de travail de droit irlandais, avec un salaire mensuel d’environ 2 000 euros brut par mois, pour des journées de 7 h 30, pause déjeuner déduite, avec deux pauses de 15 minutes. Ils travaillent dans des locaux spécifiques d’où ils se connectent à l’interface d’Apple via un réseau sécurisé.

Les conditions de travail y sont strictes, et souvent mal vécues par les salariés. « Le pire, c’est le côté répétitif, les itérations qui reviennent constamment, du style “mets l’alarme à telle heure”, explique Antoine*, un des anciens salariés que Mediapart a rencontrés. Les gens étaient tous surdiplômés, des bac + 3 à bac + 5. Tout le monde s’ennuyait. La plupart des gens s’en allaient le plus tôt possible, dès qu’ils avaient fini leur quota journalier d’itérations. Je crois que personne ne reste plus de six mois. Même nos supérieurs avaient l’air de détester leur travail. »

« De plus, poursuit le jeune homme, on était hyper fliqués. Quand on ne faisait pas d’itération pendant plus de six minutes, on était considéré en pause. Il fallait envoyer chaque soir par mail le nombre d’itérations que l’on avait faites durant la journée. »« On pouvait être viré du jour au lendemain, confirme Gaël*, un autre ex-salarié. Le soir, votre superviseur pouvait venir vous voir pour vous dire : t’as pas fait tes stats aujourd’hui, tu pars. »

Beaucoup de salariés ont mal vécu le fait d’être les témoins de la vie privée des utilisateurs. Une bonne partie des requêtes concernent des ordres assez classiques, comme appeler un contact. « Le plus drôle que j’ai eu, c’est un “appel Frank Riester” », se souvient Antoine.

Mais certains se révèlent particulièrement intrusifs.

« Beaucoup de gens dictent leurs textos. Et on a donc beaucoup de “sextos” », raconte Antoine. Il y a également les cas de demande de recherche relative à des maladies par exemple. « On entend aussi beaucoup de voix d’enfant. On ne leur a pas demandé leur avis,

à eux ! », s’indigne Gaël, qui se souvient d’une voix enfantine demandant : « Dis Siri, tu peux me montrer une photo de vrai zizi ? »

Il y a également les nombreuses personnes qui utilisent Siri comme dictaphone, afin d’enregistrer des mémos vocaux. Antoine et Gaël sont ainsi tous deux tombés à de nombreuses reprises sur des extraits de professeurs, enregistrant leurs avis de conseils de classe.

Enfin, il y a les enregistrements accidentels, provoqués par un déclenchement involontaire de Siri. Car l’assistante vocale semble particulièrement sensible. « Ça s’active à tout bout de champ, confirme Antoine. J’ai remarqué que ça marchait notamment avec les phrases des autres assistants vocaux, par exemple si vous dites “OK Google”. »

Lorsqu’un salarié tombait sur un de ces enregistrements, il devait l’écouter et le signaler en cliquant sur un bouton « accidental trigger ». « C’était tout simplement le bouton sur lequel on appuyait le plus, se souvient Antoine. On pouvait entendre de tout. Ça pouvait être la musique d’une voiture pendant plusieurs minutes ou deux ados se racontant leurs drames. » Gaël, lui aussi, est tombé à plusieurs reprises sur des disputes amoureuses, des confessions intimes…

Parfois, le malaise ressenti par le salarié se transforme en traumatisme. Certains salariés peuvent être confrontés à des enregistrements dévoilant des pratiques illégales ou des situations de violence. « Je me souviens un jour d’une fille qui disait à sa copine, a priori à propos de son petit copain, un truc du style : “il est dangereux, il faut le faire enfermer”. Dans ces cas-là, on se sait pas quoi faire, on ne sait pas s’il y a réellement danger. » Gaël, de son côté, se souvient d’un enregistrement dans lequel un homme tient des propos explicitement pédophiles. « Ça m’a mis hors de moi, se souvient-il. Avons-nous un devoir moral à partir du moment où on surveille ? Est-ce qu’il n’y a pas un délit de complicité ? »

En page d’accueil du portail d’aide mis à la disposition des salariés par Apple, un message les prévient qu’ils peuvent être confrontés à « des propos vulgaires, des thèmes violents, pornographiques ou des sujets criminels » et les incite à contacter leur supérieur si besoin. Pourtant, dans la pratique, les salariés n’ont aucune information sur ce qui arrive par la suite.

« Ce genre de traumatisme est assez courant, explique Antonio Casilli. Il arrive même que certains travailleurs souffrent du syndrome de stress posttraumatique, notamment chez ceux chargés de la modération des commentaires. Des modérateurs de Microsoft et de Facebook ont déjà poursuivi leur employeur après avoir été frappés par ce syndrome. Dans le contexte des correcteurs de Siri, poursuit le sociologue, il y a un facteur supplémentaire qui joue : la difficulté de contextualisation. Ils sont confrontés à des extraits de discussions, des propos isolés, totalement déracinés du contexte général. Ils ne peuvent pas savoir s’il s’agit d’une provocation ou d’une exagération. Cela peut être plus perturbant que s’ils étaient présents physiquement. »

Dans ses travaux, Antonio Casilli a démontré à quel point les micro-travailleurs étaient indispensables au bon fonctionnement des intelligences artificielles. Dans ce cas, quelles mesures prendra Apple ? La marque à la pomme a annoncé au Guardian que le programme de notations de Siri reprendrait à l’automne, avec quelques modifications. Les utilisateurs auront notamment la possibilité de préciser qu’ils refusent d’être écoutés et les personnes chargées d’écouter les extraits sonores seront directement employées par Apple.

Antonio Casilli prend ces annonces « avec beaucoup de méfiance ». « Le travail de ces personnes est fondamental pour le fonctionnement d’un assistant vocal, rappelle-t-il. L’intelligence artificielle a besoin d’être entraînée et vérifiée. Sinon, elle ne marche pas. Ils vont donc devoir inventer une nouvelle manière de faire cet entraînement et cette vérification.

La solution consistant à internaliser ces tâches permettrait notamment d’imposer des contraintes de confidentialité accrue. Mais ça irait tout simplement à l’encontre des principes de gestion d’Apple. Une autre solution serait de morceler encore plus les tâches d’entraînement et de vérification et de les confier à des centres de gestion dans des pays tiers, poursuit le sociologue. Il y a tout de même eu une vague de révélations ces derniers mois, avec plusieurs travailleurs qui se sont transformés en lanceurs d’alerte. Et il semblerait que la plupart d’entre eux soient originaires de pays de l’Union européenne, où les législations sont plus protectrices qu’ailleurs. On peut imaginer qu’Apple cherche à installer ses centres de gestion dans des pays ayant une législation moins clémente. »

Gaël, lui aussi, est convaincu que le programme reprendra sous peu, peut-être en interne. « Ils vont se contenter de modifier les conditions générales d’utilisation pour y inclure le fait que ce que vous dites à Siri peut être écouté. Les gens vont signer et ça reprendra », prédit le jeune homme. « C’est, hélas, très possible, acquiesce Antonio Casilli. Nous sommes tous les esclaves de ce consentement forcé que sont les CGU. Ils sont totalement capables d’y mettre ce qui était encore inimaginable hier. »

Les révélations de ces derniers mois marquent cependant un tournant incontestable. Le 13 août, c’est Facebook qui admettait, lui aussi, écouter les conversations des utilisateurs des fonctions audio de son service Messenger et annonçait leur suspension. Apple, de son côté, a présenté jeudi 29 août ses excuses à ses clients écoutés.

« Tous les Gafam ont désormais été démasqués, constate Antonio Casilli. Il y a encore un an, si je disais dans une conférence que des travailleurs écoutent ce que l’on dit à un assistant vocal, c’était une “educated guess”, une supposition éclairée, une conséquence logique de ce que j’avais pu comprendre de leur fonctionnement lors de mes recherches. »

« Depuis, il y a eu une avalanche de témoignages qui montrent que non seulement il y a des enregistrements sauvages, mais également que ces assistants vocaux sont extrêmement défectueux, poursuit le sociologue. Quand on voit des taux de précision de 90 %, on peut se dire que c’est déjà pas mal, mais ça veut dire tout de même que quand vous demandez votre chemin, une fois sur dix, l’algorithme vous donnera le mauvais. C’est tout de même problématique. Apple a donc doublement menti : en disant qu’ils n’enregistraient pas les gens, et en leur affirmant que Siri fonctionne. »

Recension dans La Vie des Idées (24 juillet 2019)

Cannibale machine À propos de : Antonio Casilli, En attendant les robots, Seuil


Des machines intelligentes à l’assaut du travail humain ? Enquêtant sur le digital labor qui se cache derrière les promesses de l’automatisation et des robots, Antonio Casilli soutient notamment que les médias sociaux constituent une forme de travail non rémunéré.

Aimer ou partager cet article sur Facebook, est-ce travailler ? Et regarder une vidéo sur YouPorn ? Oui, répond en substance Antonio Casilli dans En attendant les robots : enquête sur le travail du clic. Un livre à la fois dense, solidement documenté et stimulant.

Ce travail qui n’en a pas l’air, c’est ce que Casilli nomme – avec d’autres – le digital labor, un des concepts clés de cet ouvrage qu’on pourrait présenter comme une sociologie critique de l’intelligence artificielle. L’auteur, qui est lui-même sociologue du travail et chercheur à l’EHESS, nous propose de sortir de l’IA washing et de la hype pour mieux découvrir toutes ces petites mains humaines trop humaines qui œuvrent dans l’ombre des algorithmes d’IA.

L’erreur, soutient Casilli, serait de croire qu’avec l’automation, le travail va disparaître. Il va plutôt être « plateformisé » et digitalisé. Autrement dit, en attendant les robots qui, comme dans le Godot de Beckett, pourraient tarder à entrer en scène, on ferait bien d’examiner les changements concrets qui s’opèrent dans le travail humain. Car, en lieu et place d’un remplacement du travail par des robots, on a souvent affaire à un simple déplacement. C’est ce que montre bien l’exemple des guichets automatiques. Ceux-ci ne remplacent pas complètement le travail qui était jadis celui du guichetier : ce sont plutôt les clients qui prennent désormais en charge la responsabilité de faire fonctionner la machine. À plusieurs égards, cet exemple est symptomatique de notre difficulté à percevoir ces nouvelles formes de travail qu’analyse Casilli.

Le digital labor

Le concept de digital labor désigne d’abord le travail du doigt « qui sert à compter, mais aussi qui pointe, clique, appuie sur le bouton » (p. 48). Mais c’est aussi plus compliqué que ça. Et c’est tout l’objet de la partie centrale du livre qui prolonge un débat sur la pertinence de ce concept avec le sociologue Dominique Cardon. Situé dans une « zone grise entre le marchandage et l’emploi salarié », le digital labor s’inscrit « dans un rapport de subordination, de surveillance et d’inégalité de droit entre les travailleurs et les propriétaires de services numériques » (p. 267). On peut le décliner de trois manières.

Le travail à la demande, comme avec Uber ou Foodora, en constitue une première forme. Ces services de transport ou de livraison s’appuient ainsi sur des plateformes et mobilisent des processus de décision basés sur des algorithmes et des données qui bouleversent l’organisation du travail. Il s’agit en quelque sorte de pousser à son maximum la logique du fordo-taylorisme (le travail à la chaîne) en mesurant et en divisant toujours plus les tâches. Et les travailleurs ne semblent pas en sortir gagnants.

Le micro-travail auquel se consacre le quatrième chapitre est une deuxième forme de digital labor. Il s’agit de réaliser « de petites corvées telles que l’annotation de vidéo, le tri de tweets, la retranscription de documents scannés (…) » (p. 119). C’est sans doute l’un des apports les plus intéressants de l’ouvrage que de braquer le projecteur sur le travail de ces personnes — une centaine de millions dans le monde, dont 260 000 en France — souvent précaires, qui font tourner le capitalisme numérique.

Des services en ligne comme le Mechanical Turk permettent par exemple à des entreprises d’externaliser le « travail du clic ». La plateforme d’Amazon, née en 2005, emploie principalement des citoyens américains et indiens qui accomplissent des micro-tâches mal payées. Ces personnes travaillent chez elles, ne se rencontrent pas et ne connaissent pas leurs clients. Elles ne sont évidemment pas syndiquées, ni même organisées. Il y a d’ailleurs beaucoup d’ironie à ce que ce service d’« IA artificielle », comme le nomme Jeff Bezos, le PDG d’Amazon, reprenne le nom du Turc mécanique, cet automate du XVIIIe siècle qui prétendait jouer aux échecs, mais dissimulait en réalité un humain derrière ses engrenages inutiles. Comment ne pas percevoir un troublant écho avec la situation actuelle ?

« L’automation revient à une formule simple, résume Casilli : une façade avec un ingénieur qui vante les prouesses de sa machine et une arrière-boutique dans laquelle des travailleurs se tuent à la micro-tâche. » (p. 136) Ce micro-travail invisibilisé passe aussi par de nouvelles formes de contrôle puisqu’il faut garantir aux clients qu’il est bien effectué par des humains. Ceux-ci doivent donc remplir des tests de type CAPTCHA toutes les quarante-cinq minutes. Plus généralement, les données de ces travailleurs (les turkers) sont requises pour faire fonctionner la plateforme et les mettre en relation avec des requérants — la plateforme tirant, en définitive, une « rente d’intermédiation ».

On l’aura deviné, partager un article sur Facebook ou regarder une vidéo sur YouPorn ne relève ni du travail à la demande ni du micro-travail, puisque ce n’est ni une activité rémunérée, ni un service réclamé par un client. Mais il existe, poursuit Casilli, une troisième forme de digital labor, le travail social en réseau, qui correspond en particulier à la participation des usagers aux médias sociaux. Comment analyser ce phénomène ? Le cinquième chapitre présente en détail la controverse sur la nature exacte de ce « travail gratuit ».

Du travail gratuit ?

Selon une approche « hédoniste », les médias sociaux ne relèvent pas du travail parce qu’on y participe librement et pour le plaisir, à travers une nouvelle culture de l’amateurisme. Mais Casilli préconise plutôt une approche travailliste qui voit le « produsage », c’est-à-dire les activités qui entremêlent production et usage, comme s’inscrivant « dans un rapport d’exploitation » (p. 168). Le travail non rémunéré n’est pas une nouveauté : travail domestique, bénévole, forcé… Mais comment de simples clics sur des médias sociaux peuvent-ils être considérés comme du travail ? C’est qu’en créant des données (et des métadonnées), l’utilisateur crée de la valeur. En likant ou partageant un article sur Facebook, on enrichit une base de données qui permettra à l’entreprise de générer d’importants revenus publicitaires – 55 milliards de dollars en 2018.

Casilli montre que la démarcation entre professionnalisme et amateurisme est souvent poreuse. Existe-t-il vraiment une différence de nature entre le critique gastronomique, la Youtubeuse cuisine et le commentaire anonyme sur Yelp ? La modératrice payée pour filtrer les contenus violents fait-elle autre chose que le simple usager qui bloque, masque ou signale de tels contenus ? D’aucuns répliqueront peut-être que le travail se définit d’abord par son caractère pénible. Pour autant, pourquoi le fait qu’une tâche soit plaisante, conviviale ou créative la disqualifierait-elle comme travail ? D’ailleurs, est-on si certain que les médias sociaux sont dépourvus de pénibilité ? L’auteur cite des enquêtes de terrain où des jeunes de milieux populaires décrivent l’inconfort et la « corvée » d’être sur Facebook « pour maîtriser ce que les autres exposent de soi » (p.187).

Mais l’argument qui semble le plus décisif, c’est celui des « fermes à liens » et des « fermes à clics ». Ainsi, en 2013, les faux clics sur Facebook auraient rapporté 200 millions de dollars, avec des services comme GetPaidForLikes. Facebook même propose aujourd’hui aux usagers de « booster un post » pour quelques dollars. Or, si des personnes sont rémunérées dans des « fermes » pour effectuer le même genre de micro-tâches que celles exécutées par les usagés ordinaires, ne faut-il pas en conclure — par analogie — que ces dernières sont, elles aussi, du travail ?

Ainsi, en aimant ou en partageant un article sur Facebook, vous contribuez à lui donner une visibilité qui aurait pu être autrement acquise en payant le prix. Si la valeur de ce travail est infime (en Inde en 2019, le clic vaut 0,008 $, explique Casilli dans une entrevue), sa démultiplication et son agrégation créent une richesse importante — pour autant qu’une entreprise est capable de valoriser ces données. « Sur les plateformes sociales, conclut l’auteur, tout nouvel abonné se retrouve aujourd’hui pris à l’intérieur d’un système de production de clics fondé sur du travail invisibilisé, celui “gratuit” qu’il est amené à assurer et celui de ses homologues microrémunérés. » (p. 218) Autrement dit, en dépit de son caractère ludique et gratuit, le travail du clic participe incontestablement de l’économie numérique.

La valorisation des données

Mais si l’on a du mal à percevoir ce travail comme authentique, c’est peut-être parce qu’il est plus facile de comprendre la valeur attachée à un objet que celle attachée à une base de données ou à un flux d’information. Pour y voir plus clair, Casilli propose de distinguer trois formes de valorisation, c’est-à-dire trois manières de donner de la valeur à des données.

On peut d’abord qualifier un contenu, c’est-à-dire ajouter de l’information, comme lorsqu’on crée un profil d’utilisateur, que l’on fait un commentaire ou qu’on like une vidéo sur un réseau social (on estime à 4.3 milliards le nombre de like quotidiens sur Facebook). On peut également qualifier un autre usager — et activer des mécanismes réputationnels — comme c’est par exemple le cas dans les applications de rencontre (quand on swipe à gauche ou à droite sur Tinder).

On peut ensuite créer de la valeur en monétisant des données personnelles. C’est ici le principal modèle d’affaire des plateformes qui vendent du ciblage publicitaire à des annonceurs. Les bases de données se composent du croisement d’informations parfois inattendues : marques des téléphones ou des ordinateurs, localisation, listes des contacts, comportement en ligne. Les courtiers en data (data brokers) sont les agents directs de cette valorisation des données par monétisation.

Avec le développement des systèmes d’intelligence artificielle, une troisième forme de valeur attachée aux données s’est développée : la valeur d’automation. En effet, les algorithmes d’apprentissage profond (deep learning) ont besoin d’être entraînés avec d’importantes quantités de données « personnelles » afin d’optimiser leurs prédictions (l’IA est essentiellement un outil de prédiction). Casilli donne comme exemple les applications controversées de reconnaissance faciale, mais on peut dire que c’est l’essentiel des systèmes d’IA aujourd’hui performants – de Google traduction à la reconnaissance de tumeurs – qui repose sur cette valeur d’automation des données.

On le voit, selon cette lecture, l’humain qui étiquette — de façon rémunérée ou non — apparaît comme la source principale de la valorisation des données. Dès lors, son occultation derrière les prouesses de l’IA et la promesse des robots accrédite la thèse d’une invisibilisation du travail humain au cœur de l’économie numérique. On peut toutefois se demander si l’automation fondée sur des données « non humaines » (issues par exemple d’animaux, de robots ou d’évènements météorologiques) ne risque pas d’ébranler ces analyses. De même, qu’adviendra-t-il de ce modèle si, comme l’espèrent les chercheurs en IA, l’apprentissage non supervisé, c’est-à-dire sans données étiquetées, se développe ?

Une critique sociale

Pour l’heure, il paraît difficile de contester à Antonio Casilli d’avoir mis le doigt sur une dimension importante de l’économie et de la sociologie contemporaine du numérique. D’autres ouvrages, comme le récent Ghost Work : how to stop Silicon Valley from building a new global underclass de Gray et Suri (2019) vont d’ailleurs dans le même sens. On ne sera pas surpris de voir le livre de Casilli déboucher, dans sa dernière partie, sur une critique sociale. Après tout, « le travail micro-, sous-, mal ou non payé est comme le fil rouge qui unit les différentes formes du digital labor » (p. 223). En attendant les robots entend donc promouvoir la reconnaissance du digital labor afin de créer une véritable conscience de classe parmi les travailleurs du clic.

Et pour mettre un visage sur ces travailleurs, Casilli mentionne le court documentaire The Moderators (2017) qui s’attache précisément à nous les montrer. Dans une salle de classe en Inde, on assiste à une semaine de formation pour de futurs modérateurs et modératrices de contenu. Pour la plupart d’entre eux, c’est un premier job qu’ils accueillent avec joie. Malgré la rumeur de la rue, ils écoutent avec attention les directives de la formatrice en sari : « Pourquoi ne voyez-vous pas de pornographie lorsque vous êtes sur Facebook, demande-elle ? Pensez-vous que c’est parce que personne n’en poste ? » Voilà tout le travail des modérateurs : s’assurer que Facebook ne devienne pas YouPorn. Et si ce documentaire complète très bien En attendant les robots, c’est parce qu’il donne à voir cette réalité très prosaïque : les images de pénis à rejeter, les gros ventilateurs au plafond, les chemises retroussées sur les manches et les regards concentrés sur l’écran.

En attendant les robots, l’économie numérique et l’IA vont avoir encore besoin des modérateurs indiens, des turkers américains et des données que nous créons, souvent à notre insu, sur les réseaux sociaux. Car tout cela produit de la valeur. Dans sa conclusion, l’auteur explore quelques pistes de redistribution, avec l’idée d’un revenu social numérique ou les travaux de Trebor Scholz sur le « coopérativisme de plateforme » et la propriété collective des moyens de production numérique.

Tous ces éléments font de ce livre à la lecture agréable une contribution importante à la sociologie critique de l’IA. Antonio Casilli propose incontestablement une description fine et très riche en exemples du digital labor. Il offre également des outils d’analyse et une perspective engagée dans le débat normatif. Sur ce dernier terrain, il y a évidemment place à la discussion. Qu’en est-il, par exemple, de ce travail du clic en termes de bien-être ?

Dans le cas du travail social en réseau, Casilli semble négliger la valeur du service rendu gratuitement par des plateformes comme YouPorn ou Facebook. Qu’il s’agisse de se masturber ou de s’informer, il ne fait guère de doute qu’une valeur est produite. Et même si c’est au prix des informations que partagent alors les usagers, on peut penser que ça reste un bon deal. On peut aussi penser que partager la recension d’un livre intéressant va produire de la valeur épistémique. Et c’est sans oublier qu’il est toujours bon pour l’ego de recevoir de l’attention, du love ou des likes. Antonio Casilli, En attendant les robots, Seuil, 2019, 400 p., 24 €.

par Martin Gibert, le 24 juillet

Grand entretien dans L’Echo (Belgique, 22 juillet 2019)

Antonio Casilli: “Derrière l’intelligence artificielle, il y a des humains peu rémunérés”

Non, les robots ne vont pas remplacer le travail humain. Au contraire, c’est le travail humain qui est mis au service de l’automation. Entretien avec Antonio Casilli, sociologue, enseignant et chercheur à Telecom Paris et à l’EHESS.

Dans une étude magistrale (“En attendant les robots. Enquête sur le travail du clic“, Seuil, 2019), Antonio Casilli, sociologue, enseignant et chercheur à Telecom Paris et à l’EHESS, révèle, derrière les discours enflammés relatifs à l’intelligence artificielle (IA), une tout autre réalité: les armées de travailleurs du clic qui entraînent les algorithmes et qui optimisent en permanence nos applis préférées. Même Google Search exploite ces petites mains. Un travail invisible, peu ou pas rémunéré, engendrant un “cybertariat” mondialisé qui échappe à toute législation.

LEcho-ITV-20190720-ACasilli-digital-labor-pdf

Le grand remplacement technologique de l’homme par le robot n’aura pas lieu; pourquoi? L’IA ne remplit pas ses promesses?

Un feu de communication marchande a surjoué les promesses de l’IA. Née à la moitié du 20e siècle, l’IA aspirait à simuler complètement la cognition humaine – l’”IA forte”. Mais l’évolution technique a conduit à ne développer en réalité que de “l’IA faible”. Celle-ci suppose l’apprentissage automatique (“machine learning”) mais pour apprendre, les algorithmes ont besoin qu’on les nourrisse en données provenant des plateformes numériques. Or cet apprentissage est effectué par des foules de personnes, peu ou pas rémunérées, chargées d’entraîner les algorithmes pour les rendre efficaces.

Comment s’opère ce déplacement et quel est son impact sur la nature du travail?

Ce faux remplacement technologique cache en réalité une dynamique de “tâcheronnisation”, c’est-à-dire une fragmentation de l’activité travaillée. Autour de l’IA se met en place un travail fait de micro-tâches, le microtravail: des tâches de quelques secondes ou minutes payées en centimes. Des plateformes de micro-travail mettent en relation d’un côté une entreprise client qui veut automatiser un processus-métier (la comptabilité, l’étiquetage d’images, la reconnaissance vocale, etc.) et de l’autre, des personnes qui, à la place de l’IA, font le travail d’interpréter les voix humaines, reconnaître les images ou retranscrire les tickets de caisse. Ce travail entraîne les IA qui, en principe, seront capables de faire ce qu’elles promettent. En pleine expansion, ces plateformes embauchent de plus en plus de micro-tâcherons. Il y en aurait déjà au moins 100 millions, principalement en Asie et en Afrique. En France, on compte 23 plateformes pour un total de 260.000 travailleurs, dont 15.000 assidus.

Quel est leur statut?

Ces travailleurs du clic, qui ne sont pas reconnus comme travailleurs, n’ont aucune stabilité dans leur rémunération, leur statut, ou leur activité. Leur travail est déqualifié. Sur certaines plateformes de microtravail, des graphistes diplômés sont engagés pour dessiner un pixel. Ailleurs, des journalistes ou des traducteurs traduisent ou écrivent quelques mots, quelques lignes. Des savoirs experts (traducteurs, codeurs,…) ne sont pas remplacés par des robots, mais concurrencés par du microtravail délocalisé, sous-payé. “C’est l’automation qui met le travail humain au service du robot. Je parle de servicialisation du travail.”

Cette évolution du travail amplifie certaines tendances anciennes: la logique fordiste de division du travail s’intensifie dans l’hyper-fragmentation de l’activité; le freelancing, en pleine expansion, devient de plus en plus précaire. L’emploi n’est donc pas remplacé par l’automation mais par du travail invisible très précarisé. C’est l’automation qui met le travail humain au service du robot. Je parle de servicialisation du travail. Lors du lancement de la plateforme de microtravail la plus connue, Amazon Mechanical Turk, Jeff Bezos l’avait dit clairement: human as a service! Les humains réduits à des services.

Pourquoi parler de “digital labor”? Quels types de travail recouvrent cette expression?

“Digital” renvoie au geste même, le travail du doigt (“digitus”) qu’est le travail du clic: le geste ultime, le plus dévalorisé.

Le digital labor le plus connu est celui du travail à la demande (Uber, Deliveroo, etc.). Ces plateformes ont une dimension ostensible très forte: on voit les travailleurs dans la rue. Mais on ignore l’importance, même en termes de production de valeur, du temps passé sur l’appli à produire de la data. Pour les chauffeurs d’Uber, cela représente environ 60% de leur temps. Cette activité sur l’appli concerne la communication des données relatives aux trajets, la notation des passagers et tout ce qui sert à améliorer l’algorithme. A quoi s’ajoute la data utile au projet de véhicules autonomes d’Uber, nourrie par les données produites autant par les chauffeurs que par les passagers.

Ensuite, il y a les plateformes de micro-travail où se réalisent, entre autres, les tâches nécessaires au machine learning. On y rencontre aussi les modérateurs des réseaux sociaux – généralement issus de pays très pauvres – qui font le sale boulot en filtrant le pire des photos et des vidéos du Web. Ajoutons-y aussi les “fermes à clics”: des gens payés pour liker des images ou des commentaires afin de gonfler l’audience et donc la viralité d’un post. Durant sa campagne électorale, Trump a utilisé ce type de procédé.

Ce type de micro-travail est donc inévitable…

Même Google en a besoin pour vérifier ce que le moteur de recherche a produit. Qu’il s’agisse de la recherche d’une pharmacie au Wisconsin ou du porno d’un type particulier, des personnes s’assurent que Google a fourni les résultats les plus pertinents. Sur Google aussi, on vérifie tout à la main! Ce qui ne va pas sans soulever un monstrueux problème de vie privée: qui peut savoir que je suis en train de chercher tel médecin parce que j’ai telle pathologie? Eh bien, beaucoup de monde! Lire plus

Enfin, sur les réseaux sociaux, les usagers réalisent aussi du digital labor: chaque fois qu’on like ou qu’on laisse un commentaire, on contribue à produire de la valeur pour les plateformes et surtout à entraîner leurs algorithmes.

Ces plateformes ne se distinguent pas trop des autres types de digital labor. D’abord, elles récupèrent les données qui permettent de savoir si telle interface ou tel algorithme de la plateforme marchent bien. Ensuite, nos données personnelles sont monétisées à des tiers. Enfin, ces données sont exploitées pour automatiser tout ce qui est possible: par exemple, sur Amazon, le meilleur livre à acheter.

Nous sommes donc tous des micro-travailleurs?

C’est déjà une ancienne controverse, mais oui, on peut effectivement assimiler nos activités sur les réseaux sociaux à du travail au sens traditionnel. Est-on soumis à des formes de mesures, de métriques? Oui: on est tracé du matin au soir. Ce n’est pas un travail libre, ni du jeu. Quand on joue vraiment, on n’est pas surveillé. Ensuite, est-ce une activité entièrement dépourvue de conséquences économiques? Non, au contraire; on produit de la valeur. Est-ce une activité libre, en dehors de tout cadre contractuel? Non encore: on a signé un contrat (les CGU), qui s’arrange pour ne pas se présenter comme un contrat de travail. Et enfin, question-clé, y a-t-il un lien de subordination? Eh bien oui, par le biais d’un flux d’ordres, de notifications à l’impératif (“connectez-vous”, “faites ci”, “faites ça”). On ne peut pas assimiler ces injonctions à une situation de consommation pure.

Que faire face à la “tâcheronnisation” du travail et au travail déguisé sur les réseaux sociaux?

Du côté d’Uber ou de Deliveroo, les actions en justice pour la reconnaissance des droits des travailleurs se multiplient. Sur les réseaux sociaux comme Facebook, le groupe néerlandais “Data Union” mène une action de type syndical. Concernant le microtravail et le travail à la demande, IG Metall, syndicat allemand, ou Force Ouvrière en France se sont positionnés pour défendre ces travailleurs. Une autre piste, d’inspiration mutualiste et coopérativiste, consiste à créer des Uber ou Twitter du peuple, des plateformes dont la propriété est entre les mains des travailleurs. Des banques financent ce type de projets. Malheureusement, Google aussi…

Enfin, et c’est le plus difficile, il faudrait reconnaître que les données que nous produisons sont des communs de connaissances, et donc de valeur, et que cette valeur peut être redistribuée aux producteurs-usagers. C’est pourquoi je propose un Revenu Universel Numérique, c’est-à-dire un montant mensuel reversé à chaque utilisateur de services. En 2013, le ministère des Finances français avait imaginé une fiscalité imposant les plateformes sur base du travail invisible des usagers, un dispositif parfait pour rémunérer le revenu numérique. Mais ce projet a été abandonné. Avec le digital labor, la question fiscale est complexe parce qu’on ne sait pas quel est le territoire de ces plateformes. Il faut donc d’abord admettre qu’on y travaille; et ensuite, qu’il faut rétribuer ces travailleurs. La fiscalité du numérique, c’est étourdissant… Mais on n’en est qu’au début! Étienne Bastin

Recension vidéo dans Xerfi Canal (16 juillet 2019)

Une enquête sur les travailleurs de force du CLIC

Ghislain Deslandes – Professeur à l’ESCP Europe et directeur de programme au Collège International de Philosophie

Nous pensons généralement que le travail numérique est externalisé dans des machines, et que c’est là sa principale caractéristique.

Eh bien en cela nous avons tort, tant il existe sans que nous le sachions aux Philippines, au Mozambique ou en Ouganda, par exemple, des régions entières où les personnes se consacrent à faire ce que l’intelligence artificielle est supposée faire sans s’en montrer toutefois capable. Il suffit de regarder fonctionner le service lancé en 2005 l’Amazon Mechanical Turk, le Turc mécanique d’Amazon, pour s’en convaincre. Celui-ci recrute dans le monde entier des travailleurs du clic qui se consacrent à de micro-tâches comme identifier et classer des sons et des images, renommer des fichiers, faire des requêtes sur des sites dédiés ou produire des commentaires courts. Dans l’économie de la data qui se cesse de prendre de l’ampleur, on évalue en effet la valeur d’un like sur Facebook de 0,0005 dollar minimum à 174 dollars, la valeur d’un tweet quant à elle se situant entre 0,001 et 560 dollars.

Or ces « poinçonneurs de l’IA », pour reprendre l’expression du sociologue Antonio Casilli qui étudie ce phénomène de grande ampleur dans son ouvrage En attendant les robots, seraient donc comme « des milliards de petites mains qui, au jour le jour, actionnent la marionnette de l’automation faible ». Ce phénomène issu de l’émergence concomitante des plateformes mondiales et de la gig economy, notre sociologue choisit de le qualifier en tant que digital labor. Labor pour signifier une main d’œuvre qui ne peut être assimilée à un emploi salarié (dans ce cas c’est le mot work en anglais qui aurait été privilégié). Et « digital » parce qu’il s’agit bien d’une besogne que réalise le doigt, en transformant des masses d’informations à faible valeur ajoutée en données négociables sur les marchés mondiaux.

Ce livre révélateur et fort bien documenté, contredit au moins deux croyances trop souvent partagées s’agissant de l’avenir du travail : d’une part sa fin telle que la prédit Jérémy Rifkin, qui apparaît dès lors comme une vue de l’esprit.
D’autre part le mythe de l’automatisation totale, qui apparaît comme inatteignable. Car celles et ceux qui fournissent le carburant aux systèmes de traitement des données, se sont certes les cliqueurs précarisés de l’hémisphère sud mais également les « produsagers », utilisateurs de Facebook ou d’Instagram, c’est-à-dire vous et moi et beaucoup d’autres. Il en sera de même pour les automobiles dites « autonomes », qui nécessiteront quand même un « opérateur de véhicules » que vous, anciens pilotes, serez bientôt.


Cette recherche héritière de la tradition « opéraïste » italienne, a aussi le mérite de lever le voile sur l’immensité du marché du fake qu’alimente l’activité à moitié secrète des « fermes à liens, les click farms. Celles-ci, chargées d’optimiser le nombre de followers d’une marque ou simplement d’entretenir le buzz, représentent un immense marché. Selon l’auteur on estimait déjà qu’en  2013 « la vente de faux followers sur Twitter représentait un chiffre d’affaires de 360 millions de dollars par an, alors que sur Facebook, les faux clics auraient généré 200 millions. » Aussi, dans une série de pages particulièrement saisissantes pour les utilisateurs de Uber, on comprend mieux pourquoi près des deux tiers de la journée d’un conducteur consiste en réalité à mettre à jour son profil, à entretenir la relation client, à sélectionner les bonnes courses et à refuser adroitement les autres, pour tenter de limiter les « dead miles » (les « kilomètres morts »). Casilli d’évoquer alors des stratégies de « rétro-ingénierie de la plateforme » de la part des chauffeurs.

A la lecture de ce livre deux sentiments l’emportent devant cette économie de la microtâche qui s’annonce. L’un qui l’emporte est certes pessimiste, qui consiste à «  condamner à la précarité une partie de la force de travail globale, tout en assujettissant l’autre à un loisir producteur de valeur », pour employer une autre formulation critique de l’auteur. L’autre serait plus optimiste malgré tout : car travailler sans le savoir, produire de la valeur sans en avoir l’air, en se distrayant grâce à des interfaces « gamifiées », ou agglomérer subrepticement des collectifs de connaissances susceptibles à terme de constituer des savoirs partageables à l’infini, ne serait-ce pas entrevoir la possibilité de nouvelles formes d’organisation du travail, contributives et capacitantes, défaites des rapports de subordination du salariat traditionnel ?

Réf.

Antonio Casilli (2019), En attendant les robots, enquête sur le travail du clic, Seuil, Paris.