le monde

Interview dans Le Monde (21 nov. 2021)

Media features, , , , ,

A l’occasion de la parution d’un dossier sur le travail des plateformes, j’ai accordé un entretien à la journaliste Catherine Quignon (Le Monde).

« L’intelligence artificielle favorise l’accélération du microtravail »

Le professeur de sociologie Antonio Casilli explique au « Monde » que le nombre de personnes travaillant sur des plates-formes numériques a augmenté pendant la crise sanitaire, amorçant une nouvelle forme de précarisation.

Par Catherine Quignon

Antonio Casilli est professeur de sociologie à Télécom Paris, grande école de l’Ixnstitut polytechnique de Paris, et codirigeant de l’équipe de recherche DiPLab (Digital Platform Labor) sur le travail en ligne. Il explique l’essor du microtravail sur les plates-formes.

Quel est le profil des microtravailleurs ?

En France, notre équipe de recherche a dénombré près de 15 000 personnes qui se connecteraient chaque semaine sur les plates-formes de microtravail – plus de 50 000 au moins une fois par mois –, et plus de 260 000 microtravailleurs seraient inscrits mais pas ou peu actifs. Contrairement à ce que l’on pourrait croire, ces personnes sont souvent diplômées.

Le profil des inscrits reflète aussi l’évolution des plates-formes. Depuis plusieurs années, la frontière s’estompe avec les sites de free-lance classique. Certaines plates-formes de microtravail recherchent des compétences assez avancées sur des missions mieux payées, autour de 15 dollars de l’heure. Parallèlement, on voit des plates-formes de free-lance se mettre à proposer des microtâches, comme taguer des images. Cela reflète une forme de paupérisation du travail indépendant.

Quel impact la crise sanitaire a-t-elle eu sur le microtravail ?

Plusieurs plates-formes annoncent qu’elles ont vu leur activité augmenter avec la crise sanitaire, mais on suppose qu’il s’agit d’abord d’une augmentation des personnes qui s’inscrivent. L’une des plus importantes au monde, Appen, déclare avoir vu son activité croître de 30 % depuis avril 2020. De son côté, Clickworker dit avoir atteint les 2 millions de travailleurs inscrits sur sa plate-forme. Preuve que la crise sanitaire est aussi une crise de l’emploi.

Parallèlement, il semble que certaines entreprises ont plutôt tendance à vouloir réinternaliser ce processus de microtravail, à cause du risque de fuites de données. On se souvient des controverses autour des assistants vocaux en 2019, lorsque les médias ont révélé que des armées de microtravailleurs écoutaient et retranscrivaient des conversations. On suppose que ces fuites ont pu contraindre les entreprises à renoncer à se tourner vers des sous-traitants, mais il reste difficile de mesurer l’ampleur réelle de ce phénomène.

L’intelligence artificielle va-t-elle tuer le microtravail ?

Contrairement aux idées reçues, l’intelligence artificielle favoriserait plutôt l’accélération du microtravail. On aurait pu croire que, une fois entraînées, les machines pourraient progresser toutes seules mais, en fait, elles ont constamment besoin d’être réentraînées. Car la réalité du terrain, le comportement des consommateurs, la manière de parler en ligne… changent constamment. Lorsqu’on tapait « corona » en 2018 dans Google, la première réponse affichée par le moteur de recherche était « bière ». Fin 2019, des millions de personnes se sont mises à rechercher le terme « coronavirus ». Il a fallu l’intervention humaine de milliers d’employés pour vérifier et rectifier les résultats du moteur de recherche. Preuve que plus il y a d’intelligences artificielles, plus il y a besoin d’êtres humains derrière pour les rééduquer.

Tribune : « StopCovid est un projet désastreux piloté par des apprentis sorciers » (Le Monde, 25 avr. 2020)

Media features, , ,

Avec le mathématicien Paul-Olivier Dehaye et l’avocat Jean-Baptiste Soufron, je cosigne cette tribune dans Le Monde contre le projet d’application de “traçage des contacts” StopCovid proposée par le gouvernement français.

StopCovid est un projet désastreux piloté par des apprentis sorciers

Antonio Casilli, Sociologue

Paul-Olivier Dehaye, Mathématicien

Jean-Baptiste Soufron, Avocat

Il faut renoncer à la mise en place d’un outil de surveillance enregistrant toutes nos interactions humaines et sur lequel pèse l’ombre d’intérêts privés et politiques, à l’instar du scandale Cambridge Analytica, plaident trois spécialistes du numérique Antonio Casilli, Paul-Olivier Dehaye et Baptiste Soufron

Le mardi 28 avril, les parlementaires français seront amenés à voter sur StopCovid, l’application mobile de traçage des individus imposée par l’exécutif. Nous souhaitons que, par leur vote, ils convainquent l’exécutif de renoncer à cette idée tant qu’il est encore temps. Non pas de l’améliorer, mais d’y renoncer tout court. En fait, même si toutes les garanties légales et techniques étaient mises en place (anonymisation des données, open source, technologies Bluetooth, consentement des utilisateurs, protocole décentralisé, etc.), StopCovid serait exposée au plus grand des dangers : celui de se transformer sous peu en « StopCovid Analytica », une nouvelle version du scandale Cambridge Analytica [siphonnage des données privées de dizaines de millions de comptes Facebook].

L’application StopCovid a été imaginée comme un outil pour permettre de sortir la population française de la situation de restriction des libertés publiques provoquée par le Covid-19. En réalité, cette « solution » technologique ne serait qu’une continuation du confinement par d’autres moyens. Si, avec ce dernier, nous avons fait l’expérience d’une assignation à résidence collective, les applications mobiles de surveillance risquent de banaliser le port du bracelet électronique.

Tous les citoyens, malades ou non

C’est déjà le cas à Hongkong, qui impose un capteur au poignet des personnes en quarantaine, et c’est l’objet de tests et de propositions en Italie, en Corée du Sud et au Liechtenstein pour certaines catégories de citoyens à risque. StopCovid, elle, a vocation à être installée dans les smartphones, mais elle concerne tous les citoyens, malades ou non. Chaque jour, toutes les interactions humaines de chacun d’entre nous seraient enregistrées par un outil de surveillance étatique, sur lequel pèse l’ombre d’intérêts privés d’entreprises technologiques.

L’affaire Cambridge Analytica, révélée au grand jour en 2018, avait comme point de départ les travaux de chercheurs de l’université anglaise. Une application appelée « Thisisyourdigitallife », présentée comme un simple quiz psychologique, avait d’abord été proposée à des utilisateurs de la plate-forme de microtravail Amazon Mechanical Turk. Ensuite, ces derniers avaient été amenés à donner accès au profil Facebook de tous leurs contacts. C’était, en quelque sorte, du traçage numérique des contacts avant la lettre. A aucun moment ces sujets n’avaient consenti à la réutilisation de leurs informations dans la campagne du Brexit, dans celle de Donald Trump, ou dans des élections en Inde et en Argentine.

Cela est arrivé ensuite, lorsque les chercheurs ont voulu monétiser les données, initialement collectées dans un but théoriquement désintéressé, par le biais de l’entreprise Cambridge Analytica. En principe, cette démarche respectait les lois des différents pays et les règles de ces grandes plates-formes. Néanmoins, de puissants algorithmes ont été mis au service des intérêts personnels et de la soif de pouvoir d’hommes politiques sans scrupules.

Les mêmes ingrédients sont réunis ici : des scientifiques « de bonne volonté », des géants de la « tech », des intérêts politiques. Dans le cas de StopCovid, c’est le consortium universitaire européen Pan-European Privacy Preserving Proximity Tracing (PEPP-PT), qui a vu le jour à la suite de la pandémie. Ces scientifiques se sont attelés à la tâche de concevoir dans l’urgence le capteur de contacts le plus puissant, dans le respect des lois. Cela s’articule avec les intérêts économiques d’acteurs privés, tels les grands groupes industriels nationaux, le secteur automobile et les banques en Italie, les télécoms et les professionnels de l’hébergement informatique en France. Mais surtout les GAFA, les géants américains du numérique, se sont emparés du sujet.

Cette fois, ce ne sont pas Facebook et Amazon, mais Google et Apple, qui ont tout de suite proposé d’héberger les applications de suivi de contacts sur leurs plates-formes. La menace qui plane au-delà de tous ces acteurs vient des ambitions de certains milieux politiques européens d’afficher leur détermination dans la lutte contre le Covid-19, en se targuant d’une solution technique à grande échelle, utilisant les données personnelles pour la « campagne du déconfinement .

Le projet StopCovid n’offre aucune garantie sur les finalités exactes de la collecte de ces données. L’exécutif français ne s’autorise pas à réfléchir à la phase qui suit la collecte, c’est-à-dire au traitement qui sera fait de ces informations sensibles. Quels algorithmes les analyseront ? Avec quelles autres données seront-elles croisées ? Son court-termisme s’accompagne d’une myopie sur les dimensions sociales des données.

Que se passerait-il si, comme plusieurs scientifiques de l’Inria, du CNRS et d’Informatics Europe s’époumonent à nous le dire, des entreprises ou des puissances étrangères décidaient de créer des « applications parasites » qui, comme Cambridge Analytica, croiseraient les données anonymisées de StopCovid avec d’autres bases de données nominatives ? Que se passerait-il, par exemple, si une plate-forme de livraison à domicile décidait (cela s’est passé récemment en Chine) de donner des informations en temps réel sur la santé de ses coursiers ? Comment pourrait-on empêcher un employeur ou un donneur d’ordres de profiter dans le futur des données sur l’état de santé et les habitudes sociales des travailleurs ?

L’affaire Cambridge Analytica nous a permis de comprendre que les jeux de pouvoir violents et partisans autour de la maîtrise de nos données personnelles ont des conséquences directes sur l’ensemble de la vie réelle. Il ne s’agit pas d’une lubie abstraite. Le cas de StopCovid est tout aussi marquant. En focalisant des ressources, l’attention du public et celle des parlementaires sur une solution technique probablement inefficace, le gouvernement nous détourne des urgences les plus criantes : la pénurie de masques, de tests et de médicaments, ou les inégalités d’exposition au risque d’infection.

Recul fondamental

Cette malheureuse diversion n’aurait pas lieu si le gouvernement n’imposait pas ses stratégies numériques, verticalement, n’étant plus guidé que par l’urgence de faire semblant d’agir. Face à ces enjeux, il faudrait au contraire impliquer activement et à parts égales les citoyens, les institutions, les organisations et les territoires pour repenser notre rapport à la technologie. Le modèle de gouvernance qui accompagnera StopCovid sera manifestement centré dans les mains d’une poignée d’acteurs étatiques et marchands. Une telle verticalité n’offre aucune garantie contre l’évolution rapide de l’application en un outil coercitif, imposé à tout le monde.

Ce dispositif entraînerait un recul fondamental en matière de libertés, à la fois symbolique et concret : tant sur la liberté de déplacement, notamment entre les pays qui refuseraient d’avoir des systèmes de traçage ou qui prendront ce prétexte pour renforcer leur forteresse, que sur la liberté de travailler, de se réunir ou sur la vie privée. Les pouvoirs publics, les entreprises et les chercheurs qui, dans le courant des dernières semaines, sont allés de l’avant avec cette proposition désastreuse, ressemblent à des apprentis sorciers qui manient des outils dont la puissance destructrice leur échappe. Et, comme dans le poème de Goethe, quand l’apprenti sorcier n’arrive plus à retenir les forces qu’il a invoquées, il finit par implorer une figure d’autorité, une puissance supérieure qui remette de l’ordre. Sauf que, comme le poète nous l’apprend, ce « maître habile » ne reprend ces outils « que pour les faire servir à ses desseins .

Note(s) :

Antonio Casilli est sociologue, membre de La Quadrature du Net ; Paul-Olivier Dehaye est mathématicien, expert aux sources de l’affaire Cambridge Analytica ; Jean-Baptiste Soufron est avocat, ancien secrétaire général du Conseil national du numérique.

Tribune dans Le Monde (6 févr. 2020)

Media features, , ,
« L’avènement du dresseur d’intelligences artificielles »

Tribune. Face aux inquiétudes autour de l’effacement annoncé du travail humain par une vague d’automates intelligents, nos sociétés doivent encore apprendre à se poser les bonnes questions. Un réflexe sain consisterait à cesser d’ergoter sur le nombre exact d’emplois qui seront remplacés à l’avenir et demander plutôt combien sont d’ores et déjà en passe de se métamorphoser en digital labor. Cette expression désigne littéralement le « travail du doigt », qui clique et produit des données.

Depuis des décennies, la numérisation grandissante des professions manuelles et intellectuelles amplifie la composante de production de data au sein de tout métier. La tendance est liée à l’exigence des entreprises de fragmenter et d’uniformiser leurs processus productifs pour les articuler avec des écosystèmes de prestataires externes, de sous-traitants, et parfois de communautés de producteurs non professionnels.

Ceci explique aussi la prolifération des plates-formes numériques, qui coordonnent ces acteurs en les transformant en main-d’œuvre docile et bon marché, disponible à flux tendu pour réaliser des tâches de plus en plus fragmentées. Partout sous nos yeux, ce travail de production de données tisse le quotidien des livreurs et des chauffeurs, qui gèrent leurs profils sur l’appli Uber et se géolocalisent sur leurs GPS.

Mais il est aussi l’occupation des modérateurs de YouTube et Facebook, qui filtrent à longueur de journée des contenus multimédias. Même le travail gratuit que chacun d’entre nous réalise en effectuant des « reCAPTCHA » (les fenêtres surgissantes qui nous enjoignent de démontrer que nous ne sommes pas un robot) pour Google enseigne aux véhicules autonomes du géant de Mountain View à reconnaître des feux de circulation et des passages pour piétons.

Se situant sur un continuum, entre activités sous-payées ou non rémunérées, ces tâches numériques contribuent à l’automatisation de nos métiers. Métier du futur : dresseur d’intelligences artificielles, accordeur des algorithmes qui permettent à nos robots de livrer, conduire, manœuvrer.

Alors même que ce travail du clic est l’ingrédient secret de notre automatisation, il n’est aujourd’hui qu’insuffisamment encadré par la protection sociale et encore en quête de reconnaissance politique. Ce travail humain est là pour durer, mais, si nos luttes n’aboutissent pas à de nouveaux conquis sociaux, il le sera dans des conditions d’exploitation et d’invisibilité généralisées.

Le Monde publie les bonnes feuilles de “En attendant les robots” (3 janv. 2019)

Media features, , , , , , ,

Le jour 3 janvier 2019 Pixels, le supplément numérique du quotidien Le Monde, publie en avant-première des extraits de mon ouvrage En attendant les robots. Enquête sur le travail du clic (Editions du Seuil, 2019) à l’occasion de sa parution.


Derrière l’illusion de l’intelligence artificielle, la réalité précaire des « travailleurs du clic »

Dans son livre, dont nous publions les bonnes feuilles, le sociologue Antonio Casilli enquête sur le travail invisible et précarisé qui se cache derrière les IA et les algorithmes.

Pour la majorité des services et fonctionnalités des sites Web, applications et objets connectés, les fabricants vantent – et vendent – désormais de nouvelles solutions numériques personnalisées grâce aux intelligences artificielles et aux algorithmes qu’ils ont mis au point. Modération de contenus sur les réseaux sociaux, applications de livraison de repas ou de véhicules avec chauffeur, vente de produits culturels ou de vêtements, enceintes avec assistant vocal…, nos vies seraient désormais facilitées par les robots et autres solutions intelligentes. Cet argument promotionnel ravive la vieille idée selon laquelle le travail humain est peu à peu remplacé par les machines.

Dans son livre enquête En attendant les robots : enquête sur le travail du clic , qui paraît jeudi 3 janvier aux éditions du Seuil et que Le Monde a pu lire en exclusivité, le sociologue Antonio Casilli montre au contraire que ces avancées numériques ne fonctionnent pas sans digital labor , un travail humain invisibilisé et précarisé à grande échelle. En exposant les différentes facettes de ce que l’on appelle aussi le « travail du clic » – des internautes qui alimentent gratuitement les réseaux sociaux aux travailleurs des « fermes à clic » en passant par les prestataires de l’économie « ubérisée » -, Antonio Casilli démystifie l’illusion du tout automatique. Il rappelle aussi que ces nouvelles formes de travail, exercées par des millions de personnes dans le monde, sont un enjeu majeur de l’économie du XXIe siècle.

Bonnes feuilles. C’est en 2017 que j’interviewe Simon. Ce n’est pas son vrai nom, comme par ailleurs SuggEst n’est pas le vrai nom de la start-up qu’il intègre en 2016 en qualité de stagiaire, à la fin de son master Sup de Co. En revanche, l’entreprise existe et se porte bien. C’est une « pépite » du secteur innovant, spécialisée en intelligence artificielle (IA). SuggEst vend une solution automatisée de pointe qui propose des produits de luxe à des clients aisés. Si vous êtes une femme politique, un footballeur, une actrice ou un client étranger – comme l’explique la présentation du site -, en téléchargeant l’application, vous recevez des offres « 100 % personnalisables des marques françaises les plus emblématiques de l’univers du luxe, dans des conditions privilégiées » .

C’est « grâce à un procédé d’apprentissage automatique » que la start-up devine les préférences de ces personnalités et anticipe leurs choix. L’intelligence artificielle est censée collecter automatiquement leurs traces numériques sur des médias sociaux, leurs posts, les comptes rendus d’événements publics auxquels ils ont participé, les photos de leurs amis, fans, parents. Ensuite, elle les agrège, les analyse et suggère un produit.

Jouer les intelligences artificielles

Derrière cette machine qui apprend de manière anonyme, autonome et discrète se cache toutefois une réalité bien différente. Simon s’en rend compte trois jours après le début de son stage, quand, au hasard d’une conversation autour de la machine à café, il demande pour quelles raisons la start-up n’emploie pas un ingénieur en intelligence artificielle ni un data scientist . L’un des fondateurs lui avoue que la technologie proposée à leurs usagers n’existe pas : elle n’a jamais été développée. « Mais l’application offre bien un service personnalisé ? » , s’étonne Simon. Et l’entrepreneur de lui répondre que le travail que l’IA aurait dû réaliser est en fait exécuté à l’étranger par des travailleurs indépendants. A la place de l’IA, c’est-à-dire d’un robot intelligent qui collecte sur le Web des informations et restitue un résultat au bout d’un calcul mathématique, les fondateurs de la start-up ont conçu une plate-forme numérique, c’est-à-dire un logiciel qui achemine les requêtes des usagers de l’application mobile vers… Antananarivo.

C’est, en effet, dans la capitale de Madagascar que se trouvent des personnes disposées à « jouer les intelligences artificielles » . En quoi consiste leur travail ? La plate-forme leur envoie une alerte avec le nom d’une personnalité-cible qui se sert de l’application. Ensuite, en fouillant les médias sociaux et les archives du Web, ils collectent à la main un maximum d’informations sur son compte : des textes, des photos, des vidéos, des transactions financières et des journaux de fréquentation de sites… Ils font le travail qu’un bot, un logiciel d’agrégation de données, aurait dû réaliser. Ils suivent cette personnalité sur les réseaux, parfois en créant de faux profils, et rédigent des fiches avec ses préférences à envoyer en France. Ensuite, SuggEst les agrège et les monétise auprès d’entreprises du luxe, qui proposent les offres. Combien sont-elles, sur terre, ces petites mains de l’intelligence artificielle ? Personne ne le sait. Des millions, certainement. Et combien sont-elles payées ? A peine quelques centimes par clic, souvent sans contrat et sans stabilité d’emploi. Et d’où travaillent-elles ? Depuis des cybercafés, aux Philippines, chez elles en Inde, voire depuis des salles informatiques d’universités au Kenya. Pourquoi acceptent-elles ce job ? La perspective d’une rémunération, sans doute, surtout dans des pays où le salaire moyen d’un travailleur non qualifié ne dépasse pas les quelques dizaines de dollars par mois.

Des petites mains qui actionnent la marionnette

L’implication humaine est nécessaire autant pour des raisons techniques que commerciales. Les intelligences artificielles, on le verra, se basent largement sur des procédés d’apprentissage automatique que l’on appelle « supervisé » : les machines apprennent à interpréter les informations et à réaliser des actions au fil des interactions avec l’accompagnement de « professeurs » humains. Ces derniers proposent les exemples de processus cognitifs que les systèmes intelligents apprennent à reproduire. C’est un temps de formation, d’entraînement de logiciels encore gauches. Mais cet apprentissage ne s’interrompt jamais.

Ce qui aujourd’hui attire notre attention n’est pas le geste expert des informaticiens qui conçoivent les systèmes ou des ingénieurs qui mettent en place l’IA forte, mais bien les milliards (oui, des milliards…) de petites mains qui, au jour le jour, actionnent la marionnette de l’automation faible. C’est un travail humble et discret, qui fait de nous, contemporains, à la fois les dresseurs, les manouvriers et les agents d’entretien de ces équipements. La complexité, l’étendue et la variété des tâches numériques nécessaires pour permettre le fonctionnement des assistants virtuels font du digital labor un objet d’étude incontournable. Mais dès lors que les intelligences artificielles ne sont pas complètement automatisées, le doute surgit qu’elles puissent ne pas l’être du tout.

L’intervention humaine se manifeste alternativement au travers d’actions visant tantôt à faciliter ( enable ), tantôt à entraîner ( train ) et parfois même à se faire passer pour ( impersonate ) des intelligences artificielles. […] Les tâches qui permettent aux intelligences artificielles d’exister et de fonctionner font l’objet d’annonces, d’enchères, d’appariements sur des sites spécialisés en sous-traitance (ou en micro-sous-traitance). Dans d’autres cas, les négociations sont de nature non pécuniaire, par exemple quand la contribution humaine au fonctionnement des intelligences artificielles n’est pas encadrée par une simple transaction, mais par un système complexe d’incitations de nature économique (par exemple des bons d’achats, des services en échange de prestations) ou non économique (plaisir, reconnaissance, jeu, etc.).

Des « microtâcherons » du Web

Le premier type de digital labor renvoie au travail à la demande mettant en relation des demandeurs et des fournisseurs potentiels de prestations, que l’on peut associer à des plates-formes comme Uber ou Deliveroo, dont les applications et les sites Web composent une « économie de petits boulots » ( gig economy ).

En surface, l’usager-prestataire réalise des tâches manuelles en temps réel pour assurer des services de transport, d’hébergement, de livraison, d’aide à la personne, de réparation ou d’entretien. En profondeur, comme pour tous les types de digital labor , il produit des données, à cette différence près que leur extraction demande davantage d’effort physique de sa part. Il s’agit d’activités que l’on peut difficilement confondre avec du loisir : malgré la présence d’éléments de sociabilité, leur pénibilité est reconnaissable, et leurs composantes visibles (conduire, accueillir, s’occuper d’une livraison) demeurent centrales. De même, la dépendance (parfois seulement économique, parfois formalisée par un contrat) de l’usager vis-à-vis de la plate-forme est évidente.

Le deuxième type de digital labor que l’on rencontre sur les plates-formes numériques est le microtravail. Le terme désigne la délégation de tâches fractionnées aux usagers de portails comme Amazon Mechanical Turk ou Clickworker. Dans la mesure où des travailleurs y sont recrutés en nombre, on parle parfois de « travail des foules » ( crowdwork ). Parce qu’ils exécutent des activités standardisées et à faible qualification, on leur donne parfois le nom de « microtâcherons » . Ceux qui demandent l’effectuation des tâches sont des entreprises, des institutions publiques (surtout de recherche), voire des particuliers.

Ce type de digital labor est strictement lié à la pratique du « calcul assisté par l’humain » ( human-based computation ), qui consiste à dépêcher des travailleurs pour effectuer des opérations que les machines sont incapables d’accomplir elles-mêmes. Le microtravail consiste en la réalisation de petites corvées telles que l’annotation de vidéos, le tri de tweets, la retranscription de documents scannés, la réponse à des questionnaires en ligne, la correction de valeurs dans une base de données, la mise en relation de deux produits similaires dans un catalogue de vente en ligne, etc. Pour leurs activités, les usagers reçoivent des rémunérations pouvant aller de quelques euros à moins d’un centime par tâche. Comme dans l’économie à la demande, les plates-formes prélèvent une commission sur toute transaction, bien que des formes de microtravail non rémunérées soient aussi courantes.

Quoique avec un niveau d’organisation et de contestation moins important que dans le cas de l’économie à la demande, le microtravail n’est pas dénué de luttes et de conflits pour la reconnaissance des droits des usagers. En effet, la rhétorique commerciale des investisseurs et des concepteurs de ces services cherche constamment à reléguer ces tâches en dehors du « vrai travail » . Les interfaces des applications sont conçues pour être ludiques et engager les usagers à s’en servir en minimisant la perception de la pénibilité des missions qu’on leur confie. La rémunération modique qu’ils en retirent contribue elle aussi à éloigner les soupçons qu’il s’agit d’une activité travaillée, niant par là même tout lien de subordination. Usagers et propriétaires des plates-formes s’accordent pour dire que le microtravail peut tout au plus donner lieu à un complément de revenu, mais difficilement à un revenu principal. Le niveau de qualification est souvent faible, ce qui explique que ces microprestations favorisent aussi l’entrée sur le marché du travail de personnes affichant une extrême variété aussi bien par leur niveau d’éducation, leurs compétences linguistiques que par leur culture du travail.

La promesse fallacieuse de l’émancipation

Clé de voûte des modèles d’affaires des plates-formes numériques orientées vers la production de solutions « intelligentes » , le digital labor influence de larges écosystèmes d’entreprises et

irrigue les marchés actuels. Les modèles d’organisation du travail humain qu’il inspire présentent une forte variabilité. Les utilisateurs d’applications à la demande et les abonnés de médias sociaux se situent aux extrêmes d’un éventail de situations, dont les constantes sont la tâcheronnisation et la datafication. Le digital labor peut être tantôt assimilé à du freelancing, tantôt au travail temporaire, aux « contrats zéro heure » comme pour certains livreurs à la demande, voire au travail à la pièce pour les microtravailleurs, au travail « gratuit » ou rémunéré par des avantages en nature (bons d’achat, produits, accès à des services premium) pour les membres de plates-formes sociales.

Néanmoins, le digital labor est une occupation qui peine à être reconnue comme relevant du travail au regard des critères de définition de l’emploi formel. Son rapprochement avec d’autres formes de travail invisible (domestique, ludifié, « du consommateur » , « des publics » , immatériel) ayant fait surface au cours des dernières décennies fait en l’occurrence apparaître que la position relative d’un travailleur des plates-formes, les conditions matérielles et la nature de ses activités sont largement influencées par le degré d’ « ostensibilité » de ses tâches.

A travers la promesse fallacieuse de l’émancipation par l’automation et le spectre menaçant de l’obsolescence du travail humain, les plates-formes numériques condamnent la multitude grandissante des tâcherons du clic à une aliénation radicale : oeuvrer inlassablement à leur propre disparition en s’effaçant derrière des machines dont ils sont et resteront les rouages indispensables. Pour contrer cette destinée funeste, la reconnaissance du digital labor s’impose comme un objectif politique majeur, afin de doter les « travailleurs digitaux » d’une véritable conscience de classe en tant que producteurs de valeur.

La vie privée et les travailleurs de la donnée (Le Monde, 22 janv. 2018)

Media features, , , ,

Dans Le Monde du 22 janvier 2018, je publie avec Paola Tubaro une tribune à l’occasion des 40 ans de la CNIL.

Attention : La tribune a été traduite en portugais et publié sur le site brésilien Outras Palavras.

 

Notre vie privée, un concept négociable

Antonio Casilli (Télécom ParisTech/EHESS) et Paola Tubaro (CNRS)

La défense de nos informations personnelles ne doit pas exclure celle des droits des travailleurs de la donnée

L’idée que nous nous faisons de la vie privée a profondément changé ces dernières années. Lorsque, en 1890, les juristes américains Samuel Warren et Louis Brandeis définissaient the right to privacy comme ” le droit d’être laissé en paix “, ils ignoraient qu’un siècle plus tard, cette définition n’aurait pas de sens pour 4 milliards d’êtres humains connectés. Nous n’assistons pas à sa fin, mais à la transformation de la -notion héritée de la tradition étasunienne. Pour ceux d’entre nous qui sont activement en quête de correspondants, d’amis, de partenaires sur un réseau numérique, le souci de défendre nos informations personnelles d’ingérences extérieures se révèle accessoire par rapport au droit de savoir combien de personnes exactement les possèdent et quel usage en est fait.

Nos informations ne sont plus ” chez nous “. Elles sont disséminées sur les profils Facebook de nos amis, dans les bases de données des commerçants qui tracent nos transactions, dans les boîtes noires algorithmiques qui captent le trafic Internet pour les services de renseignement. Il n’y a rien de plus collectif qu’une donnée personnelle. La question est donc moins de la protéger de l’action d’intrus qui cherchent à en pénétrer la profondeur que d’harmoniser une pluralité d’acteurs sociaux qui veulent y avoir accès.

Exit la notion de privacy comme pénétration qui était à la base de la loi Informatique et libertés de 1978, place à celle de privacy comme négociation. Communiquer des informations personnelles ou même sensibles à des tiers divers et variés fait désormais partie de l’expérience quotidienne de tout individu, que ce soit pour accéder à des biens commerciaux ou à des services publics. Il s’agit par exemple de consulter son compte Ameli, de vérifier un itinéraire sur son GPS, parfois d’organiser une rencontre sur Tinder ou de mesurer sa performance sportive par un bracelet connecté. Auparavant, le consentement à la captation, au traitement et à la conservation des données était nécessaire pour qu’une -pénétration de l’intimité ne soit pas une violation. Maintenant, sa fonction a changé. On donne son consentement contre un service.

C’est là le premier sens de l’idée de négociation de la vie privée : un échange, marchand ou pas, où les données personnelles font fonction de monnaie. S’arrêter à cette seule interprétation serait pourtant fourvoyant et politiquement myope. La vie privée est aujourd’hui surtout une négociation collective, une -concertation entre plusieurs parties afin de définir des obligations réciproques et d’organiser une relation. Cette relation peut être conflictuelle. De la campagne indienne contre l’usage des données par l’application Free -Basics à la plainte de l’ONG Europe-v-Facebook invalidant l’accord Safe Harbor, qui autorisait la plate-forme à transférer les informations des citoyens européens vers les Etats-Unis, les usagers de médias sociaux s’insurgent régulièrement contre des conditions perçues comme abusives.

Notre privacy cesse aujourd’hui d’être un droit individuel et se rapproche de l’idée d’un faisceau de droits et de prérogatives à allouer entre les citoyens, l’Etat et les entreprises du numérique. La négociation n’est pas simple et se complique d’autant plus que, par leurs -algorithmes, de puissantes plates-formes -tentent d’infléchir nos comportements. Un contact créé par deux usagers de leur propre initiative et un contact créé sous le conseil d’un système de recommandation automatisé sont-ils équivalents? Qui détient un droit sur les informations que cette relation engendre?

Il faut alors s’interroger non seulement sur les conditions d’usage, mais aussi sur les -modes de production des données, lesquels sont profondément influencés par les modèles d’affaires et les architectures logicielles -imposées par les plates-formes.

En effet, au-delà de la production de données brutes, des problèmes d’ordre nouveau apparaissent lorsqu’on étend son regard à leurs enrichissement, codage, étiquetage, mise en forme – opérations nécessaires pour rendre les données exploitables par des techniques de machine learning, soit l’apprentissage automatique. Les photos des vacances mises en ligne par les usagers d’une plate-forme sociale peuvent, par exemple, être labélisées par des tags qui identifient les lieux. Ces informations ont une valeur économique : -elles peuvent être vendues à des régies publicitaires ou, mieux, être utilisées pour calibrer des intelligences artificielles qui proposent automatiquement de prochains séjours aux vacanciers. Parfois, ce sont les usagers eux-mêmes qui ajoutent ces informations; parfois, les entreprises ont recours à du ” microtravail ” payé à la pièce. Moyennant quelques centimes, des services comme Amazon -Mechanical Turk leur permettent de demander à des myriades d’ouvriers du clic, souvent situées dans des pays en voie de développement, de trier ou d’améliorer photos, textes ou vidéos. Ces services recrutent des prestataires majoritairement précaires et peu rémunérés, remettant en question d’anciens acquis en termes de conditions de travail et d’appropriation de son produit. Ces nouvelles formes de digital labor s’imposent comme une -urgence pour le régulateur.

Pour corriger les distorsions et les abus provoqués par cette situation, la solution -consiste à élargir le domaine d’action des autorités de régulation des données comme la CNIL. Il s’agit non seulement de s’intéresser aux architectures techniques des plates-formes qui permettent l’extraction et la circulation des données personnelles, mais aussi de créer les conditions pour que le travail de production et d’enrichissement des données (autant de la part des services de microtravail que des usagers de plates-formes généralistes comme Instagram ou Google) reste respectueux des droits des personnes et du droit du travail. Le défi qui attend la CNIL est de devenir non pas un gardien de la propriété sur les données, mais un défenseur des droits des travailleurs de la donnée.

Antonio Casilli et Paola Tubaro

Digital labor, privilège et invisibilisation de la pénibilité (grand entretien dans Le Monde, 11 mars 2017)

Media features, , , , , , ,

Le quotidien Le Monde démarre une enquête sur le digital labor. Le coup d’envoi ? Cette interview que j’ai accordée au journaliste Grégoire Orain.

« Sur Internet, nous travaillons tous, et la pénibilité de ce travail est invisible »

Le chercheur Antonio Casilli explique comment, derrière des services en apparence gratuits, Facebook, Amazon, Google… ont créé une « économie du clic ».

Par Grégoire Orain (propos recueillis par)

Quel est le point commun entre le moment ou vous remontez votre fil Facebook, celui où vous regardez des vidéos sur YouTube et lorsque vous cherchez des photos de chatons sur Google ? Dans les trois cas, vous l’ignorez sans doute, vous êtes en train de travailler.Sur Internet, les grandes plates-formes numériques américaines font tout pour capter notre attention et notre temps, nous offrant des services toujours plus sophistiqués pour communiquer, voyager, nous informer, ou tout simplement consommer.Des outils gratuits, du moins en apparence. Car derrière nos loisirs numériques se cache un bouleversement majeur, mondial, de la façon dont nous produisons de la valeur. De manière plus ou moins invisible, plus ou moins insidieuse, la Silicon Valley nous a tous mis au travail.Antonio Casilli est enseignant-chercheur à Télécom ParisTech et à l’Ecole des hautes études en sciences sociales (EHESS), auteur, avec le sociologue Dominique Cardon, de Qu’est-ce que le Digital Labor ? (INA éditions, 2015).

Dans votre ouvrage, vous expliquez que dès l’instant où quelqu’un se connecte à Facebook, voire à Internet en général, il est mis au travail. De quelle manière ?

C’est un concept que la communauté scientifique appelle le digital labor, c’est-à-dire un travail du clic, composé de plusieurs petites tâches, réalisé sur des plates-formes, qui ne demande pas de qualification et dont le principal intérêt est de produire des données. C’est un travail éminemment social.Sur les réseaux sociaux, par exemple, vous êtes toujours en train de coopérer avec quelqu’un – vous partagez son contenu, likez sa photo, et ainsi de suite –, mais également de travailler pour quelqu’un – le réseau social, qui exploite vos données. C’est ainsi que les grandes plates-formes numériques auxquelles nous avons accès produisent de la valeur.

Quelles sont ces plates-formes, et comment nous font-elles travailler ?

Il en existe quatre types. Le premier type, ce sont les plates-formes à la demande, comme Uber ou Airbnb, qui sous couvert d’une autre activité (transport, location, etc.) font de la production de données, enregistrent nos destinations, notre localisation, nos commentaires, notre réputation, nos évaluations, et qui revendent ensuite ces données.Du côté des chauffeurs du VTC, à lire : Uber crée « une nouvelle population de travailleurs pauvres et mal couverts »Le deuxième type, ce sont les plates-formes de microtravail comme Amazon Mechanical Turk, Upwork, l’application mCent… Des sites sur lesquels des millions de personnes dans le monde réalisent des tâches extrêmement simples [chercher sur Internet l’adresse d’un magasin, numériser les informations d’une carte de visite, décrire les éléments d’une image…] pour des rémunérations extrêmement faibles, de l’ordre de quelques centimes d’euros par minute.Le troisième type, ce sont les plates-formes de gestion de l’Internet des objets. Nos smartphones, nos montres connectées, mais aussi nos télévisions, nos ampoules ou nos thermostats connectés produisent de la donnée qui est ensuite exploitée. Nos maisons se transforment en usine à données, et cette production converge vers les immenses serveurs de Google ou d’Amazon.Le dernier type, enfin, ce sont les plates-formes sociales. Ecrire un post, formuler un tweet, filmer une vidéo pour la partager, mais aussi faire circuler des contenus, signaler ceux qui sont choquants ou inappropriés, c’est du travail, même s’il y a un côté jeu, un côté qui procure du plaisir.

Est-ce vraiment un problème de travailler indirectement et gratuitement pour Facebook ou pour Uber ? Après tout, ils fournissent aussi des services qui sont utiles et pour lesquels nous ne payons pas…

Les personnes qui ne voient pas le souci dans le digital labor sont des privilégiés. Ce sont les gens qui ont le temps et le capital social et culturel nécessaires pour profiter à l’extrême de ce qu’offre le Net. Internet a été conçu pour plaire à ces personnes-là, et celles-ci y trouvent un plaisir fou.  Mais dans le même temps, lorsque nous laissons parler notre privilège, nous faisons l’impasse sur des dizaines de millions de personnes en Inde, en Chine ou ailleurs qui nous permettent de profiter d’Internet pour un salaire de la faim.  Une plate-forme comme Upwork affiche 12 millions de travailleurs enregistrés, autant pour les Chinois de Witmart. Les microtâches réalisées sur ces plates-formes servent à améliorer les intelligences artificielles et les algorithmes des services que nous utilisons, à filtrer les contenus que nous ne voulons pas voir. Un travail invisible, une économie du clic, faite de travailleurs exploités à l’autre bout du monde.

Comment se fait-il que cet aspect de l’activité sur Internet soit méconnu des utilisateurs du réseau ?

Parce que ces entreprises font appel à des ruses pour nous convaincre de travailler pour elles. Pour commencer, la production de données est la plus simple possible. En 2011, Mark Zuckerberg affirmait qu’un partage sur Facebook devait se faire « sans aucune résistance ». On cherche à fluidifier la production de données.  La seconde ruse, qui rend le travail invisible à nos yeux, c’est la « ludification » ; on fait de la production un jeu, ce qui permet aux gens de tirer un plaisir du fait de passer des heures et des heures connectés à des systèmes qui, pourtant, ne cessent de leur adresser des injonctions : clique ici, « like » cette vidéo, commente ton expérience, etc.  Sur les plates-formes de microtravail, c’est la même chose. L’interface d’Amazon Mechanical Turk est assez sympa : des icônes partout, un effet d’émulation entre travailleurs, une valorisation de la réactivité, des scores qui débloquent d’autres jobs à accomplir, etc.  En somme, la ludification permet de pousser les gens à constamment interagir…  Pas seulement. En faisant de la production un jeu, et donc en la sortant de la transaction économique, on minimise le risque que les gens s’organisent, prennent conscience qu’ils sont en train de travailler et, finalement, demandent de l’argent.  C’est pour cette raison qu’il est très difficile d’organiser une prise de conscience collective : tout est fait pour que l’utilisateur soit mis en dehors de la logique contractuelle ou salariale.
Dans ce cas, le « digital labor » n’est-il pas un travail heureux ?

La vraie question n’est pas celle du bonheur ou du plaisir, mais celle de la pénibilité du travail, qui devient invisible. D’autres que nous se tapent les tâches pénibles, les visionnages de contenus méprisables, affreux, terribles, et font marcher le trafic organique dans Facebook. Les personnes qui filtrent les vidéos des égorgements de l’organisation Etat islamique sont aux Philippines, au Mexique, ailleurs. On a délocalisé la pénibilité.

Comment peut-on faire pour prendre en compte ces nouvelles formes de production qui échappent aux cadres habituels du temps de travail, des contrats, du salaire ?

Il y a un problème d’organisation au niveau international, un problème urgent, sérieux, pour lequel il n’y a pour l’instant pas de réponse. Aujourd’hui, si quelqu’un fait grève aux Philippines, un Indonésien va récupérer le travail. Mais ce n’est pas qu’une question de concurrence entre différents pays. Comment donner à tout le monde des droits, la possibilité de contester des conditions de travail ?  En revanche, dans les contextes nationaux, les choses bougent rapidement. Les syndicats, en France, en Allemagne, en Scandinavie, en Autriche, lancent des réflexions sur les travailleurs des plates-formes, de toutes les plates-formes, celles à la demande, bien sûr, comme Uber, mais aussi les plates-formes de microtâches.  Le syndicat allemand IGmetall, par exemple, a lancé Fair Crowd Work, un outil qui doit permettre à ceux qui accomplissent un microtravail de dénoncer les mauvaises pratiques, d’évaluer leurs employeurs, etc.

Si cette régulation ne vient pas, que se passera-t-il ?

Un syndicat, aujourd’hui, ne peut pas se permettre de continuer à avoir les mêmes logiques de dialogue social ou de financement, car les scénarios qui se préparent sont des scénarios de conflictualité.  Elle est déjà là : Uber et tant d’autres font face à des grèves, les modérateurs et les filtreurs s’organisent. Mais en face, les entreprises traditionnelles se « plateformisent » à mesure qu’elles se tournent vers l’exploitation de données, la mise en place d’algorithmes, etc. Cette polarisation demande que les corps intermédiaires sachent de quoi il est question, et quelles sont leurs responsabilités sociales et politiques.

Source: « Sur Internet, nous travaillons tous, et la pénibilité de ce travail est invisible »

Dans Le Monde : récension de “Qu’est-ce que le digital labor?” (10 déc. 2015)

Media features, , , , , , ,

Dans le quotidien Le Monde du 10 décembre 2015, David Larousserie nous livre un compte-rendu amusé et amusant de notre ouvrage Qu’est-ce que le digital labor? (INA éditions, 2015).

Eclairages

Quand Internet n’est plus « sympa »

LIVRE DU JOUR
David Larousserie

Qui a dit que les joutes intellectuelles avaient disparu ? En tout cas, pas deux des plus réputés sociologues français spécialistes des usages numériques, comme ils le montrent dans ce vivifiant essai consacré à une question émergente : le digital labor . Autrement dit, ce « travail » gratuit que les utilisateurs de plates- formes de réseaux sociaux, de ventes en ligne, de moteur de recherche effectuent en recommandant, « aimant », lançant des requêtes, interagissant, et que les entreprises monétisent auprès de publicitaires ou d’autres acteurs. L’expression a émergé à partir de 2009 aux Etats-Unis dans le champ académique pour de- venir un domaine de recherche actif. Production de valeur, mesures de performances, cadre contractuel (par les illisibles « conditions générales d’utilisation »), rappel à l’ordre pour pro- duire (par les notifications, alertes ou invitations diverses). Tout cela est bien du travail, décrit Antonio Casilli, sociologue à Télécom ParisTech, dans la première partie du livre. Et, dès lors, avec d’autres, il s’interroge sur les dispositifs d’exploitation, voire d’aliénation à l’œuvre ici comme dans n’importe quelle activité laborieuse. Le ton devient alors plus critique sur ces dérives marchandes qui accaparent la vie privée ou les biens communs.
Dominique Cardon, sociologue aux Orange Labs, dans une deuxième partie, commence par esquiver en prenant un recul original. La notion de digital labor relève plus de la posture que de l’analyse profonde. Elle se place à l’extérieur des sujets d’étude, donc au-dessus des internautes, pour leur dévoiler une aliénation qu’ils ignorent. Il raille donc ce point de vue, tout en détaillant les raisons intellectuelles et sociologiques qui ont amené à ce déferlement de critiques. « Internet était sympa, il ne l’est plus » , comme il le résume ironiquement. Bien sûr, les réseaux d’aujourd’hui n’ont plus rien à voir avec ceux d’hier avec marchandisation, espionnage à grande échelle, domination de quelques géants. Mais, face à ce constat sombre, il préfère retenir la grande diversité des usages et la démocratisation de l’expression, qui sont toujours vivantes.
A distance, les mots doux s’envolent entre les deux spécialistes lors d’une troisième partie construite comme un dialogue : « aristocrate ! », « libéral ! », « paternaliste ! », « incohérent ! » . Cependant, les deux tombent d’accord sur un point. Dominique Cardon regrette la mainmise d’une vision « économiciste » dans les analyses (aliénation, exploitation, valeur, etc.). Antonio Casilli aussi en somme, en rejetant les solutions consistant à rétribuer les internautes échangeant sur les plates-formes, comme certains l’ont proposé. Il préférerait une « rémunération » qui « redonne aux communs ce qui a été pris aux communs », par exemple sous forme d’un revenu de base ou bien d’une taxation des entreprises liées aux données qu’elles exploitent. Au fil des échanges se dégage une vision particulièrement riche des mutations à l’œuvre à propos d’Internet et de ses utilisateurs.

Qu’est-ce que le digital labor ?
de Dominique Cardon et Antonio Casilli
INA Editions, 104 p., 6 euros

Dans M – Le Magazine de Le Monde (24 sept. 2011)

Media features, , , ,

Dans M, le Magazine de Le Monde la journaliste Stéphanie Chayet interroge Antonio Casilli, auteur de Les liaisons numériques. Vers une nouvelle sociabilité ? (Ed. du Seuil), ainsi qu’André Gunthert, Dominique Cardon et Nicole Ellison sur la relation ambigue que l’on entretien avec Facebook, devenu désormais incontournable tout en ayant perdu son aura de “réseau miracle” des années 2000. D’où la provocation d’Antonio Casilli : Facebook est devenu comme le McDonald’s du Web !

"Internet et moi" sur Le Monde.fr (11 févr. 2011)

Conférences, Sur le Web, , , , , ,

Sur Le Monde.fr, le blog Internet & moi de Sébastien Desbenoit propose un compte rendu de la soirée “Web Culture” (Villa Gillet, Lyon, 2010) dans le cadre de laquelle Antonio Casilli, auteur de Les liaisons numériques. Vers une nouvelle sociabilité ? (Seuil) est intervenu à côté de Dominique Cardon (Orange Labs / EHESS) et de Virginia Heffernan (New York Times).

Cet individualisme d’exposition sert la relation sociale de plusieurs façons. Il permet de créer des échanges autour de cette exhibition : « tu as vu mes dernières photos ? ». Dévoiler des bribes de sa vie sur Internet donne l’impression à la personne derrière son écran de “connaître l’auteur” et de créer un lien relationnel et/ou émotionnel. Cette mise en avant de soi aide également à entretenir le lien d’autres personnes de son propre réseau humain en leur offrant cet accès à une certaine intimité : Internet ne vient pas diminuer la relation sociale, mais au contraire l’augmenter : les relations sur le web complètent les relations I.R.L. “In Real Life”. Le web n’est pas un aspirateur de notre vie sociale c’est un outil de mise en valeur.