Dans La Croix, la journaliste Audrey Dufour consacre trois pages au sujet du microtravail et ses liens avec l’IA. Les recherches de l’équipe DiPLab y sont mises à l’honneur. Dans un court texte, tiré de l’interview que j’ai accordé au quotidien, j’entame un débat avec le scientifique Jean-Claude Heudin.
Croix-2022
Dans le cadre d’un grand dossier que le quotidien L’Humanité consacre aux travaux de notre équipe de recherche DiPLab, un long article dans lequel est présentée notre enquête sur la sous-traitance des données nécessaires pour produire les IA françaises à Madagascar (2022). Pour apporter un éclairage sur les liens entre travail du clic et héritages coloniaux, j’ai accordé un entretien au journaliste Pierric Marissal.
Le partage des tâches dans l’économie de l’intelligence artificielle se calque sur des rapports de dépendance Nord-Sud, analyse le chercheur Antonio Casilli.
Antonio Casilli (1) coordonne avec Ulrich Laitenberger et Paola Tubaro l’équipe de recherche DiPLab (Digital Platform Labor) afin de mettre en lumière toute la chaîne de production humaine derrière les technologies intelligentes et l’IA. Deux régions géographiques sont étudiées : l’Amérique latine (projet CNRS Tria) et l’Afrique (projet ANR Hush), et leurs liens avec les entreprises donneuses d’ordres européennes.
Comment qualifiez-vous ces liens entre les entreprises donneuses d’ordres et exécutantes dans l’intelligence artificielle ? De la sous-traitance classique ? Du colonialisme ?
Cela reste une classique volonté d’externalisation vers des pays tiers à but de minimisation des coûts du traitement des données et des infrastructures. Les groupes occidentaux, pour développer leur sous-traitance, se sont souvent appuyés sur des entreprises structurées qui existaient déjà, par exemple dans le secteur du textile ou des centres d’appels. Dans l’Afrique francophone, on retrouve ainsi Madagascar, mais aussi le Maroc, la Tunisie, le Cameroun, le Sénégal ou la Côte d’Ivoire. Il s’est ainsi créé tout un circuit d’entraînement des intelligences artificielles. Cette sous-traitance s’inscrit dans une logique de dépendance économique qui elle-même est parfois héritée d’une longue histoire de dépendance politique. On peut alors parler effectivement de trajectoire coloniale. Mais je préfère le terme de colonialité, qui souligne l’emprise culturelle que les pays du Nord ont sur ceux du Sud.
C’est-à-dire ?
La colonialité, c’est le pouvoir de façonner l’identité des citoyens d’une autre nation. Jadis, elle les réduisait à des sujets coloniaux, aujourd’hui à des « data subjects ». Lorsqu’on regarde qui produit des données annotées, au bénéfice de qui, on voit bien qu’il n’y a pas de hasard. C’est en tout cas ce que montrent nos propres enquêtes pour l’Afrique francophone, comme celles de l’Oxford Internet Institute, qui a beaucoup travaillé les liens entre l’Afrique de l’Est, l’Inde, l’Angleterre et les États-Unis. Et les Philippines, qui étaient un protectorat états-unien.
On retrouve donc de vieilles dépendances…
Les liens culturels et linguistiques sont en effet cruciaux pour certains produits d’intelligence artificielle comme les assistants vocaux, par exemple, ou des systèmes linguistiques ou lexicaux. Beaucoup de microtravailleurs s’inscrivent à des cours de l’Alliance française ou de l’Institut Cervantès pour parfaire leur maîtrise de la langue. On retrouve, là encore, des liens issus des siècles passés. Mais on voit aussi de nouvelles dépendances de l’Ouest vers l’Est qui lient l’Égypte, les pays du Golfe et la Chine. J’ai rencontré des propriétaires de start-up dans la banlieue du Caire, où des jeunes Égyptiennes faisaient de la reconnaissance faciale pour le gouvernement chinois. Cette sous-traitance de technologies de surveillance qui consiste à identifier et traquer en temps réel, on l’a aussi rencontrée à Madagascar, comme au Venezuela.
Comme cela se passe-t-il en Amérique latine, justement ?
La colonialité des siècles passés se manifeste dans des liens entre des pays de langue espagnole et l’Espagne. Mais il y a aussi des dépendances héritées du XIXe siècle et de la doctrine Monroe, qui théorisait la domination politique des États-Unis sur tout le continent sud-américain. Aujourd’hui, l’Argentine, la Colombie et particulièrement le Venezuela produisent des données pour des entreprises américaines. Ils ont une identité économique et politique qui ne se construit que par rapport au pays le plus fort. C’est la définition même de la colonialité telle que l’a pensée le sociologue péruvien Aníbal Quijano. Concrètement, ces pays sont des sous-traitants condamnés à le rester. Leur travail sera constamment considéré comme sans qualité ni qualification. Même si nous avons rencontré des Vénézuéliens diplômés en sciences de l’ingénieur et des Malgaches diplômés de l’enseignement supérieur, ils sont réduits à faire des microtâches pour quelques centimes par jour sur des plateformes.
Y a-t-il des stratégies des entreprises donneuses d’ordres pour maintenir leurs sous-traitants en bas de l’échelle de la production de valeur ?
Les entreprises donnent le moins d’informations possibles sur l’usage qui sera fait des données. La raison officielle est que s’ils savaient à quoi est destinée l’intelligence artificielle, les travailleurs pourraient saboter le processus d’entraînement et chercher à introduire des biais spécifiques, pour des raisons économiques ou politiques. Cela peut s’imaginer si l’IA sert à de la reconnaissance visuelle pour des missiles de l’armée, par exemple. Mais, effectivement, moins les start-up donnent de détails, moins elles risquent que leurs sous-traitants s’organisent et tentent de leur piquer le marché. Cela entretient ce système de subordination.
À l’inverse, celui qui commande l’IA a-t-il connaissance de toute cette chaîne de sous-traitance ?
Pas forcément. Pour notre projet ANR Hush, nous avions interrogé des grands groupes français qui recrutaient les travailleurs de plateforme. Nous avons remarqué que les responsables marketing pouvaient décider d’acheter 10 000 clics pour une campagne de communication sans en référer aux ressources humaines, alors qu’il y a des humains derrière. Les entreprises commandent ce type de services comme si elles se payaient du matériel de bureau. Cela crée une nouvelle chape d’invisibilité sur ces travailleurs.
Entretien réalisé par Pierric Marissal
Dans le cadre du dossier que le quotidien Libération consacre à un “Voyage au cœur de l’IA”, la journaliste Julie Ronfaut rencontre informaticiens et sociologues (dont moi) pour parler d’automation et travail.
Entre prévisions catastrophistes et optimisme souvent intéressé, l’impact de ces technologies sur les travailleurs est difficile à prédire. Au-delà du risque d’aggravation des inégalités, c’est surtout notre dépendance qui doit être interrogée.
Quand on lui demande si l’intelligence artificielle (IA) va détruire nos emplois, GPT-3 reste prudent : «Cette question est très controversée et dépend largement des applications de l’intelligence artificielle.» Pour une réponse plus détaillée, et surtout plus intéressante, on se tournera plutôt vers les humains qui planchent depuis longtemps sur ces enjeux, En 2013, une étude publiée par l’université d’Oxford semait un vent de panique. Après avoir analysé 702 métiers, ses auteurs ont conclu que 47 % des emplois aux Etats-Unis seraient automatisables d’ici à vingt ans, grâce à des robots, des logiciels ou des intelligences artificielles. Parmi les métiers les moins à risque, on retrouvait les assistants de service social, les orthoprothésistes ou les stomatologues. Parmi les plus à risques, les télémarketeurs, les réparateurs de montres ou les agents de bibliothèque.
Presque dix ans après ces prédictions fatalistes, et parfois critiquées, économistes et sociologues du travail tentent toujours d’estimer les conséquences de la généralisation des intelligences artificielles dans nos vies. Certains de ces travaux cassent nos clichés. En 2020, Michael Webb, économiste de l’université de Standford, supposait que contrairement aux robots et aux logiciels, qui peuvent concurrencer des métiers moins qualifiés, l’intelligence artificielle menace davantage les emplois à hautes compétences, car elle ne se contente pas d’effectuer des tâches répétitives. Les travailleurs les plus âgés, qui ont accumulé le plus d’expérience et qui s’adaptent moins vite, seraient particulièrement vulnérables à ces bouleversements. Par ailleurs, en 2019, l’OCDE donnait une estimation moins dramatique que les économistes de l’université d’Oxford : «Seulement 14 % des emplois existants présentent un risque de complète automatisation, et non pas près de 50 % comme le suggèrent d’autres recherches.» Par ailleurs, 32 % des emplois pourraient «profondément changer», sans pour autant disparaître.
Intelligence artificielle
Il est donc difficile d’estimer l’impact réel de l’intelligence artificielle sur le futur marché de l’emploi, entre les pessimistes, qui craignent une explosion massive du chômage, et les optimistes, qui croient en la destruction créatrice (discours largement nourri par l’industrie du numérique) ou en l’avènement d’une société sans travail. Pourtant, certains spécialistes arguent qu’on se trompe de sujet. «Ce n’est pas l’intelligence artificielle qui menace l’emploi, c’est le capitalisme et la course effrénée aux hyperprofits», tranche Antonio Casilli, professeur de sociologie à l’Institut polytechnique de Paris. «Les investisseurs cherchent à réduire le coût de la masse salariale par différentes méthodes. Par exemple, en licenciant en masse puis en réembauchant des personnes en free-lance pour ne pas payer de cotisations sociales. On assiste aussi à la fragmentation de métiers qui, avant, étaient professionnalisants et liés à des compétences fortes. Désormais, il s’agit de microtâches séparées. Ce qu’on voit aujourd’hui c’est moins du chômage de masse qu’une situation de précarisation généralisée.»
Dans son essai En attendant les robots (Seuil, 2019), le chercheur s’attaque justement à la «prophétie lancinante» de la fin du travail provoqué par les machines. Il y souligne que les intelligences artificielles sont des dispositifs qui demandent énormément de travail humain pour fonctionner, au-delà des développeurs informatiques qui les créent. C’est ce qu’on appelle le «digital labor». Des activités (rémunérées ou non) conçues pour enrichir des plateformes numériques, les nourrir de données, et donc leur donner de la valeur : livreur Deliveroo, travailleur du clic (qui fait des petites tâches répétitives comme de trier ou d’annoter une base de données) ou même… internaute qui s’amuse à discuter avec GPT-3, entraînant ainsi l’IA pour améliorer gratuitement ses performances. C’est un travail qui n’est pas considéré comme du travail, sans protection ni reconnaissance. Or, ce phénomène de digital labor s’accélère, particulièrement avec la crise sanitaire et encore plus dans les pays en développement. L’intelligence artificielle aggrave donc déjà les inégalités économiques et sociales, mais pas forcément comme on le croit. «Dans ce débat sur l’intelligence artificielle et l’emploi, il faut se poser cette question : quand on parle d’automatisation, de quoi parle-t-on vraiment ? s’interroge Antonio Casilli. Souvent, cela veut dire remplacer des personnes visibles par d’autres invisibles, qu’on sépare du reste du monde par un écran.»