Para Casilli, los sueños de los robots inteligentes solo benefician a los grandes oligopolios digitales, representados por el acrónimo GAFAM (Google, Apple, Facebook, Amazon, Microsoft). Detrás del discurso promocional del reemplazo de trabajadores humanos por las tecnologías smart, lo que hacen las plataformas es más bien ocultar la realidad del mercado laboral: un trabajo no remunerado o mal remunerado, sin garantías ni protecciones laborales.
Dans La Croix, la journaliste Audrey Dufour consacre trois pages au sujet du microtravail et ses liens avec l’IA. Les recherches de l’équipe DiPLab y sont mises à l’honneur. Dans un court texte, tiré de l’interview que j’ai accordé au quotidien, j’entame un débat avec le scientifique Jean-Claude Heudin.
Antonio Casilli : « De sujets coloniaux à des “data subjects” »
Le partage des tâches dans l’économie de l’intelligence artificielle se calque sur des rapports de dépendance Nord-Sud, analyse le chercheur Antonio Casilli.
Antonio Casilli (1) coordonne avec Ulrich Laitenberger et Paola Tubaro l’équipe de recherche DiPLab (Digital Platform Labor) afin de mettre en lumière toute la chaîne de production humaine derrière les technologies intelligentes et l’IA. Deux régions géographiques sont étudiées : l’Amérique latine (projet CNRS Tria) et l’Afrique (projet ANR Hush), et leurs liens avec les entreprises donneuses d’ordres européennes.
Comment qualifiez-vous ces liens entre les entreprises donneuses d’ordres et exécutantes dans l’intelligence artificielle ? De la sous-traitance classique ? Du colonialisme ?
Cela reste une classique volonté d’externalisation vers des pays tiers à but de minimisation des coûts du traitement des données et des infrastructures. Les groupes occidentaux, pour développer leur sous-traitance, se sont souvent appuyés sur des entreprises structurées qui existaient déjà, par exemple dans le secteur du textile ou des centres d’appels. Dans l’Afrique francophone, on retrouve ainsi Madagascar, mais aussi le Maroc, la Tunisie, le Cameroun, le Sénégal ou la Côte d’Ivoire. Il s’est ainsi créé tout un circuit d’entraînement des intelligences artificielles. Cette sous-traitance s’inscrit dans une logique de dépendance économique qui elle-même est parfois héritée d’une longue histoire de dépendance politique. On peut alors parler effectivement de trajectoire coloniale. Mais je préfère le terme de colonialité, qui souligne l’emprise culturelle que les pays du Nord ont sur ceux du Sud.
C’est-à-dire ?
La colonialité, c’est le pouvoir de façonner l’identité des citoyens d’une autre nation. Jadis, elle les réduisait à des sujets coloniaux, aujourd’hui à des « data subjects ». Lorsqu’on regarde qui produit des données annotées, au bénéfice de qui, on voit bien qu’il n’y a pas de hasard. C’est en tout cas ce que montrent nos propres enquêtes pour l’Afrique francophone, comme celles de l’Oxford Internet Institute, qui a beaucoup travaillé les liens entre l’Afrique de l’Est, l’Inde, l’Angleterre et les États-Unis. Et les Philippines, qui étaient un protectorat états-unien.
On retrouve donc de vieilles dépendances…
Les liens culturels et linguistiques sont en effet cruciaux pour certains produits d’intelligence artificielle comme les assistants vocaux, par exemple, ou des systèmes linguistiques ou lexicaux. Beaucoup de microtravailleurs s’inscrivent à des cours de l’Alliance française ou de l’Institut Cervantès pour parfaire leur maîtrise de la langue. On retrouve, là encore, des liens issus des siècles passés. Mais on voit aussi de nouvelles dépendances de l’Ouest vers l’Est qui lient l’Égypte, les pays du Golfe et la Chine. J’ai rencontré des propriétaires de start-up dans la banlieue du Caire, où des jeunes Égyptiennes faisaient de la reconnaissance faciale pour le gouvernement chinois. Cette sous-traitance de technologies de surveillance qui consiste à identifier et traquer en temps réel, on l’a aussi rencontrée à Madagascar, comme au Venezuela.
Comme cela se passe-t-il en Amérique latine, justement ?
La colonialité des siècles passés se manifeste dans des liens entre des pays de langue espagnole et l’Espagne. Mais il y a aussi des dépendances héritées du XIXe siècle et de la doctrine Monroe, qui théorisait la domination politique des États-Unis sur tout le continent sud-américain. Aujourd’hui, l’Argentine, la Colombie et particulièrement le Venezuela produisent des données pour des entreprises américaines. Ils ont une identité économique et politique qui ne se construit que par rapport au pays le plus fort. C’est la définition même de la colonialité telle que l’a pensée le sociologue péruvien Aníbal Quijano. Concrètement, ces pays sont des sous-traitants condamnés à le rester. Leur travail sera constamment considéré comme sans qualité ni qualification. Même si nous avons rencontré des Vénézuéliens diplômés en sciences de l’ingénieur et des Malgaches diplômés de l’enseignement supérieur, ils sont réduits à faire des microtâches pour quelques centimes par jour sur des plateformes.
Y a-t-il des stratégies des entreprises donneuses d’ordres pour maintenir leurs sous-traitants en bas de l’échelle de la production de valeur ?
Les entreprises donnent le moins d’informations possibles sur l’usage qui sera fait des données. La raison officielle est que s’ils savaient à quoi est destinée l’intelligence artificielle, les travailleurs pourraient saboter le processus d’entraînement et chercher à introduire des biais spécifiques, pour des raisons économiques ou politiques. Cela peut s’imaginer si l’IA sert à de la reconnaissance visuelle pour des missiles de l’armée, par exemple. Mais, effectivement, moins les start-up donnent de détails, moins elles risquent que leurs sous-traitants s’organisent et tentent de leur piquer le marché. Cela entretient ce système de subordination.
À l’inverse, celui qui commande l’IA a-t-il connaissance de toute cette chaîne de sous-traitance ?
Pas forcément. Pour notre projet ANR Hush, nous avions interrogé des grands groupes français qui recrutaient les travailleurs de plateforme. Nous avons remarqué que les responsables marketing pouvaient décider d’acheter 10 000 clics pour une campagne de communication sans en référer aux ressources humaines, alors qu’il y a des humains derrière. Les entreprises commandent ce type de services comme si elles se payaient du matériel de bureau. Cela crée une nouvelle chape d’invisibilité sur ces travailleurs.
L’intelligence artificielle, une précarisation de l’emploi plus qu’une destruction
Entre prévisions catastrophistes et optimisme souvent intéressé, l’impact de ces technologies sur les travailleurs est difficile à prédire. Au-delà du risque d’aggravation des inégalités, c’est surtout notre dépendance qui doit être interrogée.
Quand on lui demande si l’intelligence artificielle (IA) va détruire nos emplois, GPT-3 reste prudent : «Cette question est très controversée et dépend largement des applications de l’intelligence artificielle.» Pour une réponse plus détaillée, et surtout plus intéressante, on se tournera plutôt vers les humains qui planchent depuis longtemps sur ces enjeux, En 2013, une étude publiée par l’université d’Oxford semait un vent de panique. Après avoir analysé 702 métiers, ses auteurs ont conclu que 47 % des emplois aux Etats-Unis seraient automatisables d’ici à vingt ans, grâce à des robots, des logiciels ou des intelligences artificielles. Parmi les métiers les moins à risque, on retrouvait les assistants de service social, les orthoprothésistes ou les stomatologues. Parmi les plus à risques, les télémarketeurs, les réparateurs de montres ou les agents de bibliothèque.
«Précarisation généralisée»
Presque dix ans après ces prédictions fatalistes, et parfois critiquées, économistes et sociologues du travail tentent toujours d’estimer les conséquences de la généralisation des intelligences artificielles dans nos vies. Certains de ces travaux cassent nos clichés. En 2020, Michael Webb, économiste de l’université de Standford, supposait que contrairement aux robots et aux logiciels, qui peuvent concurrencer des métiers moins qualifiés, l’intelligence artificielle menace davantage les emplois à hautes compétences, car elle ne se contente pas d’effectuer des tâches répétitives. Les travailleurs les plus âgés, qui ont accumulé le plus d’expérience et qui s’adaptent moins vite, seraient particulièrement vulnérables à ces bouleversements. Par ailleurs, en 2019, l’OCDE donnait une estimation moins dramatique que les économistes de l’université d’Oxford : «Seulement 14 % des emplois existants présentent un risque de complète automatisation, et non pas près de 50 % comme le suggèrent d’autres recherches.» Par ailleurs, 32 % des emplois pourraient «profondément changer», sans pour autant disparaître.
Intelligence artificielle
Il est donc difficile d’estimer l’impact réel de l’intelligence artificielle sur le futur marché de l’emploi, entre les pessimistes, qui craignent une explosion massive du chômage, et les optimistes, qui croient en la destruction créatrice (discours largement nourri par l’industrie du numérique) ou en l’avènement d’une société sans travail. Pourtant, certains spécialistes arguent qu’on se trompe de sujet. «Ce n’est pas l’intelligence artificielle qui menace l’emploi, c’est le capitalisme et la course effrénée aux hyperprofits», tranche Antonio Casilli, professeur de sociologie à l’Institut polytechnique de Paris. «Les investisseurs cherchent à réduire le coût de la masse salariale par différentes méthodes. Par exemple, en licenciant en masse puis en réembauchant des personnes en free-lance pour ne pas payer de cotisations sociales. On assiste aussi à la fragmentation de métiers qui, avant, étaient professionnalisants et liés à des compétences fortes. Désormais, il s’agit de microtâches séparées. Ce qu’on voit aujourd’hui c’est moins du chômage de masse qu’une situation de précarisation généralisée.»
Inégalités sociales aggravées
Dans son essai En attendant les robots (Seuil, 2019), le chercheur s’attaque justement à la «prophétie lancinante» de la fin du travail provoqué par les machines. Il y souligne que les intelligences artificielles sont des dispositifs qui demandent énormément de travail humain pour fonctionner, au-delà des développeurs informatiques qui les créent. C’est ce qu’on appelle le «digital labor». Des activités (rémunérées ou non) conçues pour enrichir des plateformes numériques, les nourrir de données, et donc leur donner de la valeur : livreur Deliveroo, travailleur du clic (qui fait des petites tâches répétitives comme de trier ou d’annoter une base de données) ou même… internaute qui s’amuse à discuter avec GPT-3, entraînant ainsi l’IA pour améliorer gratuitement ses performances. C’est un travail qui n’est pas considéré comme du travail, sans protection ni reconnaissance. Or, ce phénomène de digital labor s’accélère, particulièrement avec la crise sanitaire et encore plus dans les pays en développement. L’intelligence artificielle aggrave donc déjà les inégalités économiques et sociales, mais pas forcément comme on le croit. «Dans ce débat sur l’intelligence artificielle et l’emploi, il faut se poser cette question : quand on parle d’automatisation, de quoi parle-t-on vraiment ? s’interroge Antonio Casilli. Souvent, cela veut dire remplacer des personnes visibles par d’autres invisibles, qu’on sépare du reste du monde par un écran.»
Quels hommes se cachent derrière les robots ? Réponses avec le sociologue Antonio Casilli, professeur à l’Institut Polytechnique de Paris et spécialiste de nos usages numériques.
Avec
Antonio Casilli Professeur à Telecom Paris, Institut Polytechnique de Paris
Sociologue d’une modernité liquide, il a fait de nos vies numériques un champ d’analyse très concret et interroge ce que les nouvelles technologies font aux humains de corps et d’esprit ! Antonio Casilli est notre invité : professeur de sociologie à l’Institut Polytechnique de Paris, il est l’auteur d’En attendant les robots, paru au Seuil et a participé à la série documentaire Invisibles, les travailleurs du clic, sur France 5, disponible sur la plateforme France TV Slash.
Le quotidien britannique The Guardian rapporte une histoire un peu effrayante d’attaque de robot. En marge d’un tournoi international d’échecs à Moscou, un robot joueur a été mis à disposition. Un petit garçon, qui figure parmi les meilleurs joueurs de la capitale russe dans la catégorie des moins de 9 ans, a voulu tester la machine. Le robot, perturbé par sa rapidité d’exécution, lui a vivement attrapé les doigts. Sur une vidéo, l’on constate que le robot met du temps à lâcher l’enfant et que l’intervention d’un adulte est nécessaire.
Le résultat est une fracture et un plâtre. L’enfant a tout de même pu participer au tournoi le lendemain, à l’aide d’une attelle, mais ses parents envisagent des poursuites judiciaires contre le fabricant du robot.
Dans l’émission “Un nouveau monde”, le sociologue franco-italien Antonio Casilli revient sur cet événement.
L’enfant mis en cause
Étonnamment, c’est l’enfant qui a été mis en cause par les organisateurs du tournoi dans cet événement, car son comportement serait sorti du cadre établi. Sergey Smagin, vice-président de la Fédération russe des échecs, auprès du média russe Baza, justifiait cet acte ainsi : “Il y a des règles de sécurité et il semblerait que l’enfant ne les ait pas respectées. Quand il a entrepris son action, il n’a pas réalisé qu’il devait d’abord attendre. C’est un événement rarissime. Le premier de ce type à ma connaissance.”
Le sociologue spécialisé dans l’analyse des nouvelles technologies Antonio Casilli s’étonne que ce soit le geste de l’enfant qui soit d’abord mis en avant :
“C’est intéressant de remarquer la réaction des organisateurs de ce tournoi d’échecs qui ont tout de suite mis la faute sur l’enfant en disant que c’est lui qui avait commis une erreur parce qu’il avait été trop rapide, plus rapide qu’une machine intelligente parce que cet enfant, c’est l’un des meilleurs champion d’échecs russes de moins de neuf ans. Donc il est plus rapide et plus intelligent que la machine. C’est un joli échec pour cette machine qui joue aux échecs, c’est-à-dire que c’est un fail.”
Cette machine, moins intelligente que cet enfant, n’a pas été blâmée. L’aurait-t-elle compris… Mais comment un tel incident a-t-il été possible ?
Un univers trop complexe pour l’intelligence artificielle
Antonio Casilli explique que ces machines peuvent agir et intervenir dans un cadre précis, mais dès lors que l’on sort de ce cadre, l’univers devient trop complexe :
“Ces machines sont pensées et imaginées pour évoluer dans ce qu’on appelle, en mathématiques, des ‘espaces discrets’. Les échecs sont un cas classique. Vous avez 64 cases, 32 pièces et rien de plus. Mais l’univers est beaucoup plus complexe que ça. Il y a beaucoup plus de places que 64 cases dans l’univers et beaucoup plus de choses que 32 pièces. Et donc, parfois, un doigt peut, disons s’insérer dans la machine, et malheureusement aussi blesser en passant.”
Doit-on avoir peur des machines ?
La peur des machines, qui pourraient prendre la place des humains, peut avoir des liens avec la politique et cette idée totalement abjecte d’un “grand remplacement”, comme l’explique Antonio Casilli :
“La rhétorique du remplacement est une rhétorique qui a des échos, hélas politiquement, très problématiques. Le grand remplacement robotique se fait écho de certaines peurs des droites extrêmes un peu partout dans le monde, d’un grand remplacement. Souvent, les personnes qui véhiculent cette rhétorique du grand remplacement robotique ont aussi des sympathies pour les autres théories du grand remplacement. Et on le voit de plus en plus avec les producteurs de technologies de la Silicon Valley, par exemple, qui se rangent de plus en plus à droite dans l’échiquier politique.”
Des dangers des nouvelles technologies et de l’intelligence artificielle
La perte de contrôle est en revanche une crainte légitime, quant aux nouvelles technologies, toujours plus présentes dans nos quotidiens. Antonio Casilli parle d’automatisation :
“Il existe une continuité entre les plateformes et les applications en général, tous ces petits bouts de logiciels qui peuplent notre vie, nous mettent au travail d’une manière ou d’une autre. Et de l’autre côté, l’automation, parce que c’est souvent avec les données extraites à partir des applications et des plateformes numériques comme Google, Facebook ou WhatsApp. et ainsi de suite, qu’on entraîne, c’est-à-dire qu’on prépare, qu’on produit l’automatisation.”
Est également pointée du doigt dans l’émission “Un monde nouveau” la pénibilité du travail de certains micro-travailleurs, des petites mains qui accomplissent en nombre des taches précises et répétitives notamment.
Antonio Casilli prend l’exemple des voitures autonomes et du travail que cela nécessite, bien souvent délocalisé :
“Ce sont des ordinateurs sur roues et elles enregistrent énormément de données qui doivent être par exemple des vidéos du monde environnant. Après, il faut que quelqu’un traite ces données. Par exemple, en ajoutant des tags comme on le fait sur Instagram par exemple, ‘ça, c’est un arbre’, ‘ça, c’est un feu de circulation’, etc. Ou alors que ces personnes dessinent les contours des voitures… Donc c’est un travail pénible, c’est un travail à faire à la main et qui est considéré comme un travail sans qualités. (…) Les grandes plateformes externalisent, délocalisent ce travail très faiblement rémunéré à des personnes qui sont souvent à l’autre bout du monde, pour les entreprises françaises, fort souvent en Afrique, ou alors dans d’autres pays francophones, et pour les pays anglophones, plutôt du côté de l’Asie, de l’Inde, vers l’Asie du Sud-Est.”
Le sociologue évoque l’idée, pour pallier ses dangers et dérives, de la “coopérativisation”. Il explique : “C’est l’idée de faire en sorte que ces grandes plateformes et ces technologies en général soient confiées aux utilisateurs. Si on devenait tous un peu propriétaires de ces technologies, on aurait aussi la possibilité de les investir de nos exigences, de nos désirs et pas seulement des désirs des billionaires qui les ont lancées au début.”
9ème Rencontres Recherche et Création Festival d’Avignon – ANR, Contes, mondes et récits, les 11 et 12 juillet 2022. Le travail « sans qualités » ? par Antonio Casilli, professeur et sociologue à Télécom Paris. Antonio Casilli est coordinateur du projet Hush – La chaîne d’approvisionnement humaine derrière les technologies intelligentes, financé par l’ANR : https://anr.fr/Projet-ANR-19-CE10-0012
Anne Brunel, rédactrice en chef à Radio France consacre une grande enquête Secrets d’Info du samedi aux manipulations électorales sur les médias numériques. J’ai eu le plaisir de participer à cette émission (pour parler de fermes à clics et usines à contenus) et je vous invite à l’écouter dans son intégralité ainsi qu’à la lire sur le site de Radio France.
Au final cet ouvrage concis et dense permet de confronter les approches sociologiques de deux spécialistes de la participation sur internet. Il aide ainsi à comprendre et mettre en perspectives les pratiques, ainsi qu’à penser les enjeux économiques et politiques liés à cette question. Ce livre est donc à recommander chaudement à ceux qui s’intéressent au développement de la participation et de la co-création de valeur sur internet.
