colonialité

Dans l’Humanité, mon interview sur colonialité et travail du clic (9 déc. 2022)

Dans le cadre d’un grand dossier que le quotidien L’Humanité consacre aux travaux de notre équipe de recherche DiPLab, un long article dans lequel est présentée notre enquête sur la sous-traitance des données nécessaires pour produire les IA françaises à Madagascar (2022). Pour apporter un éclairage sur les liens entre travail du clic et héritages coloniaux, j’ai accordé un entretien au journaliste Pierric Marissal.

Antonio Casilli : « De sujets coloniaux à des “data subjects” »

Le partage des tâches dans l’économie de l’intelligence artificielle se calque sur des rapports de dépendance Nord-Sud, analyse le chercheur Antonio Casilli.

Antonio Casilli (1) coordonne avec Ulrich Laitenberger et Paola Tubaro l’équipe de recherche DiPLab (Digital Platform Labor) afin de mettre en lumière toute la chaîne de production humaine derrière les technologies intelligentes et l’IA. Deux régions géographiques sont étudiées : l’Amérique latine (projet CNRS Tria) et l’Afrique (projet ANR Hush), et leurs liens avec les entreprises donneuses d’ordres européennes.

Comment qualifiez-vous ces liens entre les entreprises donneuses d’ordres et exécutantes dans l’intelligence artificielle ? De la sous-traitance classique ? Du colonialisme ?

Cela reste une classique volonté d’externalisation vers des pays tiers à but de minimisation des coûts du traitement des données et des infrastructures. Les groupes occidentaux, pour développer leur sous-traitance, se sont souvent appuyés sur des entreprises structurées qui existaient déjà, par exemple dans le secteur du textile ou des centres d’appels. Dans l’Afrique francophone, on retrouve ainsi Madagascar, mais aussi le Maroc, la Tunisie, le Cameroun, le Sénégal ou la Côte d’Ivoire. Il s’est ainsi créé tout un circuit d’entraînement des intelligences artificielles. Cette sous-traitance s’inscrit dans une logique de dépendance économique qui elle-même est parfois héritée d’une longue histoire de dépendance politique. On peut alors parler effectivement de trajectoire coloniale. Mais je préfère le terme de colonialité, qui souligne l’emprise culturelle que les pays du Nord ont sur ceux du Sud.

C’est-à-dire ?

La colonialité, c’est le pouvoir de façonner l’identité des citoyens d’une autre nation. Jadis, elle les réduisait à des sujets coloniaux, aujourd’hui à des « data subjects ». Lorsqu’on regarde qui produit des données annotées, au bénéfice de qui, on voit bien qu’il n’y a pas de hasard. C’est en tout cas ce que montrent nos propres enquêtes pour l’Afrique francophone, comme celles de l’Oxford Internet Institute, qui a beaucoup travaillé les liens entre l’Afrique de l’Est, l’Inde, l’Angleterre et les États-Unis. Et les Philippines, qui étaient un protectorat états-unien.

On retrouve donc de vieilles dépendances…

Les liens culturels et linguistiques sont en effet cruciaux pour certains produits d’intelligence artificielle comme les assistants vocaux, par exemple, ou des systèmes linguistiques ou lexicaux. Beaucoup de microtravailleurs s’inscrivent à des cours de l’Alliance française ou de l’Institut Cervantès pour parfaire leur maîtrise de la langue. On retrouve, là encore, des liens issus des siècles passés. Mais on voit aussi de nouvelles dépendances de l’Ouest vers l’Est qui lient l’Égypte, les pays du Golfe et la Chine. J’ai rencontré des propriétaires de start-up dans la banlieue du Caire, où des jeunes Égyptiennes faisaient de la reconnaissance faciale pour le gouvernement chinois. Cette sous-traitance de technologies de surveillance qui consiste à identifier et traquer en temps réel, on l’a aussi rencontrée à Madagascar, comme au Venezuela.

Comme cela se passe-t-il en Amérique latine, justement ?

La colonialité des siècles passés se manifeste dans des liens entre des pays de langue espagnole et l’Espagne. Mais il y a aussi des dépendances héritées du XIXe siècle et de la doctrine Monroe, qui théorisait la domination politique des États-Unis sur tout le continent sud-américain. Aujourd’hui, l’Argentine, la Colombie et particulièrement le Venezuela produisent des données pour des entreprises américaines. Ils ont une identité économique et politique qui ne se construit que par rapport au pays le plus fort. C’est la définition même de la colonialité telle que l’a pensée le sociologue péruvien Aníbal Quijano. Concrètement, ces pays sont des sous-traitants condamnés à le rester. Leur travail sera constamment considéré comme sans qualité ni qualification. Même si nous avons rencontré des Vénézuéliens diplômés en sciences de l’ingénieur et des Malgaches diplômés de l’enseignement supérieur, ils sont réduits à faire des microtâches pour quelques centimes par jour sur des plateformes.

Y a-t-il des stratégies des entreprises donneuses d’ordres pour maintenir leurs sous-traitants en bas de l’échelle de la production de valeur ?

Les entreprises donnent le moins d’informations possibles sur l’usage qui sera fait des données. La raison officielle est que s’ils savaient à quoi est destinée l’intelligence artificielle, les travailleurs pourraient saboter le processus d’entraînement et chercher à introduire des biais spécifiques, pour des raisons économiques ou politiques. Cela peut s’imaginer si l’IA sert à de la reconnaissance visuelle pour des missiles de l’armée, par exemple. Mais, effectivement, moins les start-up donnent de détails, moins elles risquent que leurs sous-traitants s’organisent et tentent de leur piquer le marché. Cela entretient ce système de subordination.

À l’inverse, celui qui commande l’IA a-t-il connaissance de toute cette chaîne de sous-traitance ?

Pas forcément. Pour notre projet ANR Hush, nous avions interrogé des grands groupes français qui recrutaient les travailleurs de plateforme. Nous avons remarqué que les responsables marketing pouvaient décider d’acheter 10 000 clics pour une campagne de communication sans en référer aux ressources humaines, alors qu’il y a des humains derrière. Les entreprises commandent ce type de services comme si elles se payaient du matériel de bureau. Cela crée une nouvelle chape d’invisibilité sur ces travailleurs.

Entretien réalisé par Pierric Marissal

Pour un tournant décolonial numérique (Télérama, 5 févr. 2018)

Dans Télérama, l’entretien accordé au journaliste Romain Jeanticou.

La domination des géants du numérique est-elle un nouveau colonialisme ?

Romain Jeanticou Publié le 05/02/2018.

Google, Apple, Facebook, Amazon, Microsoft… En offrant nos données personnelles à ces géants aussi puissants que des Etats, nous les laissons nous exploiter, selon le sociologue et chercheur italien Antonio Casilli, qui plaide pour un “tournant décolonial numérique”.

On les dit plus puissants que certains Etats. Les géants de l’économie numérique – Google, Apple, Facebook, Amazon et Microsoft en tête – n’ont qu’à jeter un œil par les fenêtres que nous leur ouvrons sur nos vies pour savoir ce que nous faisons, ce que nous consommons ou ce à quoi nous rêvons. Sans nous en rendre compte, nous produisons chaque jour, gratuitement, et parfois même avec délectation, des données personnelles monétisées et revendues à des entreprises tierces ou à des Etats. L’autonomie des utilisateurs vantée par les plateformes cache en réalité l’exploitation de cette production bénévole : nous travaillons tous gratuitement pour Facebook ou Google. Nous serions même devenus de la « chair à algorithmes », comme le dénonce une tribune datée du 5 février, parue dans Le Monde, invitant chacun à monnayer ses données personnelles. 

Une position à laquelle s’oppose fermement le sociologue et chercheur italien Antonio Casilli, maître de conférences en humanités numériques à Télécom ParisTech et auteur, en 2010, des Liaisons numériques. Vers une nouvelle sociabilité ? (éd. Seuil). Dans un article paru en fin d’année dernière dans la revue académique américaine International Journal of Communication, il met toutefois en parallèle la « mise au travail » des internautes avec les modes de subordination appliqués à ses travailleurs par l’économie numérique. Dans le Nord – les chauffeurs Uber – mais aussi et surtout dans le Sud – les employés des « fermes à clics », ces « micro-travailleurs » engagés pour accomplir de toutes petites tâches censées enrichir ces mêmes plateformes.

Ces asymétries et ces rapports de force font émerger un discours critique de la situation de puissance des entreprises du numérique, de plus en plus assimilée à une forme de colonisation. Pour autant, Antonio Casilli appelle à définir ces relations de pouvoir inédites à l’aide de nouveaux concepts, parmi lesquels la « colonialité ».

Est-il pertinent de comparer les géants du numérique à des Etats ?

C’est très cohérent avec la rhétorique commerciale de ces entreprises. Etre comparé à un Etat est très flatteur lorsque l’on se présente comme capable de le remplacer. Plusieurs dirigeants des entreprises de la Silicon Valley sont proches des postures politiques libertariennes qui prônent le remplacement des structures publiques par des sociétés privées. Lorsque Google propose aux villes de développer des services de « smart cities », à Toronto par exemple, elle cherche à se substituer aux administrations locales. En développant ces services, ces entreprises nous mettent face à la possibilité de nous passer d’un gouvernement démocratiquement élu. Cette posture est possible parce que nos démocraties sont imparfaites et montrent leurs limites : depuis le tournant néolibéral de la fin du siècle dernier, elles ne garantissent plus le minimum de services indispensables d’un Etat-providence. Cette déficience crée un appel d’air qui permet aux plateformes de s’imposer comme fournisseurs de ces services tout en créant une proximité avec les citoyens. Avec un téléphone dans sa poche, on est toujours plus proche d’Apple que de l’administration publique.

Les tâcherons du clic

Selon vous, la dynamique d’exploitation de ces plateformes est double : la mise au travail des utilisateurs dans les pays riches, celle des micro-travailleurs dans les pays pauvres. Nous serions tous des ouvriers du travail numérique.

Ces plateformes, même les plus ludiques, sont basées sur des mécanismes de mise au travail de leurs usagers. Quatre milliards d’êtres humains connectés produisent en permanence des biens, des contenus et des données qui constituent l’actif immatériel de ces plateformes. Ceux-ci sont ensuite revendus et monétisés à des entreprises tierces ou à certains Etats. Vos recherches Internet permettent par exemple à des sites de vente en ligne de vous proposer des publicités ciblées. Il faut ajouter à cela une utilisation de ces données à des fins d’automatisation, c’est-à-dire pour l’apprentissage des machines à intelligence artificielle qui seront chargées d’évaluer, d’analyser et de trier ce contenu.

Ces bases de données sont produites quotidiennement par nous-mêmes, mais aussi par des « tâcherons du clic », ces travailleurs rémunérés en centimes pour cliquer sur des publicités ou modérer du contenu. Ils évoluent dans des conditions de précarité et de volatilité de revenus extrêmes. Le tout sans encadrement contractuel ni protection sociale. Cette économie est florissante dans le sud de l’hémisphère : dans les pays émergents ou en voie de développement comme les Philippines, l’Inde, le Népal, le Mexique, la Colombie…

Comment les gouvernements occidentaux participent-ils à la construction de ces systèmes de domination et d’exploitation ?

Il y participent par omission. A l’exception de certains efforts de réflexion comme ceux de France Stratégie [institution d’expertise rattachée au cabinet du Premier ministre, ndlr] ou du Conseil national du numérique en France, on assiste à une forme d’aveuglement des gouvernements face au développement de l’automatisation. Ils n’y voient que l’aspect technique – la montée en puissance de l’intelligence artificielle – et oublient l’humain dans l’équation – les ouvriers chargés d’entraîner les machines. Cette économie n’est pas faite que de robots, ni seulement d’ingénieurs ou d’experts de la gestion de données. Elle épouse même des formes de délocalisation : les entreprises occidentales achètent du clic à des usines de micro-travailleurs au Kenya ou en Thaïlande pour augmenter leurs revenus. C’est parfois cohérent avec l’histoire coloniale de certains pays : la France en Afrique, le Royaume-Uni en Inde, les Etats-Unis aux Philippines… Comme de nombreux autres secteurs de l’économie mondiale, cette mise au travail est construite sur des formes d’asymétrie globale qui ont affaire à des logiques d’exploitation historiques du Sud par le Nord.

Cette nouvelle économie est parfois comparée à du « néocolonialisme » ou à du « cybercolonialisme ». Quelles sont les limites de ces comparaisons ?

La première est l’historicisation immédiate qui en résulte. Le terme « colonialisme » a une histoire, celle de catastrophes humaines et économiques dont les effets courent encore sur de nombreux territoires de l’hémisphère Sud. Le récupérer, c’est risquer l’appropriation et l’effacement de ces spécificités historiques.

La deuxième limite se trouve dans la coupure opérée entre le Nord, que l’on assimilerait à de la production à forte valeur ajoutée et à de la contribution intellectuelle, et le Sud, qui ne produirait que de la matière brute. Ce dualisme contient un jugement de valeur qui fait fi de la production massive de contenu culturel dans le sud du monde. En Chine, on trouve à la fois d’immenses usines à clics et certaines des structures les plus innovantes de la planète en matière de haute technologie.

Enfin, il faut éviter de tomber dans le piège de l’orientalisme : en reléguant le Sud à un schéma statique et passif, on l’éloigne de toute évolution possible. Cette exotisation mène à considérer ces pays comme des territoires arriérés incapables de se défaire de leur position historique. En réalité, beaucoup ont la volonté de devenir compétitifs dans le secteur technologique, à l’image d’une ville comme Bangalore, aujourd’hui considérée comme la Silicon Valley indienne grâce à son important pôle de recherche et de production.

Un travail exploité et invisibilisé

A « colonialisme », vous préférez le concept philosophique de « colonialité ». Pourquoi ?

C’est un concept initié par le chercheur Nelson Maldonado-Torres, qui cherche à élargir la notion de colonialisme. Nous avons besoin d’une notion qui exprime ces formes d’asymétrie politique, économique et culturelle entre le Nord et le Sud tout en dépassant les caractéristiques historiques du colonialisme. La colonialité est détachée de l’expérience coloniale dans le sens où elle renvoie à un ressenti que l’on peut tout aussi bien trouver dans des pays sans histoire coloniale, voire dans des pays du nord de la planète. Lorsque l’on exploite ou vole nos données, nous sommes tous dans cette situation où le travail que nous fournissons pour ces entreprises est exploité et invisibilisé.

Vous plaidez désormais pour un « tournant décolonial numérique ».

On y vient petit à petit. De plus en plus de personnes se rendent compte de cette mise au travail et de sa non-reconnaissance, autant dans le nord que dans le sud. Cette prise de conscience se retrouve chez les chercheurs, mais aussi chez les travailleurs. Pensons aux luttes syndicales en cours : les travailleurs d’Uber et autres Deliveroo contestent partout le management algorithmique auquel ils sont soumis. Ajoutons à cela les groupes d’utilisateurs qui se demandent comment redistribuer la valeur créée sur ces plateformes, via la fiscalité numérique ou la contractualisation des algorithmes, pour contrôler la production de leurs contenus. Les syndicats en France, au Royaume-Uni, en Italie ou en Allemagne s’emparent de ces questions, mais dans le sud aussi une prise de conscience est en cours pour contrer la puissance de ces plateformes, à l’image de l’Inde et du Brésil qui se sont opposés à Facebook et WhatsApp.

 

 

Dans le Monde Diplomatique (déc. 2017)

Dans Le Monde Diplomatique (plus précisément dans son bimestriel « Manière de voir »), Thibault Henneton se penche sur la vie et les conditions de travail des click-workers : évaluateurs, modérateurs, censeurs et parfois “petites mains” des campagnes politiques et du marketing viral. Mes travaux (ainsi que ceux de Sarah Roberts et Alain Supiot) y sont abondamment cités.

Les tâcherons du clic

Sur Internet, l’adage « si c’est gratuit, c’est que tu es le produit » devrait plutôt s’énoncer : « si c’est gratuit, c’est que tu travailles ». L’activité de chacun sur les réseaux en cache une autre, et les millions de petites mains qui l’exécutent.

Le 23 septembre 2017, Microsoft et Facebook célébraient la pose de Marea, un câble sous-marin long de 6 600 kilomètres entre Bilbao et l’État de Virginie, destiné notamment à soutenir le trafic en provenance et à destination de l’Europe. Que le premier réseau social du monde investisse dans une telle infrastructure prouve son désir de maîtriser les tuyaux. Quand bien même Facebook n’existerait plus comme réseau social, il continuerait à traiter des big data ! Mais son modèle économique impliquerait un travail très différent de la part de ses deux milliards d’utilisateurs que celui dont il profite aujourd’hui. Ce labeur, largement invisible, s’accomplit plus ou moins bénévolement dès connexion à la plate-forme. Chaque trimestre, Facebook en récolte en moyenne 4,75 dollars de profits publicitaires par tête.

Le terme digital labor désigne ces activités. Mal cerné par la traduction « travail numérique » — à ne pas confondre avec le travail informatique —, il a bénéficié d’un soudain coup de projecteur grâce à… l’élection de M. Donald Trump. Cherchant hors de ses frontières (de préférence dans l’est de l’Europe) les raisons d’un tel coup de théâtre, une partie de la presse occidentale s’est émue de l’existence de « fermes de contenus » à Saint-Pétersbourg, capables de produire, en anglais, des propos sulfureux sur l’immigration, la race ou le port d’armes. Celles-ci payaient ensuite Facebook pour mettre en valeur ces contenus dans les flux d’actualités de millions d’électeurs.

Dans le même temps, une ville de 55 000 habitants en Macédoine, Vélès, voyait bourgeonner une centaine de sites au service de la communication du candidat républicain. Leurs auteurs, décrits comme de jeunes entrepreneurs, plagiaient des sites d’informations avant de diffuser dans des groupes de militants leurs vrais faux articles derrière de vrais faux profils Facebook. Achetés quelques dizaines de centimes chacun, deux cents profils leur permettaient de drainer quantité d’internautes électrisés par la campagne. Grâce à AdSense, la (…)

Cliquer pour télécharger le pdf.

Colonialisme numérique ? (dans Usbek&Rica, oct-nov. 2017)

Dans le numéro 20 (oct-nov. 2017) du magazine de technologie, prospective et société Usbek & Rica, un long essai de Lilas Guevara sur les postures néo-colonialistes des géants du numérique. La deuxième partie du texte discute mon article Digital labor studies go global, paru dans l’International Journal of Communication en 2017.

Voici un fragment (le reste est disponible en libre accès ici).

(…)

« Colonialité » plutôt que colonialisme

Pourtant, si la grille de lecture postcoloniale est un outil conceptuel intéressant pour mieux comprendre ces structures de domination, la référence ne peut être manipulée à la légère. Dans son article « Digital Labor Studies Go Global. Towards a “digital decolonial turn” », publié en 2017 dans l’International Journal of Communication, le chercheur Antonio Casilli écrit que le parallèle avec « le colonialisme, l’impérialisme et l’esclavage pose certains problèmes. (…) Ces concepts sont à la fois trop osés et trop mous. Osés parce qu’ils reposent sur la valeur choc de notions chargées d’histoire ; mous parce qu’ils ne vont pas au-delà d’équivalences abstraites ». D’après lui, ces grilles d’analyse plaquent des interprétations sur des relations qui n’ont pas d’histoire coloniale : les États-Unis n’ont jamais été les colonisateurs historiques par exemple ; pour autant, ce sont eux qui essuient les principales critiques dans le débat sur l’exploitation à l’heure numérique. Antonio Casilli souligne également une tendance à l’« orientalisme », qui enferme les pays du Sud dans un rôle statique, figé dans des rapports qui les rendent « passifs », ce qui relève d’« un certain paternalisme ».

Antonio Casilli introduit le concept philosophique de « colonialité » en lieu et place de celui de colonialisme pour nourrir une réflexion sur l’émancipation des travailleurs du Sud

Casilli introduit donc le concept philosophique de « colonialité » en lieu et place de celui de colonialisme, non seulement pour rendre visibles les relations de pouvoir évoquées plus haut, mais aussi pour nourrir une réflexion sur l’émancipation des travailleurs du Sud. Il s’appuie sur les travaux du professeur portoricain d’études postcoloniales Nelson Maldonado-Torres, pour qui la colonisation s’immisce aussi dans les manières d’être des colonisés, subsistant même après la fin des administrations coloniales. Pour Maldonado-Torres, les sujets modernes « respirent la colonialité tout le temps et tous les jours » et partagent des traits existentiels, qu’il définit comme la « colonialité de l’être ». En d’autres termes, il faut prendre en compte les subjectivités des personnes qui ont créé leur identité en tant que sujets coloniaux « et donc qui ne se projettent qu’à partir de ces relations d’exploitation », explique Antonio Casilli.

Des travailleurs dans les mines de cobalt du Congo. Crédits : Amnesty International

Pour le sociologue, ce concept peut éclairer les relations de pouvoir qui continuent d’exister aujourd’hui à l’ère du digital labor, tout en ouvrant une voie vers l’émancipation, grâce à la création d’une identité commune pour ces travailleurs numériques, souvent isolés et marginalisés. Le chercheur reprend les mots de Maldonado-Torres pour appeler à « rendre visible l’invisible et analyser les mécanismes qui produisent cette invisibilité ou la visibilité distordue (…) pour permettre l’émergence de réflexions critiques provenant des personnes “invisibles” elles-mêmes ». Cette prise de conscience des travailleurs invisibles est la première étape pour s’émanciper des relations de pouvoir, que ce soit par la création de coopératives ou par le conflit.

En parallèle – et peut-être sera-t-elle poussée par l’autonomisation des travailleurs –, il faudra bien aussi qu’à terme intervienne une forme de « libération » du consommateur. Car même l’exploitation numérique possède deux versants : la situation de l’ouvrier/travailleur numérique vient refléter celle du consommateur qui, tout en étant du « bon côté » de la barrière, est devenu dépendant des produits et services de la Silicon Valley, en échange desquels il cède aux Gafa et autres géants du numérique ses données personnelles et toute son attention. Bref, tout le monde est perdant, sauf Google et ses amis. Pour l’instant. Mais il semblerait que le désir d’un modèle plus équitable pour tous commence à gronder… Sous la Valley, les pavés ?