intelligence artificielle

Dans La Croix, trois pages sur le micro-travail (13 déc. 2022)

Dans La Croix, la journaliste Audrey Dufour consacre trois pages au sujet du microtravail et ses liens avec l’IA. Les recherches de l’équipe DiPLab y sont mises à l’honneur. Dans un court texte, tiré de l’interview que j’ai accordé au quotidien, j’entame un débat avec le scientifique Jean-Claude Heudin.

Croix-2022

Dans l’Humanité, mon interview sur colonialité et travail du clic (9 déc. 2022)

Dans le cadre d’un grand dossier que le quotidien L’Humanité consacre aux travaux de notre équipe de recherche DiPLab, un long article dans lequel est présentée notre enquête sur la sous-traitance des données nécessaires pour produire les IA françaises à Madagascar (2022). Pour apporter un éclairage sur les liens entre travail du clic et héritages coloniaux, j’ai accordé un entretien au journaliste Pierric Marissal.

Antonio Casilli : « De sujets coloniaux à des “data subjects” »

Le partage des tâches dans l’économie de l’intelligence artificielle se calque sur des rapports de dépendance Nord-Sud, analyse le chercheur Antonio Casilli.

Antonio Casilli (1) coordonne avec Ulrich Laitenberger et Paola Tubaro l’équipe de recherche DiPLab (Digital Platform Labor) afin de mettre en lumière toute la chaîne de production humaine derrière les technologies intelligentes et l’IA. Deux régions géographiques sont étudiées : l’Amérique latine (projet CNRS Tria) et l’Afrique (projet ANR Hush), et leurs liens avec les entreprises donneuses d’ordres européennes.

Comment qualifiez-vous ces liens entre les entreprises donneuses d’ordres et exécutantes dans l’intelligence artificielle ? De la sous-traitance classique ? Du colonialisme ?

Cela reste une classique volonté d’externalisation vers des pays tiers à but de minimisation des coûts du traitement des données et des infrastructures. Les groupes occidentaux, pour développer leur sous-traitance, se sont souvent appuyés sur des entreprises structurées qui existaient déjà, par exemple dans le secteur du textile ou des centres d’appels. Dans l’Afrique francophone, on retrouve ainsi Madagascar, mais aussi le Maroc, la Tunisie, le Cameroun, le Sénégal ou la Côte d’Ivoire. Il s’est ainsi créé tout un circuit d’entraînement des intelligences artificielles. Cette sous-traitance s’inscrit dans une logique de dépendance économique qui elle-même est parfois héritée d’une longue histoire de dépendance politique. On peut alors parler effectivement de trajectoire coloniale. Mais je préfère le terme de colonialité, qui souligne l’emprise culturelle que les pays du Nord ont sur ceux du Sud.

C’est-à-dire ?

La colonialité, c’est le pouvoir de façonner l’identité des citoyens d’une autre nation. Jadis, elle les réduisait à des sujets coloniaux, aujourd’hui à des « data subjects ». Lorsqu’on regarde qui produit des données annotées, au bénéfice de qui, on voit bien qu’il n’y a pas de hasard. C’est en tout cas ce que montrent nos propres enquêtes pour l’Afrique francophone, comme celles de l’Oxford Internet Institute, qui a beaucoup travaillé les liens entre l’Afrique de l’Est, l’Inde, l’Angleterre et les États-Unis. Et les Philippines, qui étaient un protectorat états-unien.

On retrouve donc de vieilles dépendances…

Les liens culturels et linguistiques sont en effet cruciaux pour certains produits d’intelligence artificielle comme les assistants vocaux, par exemple, ou des systèmes linguistiques ou lexicaux. Beaucoup de microtravailleurs s’inscrivent à des cours de l’Alliance française ou de l’Institut Cervantès pour parfaire leur maîtrise de la langue. On retrouve, là encore, des liens issus des siècles passés. Mais on voit aussi de nouvelles dépendances de l’Ouest vers l’Est qui lient l’Égypte, les pays du Golfe et la Chine. J’ai rencontré des propriétaires de start-up dans la banlieue du Caire, où des jeunes Égyptiennes faisaient de la reconnaissance faciale pour le gouvernement chinois. Cette sous-traitance de technologies de surveillance qui consiste à identifier et traquer en temps réel, on l’a aussi rencontrée à Madagascar, comme au Venezuela.

Comme cela se passe-t-il en Amérique latine, justement ?

La colonialité des siècles passés se manifeste dans des liens entre des pays de langue espagnole et l’Espagne. Mais il y a aussi des dépendances héritées du XIXe siècle et de la doctrine Monroe, qui théorisait la domination politique des États-Unis sur tout le continent sud-américain. Aujourd’hui, l’Argentine, la Colombie et particulièrement le Venezuela produisent des données pour des entreprises américaines. Ils ont une identité économique et politique qui ne se construit que par rapport au pays le plus fort. C’est la définition même de la colonialité telle que l’a pensée le sociologue péruvien Aníbal Quijano. Concrètement, ces pays sont des sous-traitants condamnés à le rester. Leur travail sera constamment considéré comme sans qualité ni qualification. Même si nous avons rencontré des Vénézuéliens diplômés en sciences de l’ingénieur et des Malgaches diplômés de l’enseignement supérieur, ils sont réduits à faire des microtâches pour quelques centimes par jour sur des plateformes.

Y a-t-il des stratégies des entreprises donneuses d’ordres pour maintenir leurs sous-traitants en bas de l’échelle de la production de valeur ?

Les entreprises donnent le moins d’informations possibles sur l’usage qui sera fait des données. La raison officielle est que s’ils savaient à quoi est destinée l’intelligence artificielle, les travailleurs pourraient saboter le processus d’entraînement et chercher à introduire des biais spécifiques, pour des raisons économiques ou politiques. Cela peut s’imaginer si l’IA sert à de la reconnaissance visuelle pour des missiles de l’armée, par exemple. Mais, effectivement, moins les start-up donnent de détails, moins elles risquent que leurs sous-traitants s’organisent et tentent de leur piquer le marché. Cela entretient ce système de subordination.

À l’inverse, celui qui commande l’IA a-t-il connaissance de toute cette chaîne de sous-traitance ?

Pas forcément. Pour notre projet ANR Hush, nous avions interrogé des grands groupes français qui recrutaient les travailleurs de plateforme. Nous avons remarqué que les responsables marketing pouvaient décider d’acheter 10 000 clics pour une campagne de communication sans en référer aux ressources humaines, alors qu’il y a des humains derrière. Les entreprises commandent ce type de services comme si elles se payaient du matériel de bureau. Cela crée une nouvelle chape d’invisibilité sur ces travailleurs.

Entretien réalisé par Pierric Marissal

Dans Libération (7 déc. 2022)

Dans le cadre du dossier que le quotidien Libération consacre à un “Voyage au cœur de l’IA”, la journaliste Julie Ronfaut rencontre informaticiens et sociologues (dont moi) pour parler d’automation et travail.

L’intelligence artificielle, une précarisation de l’emploi plus qu’une destruction

Entre prévisions catastrophistes et optimisme souvent intéressé, l’impact de ces technologies sur les travailleurs est difficile à prédire. Au-delà du risque d’aggravation des inégalités, c’est surtout notre dépendance qui doit être interrogée.

Quand on lui demande si l’intelligence artificielle (IA) va détruire nos emplois, GPT-3 reste prudent : «Cette question est très controversée et dépend largement des applications de l’intelligence artificielle.» Pour une réponse plus détaillée, et surtout plus intéressante, on se tournera plutôt vers les humains qui planchent depuis longtemps sur ces enjeux, En 2013, une étude publiée par l’université d’Oxford semait un vent de panique. Après avoir analysé 702 métiers, ses auteurs ont conclu que 47 % des emplois aux Etats-Unis seraient automatisables d’ici à vingt ans, grâce à des robots, des logiciels ou des intelligences artificielles. Parmi les métiers les moins à risque, on retrouvait les assistants de service social, les orthoprothésistes ou les stomatologues. Parmi les plus à risques, les télémarketeurs, les réparateurs de montres ou les agents de bibliothèque.

«Précarisation généralisée»

Presque dix ans après ces prédictions fatalistes, et parfois critiquées, économistes et sociologues du travail tentent toujours d’estimer les conséquences de la généralisation des intelligences artificielles dans nos vies. Certains de ces travaux cassent nos clichés. En 2020, Michael Webb, économiste de l’université de Standford, supposait que contrairement aux robots et aux logiciels, qui peuvent concurrencer des métiers moins qualifiés, l’intelligence artificielle menace davantage les emplois à hautes compétences, car elle ne se contente pas d’effectuer des tâches répétitives. Les travailleurs les plus âgés, qui ont accumulé le plus d’expérience et qui s’adaptent moins vite, seraient particulièrement vulnérables à ces bouleversements. Par ailleurs, en 2019, l’OCDE donnait une estimation moins dramatique que les économistes de l’université d’Oxford : «Seulement 14 % des emplois existants présentent un risque de complète automatisation, et non pas près de 50 % comme le suggèrent d’autres recherches.» Par ailleurs, 32 % des emplois pourraient «profondément changer», sans pour autant disparaître.

Intelligence artificielle

Il est donc difficile d’estimer l’impact réel de l’intelligence artificielle sur le futur marché de l’emploi, entre les pessimistes, qui craignent une explosion massive du chômage, et les optimistes, qui croient en la destruction créatrice (discours largement nourri par l’industrie du numérique) ou en l’avènement d’une société sans travail. Pourtant, certains spécialistes arguent qu’on se trompe de sujet. «Ce n’est pas l’intelligence artificielle qui menace l’emploi, c’est le capitalisme et la course effrénée aux hyperprofits», tranche Antonio Casilli, professeur de sociologie à l’Institut polytechnique de Paris. «Les investisseurs cherchent à réduire le coût de la masse salariale par différentes méthodes. Par exemple, en licenciant en masse puis en réembauchant des personnes en free-lance pour ne pas payer de cotisations sociales. On assiste aussi à la fragmentation de métiers qui, avant, étaient professionnalisants et liés à des compétences fortes. Désormais, il s’agit de microtâches séparées. Ce qu’on voit aujourd’hui c’est moins du chômage de masse qu’une situation de précarisation généralisée.»

Inégalités sociales aggravées

Dans son essai En attendant les robots (Seuil, 2019), le chercheur s’attaque justement à la «prophétie lancinante» de la fin du travail provoqué par les machines. Il y souligne que les intelligences artificielles sont des dispositifs qui demandent énormément de travail humain pour fonctionner, au-delà des développeurs informatiques qui les créent. C’est ce qu’on appelle le «digital labor». Des activités (rémunérées ou non) conçues pour enrichir des plateformes numériques, les nourrir de données, et donc leur donner de la valeur : livreur Deliveroo, travailleur du clic (qui fait des petites tâches répétitives comme de trier ou d’annoter une base de données) ou même… internaute qui s’amuse à discuter avec GPT-3, entraînant ainsi l’IA pour améliorer gratuitement ses performances. C’est un travail qui n’est pas considéré comme du travail, sans protection ni reconnaissance. Or, ce phénomène de digital labor s’accélère, particulièrement avec la crise sanitaire et encore plus dans les pays en développement. L’intelligence artificielle aggrave donc déjà les inégalités économiques et sociales, mais pas forcément comme on le croit. «Dans ce débat sur l’intelligence artificielle et l’emploi, il faut se poser cette question : quand on parle d’automatisation, de quoi parle-t-on vraiment ? s’interroge Antonio Casilli. Souvent, cela veut dire remplacer des personnes visibles par d’autres invisibles, qu’on sépare du reste du monde par un écran.»

[Vidéo] Est-ce que le micro-travail est un “travail sans qualité” ? (Avignon, 12 juill. 2022)

9ème Rencontres Recherche et Création Festival d’Avignon – ANR, Contes, mondes et récits, les 11 et 12 juillet 2022. Le travail « sans qualités » ? par Antonio Casilli, professeur et sociologue à Télécom Paris. Antonio Casilli est coordinateur du projet Hush – La chaîne d’approvisionnement humaine derrière les technologies intelligentes, financé par l’ANR : https://anr.fr/Projet-ANR-19-CE10-0012

Combien de travail humain dans les chatbots ? (Télérama, 18 juin 2022)

Les assistants vocaux et les chatbots sont devenus incontournables dans de nombreux domaines de la vie quotidienne. Pourtant leurs enjeux demeurent mal maîtrisés. Telerama recueille les propos de Lurence Devillers, Nicolas Sabouret et moi-même.

Services clients, plateformes de vente, santé… faut-il se méfier des chatbots ?

Kyrill Nikitine

Selon l’agence de conseils en technologies Juniper Research, les chatbots permettront d’économiser plus de 2,5 milliards d’heures de travail d’ici à 2023, soit 11 milliards de dollars de coût de main-d’œuvre.
Selon l’agence de conseils en technologies Juniper Research, les chatbots permettront d’économiser plus de 2,5 milliards d’heures de travail d’ici à 2023, soit 11 milliards de dollars de coût de main-d’œuvre. Photo Carol Yepes / Getty Images

Les assistants virtuels se multiplient et sont devenus incontournables dans de nombreux domaines de la vie quotidienne. Un épatant progrès technique, dont les enjeux demeurent toutefois mal maîtrisés.

Passez-vous plus de temps à discuter en ligne avec des chatbots, ces assistants virtuels censés répondre à vos questions, qu’avec votre propre conjoint ? Oui, à en croire une étude prévisionnelle réalisée en 2016 puis en 2019 par Gartner Inc., cabinet de conseil américain en technologie et intelligence artificielle. Et en se multipliant, ces échanges génèrent de vertigineuses économies : selon l’agence de conseils en technologie Juniper Research, les chatbots permettront d’économiser plus de 2,5 milliards d’heures de travail d’ici à 2023, soit 11 milliards de dollars de coût de main-d’œuvre… Quant à la célèbre holding financière JPMorgan Chase & Co., elle les utilise déjà pour influencer non seulement sa clientèle, mais aussi ses milliers d’employés : « C’est une énorme possibilité de suggérer des recommandations créatives et perspicaces, se targuait déjà en 2018 leur responsable Jason Tiede, dans une interview accordée à la chaîne américaine CNBC. Un chatbot peut dire par exemple : “On dirait que vous avez envoyé un virement de 100 dollars. Savez-vous que vous pourriez envoyer un paiement en devises à la place ?” »

Continue ici.

Interview dans Le Monde (21 nov. 2021)

A l’occasion de la parution d’un dossier sur le travail des plateformes, j’ai accordé un entretien à la journaliste Catherine Quignon (Le Monde).

« L’intelligence artificielle favorise l’accélération du microtravail »

Le professeur de sociologie Antonio Casilli explique au « Monde » que le nombre de personnes travaillant sur des plates-formes numériques a augmenté pendant la crise sanitaire, amorçant une nouvelle forme de précarisation.

Par Catherine Quignon

Antonio Casilli est professeur de sociologie à Télécom Paris, grande école de l’Ixnstitut polytechnique de Paris, et codirigeant de l’équipe de recherche DiPLab (Digital Platform Labor) sur le travail en ligne. Il explique l’essor du microtravail sur les plates-formes.

Quel est le profil des microtravailleurs ?

En France, notre équipe de recherche a dénombré près de 15 000 personnes qui se connecteraient chaque semaine sur les plates-formes de microtravail – plus de 50 000 au moins une fois par mois –, et plus de 260 000 microtravailleurs seraient inscrits mais pas ou peu actifs. Contrairement à ce que l’on pourrait croire, ces personnes sont souvent diplômées.

Le profil des inscrits reflète aussi l’évolution des plates-formes. Depuis plusieurs années, la frontière s’estompe avec les sites de free-lance classique. Certaines plates-formes de microtravail recherchent des compétences assez avancées sur des missions mieux payées, autour de 15 dollars de l’heure. Parallèlement, on voit des plates-formes de free-lance se mettre à proposer des microtâches, comme taguer des images. Cela reflète une forme de paupérisation du travail indépendant.

Quel impact la crise sanitaire a-t-elle eu sur le microtravail ?

Plusieurs plates-formes annoncent qu’elles ont vu leur activité augmenter avec la crise sanitaire, mais on suppose qu’il s’agit d’abord d’une augmentation des personnes qui s’inscrivent. L’une des plus importantes au monde, Appen, déclare avoir vu son activité croître de 30 % depuis avril 2020. De son côté, Clickworker dit avoir atteint les 2 millions de travailleurs inscrits sur sa plate-forme. Preuve que la crise sanitaire est aussi une crise de l’emploi.

Parallèlement, il semble que certaines entreprises ont plutôt tendance à vouloir réinternaliser ce processus de microtravail, à cause du risque de fuites de données. On se souvient des controverses autour des assistants vocaux en 2019, lorsque les médias ont révélé que des armées de microtravailleurs écoutaient et retranscrivaient des conversations. On suppose que ces fuites ont pu contraindre les entreprises à renoncer à se tourner vers des sous-traitants, mais il reste difficile de mesurer l’ampleur réelle de ce phénomène.

L’intelligence artificielle va-t-elle tuer le microtravail ?

Contrairement aux idées reçues, l’intelligence artificielle favoriserait plutôt l’accélération du microtravail. On aurait pu croire que, une fois entraînées, les machines pourraient progresser toutes seules mais, en fait, elles ont constamment besoin d’être réentraînées. Car la réalité du terrain, le comportement des consommateurs, la manière de parler en ligne… changent constamment. Lorsqu’on tapait « corona » en 2018 dans Google, la première réponse affichée par le moteur de recherche était « bière ». Fin 2019, des millions de personnes se sont mises à rechercher le terme « coronavirus ». Il a fallu l’intervention humaine de milliers d’employés pour vérifier et rectifier les résultats du moteur de recherche. Preuve que plus il y a d’intelligences artificielles, plus il y a besoin d’êtres humains derrière pour les rééduquer.

[Vidéo] [séminaire #ECNEHESS] Angèle Christin (ft. Berlin Tech Workers Coalition) : “De l’éthique à l’ethnographie des algorithmes” (wébinaire, 11 mars 2021, 19h)

La quatrième séance d’approfondissement de notre séminaire #ecnEHESS Étudier les cultures du numérique (organisée en collaboration avec la Gaîté Lyrique) a eu lieu en version wébinaire le jeudi 11 mars 2021, de 19h à 21h. Les échanges se sont déroulés en anglais.

Dans ce séminaire, Angèle Christin (Université Stanford), auteure entre autres de Metrics at Work. Journalism and the Contested Meaning of Algorithms (Princeton University Press, 2020) plaide pour l’articulation entre grands principes de l’éthique des algorithmes et observation ethnographique de leur conception et usages afin de prendre en compte leurs conséquences sociales inattendues.

Dans le rôle de discutant/contrepoint, le militant Yonatan Miller, membre de la Berlin Tech Workers Coalition, organisation de protection des droits des travailleurs du secteur technologique.

⚠️ La séance a eu lieu en distanciel sur Plein Écran, la plateforme de vidéoconférences de la Gaîté Lyrique : https://gaite-lyrique.net/plein-ecran/contenu/les-algorithmes-en-pratiques-de-lethique-a-lethnographie ⚠️


Les algorithmes en pratiques: De l’éthique à l’ethnographie

Angèle Christin (Université Stanford)

Les recherches actuelles sur les algorithmes et l’intelligence artificielle articulent d’importantes critiques concernant l’opacité, la discrimination et la surveillance que ces formes technologiques représentent et amplifient. Suite à ces critiques, de nombreux travaux ont apellé au développement d’une “éthique des algorithmes” autour de concepts comme “fairness, accountability, and transparency”. Angèle Christin soutient ici qu’en plus de ces critiques, qui portent principalement sur les instruments eux-mêmes, il est essentiel de réinscrire les algorithmes dans une analyse fine des usages afin de mieux comprendre leurs effets problématiques sur le monde social. En particulier, nous devons inscrire explicitement les algorithmes dans la recherche ethnographique, qui peut faire la lumière sur leurs aspects inattendus. La présentation illustre ces points à partir d’une recherche ethnographique sur les algorithmes prédictifs dans la justice pénale américaine. Angèle Christin conclut en discutant des implications de cette boîte à outils pour l’étude des systèmes sociotechniques. 

[Podcast] L’automate et le tâcheron (Radio AlterNantesFM, 25 févr. 2021)

Antonio Casilli, sociologue, enseignant-chercheur à Télécom Paris, auteur d’En attendant les robots, enquête sur le travail du clic, essai paru aux éditions du Seuil est l’invité du magazine. Il est intervenu dans le cadre des mardis de l’IEAoLU sur le thème :  « L’automate et le tâcheron. Dépasser la rhétorique de la destinée manifeste de l’intelligence artificielle »…

Une émission de Michel Sourget

[Vidéo] [Séminaire #ecnEHESS] Anna Jobin (ft. Paolo Cirio) : “Quelles valeurs pour l’éthique de l’IA ?” (wébinaire, 28 janv. 2021, 19h)

La troisième séance d’approfondissement de notre séminaire #ecnEHESS Étudier les cultures du numérique (organisée en collaboration avec la Gaîté Lyrique) e eu lieu en version wébinaire le jeudi 28 janvier 2021, de 19h à 21h.

Dans ce séminaire, Anna Jobin (chercheuse HIIG Berlin, projet Shaping AI) dressera une cartographie de l’éthique de l’intelligence artificielle à partir de son projet The global landscape of AI ethics guidelines (2019). Dans son intervention elle passe en revue des douzaines de “chartes éthiques” adoptées dans le courant des dernières années par les producteurs mêmes de ces solutions technologiques.

Dans le rôle de discutant/contrepoint, l’artiste Paolo Cirio, auteur du projet Capture censuré par le Ministère de l’Intérieur français en octobre 2020, revient sur les enjeux éthiques de la généralisation de la reconnaissance faciale. Son intervention se déroule en anglais.


Vers une convergence de l’éthique de l’IA

Anna Jobin (HIIG Berlin)

Zoom
Jeudi 28 janvier 2021
19h-21h



L’intelligence artificielle “éthique” est devenue un nouveau centre d’attention dans les discussions publiques et académiques. Cela s’est notamment manifesté par une avalanche de déclarations de principes et directives éthiques publiées par des organisations les plus diverses ces dernières années. Qui sont ces organisations? Que disent réellement ces documents ? La roue est-elle réinventée à chaque fois ? Et quelle est la compréhension de l’éthique qui motive ces recommandations sur l’IA éthique ? Une analyse minutieuse de ces documents montre que, malgré une convergence apparente sur certains principes éthiques en surface, on ne retrouve aucun principe éthique commun. Qui plus est, ces documents présentent des divergences substantielles. Divergences concernant notamment la manière dont les principes éthiques sont interprétés, pourquoi ils sont jugés importants, à quelle question, à quel domaine ou à quels acteurs ils se rapportent et comment ils devraient être mis en œuvre.

Quel processus, et qui, définit au final ce qui est éthique dans le domaine de l’IA? Les enseignements riches émanant d’un focus sur les principes éthiques invitent de fait à élargir la réflexion sur la gouvernance de l’IA.