Intelligences artificielles à l’heure du coronavirus
De visioconférence en téléconsultation médicale, la crise sanitaire a changé notre rapport aux algorithmes. De quelle manière le coronavirus et le confinement ont changé notre vision des intelligences artificielles ? Quels changements sont à prévoir pour le monde de demain ?
Dis Siri, ai-je raison de m’inquiéter ? Comme beaucoup de monde en ce moment, j’ai peur d’une deuxième vague de covid 19. J’ai peur d’un éventuel reconfinement. J’avais besoin de savoir. Alors j’ai demandé à l’assistant vocal d’Apple, qui a réponse à tout.
Dis Siri, y’aura-t-il une deuxième vague ? Pour tout vous dire, j’espérais qu’il ne comprendrait pas, et que sa réponse serait amusante, qu’il me parlerait d’océan et de vagues à surfer. Mais non, Siri a compris ma question. Sauf qu’en guise de réponse, il me renvoie sur des articles datant de juin sur la crainte d’une deuxième vague. L’assistant vocal, en l’occurrence, ne surfe pas sur l’actu brûlante ! Merci Siri, mais tu ferais mieux de me parler de l’écume des vagues.
Toutes les crises offrent l’occasion de se poser les bonnes questions. Celle du covid doit, assurément, nous permettre d’interroger l’intelligence artificielle, qui est déjà partout dans nos vie. Y a-t-il un effet Covid sur notre relation avec elle ?
Voilà la question que nous allons nous poser jusqu’à 11h. Que peuvent-elles pour nous, ces intelligences artificielles, quelles améliorations, quelles aides, notamment sur le plan médical ? Mais quels risques impliquent-elles aussi ? Et quelles limites doit-on fixer pour des machines plus éthiques ? N’hésitez pas à poser toutes vos questions à la page de “l’été comme jamais”, sur franceinter.fr, ou sur l’application mobile d’Inter. Deux spécialistes sont là pour vous répondre. Intelligences artificielle à l’heure du coronavirus.
Nos invité.e.s :
Antonio Casilli, sociologue
Laurence Devillers, professeure en Intelligence artificielle
Une séance animée par Florent Le Bot, IDHES, université d’Evry, organisée avec Nathalie Barnault (Bibliothèque Durkeim, ENS Paris-Saclay) et réalisée en webconférence par la MSH Paris-Saclay.
Antonio Casilli nous présente son livre « En attendant les robots. Enquête sur le travail du clic » paru aux Éditions du Seuil, 2019. Avec en discutant Alexandre Moatti
Professeur à Télécom Paris et chercheur à l’UMR i3 (CNRS / X, Mines ParisTech, Télécom Paris), Antonio Casilli aborde les enjeux du numérique en sociologue. A la suite de projets de recherche qu’il a coordonnés sur les réseaux sociaux en ligne, la santé et la vie privée, il s’est intéressé au « travail du clic » (digital labor) promu par les plateformes numériques. Lauréat d’un appel à workshops de la MSH Paris-Saclay en 2017, il a été la même année lauréat d’un appel à projets Maturation avec le projet DipLab (pour Digital Platform Labor), lequel vise à rendre visible et organiser le micro-travail à l’œuvre sur les plateformes numériques, à partir d’approches interdisciplinaires. Ce projet a fait l’objet d’une conférence internationale organisée en juin 2019 avec France Stratégie.
En attendant les Robots :
L’essor des intelligences artificielles réactualise une prophétie lancinante : avec le remplacement des êtres humains par les machines, le travail serait appelé à disparaître. Si certains s’en alarment, d’autres voient dans la « disruption numérique » une promesse d’émancipation fondée sur la participation, l’ouverture et le partage. Les coulisses de ce théâtre de marionnettes (sans fils) donnent cependant à voir un tout autre spectacle. Celui des usagers qui alimentent gratuitement les réseaux sociaux de données personnelles et de contenus créatifs monnayés par les géants du Web. Celui des prestataires des start-ups de l’économie collaborative, dont le quotidien connecté consiste moins à conduire des véhicules ou à assister des personnes qu’à produire des flux d’informations sur leur smartphone. Celui des microtravailleurs rivés à leurs écrans qui, à domicile ou depuis des « fermes à clic », propulsent la viralité des marques, filtrent les images pornographiques et violentes ou saisissent à la chaîne des fragments de textes pour faire fonctionner des logiciels de traduction automatique. En dissipant l’illusion de l’automation intelligente, Antonio Casilli fait apparaître la réalité du digital labor : l’exploitation des petites mains de l’intelligence « artificielle », ces myriades de tâcherons du clic soumis au management algorithmique de plateformes en passe de reconfigurer et de précariser le travail humain.
J’ai le plaisir d’annoncer la sortie de notre série documentaire France Télévisions Invisibles – Les travailleurs du clic. 90 minutes d’histoires en 4 épisodes, pour zoomer sur Uber, Facebook, Apple, le microtravail… Et surtout le travailleurs qui luttent, s’organisent, brisent le silence. La série a été réalisée par Henri Poulain, co-écrite avec Julien Goetz, avec mon expertise éditoriale—et surtout avec la confiance et le soutien de dizaines de livreur•ses, modérateur•rices, micro-travailleur•ses, syndicalistes en Europe et en Afrique. Il s’agit du premier documentaire du genre qui ne se limite pas à décrire le quotidien des “petites mains de l’IA”, mais se concentre sur les stratégies de résistance et les conflits pour la reconnaissance de ces nouveaux métiers.
Coursiers à vélo, en scooter ou en voiture pour une plateforme de livraison de repas à domicile. De l’autre côté de nos applications, ces travailleurs du clic se démènent pour satisfaire nos besoins.
Les algorithmes répondent à nos envies, à nos désirs. Et si de vraies personnes étaient employées à jouer les robots en attendant que ceux-ci existent réellement ?
Une infime quantité des contenus publiés sur les réseaux sociaux nous font voir le pire. Heureusement, des filtres automatiques modèrent ces contenus. Automatiques, vraiment ?
Au-delà de ces histoires singulières, des systèmes émergent et se dessinent. Le sociologue Antonio Casilli nous explique une part de ce monde moderne et de ses conditions de travail en apparence novatrices.
La soirée de l’avant-première au Forum des Images (4 févr. 2020)
Une avant première du documentaire “Invisibles”, a eu lieu au Forum des Images à Paris, le mardi 4 février à 20h. A la présence de presque 500 personnes, avec le réalisateur Henri Poulain et Antonio Grigolini (directeur de la chaine France Télévisions Slash), nous avons raconté un an de travail, une cinématographie et une écriture d’enfer, et de comment la recherche universitaire a pu nourrir un documentaire grand public.
Le public, envouté et réactif, a assisté à la projection des 4 épisodes, émaillés d’applaudissements, des rires, des “wah” (oui, beaucoup d’émotions, ce documentaire).
A la fin, nous avons eu le plaisir d’accueillir les travailleuses et les travailleurs, insurgés, syndiqués, lanceurs d’alerte venus de partout en Europe, d’Espagne, d’Irlande, pour témoigner de leur engagement et de leur détermination à dénoncer les conditions de travail au sein des plateformes de digital labor. C’est avec leur parole que la soirée s’est terminée : un débat riche et vivant, à l’occasion duquel iels ont répondu aux question du public.
Le Prix de l’Écrit Social est un prix culturel qui vise à dessiner les contours intellectuels du champ social, ce champ présentant l’originalité d’être constitué par des contenus divers et multiples et des supports écrits de toute sorte.
Tribune. Face aux inquiétudes autour de l’effacement annoncé du travail humain par une vague d’automates intelligents, nos sociétés doivent encore apprendre à se poser les bonnes questions. Un réflexe sain consisterait à cesser d’ergoter sur le nombre exact d’emplois qui seront remplacés à l’avenir et demander plutôt combien sont d’ores et déjà en passe de se métamorphoser en digital labor. Cette expression désigne littéralement le « travail du doigt », qui clique et produit des données.
Depuis des décennies, la numérisation grandissante des professions manuelles et intellectuelles amplifie la composante de production de data au sein de tout métier. La tendance est liée à l’exigence des entreprises de fragmenter et d’uniformiser leurs processus productifs pour les articuler avec des écosystèmes de prestataires externes, de sous-traitants, et parfois de communautés de producteurs non professionnels.
Ceci explique aussi la prolifération des plates-formes numériques, qui coordonnent ces acteurs en les transformant en main-d’œuvre docile et bon marché, disponible à flux tendu pour réaliser des tâches de plus en plus fragmentées. Partout sous nos yeux, ce travail de production de données tisse le quotidien des livreurs et des chauffeurs, qui gèrent leurs profils sur l’appli Uber et se géolocalisent sur leurs GPS.
Mais il est aussi l’occupation des modérateurs de YouTube et Facebook, qui filtrent à longueur de journée des contenus multimédias. Même le travail gratuit que chacun d’entre nous réalise en effectuant des « reCAPTCHA » (les fenêtres surgissantes qui nous enjoignent de démontrer que nous ne sommes pas un robot) pour Google enseigne aux véhicules autonomes du géant de Mountain View à reconnaître des feux de circulation et des passages pour piétons.
Se situant sur un continuum, entre activités sous-payées ou non rémunérées, ces tâches numériques contribuent à l’automatisation de nos métiers. Métier du futur : dresseur d’intelligences artificielles, accordeur des algorithmes qui permettent à nos robots de livrer, conduire, manœuvrer.
Alors même que ce travail du clic est l’ingrédient secret de notre automatisation, il n’est aujourd’hui qu’insuffisamment encadré par la protection sociale et encore en quête de reconnaissance politique. Ce travail humain est là pour durer, mais, si nos luttes n’aboutissent pas à de nouveaux conquis sociaux, il le sera dans des conditions d’exploitation et d’invisibilité généralisées.
L’intelligence artificielle est l’objet de tous les fantasmes : elle serait partout autour de nous, ses capacités pourraient dépasser celles des humains, et nous réduire, à terme à l’esclavage… Mais l’IA, c’est quoi exactement ? Comment ça marche ?…
En 2003, l’informaticien Edward Feigenbaum qualifiait l’intelligence artificielle de « destinée manifeste » de nos sociétés. Emprunté du providentialisme américain, ce slogan cache pourtant les défaillances d’une discipline qui n’arrive pas encore à s’attaquer à « la vraie majesté de l’intelligence générale ». Mais les effets de cette idéologie dépassent aujourd’hui la communauté scientifiques. Derrière les déclarations des pionniers de l’informatique intelligente et le buzz des investisseurs, s’affirme en fait une certaine vision du travail : le digital labor, une activité tâcheronnisée, sous-payée et parfois même gratuite qui a lieu sur les plateformes numériques. Elle pointe une dynamique profonde qui traverse toute la planète, où des myriades de personnes réalisent quotidiennement ce « travail du doigt ». Dans quelle mesure la rhétorique des visionnaires de l’IA et les prophéties de la disparition de centaines de millions d’emplois cèlent en réalité la pérennisation d’un travail humain de plus en plus précaire et invisibilisé ?
Dans le numéro 553 (novembre 2019) du mensuel 60 millions de consommateurs, j’ai accordé un entretien dans le cadre de l’expérimentation conduite par le magazine sur les assistants vocaux et leurs gestion des données personnelles des utilisateurs.
3 questions à Antonio A. Casilli
Des sous-traitants écoutent certains enregistrements issus des assistants vocaux, cela vous a surpris ?
Dans la communauté scientifique on savait depuis plusieurs années que des personnes -souvent des travailleurs indépendants ou précaires -étaient recrutées pour vérifier la performance des assistants virtuels. Il s’agit d’écouter des extraits ou de valider des retranscriptions.
Les révélations de la presse ont permis au grand public de le découvrir. Elles ont d’abord concerné Alexa d’Amazon en avril dernier. Mais depuis, tous les autres GAFAM y sont passés.
Le nombre d’enregistrements écoutés serait marginal, selon ces sociétés. Vous y croyez ?
On ne peut pas savoir quelle proportion est réellement écoutée. Elles ne le dévoilent pas, cela relève du secret industriel.
L’intelligence artificielle sur laquelle reposerait ces assistants est donc une illusion ?
Le terme cache le fait qu’une partie du travail est fait à la main. Ce travail a été présenté comme un entraînement pour les assistants virtuels. On parle de machine-learning, comme si les machines allaient opérer d’elle-mêmes après une phase d’apprentissage. La réalité économique et technologique est que ces assistants ne peuvent pas se passer d’une part de travail humain. De nouvelles tâches pour lesquelles il faut les entraîner, se présentent en permanence. Par exemple, un assistant d’abord calibré en anglais doit être adapté au marché français. Il faut alors l’entraîner à nouveau, comme le montre votre étude. L’apprentissage ne s’arrête jamais et l’autonomie de ces dispositifs est sans cesse repoussée.
« Dans les usines à clic, des millions de petites mains bien humaines »
PROPOS RECUEILLIS PAR LOÏC CHAUVEAU
L’enrichissement continu des logiciels et des bases de données nécessite la contribution de « tâcherons » sans rémunération fixe ni droits sociaux. Une inflexion inquiétante du monde du travail. ANTONIO CASILLI Sociologue à Télécom Paris
page hors_serie_35
Selon vous, l’intelligence artificielle ne serait rien d’autre que du bluff?
Je ne me reconnais pas dans cette idée que l’on m’attribue parfois. Je dirais plutôt que, pour justifier des formes nouvelles de discipline du travail, pouvoirs politiques et économiques utilisent l’intelligence artificielle de façon idéologique. Quand ils en débattent, ces acteurs se concentrent sur les pertes d’emplois qui menacent les moins qualifiés. Mais pour peu que l’on regarde « sous le capot », on s’aperçoit que les masses de données nécessaires pour entraîner les machines sont introduites dans le système par des petites mains bien humaines! En Afrique, en Asie, de véritables « usines à clic » voient des millions de personnes nourrir des algorithmes de reconnaissance faciale, d’identification des objets pour les voitures autonomes, d’enregistrement de voix pour les enceintes connectées. Un travail que je qualifie de digital labor. Si quelqu’un n’apprend pas à une voiture autonome à quoi ressemble un piéton, celle-ci restera aveugle.
A-t-on une idée du nombre de personnes accomplissant aujourd’hui ce digital labor ?
Difficile de répondre, car il n’est pas toujours visible. On estime que, dans le monde, plusieurs dizaines de millions de personnes fabriquent des données. En France, notre projet Digital Platform Labor, qui a cherché à quantifier ce micro-travail, est arrivé au total de 260000 personnes inscrites à 23 plateformes proposant du travail « au clic ». Ce sont en majorité des femmes au foyer qui arrondissent leurs fins de mois avec ce travail faiblement rémunéré (moins de 300 euros par mois). Mais on peut y ajouter les 55 millions de Français qui, gratuitement, renseignent les Gafa en « likant », en répondant à un « Captcha » demandant de prouver que l’on n’est pas un robot. À chaque fois, la requête de l’internaute, sa géolocalisation, la consultation d’un site, un paiement, alimentent les bases de données sans lesquelles des technologies « intelligentes » n’existent pas.
Mais un jour, cet amoncellement de données finira bien par rendre ce travail inutile?
C’est l’argument entendu dans nombre de start-up : il arrivera un moment où les algorithmes auront ingurgité suffisamment de données pour parer à toutes les éventualités. Mais est-ce bien certain? L’intelligence artificielle arrivera-t-elle un jour à rivaliser avec le cerveau d’un enfant qui reconnaît immédiatement un chat d’un chien quel que soit leur aspect? En outre, le consommateur attend que le service qui lui est proposé soit toujours amélioré. Pour répondre à ces attentes, il est nécessaire d’enrichir en permanence les logiciels utilisés. Enfin, la concurrence pour vendre des objets « intelligents » est féroce. La course au « petit plus » qui permet de faire la différence oblige à relancer continuellement l’apprentissage des machines.
Quel est l’encadrement juridique de ces travailleurs?
Dans cette nouvelle économie, c’est le point le plus inquiétant. La relation salariale est mise entre parenthèses. C’est un travail « à la tâche ». Les nouveaux « tâcherons » ne bénéficient pas d’une rémunération fixe, ni de droits sociaux, ni d’une représentation auprès des donneurs d’ordre. Ils ne peuvent revendiquer la juste part de leur travail face à des plateformes bien décidées à capter l’essentiel de la richesse créée. La révolte des chauffeurs Uber ou des livreurs Deliveroo montre que ce système a cependant des limites.
