social media

M, le maudit chatbot (ou, de l’impossibilité de l’automation complète au lendemain de l’échec de l’assistant virtuel de Facebook)

L’année 2018 commence fort chez Zuckerberg. Facebook a décidé de mettre fin à l’expérience de son assistant virtuel, M. Par rapport aux autres chatbots sur le marché, M avait une particularité : il ne cachait pas la présence d’humains derrière les rideaux de l’automation, pour ainsi dire. Facebook allait jusqu’à intégrer cet attribut dans ses arguments de vente. M était présenté comme une intelligence artificielle « mue par des humains » (human powered).

Il s’agissait d’un logiciel qui envoyait des messages via l’application Messenger, initialement disponible pour un nombre limité d’usagers-testeurs (10 000 résidents de San Francisco) qui l’utilisaient surtout pour des opérations commerciales. La plupart des tâches réalisées par le chatbot nécessitaient de personnes pour assister, entraîner, vérifier ses réponses — et parfois se faire carrément passer pour M. D’où la suspicion que son nom ne soit pas un clin d’œil à l’assistant de James Bond, miss Moneypenny, mais une référence assez claire au “micro-travail”…

L’objectif de Facebook avec cet agent conversationnel était de développer une technologie d’intelligence artificielle capable d’automatiser presque n’importe quelle tâche (“Facebook put no bounds on what M could be asked to do“). C’est toujours la vieille promesse du machine learning : tu fais réaliser des tâches par des humains, puis “la machine” apprend et — bam ! tu te débarrasses des humains. Néanmoins, malgré les vastes ressources techniques de Facebook, le taux d’automation de M semble n’avoir jamais dépasse 30%. Presque trois quarts des tâches, donc, étaient effectuées par des petites mains payées à la pièce, entre San Francisco et Katmandou (si le bruit selon lequel elles étaient recrutées via le bureau népalais de la plateforme de micro-travail Cloudfactory était confirmé).

L’histoire de M contient une moralité pour toute entreprise qui développe ou achète des solutions de IA : quand on prend en compte le coût de the human in the loop, l’automation revient très chère. C’est à cause de l’importance de ces coûts (et de la médiocrité des résultats) que Facebook a définitivement décidé de discontinuer M en 2018.

L’autre leçon à retenir ici est que dans la mesure où l’objectif final de M était de préparer le développement de solutions IA qui auraient pu automatiser presque toutes les tâches que les usagers réalisent en ligne, l’automation complète s’avère être un fantasme de silconvallards. A chaque fois qu’on automatise une tâche, les êtres humains avec qui l’IA interagit en redemandent, et de plus en plus complexes. Comme Wired le souligne :

“Another challenge: When M could complete tasks, users asked for progressively harder tasks. A fully automated M would have to do things far beyond the capabilities of existing machine learning technology. Today’s best algorithms are a long way from being able to really understand all the nuances of natural language.”

Il faut alors recommencer et recommencer à concevoir-entraîner-tester-micro-travailler etc. Comme quoi, nous (autant les centaines de millions de tâcherons du clic sur les plateformes de micro-travail que les milliards de micro-tâcherons dissimulés que nous sommes sur les plateformes de médias sociaux) avons devant nous une longue carrière de dresseurs d’IA. Très longue. Interminable même, à en croire certains jeunes experts d’automation. Parmi eux, un nommé Ernest Mandel, lequel affirmait, dans un texte paru en… 1986 :

“Sous le capitalisme, l’automation complète, l’introduction de robots sur grande échelle sont impossibles car elles impliqueraient la disparition de l’économie de marché, de l’argent, du capital et des profits. (…) La variante la plus probable sous le capitalisme, c’est précisément la longue durée de la dépression actuelle, avec seulement le développement d’une automation partielle et d’une robotisation marginale, les deux étant accompagnées par une surcapacité de surproduction sur grande échelle (une surproduction de marchandises), un chômage sur grande échelle, une pression sur grande échelle pour extraire de plus en plus de plus-value d’un nombre de jours de travail et d’ouvriers productifs tendant à stagner et à décliner lentement. Cela équivaudrait à une augmentation de la pression à la surexploitation de la classe ouvrière (en faisant baisser les salaires réels et les prestations de Sécurité sociale), en affaiblissant ou détruisant le mouvement ouvrier organisé et en sapant les libertés démocratiques et les droits de l’homme.”

Qu’est-ce que le Digital Labor ? [Audio + slides + biblio]

UPDATE : Qu’est-ce que le digital labor ? est désormais un ouvrage, paru aux Editions de l’INA en 2015. Dans cet ouvrage je passe en revue les études sur le travail des internautes en compagnie de Dominique Cardon.

Audio :

La notion de digital labor fait désormais l’objet de plusieurs publications et colloques de part et d’autre de l’Atlantique. Mais elle reste encore méconnue en France. Le 12 mars 2012, j’ai assuré une intervention lors de la journée co-organisée par la DGT, la DIRECCTE et la Fing Risques et opportunités des transformations du travail à l’ère du numérique.  Voilà l’enregistrement audio :

Digital labor via Réseau FING

Pour aller plus loin, lien vers Digital labor : portrait de l’internaute en travailleur exploité, l’émission du 8 décembre 2012 de Place de la Toile sur France Culture, que nous avons concoctée avec Xavier de la Porte, Yann Moulier-Boutang et Thibault Henneton.

Slides :

Le 26 mars, à l’invitation d’Alexandra Bidet (CNRS), je suis intervenu sur le même sujet au Collège des Bernardins dans le cadre des travaux du séminaire L’entreprise: propriété, création collective, monde commun (Département EHS).

TITRE : Qu’est-ce que le Digital labor ?

INTERVENANT : Antonio A. CASILLI (Telecom ParisTech / EHESS)

RESUME : La parution récente de l’ouvrage ‘Digital Labor. The Internet as playground and factory’, dirigé par Trebor Scholz couronne plusieurs années de recherches et fait connaître au public international un domaine émergent de réflexion autour de l’économie de la contribution d’Internet. Face aux exaltations du “don et contre-don hi-tech” et du rôle des amateurs (qui avaient marqué les études des usages TIC respectivement de la première et de la deuxième partie des années 2000), les théoriciens du digital labor pointent l’apparition d’activités sur les réseaux socio-numériques lesquelles, en tant que productrices de valeur, peuvent s’assimiler à du travail. C’est un travail banal, non spécialisé et à faible valeur marginale, comme effectuer des recherches sur Google, poster un lien sur Twitter, évaluer un produit. Mais c’est bien l’activité qui permet la création d’énormes bases de données exploitables par les géants du Web comme Facebook, ou fait vivre des plateformes d’externalisation massive du travail (crowdsourcing) comme Amazon MTurk. A partir de ce constat, bien des questions se posent : comment ce “travail numérique” réinterroge la notion même du travail et de la (co)production de la valeur ? peut-on parler d’exploitation ? nos vieux cadres d’analyse, nous permettent-ils de penser ce qui se joue là, voire de définir les contours d’un “capitalisme cognitif” ?

(more…)

Please Your Holiness, feed the #troll (an open letter to the Pope)

[Update Feb. 11 2013: This post has been also published in the French edition of the Huffingtonpost and featured in Andrew Sullivan’s The Dish as well as in the Catholic Herald.]

> To : Pope Benedict XVI
> From : Antonio Casilli
> Sent:  Sun Feb. 3 2013 03:52:22 PM
> Subject: What to do about Twitter trolling
>

Your Holiness,

let me start by saying that I am not a christian, plus I am not particularly appreciative of your work. I am but a modest scholar of digital cultures who has been following, with a professional eye, your recent effort to rebrand your online image. By now, the general public is aware that you and your staff operate the Twitter account @pontifex – and its multilingual permutations @pontifex_fr, pontifex_it, pontifex_es… My sources indicate that this is the brainchild of Jesuit cybertheologian Antonio Spadaro, counselor of the Pontifical Council for Social Communications 1. So it seems only obvious that the Jesuit magazine Popoli commissioned a study to assess how well your online presence has been perceived after a month on Twitter. On the face of it, you did fine. You have been sending out approximately 100 messages in 9 languages, and earned more than 2 million followers altogether. Moreover, you have generated 270,456 responses from your fellow users.

This impressive amount of comments was also used to perform a “sentiment analysis”, to determine the general attitude of the Twittersphere. About 82% of the feedback received was “neutral”, a meager 10% was positive, and 8% negative. Let me break it down for you, Your Holiness: sentiment-wise, your entrance on Twitter has been saluted by a roaring “meh”… The not so brilliant results are summarized in the following infographic:

The Pope on Twitter. Source: Oogo.com (more…)

  1. Turns out my sources were not completely accurate after all. On Twitter, jesuit theologian Antonio Spadaro clarifies that:

A century of McLuhan: understanding social media

I was among the invited speakers of the McLuhan centenary conference McLuhan100 Then Now Next at the University of Toronto. So I’m back from a full week of scientific research, art, concerts, and conversations with great contemporary media scholars such as Ian Bogost, Barry Wellman, Arthur Kroker, Jay Bolter, Derrick de Kerckhove, Peppino Ortoleva, Mike Wesch, Joshua Meyrowitz, Michaël Oustinoff, Hervé Fischer. But enough with the name dropping. Here’s my own presentation (slides+text), where I mix up McLuhan, Merton, Facebook and Teilhard de Chardin. Enjoy.

Text of the presentation: (more…)

[Vidéo] Insurrections augmentées : l’impact des médias sociaux sur les émeutes (updated 12/11/11)

Le samedi 5 novembre 2011, l’association Ars Industrialis a organisé au Centre Pompidou un séminaire sur “La guerre civile numérique”. Le rencontre visait à identifier les bonnes questions relatives à ce thème, qui fait couler beaucoup d’encre depuis quelques temps (v. par ex. le livre de Paul Jorion). [Update 13 novembre 2011: la vidéo de ma présentation + les diapos sont finalement en ligne!]. La présentation est basée sur la recherche effectuée avec Paola Tubaro sur les émeutes britanniques de 2011.

Vidéo

Slides

Tableau des équivalences web occidental / web chinois

Il y a quelques mois, lors de la conférence Lift10, l’auditoire a été capturé par le brillant exposé de Basile Zimmermann. Le jeune professeur de l’Université de Genève a expliqué – d’une manière extrêmement convaincante – comment la différence culturelle entre la Chine et les sociétés euro-étasuniennes soit encodée dans le langage et dans les pratiques d’écriture. Et quand les usages technologiques s’en mêlent, l’écart peut se creuser encore davantage. Les  claviers,  les écrans, et les conventions communicationnelles opposent radicalement la manière de lire des contenus en ligne en Chine et dans les pays “alphabetiques”.

Certes utile pour se repérer dans le web chinois, le tableau concocté par l’expert de médias sociaux Thomas Crampton, doit IMHO être lu à l’aune des commentaires de Basile Zimmermann – qui nous invite à ne pas réduire la différence culturelle à un simple jeu d’équivalences.

—a

The sociology of Chatroulette

by Antonio A. Casilli (Centre Edgar-Morin, EHESS) [1]

By now, you might have heard of Chatroulette, if you are hip and tech-savvy if those two things at the sides of your face are your ears. By the way, I hope you did not click on the link. It’s not safe for work. And by that I mean you will be sucked into a world of sheer immorality which will challenge all your values and potentially wreck civilisation. Or (but this is simply my own guess) it will lead you to yet another overhyped internet chat service designed to put you in touch via webcam with random strangers.

Of course, "random" may be synonymous with "dressed like an idiot".

A few facts

So, bottom line, Chatroulette goes something like: you log in, you bump into someone, you evaluate, you click on “next”. Basically, each time you connect you have to ask yourself “Do I like this person?”. If you do, just go on chatting. If you don’t, just “next”  him/her and the service puts you in contact with someone else, anybody else. It might be a teenage boy making faces, or a beautiful girl with a generous cleavage, or an old pervert doing whatever it is that perverts do on-screen. (more…)