social media

Facebook contro tutti (intervista in Jacobin Italia, 14 dic. 2018)

Non faccio spesso interviste in italiano, ma quando le faccio passo svariate ore a parlare con il giornaliste Giuliano Santoro. Il risultato è questa intervista-fiume per Jacobin Italia che esplora le relazioni fra Facebook, i mercati, la società e gli stati-nazione.

Facebook e gli altri divoratori di mondi – Jacobin Italia


La tolda dell’astronave madre dell’impero digitale scricchiola davvero? Come evolve il capitalismo delle piattaforme e che rapporto ha con gli stati? Conversazione con Antonio A. Casilli

I segnali  sono arrivati, uno dopo l’altro, nel giro di pochi giorni. Prima il New York Times ha pubblicato un’inchiesta molto dettagliata dalla quale emerge il ruolo dei vertici di Facebook nel nascondere l’evidenza sulla diffusione di fake news ed hatespeech parte di vere e proprie campagne di disinformazione. Per di più, sarebbe emerso che Facebook stesso ha diffuso notizie false e illazioni per intorbidire le acque e intimidire le voci critiche. Secondo il New York Times, Mark Zuckerberg e la direttrice operativa Sheryl Sandberg avrebbero ignorato i segnali di allarme sulle interferenze russe e sullo ruolo di Cambridge Analytica, per negarli e poi sviare l’attenzione dalla società con campagna dietro le quinte contro le rivali, puntando a denigrare la figura del miliardario George Soros. Il Wall Street Journal ha rivelato che lo stesso Zuckerberg avrebbe convocato una cinquantina di luogotenenti per spronarli ad avere un atteggiamento più aggressivo. «Siamo in guerra», sarebbe stato l’allarme del creatore di Facebook. A questa guerra corrisponderebbe il calo delle quotazioni di borsa del titolo  di Facebook e di altri titoli dei giganti digitali. Alcuni teorizzano addirittura che ci troveremmo davanti a una bolla che potrebbe scoppiare. Voci dalla Silicon Valley dicono che per la prima volta e in maniera più consistente, aumenta la sfiducia dei lavoratori di Menlo Park nella capacità dell’azienda e del suo condottiero: sarebbe scesa di 32 punti, al 52%. Infine, da tempo si sostiene che il numero degli abitanti del pianeta Facebook, dei profili, sia in diminuzione.

Stiamo assistendo davvero alla graduale implosione dell’astronave madre dell’Impero? E  se veramente  dovesse accadere, cosa ne sarebbe del rapporto con Internet dei tanti utenti che utilizzano Facebook come unica via di accesso alla rete e scambio di informazioni? Viene in mente la nota metafora utilizzata da David Foster Wallace. Racconta di due pesci che incontrano un pesce proveniente dalla direzione opposta. Questo fa un cenno di saluto e dice: «Salve ragazzi! Com’è l’acqua oggi?». I due pesci proseguono per un po’ finché uno si paralizza e stupito si domanda: «Acqua? Che cos’è l’acqua?». Bene, se l’Acquario di Facebook dovesse prosciugarsi, cosa accadrebbe? Cosa ne sarebbe della nostra esistenza a cavallo tra reale e digitale senza la piattaforma che più di altre contribuisce a creare la nostra esperienza quotidiana? Ne parliamo con Antonio A. Casilli, che – tra le altre cose – insegna digital humanities al Telecommunication College del Paris Institute of Technology ed è ricercatore all’Ecole des hautes études en sciences sociales. Nel 2019 uscirà il suo nuovo libro sul lavoro digitale, che si intitola En attendant les robots. Enquête sur le travail du clic. «Quelli che hai appena elencato sono fenomeni che si verificano nello stesso momento, ma sono diversi tra loro», esordisce Casilli.

Bene, cominciano dalla borsa?
Facebook, così come Snapchat e altre aziende di questo tipo, sono sul mercato da relativamente poco. A parte certi giganti della tech come Amazon, che è quotata dal 1997, o Google, che vende azioni dalla metà degli anni 2000, si tratta di società che sono sui mercati borsistici da meno di dieci anni. Certo Facebook non è soltanto le sue azioni. La piattaforma esiste da prima, dal 2004, e ha una vita indipendente dalla borsa. Ed è una vita movimentata. Dalla sua nascita, è soggetta a delle crisi cicliche. Da questo punto di vista è l’incarnazione perfetta del capitalismo della Silicon Valley. Ha alti e bassi, e non solo in termini di valorizzazione. Spesso queste crisi sono di natura sociale, sono dei momenti di reazione da parte dei suoi stessi utilizzatori che si ribellano e insorgono contro la direzione della piattaforma. Ciò può avere a che fare con le scelte di design dell’azienda, o con alcuni grandi o piccoli scandali. Ad esempio quando, già nel lontano 2005 Facebook introdusse il newsfeed, gran parte degli utilizzatori dell’epoca non apprezzarono questa scelta. 700 mila abbonati, che per l’epoca era quasi il 10% degli utenti registrati, organizzarono petizioni, costrinsero Zuckerberg a chiedere ufficialmente scusa. In quel caso, come in altri, prima Facebook fece  marcia indietro e poi continuò come se niente fosse accaduto. Quando più tardi, nel 2009-2010, Facebook iniziò a pubblicare una serie di informazioni personali dei suoi membri, questi chiamarono in causa la Federal tradecommission. Anche lì Facebook disse che avrebbe tenuto conto delle critiche ma decise in ultimo di ignorarle. Quindi c’è sempre questo ciclo costante di reazione della base-utenti cui segue la contro-reazione di Facebook. Di solito è lo stesso Zuckerberg che si esprime e chiede scusa ufficialmente in una lettera aperta o pubblica un manifesto nel quale spiega le sue motivazioni. Questi documenti seguono sempre più o meno la stessa traccia: Zuckerberg dice che ci ripenserà e poi, immancabilmente, procede come se niente fosse. È la strategia del tango: un passo indietro e due in avanti. La crisi che sembra attraversare Facebook è coerente con questo andamento ciclico dei rapporti tra la piattaforma e il suo pubblico. La piattaforma mantiene un’attitudine totalmente predatoria nei confronti dei suoi abbonati, i quali cercano di farsi ascoltare ed essere riconosciuti. Questi auspici sono costantemente delusi.

Antonio A. Casilli

Ci stai dicendo che le battute d’arresto non sono una novità…

Senz’altro. Nel giugno 2013, ad esempio, Facebook fu al centro delle rivelazioni di Snowden e accusò il colpo del datagate più di altre aziende che pure erano menzionate (ad esempio Skype, Yahoo!, PayPal). Fu uno shock. Allo stesso tempo da noi si è parlato poco di quello che è successo in paesi come Egitto, Thailandia e India a proposito dell’introduzione a partire dal 2016 di un servizio che si chiama Free Basics, una specie di versione povera e non network neutrale di Facebook. Si trattava di un servizio di smartphone a buon mercato che permetteva l’accesso solo a pochi siti, fra cui Facebook. Era venduto in paesi emergenti, in cui ci sono problemi di connettività o in cui il prezzo della connessione era molto elevato. In India però l’autorità di controllo sulla telefonia, la Trai, si è opposta nel 2016, in seguito a manifestazioni, proteste e mobilitazioni online. A Facebook veniva contestata l’intenzione di creare un monopolio e di violare la neutralità della rete. Ma le autorità e la società civile indiane erano andate più in là, accusando Facebook di voler istituire una forma di colonialismo corporate. Zuckerberg cercò di difendersi pubblicando un editoriale sul Times of India nel quale sfoderava i suoi soliti argomenti: stiamo facendo tutto questo per il vostro bene, per permettere l’accesso a Internet, perché più connessione significa più progresso e democrazia. Meno diplomatico, Marc Andreessen, uno dei principali azionisti di Facebook, prese l’accusa di colonialismo alla lettera, lanciandosi in una maldestra apologia dei crimini coloniali. Dichiarazioni mostruose, rivelatrici di un’attitudine della Silicon Valley. Ma alla fine il servizio fu interrotto. Questa è una di quelle volte che Facebook non l’ha spuntata.

È andata così anche nel caso delle vertenze con gli enti preposti alla tutela della privacy?

Facebook è un mercato pubblicitario di dimensioni strabilianti. Funziona come una gigantesca agenzia pubblicitaria che si occupa non di creare servizi per utenti ma di fornire servizi a inserzionisti e aziende che comprano spazi, analisi di mercato, informazioni personali. Nessuno dei giganti del passato è accostabile a Facebook. Forse un po’ Microsoft, che non ha avuto crisi cicliche comparabili. Tutt’al più la società di Bill Gates ha avuto problemi ricorrenti con la Federal trade commission, per questioni di antitrust. Facebook negli anni ha incontrato una serie interminabile di ostacoli, soprattutto legati alla privacy per via di alcune azioni di diversi stati e della società civile in Europa. Ma si è trattato di frecce spuntate. Più volte il Garante della privacy in Italia o la Cnil, l’Autorità francese per la protezione dei dati, hanno comminato multe ai giganti del web. Ma a Facebook finora, è convenuto pagare ogni tanto una multa da 500 mila euro e continuare a macinare guadagni da centinaia di milioni di dollari al giorno. Perfino la sanzione di 10 milioni di euro che l’antitrust italiano gli ha inflitto il 29 novembre 2018 per violazione del Codice del Consumo è un rischio calcolato per Facebook. È come pagare una tassa. Bisogna anche dire che le cose sono cambiate con l’arrivo Gdpr, il regolamento Ue in materia di dati personali e privacy in vigore dallo scorso mese di maggio. Non ne conosciamo ancora gli effetti, ma i segnali sono incoraggianti. Per esempio, la class action None of Your Business lanciata dall’austriaco Max Schrems contro Android, Instagram, Whatsapp e Facebook. O quella lanciata in Francia da La Quadrature du Net contro la stessa Facebook, ma anche Google, Apple, Amazon e LinkedIn. Se queste cause dovessero andare in porto Facebook si troverebbe a pagare parecchie centinaia di milioni di euro. Ciò farebbe la differenza. Comunque finora non ci si è mai avvicinati non dico al colpo fatale, ma ad azioni di cui Facebook semplicemente si accorga dal punto di vista del suo funzionamento.

Dunque, come leggere la flessione sui mercati finanziari?

Bisogna interpretarla tenendo presente il modo in cui Facebook tratta il suo corso in borsa. Al contrario delle grandi aziende tradizionali, le piattaforme digitali non comprano e rivendono i loro stessi titoli per non far stagnare il mercato e dare a vedere ai propri azionisti che c’è una progressione del loro titolo. Facebook, come del resto anche Amazon o Google, non funziona così. Quando fanno dei profitti non li reinvestono per tenere su il corso del loro titolo in borsa. Li reinvestono in innovazione tecnologica, fanno gli investimenti come dovrebbe fare una qualunque azienda, quegli investimenti che le aziende tradizionali hanno smesso di fare. Da questo punto di vista il corso in borsa per le piattaforme digitali va visto più come un segnale da dare ad altri partner e investitori potenziali, invece che un fattore dal quale dipende la sopravvivenza. La sopravvivenza, invece, dipende dal fatto che l’azienda sia sempre in uno squilibrio fecondo, che sormonti crisi dopo crisi. E che importa se andando in fretta, come dice il motto di Zuckerberg, si finisce per «rompere cose». Qui, l’imperativo break things significa produrre innovazione, e il corso in borsa importa relativamente poco.

Il Nasdaq era crollato proprio perché le aziende non distribuivano dividendi agli investitori. Il passaggio al web 2.0 è stato un modo per colmare questo divario riuscendo a mettere al lavoro gli utenti con la scusa della partecipazione. Quando tu descrivi questo modo di stare in borsa, quasi da imprenditori ideali, ci stai dicendo anche che quel modello funziona ancora alla perfezione.

Per certi versi le piattaforme digitali, Facebook in testa, hanno ripreso la missione storica delle imprese tradizionali del secolo scorso. Tutte le altre aziende hanno abdicato a questa missione, sotto i colpi della globalizzazione e della finanziarizzazione. Quindi stanno cercando di trattenere gli investitori ma l’unica cosa che possono fare è promettergli da qui a diciotto mesi un ritorno sugli investimenti del 30%. Facebook non ragiona in questi termini. Paradossalmente, è più all’antica delle aziende pre-Internet! Anzi, si può dire che Facebook, in quanto azienda, spinga all’estremo certi tratti delle entità produttive tradizionali: attira una massa enorme di utenti-lavoratori, che producono conoscenza, dati e contenuti, in cambio di niente o quasi niente e in un contesto di controllo sociale capillare. Non te ne puoi andare da Facebook. Soprattutto, se sei un utilizzatore, e non un inserzionista o un data broker. È l’effetto lock-in, sei chiuso dentro. Una volta che sei catturato, l’unica cosa che ti resta da fare è produrre valore per l’azienda, nella maniera classica: producendo dati, producendo post, producendo reazioni e circolazione di contenuti. Quello che importa a Facebook non è il testo del tuo messaggio, non è la foto del tuo gatto, sono piuttosto i suoi metadati: quando l’hai scritto, con che smartphone hai scattato la foto, quale era il tuo indirizzo Ip. E poi i metadati sociali: quanta gente l’ha condiviso, quante reazioni ha generato. Sono informazioni che servono a fare analytics e che possono essere importantissimi dal punto di vista pubblicitario. Gli iscritti di Facebook lavorano per produrre dati che sono venduti dalla piattaforma. E non dimentichiamo che lavorano anche per produrre dati che sono utilizzati dalla stessa Facebook ai fini dell’automazione. Servono a produrre algoritmi che apprendono, quello che includiamo di solito sotto l’espressione generica machine learning. O per produrre soluzioni automatizzate sul filtraggio di dati, sulla raccomandazione di contenuti, l’Edge Rank stesso, che è l’algoritmo che gestisce il feed. Tutto ciò si basa sul presupposto che gli utenti-lavoratori siano lì, non possano andare via e una volta che stanno lì non possano che lavorare per Facebook.

Come interpretare allora le notizie sul calo degli utenti? Non è un fenomeno che, seppure limitato, potrebbe indicare una tendenza?

C’è da una parte una perdita del ritmo di nuovi arrivi sulla piattaforma, dovuto al fatto che il mercato dei social è saturo. Con quasi due miliardi di accounts e nuovi mercati globali (come l’India o la Cina) irraggiungibili, c’è poco da sperare che «il prossimo miliardo di abbonati» si iscriva presto… Poi c’è anche l’effetto di grossi repulisti nella base dati di Facebook e delle aziende del suo giro. A fine novembre 2018, Instagram ha fatto una specie di purga generale di account vecchi, inerti e fake. In corrispondenza delle elezioni brasiliane, la stessa cosa è successa su WhatsApp. Quando ci sono importanti scadenze politiche o economiche, o per lancio di nuovi servizi, le piattaforme hanno bisogno di fare pulizia nella loro base utenti. Il motivo per cui ne hanno bisogno è legato anche al fatto che spesso in fasi di crescita accettano di tutto. Facebook è esemplare da questo punto di vista. Ha avuto sempre e costantemente fasi di crescita forzata nelle quali i loro i criteri per la creazione dei profili erano meno stringenti. Nel 2011, c’è stato il periodo in cui Zuckerberg esortava a creare profili per bambini ancora non nati  oppure per cani, gatti a altri animali da compagnia. Ci sono stati periodi in cui Facebook chiudeva un occhio sul fatto che una singola persona avesse più profili, magari uno professionale e uno personale. Ma a queste fasi di laissez-faire, seguono periodi di austerità. Appena l’anno dopo, la piattaforma ha imposto la “politica dei nomi veri”: ogni utente doveva registrarsi con una sola identità che doveva per di più essere la sua identità civile, quella certificata dal suo documento.  I cali improvvisi degli iscritti , come è capitato nel 2018 quando Zuckerberg ha rimosso più di 500 milioni di fake, sono dovuti a politiche di zero tolerance verso i profili sotto pseudonimo, messe in atto dopo i vari scandali legati alle elezioni presidenziali statunitensi. Se c’è una decrescita del numero degli utenti, ciò è legato al fatto che le regole sono cambiate e che Facebook è diventato un po’ più esigente.

Sta però accadendo che tra i lavoratori della Silicon Valley circolino dubbi e critiche. È come se avessero maggiore consapevolezza. C’è qualche crepa in questo meccanismo all’apparenza perfetto?

Certo, ma la consapevolezza dei lavoratori della Silicon Valley si concentra in alcune figure professionali, soprattutto nei quadri intermedi. Sicuramente, c’è una presa di coscienza dei crimini economici e politici del capitalismo delle piattaforme, come per esempio quando i lavoratori di Google si oppongono a certe iniziative del loro datore di lavoro, come il programma di droni assassini Maven , o il motore di ricerca censurato Dragonfly. Ma questa conflittualità resta ristretta a poche nicchie di lavoratori privilegiati e non si generalizza. C’è poi il fatto che, da quando Trump è al potere, il mercato del lavoro della tech è diventato meno dinamico a causa delle restrizioni sull’immigrazione, anche di quella specializzata. È rallentato ad esempio il flusso di tecnici provenienti dall’India. Malgrado i lavoratori della Silicon Valley siano contrari in generale a queste restrizioni, è vero però che meno mobilità internazionale significa per loro meno concorrenza per i posti di lavoro. E nella misura in cui attualmente i lavoratori dell’ecosistema della Silicon Valley si sentono meno minacciati dalla concorrenza internazionale, si sentono più sicuri per rivendicare protezione e rispetto.

C’è una precisa ideologia dietro le piattaforme che in qualche modo è strettamente connessa al modello di  business. Forse se il capitalista di un tempo avesse annunciato che lo scopo della sua impresa era portare la pace nel mondo gli avrebbero riso in faccia. Oggi Zuckerberg lo dice, magari non gli si crede ma  non sembra assurdo che lo dica. Eppure, in Italia prima che negli Usa, abbiamo sperimentato che la partecipazione via social non corrisponde automaticamente a maggiore democrazia e partecipazione reale. Al contrario: serve ad abbassare il livello del discorso e premia i contenuti beceri.

Finora abbiamo parlato del modello di affari, questo aspetto invece attiene al modello culturale di Facebook. Il capitalismo novecentesco ha sempre avuto l’ambizione di avere anche una valenza sociale. Le aziende con un messaggio, dall’«automobile per le masse» di Henry Ford agli «United colors of Benetton», sono stati grandi successi industriali che si basavano su quelli che in comunicazione si chiamano «discorsi di accompagnamento». Si tratta di narrazioni, di storytelling, che aiutano l’adozione di una merce o di un servizio. Da questo punto di vista, Facebook ancora una volta si ricollega al capitalismo più classico. Ogni anno, la piattaforma immette sul mercato nuovi servizi di entertainment sociale che servono immancabilmente a produrre dati. E ogni volta, questi servizi sono accompagnati da promesse di rinnovo della società in nome della connettività generalizzata che renderà tutti amici, tolleranti e democratici.

Il che è stato clamorosamente smentito dalla vittoria di Donald Trump e dal ruolo che, volente o nolente, Facebook ha rivestito in quella campagna elettorale!

Certo, e questo ha determinato un cambiamento di rotta. Facebook ha cambiato recentemente il suo posizionamento e la sua promessa. Lo ha fatto nel 2017, quando Zuckerberg ha pubblicato il suo manifesto programmatico “Building Global Community” nel quale auspicava un ritorno a un mondo di piccole comunità coese. «In un mondo in cui le comunità sono in declino – dice in sostanza – Facebook può aiutare a rinforzare le reti di solidarietà umana divenendo una vera e propria infrastrutturasociale che ci salverà da crisi, crimini e catastrofi». Facebook non è più la pozione magica che rende gli uomini più buoni, ma il meccanismo di resilienza contro i cattivi. L’immaginario sociale di Zuckerberg proietta una società fatta di tanti piccoli isolotti che Facebook tiene insieme. Dobbiamo chiederci qual è la performatività di questo messaggio. Vale a dire, nel momento in cui Zuckerberg lo ha divulgato, che effetti concreti ha prodotto? Intanto ha imposto una visione che è anti-statalista e libertariana di destra. È una visione comunitaria nel senso peggiore del termine, di rottura delle basi di lealtà che reggevano gli stati moderni, sostituiti da logiche di mercato. È una visione che, sincera o non sincera, spinge gli utenti a comportarsi di conseguenza. Anche perché sono sotto il controllo degli algoritmi che stabiliscono ad esempio cosa possono guardare, con chi possono connettersi, eccetera. Dal gennaio 2018 questi algoritmi sono diventati ancora più restrittivi. Col pretesto di favorire i “legami forti”, vediamo sempre meno persone che non conosciamo anche nella vita di tutti i giorni. Gli incontri fortuiti con persone al di fuori della nostra cerchia di conoscenze sono diminuiti drasticamente, nel nome della lotta contro spam e troll. Certo, non smettiamo di essere amici di perfetti sconosciuti. Ma i loro contenuti appaiono meno spesso sui nostri muri. Dunque si è spinti a comunicare e produrre messaggi specializzati per comunità o piccoli gruppi. Siamo passati dal Facebook del «Siamo tutti amici» al Facebook del «Ogni uomo è un’isola».

Un ruolo fondamentale affidato a un operatore privato.

È appunto un’infrastruttura, come i binari del treno che conducono da un posto all’altro merci e persone. Solo che il capitalismo infrastrutturale del passato, che produceva energia per tutti o che collegava una città all’altra, era largamente promosso da iniziative statali e non private. Anni fa, l’economista Paul Krugman propose sul New York Times, di considerare Google come un servizio di utilità pubblica – e perciò collettivizzabile. Così anche Facebook, per alcuni è un attore egemonico di mercato, dunque bisogna frammentarlo o, al contrario, nazionalizzarlo. Per evitare questi rischi Zuckerberg, come un Berlusconi redivivo, starebbe pensando a scendere in campo per le elezioni.

Al momento è fantapolitica, però ci dice qualcosa della commistione tra privato e statale.

Più che commistione parlerei di cattura istituzionale. Abbiamo a che fare con una situazione caratterizzata da enormi oligopoli. Il rapporto delle piattaforme nei confronti dello stato è estremamente predatorio e opportunista. Per decenni le aziende della Silicon Valley hanno approfittato di aiuti pubblici, statunitensi e non solo. E continuano ancora! Ma gli stati non sono solo investitori della prima ora delle piattaforme: sono anche tra i migliori clienti. Gli stati delegano sempre più attività a queste grandi aziende. Per esempio responsabilità di sorveglianza di massa. Dopo la metà degli anni 2010, con la grande ondata di attentati in Europa e negli Stati uniti, i governi nazionali sembrano avere normalizzato la logica della violazione sistematica della privacy dei loro cittadini. In maniera cinica, hanno interpretato le rivelazioni di Edward Snowden in un manuale su come spiare sulla vita dei loro cittadini. E in maniera ancora più cinica, le piattaforme hanno trasformato questa contingenza in una occasione di business, fornendo servizi di sorveglianza capillare. È così che è nato il nuovo regolamento europeo approvato il 6 dicembre 2018, che delega alle piattaforme una serie di attività di sorveglianza e censura in nome della lotta al terrorismo. Questi sono i grossi cambiamenti, mai su questa scala c’è stata una delega di potere così importante a strutture private.

È come se gli stati diventassero un’articolazione delle piattaforme…

Gli stati nazionali hanno fallito le loro principali missioni storiche, mi riferisco a cose come produrre il cambiamento sociale  o assicurare il benessere alla gran parte della popolazione. E i mercati si sono resi conto che non hanno bisogno degli stati per funzionare. Se in generale gli stati appaiano meno adatti al mutamento delle aziende, questo è dovuto al fatto che le aziende hanno parassitato gli stati per decenni. La regolazione di Facebook non può arrivare con una misura onnicomprensiva, una mega-legge che disciplinerà tutto. Avverrà piuttosto attraverso una serie di misure attive che trovano la loro origine nella società civile. Facebook si permette abusi e manipolazioni perché con lobbying e pressioni economiche influenza la politica. Lo dimostrano le recenti rivelazioni sulle pratiche del suo direttore generale Sheryl Sandberg. Ma lo strapotere attuale di Facebook è dovuto soprattutto al fatto che da anni gli stati agiscono come i suoi cani da guardia, impedendo alla società civile, agli stessi utenti, di manifestare il loro disaccordo nei confronti delle pratiche della piattaforma. Il corpo sociale non può ribellarsi alla censura, alla sorveglianza, allo sfruttamento di Facebook. Opporsi al capitalismo digitale trionfante di oggi, significa spesso violare le regole di Facebook, a volte addirittura violare le leggi in vigore in diversi stati. È la convergenza tra piattaforma e stato-nazione. Marc Andreessen, ancora lui, ha scritto senza ombra di ironia che il software si sta mangiando il mondo. Lo stesso vale per le piattaforme: sono dei divoratori di mondi.

* Giuliano Santoro, giornalista, scrive di politica e cultura su il Manifesto. È autore, tra le altre cose, di Un Grillo qualunque e Cervelli Sconnessi (entrambi editi da Castelvecchi), Guida alla Roma ribelle (Voland), Al palo della morte (Alegre Quinto Tipo).


M, le maudit chatbot (ou, de l’impossibilité de l’automation complète au lendemain de l’échec de l’assistant virtuel de Facebook)

L’année 2018 commence fort chez Zuckerberg. Facebook a décidé de mettre fin à l’expérience de son assistant virtuel, M. Par rapport aux autres chatbots sur le marché, M avait une particularité : il ne cachait pas la présence d’humains derrière les rideaux de l’automation, pour ainsi dire. Facebook allait jusqu’à intégrer cet attribut dans ses arguments de vente. M était présenté comme une intelligence artificielle « mue par des humains » (human powered).

Il s’agissait d’un logiciel qui envoyait des messages via l’application Messenger, initialement disponible pour un nombre limité d’usagers-testeurs (10 000 résidents de San Francisco) qui l’utilisaient surtout pour des opérations commerciales. La plupart des tâches réalisées par le chatbot nécessitaient de personnes pour assister, entraîner, vérifier ses réponses — et parfois se faire carrément passer pour M. D’où la suspicion que son nom ne soit pas un clin d’œil à l’assistant de James Bond, miss Moneypenny, mais une référence assez claire au “micro-travail”…

L’objectif de Facebook avec cet agent conversationnel était de développer une technologie d’intelligence artificielle capable d’automatiser presque n’importe quelle tâche (“Facebook put no bounds on what M could be asked to do“). C’est toujours la vieille promesse du machine learning : tu fais réaliser des tâches par des humains, puis “la machine” apprend et — bam ! tu te débarrasses des humains. Néanmoins, malgré les vastes ressources techniques de Facebook, le taux d’automation de M semble n’avoir jamais dépasse 30%. Presque trois quarts des tâches, donc, étaient effectuées par des petites mains payées à la pièce, entre San Francisco et Katmandou (si le bruit selon lequel elles étaient recrutées via le bureau népalais de la plateforme de micro-travail Cloudfactory était confirmé).

L’histoire de M contient une moralité pour toute entreprise qui développe ou achète des solutions de IA : quand on prend en compte le coût de the human in the loop, l’automation revient très chère. C’est à cause de l’importance de ces coûts (et de la médiocrité des résultats) que Facebook a définitivement décidé de discontinuer M en 2018.

L’autre leçon à retenir ici est que dans la mesure où l’objectif final de M était de préparer le développement de solutions IA qui auraient pu automatiser presque toutes les tâches que les usagers réalisent en ligne, l’automation complète s’avère être un fantasme de silconvallards. A chaque fois qu’on automatise une tâche, les êtres humains avec qui l’IA interagit en redemandent, et de plus en plus complexes. Comme Wired le souligne :

“Another challenge: When M could complete tasks, users asked for progressively harder tasks. A fully automated M would have to do things far beyond the capabilities of existing machine learning technology. Today’s best algorithms are a long way from being able to really understand all the nuances of natural language.”

Il faut alors recommencer et recommencer à concevoir-entraîner-tester-micro-travailler etc. Comme quoi, nous (autant les centaines de millions de tâcherons du clic sur les plateformes de micro-travail que les milliards de micro-tâcherons dissimulés que nous sommes sur les plateformes de médias sociaux) avons devant nous une longue carrière de dresseurs d’IA. Très longue. Interminable même, à en croire certains jeunes experts d’automation. Parmi eux, un nommé Ernest Mandel, lequel affirmait, dans un texte paru en… 1986 :

“Sous le capitalisme, l’automation complète, l’introduction de robots sur grande échelle sont impossibles car elles impliqueraient la disparition de l’économie de marché, de l’argent, du capital et des profits. (…) La variante la plus probable sous le capitalisme, c’est précisément la longue durée de la dépression actuelle, avec seulement le développement d’une automation partielle et d’une robotisation marginale, les deux étant accompagnées par une surcapacité de surproduction sur grande échelle (une surproduction de marchandises), un chômage sur grande échelle, une pression sur grande échelle pour extraire de plus en plus de plus-value d’un nombre de jours de travail et d’ouvriers productifs tendant à stagner et à décliner lentement. Cela équivaudrait à une augmentation de la pression à la surexploitation de la classe ouvrière (en faisant baisser les salaires réels et les prestations de Sécurité sociale), en affaiblissant ou détruisant le mouvement ouvrier organisé et en sapant les libertés démocratiques et les droits de l’homme.”

Qu’est-ce que le Digital Labor ? [Audio + slides + biblio]

UPDATE : Qu’est-ce que le digital labor ? est désormais un ouvrage, paru aux Editions de l’INA en 2015. Dans cet ouvrage je passe en revue les études sur le travail des internautes en compagnie de Dominique Cardon.

Audio :

La notion de digital labor fait désormais l’objet de plusieurs publications et colloques de part et d’autre de l’Atlantique. Mais elle reste encore méconnue en France. Le 12 mars 2012, j’ai assuré une intervention lors de la journée co-organisée par la DGT, la DIRECCTE et la Fing Risques et opportunités des transformations du travail à l’ère du numérique.  Voilà l’enregistrement audio :

Digital labor via Réseau FING

Pour aller plus loin, lien vers Digital labor : portrait de l’internaute en travailleur exploité, l’émission du 8 décembre 2012 de Place de la Toile sur France Culture, que nous avons concoctée avec Xavier de la Porte, Yann Moulier-Boutang et Thibault Henneton.

Slides :

Le 26 mars, à l’invitation d’Alexandra Bidet (CNRS), je suis intervenu sur le même sujet au Collège des Bernardins dans le cadre des travaux du séminaire L’entreprise: propriété, création collective, monde commun (Département EHS).

TITRE : Qu’est-ce que le Digital labor ?

INTERVENANT : Antonio A. CASILLI (Telecom ParisTech / EHESS)

RESUME : La parution récente de l’ouvrage ‘Digital Labor. The Internet as playground and factory’, dirigé par Trebor Scholz couronne plusieurs années de recherches et fait connaître au public international un domaine émergent de réflexion autour de l’économie de la contribution d’Internet. Face aux exaltations du “don et contre-don hi-tech” et du rôle des amateurs (qui avaient marqué les études des usages TIC respectivement de la première et de la deuxième partie des années 2000), les théoriciens du digital labor pointent l’apparition d’activités sur les réseaux socio-numériques lesquelles, en tant que productrices de valeur, peuvent s’assimiler à du travail. C’est un travail banal, non spécialisé et à faible valeur marginale, comme effectuer des recherches sur Google, poster un lien sur Twitter, évaluer un produit. Mais c’est bien l’activité qui permet la création d’énormes bases de données exploitables par les géants du Web comme Facebook, ou fait vivre des plateformes d’externalisation massive du travail (crowdsourcing) comme Amazon MTurk. A partir de ce constat, bien des questions se posent : comment ce “travail numérique” réinterroge la notion même du travail et de la (co)production de la valeur ? peut-on parler d’exploitation ? nos vieux cadres d’analyse, nous permettent-ils de penser ce qui se joue là, voire de définir les contours d’un “capitalisme cognitif” ?

(more…)

Please Your Holiness, feed the #troll (an open letter to the Pope)

[Update Feb. 11 2013: This post has been also published in the French edition of the Huffingtonpost and featured in Andrew Sullivan’s The Dish as well as in the Catholic Herald.]

> To : Pope Benedict XVI
> From : Antonio Casilli
> Sent:  Sun Feb. 3 2013 03:52:22 PM
> Subject: What to do about Twitter trolling
>

Your Holiness,

let me start by saying that I am not a christian, plus I am not particularly appreciative of your work. I am but a modest scholar of digital cultures who has been following, with a professional eye, your recent effort to rebrand your online image. By now, the general public is aware that you and your staff operate the Twitter account @pontifex – and its multilingual permutations @pontifex_fr, pontifex_it, pontifex_es… My sources indicate that this is the brainchild of Jesuit cybertheologian Antonio Spadaro, counselor of the Pontifical Council for Social Communications 1. So it seems only obvious that the Jesuit magazine Popoli commissioned a study to assess how well your online presence has been perceived after a month on Twitter. On the face of it, you did fine. You have been sending out approximately 100 messages in 9 languages, and earned more than 2 million followers altogether. Moreover, you have generated 270,456 responses from your fellow users.

This impressive amount of comments was also used to perform a “sentiment analysis”, to determine the general attitude of the Twittersphere. About 82% of the feedback received was “neutral”, a meager 10% was positive, and 8% negative. Let me break it down for you, Your Holiness: sentiment-wise, your entrance on Twitter has been saluted by a roaring “meh”… The not so brilliant results are summarized in the following infographic:

The Pope on Twitter. Source: Oogo.com (more…)

  1. Turns out my sources were not completely accurate after all. On Twitter, jesuit theologian Antonio Spadaro clarifies that:

A century of McLuhan: understanding social media

I was among the invited speakers of the McLuhan centenary conference McLuhan100 Then Now Next at the University of Toronto. So I’m back from a full week of scientific research, art, concerts, and conversations with great contemporary media scholars such as Ian Bogost, Barry Wellman, Arthur Kroker, Jay Bolter, Derrick de Kerckhove, Peppino Ortoleva, Mike Wesch, Joshua Meyrowitz, Michaël Oustinoff, Hervé Fischer. But enough with the name dropping. Here’s my own presentation (slides+text), where I mix up McLuhan, Merton, Facebook and Teilhard de Chardin. Enjoy.

Text of the presentation: (more…)

[Vidéo] Insurrections augmentées : l’impact des médias sociaux sur les émeutes (updated 12/11/11)

Le samedi 5 novembre 2011, l’association Ars Industrialis a organisé au Centre Pompidou un séminaire sur “La guerre civile numérique”. Le rencontre visait à identifier les bonnes questions relatives à ce thème, qui fait couler beaucoup d’encre depuis quelques temps (v. par ex. le livre de Paul Jorion). [Update 13 novembre 2011: la vidéo de ma présentation + les diapos sont finalement en ligne!]. La présentation est basée sur la recherche effectuée avec Paola Tubaro sur les émeutes britanniques de 2011.

Vidéo

Slides

Tableau des équivalences web occidental / web chinois

Il y a quelques mois, lors de la conférence Lift10, l’auditoire a été capturé par le brillant exposé de Basile Zimmermann. Le jeune professeur de l’Université de Genève a expliqué – d’une manière extrêmement convaincante – comment la différence culturelle entre la Chine et les sociétés euro-étasuniennes soit encodée dans le langage et dans les pratiques d’écriture. Et quand les usages technologiques s’en mêlent, l’écart peut se creuser encore davantage. Les  claviers,  les écrans, et les conventions communicationnelles opposent radicalement la manière de lire des contenus en ligne en Chine et dans les pays “alphabetiques”.

Certes utile pour se repérer dans le web chinois, le tableau concocté par l’expert de médias sociaux Thomas Crampton, doit IMHO être lu à l’aune des commentaires de Basile Zimmermann – qui nous invite à ne pas réduire la différence culturelle à un simple jeu d’équivalences.

—a

The sociology of Chatroulette

by Antonio A. Casilli (Centre Edgar-Morin, EHESS) [1]

By now, you might have heard of Chatroulette, if you are hip and tech-savvy if those two things at the sides of your face are your ears. By the way, I hope you did not click on the link. It’s not safe for work. And by that I mean you will be sucked into a world of sheer immorality which will challenge all your values and potentially wreck civilisation. Or (but this is simply my own guess) it will lead you to yet another overhyped internet chat service designed to put you in touch via webcam with random strangers.

Of course, "random" may be synonymous with "dressed like an idiot".

A few facts

So, bottom line, Chatroulette goes something like: you log in, you bump into someone, you evaluate, you click on “next”. Basically, each time you connect you have to ask yourself “Do I like this person?”. If you do, just go on chatting. If you don’t, just “next”  him/her and the service puts you in contact with someone else, anybody else. It might be a teenage boy making faces, or a beautiful girl with a generous cleavage, or an old pervert doing whatever it is that perverts do on-screen. (more…)