platforms

[Séminaire #ecnEHESS] “Communiquer avec modération” avec Sarah T. Roberts (Gaité Lyrique, 9 janv. 2020, 19h)

Le prochain rendez-vous de notre séminaire Étudier les cultures du numérique inaugure une collaboration avec la Gaîté Lyrique. De janvier à mai 2020, le lieu de culture parisien nous fait l’honneur d’accueillir en ses murs les séances du séminaire #ecnEHESS ouvertes aux auditeurs libres. Quatre rencontres où chercheur•ses et artistes se penchent sur “le côté obscur du futur du travail”.

Enseignement ouvert aux auditeurs libres (dans la limite des places disponibles). Pour s’inscrire, merci de renseigner le formulaire.

N’hésitez pas à faire circuler cette information au sein de vos propres contacts et sur les réseaux.


“Communiquer avec modération”
Sarah T. Roberts (UCLA)

avec Lauren Huret

jeudi 9 janvier 2020 à 19h00
Gaîté Lyrique
Auditorium
3bis, rue Papin
75003 – Paris

Nous avons tendance à penser que ce sont les algorithmes qui filtrent les contenus illicites, qui nous servent de bouclier contre le langage haineux et les vidéos violentes en ligne. Mais en réalité, ce sont des humains. Plus de 100 000 modérateurs de contenus commerciaux évaluent les publications sur les plateformes des médias sociaux, filtrent et suppriment les contenus choquants. Un travail largement invisible.

Avec son livre Behind The Screen, Content Moderation in the Shadows of Social Media (Yale University Press, 2019), Sarah T. Roberts, professeure en sciences de l’information à UCLA et lauréate 2018 du prix EFF Pioneer, offre la première étude ethnographique approfondie sur l’industrie de la modération du contenu commercial. S’appuyant sur des entretiens avec des travailleurs de la Silicon Valley jusqu’aux Philippines, elle contextualise cette industrie cachée et examine le poids émotionnel porté par ses travailleurs. Cette enquête sur les personnes qui officient “derrière l’écran” offre un aperçu d’un travail de plus en plus mondialisé et du pouvoir politique des plateformes qui s’érigent en juges de la communication planétaire à l’ère numérique.

Le travail de l’artiste franco-suisse Lauren Huret porte sur l’activité des modérateurs et modératrices de contenu, exposés à des milliers d’images traumatisantes chaque jour, et interroge les conséquences psychiques et physiques de ces tâches, ainsi que leurs effets à long terme pour nos sociétés.

Dans les médias :

(05 janv. 2020) Sarah T. Roberts: «La liberté d’expression sur Internet n’a jamais existé», Mediapart.

(11 janv. 2020) Sarah T. Roberts : « Les géants du Web ont choisi de rendre le processus de modération invisible », Le Monde.

Facebook contro tutti (intervista in Jacobin Italia, 14 dic. 2018)

Non faccio spesso interviste in italiano, ma quando le faccio passo svariate ore a parlare con il giornaliste Giuliano Santoro. Il risultato è questa intervista-fiume per Jacobin Italia che esplora le relazioni fra Facebook, i mercati, la società e gli stati-nazione.

Facebook e gli altri divoratori di mondi – Jacobin Italia


La tolda dell’astronave madre dell’impero digitale scricchiola davvero? Come evolve il capitalismo delle piattaforme e che rapporto ha con gli stati? Conversazione con Antonio A. Casilli

I segnali  sono arrivati, uno dopo l’altro, nel giro di pochi giorni. Prima il New York Times ha pubblicato un’inchiesta molto dettagliata dalla quale emerge il ruolo dei vertici di Facebook nel nascondere l’evidenza sulla diffusione di fake news ed hatespeech parte di vere e proprie campagne di disinformazione. Per di più, sarebbe emerso che Facebook stesso ha diffuso notizie false e illazioni per intorbidire le acque e intimidire le voci critiche. Secondo il New York Times, Mark Zuckerberg e la direttrice operativa Sheryl Sandberg avrebbero ignorato i segnali di allarme sulle interferenze russe e sullo ruolo di Cambridge Analytica, per negarli e poi sviare l’attenzione dalla società con campagna dietro le quinte contro le rivali, puntando a denigrare la figura del miliardario George Soros. Il Wall Street Journal ha rivelato che lo stesso Zuckerberg avrebbe convocato una cinquantina di luogotenenti per spronarli ad avere un atteggiamento più aggressivo. «Siamo in guerra», sarebbe stato l’allarme del creatore di Facebook. A questa guerra corrisponderebbe il calo delle quotazioni di borsa del titolo  di Facebook e di altri titoli dei giganti digitali. Alcuni teorizzano addirittura che ci troveremmo davanti a una bolla che potrebbe scoppiare. Voci dalla Silicon Valley dicono che per la prima volta e in maniera più consistente, aumenta la sfiducia dei lavoratori di Menlo Park nella capacità dell’azienda e del suo condottiero: sarebbe scesa di 32 punti, al 52%. Infine, da tempo si sostiene che il numero degli abitanti del pianeta Facebook, dei profili, sia in diminuzione.

Stiamo assistendo davvero alla graduale implosione dell’astronave madre dell’Impero? E  se veramente  dovesse accadere, cosa ne sarebbe del rapporto con Internet dei tanti utenti che utilizzano Facebook come unica via di accesso alla rete e scambio di informazioni? Viene in mente la nota metafora utilizzata da David Foster Wallace. Racconta di due pesci che incontrano un pesce proveniente dalla direzione opposta. Questo fa un cenno di saluto e dice: «Salve ragazzi! Com’è l’acqua oggi?». I due pesci proseguono per un po’ finché uno si paralizza e stupito si domanda: «Acqua? Che cos’è l’acqua?». Bene, se l’Acquario di Facebook dovesse prosciugarsi, cosa accadrebbe? Cosa ne sarebbe della nostra esistenza a cavallo tra reale e digitale senza la piattaforma che più di altre contribuisce a creare la nostra esperienza quotidiana? Ne parliamo con Antonio A. Casilli, che – tra le altre cose – insegna digital humanities al Telecommunication College del Paris Institute of Technology ed è ricercatore all’Ecole des hautes études en sciences sociales. Nel 2019 uscirà il suo nuovo libro sul lavoro digitale, che si intitola En attendant les robots. Enquête sur le travail du clic. «Quelli che hai appena elencato sono fenomeni che si verificano nello stesso momento, ma sono diversi tra loro», esordisce Casilli.

Bene, cominciano dalla borsa?
Facebook, così come Snapchat e altre aziende di questo tipo, sono sul mercato da relativamente poco. A parte certi giganti della tech come Amazon, che è quotata dal 1997, o Google, che vende azioni dalla metà degli anni 2000, si tratta di società che sono sui mercati borsistici da meno di dieci anni. Certo Facebook non è soltanto le sue azioni. La piattaforma esiste da prima, dal 2004, e ha una vita indipendente dalla borsa. Ed è una vita movimentata. Dalla sua nascita, è soggetta a delle crisi cicliche. Da questo punto di vista è l’incarnazione perfetta del capitalismo della Silicon Valley. Ha alti e bassi, e non solo in termini di valorizzazione. Spesso queste crisi sono di natura sociale, sono dei momenti di reazione da parte dei suoi stessi utilizzatori che si ribellano e insorgono contro la direzione della piattaforma. Ciò può avere a che fare con le scelte di design dell’azienda, o con alcuni grandi o piccoli scandali. Ad esempio quando, già nel lontano 2005 Facebook introdusse il newsfeed, gran parte degli utilizzatori dell’epoca non apprezzarono questa scelta. 700 mila abbonati, che per l’epoca era quasi il 10% degli utenti registrati, organizzarono petizioni, costrinsero Zuckerberg a chiedere ufficialmente scusa. In quel caso, come in altri, prima Facebook fece  marcia indietro e poi continuò come se niente fosse accaduto. Quando più tardi, nel 2009-2010, Facebook iniziò a pubblicare una serie di informazioni personali dei suoi membri, questi chiamarono in causa la Federal tradecommission. Anche lì Facebook disse che avrebbe tenuto conto delle critiche ma decise in ultimo di ignorarle. Quindi c’è sempre questo ciclo costante di reazione della base-utenti cui segue la contro-reazione di Facebook. Di solito è lo stesso Zuckerberg che si esprime e chiede scusa ufficialmente in una lettera aperta o pubblica un manifesto nel quale spiega le sue motivazioni. Questi documenti seguono sempre più o meno la stessa traccia: Zuckerberg dice che ci ripenserà e poi, immancabilmente, procede come se niente fosse. È la strategia del tango: un passo indietro e due in avanti. La crisi che sembra attraversare Facebook è coerente con questo andamento ciclico dei rapporti tra la piattaforma e il suo pubblico. La piattaforma mantiene un’attitudine totalmente predatoria nei confronti dei suoi abbonati, i quali cercano di farsi ascoltare ed essere riconosciuti. Questi auspici sono costantemente delusi.

Antonio A. Casilli

Ci stai dicendo che le battute d’arresto non sono una novità…

Senz’altro. Nel giugno 2013, ad esempio, Facebook fu al centro delle rivelazioni di Snowden e accusò il colpo del datagate più di altre aziende che pure erano menzionate (ad esempio Skype, Yahoo!, PayPal). Fu uno shock. Allo stesso tempo da noi si è parlato poco di quello che è successo in paesi come Egitto, Thailandia e India a proposito dell’introduzione a partire dal 2016 di un servizio che si chiama Free Basics, una specie di versione povera e non network neutrale di Facebook. Si trattava di un servizio di smartphone a buon mercato che permetteva l’accesso solo a pochi siti, fra cui Facebook. Era venduto in paesi emergenti, in cui ci sono problemi di connettività o in cui il prezzo della connessione era molto elevato. In India però l’autorità di controllo sulla telefonia, la Trai, si è opposta nel 2016, in seguito a manifestazioni, proteste e mobilitazioni online. A Facebook veniva contestata l’intenzione di creare un monopolio e di violare la neutralità della rete. Ma le autorità e la società civile indiane erano andate più in là, accusando Facebook di voler istituire una forma di colonialismo corporate. Zuckerberg cercò di difendersi pubblicando un editoriale sul Times of India nel quale sfoderava i suoi soliti argomenti: stiamo facendo tutto questo per il vostro bene, per permettere l’accesso a Internet, perché più connessione significa più progresso e democrazia. Meno diplomatico, Marc Andreessen, uno dei principali azionisti di Facebook, prese l’accusa di colonialismo alla lettera, lanciandosi in una maldestra apologia dei crimini coloniali. Dichiarazioni mostruose, rivelatrici di un’attitudine della Silicon Valley. Ma alla fine il servizio fu interrotto. Questa è una di quelle volte che Facebook non l’ha spuntata.

È andata così anche nel caso delle vertenze con gli enti preposti alla tutela della privacy?

Facebook è un mercato pubblicitario di dimensioni strabilianti. Funziona come una gigantesca agenzia pubblicitaria che si occupa non di creare servizi per utenti ma di fornire servizi a inserzionisti e aziende che comprano spazi, analisi di mercato, informazioni personali. Nessuno dei giganti del passato è accostabile a Facebook. Forse un po’ Microsoft, che non ha avuto crisi cicliche comparabili. Tutt’al più la società di Bill Gates ha avuto problemi ricorrenti con la Federal trade commission, per questioni di antitrust. Facebook negli anni ha incontrato una serie interminabile di ostacoli, soprattutto legati alla privacy per via di alcune azioni di diversi stati e della società civile in Europa. Ma si è trattato di frecce spuntate. Più volte il Garante della privacy in Italia o la Cnil, l’Autorità francese per la protezione dei dati, hanno comminato multe ai giganti del web. Ma a Facebook finora, è convenuto pagare ogni tanto una multa da 500 mila euro e continuare a macinare guadagni da centinaia di milioni di dollari al giorno. Perfino la sanzione di 10 milioni di euro che l’antitrust italiano gli ha inflitto il 29 novembre 2018 per violazione del Codice del Consumo è un rischio calcolato per Facebook. È come pagare una tassa. Bisogna anche dire che le cose sono cambiate con l’arrivo Gdpr, il regolamento Ue in materia di dati personali e privacy in vigore dallo scorso mese di maggio. Non ne conosciamo ancora gli effetti, ma i segnali sono incoraggianti. Per esempio, la class action None of Your Business lanciata dall’austriaco Max Schrems contro Android, Instagram, Whatsapp e Facebook. O quella lanciata in Francia da La Quadrature du Net contro la stessa Facebook, ma anche Google, Apple, Amazon e LinkedIn. Se queste cause dovessero andare in porto Facebook si troverebbe a pagare parecchie centinaia di milioni di euro. Ciò farebbe la differenza. Comunque finora non ci si è mai avvicinati non dico al colpo fatale, ma ad azioni di cui Facebook semplicemente si accorga dal punto di vista del suo funzionamento.

Dunque, come leggere la flessione sui mercati finanziari?

Bisogna interpretarla tenendo presente il modo in cui Facebook tratta il suo corso in borsa. Al contrario delle grandi aziende tradizionali, le piattaforme digitali non comprano e rivendono i loro stessi titoli per non far stagnare il mercato e dare a vedere ai propri azionisti che c’è una progressione del loro titolo. Facebook, come del resto anche Amazon o Google, non funziona così. Quando fanno dei profitti non li reinvestono per tenere su il corso del loro titolo in borsa. Li reinvestono in innovazione tecnologica, fanno gli investimenti come dovrebbe fare una qualunque azienda, quegli investimenti che le aziende tradizionali hanno smesso di fare. Da questo punto di vista il corso in borsa per le piattaforme digitali va visto più come un segnale da dare ad altri partner e investitori potenziali, invece che un fattore dal quale dipende la sopravvivenza. La sopravvivenza, invece, dipende dal fatto che l’azienda sia sempre in uno squilibrio fecondo, che sormonti crisi dopo crisi. E che importa se andando in fretta, come dice il motto di Zuckerberg, si finisce per «rompere cose». Qui, l’imperativo break things significa produrre innovazione, e il corso in borsa importa relativamente poco.

Il Nasdaq era crollato proprio perché le aziende non distribuivano dividendi agli investitori. Il passaggio al web 2.0 è stato un modo per colmare questo divario riuscendo a mettere al lavoro gli utenti con la scusa della partecipazione. Quando tu descrivi questo modo di stare in borsa, quasi da imprenditori ideali, ci stai dicendo anche che quel modello funziona ancora alla perfezione.

Per certi versi le piattaforme digitali, Facebook in testa, hanno ripreso la missione storica delle imprese tradizionali del secolo scorso. Tutte le altre aziende hanno abdicato a questa missione, sotto i colpi della globalizzazione e della finanziarizzazione. Quindi stanno cercando di trattenere gli investitori ma l’unica cosa che possono fare è promettergli da qui a diciotto mesi un ritorno sugli investimenti del 30%. Facebook non ragiona in questi termini. Paradossalmente, è più all’antica delle aziende pre-Internet! Anzi, si può dire che Facebook, in quanto azienda, spinga all’estremo certi tratti delle entità produttive tradizionali: attira una massa enorme di utenti-lavoratori, che producono conoscenza, dati e contenuti, in cambio di niente o quasi niente e in un contesto di controllo sociale capillare. Non te ne puoi andare da Facebook. Soprattutto, se sei un utilizzatore, e non un inserzionista o un data broker. È l’effetto lock-in, sei chiuso dentro. Una volta che sei catturato, l’unica cosa che ti resta da fare è produrre valore per l’azienda, nella maniera classica: producendo dati, producendo post, producendo reazioni e circolazione di contenuti. Quello che importa a Facebook non è il testo del tuo messaggio, non è la foto del tuo gatto, sono piuttosto i suoi metadati: quando l’hai scritto, con che smartphone hai scattato la foto, quale era il tuo indirizzo Ip. E poi i metadati sociali: quanta gente l’ha condiviso, quante reazioni ha generato. Sono informazioni che servono a fare analytics e che possono essere importantissimi dal punto di vista pubblicitario. Gli iscritti di Facebook lavorano per produrre dati che sono venduti dalla piattaforma. E non dimentichiamo che lavorano anche per produrre dati che sono utilizzati dalla stessa Facebook ai fini dell’automazione. Servono a produrre algoritmi che apprendono, quello che includiamo di solito sotto l’espressione generica machine learning. O per produrre soluzioni automatizzate sul filtraggio di dati, sulla raccomandazione di contenuti, l’Edge Rank stesso, che è l’algoritmo che gestisce il feed. Tutto ciò si basa sul presupposto che gli utenti-lavoratori siano lì, non possano andare via e una volta che stanno lì non possano che lavorare per Facebook.

Come interpretare allora le notizie sul calo degli utenti? Non è un fenomeno che, seppure limitato, potrebbe indicare una tendenza?

C’è da una parte una perdita del ritmo di nuovi arrivi sulla piattaforma, dovuto al fatto che il mercato dei social è saturo. Con quasi due miliardi di accounts e nuovi mercati globali (come l’India o la Cina) irraggiungibili, c’è poco da sperare che «il prossimo miliardo di abbonati» si iscriva presto… Poi c’è anche l’effetto di grossi repulisti nella base dati di Facebook e delle aziende del suo giro. A fine novembre 2018, Instagram ha fatto una specie di purga generale di account vecchi, inerti e fake. In corrispondenza delle elezioni brasiliane, la stessa cosa è successa su WhatsApp. Quando ci sono importanti scadenze politiche o economiche, o per lancio di nuovi servizi, le piattaforme hanno bisogno di fare pulizia nella loro base utenti. Il motivo per cui ne hanno bisogno è legato anche al fatto che spesso in fasi di crescita accettano di tutto. Facebook è esemplare da questo punto di vista. Ha avuto sempre e costantemente fasi di crescita forzata nelle quali i loro i criteri per la creazione dei profili erano meno stringenti. Nel 2011, c’è stato il periodo in cui Zuckerberg esortava a creare profili per bambini ancora non nati  oppure per cani, gatti a altri animali da compagnia. Ci sono stati periodi in cui Facebook chiudeva un occhio sul fatto che una singola persona avesse più profili, magari uno professionale e uno personale. Ma a queste fasi di laissez-faire, seguono periodi di austerità. Appena l’anno dopo, la piattaforma ha imposto la “politica dei nomi veri”: ogni utente doveva registrarsi con una sola identità che doveva per di più essere la sua identità civile, quella certificata dal suo documento.  I cali improvvisi degli iscritti , come è capitato nel 2018 quando Zuckerberg ha rimosso più di 500 milioni di fake, sono dovuti a politiche di zero tolerance verso i profili sotto pseudonimo, messe in atto dopo i vari scandali legati alle elezioni presidenziali statunitensi. Se c’è una decrescita del numero degli utenti, ciò è legato al fatto che le regole sono cambiate e che Facebook è diventato un po’ più esigente.

Sta però accadendo che tra i lavoratori della Silicon Valley circolino dubbi e critiche. È come se avessero maggiore consapevolezza. C’è qualche crepa in questo meccanismo all’apparenza perfetto?

Certo, ma la consapevolezza dei lavoratori della Silicon Valley si concentra in alcune figure professionali, soprattutto nei quadri intermedi. Sicuramente, c’è una presa di coscienza dei crimini economici e politici del capitalismo delle piattaforme, come per esempio quando i lavoratori di Google si oppongono a certe iniziative del loro datore di lavoro, come il programma di droni assassini Maven , o il motore di ricerca censurato Dragonfly. Ma questa conflittualità resta ristretta a poche nicchie di lavoratori privilegiati e non si generalizza. C’è poi il fatto che, da quando Trump è al potere, il mercato del lavoro della tech è diventato meno dinamico a causa delle restrizioni sull’immigrazione, anche di quella specializzata. È rallentato ad esempio il flusso di tecnici provenienti dall’India. Malgrado i lavoratori della Silicon Valley siano contrari in generale a queste restrizioni, è vero però che meno mobilità internazionale significa per loro meno concorrenza per i posti di lavoro. E nella misura in cui attualmente i lavoratori dell’ecosistema della Silicon Valley si sentono meno minacciati dalla concorrenza internazionale, si sentono più sicuri per rivendicare protezione e rispetto.

C’è una precisa ideologia dietro le piattaforme che in qualche modo è strettamente connessa al modello di  business. Forse se il capitalista di un tempo avesse annunciato che lo scopo della sua impresa era portare la pace nel mondo gli avrebbero riso in faccia. Oggi Zuckerberg lo dice, magari non gli si crede ma  non sembra assurdo che lo dica. Eppure, in Italia prima che negli Usa, abbiamo sperimentato che la partecipazione via social non corrisponde automaticamente a maggiore democrazia e partecipazione reale. Al contrario: serve ad abbassare il livello del discorso e premia i contenuti beceri.

Finora abbiamo parlato del modello di affari, questo aspetto invece attiene al modello culturale di Facebook. Il capitalismo novecentesco ha sempre avuto l’ambizione di avere anche una valenza sociale. Le aziende con un messaggio, dall’«automobile per le masse» di Henry Ford agli «United colors of Benetton», sono stati grandi successi industriali che si basavano su quelli che in comunicazione si chiamano «discorsi di accompagnamento». Si tratta di narrazioni, di storytelling, che aiutano l’adozione di una merce o di un servizio. Da questo punto di vista, Facebook ancora una volta si ricollega al capitalismo più classico. Ogni anno, la piattaforma immette sul mercato nuovi servizi di entertainment sociale che servono immancabilmente a produrre dati. E ogni volta, questi servizi sono accompagnati da promesse di rinnovo della società in nome della connettività generalizzata che renderà tutti amici, tolleranti e democratici.

Il che è stato clamorosamente smentito dalla vittoria di Donald Trump e dal ruolo che, volente o nolente, Facebook ha rivestito in quella campagna elettorale!

Certo, e questo ha determinato un cambiamento di rotta. Facebook ha cambiato recentemente il suo posizionamento e la sua promessa. Lo ha fatto nel 2017, quando Zuckerberg ha pubblicato il suo manifesto programmatico “Building Global Community” nel quale auspicava un ritorno a un mondo di piccole comunità coese. «In un mondo in cui le comunità sono in declino – dice in sostanza – Facebook può aiutare a rinforzare le reti di solidarietà umana divenendo una vera e propria infrastrutturasociale che ci salverà da crisi, crimini e catastrofi». Facebook non è più la pozione magica che rende gli uomini più buoni, ma il meccanismo di resilienza contro i cattivi. L’immaginario sociale di Zuckerberg proietta una società fatta di tanti piccoli isolotti che Facebook tiene insieme. Dobbiamo chiederci qual è la performatività di questo messaggio. Vale a dire, nel momento in cui Zuckerberg lo ha divulgato, che effetti concreti ha prodotto? Intanto ha imposto una visione che è anti-statalista e libertariana di destra. È una visione comunitaria nel senso peggiore del termine, di rottura delle basi di lealtà che reggevano gli stati moderni, sostituiti da logiche di mercato. È una visione che, sincera o non sincera, spinge gli utenti a comportarsi di conseguenza. Anche perché sono sotto il controllo degli algoritmi che stabiliscono ad esempio cosa possono guardare, con chi possono connettersi, eccetera. Dal gennaio 2018 questi algoritmi sono diventati ancora più restrittivi. Col pretesto di favorire i “legami forti”, vediamo sempre meno persone che non conosciamo anche nella vita di tutti i giorni. Gli incontri fortuiti con persone al di fuori della nostra cerchia di conoscenze sono diminuiti drasticamente, nel nome della lotta contro spam e troll. Certo, non smettiamo di essere amici di perfetti sconosciuti. Ma i loro contenuti appaiono meno spesso sui nostri muri. Dunque si è spinti a comunicare e produrre messaggi specializzati per comunità o piccoli gruppi. Siamo passati dal Facebook del «Siamo tutti amici» al Facebook del «Ogni uomo è un’isola».

Un ruolo fondamentale affidato a un operatore privato.

È appunto un’infrastruttura, come i binari del treno che conducono da un posto all’altro merci e persone. Solo che il capitalismo infrastrutturale del passato, che produceva energia per tutti o che collegava una città all’altra, era largamente promosso da iniziative statali e non private. Anni fa, l’economista Paul Krugman propose sul New York Times, di considerare Google come un servizio di utilità pubblica – e perciò collettivizzabile. Così anche Facebook, per alcuni è un attore egemonico di mercato, dunque bisogna frammentarlo o, al contrario, nazionalizzarlo. Per evitare questi rischi Zuckerberg, come un Berlusconi redivivo, starebbe pensando a scendere in campo per le elezioni.

Al momento è fantapolitica, però ci dice qualcosa della commistione tra privato e statale.

Più che commistione parlerei di cattura istituzionale. Abbiamo a che fare con una situazione caratterizzata da enormi oligopoli. Il rapporto delle piattaforme nei confronti dello stato è estremamente predatorio e opportunista. Per decenni le aziende della Silicon Valley hanno approfittato di aiuti pubblici, statunitensi e non solo. E continuano ancora! Ma gli stati non sono solo investitori della prima ora delle piattaforme: sono anche tra i migliori clienti. Gli stati delegano sempre più attività a queste grandi aziende. Per esempio responsabilità di sorveglianza di massa. Dopo la metà degli anni 2010, con la grande ondata di attentati in Europa e negli Stati uniti, i governi nazionali sembrano avere normalizzato la logica della violazione sistematica della privacy dei loro cittadini. In maniera cinica, hanno interpretato le rivelazioni di Edward Snowden in un manuale su come spiare sulla vita dei loro cittadini. E in maniera ancora più cinica, le piattaforme hanno trasformato questa contingenza in una occasione di business, fornendo servizi di sorveglianza capillare. È così che è nato il nuovo regolamento europeo approvato il 6 dicembre 2018, che delega alle piattaforme una serie di attività di sorveglianza e censura in nome della lotta al terrorismo. Questi sono i grossi cambiamenti, mai su questa scala c’è stata una delega di potere così importante a strutture private.

È come se gli stati diventassero un’articolazione delle piattaforme…

Gli stati nazionali hanno fallito le loro principali missioni storiche, mi riferisco a cose come produrre il cambiamento sociale  o assicurare il benessere alla gran parte della popolazione. E i mercati si sono resi conto che non hanno bisogno degli stati per funzionare. Se in generale gli stati appaiano meno adatti al mutamento delle aziende, questo è dovuto al fatto che le aziende hanno parassitato gli stati per decenni. La regolazione di Facebook non può arrivare con una misura onnicomprensiva, una mega-legge che disciplinerà tutto. Avverrà piuttosto attraverso una serie di misure attive che trovano la loro origine nella società civile. Facebook si permette abusi e manipolazioni perché con lobbying e pressioni economiche influenza la politica. Lo dimostrano le recenti rivelazioni sulle pratiche del suo direttore generale Sheryl Sandberg. Ma lo strapotere attuale di Facebook è dovuto soprattutto al fatto che da anni gli stati agiscono come i suoi cani da guardia, impedendo alla società civile, agli stessi utenti, di manifestare il loro disaccordo nei confronti delle pratiche della piattaforma. Il corpo sociale non può ribellarsi alla censura, alla sorveglianza, allo sfruttamento di Facebook. Opporsi al capitalismo digitale trionfante di oggi, significa spesso violare le regole di Facebook, a volte addirittura violare le leggi in vigore in diversi stati. È la convergenza tra piattaforma e stato-nazione. Marc Andreessen, ancora lui, ha scritto senza ombra di ironia che il software si sta mangiando il mondo. Lo stesso vale per le piattaforme: sono dei divoratori di mondi.

* Giuliano Santoro, giornalista, scrive di politica e cultura su il Manifesto. È autore, tra le altre cose, di Un Grillo qualunque e Cervelli Sconnessi (entrambi editi da Castelvecchi), Guida alla Roma ribelle (Voland), Al palo della morte (Alegre Quinto Tipo).


“Las desigualdades del microtrabajo siguen las tensiones del colonialismo” (entrevista La Razon, Bolivia, 22 julio 2018)

Entrevista publicada en Animal Político, suplemento del diario boliviano La Razón.

Antonio Casilli: Trabajador digital, el ‘invisible’

Interactuar en internet también es ‘trabajar’, pues se consume produciendo; tal su provocación.

El sociólogo italiano Antonio Casilli

Iván Bustillos es periodista 08/08/2018 03:45 PM

La Paz•Hace algunos días, estuvo en Bolivia el sociólogo italiano Antonio Casilli, vino a presentar el libro Trabajo, conocimiento y vigilancia. 5 ensayos sobre tecnología, texto publicado por la Agencia de Gobierno Electrónico y Tecnologías de Información y Comunicación (Agetic). Uno de los más renombrados “sociólogos de internet” en Europa, Casilli propone interesantes tesis de lo que sería el “trabajador digital”, la vigilancia masiva por internet y su conflicto con la privacidad, y la construcción del conocimiento en las redes. Con un mundo diferenciado pero global, provoca mirar internet de otro modo.

— La creencia generalizada es que los robots nos están quitando el trabajo. Parece que usted tiene otra percepción del asunto.

— Diré que es al revés, que más bien son los seres humanos los que están tomando el trabajo de los robots. La idea de que los robots van a tomar el trabajo de los humanos es muy vieja, del siglo XIX, cuando pensábamos que las primeras máquinas a vapor iban a reemplazar el trabajo humano. Eso no ha pasado. Son las máquinas las que cambian, se renuevan; cada vez que hay una nueva ola de nuevas máquinas siempre vuelve la misma profecía de que éstas nos van a reemplazar. Ahora estamos con máquinas digitales, que para poder funcionar requieren de un trabajo y entradas en el sistema; esas entradas son el trabajo digital.

— Usted dice que el trabajo digital es invisible, disperso, precario, menos solidario…

— Que quede claro que el trabajo digital no es el de los expertos, de los ingenieros que crean el software. Se trata más bien de personas, que ya se puede llamar ‘proletariado digital’, que hacen tareas muy simples, estandarizadas, a las que se paga muy poco, hasta no se les paga. Estamos ante un trabajo que no se ve, porque está invisibilizado a propósito por los creadores de las plataformas. No es invisible por su esencia, es invisibilizado por los propietarios de dichas plataformas. Es trabajo que no está reconocido como tal, porque los trabajadores están considerados consumidores; además, hay trabajadores que hacen tareas tan pequeñas que no se consideran trabajo, sino microtrabajo. Estos falsos consumidores y los microtrabajadores realizan una labor muy importante, que es entrenar a las inteligencias artificiales.

— ¿Esto es propio de los países centrales, de alta tecnología, o se despliega también en otros del Tercer Mundo, digamos?

— Es un fenómeno global, que no es solo para los países de alto ingreso; sin embargo, el valor que es generado por este microtrabajo no está repartido de manera igual. Los países centrales, del norte, son los que han comprado este microtrabajo y sacan provecho de él. Si nos fijamos dónde viven los microtrabajadores, que reciben los ingresos (más) bajos, vienen de los países en vías de desarrollo o países pobres; entonces, son ellos los que realizan este microtrabajo. Vemos que las desigualdades que reflejan este microtrabajo, en general, siguen las mismas tensiones que ha producido el colonialismo.

— Este trabajador digital, señala usted en otra parte, llega a cien millones; y si hay algo que lo distingue es que es ‘consumidor-productor’. Parece que el solo hecho de usar internet ya no es tan inocente como antes.

— En efecto. Claro que cien millones se refiere a los microtrabajadores que reciben algunos centavos para estas microtareas. Pero, si empezamos a hablar de los consumidores-trabajadores, ahí hablamos de miles de millones de personas; en realidad, cada uno de nosotros. Aparte de que tengamos un trabajo propio, realizamos estas microtareas y generamos valor.

— Parece que también ha cambiado el concepto de empresa.

— Las plataformas no son como las empresas del siglo XX. La característica de las empresas era la centralización de algunas funciones y la fidelización de los trabajadores con un salario. Fuera de la empresa era el lugar del mercado; pero hoy las plataformas son como un híbrido entre empresa y mercado: como empresa, centralizan y acumulan las ganancias; pero como mercado, allí fluctúan los precios. Por ejemplo, la plataforma Amazon es, de un lado, una empresa que centraliza las ganancias y que estructura de una manera muy jerárquica el trabajo; pero, de otro lado, es una plaza de mercado, donde fluctúan los precios, que incorpora a estos consumidores-trabajadores, a los microtrabajadores.

— ¿Hay experiencias de defensa  de este microtrabajo; que los sindicatos se estén renovando?

— En algunos países los sindicatos están cambiando y se están interesando en los trabajadores digitales. Experiencias en Francia y Alemania. Sindicatos muy importantes han creado plataformas digitales para proteger a los trabajadores del sector digital. También se apoya a trabajadores de África o de Asia, que son los que más realizan el microtrabajo. Hay esfuerzos de hacer plataformas cooperativas, basadas en el principio de hacer evolucionar las plataformas para alejarse del concepto capitalista.

— ¿Y el Estado? ¿Qué papel está jugando en esta nueva realidad?

— Es difícil, porque los Estados que yo conozco son los europeos, y éstos buscan tener alianzas con las plataformas capitalistas y no defender a los trabajadores, porque consideran que la presencia de estas plataformas en su territorio va a ser una fuente de ingresos y riqueza, y también una fuente de datos masivos de vigilancia sobre los trabajadores. Pero, sí hay una forma de cambio que puede aparecer en la relación entre Estados y plataformas, que es a través de la fiscalización. Francia, y de manera general Europa, de último están pensando cómo utilizar la fiscalización para sacar impuestos sobre la cantidad de datos producidos en cada uno de los países, y cómo utilizar estos ingresos para financiar políticas redistributivas.

— Vigilancia masiva y datos privados. ¿La sola fecha de nacimiento es un dato que puede venderse, o responder sobre gustos, colores, lo que fuera?

— Cuando hablamos de los datos personales en las plataformas, como Facebook, en realidad estamos hablando de datos realmente muy colectivos. Si usted comparte en las plataformas qué música le gusta o qué opiniones políticas tiene, en realidad está dando también información sobre todo el entorno, su familia, sus amigos. Porque los grupos en estas plataformas se conforman en base a intereses comunes. Por eso digo que no hay nada más colectivo que un dato personal. Entonces, el que la plataforma se esté apropiando de los datos de una persona en realidad significa que se está adueñando de un grupo, de una cadena de personas, que de poco en poco llega a ser la humanidad entera. Porque la estructura misma de estas plataformas hace que cada uno de nosotros esté relacionado con cualquier otra persona a través de cinco o seis grados de separación, o hasta menos. ¿Qué significa grado de separación? significa que entre yo y Putin, el presidente de Rusia, por ejemplo, hay solamente cuatro personas, que yo conozco a alguien que conoce a alguien que conoce a alguien que conoce a Putin. Lo mismo entre yo y un microtrabajador en Filipinas. Entonces, cada dato que se me roba a mí es también un dato que se roba al resto de estas personas.

— ¿Se puede vender información, tendencias, estadísticas…?

— En general, estos datos no son vendidos como tales, sino que están monetizados. Significa que se provee un acceso a estos datos, una suscripción, a otras plataformas, empresas, Estados, medios de comunicación; esta monetización de los datos provee a estas grandes empresas un gran flujo de efectivo. Pero esto no es lo único: además de vender el acceso a estos datos, también se los conserva dentro de las plataformas para poder entrenar las inteligencias artificiales, entrenar los modelos de aprendizaje automático, hacer que los robots aprendan a comportarse de la misma forma que las plataformas.

— En la construcción de conocimiento en internet, la idea básica parece: todos contribuyen, pero siempre hay alguien que monitorea, Wikipedia, Google.

— Primero hay que entender que Wikipedia no es solo una enciclopedia, sino una galaxia de enciclopedias en varios idiomas. Hasta ahora la Wikipedia con más influencia es la versión en inglés. Pero el problema no es tanto el de Wikipedia, sino de Google, esto porque Wikipedia ha regalado toda su base de conocimiento a Google, a cambio de facilitar el acceso; así, si alguien busca a Antonio Casilli en Google, el primer resultado va ser Wikipedia; entonces, quien controla Wikipedia de alguna forma controla a Google. Por esta razón, cuando alguien quiere influir, introducir un sesgo político en los resultados de Google tiene mucho interés en ir a modificar los artículos de Wikipedia. Aunque Wikipedia es una experiencia colectiva, colaborativa, muy positiva, está rodeada de empresas y plataformas depredadoras, capitalistas, que buscan cómo torcer Wikipedia para sacarle provecho. El desafío más grande en este sentido es construir una plataforma de conocimiento común que logre ser independiente, que no pueda ser apropiada por las otras plataformas (de concepto capitalista).

Antonio Casilli. Presentó el libro Trabajo, conocimiento y vigilancia. 5 ensayos sobre Tecnología (Agetic, Embajada de Francia, 2018). Ensayos del autor en los últimos diez años sobre el impacto de las nuevas tecnologías de la información y la comunicación en el mundo laboral, la privacidad y el saber.

Why Bolivia matters to the future of digital economies (plus three talks and one new book!)

It’s been a few months in the making, and now it’s happening: I’ll be in Bolivia to deliver a few talks, promote my new book in Spanish, meet a bunch of interesting people, and travel into the future of digital economies in the world’s largest salt flats (skip to the end of this post to know more about this specific point).

Bolivia is an effervescent nation that has embarked in an ambitious plan for digital transition, with, among many other things, the recently approved “law of digital citizenship” (ley de ciudadanía digital) and the creation of governmental bodies devoted to the implementation of data-related and digital technology-enhanced policies, such as the AGETIC (Agencia de Gobierno Electrónico y Tecnologías de Información y Comunicación) and the ADSIB (Agencia para el Desarrollo de la Sociedad de la Información). Also, there are lively cultural debates, grassroots projects, hackerspaces, tech hubs, independent ISPs, hackatons, game jams, etc. going on in the major cities of La Paz, Cochabamba, Santa Cruz, Potosì.

What I’ll be doing in Bolivia? I’ll discuss collective ownership of data and how to overcome digital labor by adopting suma irnakaña (which, in aymara language, means “knowing how to work”) with students, academics, activists, and policymakers. Here’s the schedule so far (click to enlarge):

 

 

Tue, July 10, 2018,
10AM
Universidad Mayor de San Andrés (UMSA)
Auditorio de la carrera de sociología
Piso 2, Edificio René Zavaleta
La Paz

 

 

Tue, July 10, 2018,
6:30PM
Centro cultural Simon I. Patiño
Potosi 1450
Cochabamba

 

 

Wed, July 11, 2018,
7PM
Hall de la Vicepresidencia del Estado
calle Mercado,
esquina Ayacucho
La Paz

These conferences will also allow me to say a few words about my new book, which is actually an anthology of articles and chapters that I’ve published in the last decade, plus an unpublished essay about artificial intelligence and micro-work. It is also my first book published in Spanish EVER, so I’m pretty excited. The title is Trabajo, conocimiento y vigilancia. 5 ensayos sobre tecnología (“Work, Knowledge, and Surveillance. Five essays on technology”) and it has been edited by Khantuta Muruchi, to whom goes my gratitude.

The chapters featured in this book are: A History of Virulence: The Body and Computer Culture in the 1980s (initially published in the journal Body & Society, 2010); The Wikipedian, the academic, and the vandal, (initially published in the book “Wikipédia, objet scientifique non identifié”, 2015); Four Theses on Digital Mass Surveillance and the Negotiation Of Privacy (initially presented at the 8th Annual Privacy Law Scholar Congress, Berkeley, USA, 2015); Is There a Global Digital Labor Culture? Marginalization of work, global inequalities, and coloniality (initially presented at the 2nd symposium of the PARGC, University of Pennsylvania, Philadelphia, USA, 2016);  Artificial Intelligence: will humans replace robots? (unpublished).

What else… I’ll be travelling to the Salar de Uyuni, the world’s largest salt desert and the host of one of the biggest plants for the processing of lithium. Seems pretty remote from my topics, doesn’t it? And yet it has to a lot to do with the continuities between material and immaterial economies. In an essay published in 2016 in the Monthly Review, Christian Fuchs argued that present-day international division of digital labor involves “human subjects using technologies of labor on objects of labor” produced by assembly workers building digital equipments using natural resources as inputs. Thus, “the very foundation of global digital labor” is the extraction and processing of minerals.

In particular, recent researches have highlighted the importance of Rare earth elements (REE) and critical metals in the energy transition. And this is where countries like Bolivia come into play. Such minerals are crucial parts of the digital transformation that is at the heart of my research activity. In particular, lithium impacts both automation and digital labor. Imagine a 100% electric vehicle world: lithium demand would multiply by thirty to propell the cars. When it comes to mobile phones batteries, lithium is of capital importance: users worldwide are expected to exceed five billion by next year, thus lithium’s demand is expected to increase +2898% according to a recent UBS estimate. To start looking into how REE mining influences information production, I decided to visit the plantas de industrialización de litio in the Salar de Uyuni (which, incidentally, looks pretty lunar this time of the year, with temperatures plummeting to -10 at night…).

So whish me good luck and buen viaje and stay tuned for more info from South America.

Why Facebook users’ “strikes” don’t work (and how can we fix them)?

Another day, another call for a Facebook “users’ strike”. This one would allegedly run from May 25 to June 1, 2018. It seems to be a one-man stunt, though (“As a collective, I propose we log out of our Facebook…”). Also, it claims to be “the first ever” strike of this kind.

Yet, since the Cambridge Analytica scandal, new calls for strikes have been popping up every few days. As far as I know, the first one dates back to March 21 (although the actual strike is scheduled on May 18, 2018). The organizer is a seasoned Boston Globe journo, who likely just discovered what digital labor is and is SO excited to tell you:

“I like the idea of a strike, because we users are the company’s real labor force. We crank out the millions of posts and photos and likes and links that keep people coming back for more.”

On April 9, 2018 an an obscure Sicilian newspaper called a strike action (which, in Italian, sounds like “sciopero degli utenti di Facebook”). It actually turned out to be an article about the “Faceblock” which did take place on April 11, 2018. It was a 24-hour boycott against Instagram, FB and WhatsApp organized by someone who describe themselves as “a couple of friends with roots in Belgium, Denmark, Ireland, Italy, Malta, Mexico, the UK and the US” (a tad confusing, if you ask me).

Of course, May 1st was a perfect time to call for other Facebook strikes. This one, for instance, is organized by a pseudonymous “Odd Bert”, who also mentions a fictional Internet User Union (which seems to be banned by Facebook). This other one looked a bit like some kind of e-commerce/email scam, but produced three sets of grievances.

“On May 1st, 2018, Facebook users are going on strike unless the company agrees to the following terms:

A. Full Transparency for American and British Voters

  1. Facebook shares the exact date it discovered Russian operatives had purchased ads.
  2. Facebook shares the exact dollar amount Russian operatives spent on political ads.
  3. Facebook shares the 3,000+ ads that Russian operatives ran during 2016.
  4. Facebook reveals how many users saw the fake news stories highlighted by BuzzFeed.
  5. Facebook lets an independent organization audit all political ads run during 2016.
  6. Facebook gives investigators all “Custom Lists” used for targeting 2016 political ads.
  7. Facebook stops running paid political ads until January 1st, 2019.
  8. Mark Zuckerberg (CEO) and Sheryl Sandberg (COO) testify before Congress in an open-door (televised) session.
  9. Mark Zuckerberg and Sheryl Sandberg testify before the UK parliament.

B. Full Transparency and Increased Privacy for Facebook Users

  1. Facebook explains to users exactly what personal data is being used for advertising.
  2. Facebook asks users for itemized consent to use photos, messages, etc. for advertising.
  3. Facebook gives users the ability to see a “history” of all the ads they have viewed.
  4. Facebook lets an independent organization investigate all data breaches since 2007.
  5. Facebook agrees to be audited monthly to make sure it is complying with local laws.
  6. Facebook allows users to easily delete their “history” on the platform.

C. Better Safety for Children on Facebook

  1. Facebook increases the minimum age for Facebook users from 13 to 16.
  2. Facebook shuts down the Messenger Kids product.”

Users’ strikes are hardly new. In 2009, the Spanish social media Tuenti was concerned by a huelga de los usuarios against their terms of service. In 2015, Reddit users disrupted the platform when they revolted en masse in solidarity with a wrongly terminated employee. On Facebook, users’ collective action is inherent to the life of the platform, whose history is replete with examples of petitions, lawsuits, and class actions. After the introduction of Beacon in 2007, a 50,000-strong petition led to its discontinuation. In 2010 several users’ groups organized and lobbied US senators and the Federal Trade Commission (FTC) to oppose the introduction of the ‘like’ button social plugin on external websites. In 2011, the association Europe versus Facebook filed numerous complaints with the Irish Data Protection Commissioner (DPC) and a class action which is presently discussed by the Court of Justice of the European Union. In 2016, the real-life protests and general mobilization against the introduction of Free Basics in India led to its successful ban by the telecommunication authority TRAI, over net neutrality and privacy concerns.

As my co-authors and I argued in our 2014 book Against the Hypothesis of the ‘End of Privacy’, the adoption of pervasive data collection practices by social platforms has been highly contentious, with frequent and cyclical privacy incidents followed by strong mass reactions. What these reactions have in common is that they are strategic, organized, collectives actions that rely on existing communities. Which could provide essential clues as to why the 2018 Facebook strikes are so ineffective. Their do not seem to be organized by active members of existing communities and they certainly do not engage with elected officials or institutional bodies. They are launched by journalists, startup bros, anonymous users trying to get noticed. These persons’ idea of grassroots is a naive one: one heroic individual (or a nonexistent “union”) sparks a revolt, hence the masses follow.

Importantly, they seem to put excessive faith in strikes seen as their only available tactic. A recent article published by a group of Stanford and Microsoft computer scientists captures this romanticized vision of “powerful” industrial actions where users stand hand in hand and nobody crosses the picket line:

“Data laborers could organize a “data labor union” that would collectively bargain with siren servers. While no individual user has much bargaining power, a union that filters platform access to user data could credibly call a powerful strike. Such a union could be an access gateway, making a strike easy to enforce and on a social network, where users would be pressured by friends not to break a strike, this might be particularly effective.”

Nevertheless, as past experiences on social platforms have taught us, successful actions adopt a specific repertoire of contention dominated not by strikes (which are usually costly and difficult to coordinate) but by lobbying and litigation. If we expect Facebook users grievances to be heard, a comprehensive and wide-ranging strategy is necessary to boost their rights. Community, organization, and the selection of effective tools are the three pillars of collective action.

Pour un tournant décolonial numérique (Télérama, 5 févr. 2018)

Dans Télérama, l’entretien accordé au journaliste Romain Jeanticou.

La domination des géants du numérique est-elle un nouveau colonialisme ?

Romain Jeanticou Publié le 05/02/2018.

Google, Apple, Facebook, Amazon, Microsoft… En offrant nos données personnelles à ces géants aussi puissants que des Etats, nous les laissons nous exploiter, selon le sociologue et chercheur italien Antonio Casilli, qui plaide pour un “tournant décolonial numérique”.

On les dit plus puissants que certains Etats. Les géants de l’économie numérique – Google, Apple, Facebook, Amazon et Microsoft en tête – n’ont qu’à jeter un œil par les fenêtres que nous leur ouvrons sur nos vies pour savoir ce que nous faisons, ce que nous consommons ou ce à quoi nous rêvons. Sans nous en rendre compte, nous produisons chaque jour, gratuitement, et parfois même avec délectation, des données personnelles monétisées et revendues à des entreprises tierces ou à des Etats. L’autonomie des utilisateurs vantée par les plateformes cache en réalité l’exploitation de cette production bénévole : nous travaillons tous gratuitement pour Facebook ou Google. Nous serions même devenus de la « chair à algorithmes », comme le dénonce une tribune datée du 5 février, parue dans Le Monde, invitant chacun à monnayer ses données personnelles. 

Une position à laquelle s’oppose fermement le sociologue et chercheur italien Antonio Casilli, maître de conférences en humanités numériques à Télécom ParisTech et auteur, en 2010, des Liaisons numériques. Vers une nouvelle sociabilité ? (éd. Seuil). Dans un article paru en fin d’année dernière dans la revue académique américaine International Journal of Communication, il met toutefois en parallèle la « mise au travail » des internautes avec les modes de subordination appliqués à ses travailleurs par l’économie numérique. Dans le Nord – les chauffeurs Uber – mais aussi et surtout dans le Sud – les employés des « fermes à clics », ces « micro-travailleurs » engagés pour accomplir de toutes petites tâches censées enrichir ces mêmes plateformes.

Ces asymétries et ces rapports de force font émerger un discours critique de la situation de puissance des entreprises du numérique, de plus en plus assimilée à une forme de colonisation. Pour autant, Antonio Casilli appelle à définir ces relations de pouvoir inédites à l’aide de nouveaux concepts, parmi lesquels la « colonialité ».

Est-il pertinent de comparer les géants du numérique à des Etats ?

C’est très cohérent avec la rhétorique commerciale de ces entreprises. Etre comparé à un Etat est très flatteur lorsque l’on se présente comme capable de le remplacer. Plusieurs dirigeants des entreprises de la Silicon Valley sont proches des postures politiques libertariennes qui prônent le remplacement des structures publiques par des sociétés privées. Lorsque Google propose aux villes de développer des services de « smart cities », à Toronto par exemple, elle cherche à se substituer aux administrations locales. En développant ces services, ces entreprises nous mettent face à la possibilité de nous passer d’un gouvernement démocratiquement élu. Cette posture est possible parce que nos démocraties sont imparfaites et montrent leurs limites : depuis le tournant néolibéral de la fin du siècle dernier, elles ne garantissent plus le minimum de services indispensables d’un Etat-providence. Cette déficience crée un appel d’air qui permet aux plateformes de s’imposer comme fournisseurs de ces services tout en créant une proximité avec les citoyens. Avec un téléphone dans sa poche, on est toujours plus proche d’Apple que de l’administration publique.

Les tâcherons du clic

Selon vous, la dynamique d’exploitation de ces plateformes est double : la mise au travail des utilisateurs dans les pays riches, celle des micro-travailleurs dans les pays pauvres. Nous serions tous des ouvriers du travail numérique.

Ces plateformes, même les plus ludiques, sont basées sur des mécanismes de mise au travail de leurs usagers. Quatre milliards d’êtres humains connectés produisent en permanence des biens, des contenus et des données qui constituent l’actif immatériel de ces plateformes. Ceux-ci sont ensuite revendus et monétisés à des entreprises tierces ou à certains Etats. Vos recherches Internet permettent par exemple à des sites de vente en ligne de vous proposer des publicités ciblées. Il faut ajouter à cela une utilisation de ces données à des fins d’automatisation, c’est-à-dire pour l’apprentissage des machines à intelligence artificielle qui seront chargées d’évaluer, d’analyser et de trier ce contenu.

Ces bases de données sont produites quotidiennement par nous-mêmes, mais aussi par des « tâcherons du clic », ces travailleurs rémunérés en centimes pour cliquer sur des publicités ou modérer du contenu. Ils évoluent dans des conditions de précarité et de volatilité de revenus extrêmes. Le tout sans encadrement contractuel ni protection sociale. Cette économie est florissante dans le sud de l’hémisphère : dans les pays émergents ou en voie de développement comme les Philippines, l’Inde, le Népal, le Mexique, la Colombie…

Comment les gouvernements occidentaux participent-ils à la construction de ces systèmes de domination et d’exploitation ?

Il y participent par omission. A l’exception de certains efforts de réflexion comme ceux de France Stratégie [institution d’expertise rattachée au cabinet du Premier ministre, ndlr] ou du Conseil national du numérique en France, on assiste à une forme d’aveuglement des gouvernements face au développement de l’automatisation. Ils n’y voient que l’aspect technique – la montée en puissance de l’intelligence artificielle – et oublient l’humain dans l’équation – les ouvriers chargés d’entraîner les machines. Cette économie n’est pas faite que de robots, ni seulement d’ingénieurs ou d’experts de la gestion de données. Elle épouse même des formes de délocalisation : les entreprises occidentales achètent du clic à des usines de micro-travailleurs au Kenya ou en Thaïlande pour augmenter leurs revenus. C’est parfois cohérent avec l’histoire coloniale de certains pays : la France en Afrique, le Royaume-Uni en Inde, les Etats-Unis aux Philippines… Comme de nombreux autres secteurs de l’économie mondiale, cette mise au travail est construite sur des formes d’asymétrie globale qui ont affaire à des logiques d’exploitation historiques du Sud par le Nord.

Cette nouvelle économie est parfois comparée à du « néocolonialisme » ou à du « cybercolonialisme ». Quelles sont les limites de ces comparaisons ?

La première est l’historicisation immédiate qui en résulte. Le terme « colonialisme » a une histoire, celle de catastrophes humaines et économiques dont les effets courent encore sur de nombreux territoires de l’hémisphère Sud. Le récupérer, c’est risquer l’appropriation et l’effacement de ces spécificités historiques.

La deuxième limite se trouve dans la coupure opérée entre le Nord, que l’on assimilerait à de la production à forte valeur ajoutée et à de la contribution intellectuelle, et le Sud, qui ne produirait que de la matière brute. Ce dualisme contient un jugement de valeur qui fait fi de la production massive de contenu culturel dans le sud du monde. En Chine, on trouve à la fois d’immenses usines à clics et certaines des structures les plus innovantes de la planète en matière de haute technologie.

Enfin, il faut éviter de tomber dans le piège de l’orientalisme : en reléguant le Sud à un schéma statique et passif, on l’éloigne de toute évolution possible. Cette exotisation mène à considérer ces pays comme des territoires arriérés incapables de se défaire de leur position historique. En réalité, beaucoup ont la volonté de devenir compétitifs dans le secteur technologique, à l’image d’une ville comme Bangalore, aujourd’hui considérée comme la Silicon Valley indienne grâce à son important pôle de recherche et de production.

Un travail exploité et invisibilisé

A « colonialisme », vous préférez le concept philosophique de « colonialité ». Pourquoi ?

C’est un concept initié par le chercheur Nelson Maldonado-Torres, qui cherche à élargir la notion de colonialisme. Nous avons besoin d’une notion qui exprime ces formes d’asymétrie politique, économique et culturelle entre le Nord et le Sud tout en dépassant les caractéristiques historiques du colonialisme. La colonialité est détachée de l’expérience coloniale dans le sens où elle renvoie à un ressenti que l’on peut tout aussi bien trouver dans des pays sans histoire coloniale, voire dans des pays du nord de la planète. Lorsque l’on exploite ou vole nos données, nous sommes tous dans cette situation où le travail que nous fournissons pour ces entreprises est exploité et invisibilisé.

Vous plaidez désormais pour un « tournant décolonial numérique ».

On y vient petit à petit. De plus en plus de personnes se rendent compte de cette mise au travail et de sa non-reconnaissance, autant dans le nord que dans le sud. Cette prise de conscience se retrouve chez les chercheurs, mais aussi chez les travailleurs. Pensons aux luttes syndicales en cours : les travailleurs d’Uber et autres Deliveroo contestent partout le management algorithmique auquel ils sont soumis. Ajoutons à cela les groupes d’utilisateurs qui se demandent comment redistribuer la valeur créée sur ces plateformes, via la fiscalité numérique ou la contractualisation des algorithmes, pour contrôler la production de leurs contenus. Les syndicats en France, au Royaume-Uni, en Italie ou en Allemagne s’emparent de ces questions, mais dans le sud aussi une prise de conscience est en cours pour contrer la puissance de ces plateformes, à l’image de l’Inde et du Brésil qui se sont opposés à Facebook et WhatsApp.

 

 

100 milioni di microlavoratori e… 4 miliardi di operai del click (Il Manifesto, Italia, 27 genn. 2018)

Nell’edizione del 27 gennaio 2018 de Il Manifesto, l’inserto settimanale Alias ospita una dossier assai completo su lavoro, piattaforme e nuove prospettive dell’azione politica in cui compare un mio lungo articolo intitolato Sulle piattaforme digitali siamo tutti operai del click. Fra le altre firme presenti in occasione dell’uscita di “Forza Lavoro”, il nuovo libro di Roberto Ciccarelli, ritroviamo Ippolita, Toni Negri, Valerio De Stefano, Tiziana Terranova.

Micro-lavoratori di tutto il mondo… (Rassegna Sindacale, Italia, 17 sett. 2017)

Riassunto della mia lectio magistralis alle Giornate del Lavoro della CGIL. Qui il video del mio intervento.

 

 

[Compte rendu séminaire #ecnEHESS] Trebor Scholz “Unpacking Platform Cooperativism” (7 déc. 2015)

Dans le cadre de mon séminaire EHESS Étudier les cultures du numérique : approches théoriques et empiriques, nous avons eu le plaisir d’accueillir Trebor Scholz, professeur à la New School for Social Research de New York, où depuis 2009 il coordonne les conférences sur le digital labor dont les actes ont été recueillis dans l’ouvrage Digital Labor: The Internet as Playground and Factory (Routledge, 2012).  Paola Tubaro (LRI-CNRS) assurera le rôle de discutante.

De manière exceptionnelle, cette séance du séminaire s’est déroulée en anglais, le lundi 7 décembre 2015, de 17h à 20h, Amphi B310 de Télécom ParisTech, 46 rue Barrault, 75013 Paris. (A partir de janvier 2016, les séances reprendront à la même heure, en salle 5, EHESS, 105 bd Raspail 75006 Paris).

Retrouvez le livetweet du séminaire sur Twitter : hashtag #ecnEHESS.

Title: Unpacking Platform Cooperativism

Speaker: Trebor Scholz (New School, NYC)

Discussant: Paola Tubaro (LRI-CNRS, Paris)

Abstract: The distrust of the dominant extractive economic model is growing. Companies in the on-demand economy have been criticized for the “nullification of Federal Law,” the elimination of democratic values like accountability, dignity, and rights for workers. Every Uber has an unter; old command has been replaced with new command. However, trying to reverse the spread of contingent work seems futile; it is hard to imagine a return to the days when most people worked a 40-hour week.
Silicon Valley loves a good disruption, so let’s give them one. At the example of five different types of platforms, Scholz will offer ten principles for platform cooperativism and then aim to join the various pieces that make up this puzzle, ranging from ownership, financing, free software, design, and governance, to scale. It is about structural change, cooperative and municipal ownership models, legal protections, inventive unions, a redefinition of innovation, and collective decision-making.

Voilà un commentaire en anglais sur le blog de Paola Tubaro et le Storify de l’événement, concocté par Nicolas Loubet.

Les slides des séances précédentes :

Prochaines séances :

  • 4 janvier 2016Geoffrey Delcroix, Vincent Toubiana (CNIL), Martin Quinn (CVPIP) “Combien coûte un clic : données, industries culturelles et publicité”.

  • 1 février 2016Yann Moulier-Boutang “Capitalisme cognitif et digital labor”.

  • 7 mars 2016Jérôme Denis (Télécom ParisTech) et Karën Fort (Université Paris-Sorbonne) “Petites mains et micro-travail”.

  • 4 avril 2016Camille Alloing (Université de Poitiers) et Julien Pierre (Université Stendhal Grenoble 3) “Questionner le digital labor par le prisme des émotions”.

  • 2 mai 2016Judith Rochfeld (Paris 1 Panthéon-Sorbonne) et Valérie-Laure Benabou (UVSQ) “Le partage de la valeur à l’heure des plateformes”.

  • 6 juin 2016Bruno Vétel (Télécom ParisTech) et Mathieu Cocq (ENS) “Les univers de travail dans les jeux vidéos”.