surveillance

Facebook contro tutti (intervista in Jacobin Italia, 14 dic. 2018)

Non faccio spesso interviste in italiano, ma quando le faccio passo svariate ore a parlare con il giornaliste Giuliano Santoro. Il risultato è questa intervista-fiume per Jacobin Italia che esplora le relazioni fra Facebook, i mercati, la società e gli stati-nazione.

Facebook e gli altri divoratori di mondi – Jacobin Italia


La tolda dell’astronave madre dell’impero digitale scricchiola davvero? Come evolve il capitalismo delle piattaforme e che rapporto ha con gli stati? Conversazione con Antonio A. Casilli

I segnali  sono arrivati, uno dopo l’altro, nel giro di pochi giorni. Prima il New York Times ha pubblicato un’inchiesta molto dettagliata dalla quale emerge il ruolo dei vertici di Facebook nel nascondere l’evidenza sulla diffusione di fake news ed hatespeech parte di vere e proprie campagne di disinformazione. Per di più, sarebbe emerso che Facebook stesso ha diffuso notizie false e illazioni per intorbidire le acque e intimidire le voci critiche. Secondo il New York Times, Mark Zuckerberg e la direttrice operativa Sheryl Sandberg avrebbero ignorato i segnali di allarme sulle interferenze russe e sullo ruolo di Cambridge Analytica, per negarli e poi sviare l’attenzione dalla società con campagna dietro le quinte contro le rivali, puntando a denigrare la figura del miliardario George Soros. Il Wall Street Journal ha rivelato che lo stesso Zuckerberg avrebbe convocato una cinquantina di luogotenenti per spronarli ad avere un atteggiamento più aggressivo. «Siamo in guerra», sarebbe stato l’allarme del creatore di Facebook. A questa guerra corrisponderebbe il calo delle quotazioni di borsa del titolo  di Facebook e di altri titoli dei giganti digitali. Alcuni teorizzano addirittura che ci troveremmo davanti a una bolla che potrebbe scoppiare. Voci dalla Silicon Valley dicono che per la prima volta e in maniera più consistente, aumenta la sfiducia dei lavoratori di Menlo Park nella capacità dell’azienda e del suo condottiero: sarebbe scesa di 32 punti, al 52%. Infine, da tempo si sostiene che il numero degli abitanti del pianeta Facebook, dei profili, sia in diminuzione.

Stiamo assistendo davvero alla graduale implosione dell’astronave madre dell’Impero? E  se veramente  dovesse accadere, cosa ne sarebbe del rapporto con Internet dei tanti utenti che utilizzano Facebook come unica via di accesso alla rete e scambio di informazioni? Viene in mente la nota metafora utilizzata da David Foster Wallace. Racconta di due pesci che incontrano un pesce proveniente dalla direzione opposta. Questo fa un cenno di saluto e dice: «Salve ragazzi! Com’è l’acqua oggi?». I due pesci proseguono per un po’ finché uno si paralizza e stupito si domanda: «Acqua? Che cos’è l’acqua?». Bene, se l’Acquario di Facebook dovesse prosciugarsi, cosa accadrebbe? Cosa ne sarebbe della nostra esistenza a cavallo tra reale e digitale senza la piattaforma che più di altre contribuisce a creare la nostra esperienza quotidiana? Ne parliamo con Antonio A. Casilli, che – tra le altre cose – insegna digital humanities al Telecommunication College del Paris Institute of Technology ed è ricercatore all’Ecole des hautes études en sciences sociales. Nel 2019 uscirà il suo nuovo libro sul lavoro digitale, che si intitola En attendant les robots. Enquête sur le travail du clic. «Quelli che hai appena elencato sono fenomeni che si verificano nello stesso momento, ma sono diversi tra loro», esordisce Casilli.

Bene, cominciano dalla borsa?
Facebook, così come Snapchat e altre aziende di questo tipo, sono sul mercato da relativamente poco. A parte certi giganti della tech come Amazon, che è quotata dal 1997, o Google, che vende azioni dalla metà degli anni 2000, si tratta di società che sono sui mercati borsistici da meno di dieci anni. Certo Facebook non è soltanto le sue azioni. La piattaforma esiste da prima, dal 2004, e ha una vita indipendente dalla borsa. Ed è una vita movimentata. Dalla sua nascita, è soggetta a delle crisi cicliche. Da questo punto di vista è l’incarnazione perfetta del capitalismo della Silicon Valley. Ha alti e bassi, e non solo in termini di valorizzazione. Spesso queste crisi sono di natura sociale, sono dei momenti di reazione da parte dei suoi stessi utilizzatori che si ribellano e insorgono contro la direzione della piattaforma. Ciò può avere a che fare con le scelte di design dell’azienda, o con alcuni grandi o piccoli scandali. Ad esempio quando, già nel lontano 2005 Facebook introdusse il newsfeed, gran parte degli utilizzatori dell’epoca non apprezzarono questa scelta. 700 mila abbonati, che per l’epoca era quasi il 10% degli utenti registrati, organizzarono petizioni, costrinsero Zuckerberg a chiedere ufficialmente scusa. In quel caso, come in altri, prima Facebook fece  marcia indietro e poi continuò come se niente fosse accaduto. Quando più tardi, nel 2009-2010, Facebook iniziò a pubblicare una serie di informazioni personali dei suoi membri, questi chiamarono in causa la Federal tradecommission. Anche lì Facebook disse che avrebbe tenuto conto delle critiche ma decise in ultimo di ignorarle. Quindi c’è sempre questo ciclo costante di reazione della base-utenti cui segue la contro-reazione di Facebook. Di solito è lo stesso Zuckerberg che si esprime e chiede scusa ufficialmente in una lettera aperta o pubblica un manifesto nel quale spiega le sue motivazioni. Questi documenti seguono sempre più o meno la stessa traccia: Zuckerberg dice che ci ripenserà e poi, immancabilmente, procede come se niente fosse. È la strategia del tango: un passo indietro e due in avanti. La crisi che sembra attraversare Facebook è coerente con questo andamento ciclico dei rapporti tra la piattaforma e il suo pubblico. La piattaforma mantiene un’attitudine totalmente predatoria nei confronti dei suoi abbonati, i quali cercano di farsi ascoltare ed essere riconosciuti. Questi auspici sono costantemente delusi.

Antonio A. Casilli

Ci stai dicendo che le battute d’arresto non sono una novità…

Senz’altro. Nel giugno 2013, ad esempio, Facebook fu al centro delle rivelazioni di Snowden e accusò il colpo del datagate più di altre aziende che pure erano menzionate (ad esempio Skype, Yahoo!, PayPal). Fu uno shock. Allo stesso tempo da noi si è parlato poco di quello che è successo in paesi come Egitto, Thailandia e India a proposito dell’introduzione a partire dal 2016 di un servizio che si chiama Free Basics, una specie di versione povera e non network neutrale di Facebook. Si trattava di un servizio di smartphone a buon mercato che permetteva l’accesso solo a pochi siti, fra cui Facebook. Era venduto in paesi emergenti, in cui ci sono problemi di connettività o in cui il prezzo della connessione era molto elevato. In India però l’autorità di controllo sulla telefonia, la Trai, si è opposta nel 2016, in seguito a manifestazioni, proteste e mobilitazioni online. A Facebook veniva contestata l’intenzione di creare un monopolio e di violare la neutralità della rete. Ma le autorità e la società civile indiane erano andate più in là, accusando Facebook di voler istituire una forma di colonialismo corporate. Zuckerberg cercò di difendersi pubblicando un editoriale sul Times of India nel quale sfoderava i suoi soliti argomenti: stiamo facendo tutto questo per il vostro bene, per permettere l’accesso a Internet, perché più connessione significa più progresso e democrazia. Meno diplomatico, Marc Andreessen, uno dei principali azionisti di Facebook, prese l’accusa di colonialismo alla lettera, lanciandosi in una maldestra apologia dei crimini coloniali. Dichiarazioni mostruose, rivelatrici di un’attitudine della Silicon Valley. Ma alla fine il servizio fu interrotto. Questa è una di quelle volte che Facebook non l’ha spuntata.

È andata così anche nel caso delle vertenze con gli enti preposti alla tutela della privacy?

Facebook è un mercato pubblicitario di dimensioni strabilianti. Funziona come una gigantesca agenzia pubblicitaria che si occupa non di creare servizi per utenti ma di fornire servizi a inserzionisti e aziende che comprano spazi, analisi di mercato, informazioni personali. Nessuno dei giganti del passato è accostabile a Facebook. Forse un po’ Microsoft, che non ha avuto crisi cicliche comparabili. Tutt’al più la società di Bill Gates ha avuto problemi ricorrenti con la Federal trade commission, per questioni di antitrust. Facebook negli anni ha incontrato una serie interminabile di ostacoli, soprattutto legati alla privacy per via di alcune azioni di diversi stati e della società civile in Europa. Ma si è trattato di frecce spuntate. Più volte il Garante della privacy in Italia o la Cnil, l’Autorità francese per la protezione dei dati, hanno comminato multe ai giganti del web. Ma a Facebook finora, è convenuto pagare ogni tanto una multa da 500 mila euro e continuare a macinare guadagni da centinaia di milioni di dollari al giorno. Perfino la sanzione di 10 milioni di euro che l’antitrust italiano gli ha inflitto il 29 novembre 2018 per violazione del Codice del Consumo è un rischio calcolato per Facebook. È come pagare una tassa. Bisogna anche dire che le cose sono cambiate con l’arrivo Gdpr, il regolamento Ue in materia di dati personali e privacy in vigore dallo scorso mese di maggio. Non ne conosciamo ancora gli effetti, ma i segnali sono incoraggianti. Per esempio, la class action None of Your Business lanciata dall’austriaco Max Schrems contro Android, Instagram, Whatsapp e Facebook. O quella lanciata in Francia da La Quadrature du Net contro la stessa Facebook, ma anche Google, Apple, Amazon e LinkedIn. Se queste cause dovessero andare in porto Facebook si troverebbe a pagare parecchie centinaia di milioni di euro. Ciò farebbe la differenza. Comunque finora non ci si è mai avvicinati non dico al colpo fatale, ma ad azioni di cui Facebook semplicemente si accorga dal punto di vista del suo funzionamento.

Dunque, come leggere la flessione sui mercati finanziari?

Bisogna interpretarla tenendo presente il modo in cui Facebook tratta il suo corso in borsa. Al contrario delle grandi aziende tradizionali, le piattaforme digitali non comprano e rivendono i loro stessi titoli per non far stagnare il mercato e dare a vedere ai propri azionisti che c’è una progressione del loro titolo. Facebook, come del resto anche Amazon o Google, non funziona così. Quando fanno dei profitti non li reinvestono per tenere su il corso del loro titolo in borsa. Li reinvestono in innovazione tecnologica, fanno gli investimenti come dovrebbe fare una qualunque azienda, quegli investimenti che le aziende tradizionali hanno smesso di fare. Da questo punto di vista il corso in borsa per le piattaforme digitali va visto più come un segnale da dare ad altri partner e investitori potenziali, invece che un fattore dal quale dipende la sopravvivenza. La sopravvivenza, invece, dipende dal fatto che l’azienda sia sempre in uno squilibrio fecondo, che sormonti crisi dopo crisi. E che importa se andando in fretta, come dice il motto di Zuckerberg, si finisce per «rompere cose». Qui, l’imperativo break things significa produrre innovazione, e il corso in borsa importa relativamente poco.

Il Nasdaq era crollato proprio perché le aziende non distribuivano dividendi agli investitori. Il passaggio al web 2.0 è stato un modo per colmare questo divario riuscendo a mettere al lavoro gli utenti con la scusa della partecipazione. Quando tu descrivi questo modo di stare in borsa, quasi da imprenditori ideali, ci stai dicendo anche che quel modello funziona ancora alla perfezione.

Per certi versi le piattaforme digitali, Facebook in testa, hanno ripreso la missione storica delle imprese tradizionali del secolo scorso. Tutte le altre aziende hanno abdicato a questa missione, sotto i colpi della globalizzazione e della finanziarizzazione. Quindi stanno cercando di trattenere gli investitori ma l’unica cosa che possono fare è promettergli da qui a diciotto mesi un ritorno sugli investimenti del 30%. Facebook non ragiona in questi termini. Paradossalmente, è più all’antica delle aziende pre-Internet! Anzi, si può dire che Facebook, in quanto azienda, spinga all’estremo certi tratti delle entità produttive tradizionali: attira una massa enorme di utenti-lavoratori, che producono conoscenza, dati e contenuti, in cambio di niente o quasi niente e in un contesto di controllo sociale capillare. Non te ne puoi andare da Facebook. Soprattutto, se sei un utilizzatore, e non un inserzionista o un data broker. È l’effetto lock-in, sei chiuso dentro. Una volta che sei catturato, l’unica cosa che ti resta da fare è produrre valore per l’azienda, nella maniera classica: producendo dati, producendo post, producendo reazioni e circolazione di contenuti. Quello che importa a Facebook non è il testo del tuo messaggio, non è la foto del tuo gatto, sono piuttosto i suoi metadati: quando l’hai scritto, con che smartphone hai scattato la foto, quale era il tuo indirizzo Ip. E poi i metadati sociali: quanta gente l’ha condiviso, quante reazioni ha generato. Sono informazioni che servono a fare analytics e che possono essere importantissimi dal punto di vista pubblicitario. Gli iscritti di Facebook lavorano per produrre dati che sono venduti dalla piattaforma. E non dimentichiamo che lavorano anche per produrre dati che sono utilizzati dalla stessa Facebook ai fini dell’automazione. Servono a produrre algoritmi che apprendono, quello che includiamo di solito sotto l’espressione generica machine learning. O per produrre soluzioni automatizzate sul filtraggio di dati, sulla raccomandazione di contenuti, l’Edge Rank stesso, che è l’algoritmo che gestisce il feed. Tutto ciò si basa sul presupposto che gli utenti-lavoratori siano lì, non possano andare via e una volta che stanno lì non possano che lavorare per Facebook.

Come interpretare allora le notizie sul calo degli utenti? Non è un fenomeno che, seppure limitato, potrebbe indicare una tendenza?

C’è da una parte una perdita del ritmo di nuovi arrivi sulla piattaforma, dovuto al fatto che il mercato dei social è saturo. Con quasi due miliardi di accounts e nuovi mercati globali (come l’India o la Cina) irraggiungibili, c’è poco da sperare che «il prossimo miliardo di abbonati» si iscriva presto… Poi c’è anche l’effetto di grossi repulisti nella base dati di Facebook e delle aziende del suo giro. A fine novembre 2018, Instagram ha fatto una specie di purga generale di account vecchi, inerti e fake. In corrispondenza delle elezioni brasiliane, la stessa cosa è successa su WhatsApp. Quando ci sono importanti scadenze politiche o economiche, o per lancio di nuovi servizi, le piattaforme hanno bisogno di fare pulizia nella loro base utenti. Il motivo per cui ne hanno bisogno è legato anche al fatto che spesso in fasi di crescita accettano di tutto. Facebook è esemplare da questo punto di vista. Ha avuto sempre e costantemente fasi di crescita forzata nelle quali i loro i criteri per la creazione dei profili erano meno stringenti. Nel 2011, c’è stato il periodo in cui Zuckerberg esortava a creare profili per bambini ancora non nati  oppure per cani, gatti a altri animali da compagnia. Ci sono stati periodi in cui Facebook chiudeva un occhio sul fatto che una singola persona avesse più profili, magari uno professionale e uno personale. Ma a queste fasi di laissez-faire, seguono periodi di austerità. Appena l’anno dopo, la piattaforma ha imposto la “politica dei nomi veri”: ogni utente doveva registrarsi con una sola identità che doveva per di più essere la sua identità civile, quella certificata dal suo documento.  I cali improvvisi degli iscritti , come è capitato nel 2018 quando Zuckerberg ha rimosso più di 500 milioni di fake, sono dovuti a politiche di zero tolerance verso i profili sotto pseudonimo, messe in atto dopo i vari scandali legati alle elezioni presidenziali statunitensi. Se c’è una decrescita del numero degli utenti, ciò è legato al fatto che le regole sono cambiate e che Facebook è diventato un po’ più esigente.

Sta però accadendo che tra i lavoratori della Silicon Valley circolino dubbi e critiche. È come se avessero maggiore consapevolezza. C’è qualche crepa in questo meccanismo all’apparenza perfetto?

Certo, ma la consapevolezza dei lavoratori della Silicon Valley si concentra in alcune figure professionali, soprattutto nei quadri intermedi. Sicuramente, c’è una presa di coscienza dei crimini economici e politici del capitalismo delle piattaforme, come per esempio quando i lavoratori di Google si oppongono a certe iniziative del loro datore di lavoro, come il programma di droni assassini Maven , o il motore di ricerca censurato Dragonfly. Ma questa conflittualità resta ristretta a poche nicchie di lavoratori privilegiati e non si generalizza. C’è poi il fatto che, da quando Trump è al potere, il mercato del lavoro della tech è diventato meno dinamico a causa delle restrizioni sull’immigrazione, anche di quella specializzata. È rallentato ad esempio il flusso di tecnici provenienti dall’India. Malgrado i lavoratori della Silicon Valley siano contrari in generale a queste restrizioni, è vero però che meno mobilità internazionale significa per loro meno concorrenza per i posti di lavoro. E nella misura in cui attualmente i lavoratori dell’ecosistema della Silicon Valley si sentono meno minacciati dalla concorrenza internazionale, si sentono più sicuri per rivendicare protezione e rispetto.

C’è una precisa ideologia dietro le piattaforme che in qualche modo è strettamente connessa al modello di  business. Forse se il capitalista di un tempo avesse annunciato che lo scopo della sua impresa era portare la pace nel mondo gli avrebbero riso in faccia. Oggi Zuckerberg lo dice, magari non gli si crede ma  non sembra assurdo che lo dica. Eppure, in Italia prima che negli Usa, abbiamo sperimentato che la partecipazione via social non corrisponde automaticamente a maggiore democrazia e partecipazione reale. Al contrario: serve ad abbassare il livello del discorso e premia i contenuti beceri.

Finora abbiamo parlato del modello di affari, questo aspetto invece attiene al modello culturale di Facebook. Il capitalismo novecentesco ha sempre avuto l’ambizione di avere anche una valenza sociale. Le aziende con un messaggio, dall’«automobile per le masse» di Henry Ford agli «United colors of Benetton», sono stati grandi successi industriali che si basavano su quelli che in comunicazione si chiamano «discorsi di accompagnamento». Si tratta di narrazioni, di storytelling, che aiutano l’adozione di una merce o di un servizio. Da questo punto di vista, Facebook ancora una volta si ricollega al capitalismo più classico. Ogni anno, la piattaforma immette sul mercato nuovi servizi di entertainment sociale che servono immancabilmente a produrre dati. E ogni volta, questi servizi sono accompagnati da promesse di rinnovo della società in nome della connettività generalizzata che renderà tutti amici, tolleranti e democratici.

Il che è stato clamorosamente smentito dalla vittoria di Donald Trump e dal ruolo che, volente o nolente, Facebook ha rivestito in quella campagna elettorale!

Certo, e questo ha determinato un cambiamento di rotta. Facebook ha cambiato recentemente il suo posizionamento e la sua promessa. Lo ha fatto nel 2017, quando Zuckerberg ha pubblicato il suo manifesto programmatico “Building Global Community” nel quale auspicava un ritorno a un mondo di piccole comunità coese. «In un mondo in cui le comunità sono in declino – dice in sostanza – Facebook può aiutare a rinforzare le reti di solidarietà umana divenendo una vera e propria infrastrutturasociale che ci salverà da crisi, crimini e catastrofi». Facebook non è più la pozione magica che rende gli uomini più buoni, ma il meccanismo di resilienza contro i cattivi. L’immaginario sociale di Zuckerberg proietta una società fatta di tanti piccoli isolotti che Facebook tiene insieme. Dobbiamo chiederci qual è la performatività di questo messaggio. Vale a dire, nel momento in cui Zuckerberg lo ha divulgato, che effetti concreti ha prodotto? Intanto ha imposto una visione che è anti-statalista e libertariana di destra. È una visione comunitaria nel senso peggiore del termine, di rottura delle basi di lealtà che reggevano gli stati moderni, sostituiti da logiche di mercato. È una visione che, sincera o non sincera, spinge gli utenti a comportarsi di conseguenza. Anche perché sono sotto il controllo degli algoritmi che stabiliscono ad esempio cosa possono guardare, con chi possono connettersi, eccetera. Dal gennaio 2018 questi algoritmi sono diventati ancora più restrittivi. Col pretesto di favorire i “legami forti”, vediamo sempre meno persone che non conosciamo anche nella vita di tutti i giorni. Gli incontri fortuiti con persone al di fuori della nostra cerchia di conoscenze sono diminuiti drasticamente, nel nome della lotta contro spam e troll. Certo, non smettiamo di essere amici di perfetti sconosciuti. Ma i loro contenuti appaiono meno spesso sui nostri muri. Dunque si è spinti a comunicare e produrre messaggi specializzati per comunità o piccoli gruppi. Siamo passati dal Facebook del «Siamo tutti amici» al Facebook del «Ogni uomo è un’isola».

Un ruolo fondamentale affidato a un operatore privato.

È appunto un’infrastruttura, come i binari del treno che conducono da un posto all’altro merci e persone. Solo che il capitalismo infrastrutturale del passato, che produceva energia per tutti o che collegava una città all’altra, era largamente promosso da iniziative statali e non private. Anni fa, l’economista Paul Krugman propose sul New York Times, di considerare Google come un servizio di utilità pubblica – e perciò collettivizzabile. Così anche Facebook, per alcuni è un attore egemonico di mercato, dunque bisogna frammentarlo o, al contrario, nazionalizzarlo. Per evitare questi rischi Zuckerberg, come un Berlusconi redivivo, starebbe pensando a scendere in campo per le elezioni.

Al momento è fantapolitica, però ci dice qualcosa della commistione tra privato e statale.

Più che commistione parlerei di cattura istituzionale. Abbiamo a che fare con una situazione caratterizzata da enormi oligopoli. Il rapporto delle piattaforme nei confronti dello stato è estremamente predatorio e opportunista. Per decenni le aziende della Silicon Valley hanno approfittato di aiuti pubblici, statunitensi e non solo. E continuano ancora! Ma gli stati non sono solo investitori della prima ora delle piattaforme: sono anche tra i migliori clienti. Gli stati delegano sempre più attività a queste grandi aziende. Per esempio responsabilità di sorveglianza di massa. Dopo la metà degli anni 2010, con la grande ondata di attentati in Europa e negli Stati uniti, i governi nazionali sembrano avere normalizzato la logica della violazione sistematica della privacy dei loro cittadini. In maniera cinica, hanno interpretato le rivelazioni di Edward Snowden in un manuale su come spiare sulla vita dei loro cittadini. E in maniera ancora più cinica, le piattaforme hanno trasformato questa contingenza in una occasione di business, fornendo servizi di sorveglianza capillare. È così che è nato il nuovo regolamento europeo approvato il 6 dicembre 2018, che delega alle piattaforme una serie di attività di sorveglianza e censura in nome della lotta al terrorismo. Questi sono i grossi cambiamenti, mai su questa scala c’è stata una delega di potere così importante a strutture private.

È come se gli stati diventassero un’articolazione delle piattaforme…

Gli stati nazionali hanno fallito le loro principali missioni storiche, mi riferisco a cose come produrre il cambiamento sociale  o assicurare il benessere alla gran parte della popolazione. E i mercati si sono resi conto che non hanno bisogno degli stati per funzionare. Se in generale gli stati appaiano meno adatti al mutamento delle aziende, questo è dovuto al fatto che le aziende hanno parassitato gli stati per decenni. La regolazione di Facebook non può arrivare con una misura onnicomprensiva, una mega-legge che disciplinerà tutto. Avverrà piuttosto attraverso una serie di misure attive che trovano la loro origine nella società civile. Facebook si permette abusi e manipolazioni perché con lobbying e pressioni economiche influenza la politica. Lo dimostrano le recenti rivelazioni sulle pratiche del suo direttore generale Sheryl Sandberg. Ma lo strapotere attuale di Facebook è dovuto soprattutto al fatto che da anni gli stati agiscono come i suoi cani da guardia, impedendo alla società civile, agli stessi utenti, di manifestare il loro disaccordo nei confronti delle pratiche della piattaforma. Il corpo sociale non può ribellarsi alla censura, alla sorveglianza, allo sfruttamento di Facebook. Opporsi al capitalismo digitale trionfante di oggi, significa spesso violare le regole di Facebook, a volte addirittura violare le leggi in vigore in diversi stati. È la convergenza tra piattaforma e stato-nazione. Marc Andreessen, ancora lui, ha scritto senza ombra di ironia che il software si sta mangiando il mondo. Lo stesso vale per le piattaforme: sono dei divoratori di mondi.

* Giuliano Santoro, giornalista, scrive di politica e cultura su il Manifesto. È autore, tra le altre cose, di Un Grillo qualunque e Cervelli Sconnessi (entrambi editi da Castelvecchi), Guida alla Roma ribelle (Voland), Al palo della morte (Alegre Quinto Tipo).


[Pocast] Surveillance internationale et médias sociaux avec Edouard Baer (Radio Nova, 2 janv. 2017)

Au petit matin, j’ai eu une conversation intéressante avec Edouard Baer et Thomas Baumgartner sur Radio Nova, dans l’émission Plus Près De Toi. On a parlé des douanes américaines qui imposent désormais une démarche “facultative” d’enregistrement des comptes Facebook, Instagram, LinkedIn etc. de tous les voyageurs souhaitant obtenir un visa pour voyager aux Etats-Unis. Quelles implications en termes de surveillance électronique et d’identification des populations ? Special guest : la CIA qui a coupé le son à un certain moment, quand on allait révéler les pseudos internet de tous les présents.

Bref, voilà le lien du podcast : Plus Près De Toi 02/01/17 | NOVAPLANET (Mon entretien commence à 19’15”)

Economie et politique des plateformes numériques : le programme de mon séminaire #ecnEHESS 2016-17

FINALLY ! Pour la neuvième année consécutive, mon séminaire Étudier les cultures du numérique : approches théoriques et empiriques (#ecnEHESS) ouvre ses portes le 21 novembre 2016 à l’EHESS de Paris. Pour récompenser votre patience, le programme de cette année réserve plus d’une surprise : des intervenants internationaux pour une réflexion sur l’impact politique du numérique, avec des séances spéciales sur la surveillance de masse, sur l’économie et l’idéologie des plateformes, sur les libertés fondamentales à l’heure d’internet.

Comme toujours, les inscriptions sont ouvertes aux auditeurs libres : il suffit d’envoyer un petit mail gentil via ce formulaire. La première séance aura lieu le lundi 21 novembre 2016, EHESS. Les séances successives, le troisième lundi de chaque mois de 17h à 20h.

ATTENTION : changement d’adresse. Cette année le séminaire se déroulera au 96 bd Raspail 75006 Paris, salle M. & D. Lombard. NB: la séance de fin d’année aura lieu le mercredi 14 décembre 2016. Pour plus de précisions sur les dates et les salles (et pour d’éventuels changements), se référer à la page de l’enseignement.

Programme

 platform 21 novembre 2016
Christophe Benavent (Paris Nanterre)
Gouvernementalité algorithmique des plateformes
 lloirns 14 décembre 2016
Isabelle Attard (députée citoyenne du Calvados) et Adrienne Charmet (La Quadrature du Net)
Internet, surveillance et libertés fondamentales en France
 ideology 16 janvier 2017
Benjamin Loveluck (Télécom ParisTech)
Idéologies et utopies du numérique
 workfutur 20 février 2017
Mark Graham (Oxford Internet Institute) et Karen Gregory (University of Edinbugh)
Global platforms and the future of work
 gafa 20 mars 2017
Nikos Smyrnaios (Université Toulouse 3)
Stratégies et logique des GAFAM
 mturk 10 avril 2017
Mary Gray (Microsoft Research)
Behind the API: Work in On-Demand Digital Labor Markets
 datanomix 15 mai 2017
Louis-David Benyayer (Without Model) et Simon Chignard (Etalab)
Les nouveaux business models des données
 magna 19 juin 2017
Juan Carlos De Martin (NEXA Center for Internet & Society)
Looking back at the 2015 ‘Declaration of Internet Rights’

La carte d’identité pour s’inscrire sur les médias sociaux, ou le durcissement des intermédiaires d’identité souples

Les internets se sont insurgés, comme il était prévisible, suite à la proposition de l’élu d’extrême-extrême droite français Eric Ciotti : imposer « la carte d’identité pour s’inscrire sur les réseaux sociaux ». Je pourrais me joindre au concert de critique qui a accueilli cet énième bêlement de partisan de l’identification forcée comme outil de « civilisation d’internet » via une politique des « vrais noms ».

Mais à ce stade, ma modeste proposition se limite à encourager toute personne intéressée à (re)lire l’article de Zarsky & de Andrade (2013) Regulating electronic identity intermediaries. Selon les auteurs le processus d’identification passe de manière générale par la définition du rôle des « intermédiaires d’identité ». (Ce n’est pas une nouveauté : il y a une vaste littérature sur les documents d’identité et leurs intermédiaires en histoire). Les intermédiaires d’identité participent à la « création, l’authentification, la vérification et l’accompagnement d’identités stables par lesquelles nous interagissons, envoyons et recevons de l’information en ligne, et, aussi bien, structurent notre identité et notre personnalité » (2013 : 1339). L’activité d’intermédiation est cruciale car elle met en évidence le rôle politique grandissant d’acteurs allant de l’État au secteur privé.

Il existe différentes catégories d’acteurs remplissant ce rôle d’intermédiaires d’identification. Ils se succèdent dans le temps. Historiquement, le premier intermédiaire d’identité est l’Etat (ex. obligations légales d’enregistrement des naissances, données biométriques, participation à la statistique publique [recensements…], authentification des actes légaux). L’État institue une identification «dure», dont la contrainte majeure est la nécessité pour la personne qui s’identifie de se trouver en présence physique de l’intermédiaire d’identité.

Avec le temps, d’autres intermédiaires se sont ajoutés à l’Etat : banques, compagnies téléphoniques, assurances, fournisseurs d’électricité… (Ex. Une carte bleue ou une facture de votre fournisseur d’énergie peuvent dans plusieurs situations valider une identifications formelle). Cette deuxième catégorie d’intermédiaires a souvent assoupli les modalités de mise en présence des sujets candidats à l’identification. Une rencontre physique est toujours présupposée mais les lieux sont variables (pas forcément dans un bureau étatique mais par ex chez vous).

Troisième catégorie, plus récente d’un point de vue chronologique: les systèmes de médiation numérique (fournisseurs email, FB, comptes clients…). Zarsky & de Andrade situent son apparition autour de 1999 lors du lancement de la directive européenne eSig. Ils l’appellent régime de « soft eID ». Pour ces systèmes, la présentation initiale d’un titre d’identité certifié, voire la présence physique, devient progressivement accessoire. Plateformes publicitaires, médias sociaux,les sites d’e-commerce ou de démarches administratives en ligne: des « intermédiaires de soft eID ». Ils jouent un rôle similaire d’identification, mais dans un cadre légal différent (d’où controverses fréquentes sur l’anonymat/pseudonymat…).

Bref, M. Ciotti est en train de demander qu’on s’inscrive avec un identifiant « dur » (étatique, ex. une pièce d’identité) sur un service d’identification «soft» (privé, ex sur Facebook). C’est une demande de rapprochement qui est (hélas) cohérent avec plusieurs évolutions récentes autant des intermédiaires privés (ex. la politiques des «vrais noms» sur les médias sociaux) que des intermédiaires publics (ex. le dispositif France Connect « le premier composant de l’Etat plateforme »…). Le constat de cette tendance récente à la convergence ne doit pas, pour autant, nous faire croire que le proposition de M. Ciotti soit réalisable, ni même raisonnable. La proposition de rapprocher de manière sauvage ces deux modalités d’identification (identification régalienne et identification par des entreprises privées) il nous met face à l’incompatibilité des circonstances pratiques (où s’inscrire sur FB ? à la mairie ? chez soi ? dans n’importe quel commerce ?) et légales (est-ce qu’à terme mon ID Apple féra foi en justice ?), tout en réaffirmant l’inquiétante proximité politique de ces systèmes — durs ou souples — d’identification et de gouvernement des individus.

Ce texte est une version remix du chapitre “La fausse piste du processus d’identification” de l’article co-publié avec Fred Pailler S’inscrire en faux: Les fakes et les politiques de l’identité des publics connectés, Communication, vol. 33/2 | 2015.

About the chilling effect of communication surveillance on free speech (a letter from the President of the USA)

A French version of this post has been featured in Slate, La Libre Belgique, and Yahoo News.

“I owe you a political letter. Yet the infidelities of the post office and the circumstances of the times are against my writing fully and freely, whilst my own dispositions are as much against mysteries, innuendoes and halfconfidences.

I know not which mortifies me most, that I should fear to write what I think, or my country bear such a state of things.”

[Thomas Jefferson, letter to John Taylor, November 26, 1798]

Just a memo…

Privacy is not dying, it is being killed. And those who are killing it have names and addresses

Quite often, while discussing the role of web giants in enforcing mass digital surveillance (and while insisting that there is a cultural and political war going on around privacy and technology), I am asked this question: “If people are not willing to be spied upon, how come they aren’t out in the streets protesting tech companies’ privacy invasions?”. To which I reply: “Sure they are!”

Case in point: as part of a larger San Francisco Bay Area anti-Google campaign, protesters have started organizing rallies outside houses of Google Street View developers.

I’m not endorsing these protest tactics (they display deontological ambiguity, plus the flyer they distributed is pure rambling). I’m just pointing them out as examples of ongoing struggles. To paraphrase Utah Phillips: “Privacy is not dying, it is being killed. And those who are killing it have names and addresses.” Activists know these addresses, and protest outside them.

Further reading: my latest book Against the hypothesis of the « end of privacy » in social media: An agent-based modeling approach, co-authored with Paola Tubaro and Yasaman Sarabi, just published by Springer.

Google censure les gros mots : une non-nouvelle [Updated 02.12.13]

Depuis quelques jours cette nouvelle fait le tour des Internets.

Mystère du journalisme, l’angle choisi est “après le porno, Google censure les gros mots”. Personnellement, cela me surprend. Et c’est à peu près la seule chose surprenante de toute cette histoire. En effet, le brevet déposé par la firme de Mountain View concerne un système de détection automatique de contenus multimédias “non autorisés, tel qu’un contenu protégé par le droit d’auteur ou des violations de nudité, de violence, de langue”.

Malgré les affirmations pseudo-libertaires d’Eric Schmidt, Google a une longue histoire de filtrage et de bricolage algorithmique du référencement des pages via son moteur de recherche. Ces formes de censure concernent (selon les occasions) des contenus dérageants pour certains gouvernements, lobbies industriels ou porteurs d’intérêts diverses et variés. Donc là, rien de nouveau.

Que les contenus visés soient les “flux multimédia composites multiutilisateur” des Google Hangouts n’a rien d’étonnant non plus. Youtube, autre fer de lance de l’entreprise de Larry Page, pratique depuis longtemps cette chasse à l’audiovisuel protégé par le copyright, grâce à son système d’identification de contenu. Le filtrage des contenus de transmissions du type chat ou vidéoconférences, quant a lui, est coutumier dans nos sociétés (voir cet exemple récent de surveillance de masse des utilisateurs de TOM-Skype et censure de contenus non appropriés pour le régime chinois : scandales politiques, mouvements indépendantistes, sectes).

Rien d’épatant, donc, sauf justement le fait de vouloir lire, derrière les “language violations” auxquelles fait allusion le brevet, l’interdiction de tout langage vulgaire – écho peut-être de la diatribe publique autour du rôle des “fauteurs d’incivilité numérique” (trolls, vandales et anonymes assortis). En fait les gros mots en soi n’ont jamais représenté un risque pour les services en ligne. Au contraire, ils peuvent représenter un gage de liberté d’expression dans des contextes d’interaction numérisée extrêmement contraignants et répressifs. C’est le cas de la plateforme sociale VKontakte (l’homologue de Facebook en Russie), où l’usage de l’argot grossier (мат) est autant répandu qu’y sont sanctionnés les propos contraires au gouvernement de Poutine.

Quantité moyenne de gros mots par post sur VK.com. Axe Y: nombre de gros mots. Axe X: âge des membres. Ligne rouge: seulement profils actifs. Ligne bleue: tous. Source: Habrahabr.ru

Comme pour d’autres inventions de Google aux possibles conséquences disruptives, et par delà la réalisation effective du système qui en fait l’objet, ce brevet est plus important pour ce qu’il révèle de l’idéologie sous-jacente du modus operandi de la firme américaine. Même s’il a alimenté une non-actualité, le dépôt de demande de brevet est certes un événement.

Dictators, democracies, and technology: Evgeny Morozov's keynote speech at #28c3 (Berlin, 12.27.11)

This is the pre-release video of Evgeny Morozov’s keynote speech Marriage From Hell: On the Secret Love Affair Between Dictators and Western Technology Companies delivered on dec. 27th, 2011 at the 28c3, 28th Chaos Communication Congress “Behind Enemy Lines”.

Why sanctions on technology companies who do business with totalitarian countries are ineffective? How much know-your-customer rule should we delegate to technologies? Did the Arab Spring end censorship and Web filtering in the Middle-East and North Africa? Are Russia, China and Western democracies becoming more and more unconfortable with too much Internet freedom? Why we need to act NOW against domestic surveillance? These, and other important questions are answered in the speech (which by the way starts at 3:20…)

(more…)