Monthly Archives: May 2015

Grand entretien : l'impact social des algorithmes (Linkiesta, Italie, 16 mai 2015)

Dans le magazine en ligne italien Linkiesta.it, le journaliste Dario Ronzoni interviewe le sociologue Antonio Casilli sur l’impact social des algorithmes : inégalités, surveillance et stratégies des usagers pour contrer la polarisation politique.

>> “La società degli algoritmi sarà più ingiusta e ineguale”

“La società degli algoritmi sarà più ingiusta e ineguale”

L’automazione potrebbe portare alla polarizzazione tra classi egemoni e nuovi poveri. Il controllo sociale finirà in mano a strumenti opachi
 In principio fu uno studio scientifico, pubblicato nel 1998. Si intitolava The Anatomy of a Large Scale Hypertextual Web Search Engine, e illustrava il prototipo di PageRank, l’algoritmo per motori di ricerca elaborato da due studenti dell’Università di Stanford, Larry Page (da cui deriva il nome dell’algoritmo) e Sergey Brin. Nel giro di pochi anni avrebbero messo alla prova il loro esperimento fondando Google, che funziona proprio con PageRank e conquistando il mondo. PageRank, va notato, è rimasto di proprietà di Stanford, anche se i diritti di utilizzo appartengono ai due creatori.

Da quel momento, nel mondo dei profani, si fa strada il concetto di algoritmo, almeno nell’accezione più ristretta di entità logica, o di formula matematica che condifica alcune operazioni per l’ottenimento di un risultato. Una presenza opaca e sempre più diffusa: è con gli algoritmi che funzionano i programmi e le macchine con cui si interagisce ogni giorno, anche quelle più insospettabili (le lavatrici). La formula matematica porta all’automazione, e l’automazione ha il beneficio di rendere diverse operazioni molto più semplici. Al tempo stesso, però, si appropria di ambiti di azione che, in precedenza erano affidate all’uomo. O che, almeno, erano regolati secondo procedure note. Ora è sempre meno così: capire come agiscono gli algoritmi è sempre più complesso e, in molti casi, si tratta di un segreto commerciale. Il risultato è che molte delle scelte compiute sono incoraggiate e indirizzate da meccanismi ignoti. È un pericolo? Oltre alle conseguenze individuali, che tipo di impatto può avere tutto questo sulla società? Non è semplice.

Antonio Casilli, senior lecturer in Digital Humanities a Telecom Paris Tech e ricercatore di sociologia al Centre Edgar Morin all’Ehess (École des Hautes Études en Sciences Sociales, ricorda che, nonostante quanto sostengono alcuni ricercatori di Facebook, «nessun algoritmo è neutro. Anzi, l’algoritmo per definizione ha la funzione di determinare la direzione e la scelta. Di fronte agli algoritmi occorre sempre farsi due domande: chi ha determinato il risultato da raggiungere? Chi ha deciso le operazioni da compiere? Sono implicazioni fondamentali che hanno conseguenze notevoli».

Che conseguenze hanno gli algoritmi, a livello sociale? Che impatto hanno su un concetto dibattuto come le classi sociali?
Se non ci limitiamo a una definizione tradizionale di classe sociale, cioè fondata sul capitale finanziario, e la allarghiamo ad altre forme di capitale, come quello sociale e quello culturale, vediamo che gli algoritmi hanno un impatto enorme su tutti questi tre aspetti.

Cominciamo da quello finanziario.
Qui si può dire subito che l’effetto è quello di favorire le posizioni già dominanti. Le egemonie economiche si allargano e diventano anche politiche. Non si parla solo degli effetti di piattaforme di trading, ad esempio, o in generale di scambio di titoli borsistici, per le quali esistono e vengono creati ogni giorno algoritmi sempre più sofisticati e complessi. Il lato finanziario riguarda anche ambiti più quotidiani, come le banche o le assicurazioni. Qui uno degli aspetti più inquietanti è la reputazione delle performance personali.

I dati su cui banche e assicurazioni effettuano le loro valutazioni delle persone, però, non sono solo quelli “pubblici”. Ne usano anche molti altri che vengono ottenuti in modo più subdolo

In cosa consiste?
Esistono algoritmi che valutano il rischio associato a una persona. Sono strumenti utilizzati dalle assicurazioni nei confronti degli individui, per decidere eventuali premi, o dalle banche, per accordare prestiti a interessi più o meno alti. Se la reputazione di una persona è buona, allora sarà maggiore la possibilità di ottenere un mutuo a tassi più convenienti.

Come vengono stabiliti questi criteri di classificazione?
Si basano su scelte algoritmiche decise dalle singole istituzioni. I dati su cui effettuano le loro valutazioni delle persone, però, non sono solo quelli “pubblici”, rilasciati in modo consapevole dal cliente. A questi se ne aggiungono molti altri che vengono ottenuti in modo più subdolo, cioè all’insaputa del cliente. Ad esempio, dalle sue pagine social. In questo modo, se uno pubblica sue fotografie in deltaplano, per esempio, potrebbe risultare un cliente più a rischio, almeno per i parametri di una assicurazione. E questo implicherebbe un aumento del premio. Lo stesso può valere per qualsiasi altro aspetto della vita personale: può influire, senza che se ne possa rendere conto, sulla sua “reputazione”, e decidere elementi importanti della sua vita. E non parlo solo del mutuo.

Su cosa altro potrebbe influire?
Ad esempio sull’accesso alle cure mediche. I dati della salute degli individui sono molto ricercati, e da questi si può stabilire a quali cure ciascuno di noi abbia diritto. È un modo molto forte per ingrandire le diseguaglianze nella società e, di fatto, stabilire diversità di grado nel godimento dei diritti fondamentali. Sono le assicurazioni, o gli algoritmi che usano, che un giorno potrebbero decidere le nostre cure, e non è detto che siano sempre ottimali. Anzi. Lo stesso potrebbe valere per l’istruzione. Ci sono algoritmi che propongono percorsi scolastici determinati dalla zona di provenienza, dagli interessi mostrati e dalle disponibilità finanziarie. Anche qui, il rischio è che un individuo veda già, a partire dall’ambiente in cui è nato, quale sarà la sua esistenza futura, che tipo di impiego avrà e che tipo di stipendio potrà ottenere. Senza nessuna possibilità di cambiare la propria situazione di partenza.

L’atteggiamento dell’utente in rete e in generale di fronte all’automazione può fare la differenza. Può essere passivo, cedendo i dati e alimentando tutto l’ecosistema. Oppure cercare di ingannare l’algoritmo

Chi ha determinato la prevalenza degli algoritmi? Chi li introduce e governa?
L’ecosistema che sta dietro agli algoritmi è complesso. I principali attori sono quattro: in primo luogo metterei la classe politica. La loro azione è di sostituire, sempre di più, la funzione algoritmica alle scelte giuridico/politiche. Molte delle decisioni sono demandate all’automazione. In Francia ha fatto molto discutere la legge antiterrorismo presentata dal ministo dell’Interno Bernard Cazeneuve, che comprende anche una serie di provvedimenti automatizzati e decisi da un algoritmo, soprattutto in rete. Ecco, affidare all’automazione – senza previa autorizzazione e, soprattutto, senza che ci sia un consenso informato da parte della popolazione – l’amministrazione politica di un Paese è molto grave.

Chi sono gli altri tre attori?
In secondo luogo, i creatori di piattaforme digitali, come Google o Facebook, che basano sugli algoritmi il proprio business, creandone di volta in volta di nuovi. Al terzo posto i data broker, cioè i “procacciatori di dati”, possessori di immense basi di dati su milioni di persone, li acquistano (o prelevano) e li rivendono a chi li può utilizzare. Al quarto posto metterei, infine, l’utente stesso. Il suo atteggiamento in rete e in generale di fronte all’automazione può fare la differenza. Può essere passivo, cedendo i dati e alimentando tutto l’ecosistema, oppure può cercare di mettere in difficoltà l’algoritmo con tecniche particolari di nascondimento dati.

In che senso?
Si può cercare di navigare in modo anonimo, ad esempio, con sistemi di invisibilità come Tor. Oppure di aprire più pagine su un social network, magari utilizzando un altro nome. Sono mezzi irrituali ma non illegali: mentire a un’assicurazione è illegale, ma mentire a Facebook no, (almeno, per ora). Sono operazioni molto più diffuse di quanto si pensi, ma poco studiate.

Ma che vantaggi possono averne, almeno, a livello immediato, gli utenti che fanno resistenza?
Ad esempio, gli algoritmi tendono a individuare i nostri comportamenti abituali su Internet, e approfittarne. Se siamo abituati a usare un sito particolare per cercare occasioni di viaggio, per esempio, con il tempo troveremo offerte sempre meno vantaggiose: il sistema impara a conoscerci e ci valuta sulle nostre disponibilità. Alla fine ci farà proposte più adeguate a quanto si può spendere. Se si cambia sito, l’algoritmo avrà bisogno di tempo per scoprire chi siamo e quanto possiamo spendere.

La promessa di Facebook è di garantire che noi possiamo mantenere il controllo sui nostri rapporti interpersonali. In realtà avviene il contrario: è Facebook che lo mantiene

Tutto questo per quanto riguarda il capitale finanziario. Cosa succede invece al capitale sociale?
Qui entrano in gioco i social network, cioè programmi di algoritmi che hanno, come compito, di mettere in contatto persone con persone (programmi come Google, ad esempio, mettono in contatto persone con informazioni). Si parla di Facebook, di LinkedIn, e così via. Il loro impatto è molto forte perché si inserisce nei nostri rapporti personali. Su Facebook, ad esempio, non è importante quello che diciamo ma le persone con cui siamo in contatto. Ecco: se la promessa del social network è di avere il controllo sui nostri rapporti interpersonali, si può già dire che è stata disattesa.

Perché?
Perché non siamo noi ad avere il controllo sui nostri contatti, ma Facebook, o LinkedIn. Ogni utente del social network ha una media che va da 130 a 300 contatti. Non sarebbe possibile ricevere, sempre e insieme, gli aggiornamenti di ciascuno. Per questo esiste un algoritmo che decide quali utenti e quali temi sono di maggiore interesse per ciascuno. E ce li fa visualizzare. Lo fa secondo quelle che gli economisti definirebbero le nostre “preferenze rivelate”, cioè quelle con cui interagiamo di più, con cui abbiamo più scambi, che scrivono post su cui ci soffermiamo più a lungo. In ogni caso, siamo di fronte a una manipolazione algoritmica della nostra vita.

Ma cosa ci guadagna il social network?
Oltre alla pubblicità profilata, è un modo per ottenere fidelizzazione. Ridurre il newsfeed a pochi contatti può sembrare monotono, ma è rassicurante. Crea una comfort zone che fidelizza l’utente. Il rischio è che si crei una bolla, cioè una eco chamber, in cui si vedano solo contenuti che ci piacciono e che dicono quello che pensiamo noi. Quando, ad esempio, è avvenuto il caso di Charlie Hébdo, il numero di denunce per apologia del terrorismo ha avuto un picco. Come mai? Si spiega proprio con la bolla, che in quelle ore è saltata. Gli utenti erano avidi di notizie e aggiornamenti su ciò che succedeva a Parigi. Per questo motivo gli articoli e i post che trattavano gli sviluppi della vicenda erano molto alti nel ranking di Facebook. In una parola, venivano messi su tantissime bacheche. Questo ha fatto sì che post di persone o di giornali con visioni politiche precise, anche molto orientate, comparissero all’improvviso sulla bacheca di persone che non erano abituate a vederli. Per molti è stato uno shock: la comfort zone era stata rotta, l’utente si trovava di fronte a frasi, commenti e letture che non era abituato a vedere e che non credeva più nemmeno possibili. La reazione immediata è stata una pioggia di segnalazioni per apologia del terrorismo.

Che conseguenze ci saranno insomma, di fronte a questo strapotere degli algoritmi?
C’è il rischio di una polarizzazione sociale. La classe egemonica potrebbe tendere ad accrescere le proprie disponibilità, sia finanziarie che sociali. Dall’altra parte si potrebbe sviluppare una classe di poveri sempre più ampia, con minori possibilità di crescita economica e culturale. La depauperizzazione è in atto, anche con modi subdoli, classificazioni, divisioni in classi di prezzo e di disponibilità. con provvedimenti anche al di fuori dello stato di diritto. E la cosa grave è che la politica non fa nulla per impedirlo, anzi, propone soluzioni basate su algoritmi, rinunciando al proprio compito decisore e affidandosi a strumenti opachi di cui, perfino, si ignora l’efficacia. È come chiedere a qualcuno di guidare una macchina senza la garanzia che, sterzando a destra, girerà a destra. Chi lo farebbe? Ecco. Più o meno, lo facciamo tutti.

Tribune sur le délit d'anorexie : pourquoi militer pour la #suppression1052 (Rue89, 11 mai 2015)

Dans le quotidien en ligne Rue89, les sociologues et membres du projet ANAMIA Antonio Casilli et Fred Pailler publient une tribune pour inviter les internautes à tweeter sous le hashtag #suppression1052 pour inciter les sénateurs à votre contre la création du délit d’anorexie sur Internet.

>> Anorexie et #suppression1052 : éviter un désastre de santé publique

Anorexie et #suppression1052 : éviter un désastre de santé publique

Antonio Casilli et Fred Pailler, sociologues

La FNA-TCA (Fédération nationale des associations d’aide aux TCA), représente les associations de familles et de personnes souffrant de troubles du comportement alimentaire (TCA). L’équipe du projet de recherche ANAMIA, elle, rassemble les chercheurs universitaires qui, comme nous, ont étudié pendant des années les communautés internet de personnes souffrant de ces mêmes TCA.

Depuis la semaine dernière, nous nous sommes associés, et menons désormais une campagne qui porte sur un enjeu qui peut paraître anecdotique, mais qui renferme en soi l’embryon d’un désastre de santé publique que nous tous pouvons contribuer à empêcher.

Making of
Faut-il interdire les sites dits « pro-ana » – c’est-à-dire considérés comme incitant à l’anorexie ? Le débat est ouvert depuis l’adoption d’un amendement au projet de loi Santé, qui répond positivement à la question. Alors que ce texte va être débattu au Sénat, deux chercheurs expliquent à quel point cette interdiction serait contreproductive et lancent une campagne en ligne. Rue89

Ce pour quoi nous nous battons, c’est la suppression d’un petit passage de la loi santé récemment approuvée par l’Assemblée nationale, et actuellement en discussion au Sénat. Ce détail de la loi, c’est l’amendement n° 1052, mieux connu comme l’amendement « anti-anorexiques » qui crée le « délit d’incitation à la maigreur extrême sur Internet ».

Laissez-nous vous expliquer pourquoi il important de nous aider à sensibiliser vos sénateurs, en leur signalant notre combat par mail, sur Facebook ou sur Twitter, avec le hashtag #suppression1052.

De quoi il est question, concrètement ? En France 600 000 personnes [PDF] souffrent de troubles du comportement alimentaire : anorexie, boulimie, mais aussi hyperphagie, troubles mixtes… Certaines de ces personnes s’expriment sur des blogs, des forums, des médias sociaux. Elles y témoignent de leur détresse et parfois elles y tiennent des propos problématiques : « Je veux maigrir à tout prix », « je veux être parfaite », « je vais dorénavant n’ingérer que 100 calories par jour ». Sont-elles en train de prôner l’anorexie ? Certains en sont convaincus, et affublent ces sites web d’un label sulfureux : « pro-ana ».

L’amendement 1052 affirme une chose très basique : que toute personne qui tient un site pro-ana, incite les autres à l’anorexie et devrait aller en prison. Pendant un an. Et payer une amende de 10 000 euros. Est-ce si simple ? Oui. Simple comme inscrire un nouveau délit dans le code pénal. Le délit d’anorexie.

Mais combien de personnes risquent en fait la prison ? Selon une étude que nous avons menée en 2012, moins de 1‰ des Français concernés par les troubles alimentaires participent à des blogs qui sont identifiables comme « pro-ana ».

Pourquoi alors légiférer sur cette question ? C’est ce qu’on appelle un effet d’annonce, bien évidemment. Sauf que, outre le fait que cette mesure est inutile pour lutter contre les troubles alimentaires, elle risque d’avoir des conséquences néfastes sur les personnes mêmes qu’elle souhaiterait protéger. L’amendement 1052 risque de faire empirer, avec la stigmatisation et la répression pénale, la condition de ces personnes déjà fragiles : imagine-t-on une jeune femme d’une trentaine de kilos en prison ?

Une mesure erronée et inefficace

Voilà pourquoi nous nous opposons à cette mesure inefficace, et voilà pourquoi nous croyons que les sénateurs devraient écouter les voix des citoyens et des citoyennes qui connaissent et qui pratiquent Internet, et qui ne s’abandonnent pas facilement à des paniques morales et des manœuvres politiques.

Parce que tout utilisateur des réseaux un tant soit peu averti le sait : la répression des sites web ne fait que provoquer une cascade de conséquences néfastes. La première, c’est le célèbre effet Streisand : interdire les sites web dits « pro-ana » ne les supprimera pas puisqu’ils vont refaire surface ailleurs. Dans un autre pays, depuis un autre serveur… Qui plus est, la répression pousse ces sites dans la clandestinité. Ils se recréent ailleurs sur Internet, dans un « entre soi » confortable, difficile d’accès pour les familles et le corps médical.

Nos collègues Lise Mounier et Paola Tubaro se sont penchées sur les motivations des utilisateurs des sites dits pro-ana. Dans une étude publiée en 2014, elles ont démontré que ces personnes recherchent majoritairement un soutien et de l’information sur la maladie et la prise en charge. Ceux et celles qui consultent ces sites le font d’autant plus qu’ils perçoivent comme réduite l’offre de soins spécialisés dans les TCA en France. Notre pays ne compte que 22 structures de soins spécialisées dans les TCA. Face à ça, est-ce surprenant que les malades cherchent de l’information sur Internet – et qu’ils la trouvent dans des lieux complexes, problématiques, hors du contrôle des professionnels de la santé ?

Plutôt que d’interdire ces sites où se développent également des stratégies d’entraide et d’incitation aux soins, les sénateurs doivent corriger cette mesure erronée et néfaste commise par les députés. A l’issue du vote au Sénat, la nouvelle loi santé devra supprimer l’amendement 1052 et le remplacer par des mesures réelles pour combattre contre les troubles alimentaires : débloquer des crédits pour faciliter les soins, la prise en charge, l’accueil, la formation des médecins et des personnels accompagnants ; mettre en place non pas des lois populistes et liberticides, mais une véritable politique de prévention et de soutien de la recherche dans le domaine des TCA.

À défaut de quoi, la mauvaise réponse apportée par les élus à un vrai et grave problème de santé publique ne fera qu’empirer la condition de centaines de milliers de personnes concernées par de troubles qui multiplient par 12 leur risque de mortalité prématurée.

[Séminaire EHESS] Boris Beaude : Internet, espace et société (18 mai 2015, 17h) #ecnEHESS

Séminaire ouvert aux auditeurs libres Formulaire d’inscription

Pour la dernière date de l’année 2014/15 de mon séminaire Etudier les cultures du numérique, nous avons le plaisir d’accueillir Boris Beaude (EPFL) pour une séance consacrée aux approches géographiques, politiques et sociales de la spatialité d’Internet.

Le séminaire aura lieu le lundi 18 mai 2015 de 17h à 20h, salle 5, EHESS, 105 bd. Raspail, Paris.

Titre : Numérique : changer l’espace, changer la société

Intervenant : Boris Beaude (EPFL)

Avec Internet, l’espace a tant changé que la société est animée d’un mouvement dont la dynamique est peu lisible, car peu familière. Nier la réalité et la spatialité d’Internet expose à la déréalisation de nombre d’actions qui contribuent remarquablement à l’évolution du monde contemporain. Et c’est ce monde que nous risquons de ne plus comprendre, empêtré dans un matérialisme qui confond le réel et le matériel, l’espace et le territoire. Accepter cette spatialité singulière engage en revanche à en identifier les qualités, avant de se donner les moyens d’en comprendre les incidences particulières. Car les virtualités d’Internet sont tout autant porteuses d’asservissements que de libertés.
C’est pourquoi il est de plus en plus impératif de considérer l’évolution d’Internet au-delà des projets de ses concepteurs. La pluralité de ses usages, sa transformation, son appropriation et sa régulation exigent d’appréhender pleinement sa complexité. Internet est effectivement confronté à des tensions vives, qui engagent des composantes fondamentales de la coexistence. Les potentiels de liberté d’expression, de mutualisation, de gratuité, de décentralisation ou de résilience doivent de plus en plus composer avec une surveillance dont l’ampleur est inédite, une manipulation de plus en plus sophistiquée des multitudes, une affirmation de la propriété, une concentration considérable des pratiques et une vulnérabilité croissante des dispositifs techniques.
Parce qu’Internet change profondément l’espace, il change aussi la coexistence, et plus généralement la société. Le développement rapide d’Internet exige de repenser les fondements des existences collectives et les moyens de les organiser. L’avenir d’Internet est en cela encore largement à inventer, au même titre que la politique qui en assurera l’efficience. Internet partage ainsi avec le Monde, dont il ne constitue qu’une partie, la difficulté à organiser un monde commun, comme horizon politique pertinent pour l’humanité. À présent, Internet apparaît de plus en plus comme un remarquable témoin de la disjonction croissante entre la mondialisation des pratiques et la nationalisation des politiques qui les organisent.

 

Slides des séances passées :

19 novembre 2014
Antonio A. Casilli (Télécom ParisTech/EHESS)
« Le trolling en tant que ‘travail numérique’ »

15 décembre 2014
Irène Bastard (Telecom Paristech) et Christophe Prieur (Univ. Paris Diderot)
« Algopol : une expérimentation sociologique sur Facebook »

19 janvier 2015
Xavier de la Porte (Rue89)
« Retour sur l’expérience ‘Place de la Toile’ »

16 février 2015
Benjamin Tincq, Arthur De Grave (Ouishare) et Paola Tubaro (University of Greenwich/CNRS)
« L’économie collaborative : promesses et limites »

16 mars 2015
Ksenia Ermoshina (Mines ParisTech) ; Rayna Stamboliyska (IRIS Sup’ Paris)
“Conflits et militances du RuNet”