surveillance

[Pocast] Surveillance internationale et médias sociaux avec Edouard Baer (Radio Nova, 2 janv. 2017)

Au petit matin, j’ai eu une conversation intéressante avec Edouard Baer et Thomas Baumgartner sur Radio Nova, dans l’émission Plus Près De Toi. On a parlé des douanes américaines qui imposent désormais une démarche “facultative” d’enregistrement des comptes Facebook, Instagram, LinkedIn etc. de tous les voyageurs souhaitant obtenir un visa pour voyager aux Etats-Unis. Quelles implications en termes de surveillance électronique et d’identification des populations ? Special guest : la CIA qui a coupé le son à un certain moment, quand on allait révéler les pseudos internet de tous les présents.

Bref, voilà le lien du podcast : Plus Près De Toi 02/01/17 | NOVAPLANET (Mon entretien commence à 19’15”)

Economie et politique des plateformes numériques : le programme de mon séminaire #ecnEHESS 2016-17

FINALLY ! Pour la neuvième année consécutive, mon séminaire Étudier les cultures du numérique : approches théoriques et empiriques (#ecnEHESS) ouvre ses portes le 21 novembre 2016 à l’EHESS de Paris. Pour récompenser votre patience, le programme de cette année réserve plus d’une surprise : des intervenants internationaux pour une réflexion sur l’impact politique du numérique, avec des séances spéciales sur la surveillance de masse, sur l’économie et l’idéologie des plateformes, sur les libertés fondamentales à l’heure d’internet.

Comme toujours, les inscriptions sont ouvertes aux auditeurs libres : il suffit d’envoyer un petit mail gentil via ce formulaire. La première séance aura lieu le lundi 21 novembre 2016, EHESS. Les séances successives, le troisième lundi de chaque mois de 17h à 20h.

ATTENTION : changement d’adresse. Cette année le séminaire se déroulera au 96 bd Raspail 75006 Paris, salle M. & D. Lombard. NB: la séance de fin d’année aura lieu le mercredi 14 décembre 2016. Pour plus de précisions sur les dates et les salles (et pour d’éventuels changements), se référer à la page de l’enseignement.

Programme

 platform 21 novembre 2016
Christophe Benavent (Paris Nanterre)
Gouvernementalité algorithmique des plateformes
 lloirns 14 décembre 2016
Isabelle Attard (députée citoyenne du Calvados) et Adrienne Charmet (La Quadrature du Net)
Internet, surveillance et libertés fondamentales en France
 ideology 16 janvier 2017
Benjamin Loveluck (Télécom ParisTech)
Idéologies et utopies du numérique
 workfutur 20 février 2017
Mark Graham (Oxford Internet Institute) et Karen Gregory (University of Edinbugh)
Global platforms and the future of work
 gafa 20 mars 2017
Nikos Smyrnaios (Université Toulouse 3)
Stratégies et logique des GAFAM
 mturk 10 avril 2017
Mary Gray (Microsoft Research)
Behind the API: Work in On-Demand Digital Labor Markets
 datanomix 15 mai 2017
Louis-David Benyayer (Without Model) et Simon Chignard (Etalab)
Les nouveaux business models des données
 magna 19 juin 2017
Juan Carlos De Martin (NEXA Center for Internet & Society)
Looking back at the 2015 ‘Declaration of Internet Rights’

La carte d’identité pour s’inscrire sur les médias sociaux, ou le durcissement des intermédiaires d’identité souples

Les internets se sont insurgés, comme il était prévisible, suite à la proposition de l’élu d’extrême-extrême droite français Eric Ciotti : imposer « la carte d’identité pour s’inscrire sur les réseaux sociaux ». Je pourrais me joindre au concert de critique qui a accueilli cet énième bêlement de partisan de l’identification forcée comme outil de « civilisation d’internet » via une politique des « vrais noms ».

Mais à ce stade, ma modeste proposition se limite à encourager toute personne intéressée à (re)lire l’article de Zarsky & de Andrade (2013) Regulating electronic identity intermediaries. Selon les auteurs le processus d’identification passe de manière générale par la définition du rôle des « intermédiaires d’identité ». (Ce n’est pas une nouveauté : il y a une vaste littérature sur les documents d’identité et leurs intermédiaires en histoire). Les intermédiaires d’identité participent à la « création, l’authentification, la vérification et l’accompagnement d’identités stables par lesquelles nous interagissons, envoyons et recevons de l’information en ligne, et, aussi bien, structurent notre identité et notre personnalité » (2013 : 1339). L’activité d’intermédiation est cruciale car elle met en évidence le rôle politique grandissant d’acteurs allant de l’État au secteur privé.

Il existe différentes catégories d’acteurs remplissant ce rôle d’intermédiaires d’identification. Ils se succèdent dans le temps. Historiquement, le premier intermédiaire d’identité est l’Etat (ex. obligations légales d’enregistrement des naissances, données biométriques, participation à la statistique publique [recensements…], authentification des actes légaux). L’État institue une identification «dure», dont la contrainte majeure est la nécessité pour la personne qui s’identifie de se trouver en présence physique de l’intermédiaire d’identité.

Avec le temps, d’autres intermédiaires se sont ajoutés à l’Etat : banques, compagnies téléphoniques, assurances, fournisseurs d’électricité… (Ex. Une carte bleue ou une facture de votre fournisseur d’énergie peuvent dans plusieurs situations valider une identifications formelle). Cette deuxième catégorie d’intermédiaires a souvent assoupli les modalités de mise en présence des sujets candidats à l’identification. Une rencontre physique est toujours présupposée mais les lieux sont variables (pas forcément dans un bureau étatique mais par ex chez vous).

Troisième catégorie, plus récente d’un point de vue chronologique: les systèmes de médiation numérique (fournisseurs email, FB, comptes clients…). Zarsky & de Andrade situent son apparition autour de 1999 lors du lancement de la directive européenne eSig. Ils l’appellent régime de « soft eID ». Pour ces systèmes, la présentation initiale d’un titre d’identité certifié, voire la présence physique, devient progressivement accessoire. Plateformes publicitaires, médias sociaux,les sites d’e-commerce ou de démarches administratives en ligne: des « intermédiaires de soft eID ». Ils jouent un rôle similaire d’identification, mais dans un cadre légal différent (d’où controverses fréquentes sur l’anonymat/pseudonymat…).

Bref, M. Ciotti est en train de demander qu’on s’inscrive avec un identifiant « dur » (étatique, ex. une pièce d’identité) sur un service d’identification «soft» (privé, ex sur Facebook). C’est une demande de rapprochement qui est (hélas) cohérent avec plusieurs évolutions récentes autant des intermédiaires privés (ex. la politiques des «vrais noms» sur les médias sociaux) que des intermédiaires publics (ex. le dispositif France Connect « le premier composant de l’Etat plateforme »…). Le constat de cette tendance récente à la convergence ne doit pas, pour autant, nous faire croire que le proposition de M. Ciotti soit réalisable, ni même raisonnable. La proposition de rapprocher de manière sauvage ces deux modalités d’identification (identification régalienne et identification par des entreprises privées) il nous met face à l’incompatibilité des circonstances pratiques (où s’inscrire sur FB ? à la mairie ? chez soi ? dans n’importe quel commerce ?) et légales (est-ce qu’à terme mon ID Apple féra foi en justice ?), tout en réaffirmant l’inquiétante proximité politique de ces systèmes — durs ou souples — d’identification et de gouvernement des individus.

Ce texte est une version remix du chapitre “La fausse piste du processus d’identification” de l’article co-publié avec Fred Pailler S’inscrire en faux: Les fakes et les politiques de l’identité des publics connectés, Communication, vol. 33/2 | 2015.

About the chilling effect of communication surveillance on free speech (a letter from the President of the USA)

A French version of this post has been featured in Slate, La Libre Belgique, and Yahoo News.

“I owe you a political letter. Yet the infidelities of the post office and the circumstances of the times are against my writing fully and freely, whilst my own dispositions are as much against mysteries, innuendoes and halfconfidences.

I know not which mortifies me most, that I should fear to write what I think, or my country bear such a state of things.”

[Thomas Jefferson, letter to John Taylor, November 26, 1798]

Just a memo…

Privacy is not dying, it is being killed. And those who are killing it have names and addresses

Quite often, while discussing the role of web giants in enforcing mass digital surveillance (and while insisting that there is a cultural and political war going on around privacy and technology), I am asked this question: “If people are not willing to be spied upon, how come they aren’t out in the streets protesting tech companies’ privacy invasions?”. To which I reply: “Sure they are!”

Case in point: as part of a larger San Francisco Bay Area anti-Google campaign, protesters have started organizing rallies outside houses of Google Street View developers.

I’m not endorsing these protest tactics (they display deontological ambiguity, plus the flyer they distributed is pure rambling). I’m just pointing them out as examples of ongoing struggles. To paraphrase Utah Phillips: “Privacy is not dying, it is being killed. And those who are killing it have names and addresses.” Activists know these addresses, and protest outside them.

Further reading: my latest book Against the hypothesis of the « end of privacy » in social media: An agent-based modeling approach, co-authored with Paola Tubaro and Yasaman Sarabi, just published by Springer.

Google censure les gros mots : une non-nouvelle [Updated 02.12.13]

Depuis quelques jours cette nouvelle fait le tour des Internets.

Mystère du journalisme, l’angle choisi est “après le porno, Google censure les gros mots”. Personnellement, cela me surprend. Et c’est à peu près la seule chose surprenante de toute cette histoire. En effet, le brevet déposé par la firme de Mountain View concerne un système de détection automatique de contenus multimédias “non autorisés, tel qu’un contenu protégé par le droit d’auteur ou des violations de nudité, de violence, de langue”.

Malgré les affirmations pseudo-libertaires d’Eric Schmidt, Google a une longue histoire de filtrage et de bricolage algorithmique du référencement des pages via son moteur de recherche. Ces formes de censure concernent (selon les occasions) des contenus dérageants pour certains gouvernements, lobbies industriels ou porteurs d’intérêts diverses et variés. Donc là, rien de nouveau.

Que les contenus visés soient les “flux multimédia composites multiutilisateur” des Google Hangouts n’a rien d’étonnant non plus. Youtube, autre fer de lance de l’entreprise de Larry Page, pratique depuis longtemps cette chasse à l’audiovisuel protégé par le copyright, grâce à son système d’identification de contenu. Le filtrage des contenus de transmissions du type chat ou vidéoconférences, quant a lui, est coutumier dans nos sociétés (voir cet exemple récent de surveillance de masse des utilisateurs de TOM-Skype et censure de contenus non appropriés pour le régime chinois : scandales politiques, mouvements indépendantistes, sectes).

Rien d’épatant, donc, sauf justement le fait de vouloir lire, derrière les “language violations” auxquelles fait allusion le brevet, l’interdiction de tout langage vulgaire – écho peut-être de la diatribe publique autour du rôle des “fauteurs d’incivilité numérique” (trolls, vandales et anonymes assortis). En fait les gros mots en soi n’ont jamais représenté un risque pour les services en ligne. Au contraire, ils peuvent représenter un gage de liberté d’expression dans des contextes d’interaction numérisée extrêmement contraignants et répressifs. C’est le cas de la plateforme sociale VKontakte (l’homologue de Facebook en Russie), où l’usage de l’argot grossier (мат) est autant répandu qu’y sont sanctionnés les propos contraires au gouvernement de Poutine.

Quantité moyenne de gros mots par post sur VK.com. Axe Y: nombre de gros mots. Axe X: âge des membres. Ligne rouge: seulement profils actifs. Ligne bleue: tous. Source: Habrahabr.ru

Comme pour d’autres inventions de Google aux possibles conséquences disruptives, et par delà la réalisation effective du système qui en fait l’objet, ce brevet est plus important pour ce qu’il révèle de l’idéologie sous-jacente du modus operandi de la firme américaine. Même s’il a alimenté une non-actualité, le dépôt de demande de brevet est certes un événement.

Dictators, democracies, and technology: Evgeny Morozov's keynote speech at #28c3 (Berlin, 12.27.11)

This is the pre-release video of Evgeny Morozov’s keynote speech Marriage From Hell: On the Secret Love Affair Between Dictators and Western Technology Companies delivered on dec. 27th, 2011 at the 28c3, 28th Chaos Communication Congress “Behind Enemy Lines”.

Why sanctions on technology companies who do business with totalitarian countries are ineffective? How much know-your-customer rule should we delegate to technologies? Did the Arab Spring end censorship and Web filtering in the Middle-East and North Africa? Are Russia, China and Western democracies becoming more and more unconfortable with too much Internet freedom? Why we need to act NOW against domestic surveillance? These, and other important questions are answered in the speech (which by the way starts at 3:20…)

(more…)