europe

Interview pour l’Institut Français (14 mai 2019)

Media features, , , , , ,

RencontreDébat d’idées

Antonio Casilli
Les géants du Net ont le pouvoir de décider ce que nous regardons et apprenons

Au lendemain de l’adoption de la directive portant sur le droit d’auteur en mars 2019, le sociologue français Antonio Casilli, spécialiste des réseaux sociaux et auteur de En attendant les robots, Enquête sur le travail du clic (Seuil, 2019), nous livre son regard sur les géants du Net, l’Intelligence Artificielle et les désillusions provoquées par la transformation digitale globalisée.

Antonio Casilli est maître de conférences en humanités numériques à Télécom ParisTech et chercheur associé au LACI-IIAC de l’EHESS.

Antonio Casilli

Quelle place occupent les géants du Net à l’heure actuelle ?

Il faut bien s’entendre sur ce que l’on appelle les géants du net. En plus des GAFAM (Google, Amazon, Facebook, Apple, Microsoft), il faut inclure d’autres grandes entreprises comme IBM, Baidu et Alibaba côté chinois, Naver – l’équivalent de Google en Corée… Ce sont des plateformes oligopolistiques, c’est-à-dire relativement peu nombreuses et qui ont tendance à phagocyter les concurrents plus petits : elles occupent sur leur marché une position d’hégémonie, avec une concentration des pouvoirs dangereuse d’un point de vue économique et qui menace également les libertés publiques. Qui dit pouvoir économique dit aussi pouvoir sur les imaginaires et sur la production culturelle : ces entreprises ont en effet tendance à standardiser la production culturelle. Elles y parviennent moins en soutenant directement des contenus qu’en mettant en place des pratiques indirectes de sélection « algorithmique », de modération « automatique » et de distribution des œuvres…Ces entreprises ont en effet tendance à standardiser la production culturelle

Comment limiter leur puissance ? La voie législative est-elle une réponse ? 

L’approche par la règlementation ne suffit pas et peut même s’avérer contreproductive, comme l’attestent deux initiatives récentes au niveau européen. La directive dite « copyright » adoptée le 26 mars 2019, qui réglemente le droit d’auteur sur internet ; et le règlement européen pour la prévention de la diffusion de contenus à caractère terroriste en ligne adoptée en première lecture par le Parlement européen le 17 avril 2019. La première donne aux plateformes un pouvoir de censure sur le contenu qu’elles hébergent. Il ne sera ainsi théoriquement plus possible de partager ne serait-ce qu’une citation sur Facebook, au nom de la protection du droit d’auteur. Que cette crainte s’avère fondée ou non dépend des choix des plateformes numériques, qui ont ici une marge de manœuvre énorme… Le règlement, quant à lui, prévoit que les juges puissent demander de retirer en une heure de n’importe quelle plateforme un contenu qu’ils jugent douteux. Or, aucune plateforme ne pourra respecter cette obligation sans utiliser les outils de filtrage développés par les GAFAM. La censure en ligne se verrait alors massivement gérée par les géants du Net, les sites les plus petits n’ayant pas la capacité de modérer leur contenu eux-mêmes 24 heures sur 24.

La directive a fait couler beaucoup d’encre dans les médias, alors que le règlement est passé quasi inaperçu, ce qui est particulièrement grave considérant que ces nouvelles règles ont toutes deux des conséquences importantes sur ce que l’on peut dire et faire sur internet. Elles donnent aux géants du Net le pouvoir de décider ce que nous allons regarder et apprendre. C’est une démarche qui aurait mérité plus de réflexion de la part de nos hommes politiques : ils viennent d’offrir à ces plateformes un immense pouvoir sur notre culture.Elles donnent aux géants du Net le pouvoir de décider ce que nous allons regarder et apprendre

L’Europe cherchait cependant à contrer les géants américains…

En réalité, la France et les États-Unis vont hélas dans le même sens. Malgré les textes de loi et une posture affichée d’opposition à la Silicon Valley, l’Europe reproduit les mêmes mécanismes oligopolistiques, sans offrir d’alternative. Les initiatives nationales n’ont pas une meilleure éthique que les géants du Net : les startups et les « pépites » du secteur technologique français auront probablement elles aussi recours à des travailleurs sous-payés aux Philippines ou à Madagascar… N’est-on pas  en train de s’inventer une virginité éthique alors qu’au fond, on se heurte aux mêmes contradictions morales, voire politiques – puisque cela touche au droit du travail ?

Ces travailleurs sous-payés font partie de ces « travailleurs du clic » que vous évoquez dans votre dernier ouvrage, En attendant les robots… 

Les travailleurs du clic vont de l’utilisateur lambda qui signale un contenu jugé illégal au modérateur bénévole payé en nature ou micropayé quelques centimes et délocalisé aux Philippines… Ils permettent d’améliorer la qualité des contenus, à l’image de ce que fait YouTube, qui identifie et supprime les contenus vidéos les plus controversés, mais se fait aussi police et juge de la propriété intellectuelle quand elle fait supprimer des contenus dont le droit d’auteur n’est pas respecté. Or les plateformes prétendent effectuer ce travail à l’aide de robots intelligents – les fameux « bots ». Il s’agit en réalité d’une exploitation du travail humain.

Le droit d’auteur peut-il s’appliquer à l’Intelligence Artificielle ?

Croire qu’une Intelligence Artificielle puisse ressembler à l’intelligence humaine et développer une capacité créative est un pur fantasme. La création vient exclusivement de l’inventeur de cette Intelligence artificielle, et c’est donc cette personne, humaine, qui en est l’auteur. Si l’on pousse la réflexion encore un peu plus loin, on peut dire que ce n’est pas seulement l’ingénieur ou le propriétaire qui en est l’auteur mais que ce sont tous les collectifs, voire les foules de travailleurs du clic qui permettent à l’IA de fonctionner en lui fournissant des données en permanence. D’ailleurs, le terme Intelligence artificielle devrait être remplacé par celui de machine learning qui décrit mieux le phénomène.Le terme Intelligence artificielle devrait être remplacé par celui de machine learning

Quel conseil donneriez-vous aux dernières générations d’internautes ?

Il y a un travail d’information et d’éducation à mener, pour les plus jeunes mais aussi pour les enseignants et les parents. Le numérique doit être enseigné car personne n’est en réalité « natif du numérique ». Ma recommandation : éduquez-vous, et renseignez-vous.

Tribune dans L’Obs “Lettre à l’Europe” (4 mai 2019)

Media features, , ,

Pour lire la version parue en ligne le 4 mai 2019 sur le site web de L’OBS, cliquer ici.

Version intégrale de l’auteur :

Lettre à l’Europe d’Antonio Casilli : « Ton numérique est encombré de mirages »

Chère Europe,

Tu promets des technologies « vertueuses » et respectueuses de la société et de l’environnement. Bien sûr, sur le plan législatif, des avancées considérables ont été inspirées par tes institutions. En cherchant à composer avec les exigences de tes citoyens et de tes marchés, tu as su définir d’ambitieuses mesures de protection des libertés numériques et d’intégrité des données personnelles, comme le RGPD.

Mais ton positionnement en champion du numérique « respectueux des droits » se heurte à un problème de taille, à savoir ton attitude ambigüe vis-à-vis des sociétés qui vont répondent au nom de GAFAM (Google Apple Facebook Amazon Microsoft). L’obsession de vouloir en même temps imiter et défaire les oligopoles américains représente la panne fatale de tes politiques économiques. Ton numérique à toi est encombré de mirages et de dualismes. Les géants de la tech seraient d’une part en train de t’envahir, et il faudrait donc s’en défendre ; mais ils seraient aussi des interlocuteurs politiques à part entière, dont tes États et tes institutions européennes attendraient tout salut. La première posture prévaut quand tu instaures des politiques protectionnistes, telle la récente et très controversée directive sur le droit d’auteur qui cherche à mettre à contribution les intermédiaires numériques d’outre- Atlantique. Ta priorité devient alors de tout mettre en place pour encourager la création de « géants du numérique » européens, homologues des oligarques de la Silicon Valley. La seconde attitude est exemplifiée par le règlement « relatif à la prévention de la diffusion en ligne de contenus à caractère terroriste » proposé à ta Commission Européenne en septembre 2018. Dans ce texte, tu te tournes vers les grandes plateformes pour leur déléguer de manière inconsidérée la modération de « contenus terroristes ». Tu leur accordes par la même occasion un chèque en blanc pour circonscrire la liberté d’expression de tes citoyens.

A force de plonger leur regard dans l’abîme que sont les GAFAM, ton opinion publique et tes élus finissent par en épouser implicitement l’arrogance, l’impérialisme culturel, le nihilisme marchand. Ce mélange de protectionnisme économique et de culte du cargo californien finit par s’harmoniser avec l’une de tes pires dispositions, à savoir ton repli réactionnaire et identitaire. Nulle part cela n’est mieux exprimé que dans ton effort régalien d’articuler les outils numériques avec les politiques anti- immigration. La militarisation de tes frontières méridionales ainsi que les tentatives récentes de remise à plat du principe de libre circulation des personnes, assimilent les réfugiés et les migrants à une menace. Les murs de la Forteresse Europe sont alors érigés grâce à des systèmes de surveillance numérique des frontières et par le truchement de bases de données pour le traçage des flux migratoires, tels SIS, VIS, FADO ou Eurodac. Les 34 000 morts et disparus en Méditerranée depuis 2014 attestent du fait que ce qui arrive aujourd’hui est une violation massive des droits de l’homme et de la femme. Les acteurs européens qui fournissent des solutions techniques à ces politiques d’enfermement et d’exclusion de masse, portent une lourde responsabilité à cet égard.

Mais c’est aussi aux dépens des libertés et de l’autonomie de tes propres citoyens que tes politiques numériques des dernières années ont été développées. Au nom de vagues d’émergences et d’états d’exception permanents, une surveillance massive des populations s’est généralisée. A partir de 2013, la France et le Royaume-Uni se sont dotés d’outils législatifs comme la Loi Renseignement ou le Snoopers’ Charter, qui normalisent l’inspection profonde de paquets sur les réseaux, le traçage permanent des citoyens sur les médias sociaux et la création de « boites noires algorithmiques ». Le tout en se passant des garde-fous juridiques traditionnellement présents dans nos pays. Là aussi, l’obsession GAFAM joue un rôle clé. Les accords entre tes États et les entreprises qui se servent de ces technologies à des fins de surveillance et de répression se multiplient, du déploiement de drones Predator à des fins d’ordre public en Italie au contrat de la DGSI française avec Palantir, multinationale de la surveillance du sulfureux Peter Thiel.

Comment sortir de ce numérique autoritaire ? Non pas en imaginant de reproduire le modèle Silicon Valley de ce côté de l’Océan, mais au contraire en encourageant, par un cadre règlementaire européen, des solutions concrètes. Pour ce faire, trois leviers doivent être envisagés. D’abord, un moratoire sur les politiques intérieures et extérieures de surveillance numérique des dernières années. Quand la sécurité de tes populations est réalisée au moyen de solutions technologiques conçues pour la coercition des populations mêmes, c’est la légitimité démocratique de ces outils qui est à mettre en question. Un numérique inclusif ne signifie pas seulement que le plus grand nombre de personnes auront accès à des technologies qu’elles ont choisies, mais surtout que le plus petit nombre de personnes possible subisse des technologies non choisies.

En second lieu, en articulant une fiscalité numérique bien avisée et des politiques de redistribution et de développement durable, tu peux espérer que tes technologies soient aussi des outils de justice économique et environnementale. La voie d’une fiscalité numérique européenne a été indiquée dans l’expertise rendue à Bercy en 2013 par Pierre Collin et Nicolas Colin. Au lieu de taxer les plateformes numériques sur la base de leurs profits, ce rapport suggérait de lever l’impôt sur les données captées par les entreprises de la tech à partir du « travail gratuit » de leurs usagers sur le territoire national. On peut envisager à l’échelle continentale une mesure de ce type, dont les recettes pourraient servir à financer des politiques publiques en lien avec le numérique : programmes d’éducation et de formation aux technologies, incitations pour réduire l’impact environnemental du numérique, aides sociales voire même un revenu universel européen en lien avec les usages numériques.

Ces politiques permettaient aussi de nous soustraire à la dépendance aux outils des grands plateformes internationales, non pas au nom d’un protectionnisme qui vise à faire émerger leurs homologues européens, mais au nom de la recherche d’alternatives citoyennes. C’est là que le dernier levier du numérique européen serait activé : en encourageant des usages technologiques désintermédiés, distribués et participatifs. Bref, en promouvant une innovation faite de structures développées en commun.

Je comprends que, dans le contexte actuel, ces prospectives d’action peuvent te sembler des vœux pieux. Pour aider ces projets à se généraliser, tu auras besoin d’un cadre législatif éloigné de toute focalisation sur les GAFAM, ainsi que d’une volonté politique qui cesse d’osciller, tel un pendule, entre une extrême-droite souverainiste et une droite extrêmement néo-libérale. C’est à ces conditions seulement que tu pourras d’abord penser, ensuite réaliser, ces impossibilités comme si elles tenaient du possible.



Le RGPD, un premier pas dans la bonne direction (grand entretien Libération, 25 mai 2018)

Media features, , , , ,
Antonio Casilli : «Avec le RGPD, il devient possible de défendre collectivement nos données»
Par Christophe Alix —

Pour le sociologue Antonio Casilli, le RGPD est un premier pas pour assainir la relation que citoyens et entreprises ont établie autour des données fournies par les premiers aux secondes.

Sociologue, Antonio Casilli est enseignant-chercheur à Télécom ParisTech et chercheur associé à l’EHESS. Pour lui, l’enjeu du règlement général sur la protection des données (RGPD) est de permettre au «travailleur de la donnée» qu’est devenu homo numericus de se réapproprier un capital social numérique que les grandes plateformes avaient jusqu’ici confisqué à leur avantage.

Que représente le règlement européen à l’aune du combat déjà ancien pour la maîtrise de nos données personnelles ?

La question du contrôle de nos vies privées a radicalement changé de nature à l’ère des réseaux. Alors qu’il s’agissait auparavant d’un droit individuel à être «laissé en paix», cette vision très exclusive n’a plus guère de sens aujourd’hui pour les milliards d’usagers connectés en permanence, avides de partager leurs expériences. Nos données personnelles sont en quelque sorte devenues des données sociales et collectives, ce qui ne signifie évidemment pas qu’il faille faire une croix sur l’exploitation qui en est faite. C’est même tout le contraire.

Comment le RGPD s’inscrit-il dans ce mouvement ?

Ce texte est l’aboutissement d’un processus d’adaptation à l’omniprésence des grandes plateformes numériques dans notre quotidien. Dans le Far West réglementaire qui a prévalu ces dernières années, leurs marges de manœuvre étaient considérables pour utiliser et valoriser les données personnelles comme bon leur semblait. Avec le RGPD, il devient possible de défendre collectivement nos données. Le fait que le règlement ouvre la possibilité de recours collectifs en justice est très révélateur de cette nouvelle approche.

En quoi le RGPD peut-il faciliter nos vies d’usagers et de «travailleurs» de la donnée ?

En actant le fait que nos données ne sont plus «chez nous» mais disséminées sur une pluralité de plateformes, dans les profils de nos proches, les bases de données des commerçants ou des «boîtes noires» algorithmiques, le RGPD cherche à harmoniser les pratiques de tous les acteurs, privés mais aussi publics, qui veulent y accéder. D’où l’idée d’un «guichet unique» pour les usagers, qui établit que c’est le pays de résidence qui est compétent pour gérer les litiges, et non le lieu d’implantation de l’entreprise qui a accès aux données. Cela n’aurait aucun sens alors que celles-ci circulent partout.

Si ces données sont le résultat de notre propre production en ligne, ne devrait-on pas disposer d’un droit à les monétiser ?

Ce n’est pas la philosophie du RGPD, qui ne conçoit pas la donnée dite personnelle comme un objet privatisable, mais plutôt comme un objet social collectif dont nous pouvons désormais contrôler l’usage. Les données sont devenues un enjeu de négociation collective, non pas au sens commercial du terme comme l’imaginent certains, mais plutôt syndical : il y a là l’idée d’un consentement sous conditions dans lequel les deux parties fixent des obligations réciproques. C’est très différent d’une vision marchande qui risquerait d’instituer ce que l’on appelle un «marché répugnant», dans lequel on monétiserait des aspects inaliénables de ce qui fonde notre identité.

Le diable ne se situe-t-il pas dans les fameuses «conditions générales d’utilisation» (CGU) que tous les services s’empressent de modifier, mais que personne ne lit ?

C’est une des limites actuelles du RGPD. Les «Gafa» [Google, Apple, Facebook et Amazon, ndlr] restent en position ultradominante, et nous bombardent de CGU qui pour l’instant ne modifient pas l’équilibre des pouvoirs. Il existe un vrai flou sur notre consentement présupposé à ces «contrats» que l’on nous somme d’approuver.

Pouvez-vous donner des exemples ?

Lorsque Facebook explique que la reconnaissance faciale de nos photos est utile pour lutter contre le revenge porn [la publication en ligne de photos sexuellement explicites d’une personne sans son accord], il s’abstient de préciser que dans certains contextes, elle peut également servir à certains régimes politiques pour identifier des personnes. Il circule actuellement une pétition dénonçant le projet «Maven», que Google mène en collaboration avec l’armée américaine afin que ses technologies d’intelligence artificielle servent à de la reconnaissance d’images filmées par des drones. Le problème, c’est que les mêmes technologies sont utilisées pour améliorer nos usages. Mais on n’a pas signé pour que nos données servent à améliorer les outils du Pentagone.

Le RGPD va-t-il aider à un rééquilibrage entre petits et très gros acteurs d’Internet, comme le dit la Commission européenne ?

Il serait illusoire de croire que la régulation de nos données personnelles pourra faire ce que d’autres lois devraient faire. Les grandes plateformes du numérique vont appliquer ou faire semblant d’appliquer le RGPD, parce qu’il est vital pour elles de continuer à accéder au marché européen, mais les petits vont continuer à souffrir de leur concurrence. Pour parvenir à un rééquilibrage économique, il vaut mieux se concentrer sur la réforme de la fiscalité du numérique, qui jusqu’ici n’a pas vraiment avancé malgré toutes les promesses des politiques.

[Podcast] Antonio Casilli : "Le Web pour une 'hybridation européenne'" (L'Altra Europa, Radio 24, 23 février 2013)

Media features, , , , , , , , , ,

Podcast de l’émission L’Altra Europa, le magazine des cultures européennes de Radio 24 . Sur le plateau du journaliste Federico Taddia, le sociologue Antonio Casilli, auteur de Les liaisons numériques. Vers une nouvelle sociabilité ? (Ed. du Seuil). [Pour écouter l’interview, aller à 27’55”].

» Corps, réseaux et identités européennes – Antonio A. Casilli à L’Altra Europa – 9 min.

Cliquer ici pour écouter d’autres podcast d’Antonio Casilli.

 

Who's fatter, the US or Europe?

body, space, , , ,

Just a very quick post (more of a reminder actually). Here’s a picture of the US obesity situation, state per state.

Source: U.S. Centers for Disease Control, Aug. 3, 2010

Now you can come up with all your favourite explaining factors: soul food? income level? music style? Pick one. Hold onto it. And now, let’s have look at the situation in the European Union, nation per nation, and… (more…)