surveillance

“Coronavirus tracking apps are a serious threat to medical privacy” (BBC World Turkey, 2 April 2020)

I was interviewed by journalist Çağıl Kasapoğlu for BBC World Turkey.

Casilli: Koronavirüs kitlesel gözetim ve veri toplama sistemlerini güçlendiriyor

Çağıl Kasapoğlu BBC Türkçe 12-16 minutes


Gözetim sistemlerinin en yaygın kullanıldığı ülkelerden biri Çin.
Image caption Gözetim sistemlerinin en yaygın kullanıldığı ülkelerden biri Çin.

Koronavirüs, Covid-19 salgınıyla mücadelede bazı ülkeler vatandaşlarının sağlık durumlarını takip edebilmek için dijital teknolojiye başvurdu.

Çin, Singapur, İsrail ve Güney Kore gibi ülkelerde bireylerin cep telefonlarına yüklenen izleme takip uygulamalarıyla koronavirüsün yayılması engellenmeye çalışıyor.

Avrupa ülkeleri de benzer yöntemleri gündemlerine almaya başladı.

Ama bu yöntemleri eleştirenler, gizlilik hakkının, bireysel veri koruma haklarının ihlali olarak görüyor.

Diğer yandan milyonlarca kişinin evlerine kurulan yazılımlarla uzaktan çalışmaya başlamaları da siber güvenlik açısından soru işaretleri doğuruyor.

İnternet gizliliği ve dijital istihdam konularında uzmanlaşan İtalyan-Fransız sosyolog Antonio Casilli, koronavirüsle değişen çalışma yöntemleri ve izleme takip sistemleriyle ilgi BBC Türkçe’nin sorularını yanıtladı.

Çin, Singapur, Güney Kore, İsrail gibi bazı ülkelerde koronavirüsün yayılmasını engellemek için bireyler cep telefonu uygulamaları veya farklı dijital araçlarla takibe alınıyor. Bu başarılı bir yöntem mi?

Hayır, kesinlikle başarılı bir yöntem değil. Ama tüm dünya genelinde uygulanan kitlesel gözetim politikalarıyla tutarlı bir yöntem. Çin, Güney Kore veya Singapur gibi ülkelerin her biri birbirinden farklı. Örneğin Çin’de koronavirüsle mücadelede başarı daha çok katı kuralların dayatıldığı karantina, sosyal mesafe ve tecrit uygulamalarıyla bağlantılı. Ve tabi enfeksiyon kapanların takibe alındığı cep telefonu uygulamaları ve sistemleri de var. Ama Çin’de bu tip gözetleme ve takip uygulamaları hali hazırda vardı.

Güney Kore’de de başarının asıl nedeni testlerin yaygın yapılması, Tayvan’dan da hükümet ve yetkililer tarafından kaliteli bilgi akışının sağlanmasından kaynaklanıyor.

Şimdi ise İtalya ve Fransa gibi ülkelerde koronavirüsle mücadelede, enfeksiyon kapanların belirlenmesi için kendi cep telefonu uygulamalarını başlatmak istiyor.

Bu tip yöntemler pandemiyle mücadelede değil, psikolojik caydırma politikalarında etkili olabilir. Dolayısıyla biyomedikal araçlardan çok disiplin sağlama açısından önemli olabilirler.

Antonio Casilli
Image caption Antonio Casilli

O zaman devletler, hükümetlerin kitlesel gözetleme sistemlerini uygulamak için bu tip krizlerden faydalandıklarını mı düşünüyorsunuz?

Evet, kesinlikle artık çok da gizli olmayan, kitlesel gözetim politikalarını uygulamaya çalışıyorlar. Aslında zaten bu tip yöntemler vardı. Hükümetlerin, siyasi partilerin, özel şirketlerin bu yöntemlere başvurduklarının farkına varmak için Edward Snowden veya Cambridge Analytica gibi krizleri beklememize gerek yok. Ama bu krizler hükümetler ve kuruluşlar tarafından gözetim yöntemlerini dayatmak için bir fırsat olarak görülüyor. Covid-19 salgını da bu krizlerden farklı değil.

Drone uçurmak, hayata müdahale eden cep telefonu uygulamalar dayatmak, bunlar demokrasiye tehdit oluşturuyor. Zira bu teknolojilerin üreticileri de genelde hükümetlere yakın şirketler oluyor.

Kitlesel gözetim sistemleri üreten şirketler demokratik yapılara girebilmek için başarılı lobi faaliyetleri yürüyor. Yüz tanıma teknolojileri, akıllı şehirler gibi teknolojilere karşı bazı sivil toplum kuruluşları da farkındalık yaratmaya çalışıyor.

Bunlar gizliliğin ihlali, bireysel hakların ihlali gibi görülebilir ama diğer yandan da insanlar ölüyor ve Covid-19 salgınında da bazıları çıkıp “Ben gizliliğimden ödün vermeye hazırım, yeter ki devlet beni korusun” diyebiliyor. O zaman bu nasıl dengelenebilir?

Tam da bu nedenle, ölüm korkusu nedeniyle, insanlar gizliliklerine daha çok değer vermeli, sahip çıkmalı. Gizlilik, yalnızca otoriter rejimlere karşı güçlü bir araç değil, aynı zamanda sağlığınızı da koruyan bir şey.

Tıbbi gizlilik ilkesi vardır mesela. Tıbbi sorunların, bilgilerin, hastalıkların teşhir edilmemesi hakkı vardır çünkü size karşı ayrımcılık amaçlı kullanılabilir. Şimdi ise, tıbbi gizliliğe ciddi tehditler oluştuğunu görüyoruz.

Koronavirüs kapanların teşhir edilmesi, kamuya duyurulması yalnızca tehlikeli değil aynı zamanda ayrımcılığa da neden olabilecek bir şey. Bazı durumlarda sağlık hizmetlerine erişimi engelleyebilir, bazı durumlarda da bireylerin sağlıklarıyla ilgili bilgileri paylaşmaya çekinmelerine neden olabilir. Covid-19 hastaları ayrımcılığa uğrarsa, komşuları tarafından saldırıya uğrarsa veya kamu sağlığına erişimleri engellenirse o zaman diğer hastalar da kendi durumlarının ortaya çıkmasını istemezler.

İnsanların tıbbi gizlilik hakları korunmalı ve bu bilgiler yalnızca sağlık çalışanlarıyla paylaşılmalı, herkesle değil. Bu yalnızca sizin gizliliğinizi korumakla kalmıyor, sağlığınızı, kolektif sağlığımızı da koruyor.

Tayvan'da da cep telefonlarında takip sistemi var.
Image caption Tayvan’da da cep telefonlarında takip sistemi var.

Ama bazı durumlarda insanlar kendilerini korumak için başkalarının verilerine de ihtiyaç duyuyor olabilir? Mesela nerede çıkmış, kimde çıkmış, böylece onlarsan sakınmak isteyebilirler?

Bu, kitlesel gözetim sistemleri üretenlerin ana argümanı. Son 10 yılda da böyle oldu. “Bunu insanlar istiyor, bilgilerinin açığa çıkarılmasından memnunlar” diyorlar. Facebook da bunu diyordu 10 yıl önce. Ama hayır. İnsanlar bilgilerinin, verilerinin açığa çıkmasından, paylaşılmasından memnun değil. Cambridge Analytica olayı da bunu gösterdi.

Bir de veri toplayıp paylaşanlar “Bu sizin kendi iyiliğiniz için” diyor. Hayır, bunu yalnızca otoriter rejimler söyler. Özellikle kitlesel gözetim araçları üretip bu yöntemle zengin olanlar söyler.

Bir de en tehlikeli bakış açılarından biri ‘koronavirüsle mücadele ile gizlilik hakkı arasında denge sağlamaya çalışmak’. Bu elmalarla, armutları, birbirleriyle hiçbir ilgileri olmayan meseleleri karşılaştırmak demek.

Koronavirüs ile gizlilik farklı şeyler. Gizlilik, temel bir özgürlük hakkıdır, dolayısıyla korunmalıdır. Herhangi bir şekilde aşağı çekilemez, çünkü temel bir haktır.

Avrupa’da bireysel verilerin korunmasına yönelik ciddi politikalar var ama şimdi Avrupa ülkeleri de Rusya ve bazı Asya ülkeleri gibi koronavirüsle mücadelede cep telefonlarından izleme yöntemlerinin kullanılıp kullanılamayacağını tartışıyor. Genel olarak tüm dünyada George Orwell’in distopyası ‘Big Brother’ (Büyük Birader) gibi bir durumla karşı karşıya kalabilir miyiz?

Daha da kötüsü ‘Big Mother’ (Büyük Anne) olacağız sonunda. Herkes Çin ve Rusya’yı ‘kötü adamlar’ olarak öne çıkarıyor. Evet, Moskova’daki yüz tanıma sistemi çok ürkütücü veya Çin’de uyguladıkları sosyal takip sistemleri korkunç ama İngiltere veya Fransa ve ABD, İsrail de aynı şekilde ‘kötü’. Çünkü bu teknolojilerin, devasa kitlesel gözetim sistemlerinin ana üreticileri bu ülkeler. Fransa, İngiltere ve ABD’de de sistematik olarak gizlilik ihlalleri yapılıyor.

‘Palantir’ (Avrupa ülkelerinin koronavirüs verileri toplamak için görüştüğü öne sürülen veri analizi şirketi) bir Rus şirketi değil, bir Amerikan şirketi. Kurucusu da büyük bir Trump destekçisi olan Peter Thiel. Bu mesele demokrasinin yozlaşması, kurumsal çıkarların hükümet işlerine girmesi meselesidir. ‘Big Brother’ olayı zaten birçok alanda kitlesel gözetim açısından var. Ama artık, büyük şirketlerin çıkar ilişkisi içerisinde hükümetlerin içine sızdığını görüyoruz.

cep telefonu

Siz ‘dijital işgücü’ üzerine de çalışmalar yapıyorsunuz. Şimdi koronavirüs salgını nedeniyle birçokları evlerde dijital çalışma ortamına girmişken, birçokları da hala dışarıda ve bazıları da bu sisteme geçemedikleri için işlerini kaybetme riskiyle karşı karşıya. Bu iş gücündeki eşitsizlikler açısında ne anlama geliyor?

Dünya nüfusunun neredeyse yarısı karantinada. ABD’de Gallup araştırma şirketinin yakın zamanda yaptığı bir ankete göre bu durumun, koronavirüse maruz kalma riski olanlarla olmayanlar arasında sınıfsal farklar var. Daha düşük gelirli işlerde çalışanların bazıları fiziksel teması daha yüksek olan işlerde çalışabiliyor.

Dolayısıyla evden de çalışmaları mümkün olmuyor. Diğer yandan orta sınıf, üst sınıf daha yüksek gelir sahibi olanlar ise uzaktan çalışma sistemine geçebiliyor. Zaten Avrupa’da, ABD’de bu kişiler daha karantina, tecrit uygulamaları başlamadan evlerine kapandı.

Tabii ki sınıfsal nedenler var, işçi sınıfları tehlikelere karşı daha az korunaklı olabiliyor veya güvenlikleri daha zayıf olabiliyor. Ama sınıf her şeyi açıklamıyor.

Bazı meslek grupları da tehlikelere daha açık. Örneğin sağlık çalışanları, doktorlar. Gelir seviyeleri yüksek olabilir ama risk altındalar.

Evet, zengin ile yoksul arasında büyük bir fark var ama mesafelerin belirlediği işler arasında da fark far. Grafik tasarımcısı, avukat gibi meslekler fazla fiziksel temas gerektirmeyen meslekler. Koronavirüs salgınıyla, fiziksel temas gerektirmeyen bu mesleklerin de daha hızlı ‘dijitalleştiğini’ gördük.

Ama bu dijitalleşmeyle oluşan Uber, Deliveroo gibi platformlarda çalışanlar ise sosyal sigortaları ve sosyal güvenceleri açısından yeterince korunmuyor. Resmi sözleşmeleri bile yok çoğu zaman. Ayrıca da fiziksel risklere karşı daha korunaksız kalıyorlar.

Koronavirüs ilüstrasyonu önünde zoom uygulaması olan cep telefonu görüntüsü
Image caption Zoom video konferans uygulamasının kullanıcı sayısı ve piyasa değeri arttı.

O zaman bu hızlı dijitalleşme kendi kurbanlarını da mı yaratmış oluyor?

Evet, teknoloji daha önce de var olan sınıfsal ve istihdamdaki bazı farklıları ortaya çıkarıyor. Bazı akımları abartma eğilimi de var. Ama bu teknolojiler toplumda ‘yanlış giden şeyleri düzeltme’ vaadiyle bizlere sunuldu. “Herkes özgürce çalışacak, herkes istediğini yapabilecek” fikirleri ortaya çıktı.

Ama sonunda bunun doğru olmadığını gördük, teknolojinin de maskesi düşüyor.

Bu evden çalışma ve dijitalleşme gelecekte çalışma tarzı anlayışımızı nasıl değiştirecek? Kalıcı bir uygulamaya dönüşür mü bu tarz istihdamlar?

Şimdi bazı şakalar yapılıyor: “CEOların, teknoloji vizyonerlerinin yıllarca beceremediği dijital dönüşümü koronavirüs yaptı” diye. Yani “insanların beceremediğini koronavirüs becerdi” diyenler var. Örneğin üniversiteler 10 yıldır dijital eğitimi deniyor ama hiçbir zaman tam olarak başarılı olamamıştı. Şimdi ise koronavirüs yüzünden tüm eğitim sektörü uzaktan eğitime geçti.

Veya, bazı başka ofis işleri, bakanlıklar bile ‘akıllı çalışma’ yöntemiyle uzaktan işlerini halletmeye başladılar.

Ama teknolojiler bize sunulduğunda, bize verilen sözler bunlar değildi. Video konferanslar, uzaktan eğitimler… Son birkaç günde ve haftada, bize sözü verilen teknolojilerin çok hızlı ve kötü bir şekilde uygulandığını gördük. Bu ani geçiş, altyapısı sağlam sistemler üzerine oturtulmadı.

Şirketler de bu uzaktan çalışma yöntemiyle çalışanlarını denetleyebilmek için bazı bilgisayar yazılımları satın almaya başladı. Bu da kitlesel gözetimin bir yöntemi. Uzaktan çalışma derken bunun bir gözetim ve takip sistemine dönüşebileceği hesaba katılmamıştı. İdeal olan da bu değil.

Evlere kurulan sistemler bireylerin siber güvenliği açısından bir tehlike oluştuyor mu? Zoom uygulaması giderek yaygınlaştı ama veri topladığı kaygıları da dile getiriliyor?

Zoom çok iyi bir örnek. Herkes kullanımı kolay etkin bir uygulama olarak görüyor ama altında yatan güvenlik ve gizlilik sorunları var.

Pazarlama argümanlarında söylediklerinin aksine şifreleme uygulamaları yok. Daha önce Zoom’un hassas bilgileri Facebook’la da çalıştığı haberleri çıkmıştı.

‘Veri yönetimi’ olarak tabir edilebilecek gizlilik kuralları çerçevesinde bireylerin verileriyle ne yapıldığı, kullanıcıların verilerinin tanımadıkları, bilmedikleri şirketlere satılmaması için, verilerini koruma hakkı için neler yaptığı önemli.

Zoom’un iş modeline bakarsanız, tamamen verileri Facebook, Google ve diğerlerine satmak üzerine inşa edilen bir model olduğunu görürsünüz.

Yalnızca iki gün önce veri politikalarıyla ilgili kullandıkları kelimeleri değiştirdiler ve satmadıklarını söylemeye başladılar.

Bu veriler yalnızca kişisel bilgileriniz değil, aynı zamanda IP adresleriniz. Herkes artık evlerinden Zoom kullandığı için bu da ev adreslerinizin, konumlarınızın ve kullandığınız cihazlara ait bilgilerinin toplanıyor olması demek.

Facebook sayfanız, iş vereniniz ile ilgili çok değerli bilgilerin yanlış kişilerin eline geçiyor olması çok feci bir durum. Genelde de hep, sistematik bir şekilde yanlış kişilerin yani big tech şirketlerinin eline geçiyor.

Zoom’un son dönemde piyasa değerinin neden arttığını da açıklayan bir durum. Kullanıcı sayıları, dolayısıyla topladıkları veriler arttı.

“Pour sortir de cette crise pandémique il faut abattre la surveillance de masse” (grand entretien, AOC, 28 mars 2020)

Le 20 mars, quelques jours après le début du confinement en France, je me suis entretenu pendant un bon moment avec le journaliste Raphaël Bourgois. Le résultat de notre conversation est cette longue interview publiée sur le média AOC le 28 du même mois. J'en reproduis ici le contenu exclusivement à des fins d'archivage personnel, d'autant plus que le texte est accessible pour tout le monde sur le site de AOC (pas besoind d'être abonné•es, il suffit de s'inscrire avec une adresse email et, sans laisser aucun identifiant personnel ni moyen de paiement, vous pouvez accéder à 3 articles par mois pendant un an).
Antonio Casilli : « Cette épidémie s’avère aussi un signal d’alarme à propos du numérique »

Par Raphael Bourgois Journaliste

Près de 3 milliards de personnes sont aujourd’hui confinées. Dans cette situation, qu’il s’agisse du travail ou de toute autre forme d’interactions humaines, les relations numériques sont venues pallier l’absence de contact physique. Comme si nous avions été brutalement précipités dans un monde 2.0 depuis longtemps prophétisé. Reste à savoir si ce monde relève plutôt de l’utopie, ou de la dystopie.

Depuis le début de l’épidémie de Covid-19, devenue depuis pandémie, l’outil numérique est apparu tour à tour comme un moyen de lutte contre la propagation du coronavirus, un outil de contrôle social, un substitut à nos relations avec nos proches, une façon de maintenir une activité professionnelle… Tout se passe comme si du web 2.0 – qui désigne depuis maintenant près de 20 ans ce deuxième âge d’Internet dans lequel les interactions humaines sont simplifiées et accélérées – nous étions passés à un monde 2.0. Face à cette accélération d’une mutation en cours, et à l’affaiblissement des interrogations et des barrières qui en freinaient péniblement la progression, le sociologue Antonio Casilli possède l’avantage d’un regard porté sur le long terme. Professeur en sociologie à Telecom Paris, ses recherches portent principalement sur la politique, la santé et les usages informatiques. Il avait publié il y a dix ans Les Liaisons numériques. Vers une nouvelle sociabilité ? (Le Seuil), un ouvrage de référence sur ce qu’Internet fait à nos façons de nouer des amitiés, de développer des relations professionnelles ou encore de constituer un couple. Récemment, il s’est intéressé, dans En attendant les robots. Enquête sur le travail du clic (Le Seuil), à la fausse « promesse » de voir l’intelligence artificielle remplacer l’humain dans son labeur, et les machines finalement faire disparaître le travail. Son regard sur la situation actuelle fait émerger la nécessité de ne pas perdre de vue une approche critique, et un souci démocratique, quand on mobilise des outils numériques qui peuvent par ailleurs se révéler utiles pour lutter contre l’épidémie. RB.

Lutilisation des moyens offerts par le numérique, à loccasion de l’épidémie de Covid-19, qu’il s’agisse de garder le contact avec les proches ou de continuer à travailler, amène certains à évoquer un « basculement dans un monde 2.0 ». Quen pensez-vous ?
Le côté utopique de ce monde 2.0, tel qu’il est présenté ou prophétisé, se trouve mis à mal dans notre situation actuelle. Nous avons basculé en « mode dégradé » pour reprendre le vocabulaire des ingénieurs qui désignent ainsi un système qui ne marche pas, et pour lequel il faut trouver une solution de repli, mais en moins bien. Le numérique qu’on nous enjoint de pratiquer en ce moment pourrait ainsi être qualifié de quick and dirty, « rapide et sale » : des solutions adoptées en catastrophe et qui peuvent poser au mieux des problèmes sérieux en termes de surveillance, gouvernance et propriété des données produites ; et au pire qui nous exposent à tout un tas de risques qu’on n’a pas encore envisagés. En particulier le télétravail idéalisé ne ressemble en rien au télétravail en temps de crise. Il ne s’agit pas d’une activité choisie annoncée par des bataillons de consultants en gestion des RH, permettant d’articuler autonomie et contrainte, de moduler d’un côté ce que l’on réalise chez soi selon ses propres rythmes, de l’autre des activités ritualisées comme la signature d’un contrat ou la présentation d’un projet, à réaliser en présentiel. Ici, il n’y a que des contraintes, qui en plus s’installent dans l’intimité de l’habitation des travailleurs. Je pourrais donner l’exemple de ce qui se passe dans le milieu universitaire, où on a vu, avec le confinement, se multiplier les visioconférences qui ne sont qu’une imitation du pire du travail présentiel : la réunion à laquelle chacun cherche à échapper, la surveillance des étudiants par le relevé des présences… De plus, beaucoup passent par des plateformes comme Zoom, qui a d’ailleurs explosé en bourse à la mi-mars, voire Google Hangouts ou Microsoft Teams… ce sont donc les GAFAM qui profitent de la situation avec des conséquences potentiellement graves. D’abord en termes des données ainsi produites, puisque ces plateformes prennent pas mal de libertés avec le Règlement général sur la protection des données (RGPD), ou avec des règlements locaux comme la loi californienne de défense des consommateurs (CCPA) de 2020.

On se retrouve aujourd’hui dans une situation qui est non seulement affreuse du point de vue du respect de la vie privée et de la gouvernance des données, mais qui est aussi dangereuse du point de vue de la stabilité de ces systèmes. Il s’agit en effet de systèmes centralisés, chez Microsoft ou Google, et qui de ce fait ne sont pas forcément conçus pour être résilients. En cas de surcharge, ils tombent sans qu’il n’y ait la possibilité de trouver une alternative. Le 14 mars dernier, Google a envoyé un mail aux clients de son service GSuite. Tout en voulant les rassurer sur la performance des serveurs Google Cloud, le message prévenait qu’il ne fallait pas non plus s’attendre à des miracles et qu’il y aurait des pannes. Cela a d’ailleurs déjà eu lieu avec Microsoft Teams qui est tombé en panne lundi 16 mars quand la moitié des administrations et des entreprises d’Europe a voulu faire des vidéo-réunions en même temps. Ce sont des systèmes qui ne sont pas résilients, qui ne sont pas adaptés en réalité pour faire face à des situations de crise. C’est flagrant dans un autre contexte, celui d’Amazon, dont la chaîne d’approvisionnement est en train de s’écrouler sous la demande, sous les grèves des travailleurs des entrepôts et les fermetures de dizaines de centres de distribution pour cause de contamination. La firme a ainsi annoncé qu’elle concentrerait ses livraisons sur certaines catégories de produits jugés essentiels. Les centres de distribution d’Amazon sont des goulots d’étranglement qui rendent cette chaîne d’approvisionnement globale extrêmement instable.

Est-ce quen cette période où les autorités recommandent la « distanciation sociale », nous pouvons compter sur les Liaisons numériques pour reprendre le titre dun de vos ouvrages ?
Depuis les années 1990, plusieurs études sur les sociabilités connectées ont montré qu’il est impossible d’envisager les interactions en face à face et celles sur Internet comme des alternatives mutuellement exclusives. Contrairement à une idée reçue, ce n’est pas parce que nous passons du temps sur Internet que nous négligeons nos relations en face à face. De façon symétrique, en découle que les « liaisons numériques » ne remplacent pas les liaisons physiques, présentielles. Penser qu’on pourrait privilégier une dimension plutôt que l’autre est tout à fait ridicule d’un point de vue scientifique. C’était ce que j’écrivais déjà dans le livre que vous citez, nous vivons dans des espaces qui sont « en même temps » des espaces numériques et des espaces physiques. Moins d’interactions en face à face se soldent à terme par des tissus sociaux effilochés. Avant même la crise du Covid-19, les acteurs commerciaux l’avaient bien compris. La plupart des sites de mises en relation qui ont émergé ces derniers temps – médias sociaux, sites de rencontre, plateformes de livraison – ont été basés sur l’articulation de la vie locale et de la vie numérique. Uber nous met en contact avec des VTC qui sont à moins de 10 minutes de nous. Sur les sites de rencontre, on est mis en relation avec les célibataires de son quartier, de sa ville avec des indicateurs de leur proximité… à 100 m, à 1 km, etc.

C’est la même chose pour les sites de type Facebook ou WhatsApp, qui privilégient depuis quelques années la communication entre « liens forts », des gens qui ont déjà des formes d’interaction. On a donc eu plutôt tendance à superposer une couche numérique et une couche matérielle. Ce qu’il se passe aujourd’hui, c’est que la rhétorique du numérique en temps de confinement soutient qu’on peut éliminer l’une de ces deux couches, et en sortir indemne. Se passer de la couche de l’interaction physique via la « distanciation sociale », en la compensant simplement par des interactions numériques, c’est illusoire. Cela ne compense pas, par exemple, les pertes en termes de capital social, de ressources relationnelles qu’on peut mobiliser dans des situations de détresse, surtout pour les personnes les plus démunies. Si une personne est déjà isolée, ce n’est pas parce qu’on bascule tout sur Internet qu’elle va retrouver subitement des réseaux de solidarité. Et si quelqu’un a des enjeux d’intégration sociale, liés à son état de santé, à son grand âge, à des raisons économiques, etc., ce n’est pas la visioconférence qui va améliorer sa vie.

En quoi la situation que nous vivons révèle-t-elle les fractures de la société française ?
La quarantaine accentue très certainement les disparités sociales et les différentes formes de privilèges. Il n’y a que ceux qui ont déjà un capital social et financier important qui peuvent partir dans leur maison secondaire. Les autres vivent cette quarantaine de façon beaucoup plus intense. Par exemple, si l’on n’a pas de travail, on continue d’être au chômage et on est confiné chez soi, ce qui diminue les possibilités de trouver une source de revenus. Sans parler des personnes qui sont forcées de continuer à travailler soit parce qu’elles ne peuvent pas faire autrement, comme les livreurs Deliveroo, soit parce que leur métier n’est pas possible en télétravail. C’est tout de même le cas de 6 métiers sur 10. Je me suis particulièrement intéressé à ce que les Anglais désignent par « last mile job », les emplois des derniers kilomètres, qui sont « inéliminables ». Il s’agit de la toute fin de la chaîne de production : les services, les chaînes logistiques comme les hôpitaux, les usines, les réseaux de livraison. Souvent, il s’agit de métiers à très faible rémunération et protection sociale, et qui demandent une proximité physique avec ceux qui reçoivent ces services. Il y a aussi des risques dans les supermarchés, et malgré la rhétorique qui met en avant l’automatisation des caisses, les supermarchés requièrent toujours une présence humaine importante. Dans un contexte d’achats compulsifs dictés par la panique, il y a un afflux important de clients. Et même dans les parcs de caisses automatiques, 4 ou 5 personnes sont nécessaires contre 2 ou 3 en temps normal. Ces personnes ne peuvent pas respecter les distances de sécurité. Donc on voit que la quarantaine se joue bien à deux vitesses.

Très tôt les entreprises de livraison à domicile ont lancé des campagnes par mail pour garantir une « livraison sans contact ». Que cela révèle-t-il de limaginaire de ces plateformes et de la réalité de ceux qui y travaillent ?
Il s’agit tout simplement de la poursuite d’une entreprise d’euphémisation du travail que je dénonce dans mon dernier livre, En attendant les robots. Enquête sur le travail du clic. L’économie de plateforme s’est construite sur l’idée selon laquelle ce sont les machines, les algorithmes, qui travaillent à la place des humains, et sur la promesse d’un système sans faille et sans contact. Ce n’est pas vrai, il y a des personnes qui doivent produire la nourriture et d’autres qui doivent la livrer. Si un livreur tombe malade parce qu’il est exposé, on prend conscience que c’est toute l’infrastructure qui tombe en panne. Par leur communication, ces plateformes tentent aujourd’hui d’invisibiliser encore un peu plus ces personnes. On sait qu’une société comme Deliveroo anticipe déjà la maladie de plusieurs livreurs, et pour se prémunir, elle prétend de manière assez vague qu’elle assurera dans ce cas une aide financière, sans toutefois dire à combien s’élèvera cette aide, ni sous quelles modalités et pendant combien de temps elle sera versée à ces travailleurs qui n’ont ni salaire ni contrat de travail. Or, la question de savoir pour combien de temps ils seront indemnisés est essentielle. Il faut rappeler que même les jeunes peuvent être contaminés par le Covid-19. Et à l’issue d’une hospitalisation, on n’est plus forcément en bonne santé. On ne peut plus repartir à vélo comme avant. Jusqu’à combien de temps après l’hospitalisation Deliveroo est-il prêt à les aider ? Cette entreprise, comme ses semblables ou comme les plateformes de VTC, joue avec la protection sociale, en prétendant que c’est bénéfique aux indépendants. S’il y a un risque, déclarait dans le New York Times le 24 mars le PDG de Uber Dara Khosrowshahi, c’est parce que les salariés ont trop de droits, ce qui laisse les « partenaires » sans protection. C’est un discours irresponsable, malhonnête, et hélas cohérent avec celui de certains « dérégulateurs » bien de chez nous. Les plateformes ont refusé d’assumer leur responsabilité d’employeur et ils vont certainement se retrouver confrontés à un retour de bâton de la part des gens qu’ils ont refusé d’employer.

Depuis au moins deux ans un certain nombre dactions en justice débouchent sur la reconnaissance du lien de subordination entre travailleurs et employeurs, comme le 4 mars dernier lorsque la Cour de Cassation a reconnu le statut de salarié dun chauffeur Uber. Assiste-t-on là encore à un point de bascule comme en miroir de cette société 2.0 que vous nous évoquions ?
On assiste en effet à une vague de décisions de justice, en Espagne et en France, Deliveroo a été condamné, Uber a été condamné à requalifier les contrats de certains chauffeurs car on estime désormais – et c’est le point important de la décision de la Cour de Cassation – que l’acte même de se connecter à une plateforme relève du lien de subordination. Et on le voit dans d’autres services comme les services de micro-travail que j’ai beaucoup étudiés. Par exemple, la plateforme française Clic And Walk a été a condamnée à requalifier ses « usagers » en salariés. Or, ils avaient eu la mauvaise idée de déclarer le chiffre astronomique de 700 000 usagers, et ils risquent donc de se retrouver avec des centaines de milliers de personnes demandant à voir leur contrat régularisé. J’ai des doutes très forts sur ce chiffre, car les enquêtes que l’on a pu mener aboutissent à un total estimé à environ 250 000 personnes travaillant de manière occasionnelle sur les quelques 28 plateformes existantes en France. Mais ces plateformes ont tendance à gonfler le nombre de leurs utilisateurs au début, afin de montrer qu’elles sont bien dans la phase « up » de la start up, en voie de devenir une licorne, c’est-à-dire une entreprise du numérique à la croissance exceptionnelle. Il s’agit donc moins de refléter la réalité que de pouvoir se présenter aux investisseurs avec une base d’utilisateurs conséquente – en l’occurrence il serait plus juste de parler de travailleurs. Cette démarche qui consiste donc à exagérer ses résultats pour attirer les investisseurs se heurte à une sorte de moment de vérité quand il y a des décisions de justice telles que celles qui ont été rendues dans les deux dernières années. À ce moment-là, ces plateformes ont tendance à rétropédaler – la métaphore est particulièrement appropriée dans le cas de Deliveroo – et à inventer des critères comme le nombre de connexions durant tant de temps de suite, au cours de telle période, pour telle rémunération… Celles et ceux qui ne satisferaient pas ces critères particulièrement contraignants ne pourraient alors prétendre au statut de travailleur ou travailleuse. Dans la phase de « down », de redescente sur terre des start-up, il y a donc un nouveau jeu, qui consiste pour les plateformes qui ont, afin d’attirer les investisseurs, artificiellement gonflé le nombre de chauffeurs pour Uber, de livreurs pour Deliveroo, à réduire tout aussi artificiellement le nombre de celles et ceux qui pourraient être considérés comme leur salarié·e·s.

Le quotidien britannique The Guardian a évoqué la possibilité dun tournant pour le télétravail à la faveur de l’épidémie de Covid-19. Pour ces emplois éligibles au travail à domicile, quel changement en perspective ?
Je suis d’accord avec l’idée selon laquelle nous sommes à un tournant dans l’histoire du travail à distance, mais ce n’est pas celui qu’on attendait. La promesse d’une plus grande maîtrise individuelle, de plus d’autonomie afin de gérer les différents temps et les différents espaces, entre vie privée et travail, cette promesse offerte par l’évolution de la technologie, n’est pas au rendez-vous. Ce que je constate ne correspond pas à cette vision optimiste et apaisée. S’il y a un tournant, il se concrétise plutôt dans la généralisation d’un travail de la micro-tâche effectuée à distance. Pour faire court, il y a énormément d’activités qui dans les trois dernières décennies ont été impactées par la digitalisation. J’insiste sur ce terme de digitalisation, de « travail du doigt », qui n’est pas la numérisation, l’introduction d’une dimension scientifique. Un nombre important de métiers voient se multiplier les tâches répétitives, routinières, abrutissantes, aliénantes, et qui ne sont même pas reconnues. Je suis enseignant-chercheur, pourtant une partie croissante de mon temps est consacrée à envoyer des mails et à cliquer sur des plateformes dont j’ignore largement l’utilité et sur lesquelles je suis contraint d’aller cocher des cases, remplir des formulaires… Je peux donc considérer qu’il y a une forme de « tâcheronnisation » de mon métier, composé de manière croissante d’actions de plus en plus simples qui peuvent effectivement être réalisées à distance, et c’est une mauvaise nouvelle car cela introduit une dimension de déqualification. N’importe qui peut réaliser le travail de cliquer pour valider un devoir sur un MOOC. Pas besoin d’embaucher un fonctionnaire en CDI. Tout ce travail réalisé à distance n’est pas reconnu, il ne figure pas dans mon cahier des charges, et il est candidat à l’externalisation. En réalité un nombre important de métiers risquent de se retrouver non pas automatisés – c’est-à-dire réalisés par des robots – mais « tâcheronnisés » car réalisés par des personnes à distance et pour moins cher. À mon sens, la victoire du télétravail annonce en réalité une vague de délocalisations à l’aide de plateformes.

Il ny aurait donc aucun avantage à cette numérisation de la vie et du travail que l’épidémie actuelle est venue accélérer ? Ce regard critique ne passe-t-il pas à côté de certains aspects positifs de la numérisation ?
J’aimerais préciser le sens que je donne à ce discours « critique », tel que vous le définissez. Ce que je dis, avec d’autres, ce n’est pas qu’il faudrait déplorer l’existence même du numérique, bien au contraire nous nous en félicitons tout en regrettant qu’il soit tombé aux mains d’oligopoles capitalistes, transformés en véritables machines à cash par l’exploitation des utilisateurs. L’exemple de l’épidémie de coronavirus est encore une fois éclairant : il n’y a aucune espèce d’autocensure de ces entreprises qui vont continuer le business as usual. Or il y avait la possibilité, et on l’a toujours, d’avoir un numérique autre, un numérique décentralisé, un numérique respectueux de la vie privée, un numérique qui n’exploite pas les données et qui ne force pas les usagers à produire des données à outrance, un numérique qui rémunère les personnes à leur juste valeur… Mais force est de constater que tout a été organisé jusqu’à présent pour favoriser des grandes plateformes capitalistes. Cette épidémie est aussi un signal d’alarme à propos du numérique, et même un réveil-alarme qui sonne une prise de conscience : certaines de ces grandes plateformes sont en réalité des infrastructures d’utilité publique qu’on a intérêt a minima à réguler de manière contraignante, et a maxima à collectiviser. Je ne parle pas forcément de nationalisation, j’y suis même assez opposé, mais de retrouver la vocation initiale de ces plateformes, un terme qui évoque un projet commun. Cette approche par les communs serait un profond changement de nature qui pourrait émerger de l’urgence.

On voit pourtant certaines de ces plateformes commencer à samender, par exemple face à la diffusion de fake news et la propagation de rumeurs, le travail de modérateur qui avait été difficile à faire admettre face au terrorisme semble simposer spontanément. Ne peut-on espérer que ce « réveil-alarme » soit entendu par les géants du numérique et quils prennent un virage plus vertueux ?
Dans le cadre du documentaire de France Télévisions Invisibles, réalisé par Henri Poulain et co-écrit avec Julien Goetz, et pour lequel j’ai joué un rôle de conseiller scientifique, une personne interviewée dans le troisième épisode, modérateur pour Facebook, dit quelque chose d’à mon sens vraiment révélateur : la responsabilité de Facebook, c’est de faire des profit pour ses investisseurs, et tant que le réseau social n’arrivera pas à faire de l’argent en modérant, elle ne considérera jamais cette activité comme son cœur de métier. Donc le problème principal concernant la modération des contenus est qu’il s’agit d’une corvée considérée comme une nuisance nécessaire, à laquelle les plateformes se plient pour apaiser l’opinion publique. Leur seul problème, c’est d’éviter toute forme de responsabilité légale, de ne pas être attaquables devant des cours de justice pour avoir véhiculé des informations non seulement fausses, mais dangereuses. Ça ne permet pas de faire les choses sérieusement.

La situation actuelle offrirait donc plutôt loccasion pour les plateformes de la Silicon Valley d’étendre leur pouvoir ?
Tout d’abord je ne pense pas que ce soit seulement un problème de plateformes, ou d’entreprises de la Silicon Valley. C’est sans conteste l’un des centres, mais des choses de ce type se passent à Bangalore en Inde, à Shanghai en Chine, et même à Paris pas très loin de là où je travaille. Des grands groupes industriels qui prospèrent sur la surveillance de masse, sur la collecte d’énormes masses de données, et qui se retrouvent dans la situation de profiter de l’épidémie, il y en a partout. Des groupes pharmaceutiques, des groupes qui vendent des solutions d’intelligence (au sens de collecte d’information et de renseignement), la France est d’ailleurs bien lotie de ce point de vue. Le fait est que nous avons un devoir de vigilance, mais ces plateformes devraient aussi avoir un devoir de retenue dans un contexte comme celui-là. Parce que c’est vraiment une situation dans laquelle la confusion est grande, et les entités ou plutôt les organisations en mesure d’en profiter sont celles qui ont déjà un poids énorme sur le marché. Il me paraît donc tout aussi important de réguler leur comportement que de réguler celui des individus comme on le fait ces temps-ci avec le confinement. À l’enjeu de santé publique devrait s’ajouter un enjeu de santé démocratique, et donc une intervention toute aussi ferme des autorités pour demander par exemple aux entreprises qui collectent des informations liées à la santé des individus ce qu’elles comptent en faire. La régulation ne doit pas aller seulement vers le micro, mais aussi vers le macro.

Cette épidémie a commencé en Chine, un pays dont on connaît la capacité de contrôle social mais aussi de contrôle du numérique, et dont la gestion autoritaire de l’épidémie a produit de réels résultats. Dans quelle mesure cela fait-il triompher le modèle numérique chinois ?
À mon sens, le grand succès de la Chine dans ce contexte de pandémie ce ne sera pas les exploits médicaux, la preuve de sa capacité pharmaceutique, ni même l’aide internationale qu’elle assure déjà auprès de certains pays comme l’Italie, mais l’export d’un modèle idéologique. C’est le pire du Parti communiste chinois qui triomphe : l’alliance des outils déjà mis en place comme le système de crédit social, la surveillance généralisée par la reconnaissance faciale, les applications de contrôle des mouvements de population dans un contexte de pandémie. Les citoyens chinois sont ainsi géolocalisés et surveillés, au nom de la lutte contre le coronavirus, jusque dans leur état de santé par des applications qui contrôlent l’évolution de leur température corporelle, les symptômes, les hospitalisations, les consultations avec des médecins, et qui transmettent toutes ces données à la police. Ces données ne vont évidemment pas disparaître dans quelques mois ou dans quelques années, quand cette crise sanitaire aura pris fin. On retrouve cette problématique dans d’autres pays, comme Taïwan ou la Slovaquie où les télécoms mettent désormais les données des smartphones des personnes malades de Covid-19 à disposition des gouvernements. Il suffit de voir les lois qui ont été acceptées en Israël il y a quelques semaines pour constater ce qui commence à se généraliser en termes de surveillance de masse, en termes de violations systématiques de la vie privée des citoyens. Il faut aussi noter, encore une fois, qu’il existe d’autres modèles comme la Corée du Sud qui ont plus joué sur une actualisation de pratiques et de codes sociaux préexistants et un dépistage systématique, avec un beau succès. Une alternative est donc possible.

Aux défenseurs des libertés publiques qui, comme vous, alertent à propos de l’extension de la surveillance numérique au nom de la sécurité, que ce soit en matière de terrorisme ou de santé publique, on oppose souvent largument de lefficacité. Cette épidémie permet-elle d’enfin voir concrètement les contreparties, ce quon risque et ce quon abandonne au nom précisément de lefficacité ?
Ma profonde conviction est que pour sortir de cette crise pandémique il faut abattre définitivement et sans délai le système actuel de surveillance de masse numérique. Nous nous en sortirons avec des mesures comme la généralisation du port du masque dans l’espace public, donc en invalidant de fait les systèmes de reconnaissance faciale. Nous nous en sortirons en responsabilisant les citoyens et en les incitant à mettre en place des formes d’entraide locale, non pas en les menaçant avec les drones ou d’autres jouets dystopiques. Nous nous en sortirons en garantissant une application stricte du secret médical, pour que les personnes malades ou contaminées déclarent en confiance leur état à leur employeur, à leur assureur, etc. C’est la surveillance de masse, et non pas la privacy, la plus grande menace qui pèse sur notre santé et notre bien-être.
Lorsqu’on me parle donc d’« efficacité » en échange d’une perte qui peut sembler somme toute minime de libertés publiques, je souligne que brider nos libertés n’est efficace que pour les producteurs de technologies de surveillance. Puisque ça fait des années qu’on nous rebat les oreilles avec cette rengaine, ne serait-elle pas un prétexte ? Ce discours existe depuis longtemps, bien avant la crise pandémique. C’est une ritournelle qui est en soi un virus, un parasite, qui infecte nos libertés, et qui devient plus aiguë, plus virulente, quand il y a des crises qui lui offrent un levier. Aujourd’hui c’est une crise sanitaire, hier c’était un attentat terroriste, comme ceux qui en France en 2015 ont ensuite entraîné le choix désastreux d’inscrire l’état d’urgence dans le droit commun. À chaque crise, ce parasite de nos libertés publiques se manifeste de manière toujours plus violente. Il me semble pourtant que ce sont deux choses tout à fait indépendantes. S’il y a des moments où l’on doit effectivement adopter des comportements et des réflexes qui limitent volontairement nos comportements et notre liberté de circulation, il faut toujours se demander pendant combien de temps et dans quelle mesure cette limitation relève d’un choix responsabilisant pour les citoyens. Dans la situation que nous traversons aujourd’hui, la date-limite, la date-butoir à laquelle ces mesures vont s’arrêter reste très vague. Et la responsabilité des citoyens n’est même pas prise en compte. Il faut que les citoyens obéissent à des injonctions contradictoires qui les exposent à l’arbitraire de la répression : « allez voter mais restez chez vous », « n’allez pas travailler mais n’arrêtez pas la production », « portez un masque mais la République se vit à visage découvert »…

Tout ceci est extrêmement grave, surtout si effectivement la situation pandémique, même si on va sortir de la partie aiguë, devient une situation systématique, structurelle. Personnellement, je n’ai jamais été contre le fait de partager, selon des modalités inspirées par les « commons », des données qui pourraient aider effectivement le bien public. Arriver à éliminer ou guérir une maladie, une épidémie, c’est exactement la raison pour laquelle on a commencé à collecter des données au profit de la recherche médicale. Ce qui n’est pas soutenable et auquel je m’oppose, c’est le modèle d’appropriation centralisée, capitaliste et régalienne de ces données, qui ne sont pas considérées comme le bien commun qu’elles sont pourtant. Si c’était le cas, elles seraient gérées collectivement, et on trouverait des manières de contribuer à cette ressource commune tout en respectant les libertés individuelles.

NDLR – Antonio Casilli a publié en 2019 En attendant les robots. Enquête sur le travail du clic (Le Seuil) et participé comme expert scientifique au documentaire Invisibles d’Henri Poulain et Julien Goetz disponible sur France TV.

Raphael Bourgois

Journaliste, Rédacteur en Chef d’AOC

Tribune dans L’Obs “Lettre à l’Europe” (4 mai 2019)

Pour lire la version parue en ligne le 4 mai 2019 sur le site web de L’OBS, cliquer ici.

Version intégrale de l’auteur :

Lettre à l’Europe d’Antonio Casilli : « Ton numérique est encombré de mirages »

Chère Europe,

Tu promets des technologies « vertueuses » et respectueuses de la société et de l’environnement. Bien sûr, sur le plan législatif, des avancées considérables ont été inspirées par tes institutions. En cherchant à composer avec les exigences de tes citoyens et de tes marchés, tu as su définir d’ambitieuses mesures de protection des libertés numériques et d’intégrité des données personnelles, comme le RGPD.

Mais ton positionnement en champion du numérique « respectueux des droits » se heurte à un problème de taille, à savoir ton attitude ambigüe vis-à-vis des sociétés qui vont répondent au nom de GAFAM (Google Apple Facebook Amazon Microsoft). L’obsession de vouloir en même temps imiter et défaire les oligopoles américains représente la panne fatale de tes politiques économiques. Ton numérique à toi est encombré de mirages et de dualismes. Les géants de la tech seraient d’une part en train de t’envahir, et il faudrait donc s’en défendre ; mais ils seraient aussi des interlocuteurs politiques à part entière, dont tes États et tes institutions européennes attendraient tout salut. La première posture prévaut quand tu instaures des politiques protectionnistes, telle la récente et très controversée directive sur le droit d’auteur qui cherche à mettre à contribution les intermédiaires numériques d’outre- Atlantique. Ta priorité devient alors de tout mettre en place pour encourager la création de « géants du numérique » européens, homologues des oligarques de la Silicon Valley. La seconde attitude est exemplifiée par le règlement « relatif à la prévention de la diffusion en ligne de contenus à caractère terroriste » proposé à ta Commission Européenne en septembre 2018. Dans ce texte, tu te tournes vers les grandes plateformes pour leur déléguer de manière inconsidérée la modération de « contenus terroristes ». Tu leur accordes par la même occasion un chèque en blanc pour circonscrire la liberté d’expression de tes citoyens.

A force de plonger leur regard dans l’abîme que sont les GAFAM, ton opinion publique et tes élus finissent par en épouser implicitement l’arrogance, l’impérialisme culturel, le nihilisme marchand. Ce mélange de protectionnisme économique et de culte du cargo californien finit par s’harmoniser avec l’une de tes pires dispositions, à savoir ton repli réactionnaire et identitaire. Nulle part cela n’est mieux exprimé que dans ton effort régalien d’articuler les outils numériques avec les politiques anti- immigration. La militarisation de tes frontières méridionales ainsi que les tentatives récentes de remise à plat du principe de libre circulation des personnes, assimilent les réfugiés et les migrants à une menace. Les murs de la Forteresse Europe sont alors érigés grâce à des systèmes de surveillance numérique des frontières et par le truchement de bases de données pour le traçage des flux migratoires, tels SIS, VIS, FADO ou Eurodac. Les 34 000 morts et disparus en Méditerranée depuis 2014 attestent du fait que ce qui arrive aujourd’hui est une violation massive des droits de l’homme et de la femme. Les acteurs européens qui fournissent des solutions techniques à ces politiques d’enfermement et d’exclusion de masse, portent une lourde responsabilité à cet égard.

Mais c’est aussi aux dépens des libertés et de l’autonomie de tes propres citoyens que tes politiques numériques des dernières années ont été développées. Au nom de vagues d’émergences et d’états d’exception permanents, une surveillance massive des populations s’est généralisée. A partir de 2013, la France et le Royaume-Uni se sont dotés d’outils législatifs comme la Loi Renseignement ou le Snoopers’ Charter, qui normalisent l’inspection profonde de paquets sur les réseaux, le traçage permanent des citoyens sur les médias sociaux et la création de « boites noires algorithmiques ». Le tout en se passant des garde-fous juridiques traditionnellement présents dans nos pays. Là aussi, l’obsession GAFAM joue un rôle clé. Les accords entre tes États et les entreprises qui se servent de ces technologies à des fins de surveillance et de répression se multiplient, du déploiement de drones Predator à des fins d’ordre public en Italie au contrat de la DGSI française avec Palantir, multinationale de la surveillance du sulfureux Peter Thiel.

Comment sortir de ce numérique autoritaire ? Non pas en imaginant de reproduire le modèle Silicon Valley de ce côté de l’Océan, mais au contraire en encourageant, par un cadre règlementaire européen, des solutions concrètes. Pour ce faire, trois leviers doivent être envisagés. D’abord, un moratoire sur les politiques intérieures et extérieures de surveillance numérique des dernières années. Quand la sécurité de tes populations est réalisée au moyen de solutions technologiques conçues pour la coercition des populations mêmes, c’est la légitimité démocratique de ces outils qui est à mettre en question. Un numérique inclusif ne signifie pas seulement que le plus grand nombre de personnes auront accès à des technologies qu’elles ont choisies, mais surtout que le plus petit nombre de personnes possible subisse des technologies non choisies.

En second lieu, en articulant une fiscalité numérique bien avisée et des politiques de redistribution et de développement durable, tu peux espérer que tes technologies soient aussi des outils de justice économique et environnementale. La voie d’une fiscalité numérique européenne a été indiquée dans l’expertise rendue à Bercy en 2013 par Pierre Collin et Nicolas Colin. Au lieu de taxer les plateformes numériques sur la base de leurs profits, ce rapport suggérait de lever l’impôt sur les données captées par les entreprises de la tech à partir du « travail gratuit » de leurs usagers sur le territoire national. On peut envisager à l’échelle continentale une mesure de ce type, dont les recettes pourraient servir à financer des politiques publiques en lien avec le numérique : programmes d’éducation et de formation aux technologies, incitations pour réduire l’impact environnemental du numérique, aides sociales voire même un revenu universel européen en lien avec les usages numériques.

Ces politiques permettaient aussi de nous soustraire à la dépendance aux outils des grands plateformes internationales, non pas au nom d’un protectionnisme qui vise à faire émerger leurs homologues européens, mais au nom de la recherche d’alternatives citoyennes. C’est là que le dernier levier du numérique européen serait activé : en encourageant des usages technologiques désintermédiés, distribués et participatifs. Bref, en promouvant une innovation faite de structures développées en commun.

Je comprends que, dans le contexte actuel, ces prospectives d’action peuvent te sembler des vœux pieux. Pour aider ces projets à se généraliser, tu auras besoin d’un cadre législatif éloigné de toute focalisation sur les GAFAM, ainsi que d’une volonté politique qui cesse d’osciller, tel un pendule, entre une extrême-droite souverainiste et une droite extrêmement néo-libérale. C’est à ces conditions seulement que tu pourras d’abord penser, ensuite réaliser, ces impossibilités comme si elles tenaient du possible.



Sur BFMTv (17 déc. 2018)

Nice et Marseille testeront des dispositifs de reconnaissance faciale à l’entrée de deux lycées

Elsa TRUJILLO (Journaliste) 17/12/2018 à 14h34

Des portiques dotés d’une technologie de reconnaissance faciale seront déployés dès janvier 2019 dans le lycée des Eucalyptus, à Nice, et dans le lycée Ampère, à Marseille, pour contrôler l’entrée des élèves.

Des portiques virtuels pour remplacer les pions. Deux lycées de la région Provence-Alpes-Côte d’Azur- celui des Eucalyptus, à Nice, et le lycée Ampère, à Marseille – expérimenteront dès janvier 2019 des dispositifs de reconnaissance faciale pour contrôler l’identité des lycéens à leur entrée.

Les portiques virtuels seront développés par la société américaine Cisco, rapporte Nice-Matin. Si un intrus essaie de pénétrer sans autorisation, et que son profil ne correspond pas à la base de données détenue par l’établissement, une alerte sera envoyée au personnel en charge de la surveillance.

Le quotidien niçois fait état d’un “feu vert” de la CNIL pour le lancement d’un tel projet. En réalité, l’autorité française de protection des données a accompagné la région Provence-Alpes-Côte d’Azur pour définir les modalités d’élaboration de cette initiative. “Ce projet de portiques virtuels a pour but d’évaluer l’efficacité d’un contrôle d’accès par comparaison faciale à l’entrée des deux lycées concernés”, complète la CNIL auprès de BFM Tech.

“L’expérimentation est basée sur le consentement des personnes concernées. Les personnes qui n’auront pas accepté le traitement de leurs données biométriques ne seront pas concernées.” Une séparation physique sera mise en place pour séparer les lycéens ayant accepté des autres, qui feront l’objet d’un contrôle classique.

Deux classes à Nice

Pour cette phase d’expérimentation, seules deux classes, soit environ une soixantaine d’élèves, seront concernées à Nice, relève le quotidien local. Les portiques sont censés “apporter une assistance aux agents assurant l’accueil du lycée afin de faciliter et réduire la durée des contrôles, lutter contre l’usurpation d’identité et détecter le déplacement non souhaité d’un visiteur non identifié”, fait savoir la Région.

Les réserves sont néanmoins nombreuses. Le Syndicat national des enseignements de second degré (SNES) s’enquiert du coût du projet, de l’utilisation des fichiers, qui comprendront notamment les horaires d’entrée et de sortie des élèves, et du remplacement du personnel par des machines. 

“L’un des problèmes majeurs de ce projet a trait au régime commercial qui sera appliqué à ces données”, complète Antonio Casilli, professeur de sociologie à Télécom ParisTech et à l’EHESS. “Leur circulation dans les infrastructures d’une entreprise américaine constitue une forme de valorisation abusive. Par ailleurs, la reconnaissance faciale est en soi répressive, invasive et discriminante et a tendance à comprendre des biais et à surcibler des minorités. En l’occurrence, elle habituera les lycéens au fait d’être constamment enregistrés, comparés et jugés.”

Les deux lycées niçois et marseillais ne sont pas les premiers établissements à tester la reconnaissance faciale dans la région. Des bornes intégrant cette technologie ont été mises en place au terminal 2 de l’aéroport de Nice, pour fluidifier le contrôle aux frontières. Le deuxième aéroport français, qui fait face à une forte hausse de fréquentation, entend ainsi limiter l’attente de ses voyageurs.

Facebook contro tutti (intervista in Jacobin Italia, 14 dic. 2018)

Non faccio spesso interviste in italiano, ma quando le faccio passo svariate ore a parlare con il giornaliste Giuliano Santoro. Il risultato è questa intervista-fiume per Jacobin Italia che esplora le relazioni fra Facebook, i mercati, la società e gli stati-nazione.

Facebook e gli altri divoratori di mondi – Jacobin Italia


La tolda dell’astronave madre dell’impero digitale scricchiola davvero? Come evolve il capitalismo delle piattaforme e che rapporto ha con gli stati? Conversazione con Antonio A. Casilli

I segnali  sono arrivati, uno dopo l’altro, nel giro di pochi giorni. Prima il New York Times ha pubblicato un’inchiesta molto dettagliata dalla quale emerge il ruolo dei vertici di Facebook nel nascondere l’evidenza sulla diffusione di fake news ed hatespeech parte di vere e proprie campagne di disinformazione. Per di più, sarebbe emerso che Facebook stesso ha diffuso notizie false e illazioni per intorbidire le acque e intimidire le voci critiche. Secondo il New York Times, Mark Zuckerberg e la direttrice operativa Sheryl Sandberg avrebbero ignorato i segnali di allarme sulle interferenze russe e sullo ruolo di Cambridge Analytica, per negarli e poi sviare l’attenzione dalla società con campagna dietro le quinte contro le rivali, puntando a denigrare la figura del miliardario George Soros. Il Wall Street Journal ha rivelato che lo stesso Zuckerberg avrebbe convocato una cinquantina di luogotenenti per spronarli ad avere un atteggiamento più aggressivo. «Siamo in guerra», sarebbe stato l’allarme del creatore di Facebook. A questa guerra corrisponderebbe il calo delle quotazioni di borsa del titolo  di Facebook e di altri titoli dei giganti digitali. Alcuni teorizzano addirittura che ci troveremmo davanti a una bolla che potrebbe scoppiare. Voci dalla Silicon Valley dicono che per la prima volta e in maniera più consistente, aumenta la sfiducia dei lavoratori di Menlo Park nella capacità dell’azienda e del suo condottiero: sarebbe scesa di 32 punti, al 52%. Infine, da tempo si sostiene che il numero degli abitanti del pianeta Facebook, dei profili, sia in diminuzione.

Stiamo assistendo davvero alla graduale implosione dell’astronave madre dell’Impero? E  se veramente  dovesse accadere, cosa ne sarebbe del rapporto con Internet dei tanti utenti che utilizzano Facebook come unica via di accesso alla rete e scambio di informazioni? Viene in mente la nota metafora utilizzata da David Foster Wallace. Racconta di due pesci che incontrano un pesce proveniente dalla direzione opposta. Questo fa un cenno di saluto e dice: «Salve ragazzi! Com’è l’acqua oggi?». I due pesci proseguono per un po’ finché uno si paralizza e stupito si domanda: «Acqua? Che cos’è l’acqua?». Bene, se l’Acquario di Facebook dovesse prosciugarsi, cosa accadrebbe? Cosa ne sarebbe della nostra esistenza a cavallo tra reale e digitale senza la piattaforma che più di altre contribuisce a creare la nostra esperienza quotidiana? Ne parliamo con Antonio A. Casilli, che – tra le altre cose – insegna digital humanities al Telecommunication College del Paris Institute of Technology ed è ricercatore all’Ecole des hautes études en sciences sociales. Nel 2019 uscirà il suo nuovo libro sul lavoro digitale, che si intitola En attendant les robots. Enquête sur le travail du clic. «Quelli che hai appena elencato sono fenomeni che si verificano nello stesso momento, ma sono diversi tra loro», esordisce Casilli.

Bene, cominciano dalla borsa?
Facebook, così come Snapchat e altre aziende di questo tipo, sono sul mercato da relativamente poco. A parte certi giganti della tech come Amazon, che è quotata dal 1997, o Google, che vende azioni dalla metà degli anni 2000, si tratta di società che sono sui mercati borsistici da meno di dieci anni. Certo Facebook non è soltanto le sue azioni. La piattaforma esiste da prima, dal 2004, e ha una vita indipendente dalla borsa. Ed è una vita movimentata. Dalla sua nascita, è soggetta a delle crisi cicliche. Da questo punto di vista è l’incarnazione perfetta del capitalismo della Silicon Valley. Ha alti e bassi, e non solo in termini di valorizzazione. Spesso queste crisi sono di natura sociale, sono dei momenti di reazione da parte dei suoi stessi utilizzatori che si ribellano e insorgono contro la direzione della piattaforma. Ciò può avere a che fare con le scelte di design dell’azienda, o con alcuni grandi o piccoli scandali. Ad esempio quando, già nel lontano 2005 Facebook introdusse il newsfeed, gran parte degli utilizzatori dell’epoca non apprezzarono questa scelta. 700 mila abbonati, che per l’epoca era quasi il 10% degli utenti registrati, organizzarono petizioni, costrinsero Zuckerberg a chiedere ufficialmente scusa. In quel caso, come in altri, prima Facebook fece  marcia indietro e poi continuò come se niente fosse accaduto. Quando più tardi, nel 2009-2010, Facebook iniziò a pubblicare una serie di informazioni personali dei suoi membri, questi chiamarono in causa la Federal tradecommission. Anche lì Facebook disse che avrebbe tenuto conto delle critiche ma decise in ultimo di ignorarle. Quindi c’è sempre questo ciclo costante di reazione della base-utenti cui segue la contro-reazione di Facebook. Di solito è lo stesso Zuckerberg che si esprime e chiede scusa ufficialmente in una lettera aperta o pubblica un manifesto nel quale spiega le sue motivazioni. Questi documenti seguono sempre più o meno la stessa traccia: Zuckerberg dice che ci ripenserà e poi, immancabilmente, procede come se niente fosse. È la strategia del tango: un passo indietro e due in avanti. La crisi che sembra attraversare Facebook è coerente con questo andamento ciclico dei rapporti tra la piattaforma e il suo pubblico. La piattaforma mantiene un’attitudine totalmente predatoria nei confronti dei suoi abbonati, i quali cercano di farsi ascoltare ed essere riconosciuti. Questi auspici sono costantemente delusi.

Antonio A. Casilli

Ci stai dicendo che le battute d’arresto non sono una novità…

Senz’altro. Nel giugno 2013, ad esempio, Facebook fu al centro delle rivelazioni di Snowden e accusò il colpo del datagate più di altre aziende che pure erano menzionate (ad esempio Skype, Yahoo!, PayPal). Fu uno shock. Allo stesso tempo da noi si è parlato poco di quello che è successo in paesi come Egitto, Thailandia e India a proposito dell’introduzione a partire dal 2016 di un servizio che si chiama Free Basics, una specie di versione povera e non network neutrale di Facebook. Si trattava di un servizio di smartphone a buon mercato che permetteva l’accesso solo a pochi siti, fra cui Facebook. Era venduto in paesi emergenti, in cui ci sono problemi di connettività o in cui il prezzo della connessione era molto elevato. In India però l’autorità di controllo sulla telefonia, la Trai, si è opposta nel 2016, in seguito a manifestazioni, proteste e mobilitazioni online. A Facebook veniva contestata l’intenzione di creare un monopolio e di violare la neutralità della rete. Ma le autorità e la società civile indiane erano andate più in là, accusando Facebook di voler istituire una forma di colonialismo corporate. Zuckerberg cercò di difendersi pubblicando un editoriale sul Times of India nel quale sfoderava i suoi soliti argomenti: stiamo facendo tutto questo per il vostro bene, per permettere l’accesso a Internet, perché più connessione significa più progresso e democrazia. Meno diplomatico, Marc Andreessen, uno dei principali azionisti di Facebook, prese l’accusa di colonialismo alla lettera, lanciandosi in una maldestra apologia dei crimini coloniali. Dichiarazioni mostruose, rivelatrici di un’attitudine della Silicon Valley. Ma alla fine il servizio fu interrotto. Questa è una di quelle volte che Facebook non l’ha spuntata.

È andata così anche nel caso delle vertenze con gli enti preposti alla tutela della privacy?

Facebook è un mercato pubblicitario di dimensioni strabilianti. Funziona come una gigantesca agenzia pubblicitaria che si occupa non di creare servizi per utenti ma di fornire servizi a inserzionisti e aziende che comprano spazi, analisi di mercato, informazioni personali. Nessuno dei giganti del passato è accostabile a Facebook. Forse un po’ Microsoft, che non ha avuto crisi cicliche comparabili. Tutt’al più la società di Bill Gates ha avuto problemi ricorrenti con la Federal trade commission, per questioni di antitrust. Facebook negli anni ha incontrato una serie interminabile di ostacoli, soprattutto legati alla privacy per via di alcune azioni di diversi stati e della società civile in Europa. Ma si è trattato di frecce spuntate. Più volte il Garante della privacy in Italia o la Cnil, l’Autorità francese per la protezione dei dati, hanno comminato multe ai giganti del web. Ma a Facebook finora, è convenuto pagare ogni tanto una multa da 500 mila euro e continuare a macinare guadagni da centinaia di milioni di dollari al giorno. Perfino la sanzione di 10 milioni di euro che l’antitrust italiano gli ha inflitto il 29 novembre 2018 per violazione del Codice del Consumo è un rischio calcolato per Facebook. È come pagare una tassa. Bisogna anche dire che le cose sono cambiate con l’arrivo Gdpr, il regolamento Ue in materia di dati personali e privacy in vigore dallo scorso mese di maggio. Non ne conosciamo ancora gli effetti, ma i segnali sono incoraggianti. Per esempio, la class action None of Your Business lanciata dall’austriaco Max Schrems contro Android, Instagram, Whatsapp e Facebook. O quella lanciata in Francia da La Quadrature du Net contro la stessa Facebook, ma anche Google, Apple, Amazon e LinkedIn. Se queste cause dovessero andare in porto Facebook si troverebbe a pagare parecchie centinaia di milioni di euro. Ciò farebbe la differenza. Comunque finora non ci si è mai avvicinati non dico al colpo fatale, ma ad azioni di cui Facebook semplicemente si accorga dal punto di vista del suo funzionamento.

Dunque, come leggere la flessione sui mercati finanziari?

Bisogna interpretarla tenendo presente il modo in cui Facebook tratta il suo corso in borsa. Al contrario delle grandi aziende tradizionali, le piattaforme digitali non comprano e rivendono i loro stessi titoli per non far stagnare il mercato e dare a vedere ai propri azionisti che c’è una progressione del loro titolo. Facebook, come del resto anche Amazon o Google, non funziona così. Quando fanno dei profitti non li reinvestono per tenere su il corso del loro titolo in borsa. Li reinvestono in innovazione tecnologica, fanno gli investimenti come dovrebbe fare una qualunque azienda, quegli investimenti che le aziende tradizionali hanno smesso di fare. Da questo punto di vista il corso in borsa per le piattaforme digitali va visto più come un segnale da dare ad altri partner e investitori potenziali, invece che un fattore dal quale dipende la sopravvivenza. La sopravvivenza, invece, dipende dal fatto che l’azienda sia sempre in uno squilibrio fecondo, che sormonti crisi dopo crisi. E che importa se andando in fretta, come dice il motto di Zuckerberg, si finisce per «rompere cose». Qui, l’imperativo break things significa produrre innovazione, e il corso in borsa importa relativamente poco.

Il Nasdaq era crollato proprio perché le aziende non distribuivano dividendi agli investitori. Il passaggio al web 2.0 è stato un modo per colmare questo divario riuscendo a mettere al lavoro gli utenti con la scusa della partecipazione. Quando tu descrivi questo modo di stare in borsa, quasi da imprenditori ideali, ci stai dicendo anche che quel modello funziona ancora alla perfezione.

Per certi versi le piattaforme digitali, Facebook in testa, hanno ripreso la missione storica delle imprese tradizionali del secolo scorso. Tutte le altre aziende hanno abdicato a questa missione, sotto i colpi della globalizzazione e della finanziarizzazione. Quindi stanno cercando di trattenere gli investitori ma l’unica cosa che possono fare è promettergli da qui a diciotto mesi un ritorno sugli investimenti del 30%. Facebook non ragiona in questi termini. Paradossalmente, è più all’antica delle aziende pre-Internet! Anzi, si può dire che Facebook, in quanto azienda, spinga all’estremo certi tratti delle entità produttive tradizionali: attira una massa enorme di utenti-lavoratori, che producono conoscenza, dati e contenuti, in cambio di niente o quasi niente e in un contesto di controllo sociale capillare. Non te ne puoi andare da Facebook. Soprattutto, se sei un utilizzatore, e non un inserzionista o un data broker. È l’effetto lock-in, sei chiuso dentro. Una volta che sei catturato, l’unica cosa che ti resta da fare è produrre valore per l’azienda, nella maniera classica: producendo dati, producendo post, producendo reazioni e circolazione di contenuti. Quello che importa a Facebook non è il testo del tuo messaggio, non è la foto del tuo gatto, sono piuttosto i suoi metadati: quando l’hai scritto, con che smartphone hai scattato la foto, quale era il tuo indirizzo Ip. E poi i metadati sociali: quanta gente l’ha condiviso, quante reazioni ha generato. Sono informazioni che servono a fare analytics e che possono essere importantissimi dal punto di vista pubblicitario. Gli iscritti di Facebook lavorano per produrre dati che sono venduti dalla piattaforma. E non dimentichiamo che lavorano anche per produrre dati che sono utilizzati dalla stessa Facebook ai fini dell’automazione. Servono a produrre algoritmi che apprendono, quello che includiamo di solito sotto l’espressione generica machine learning. O per produrre soluzioni automatizzate sul filtraggio di dati, sulla raccomandazione di contenuti, l’Edge Rank stesso, che è l’algoritmo che gestisce il feed. Tutto ciò si basa sul presupposto che gli utenti-lavoratori siano lì, non possano andare via e una volta che stanno lì non possano che lavorare per Facebook.

Come interpretare allora le notizie sul calo degli utenti? Non è un fenomeno che, seppure limitato, potrebbe indicare una tendenza?

C’è da una parte una perdita del ritmo di nuovi arrivi sulla piattaforma, dovuto al fatto che il mercato dei social è saturo. Con quasi due miliardi di accounts e nuovi mercati globali (come l’India o la Cina) irraggiungibili, c’è poco da sperare che «il prossimo miliardo di abbonati» si iscriva presto… Poi c’è anche l’effetto di grossi repulisti nella base dati di Facebook e delle aziende del suo giro. A fine novembre 2018, Instagram ha fatto una specie di purga generale di account vecchi, inerti e fake. In corrispondenza delle elezioni brasiliane, la stessa cosa è successa su WhatsApp. Quando ci sono importanti scadenze politiche o economiche, o per lancio di nuovi servizi, le piattaforme hanno bisogno di fare pulizia nella loro base utenti. Il motivo per cui ne hanno bisogno è legato anche al fatto che spesso in fasi di crescita accettano di tutto. Facebook è esemplare da questo punto di vista. Ha avuto sempre e costantemente fasi di crescita forzata nelle quali i loro i criteri per la creazione dei profili erano meno stringenti. Nel 2011, c’è stato il periodo in cui Zuckerberg esortava a creare profili per bambini ancora non nati  oppure per cani, gatti a altri animali da compagnia. Ci sono stati periodi in cui Facebook chiudeva un occhio sul fatto che una singola persona avesse più profili, magari uno professionale e uno personale. Ma a queste fasi di laissez-faire, seguono periodi di austerità. Appena l’anno dopo, la piattaforma ha imposto la “politica dei nomi veri”: ogni utente doveva registrarsi con una sola identità che doveva per di più essere la sua identità civile, quella certificata dal suo documento.  I cali improvvisi degli iscritti , come è capitato nel 2018 quando Zuckerberg ha rimosso più di 500 milioni di fake, sono dovuti a politiche di zero tolerance verso i profili sotto pseudonimo, messe in atto dopo i vari scandali legati alle elezioni presidenziali statunitensi. Se c’è una decrescita del numero degli utenti, ciò è legato al fatto che le regole sono cambiate e che Facebook è diventato un po’ più esigente.

Sta però accadendo che tra i lavoratori della Silicon Valley circolino dubbi e critiche. È come se avessero maggiore consapevolezza. C’è qualche crepa in questo meccanismo all’apparenza perfetto?

Certo, ma la consapevolezza dei lavoratori della Silicon Valley si concentra in alcune figure professionali, soprattutto nei quadri intermedi. Sicuramente, c’è una presa di coscienza dei crimini economici e politici del capitalismo delle piattaforme, come per esempio quando i lavoratori di Google si oppongono a certe iniziative del loro datore di lavoro, come il programma di droni assassini Maven , o il motore di ricerca censurato Dragonfly. Ma questa conflittualità resta ristretta a poche nicchie di lavoratori privilegiati e non si generalizza. C’è poi il fatto che, da quando Trump è al potere, il mercato del lavoro della tech è diventato meno dinamico a causa delle restrizioni sull’immigrazione, anche di quella specializzata. È rallentato ad esempio il flusso di tecnici provenienti dall’India. Malgrado i lavoratori della Silicon Valley siano contrari in generale a queste restrizioni, è vero però che meno mobilità internazionale significa per loro meno concorrenza per i posti di lavoro. E nella misura in cui attualmente i lavoratori dell’ecosistema della Silicon Valley si sentono meno minacciati dalla concorrenza internazionale, si sentono più sicuri per rivendicare protezione e rispetto.

C’è una precisa ideologia dietro le piattaforme che in qualche modo è strettamente connessa al modello di  business. Forse se il capitalista di un tempo avesse annunciato che lo scopo della sua impresa era portare la pace nel mondo gli avrebbero riso in faccia. Oggi Zuckerberg lo dice, magari non gli si crede ma  non sembra assurdo che lo dica. Eppure, in Italia prima che negli Usa, abbiamo sperimentato che la partecipazione via social non corrisponde automaticamente a maggiore democrazia e partecipazione reale. Al contrario: serve ad abbassare il livello del discorso e premia i contenuti beceri.

Finora abbiamo parlato del modello di affari, questo aspetto invece attiene al modello culturale di Facebook. Il capitalismo novecentesco ha sempre avuto l’ambizione di avere anche una valenza sociale. Le aziende con un messaggio, dall’«automobile per le masse» di Henry Ford agli «United colors of Benetton», sono stati grandi successi industriali che si basavano su quelli che in comunicazione si chiamano «discorsi di accompagnamento». Si tratta di narrazioni, di storytelling, che aiutano l’adozione di una merce o di un servizio. Da questo punto di vista, Facebook ancora una volta si ricollega al capitalismo più classico. Ogni anno, la piattaforma immette sul mercato nuovi servizi di entertainment sociale che servono immancabilmente a produrre dati. E ogni volta, questi servizi sono accompagnati da promesse di rinnovo della società in nome della connettività generalizzata che renderà tutti amici, tolleranti e democratici.

Il che è stato clamorosamente smentito dalla vittoria di Donald Trump e dal ruolo che, volente o nolente, Facebook ha rivestito in quella campagna elettorale!

Certo, e questo ha determinato un cambiamento di rotta. Facebook ha cambiato recentemente il suo posizionamento e la sua promessa. Lo ha fatto nel 2017, quando Zuckerberg ha pubblicato il suo manifesto programmatico “Building Global Community” nel quale auspicava un ritorno a un mondo di piccole comunità coese. «In un mondo in cui le comunità sono in declino – dice in sostanza – Facebook può aiutare a rinforzare le reti di solidarietà umana divenendo una vera e propria infrastrutturasociale che ci salverà da crisi, crimini e catastrofi». Facebook non è più la pozione magica che rende gli uomini più buoni, ma il meccanismo di resilienza contro i cattivi. L’immaginario sociale di Zuckerberg proietta una società fatta di tanti piccoli isolotti che Facebook tiene insieme. Dobbiamo chiederci qual è la performatività di questo messaggio. Vale a dire, nel momento in cui Zuckerberg lo ha divulgato, che effetti concreti ha prodotto? Intanto ha imposto una visione che è anti-statalista e libertariana di destra. È una visione comunitaria nel senso peggiore del termine, di rottura delle basi di lealtà che reggevano gli stati moderni, sostituiti da logiche di mercato. È una visione che, sincera o non sincera, spinge gli utenti a comportarsi di conseguenza. Anche perché sono sotto il controllo degli algoritmi che stabiliscono ad esempio cosa possono guardare, con chi possono connettersi, eccetera. Dal gennaio 2018 questi algoritmi sono diventati ancora più restrittivi. Col pretesto di favorire i “legami forti”, vediamo sempre meno persone che non conosciamo anche nella vita di tutti i giorni. Gli incontri fortuiti con persone al di fuori della nostra cerchia di conoscenze sono diminuiti drasticamente, nel nome della lotta contro spam e troll. Certo, non smettiamo di essere amici di perfetti sconosciuti. Ma i loro contenuti appaiono meno spesso sui nostri muri. Dunque si è spinti a comunicare e produrre messaggi specializzati per comunità o piccoli gruppi. Siamo passati dal Facebook del «Siamo tutti amici» al Facebook del «Ogni uomo è un’isola».

Un ruolo fondamentale affidato a un operatore privato.

È appunto un’infrastruttura, come i binari del treno che conducono da un posto all’altro merci e persone. Solo che il capitalismo infrastrutturale del passato, che produceva energia per tutti o che collegava una città all’altra, era largamente promosso da iniziative statali e non private. Anni fa, l’economista Paul Krugman propose sul New York Times, di considerare Google come un servizio di utilità pubblica – e perciò collettivizzabile. Così anche Facebook, per alcuni è un attore egemonico di mercato, dunque bisogna frammentarlo o, al contrario, nazionalizzarlo. Per evitare questi rischi Zuckerberg, come un Berlusconi redivivo, starebbe pensando a scendere in campo per le elezioni.

Al momento è fantapolitica, però ci dice qualcosa della commistione tra privato e statale.

Più che commistione parlerei di cattura istituzionale. Abbiamo a che fare con una situazione caratterizzata da enormi oligopoli. Il rapporto delle piattaforme nei confronti dello stato è estremamente predatorio e opportunista. Per decenni le aziende della Silicon Valley hanno approfittato di aiuti pubblici, statunitensi e non solo. E continuano ancora! Ma gli stati non sono solo investitori della prima ora delle piattaforme: sono anche tra i migliori clienti. Gli stati delegano sempre più attività a queste grandi aziende. Per esempio responsabilità di sorveglianza di massa. Dopo la metà degli anni 2010, con la grande ondata di attentati in Europa e negli Stati uniti, i governi nazionali sembrano avere normalizzato la logica della violazione sistematica della privacy dei loro cittadini. In maniera cinica, hanno interpretato le rivelazioni di Edward Snowden in un manuale su come spiare sulla vita dei loro cittadini. E in maniera ancora più cinica, le piattaforme hanno trasformato questa contingenza in una occasione di business, fornendo servizi di sorveglianza capillare. È così che è nato il nuovo regolamento europeo approvato il 6 dicembre 2018, che delega alle piattaforme una serie di attività di sorveglianza e censura in nome della lotta al terrorismo. Questi sono i grossi cambiamenti, mai su questa scala c’è stata una delega di potere così importante a strutture private.

È come se gli stati diventassero un’articolazione delle piattaforme…

Gli stati nazionali hanno fallito le loro principali missioni storiche, mi riferisco a cose come produrre il cambiamento sociale  o assicurare il benessere alla gran parte della popolazione. E i mercati si sono resi conto che non hanno bisogno degli stati per funzionare. Se in generale gli stati appaiano meno adatti al mutamento delle aziende, questo è dovuto al fatto che le aziende hanno parassitato gli stati per decenni. La regolazione di Facebook non può arrivare con una misura onnicomprensiva, una mega-legge che disciplinerà tutto. Avverrà piuttosto attraverso una serie di misure attive che trovano la loro origine nella società civile. Facebook si permette abusi e manipolazioni perché con lobbying e pressioni economiche influenza la politica. Lo dimostrano le recenti rivelazioni sulle pratiche del suo direttore generale Sheryl Sandberg. Ma lo strapotere attuale di Facebook è dovuto soprattutto al fatto che da anni gli stati agiscono come i suoi cani da guardia, impedendo alla società civile, agli stessi utenti, di manifestare il loro disaccordo nei confronti delle pratiche della piattaforma. Il corpo sociale non può ribellarsi alla censura, alla sorveglianza, allo sfruttamento di Facebook. Opporsi al capitalismo digitale trionfante di oggi, significa spesso violare le regole di Facebook, a volte addirittura violare le leggi in vigore in diversi stati. È la convergenza tra piattaforma e stato-nazione. Marc Andreessen, ancora lui, ha scritto senza ombra di ironia che il software si sta mangiando il mondo. Lo stesso vale per le piattaforme: sono dei divoratori di mondi.

* Giuliano Santoro, giornalista, scrive di politica e cultura su il Manifesto. È autore, tra le altre cose, di Un Grillo qualunque e Cervelli Sconnessi (entrambi editi da Castelvecchi), Guida alla Roma ribelle (Voland), Al palo della morte (Alegre Quinto Tipo).


[Pocast] Surveillance internationale et médias sociaux avec Edouard Baer (Radio Nova, 2 janv. 2017)

Au petit matin, j’ai eu une conversation intéressante avec Edouard Baer et Thomas Baumgartner sur Radio Nova, dans l’émission Plus Près De Toi. On a parlé des douanes américaines qui imposent désormais une démarche “facultative” d’enregistrement des comptes Facebook, Instagram, LinkedIn etc. de tous les voyageurs souhaitant obtenir un visa pour voyager aux Etats-Unis. Quelles implications en termes de surveillance électronique et d’identification des populations ? Special guest : la CIA qui a coupé le son à un certain moment, quand on allait révéler les pseudos internet de tous les présents.

Bref, voilà le lien du podcast : Plus Près De Toi 02/01/17 | NOVAPLANET (Mon entretien commence à 19’15”)

Economie et politique des plateformes numériques : le programme de mon séminaire #ecnEHESS 2016-17

FINALLY ! Pour la neuvième année consécutive, mon séminaire Étudier les cultures du numérique : approches théoriques et empiriques (#ecnEHESS) ouvre ses portes le 21 novembre 2016 à l’EHESS de Paris. Pour récompenser votre patience, le programme de cette année réserve plus d’une surprise : des intervenants internationaux pour une réflexion sur l’impact politique du numérique, avec des séances spéciales sur la surveillance de masse, sur l’économie et l’idéologie des plateformes, sur les libertés fondamentales à l’heure d’internet.

Comme toujours, les inscriptions sont ouvertes aux auditeurs libres : il suffit d’envoyer un petit mail gentil via ce formulaire. La première séance aura lieu le lundi 21 novembre 2016, EHESS. Les séances successives, le troisième lundi de chaque mois de 17h à 20h.

ATTENTION : changement d’adresse. Cette année le séminaire se déroulera au 96 bd Raspail 75006 Paris, salle M. & D. Lombard. NB: la séance de fin d’année aura lieu le mercredi 14 décembre 2016. Pour plus de précisions sur les dates et les salles (et pour d’éventuels changements), se référer à la page de l’enseignement.

Programme

 platform 21 novembre 2016
Christophe Benavent (Paris Nanterre)
Gouvernementalité algorithmique des plateformes
 lloirns 14 décembre 2016
Isabelle Attard (députée citoyenne du Calvados) et Adrienne Charmet (La Quadrature du Net)
Internet, surveillance et libertés fondamentales en France
 ideology 16 janvier 2017
Benjamin Loveluck (Télécom ParisTech)
Idéologies et utopies du numérique
 workfutur 20 février 2017
Mark Graham (Oxford Internet Institute) et Karen Gregory (University of Edinbugh)
Global platforms and the future of work
 gafa 20 mars 2017
Nikos Smyrnaios (Université Toulouse 3)
Stratégies et logique des GAFAM
 mturk 10 avril 2017
Mary Gray (Microsoft Research)
Behind the API: Work in On-Demand Digital Labor Markets
 datanomix 15 mai 2017
Louis-David Benyayer (Without Model) et Simon Chignard (Etalab)
Les nouveaux business models des données
 magna 19 juin 2017
Juan Carlos De Martin (NEXA Center for Internet & Society)
Looking back at the 2015 ‘Declaration of Internet Rights’

La carte d’identité pour s’inscrire sur les médias sociaux, ou le durcissement des intermédiaires d’identité souples

Les internets se sont insurgés, comme il était prévisible, suite à la proposition de l’élu d’extrême-extrême droite français Eric Ciotti : imposer « la carte d’identité pour s’inscrire sur les réseaux sociaux ». Je pourrais me joindre au concert de critique qui a accueilli cet énième bêlement de partisan de l’identification forcée comme outil de « civilisation d’internet » via une politique des « vrais noms ».

Mais à ce stade, ma modeste proposition se limite à encourager toute personne intéressée à (re)lire l’article de Zarsky & de Andrade (2013) Regulating electronic identity intermediaries. Selon les auteurs le processus d’identification passe de manière générale par la définition du rôle des « intermédiaires d’identité ». (Ce n’est pas une nouveauté : il y a une vaste littérature sur les documents d’identité et leurs intermédiaires en histoire). Les intermédiaires d’identité participent à la « création, l’authentification, la vérification et l’accompagnement d’identités stables par lesquelles nous interagissons, envoyons et recevons de l’information en ligne, et, aussi bien, structurent notre identité et notre personnalité » (2013 : 1339). L’activité d’intermédiation est cruciale car elle met en évidence le rôle politique grandissant d’acteurs allant de l’État au secteur privé.

Il existe différentes catégories d’acteurs remplissant ce rôle d’intermédiaires d’identification. Ils se succèdent dans le temps. Historiquement, le premier intermédiaire d’identité est l’Etat (ex. obligations légales d’enregistrement des naissances, données biométriques, participation à la statistique publique [recensements…], authentification des actes légaux). L’État institue une identification «dure», dont la contrainte majeure est la nécessité pour la personne qui s’identifie de se trouver en présence physique de l’intermédiaire d’identité.

Avec le temps, d’autres intermédiaires se sont ajoutés à l’Etat : banques, compagnies téléphoniques, assurances, fournisseurs d’électricité… (Ex. Une carte bleue ou une facture de votre fournisseur d’énergie peuvent dans plusieurs situations valider une identifications formelle). Cette deuxième catégorie d’intermédiaires a souvent assoupli les modalités de mise en présence des sujets candidats à l’identification. Une rencontre physique est toujours présupposée mais les lieux sont variables (pas forcément dans un bureau étatique mais par ex chez vous).

Troisième catégorie, plus récente d’un point de vue chronologique: les systèmes de médiation numérique (fournisseurs email, FB, comptes clients…). Zarsky & de Andrade situent son apparition autour de 1999 lors du lancement de la directive européenne eSig. Ils l’appellent régime de « soft eID ». Pour ces systèmes, la présentation initiale d’un titre d’identité certifié, voire la présence physique, devient progressivement accessoire. Plateformes publicitaires, médias sociaux,les sites d’e-commerce ou de démarches administratives en ligne: des « intermédiaires de soft eID ». Ils jouent un rôle similaire d’identification, mais dans un cadre légal différent (d’où controverses fréquentes sur l’anonymat/pseudonymat…).

Bref, M. Ciotti est en train de demander qu’on s’inscrive avec un identifiant « dur » (étatique, ex. une pièce d’identité) sur un service d’identification «soft» (privé, ex sur Facebook). C’est une demande de rapprochement qui est (hélas) cohérent avec plusieurs évolutions récentes autant des intermédiaires privés (ex. la politiques des «vrais noms» sur les médias sociaux) que des intermédiaires publics (ex. le dispositif France Connect « le premier composant de l’Etat plateforme »…). Le constat de cette tendance récente à la convergence ne doit pas, pour autant, nous faire croire que le proposition de M. Ciotti soit réalisable, ni même raisonnable. La proposition de rapprocher de manière sauvage ces deux modalités d’identification (identification régalienne et identification par des entreprises privées) il nous met face à l’incompatibilité des circonstances pratiques (où s’inscrire sur FB ? à la mairie ? chez soi ? dans n’importe quel commerce ?) et légales (est-ce qu’à terme mon ID Apple féra foi en justice ?), tout en réaffirmant l’inquiétante proximité politique de ces systèmes — durs ou souples — d’identification et de gouvernement des individus.

Ce texte est une version remix du chapitre “La fausse piste du processus d’identification” de l’article co-publié avec Fred Pailler S’inscrire en faux: Les fakes et les politiques de l’identité des publics connectés, Communication, vol. 33/2 | 2015.