zoom

“Coronavirus tracking apps are a serious threat to medical privacy” (BBC World Turkey, 2 April 2020)

I was interviewed by journalist Çağıl Kasapoğlu for BBC World Turkey.

Casilli: Koronavirüs kitlesel gözetim ve veri toplama sistemlerini güçlendiriyor

Çağıl Kasapoğlu BBC Türkçe 12-16 minutes


Gözetim sistemlerinin en yaygın kullanıldığı ülkelerden biri Çin.
Image caption Gözetim sistemlerinin en yaygın kullanıldığı ülkelerden biri Çin.

Koronavirüs, Covid-19 salgınıyla mücadelede bazı ülkeler vatandaşlarının sağlık durumlarını takip edebilmek için dijital teknolojiye başvurdu.

Çin, Singapur, İsrail ve Güney Kore gibi ülkelerde bireylerin cep telefonlarına yüklenen izleme takip uygulamalarıyla koronavirüsün yayılması engellenmeye çalışıyor.

Avrupa ülkeleri de benzer yöntemleri gündemlerine almaya başladı.

Ama bu yöntemleri eleştirenler, gizlilik hakkının, bireysel veri koruma haklarının ihlali olarak görüyor.

Diğer yandan milyonlarca kişinin evlerine kurulan yazılımlarla uzaktan çalışmaya başlamaları da siber güvenlik açısından soru işaretleri doğuruyor.

İnternet gizliliği ve dijital istihdam konularında uzmanlaşan İtalyan-Fransız sosyolog Antonio Casilli, koronavirüsle değişen çalışma yöntemleri ve izleme takip sistemleriyle ilgi BBC Türkçe’nin sorularını yanıtladı.

Çin, Singapur, Güney Kore, İsrail gibi bazı ülkelerde koronavirüsün yayılmasını engellemek için bireyler cep telefonu uygulamaları veya farklı dijital araçlarla takibe alınıyor. Bu başarılı bir yöntem mi?

Hayır, kesinlikle başarılı bir yöntem değil. Ama tüm dünya genelinde uygulanan kitlesel gözetim politikalarıyla tutarlı bir yöntem. Çin, Güney Kore veya Singapur gibi ülkelerin her biri birbirinden farklı. Örneğin Çin’de koronavirüsle mücadelede başarı daha çok katı kuralların dayatıldığı karantina, sosyal mesafe ve tecrit uygulamalarıyla bağlantılı. Ve tabi enfeksiyon kapanların takibe alındığı cep telefonu uygulamaları ve sistemleri de var. Ama Çin’de bu tip gözetleme ve takip uygulamaları hali hazırda vardı.

Güney Kore’de de başarının asıl nedeni testlerin yaygın yapılması, Tayvan’dan da hükümet ve yetkililer tarafından kaliteli bilgi akışının sağlanmasından kaynaklanıyor.

Şimdi ise İtalya ve Fransa gibi ülkelerde koronavirüsle mücadelede, enfeksiyon kapanların belirlenmesi için kendi cep telefonu uygulamalarını başlatmak istiyor.

Bu tip yöntemler pandemiyle mücadelede değil, psikolojik caydırma politikalarında etkili olabilir. Dolayısıyla biyomedikal araçlardan çok disiplin sağlama açısından önemli olabilirler.

Antonio Casilli
Image caption Antonio Casilli

O zaman devletler, hükümetlerin kitlesel gözetleme sistemlerini uygulamak için bu tip krizlerden faydalandıklarını mı düşünüyorsunuz?

Evet, kesinlikle artık çok da gizli olmayan, kitlesel gözetim politikalarını uygulamaya çalışıyorlar. Aslında zaten bu tip yöntemler vardı. Hükümetlerin, siyasi partilerin, özel şirketlerin bu yöntemlere başvurduklarının farkına varmak için Edward Snowden veya Cambridge Analytica gibi krizleri beklememize gerek yok. Ama bu krizler hükümetler ve kuruluşlar tarafından gözetim yöntemlerini dayatmak için bir fırsat olarak görülüyor. Covid-19 salgını da bu krizlerden farklı değil.

Drone uçurmak, hayata müdahale eden cep telefonu uygulamalar dayatmak, bunlar demokrasiye tehdit oluşturuyor. Zira bu teknolojilerin üreticileri de genelde hükümetlere yakın şirketler oluyor.

Kitlesel gözetim sistemleri üreten şirketler demokratik yapılara girebilmek için başarılı lobi faaliyetleri yürüyor. Yüz tanıma teknolojileri, akıllı şehirler gibi teknolojilere karşı bazı sivil toplum kuruluşları da farkındalık yaratmaya çalışıyor.

Bunlar gizliliğin ihlali, bireysel hakların ihlali gibi görülebilir ama diğer yandan da insanlar ölüyor ve Covid-19 salgınında da bazıları çıkıp “Ben gizliliğimden ödün vermeye hazırım, yeter ki devlet beni korusun” diyebiliyor. O zaman bu nasıl dengelenebilir?

Tam da bu nedenle, ölüm korkusu nedeniyle, insanlar gizliliklerine daha çok değer vermeli, sahip çıkmalı. Gizlilik, yalnızca otoriter rejimlere karşı güçlü bir araç değil, aynı zamanda sağlığınızı da koruyan bir şey.

Tıbbi gizlilik ilkesi vardır mesela. Tıbbi sorunların, bilgilerin, hastalıkların teşhir edilmemesi hakkı vardır çünkü size karşı ayrımcılık amaçlı kullanılabilir. Şimdi ise, tıbbi gizliliğe ciddi tehditler oluştuğunu görüyoruz.

Koronavirüs kapanların teşhir edilmesi, kamuya duyurulması yalnızca tehlikeli değil aynı zamanda ayrımcılığa da neden olabilecek bir şey. Bazı durumlarda sağlık hizmetlerine erişimi engelleyebilir, bazı durumlarda da bireylerin sağlıklarıyla ilgili bilgileri paylaşmaya çekinmelerine neden olabilir. Covid-19 hastaları ayrımcılığa uğrarsa, komşuları tarafından saldırıya uğrarsa veya kamu sağlığına erişimleri engellenirse o zaman diğer hastalar da kendi durumlarının ortaya çıkmasını istemezler.

İnsanların tıbbi gizlilik hakları korunmalı ve bu bilgiler yalnızca sağlık çalışanlarıyla paylaşılmalı, herkesle değil. Bu yalnızca sizin gizliliğinizi korumakla kalmıyor, sağlığınızı, kolektif sağlığımızı da koruyor.

Tayvan'da da cep telefonlarında takip sistemi var.
Image caption Tayvan’da da cep telefonlarında takip sistemi var.

Ama bazı durumlarda insanlar kendilerini korumak için başkalarının verilerine de ihtiyaç duyuyor olabilir? Mesela nerede çıkmış, kimde çıkmış, böylece onlarsan sakınmak isteyebilirler?

Bu, kitlesel gözetim sistemleri üretenlerin ana argümanı. Son 10 yılda da böyle oldu. “Bunu insanlar istiyor, bilgilerinin açığa çıkarılmasından memnunlar” diyorlar. Facebook da bunu diyordu 10 yıl önce. Ama hayır. İnsanlar bilgilerinin, verilerinin açığa çıkmasından, paylaşılmasından memnun değil. Cambridge Analytica olayı da bunu gösterdi.

Bir de veri toplayıp paylaşanlar “Bu sizin kendi iyiliğiniz için” diyor. Hayır, bunu yalnızca otoriter rejimler söyler. Özellikle kitlesel gözetim araçları üretip bu yöntemle zengin olanlar söyler.

Bir de en tehlikeli bakış açılarından biri ‘koronavirüsle mücadele ile gizlilik hakkı arasında denge sağlamaya çalışmak’. Bu elmalarla, armutları, birbirleriyle hiçbir ilgileri olmayan meseleleri karşılaştırmak demek.

Koronavirüs ile gizlilik farklı şeyler. Gizlilik, temel bir özgürlük hakkıdır, dolayısıyla korunmalıdır. Herhangi bir şekilde aşağı çekilemez, çünkü temel bir haktır.

Avrupa’da bireysel verilerin korunmasına yönelik ciddi politikalar var ama şimdi Avrupa ülkeleri de Rusya ve bazı Asya ülkeleri gibi koronavirüsle mücadelede cep telefonlarından izleme yöntemlerinin kullanılıp kullanılamayacağını tartışıyor. Genel olarak tüm dünyada George Orwell’in distopyası ‘Big Brother’ (Büyük Birader) gibi bir durumla karşı karşıya kalabilir miyiz?

Daha da kötüsü ‘Big Mother’ (Büyük Anne) olacağız sonunda. Herkes Çin ve Rusya’yı ‘kötü adamlar’ olarak öne çıkarıyor. Evet, Moskova’daki yüz tanıma sistemi çok ürkütücü veya Çin’de uyguladıkları sosyal takip sistemleri korkunç ama İngiltere veya Fransa ve ABD, İsrail de aynı şekilde ‘kötü’. Çünkü bu teknolojilerin, devasa kitlesel gözetim sistemlerinin ana üreticileri bu ülkeler. Fransa, İngiltere ve ABD’de de sistematik olarak gizlilik ihlalleri yapılıyor.

‘Palantir’ (Avrupa ülkelerinin koronavirüs verileri toplamak için görüştüğü öne sürülen veri analizi şirketi) bir Rus şirketi değil, bir Amerikan şirketi. Kurucusu da büyük bir Trump destekçisi olan Peter Thiel. Bu mesele demokrasinin yozlaşması, kurumsal çıkarların hükümet işlerine girmesi meselesidir. ‘Big Brother’ olayı zaten birçok alanda kitlesel gözetim açısından var. Ama artık, büyük şirketlerin çıkar ilişkisi içerisinde hükümetlerin içine sızdığını görüyoruz.

cep telefonu

Siz ‘dijital işgücü’ üzerine de çalışmalar yapıyorsunuz. Şimdi koronavirüs salgını nedeniyle birçokları evlerde dijital çalışma ortamına girmişken, birçokları da hala dışarıda ve bazıları da bu sisteme geçemedikleri için işlerini kaybetme riskiyle karşı karşıya. Bu iş gücündeki eşitsizlikler açısında ne anlama geliyor?

Dünya nüfusunun neredeyse yarısı karantinada. ABD’de Gallup araştırma şirketinin yakın zamanda yaptığı bir ankete göre bu durumun, koronavirüse maruz kalma riski olanlarla olmayanlar arasında sınıfsal farklar var. Daha düşük gelirli işlerde çalışanların bazıları fiziksel teması daha yüksek olan işlerde çalışabiliyor.

Dolayısıyla evden de çalışmaları mümkün olmuyor. Diğer yandan orta sınıf, üst sınıf daha yüksek gelir sahibi olanlar ise uzaktan çalışma sistemine geçebiliyor. Zaten Avrupa’da, ABD’de bu kişiler daha karantina, tecrit uygulamaları başlamadan evlerine kapandı.

Tabii ki sınıfsal nedenler var, işçi sınıfları tehlikelere karşı daha az korunaklı olabiliyor veya güvenlikleri daha zayıf olabiliyor. Ama sınıf her şeyi açıklamıyor.

Bazı meslek grupları da tehlikelere daha açık. Örneğin sağlık çalışanları, doktorlar. Gelir seviyeleri yüksek olabilir ama risk altındalar.

Evet, zengin ile yoksul arasında büyük bir fark var ama mesafelerin belirlediği işler arasında da fark far. Grafik tasarımcısı, avukat gibi meslekler fazla fiziksel temas gerektirmeyen meslekler. Koronavirüs salgınıyla, fiziksel temas gerektirmeyen bu mesleklerin de daha hızlı ‘dijitalleştiğini’ gördük.

Ama bu dijitalleşmeyle oluşan Uber, Deliveroo gibi platformlarda çalışanlar ise sosyal sigortaları ve sosyal güvenceleri açısından yeterince korunmuyor. Resmi sözleşmeleri bile yok çoğu zaman. Ayrıca da fiziksel risklere karşı daha korunaksız kalıyorlar.

Koronavirüs ilüstrasyonu önünde zoom uygulaması olan cep telefonu görüntüsü
Image caption Zoom video konferans uygulamasının kullanıcı sayısı ve piyasa değeri arttı.

O zaman bu hızlı dijitalleşme kendi kurbanlarını da mı yaratmış oluyor?

Evet, teknoloji daha önce de var olan sınıfsal ve istihdamdaki bazı farklıları ortaya çıkarıyor. Bazı akımları abartma eğilimi de var. Ama bu teknolojiler toplumda ‘yanlış giden şeyleri düzeltme’ vaadiyle bizlere sunuldu. “Herkes özgürce çalışacak, herkes istediğini yapabilecek” fikirleri ortaya çıktı.

Ama sonunda bunun doğru olmadığını gördük, teknolojinin de maskesi düşüyor.

Bu evden çalışma ve dijitalleşme gelecekte çalışma tarzı anlayışımızı nasıl değiştirecek? Kalıcı bir uygulamaya dönüşür mü bu tarz istihdamlar?

Şimdi bazı şakalar yapılıyor: “CEOların, teknoloji vizyonerlerinin yıllarca beceremediği dijital dönüşümü koronavirüs yaptı” diye. Yani “insanların beceremediğini koronavirüs becerdi” diyenler var. Örneğin üniversiteler 10 yıldır dijital eğitimi deniyor ama hiçbir zaman tam olarak başarılı olamamıştı. Şimdi ise koronavirüs yüzünden tüm eğitim sektörü uzaktan eğitime geçti.

Veya, bazı başka ofis işleri, bakanlıklar bile ‘akıllı çalışma’ yöntemiyle uzaktan işlerini halletmeye başladılar.

Ama teknolojiler bize sunulduğunda, bize verilen sözler bunlar değildi. Video konferanslar, uzaktan eğitimler… Son birkaç günde ve haftada, bize sözü verilen teknolojilerin çok hızlı ve kötü bir şekilde uygulandığını gördük. Bu ani geçiş, altyapısı sağlam sistemler üzerine oturtulmadı.

Şirketler de bu uzaktan çalışma yöntemiyle çalışanlarını denetleyebilmek için bazı bilgisayar yazılımları satın almaya başladı. Bu da kitlesel gözetimin bir yöntemi. Uzaktan çalışma derken bunun bir gözetim ve takip sistemine dönüşebileceği hesaba katılmamıştı. İdeal olan da bu değil.

Evlere kurulan sistemler bireylerin siber güvenliği açısından bir tehlike oluştuyor mu? Zoom uygulaması giderek yaygınlaştı ama veri topladığı kaygıları da dile getiriliyor?

Zoom çok iyi bir örnek. Herkes kullanımı kolay etkin bir uygulama olarak görüyor ama altında yatan güvenlik ve gizlilik sorunları var.

Pazarlama argümanlarında söylediklerinin aksine şifreleme uygulamaları yok. Daha önce Zoom’un hassas bilgileri Facebook’la da çalıştığı haberleri çıkmıştı.

‘Veri yönetimi’ olarak tabir edilebilecek gizlilik kuralları çerçevesinde bireylerin verileriyle ne yapıldığı, kullanıcıların verilerinin tanımadıkları, bilmedikleri şirketlere satılmaması için, verilerini koruma hakkı için neler yaptığı önemli.

Zoom’un iş modeline bakarsanız, tamamen verileri Facebook, Google ve diğerlerine satmak üzerine inşa edilen bir model olduğunu görürsünüz.

Yalnızca iki gün önce veri politikalarıyla ilgili kullandıkları kelimeleri değiştirdiler ve satmadıklarını söylemeye başladılar.

Bu veriler yalnızca kişisel bilgileriniz değil, aynı zamanda IP adresleriniz. Herkes artık evlerinden Zoom kullandığı için bu da ev adreslerinizin, konumlarınızın ve kullandığınız cihazlara ait bilgilerinin toplanıyor olması demek.

Facebook sayfanız, iş vereniniz ile ilgili çok değerli bilgilerin yanlış kişilerin eline geçiyor olması çok feci bir durum. Genelde de hep, sistematik bir şekilde yanlış kişilerin yani big tech şirketlerinin eline geçiyor.

Zoom’un son dönemde piyasa değerinin neden arttığını da açıklayan bir durum. Kullanıcı sayıları, dolayısıyla topladıkları veriler arttı.

Covid-19, numérique et inégalités (interview, Libération, 25 mars 2020)

Antonio Casilli : «Le confinement se décline différemment selon sa place dans la société»

Pour le sociologue Antonio Casilli, la crise du coronavirus est révélatrice des inégalités entre ceux qui peuvent télétravailler et les employés en fin de chaîne, caissiers, livreurs ou transporteurs, dont les métiers sur le terrain s’avèrent indispensables. Malgré les promesses du tout-numérique.

25 mars 2020 à 17:11

A Paris, mardi.
A Paris, mardi. Photo Albert Facelly

Le confinement lié au coronavirus met au jour les limites de la société du tout-numérique : les visioconférences ne remplacent pas les amis, le télétravail devient pesant sans aucun contact réel, les ordinateurs tombent en panne pour ceux qui en ont. Pour le sociologue Antonio Casilli, professeur à Télécom Paris, la crise révèle une fracture sociale qui sous-tend ces inégalités numériques, entre travailleurs en bout de chaîne (caissières, livreurs, transporteurs, etc.) et cadres télétravaillant depuis chez eux, ou mieux depuis leur maison de campagne. Pour l’auteur d’En attendant les robots. Enquête sur le travail du clic(Seuil, 2019), cette crise pourrait en sus avoir une conséquence inattendue : l’intelligence artificielle, privée de ses travailleurs du clic, risque dans les prochains mois de devenir moins intelligente.

Profiter de la quarantaine, est-ce un privilège de classe ?

La quarantaine se décline différemment selon sa place dans la société. Pour ceux qui ont un capital financier qui leur permet d’avoir des biens immobiliers, des résidences secondaires, des jardins, le confinement peut se transformer en une expérience de retraite, de loisir, de déconnexion. Ce sont souvent les personnes issues des catégories sociales les plus aisées, qui sont dotées d’un capital social plus important et qui déjà, en temps normal, sont ciblées par ce discours de la «détox sociale». Cela ne change pas : le confinement est maintenant vu comme l’occasion de se décharger de cette surenchère de sociabilité à laquelle ils étaient exposés auparavant.

Mais il y a des laissés-pour-compte : des personnes qui font partie des classes populaires, qui assurent les last miles jobs [emplois du dernier kilomètre, ndlr]. Ce sont ceux qui réalisent le dernier bout de la chaîne de production ou d’approvisionnement : livrer, transporter, conduire, conditionner, vendre. lls réalisent des activités qui les mettent dans des situations de proximité avec les autres – et qui ont donc des risques de contamination plus importants.

Que révèle le confinement sur la nature de ces professions ?

La première chose est que ces métiers ne s’arrêtent pas avec la quarantaine. Ces dernières années, ces employés ont été les plus précarisés, parce qu’ils ont été exposés à une érosion de leurs droits ; ils ont souvent été transformés en free-lances précaires, ou ont été «ubérisés». Les syndicats commencent à se faire entendre, pour dire que ces situations vont bientôt devenir tragiques parce que ces travailleurs n’ont plus de source stable de revenus et vont donc être exposés à de lourdes pertes dans les mois à venir, et qu’ils n’ont pas accès aux droits sociaux, réservés aux travailleurs salariés. Leur position montre combien la quarantaine est un mécanisme social à deux vitesses.

Le personnel de santé représente aussi un exemple notable de la nécessité de protéger tout travail à forte proximité avec le public. Il faudra non seulement enrayer l’érosion de leurs acquis sociaux actée par les gouvernements de la dernière décennie, mais aussi œuvrer pour les généraliser aux autres métiers du dernier kilomètre.

L’épidémie du coronavirus fait-elle ressortir encore plus fortement les inégalités ?

Cette crise est un énorme révélateur social et économique : le masque tombe et, dans le cas de certains nouveaux métiers liés au numérique, ceux qui avaient cru être des travailleurs sublimes, des indépendants qui choisissent leur condition, doivent admettre qu’une partie de leur situation est subie. Cela a, au moins, le mérite d’alerter sur la précarisation qu’ont subie des professions comme graphiste, traducteur, designer, ces dernières années, en grande partie à cause des plateformes numériques.

En réponse à la crise, le télétravail a été présenté comme la panacée. Mais cette rhétorique a des limites. Pour pouvoir télétravailler correctement, il faut avoir un chez-soi convenable, ce qui impose d’avoir un capital économique suffisant. Pour ceux qui vivent dans quelques mètres carrés ou qui ont des situations familiales difficiles, surtout pour les femmes, le télétravail peut se transformer en une double peine : en plus de la pénibilité et des rythmes de leur propre travail dans des logements qui ne sont pas toujours adaptés, il y a le travail du suivi des enfants ou des personnes âgées à assurer en même temps.

Qu’en est-il des «microtravailleurs du Web», que vous avez étudiés dans votre  dernier livre, En attendant les robots ?

Ces personnes réalisent des tâches fragmentées pour calibrer les intelligences artificielles, souvent depuis leurs propres équipements. Même si la nature de leur métier en fait des candidats idéaux pour le télétravail ceci n’est pas le cas pour toutes les catégories de microtravailleurs. Les modérateurs de plateformes sociales réalisent des tâches qui ont un niveau de confidentialité très élevé : ils manipulent des données sensibles. Les contrats qui les lient aux entreprises – qu’il s’agisse de grands groupes comme Facebook ou de sous-traitants – contiennent des clauses de non-dévoilement très contraignantes. L’employeur leur impose de travailler à des rythmes insupportables, ils n’ont le droit d’amener ni smartphone ni de quoi prendre des notes, confidentialité oblige. Ils sont presque dans une situation d’enfermement. C’est pourquoi ils ne peuvent pas télétravailler, même en cette période exceptionnelle : ils sont, pour certains, obligés de se rendre sur leur lieu de travail, quand les cadres de la même entreprise peuvent rester chez eux.

Les microtravailleurs sont aussi des travailleurs du dernier kilomètre dont on ignore l’utilité profonde. Il ne s’agit pas du dernier kilomètre de la chaîne de livraison, mais des services numériques. Ce sont les personnes qui s’occupent d’adapter le modèle idéal d’un logiciel, comme votre GPS ou votre système de ventes en ligne, à la condition particulière de son utilisateur. Ils améliorent l’intelligence artificielle, calibrent les algorithmes. S’ils cessent de microtravailler, parce qu’ils sont contaminés ou obligés d’arrêter leur activité à cause du confinement, alors, toute cette chaîne de production de l’intelligence artificielle s’interrompt. La communauté universitaire l’anticipe déjà : la quarantaine provoque la rupture de certaines chaînes de production des données. On anticipe donc que les intelligences artificielles seront, pour ainsi dire, un peu moins intelligentes dans les mois à venir. Cela peut vouloir dire que votre enceinte connectée fera des recommandations musicales moins performantes. Mais cela peut aussi avoir des conséquences plus graves : influer sur des décisions de justice dans certains pays ou déterminer si un crédit vous sera accordé ou non.
On voit là les limites de ceux qui recommandent, autant au niveau du gouvernement français que de l’industrie, d’utiliser davantage de technologie intelligente pour faire face à l’épidémie.
En somme, le virus montre toutes les failles de l’univers technologique lisse et perfectionné que certains se plaisent déjà à imaginer déjà en place, et rend flagrant le fait que l’intelligence artificielle n’est pas autonome mais nécessite une quantité de petites mains pour fonctionner.Nicolas Celnik