La troisième séance d’approfondissement de notre séminaire #ecnEHESS Étudier les cultures du numérique (organisée en collaboration avec la Gaîté Lyrique) e eu lieu en version wébinaire le jeudi 28 janvier 2021, de 19h à 21h.
Dans ce séminaire, Anna Jobin (chercheuse HIIG Berlin, projet Shaping AI) dressera une cartographie de l’éthique de l’intelligence artificielle à partir de son projet The global landscape of AI ethics guidelines (2019). Dans son intervention elle passe en revue des douzaines de “chartes éthiques” adoptées dans le courant des dernières années par les producteurs mêmes de ces solutions technologiques.
Dans le rôle de discutant/contrepoint, l’artiste Paolo Cirio, auteur du projet Capture censuré par le Ministère de l’Intérieur français en octobre 2020, revient sur les enjeux éthiques de la généralisation de la reconnaissance faciale. Son intervention se déroule en anglais.
L’intelligence artificielle “éthique” est devenue un nouveau centre d’attention dans les discussions publiques et académiques. Cela s’est notamment manifesté par une avalanche de déclarations de principes et directives éthiques publiées par des organisations les plus diverses ces dernières années. Qui sont ces organisations? Que disent réellement ces documents ? La roue est-elle réinventée à chaque fois ? Et quelle est la compréhension de l’éthique qui motive ces recommandations sur l’IA éthique ? Une analyse minutieuse de ces documents montre que, malgré une convergence apparente sur certains principes éthiques en surface, on ne retrouve aucun principe éthique commun. Qui plus est, ces documents présentent des divergences substantielles. Divergences concernant notamment la manière dont les principes éthiques sont interprétés, pourquoi ils sont jugés importants, à quelle question, à quel domaine ou à quels acteurs ils se rapportent et comment ils devraient être mis en œuvre.
Quel processus, et qui, définit au final ce qui est éthique dans le domaine de l’IA? Les enseignements riches émanant d’un focus sur les principes éthiques invitent de fait à élargir la réflexion sur la gouvernance de l’IA.
Per limitare l’avidità di dati serve una fiscalità del digitale
L’obiettivo di questo “secondo giro” di interviste è, in primo luogo, analizzare le principali sfide alla cittadinanza poste dalla diffusione pervasiva delle ICT e in secondo luogo, individuare le diverse proposte teoriche e pratiche avanzate da filosofi, giuristi, politologi, nonché le azioni fattuali che sono state messe in campo da istituzioni private, amministrazioni locali e governi statali per la promozione di una cittadinanza digitale autonoma e consapevole, che porti all’elaborazione di un habeas mentem adeguato alle sfide presenti e future di una comunità politica (nel senso di polis) sempre più innervata dalle tecnologie dell’informazione e della comunicazione. (NdR)
(Sotto il video, sintesi ed elenco delle domande.)
Antonio A. Casilli è professore ordinario di Sociologia alla Telecom Paris, scuola di ingegneria delle telecomunicazioni dell’Institut Polytechnique de Paris. Dal 2007 coordina il seminario “Studiare le culture digitali” alla Scuola di studi superiori in scienze sociali di Parigi (EHESS). È fra i fondatori dell’INDL (International Network on Digital Labor). Fra i suoi libri, tradotti in diverse lingue: “Les Liaisons numériques” (Editions du Seuil 2010), “Against the hypothesis of the end of privacy” (con Paola Tubaro e Yasaman Sarabi, Springer 2014), “Trabajo, conocimiento y vigilancia” (Editorial del Estado 2018), “Schiavi del clic” (Feltrinelli 2020).
Intervista del 13 novembre 2020.
Con le tecnologie digitali non siamo usciti dalla società industriale. Abbiamo, invece, aggiunto un nuovo “livello”, rappresentato dalla “datificazione” del reale. L’informazione, rappresentata dai dati, diventa un fattore produttivo centrale. Grandi protagonisti di questa nuova fase del capitalismo sono le piattaforme, architetture informatiche, caratterizzate da vere e proprie finalità politico-programmatiche (come suggerisce la genealogia del concetto “piattaforma”). La loro filosofia si basa su tre principali idee: la condivisione libera dell’informazione, la diffusione del lavoro autonomo e l’abbandono del lavoro salariato, il superamento degli stati-nazione. Inoltre, rispetto alle imprese del secolo scorso, le piattaforme oltrepassano i confini dell’azienda in senso stretto, diventando delle aziende-mercato, e non sono più dominate dall’ossessione di produrre valore, ma di estrarre valore dai loro utenti-produttori. Alla base del capitalismo digitale, dunque, troviamo una massa di lavoratori impliciti che, in diverse forme, producono l’enorme mole di dati necessaria al funzionamento delle piattaforme. La gestione (e il controllo) dei dati diventa, quindi, terreno di contesa fra piano economico e piano politico, fra il livello dei consumi e quello della cittadinanza. Un esempio di ciò è la “fine della privacy”. Secondo i lobbisti delle piattaforme, la privacy in quanto valore politico sarebbe una parentesi storica. Ovviamente, la “fine della privacy” è commercialmente utile per le piattaforme. Al contrario, la privacy è un problema per il business model di molte piattaforme, che acquisiscono dati e li rivendono. Per i cittadini, invece, la privacy resta una delle preoccupazioni sociali principali. Lo manifestano in modo diretto, ad esempio crittografando le loro comunicazioni, oppure facendo “pulizia” dei propri dati sulle piattaforme. Le piattaforme cercano di liberare i dati, gli utilizzatori invece cercano di chiuderli tatticamente. Il GDPR europeo ha provato una sintesi fra promozione del mercato digitale e rispetto di standard minimi di protezione dei dati personali. Si tratta di un primo passo nella giusta direzione. Ma ci sono altri strumenti: ad esempio, l’antitrust, che può redistribuire il potere di mercato delle grandi piattaforme ma che può essere utilizzato anche per impedire a professionisti e lavoratori indipendenti del digitale di federarsi e sindacalizzarsi. Promettente sembra essere il settore della fiscalità del digitale. Così come è stata introdotta una tassa sulla produzione dell’inquinamento, si potrebbe congegnare una tassa sull’estrazione dei dati della popolazione di uno stato. Sarebbe un incentivo a limitare l’estrazione dei dati, perché questa avrebbe un costo maggiore rispetto ad oggi e spingerebbe le imprese digitali a soluzioni meno avide in termini di dati. È assolutamente sbagliata, invece, l’idea di retribuire gli utenti.
Queste le domande poste nell’intervista:
1.min. 0:51 – Rispetto alla società industriale, quali sono i poteri emergenti connessi allo sviluppo delle tecnologie digitali? 2.min. 4:53 –Nel tuo ultimo libro, “Schiavi del clic”, presenti il concetto di piattaforma attraverso la sua genealogia, facendone emergere l’aspetto politico. Quale è la natura essenziale delle piattaforme digitali e quali sono le varie forme con cui si declinano? 3.min. 16:57 –Fra le varie “profezie desideranti” delle piattaforme troviamo la fine dalla privacy su Internet. Questa idea ti convince? Gli individui sono pronti a sbarazzarsene o tengono ancora alla loro privacy? 4.min. 28:12 –Che ne pensi del Regolamento generale sulla protezione dei dati dell’Unione Europea? Quali sono i suoi punti di forza e quali i punti di debolezza? 5.min. 32:38 –Oltre al GDPR, quali sono gli altri strumenti per limitare la raccolta dei dati personali e la profilazione dei comportamenti? Si pensi, ad esempio, all’antritrust. 6.min. 41:05 –Considerato che i dati raccolti dalle piattaforme dipendendo dal “lavoro volontario” in rete degli utenti, questi ultimi dovrebbero essere “retribuiti”? È una operazione auspicabile e realizzabile? 7.min. 49:02 –I “diritti digitali” di cui si discute da alcuni anni sono molti: oblio, identità digitale, accesso, anonimato, partecipazione eccetera. Quale è il diritto più importante nella società digitale? 8.min. 52:49 –La “rivoluzione digitale” sollecita in molti modi la democrazia. Quale sarà il suo futuro?
J’ai le plaisir d’annoncer la sortie de notre série documentaire France Télévisions Invisibles – Les travailleurs du clic. 90 minutes d’histoires en 4 épisodes, pour zoomer sur Uber, Facebook, Apple, le microtravail… Et surtout le travailleurs qui luttent, s’organisent, brisent le silence. La série a été réalisée par Henri Poulain, co-écrite avec Julien Goetz, avec mon expertise éditoriale—et surtout avec la confiance et le soutien de dizaines de livreur•ses, modérateur•rices, micro-travailleur•ses, syndicalistes en Europe et en Afrique. Il s’agit du premier documentaire du genre qui ne se limite pas à décrire le quotidien des “petites mains de l’IA”, mais se concentre sur les stratégies de résistance et les conflits pour la reconnaissance de ces nouveaux métiers.
Coursiers à vélo, en scooter ou en voiture pour une plateforme de livraison de repas à domicile. De l’autre côté de nos applications, ces travailleurs du clic se démènent pour satisfaire nos besoins.
Les algorithmes répondent à nos envies, à nos désirs. Et si de vraies personnes étaient employées à jouer les robots en attendant que ceux-ci existent réellement ?
Une infime quantité des contenus publiés sur les réseaux sociaux nous font voir le pire. Heureusement, des filtres automatiques modèrent ces contenus. Automatiques, vraiment ?
Au-delà de ces histoires singulières, des systèmes émergent et se dessinent. Le sociologue Antonio Casilli nous explique une part de ce monde moderne et de ses conditions de travail en apparence novatrices.
La soirée de l’avant-première au Forum des Images (4 févr. 2020)
Une avant première du documentaire “Invisibles”, a eu lieu au Forum des Images à Paris, le mardi 4 février à 20h. A la présence de presque 500 personnes, avec le réalisateur Henri Poulain et Antonio Grigolini (directeur de la chaine France Télévisions Slash), nous avons raconté un an de travail, une cinématographie et une écriture d’enfer, et de comment la recherche universitaire a pu nourrir un documentaire grand public.
Le public, envouté et réactif, a assisté à la projection des 4 épisodes, émaillés d’applaudissements, des rires, des “wah” (oui, beaucoup d’émotions, ce documentaire).
A la fin, nous avons eu le plaisir d’accueillir les travailleuses et les travailleurs, insurgés, syndiqués, lanceurs d’alerte venus de partout en Europe, d’Espagne, d’Irlande, pour témoigner de leur engagement et de leur détermination à dénoncer les conditions de travail au sein des plateformes de digital labor. C’est avec leur parole que la soirée s’est terminée : un débat riche et vivant, à l’occasion duquel iels ont répondu aux question du public.
El diumenge 24 de novembre, a les 21.55, “30 minuts” emetrà la producció pròpia “Proletaris online”, on s’analitzarà l’anomenada economia de plataforma, un nou mercat laboral d’ingressos intermitents, en què llibertat i flexibilitat es repeteixen com un mantra però que té conseqüències imprevisibles per a l’estat del benestar.
No és el futur. És el present. Treballadors freelance, per projectes, gig economy (feines esporàdiques sota demanda), remots digitals, crowdsourcing (subcontractació de la feina a una multitud), microtreballadors… La nova economia digital està plena de paraules noves que agafen força i sacsegen el mercat laboral tradicional, el dels drets dels treballadors aconseguits amb les lluites sindicals.
La industrialització va crear el proletariat. La digitalització, el proletariat online.
El “30 minuts“ d’aquesta setmana s’endinsa en l’anomenada economia de plataforma, el model de negoci de l’era digital. Potents plataformes tecnològiques que connecten oferta i demanda i converteixen els treballadors en proveïdors de serveis. Poden ser repartidors en bicicleta amb les seves vistoses motxilles o experts programadors. Qualsevol persona que pugui fer feines esporàdiques a través d’una aplicació. Tots formen part d’aquest nou mercat laboral en què llibertat i flexibilitat es repeteixen com un mantra i en què un algoritme és qui mana.
1 La gig economy, serveis sota demanda
“Hi ha una equivocació molt gran, i és pensar que aquests models de treball van un pas al davant de la llei, com si fossin tan innovadors que la llei no s’hagués pogut adaptar a ells”. Núria Soto, exrepartidora de la plataforma Deliveroo
“El fet que visquis en una ciutat on pots guanyar-te uns 300 o 400 euros extra amb un horari totalment flexible, sense caps i a través de la teva aplicació, és bo per a la societat”. Òscar Pierre, CEO i cofundador de Glovo
Aquest any se n’ha parlat molt, de plataformes i condicions laborals, perquè les dues grans plataformes de repartiment a domicili, Glovo i Deliveroo, han hagut de defensar-se als jutjats contra la Tresoreria de la Seguretat Social, que en diverses actes d’inspecció havia dictaminat que els repartidors havien de ser assalariats i no autònoms. Hem volgut analitzar de primera mà les condicions de feina d’aquests treballadors i per això un equip del “30 minuts” ha passat hores amb ells, al carrer, durant les hores anomenades d'”alta demanda”, esperant les comandes davant els restaurants. A un costat, els llatinoamericans; a l’altre, els pakistanesos. Molts acaben d’arribar a Catalunya. Entrevistem també per recollir el seu punt de vista Òscar Pierre, CEO i cofundador de Glovo, i Román Gil, advocat de Deliveroo.
2 El microtreball
“Els microtreballadors som una gran massa de gent invisible. Som completament invisibles. És per això que és tan important que parlem als mitjans, que expliquem el que fem. I quan siguem una mica més visibles tindrem força per negociar les nostres regles”. Julie, microtreballadora
El “30 minuts” també entrevista gent que treballa a les plataformes de microtasques (com ara Clickworker, Spare5, Appen, Lionbridge o Amazon Mechanical Turk), un fenomen procedent dels Estats Units que s’expandeix per tot el món. Transcripcions, gravacions per a sistemes de reconeixement de veu, identificar objectes dins una imatge, moderació de continguts a xarxes socials, analitzar resultats dels buscadors… Les grans empreses tecnològiques divideixen la feina en petites tasques i contacten en segons amb milions de treballadors a tot el món que les executen des de casa, a tant la tasca. Intervenen en el programa el sociòleg Antonio Casilli, coautor d’un exhaustiu estudi sobre el microtreball a França, i Mary Gray, investigadora de Microsoft Research i autora del llibre “Ghost work” (“Treball fantasma”), sobre els microtreballadors als Estats Units.
3 Cap a un món de freelance?
Finalment, en el reportatge s’analitza com aquesta plataformatització de l’economia arriba també a la part alta de la piràmide. Qualsevol empresa pot contractar, a través de plataformes freelance, experts a l’altra punta del món. L’externalització d’un departament sencer a través d’una plataforma és cada cop més senzilla. I el mar de fons és un augment creixent a tot el món dels treballadors independents. Ens ajuden a treure’n l’entrellat Anna Ginés, professora de Dret del Treball d’ESADE, Luz Rodríguez, professora de Dret del Treball de l’UCLM i autora de l’estudi “Plataformes digitals i mercat de treball”, i Lucía Velasco, economista especialitzada en tecnologia que ha format part del grup d’experts que analitza l’impacte de la digitalització en el mercat laboral per a la Comissió Europea.
Hi ha un consens entre els experts que s’ha acabat la feina fixa per a tota la vida. Anem cap a feines flexibles amb ingressos intermitents, amb conseqüències imprevisibles per a l’estat del benestar.
Nous
pensons généralement que le travail numérique est externalisé dans des
machines, et que c’est là sa principale caractéristique.
Eh bien en cela nous avons tort, tant il existe sans que nous le sachions aux Philippines, au Mozambique ou en Ouganda, par exemple, des régions entières où les personnes se consacrent à faire ce que l’intelligence artificielle est supposée faire sans s’en montrer toutefois capable. Il suffit de regarder fonctionner le service lancé en 2005 l’Amazon Mechanical Turk, le Turc mécanique d’Amazon, pour s’en convaincre. Celui-ci recrute dans le monde entier des travailleurs du clic qui se consacrent à de micro-tâches comme identifier et classer des sons et des images, renommer des fichiers, faire des requêtes sur des sites dédiés ou produire des commentaires courts. Dans l’économie de la data qui se cesse de prendre de l’ampleur, on évalue en effet la valeur d’un like sur Facebook de 0,0005 dollar minimum à 174 dollars, la valeur d’un tweet quant à elle se situant entre 0,001 et 560 dollars.
Or ces « poinçonneurs de l’IA », pour reprendre l’expression du sociologue Antonio Casilli qui étudie ce phénomène de grande ampleur dans son ouvrage En attendant les robots, seraient donc comme « des milliards de petites mains qui, au jour le jour, actionnent la marionnette de l’automation faible ». Ce phénomène issu de l’émergence concomitante des plateformes mondiales et de la gig economy, notre sociologue choisit de le qualifier en tant que digital labor. Labor pour signifier une main d’œuvre qui ne peut être assimilée à un emploi salarié (dans ce cas c’est le mot work en anglais qui aurait été privilégié). Et « digital » parce qu’il s’agit bien d’une besogne que réalise le doigt, en transformant des masses d’informations à faible valeur ajoutée en données négociables sur les marchés mondiaux.
Ce livre révélateur et fort bien documenté, contredit au moins deux croyances trop souvent partagées s’agissant de l’avenir du travail : d’une part sa fin telle que la prédit Jérémy Rifkin, qui apparaît dès lors comme une vue de l’esprit. D’autre part le mythe de l’automatisation totale, qui apparaît comme inatteignable. Car celles et ceux qui fournissent le carburant aux systèmes de traitement des données, se sont certes les cliqueurs précarisés de l’hémisphère sud mais également les « produsagers », utilisateurs de Facebook ou d’Instagram, c’est-à-dire vous et moi et beaucoup d’autres. Il en sera de même pour les automobiles dites « autonomes », qui nécessiteront quand même un « opérateur de véhicules » que vous, anciens pilotes, serez bientôt.
Cette recherche héritière de la tradition « opéraïste » italienne, a aussi le mérite de lever le voile sur l’immensité du marché du fake qu’alimente l’activité à moitié secrète des « fermes à liens, les click farms. Celles-ci, chargées d’optimiser le nombre de followers d’une marque ou simplement d’entretenir le buzz, représentent un immense marché. Selon l’auteur on estimait déjà qu’en 2013 « la vente de faux followers sur Twitter représentait un chiffre d’affaires de 360 millions de dollars par an, alors que sur Facebook, les faux clics auraient généré 200 millions. » Aussi, dans une série de pages particulièrement saisissantes pour les utilisateurs de Uber, on comprend mieux pourquoi près des deux tiers de la journée d’un conducteur consiste en réalité à mettre à jour son profil, à entretenir la relation client, à sélectionner les bonnes courses et à refuser adroitement les autres, pour tenter de limiter les « dead miles » (les « kilomètres morts »). Casilli d’évoquer alors des stratégies de « rétro-ingénierie de la plateforme » de la part des chauffeurs.
A la lecture de ce livre deux sentiments l’emportent devant cette économie de la microtâche qui s’annonce. L’un qui l’emporte est certes pessimiste, qui consiste à « condamner à la précarité une partie de la force de travail globale, tout en assujettissant l’autre à un loisir producteur de valeur », pour employer une autre formulation critique de l’auteur. L’autre serait plus optimiste malgré tout : car travailler sans le savoir, produire de la valeur sans en avoir l’air, en se distrayant grâce à des interfaces « gamifiées », ou agglomérer subrepticement des collectifs de connaissances susceptibles à terme de constituer des savoirs partageables à l’infini, ne serait-ce pas entrevoir la possibilité de nouvelles formes d’organisation du travail, contributives et capacitantes, défaites des rapports de subordination du salariat traditionnel ?
Réf.
Antonio Casilli (2019), En attendant les robots, enquête sur le travail du clic, Seuil, Paris.
Ces « travailleurs et travailleuses du clic », qui sont plus de 260 000 en France et des millions à travers le monde, constituent un nouveau prolétariat, faisant le travail des robots et éduquant les logiciels d’intelligence artificielle (IA) pour quelques centimes par clic. En France, ces invisibles « néo-précaires du digital » sont majoritairement des femmes (56,1%), souvent sans réel contrat, et surtout sans stabilité d’emploi.
A l’heure des réflexions sur une IA éthique, l’étude du projet DiPlab pose clairement la question de la régulation et de la protection sociale généralement inexistante de cette nouvelle forme de travail : un défi pour les syndicats et les législateurs.
Cette première séance s’est interrogée sur la manière dont le Web, espace autrefois foisonnant et décentralisé, se reconfigure sous la concentration des services, des politiques d’utilisation et des visions développées par ces plateformes hégémoniques. À qui appartiennent les données personnelles qui les nourrissent ? Qui les utilisent et comment circulent-elles ? La soirée a proposé de cartographier les jeux d’influence et de contrôle en ligne. Elle a donné à voir comme un territoire où s’affrontent des idéologies antagonistes et des intérêts divergents.
Avec moi, Louise Drulhe, designer graphique, dessinatrice et artiste et Arthur Messaud (animateur), analyste juridique et politique de l’Association la Quadrature du Net.
