La troisième séance d’approfondissement de notre séminaire #ecnEHESS Étudier les cultures du numérique (organisée en collaboration avec la Gaîté Lyrique) e eu lieu en version wébinaire le jeudi 28 janvier 2021, de 19h à 21h.
Dans ce séminaire, Anna Jobin (chercheuse HIIG Berlin, projet Shaping AI) dressera une cartographie de l’éthique de l’intelligence artificielle à partir de son projet The global landscape of AI ethics guidelines (2019). Dans son intervention elle passe en revue des douzaines de “chartes éthiques” adoptées dans le courant des dernières années par les producteurs mêmes de ces solutions technologiques.
Dans le rôle de discutant/contrepoint, l’artiste Paolo Cirio, auteur du projet Capture censuré par le Ministère de l’Intérieur français en octobre 2020, revient sur les enjeux éthiques de la généralisation de la reconnaissance faciale. Son intervention se déroule en anglais.
L’intelligence artificielle “éthique” est devenue un nouveau centre d’attention dans les discussions publiques et académiques. Cela s’est notamment manifesté par une avalanche de déclarations de principes et directives éthiques publiées par des organisations les plus diverses ces dernières années. Qui sont ces organisations? Que disent réellement ces documents ? La roue est-elle réinventée à chaque fois ? Et quelle est la compréhension de l’éthique qui motive ces recommandations sur l’IA éthique ? Une analyse minutieuse de ces documents montre que, malgré une convergence apparente sur certains principes éthiques en surface, on ne retrouve aucun principe éthique commun. Qui plus est, ces documents présentent des divergences substantielles. Divergences concernant notamment la manière dont les principes éthiques sont interprétés, pourquoi ils sont jugés importants, à quelle question, à quel domaine ou à quels acteurs ils se rapportent et comment ils devraient être mis en œuvre.
Quel processus, et qui, définit au final ce qui est éthique dans le domaine de l’IA? Les enseignements riches émanant d’un focus sur les principes éthiques invitent de fait à élargir la réflexion sur la gouvernance de l’IA.
Gli “schiavi del clic” e il ruolo della contrattazione digitale secondo Antonio Casilli
Più che eliminare il lavoro umano, le nuove macchine digitali sembrano occultarlo: sintesi e riflessione del nuovo saggio di Antonio Casilli “En attendant les robots”, tradotto in Italia con il titolo “Schiavi del clic”.
Valutare la pertinenza dei risultati del motore di ricerca, confrontare tra loro due video di YouTube per decidere quale sia il più divertente, classificare per argomenti i post del fu Google Plus, annotare il contenuto delle app Android: sono questi alcuni degli incarichi commissionati da Google ai lavoratori attivi su “Amazon Mechanical Turk”, altrimenti noti come “Schiavi del clic” secondo l’omonimo saggio di Antonio Casilli pubblicato da Feltrinelli (traduzione dell’originale “En attendant les robots” delle Éditions du Seuil).
Mentre aspettavamo i robot sono arrivati gli “schiavi del clic”
Antonio Casilli, professore del Télécom di Parigi e ricercatore alla Scuola di studi superiori in scienze sociali, si pone in netta controtendenza rispetto alle diffuse profezie sulla fine del lavoro a opera dei robot e delle nuove intelligenze artificiali che hanno dominato larga parte del dibattito politico degli ultimi anni. In questo senso, il titolo originale dell’opera in francese rende molto meglio la realtà del vuoto di strategie e proposte che caratterizza questa interminabile fase di “attesa” dell’avvento dei robot a ogni livello della produzione industriale e dei servizi, mentre i lavoratori sono rimasti privi di tutele e riconoscimenti sociali.
“Più che a una scomparsa programmatica del lavoro – scrive infatti Antonio Casilli – assistiamo al suo spostamento e dissimulazione fuori dal campo visivo dei cittadini, ma anche degli analisti e dei politici, abbagliati dallo storytelling delle grandi piattaforme“. Se nemmeno Google può fare a meno dei quality raters per organizzare le pagine di risultati del motore di ricerca, se nemmeno Amazon può fare a meno di migliaia di ascoltatori professionisti per far funzionare l’assistente virtuale Alexa, risulta sempre più difficile credere a qualsiasi nuova promessa (o minaccia?) di piena automazione del lavoro umano.
L’esternalizzazione del lavoro “digitale” non ostensivo
Il compito degli “schiavi del clic” è quello di sopperire alle mancanze di una tecnologia troppo superficialmente descritta come automatizzata: in cambio di pochi centesimi ad attività essi valutano, misurano e correggono le scelte compiute dagli algoritmi dei motori di ricerca o dei social media, i consigli di acquisto di presunte intelligenze artificiali, prima che gli errori di queste ultime possano diventare manifesti a clienti, inserzionisti e investitori delle stesse aziende che le hanno progettate e immesse sul mercato.
Dettaglio non trascurabile, gli “schiavi del clic” non sono quasi mai ingaggiati direttamente dalle piattaforme e dalle aziende per cui prestano servizio: al contrario, essi vengono contattati e remunerati attraverso siti esterni, come TaskUs e Amazon Mechanical Turk, o attraverso agenzie di lavoro occasionale, con l’intento non dichiarato di minimizzare l’importanza dei lavoratori “manuali” per la sopravvivenza dei più importanti servizi digitali di massa. Non è un caso, infatti, che tra le richieste dei moderatori di contenuti di Facebook – rese note in una lettera pubblica rivolta a Mark Zuckerberg – vi sia quella dell’assunzione diretta in azienda.
Quando il lavoratore e il volontario sono la stessa persona
Il difficile, in questo senso, è riconoscere che il lavoro oggi non si svolge più nei luoghi e nei tempi che negli ultimi secoli lo hanno caratterizzato: prima ancora che si iniziasse a parlare in maniera diffusa di “smart working” per le professioni intellettuali, milioni di “schiavi del clic” erano già operativi da anni nel chiuso delle loro abitazioni private al servizio delle nuove macchine digitali, ubique e insonni. Privi di nome e di volto, essi possono nello stesso giorno guadagnare qualche decina di dollari revisionando le recensioni di altri su Google Maps e pubblicare sulla stessa piattaforma una recensione del tutto gratuita del loro locale preferito.
La distinzione tra lavoratore di un’azienda e contributore volontario di quest’ultima, tra addestratore remunerato di una intelligenza artificiale e cliente che migliora quest’ultima con i suoi “feedback” gratuiti, tra moderatore di contenuti di Facebook professionista e moderatore di un gruppo Facebook volontario non è mai stata così incerta come oggi, per quanto tenacemente negata e occultata. “Il lavoro del cittadino che, per puro divertimento, dedica il suo tempo e i suoi dati alle intelligenze artificiali viene esaltato – scrive Casilli – Al contrario, la laboriosa attività microremunerata che realizza le stesse mansioni viene pudicamente occultata: la sua esistenza vale come monito imbarazzante di una profezia che non si è mai realizzata“.
Ricompensare il lavoro “occulto” rinegoziando i contratti digitali
In questo senso, il libro del professore del Telecom si chiude con una serie di proposte che meritano di essere prese in considerazione: tra queste, l’invito a “rinegoziare” i termini d’uso e di servizio delle piattaforme per iniziare a riconoscere il valore economico del lavoro degli utenti, indipendentemente dal fatto che essi siano volontari o professionisti remunerati un tanto al “clic”. Se oggi, infatti, i termini d’uso e servizio vengono modificati dalle piattaforme in maniera arbitraria e approfittando dell’inerzia degli utenti, in futuro secondo Casilli si dovrebbero “considerare i termini di servizio delle piattaforme come convenzioni collettive tra proprietari [di queste ultime], gruppi di utenti e attori istituzionali, risultanti da assestamenti dialettici successivi“.
La posta in gioco non è, qui, quella di remunerare con qualche euro extra il singolo utente di Facebook che condivide i suoi dati con il social network: l’obiettivo è quello di trasformare i contratti d’uso delle piattaforme come dei veri e propri “contratti” di lavoro con persone che oggi agiscono in maniera gratuita, e un domani potrebbero farlo in maniera remunerata, passando più e più volte nel corso della loro vita da un ruolo all’altro nella catena di produzione della “finta” automazione di massa, da un ruolo all’altro dietro i molteplici schermi che rendono sempre più difficile riconoscere quali siano i lavoratori e quali i partecipanti volontari dei servizi digitali.
Finché questa distinzione tra lavoratori e volontari non diventerà del tutto trasparente, finché le piattaforme continueranno a esternalizzare il lavoro “manuale” e “umano” per minimizzarne l’importanza, finché non sarà possibile distinguere con certezza tra l’esito delle scelte di un algoritmo e l’esito delle scelte di un operatore manuale, è necessario individuare una compensazione da parte delle piattaforme nei confronti della società: un “reddito sociale digitale”, finanziato dalle piattaforme stesse, il quale, come auspicato da Casilli, possa fungere da fonte di introiti continua per quelle persone che sono state illuse e minacciate dalla promessa della piena automazione, e che lavorano gratuitamente o meno affinché questa promessa non possa mai essere smentita.
