éthique

[Séminaire #ecnEHESS] Lilly Irani : Ethique et démocratie des infrastructures numériques (17 juin 2021, 19h)

Enseignement ouvert aux auditeurs libres. Pour s’inscrire, merci de renseigner le formulaire.

La dernière séance de l’année universitaire 2020/21 de notre séminaire Étudier les cultures du numérique (#ecnEHESS) aura lieu en version webinaire le jeudi 17 juin 2021, de 19h à 21h. Vous pouvez suivre cette séance, organisée en collaboration avec la Gaîté Lyrique :
– sur le site de la Gaîté Lyrique 
– sur Facebook.

Dans ce séminaire, nous aurons le plaisir d’accueillir Lilly Irani, professeure associée à l’Université de Californie, San Diego (UCSD). L’une des premières chercheuses à avoir étudié le micro-travail et co-fondatrice du collectif Turkopticon, elle est spécialiste de l’impact social de l’innovation. Ses domaines vont de l’automation, au design, aux luttes citoyennes contre la surveillance. Lilly Irani présentera ses recherches sur la “l’éthique d’en bas des technologies”, c’est-à-dire de notre capacité à créer des effets directs et institutionnels de changement dans nos vies régies par des infrastructures numériques apparemment hors de notre portée.

Dans le rôle de discutante/contrepoint, nous accueillons aussi Elisa Giardina Papa, artiste dont les travaux portent sur le genre, la sexualité et le travail en relation avec le capitalisme néolibéral et les frontières du Sud.

La séance et les échanges seront entièrement en anglais.


Lilly Irani (Université de Californie San Diego – UCSD)

Ethics from Below: Claiming Democracy Over Digital Infrastructures

Acceder ici au streaming video

Jeudi 17 juin 2021, 19h-21h

We work and live through layers of infrastructure designed and installed by companies and public agencies, often out of sight and seemingly beyond our grasp. Calls to ethics demand professionals and regulators assess the how well these technologies align with notions of the good. In this talk, I will argue that we need to go a step further to address the problem of political agency over digital infrastructures. By political agency, I mean the capacity of agents to create effects through direct and institutional action. I will motivate and elaborate this argument with two case studies: a struggle to shape public-private smart cities infrastructure in San Diego, as well as struggles to transform platform work conditions for Amazon Mechanical Turk workers.

Lilly Irani is an Associate Professor at University of California, San Diego (UCSD). She is author of “Chasing Innovation: Making Entrepreneurial Citizens in Modern India” (Princeton University Press, 2019) and “Redacted” (Taller California, 2021; with Jesse Marx). She is a co-founder of the digital worker advocacy organization Turkopticon.

[Séminaire #ecnEHESS] Shannon Vallor: Ethique de l’IA et dette morale des technologies (20 mai 2021, 19h)

Enseignement ouvert aux auditeurs libres. Pour s’inscrire, merci de renseigner le formulaire.

La nouvelle séance d’approfondissement de notre séminaire Étudier les cultures du numérique aura lieu en version webinaire le jeudi 20 mai 2021, de 19h à 21h. Vous pouvez suivre cette séance, organisée en collaboration avec la Gaîté Lyrique :
– sur le site de la Gaîté Lyrique
– sur Youtube
– sur Facebook

Dans ce séminaire, nous aurons l’honneur d’accueillir l’une des plus brillantes expertes de l’éthique des données et de l’IA, la philosophe Shannon Vallor, titulaire de la chaire Baillie Gifford à l’Université d’Édimbourg. Prof. Vallor présentera ses recherches sur la “dette morale technologique”. Les grandes entreprises du secteur technologique ont “emprunté” de la confiance aux publics pour développer des outils allant des algorithmes, à la reconnaissance faciale, aux dispositifs de traçage pour le Covid-19. Cette dette considérable semble désormais arrivée à échéance. De quelle manière vont-elles l’honorer ?

Dans le rôle de discutant/contrepoint, l’artiste Sam Lavigne, auteur de plusieurs projets sur la surveillance et concepteur, entre autres, du Stupid Hackaton.

La séance et les échanges seront entièrement en anglais.


Shannon Vallor (Université d’Édimbourg)

Technology’s Moral Debt

Acceder ici au streaming vidéo
Jeudi 20 mai 2021, 19h-21h

The humane future that champions of advanced technology once promised—one of greater leisure and equality, more enlightened minds and sentiments, and cleaner and healthier environments—has been indefinitely delayed. Instead, a growing ‘moral debt’ has been incurred by technologists as the environmental and social costs of 19th-20th century industrialization and 21st century computerization continue to accumulate, while compensating advantages are distributed increasingly unequally. Computing technologies are used to bridge or disguise ethical gaps in our institutions, rather than to design more ethical social systems. How does AI fit into this picture? Will we allow it to add to that increasingly unsustainable debt? Or might recent shifts in how we understand the ethical responsibilities of AI developers allow us to use it in ways that finally begin to pay down that debt, and fulfill technology’s unmet promise of a more humane world?

Shannon Vallor est philosophe et titulaire de la chaire Baillie Gifford sur l’éthique des données et de l’IA à l’Edinburgh Futures Institute. Ses recherches explorent l’impact de l’automatisation et de l’intelligence artificielle sur le caractère et les pratiques humaines. En 2015, elle a reçu le World Technology Award in Ethics. Elle est l’auteure de Technology and the Virtues: A Philosophical Guide to a Future Worth Wanting (Oxford University Press, 2016) ainsi que de nombreux articles sur l’éthique de l’IA.

[Vidéo] [Séminaire #ecnEHESS] Anna Jobin (ft. Paolo Cirio) : “Quelles valeurs pour l’éthique de l’IA ?” (wébinaire, 28 janv. 2021, 19h)

La troisième séance d’approfondissement de notre séminaire #ecnEHESS Étudier les cultures du numérique (organisée en collaboration avec la Gaîté Lyrique) e eu lieu en version wébinaire le jeudi 28 janvier 2021, de 19h à 21h.

Dans ce séminaire, Anna Jobin (chercheuse HIIG Berlin, projet Shaping AI) dressera une cartographie de l’éthique de l’intelligence artificielle à partir de son projet The global landscape of AI ethics guidelines (2019). Dans son intervention elle passe en revue des douzaines de “chartes éthiques” adoptées dans le courant des dernières années par les producteurs mêmes de ces solutions technologiques.

Dans le rôle de discutant/contrepoint, l’artiste Paolo Cirio, auteur du projet Capture censuré par le Ministère de l’Intérieur français en octobre 2020, revient sur les enjeux éthiques de la généralisation de la reconnaissance faciale. Son intervention se déroule en anglais.


Vers une convergence de l’éthique de l’IA

Anna Jobin (HIIG Berlin)

Zoom
Jeudi 28 janvier 2021
19h-21h



L’intelligence artificielle “éthique” est devenue un nouveau centre d’attention dans les discussions publiques et académiques. Cela s’est notamment manifesté par une avalanche de déclarations de principes et directives éthiques publiées par des organisations les plus diverses ces dernières années. Qui sont ces organisations? Que disent réellement ces documents ? La roue est-elle réinventée à chaque fois ? Et quelle est la compréhension de l’éthique qui motive ces recommandations sur l’IA éthique ? Une analyse minutieuse de ces documents montre que, malgré une convergence apparente sur certains principes éthiques en surface, on ne retrouve aucun principe éthique commun. Qui plus est, ces documents présentent des divergences substantielles. Divergences concernant notamment la manière dont les principes éthiques sont interprétés, pourquoi ils sont jugés importants, à quelle question, à quel domaine ou à quels acteurs ils se rapportent et comment ils devraient être mis en œuvre.

Quel processus, et qui, définit au final ce qui est éthique dans le domaine de l’IA? Les enseignements riches émanant d’un focus sur les principes éthiques invitent de fait à élargir la réflexion sur la gouvernance de l’IA.

Les nouveaux défis de l’analyse des réseaux (The Conversation, 2 novembre 2017)

Le 5 et 6 décembre 2017, le colloque Recent Ethical Challenges in Social Network Analysis (RECSNA17) aura lieu à Paris : une rencontre internationale et interdisciplinaire que je coorganise avec une équipe de chercheurs français et anglais. Les inscriptions sont gratuites et ouvertes jusqu’au 30 novembre.

Pour lancer le débat et pour énoncer les thématiques qui seront traitées lors du colloque, le site web The Conversation a publié une tribune que j’ai coécrit avec Paola Tubaro.

Il faut repenser l’éthique de la recherche des réseaux sociaux

(…)

“Depuis longtemps, les universitaires s’interrogent sur ces difficultés éthiques : déjà en 2005 la revue Social Networks dédiait un numéro à ces questions. Les dilemmes des chercheur.e.s sont exacerbés aujourd’hui par la disponibilité accrue de données relationnelles collectées et exploitées par les géants du numérique comme Facebook ou Google. Des problèmes nouveaux surgissent dès lors que les frontières entre sphères « publique » et « privée » se brouillent. Dans quelle mesure a-t-on besoin d’un consentement pour accéder aux messages qu’une personne envoie à ses contacts, à ses « retweets », ou à ses « j’aime » sur les murs des amis ?

Les sources d’information sont souvent la propriété d’entreprises commerciales, et les algorithmes que celles-ci utilisent biaisent les observations. Par exemple, un contact créé par un usager de sa propre initiative, et un contact créé sous le conseil d’un système de recommandation automatisé peuvent-ils être interprétés de la même manière ? Bref, les données ne parlent pas par elles-mêmes, et il faut s’interroger sur les conditions de leur usage et sur les modalités de leur production, avant de penser à leur traitement. Ces dimensions sont profondément influencées par les choix économiques et techniques ainsi que par les architectures logicielles imposées par les plateformes.

Mais une réelle négociation entre les chercheur.e.s (surtout dans le secteur public) et les plateformes (parfois émanant de grandes entreprises multinationales) est-elle possible ? L’accès aux données propriétaires ne risque-t-il pas d’être freiné, ou inégalement distribué (de manière potentiellement pénalisante pour la recherche publique, surtout quand elle est mal alignée avec les objectifs et les priorités des investisseurs) ?

D’autres problèmes surgissent dans la mesure où un.e chercheur.e peut même avoir recours à du crowdsourcing payé pour produire des données, en utilisant des plateformes comme Amazon Mechanical Turk pour demander à des foules de répondre à un questionnaire, ou même de télécharger leurs listes de contacts en ligne. Mais ces services mettent en cause d’anciens acquis en termes de conditions de travail et appropriation de son produit. L’incertitude qui en résulte entrave des recherches pourtant susceptibles d’avoir des retombées positives sur la connaissance et la société au sens large.

Les possibilités de détournement des résultats de la recherche pour des finalités politiques ou économiques sont multipliées par la disponibilité d’outils de communication et publication en ligne, que les chercheur.e.s sont désormais nombreux à saisir. Si l’intérêt des milieux militaires et policiers pour l’analyse des réseaux sociaux est bien connu (Osama Ben Laden aurait été localisé et neutralisé suite à l’application de principes d’analyse des réseaux sociaux), ces appropriations sont plus fréquentes aujourd’hui, et moins facilement contrôlables par les chercheur.e.s. Un risque non négligeable est l’usage de ces principes pour réprimer des mouvements civiques et démocratiques.”

[Read more]

"Quelle éthique dans les réseaux sociaux ?" : Antonio Casilli et Pierre Antoine Chardel au séminaire Ars Industrialis (23 avr. 2011)

Le philosophe Pierre-Antoine Chardel (Institut Télécom) et le sociologue Antonio Casilli, auteur de Les liaisons numériques. Vers une nouvelle sociabilité ? (Ed. du Seuil) interviendront dans le cadre de l’atelier “Technologies relationnelles” de l’association Ars Industrialis. Leur intervention “Corps et santé dans les réseaux sociaux : quelle éthique ?” aura lieu à 14h, samedi 23 avril 2011 à la Maison des associations du 17e arrondissement de Paris (25 rue Lantiez – Paris).

L’association internationale Ars Industrialis, “pour une politique industrielle des technologies de l’esprit”,  a été créée en 2005 à l’initiative de Bernard Stiegler. Le groupe “Technologies relationnelles” est coordonné par le philosophe Christian Fauré.