admin

Mi texto ‘Anarquismo de plataforma’ publicado por Barbarie.lat (16 enero 2023)

La web cultural chilena Barbarie.lat publicó mi texto “Anarquismo de Plataforma”.

Anarquismo de plataforma: contra Bezos, Musk y Zuckerberg

En su libro Esperando a los robots, el sociólogo italiano Antonio A. Casilli descubre el trabajo humano y precario que hay detrás de la inteligencia artificial y muestra la distancia que existe entre el ideal de la «economía colaborativa» y la realidad de los «proletarios del clic». Invitado a La noche de las ideas el sábado 21 de enero, en estas respuestas el autor reflexiona sobre «trabajo fantasma», pandemia y digitalización, el sueño de un internet democrático, la retórica de la automatización, el extractivismo y otros costos ocultos, y sobre qué hacer frente al dominio de los oligopolios digitales.

La inteligencia artificial actual se basa en una economía política capitalista que existe hace varios siglos. La novedad reside en su tamaño e intensidad. La ancestral deslocalización de procesos industriales a países de renta baja se ha modernizado y realizado a una velocidad y escala que habrían sido inimaginables hace uno o dos siglos. Es el capitalismo con esteroides y, a través del trabajo del clic genera «trabajo fantasma».

En los años 80, Ivan Illic introdujo este concepto, y a finales de la década de 2010 la antropóloga Mary Gray lo amplió para describir el trabajo necesario para entrenar algoritmos, para asegurarse de que el asistente vocal de su smartphone entiende lo que usted dice, etcétera. No es el trabajo de ingenieros y desarrolladores de software muy bien pagados, sino el trabajo no reconocido de millones de trabajadores del clic repartidos por todo el mundo.

*

Cuando titulé mi libro Esperando a los robots (En attendant les robots, en francés) no estaba pensando en Constantino Kavafis y «Esperando a los bárbaros», sino en Esperando a Godot, de Samuel Beckett. El protagonista del poema de Kavafis espera a una horda de extranjeros peligrosos. Los bárbaros representan un enemigo amenazador. No es lo que yo pretendía transmitir. Al elegir el título, pensé en algo mesiánico y trascendente, como la promesa de la tecnología. Beckett describe a sus personajes como vagabundos, dos marginales, a la espera de una figura paterna. El nombre Godot implica la anticipación de algo trascendente («God»). La tecnología actual se ha convertido en un juego de espera, una anticipación de algo grandioso que nunca llega a suceder. Toda automatización es incompleta. La inteligencia artificial es siempre menos inteligente de lo esperado. El cumplimiento de cada promesa siempre se pospone. Por ahora, las tecnologías autónomas siguen siendo horizontes lejanos.

Como sociedad, se nos vendió la promesa de la tecnología para calmar nuestra frustración existencial colectiva. Pero también para calmar las quejas y reivindicaciones de quienes sufren injusticias y explotación. Nuestro sueño robótico es el opio moderno de las masas, una manera de pacificarlas para que no luchen por sus derechos. Es necesaria una distribución más equitativa de la riqueza producida por estas tecnologías.

*

Un tipo especial de digitalización, la plataformización, coincidió con la crisis sanitaria. Los grandes oligopolios centralizados impulsan esta visión. Empresas como Amazon, PedidosYa, TikTok, Zoom, etcétera, han ofrecido soluciones comerciales fácilmente reconocibles. Estas marcas se han convertido en sinónimo de digitalización, oscureciendo así otros enfoques. Por ejemplo, la crisis no coincidió con grandes inversiones gubernamentales en infraestructura digital. Tampoco se produjeron grandes esfuerzos de la sociedad civil para crear soluciones digitales populares y no comerciales. Por el contrario, triunfaron las aplicaciones comerciales, anunciadas por las grandes plataformas. Por ello, la adopción de estas tecnologías ha sido profundamente desigual. No todo el mundo se beneficia de estas tendencias tecnológicas.

Un ejemplo perfecto es el teletrabajo. En primer lugar, el trabajo a distancia no se ha generalizado. De hecho, la pandemia ha demostrado que la mayoría de los trabajos no pueden realizarse a distancia. Durante los periodos de confinamiento más graves, solo el 25% de los trabajos podían realizarse desde casa. Estas cifras son las mismas en Sudamérica, Europa y Norteamérica. Como resultado, existe una desigualdad entre quienes pueden trabajar desde casa y aquellos cuyos empleos requieren proximidad física, que se ven más perturbados por los medidas de contención. Los empleos que entran en esta última categoría son los esenciales: trabajadores de hospitales, de la construcción, de la producción alimentaria, etcétera. Cuanto más vitales son, más vulnerables parecen ser.

Hay otros tipos de desigualdades que también pueden agravarse. Para teletrabajar se necesita internet estable y una vivienda cómoda, por lo que las personas de barrios empobrecidos o zonas rurales están en desventaja. En segundo lugar, existe una desigualdad entre sexos: las mujeres siguen realizando más tareas domésticas y de crianza que los hombres. Conciliar el trabajo y la vida familiar es extremadamente difícil para una mujer que trabaja a distancia.

*

Aunque se anuncian como limpias y ecológicas, estas tecnologías se basan en costosas y largas cadenas de suministro. Contribuyen a un sistema económico de desigualdad y explotación no solo de los recursos naturales, sino también de los humanos. Digamos que producen varios tipos de residuos, unos medioambientales y otros sociales. La contaminación informática también puede considerarse un problema: spam, fake news, ciberanzuelos.

Los movimientos sociales que luchan contra estos costos ocultos de nuestras tecnologías surgen en los países que se encuentran en la encrucijada de estas cadenas de suministro de datos, trabajo y recursos naturales. Las huelgas en China, en 2022, en la mayor fábrica de iPhone del mundo, dan un claro ejemplo de un país que acoge a grandes masas de trabajadores que producen equipos y objetos tecnológicos como smartphones y tabletas. Dada la explotación de estos trabajadores, es inevitable que surjan conflictos laborales.

Además, surgen tensiones políticas, sociales y económicas en los países que albergan los «sustratos minerales» de estas tecnologías. Me refiero a los minerales estratégicos situados en el Sur global. Por ejemplo, el triángulo del litio entre Chile, Argentina y Bolivia. O el cobalto, extraído en países africanos como la República Democrática del Congo y Madagascar. Estos minerales son vitales, porque son esenciales para la producción de baterías, dispositivos y equipos.

*

No hay por qué considerar a la Unión Europea la única campeona de la regulación de internet. Varios países asiáticos y africanos han promulgado recientemente leyes antimonopolio y de protección de la intimidad. Sin embargo, la Unión Europea es muy eficaz a la hora de publicitar sus propios esfuerzos para regular el poder excesivo de las multinacionales de internet. La supuesta primacía europea es muy paternalista. Europa no es un faro de integridad. Sus leyes están destinadas en gran medida a proteger a las empresas europeas de los competidores estadounidenses y chinos. Si a las empresas europeas se les exigieran los mismos niveles de responsabilidad y transparencia que a sus homólogas extranjeras, ¿qué gracia tendría?

La pregunta «¿qué hay que hacer ahora?» no puede responderse con una regulación desde arriba, sino reconociendo las luchas en curso. Los conflictos y las formas de solidaridad entre usuarios no solo se dan en Europa, sino también en Sudamérica o Asia. No siempre las reconocemos, ya que no siempre adoptan la forma de un manifiesto o una carta. Mis colegas y yo realizamos recientemente un análisis comparativo de los trabajadores de plataformas en México, Venezuela y Argentina. Fue sorprendente ver cómo el trabajo informal es también un lugar de resistencia y lucha para un gran porcentaje de latinoamericanos. Buenos Aires, por ejemplo, ha ilegalizado Uber, por lo que los conductores se ven obligados a idear estrategias políticas encubiertas. No pueden votar a sus representantes ni pedir directamente mejoras salariales. Sus quejas deben expresarse de manera clandestina e informal: creando cuentas falsas, aceptando solo pagos en efectivo que no puedan ser rastreados por Uber, etcétera.

Estas actividades pueden interpretarse como sabotajes suaves, o incluso como formas embrionarias de conflicto. Sin embargo, son métodos de acción política en toda regla. La razón por la que no podemos reconocerlos es que nuestra sensibilidad política sigue dominada por las ideas de acción industrial del siglo XX: un conflicto organizado con reivindicaciones explícitas y un repertorio claro de argumentos. Quizá deberíamos actualizar nuestro software político, por así decirlo. Tenemos que empezar a identificar la acción política entre los usuarios no organizados de plataformas como un movimiento. Aunque no tengan reivindicaciones claras y no se guíen por una estrategia estable, son movimientos de trabajadores. Su trabajo es atípico, no clásico, barroco, y su acción política refleja estas características.

*

Condenar las ideologías explotadoras de las plataformas digitales no significa apelar a una estéril política del resentimiento. De hecho, la aparición de una vasta subclase global de trabajadores digitales nos ayuda a detectar nuevas experiencias políticas en todo el mundo. Utilizar estas tecnologías para un futuro más justo e igualitario abre nuevas posibilidades. Es fascinante ver cómo toman forma enfoques conceptuales y prácticos originales sobre las tecnologías.

Por ejemplo, en todo el mundo, científicos y activistas se preguntan si el conocimiento de los pueblos aborígenes puede dar forma a nuestra visión de la inteligencia artificial. Otras veces, las luchas de las mujeres han influido en las tendencias tecnológicas recientes. Además se ha pedido a la comunidad informática que aborde las desigualdades sistémicas y estructurales hacia las personas de color. Todos estos movimientos son bastante visibles. También tienden puentes hacia movimientos ajenos al sector tecnológico, que cada vez se relacionan más con él. Antes de internet, ya existían movimientos para la protección de la privacidad, la garantía de la libertad de expresión y la inclusión de las minorías y los grupos marginados; ahora han encontrado nueva vida. Y está el movimiento obrero: pensemos en cómo los repartidores, los trabajadores de la tecnología y los de la logística han protagonizado acciones sindicales en los últimos años. El trabajo basado en aplicaciones representa una frontera apasionante para los sindicatos. No es raro que aparezcan en sectores inesperados: sindicatos de creadores de YouTube, sindicatos de privacidad de usuarios de Facebook, etcétera.

Todos estos ejemplos pueden parecer muy interesantes, aunque también bastante fragmentarios. Pero, en mi opinión, indican una tendencia global hacia una gobernanza tecnológica federada y basada en la comunidad. Me refiero a esta tendencia como «anarquismo de plataforma». Al igual que los movimientos anarquistas históricos, estas nuevas iniciativas abogan por la autogestión y la autonomía. Las plataformas digitales deben ser gobernadas por los usuarios, no por empresarios dementes como Bezos y Zuckerberg. En los últimos años han surgido modelos alternativos de gobernanza popular, cooperativas digitales, procomunes de datos, etcétera. Internet se ha convertido en un archipiélago de plataformas y aplicaciones gestionadas democráticamente por sus usuarios. Necesitamos federarlas en infraestructuras más grandes, propiedad de los usuarios. ¿Y si la campaña #WeAreTwitter que intentó comprar la plataforma en 2017 hubiera tenido éxito? ¿Podríamos tener un «Twitter del pueblo» en lugar de la versión distópica del servicio de Elon Musk?

Entrevista en el diario chileno El Mercurio (15 enero 2023)

En el diario El Mercurio, el periodista Juan Rodríguez me entrevistó en ocasión de venir a presentar mi libro Esperando a los robots. Investigación sobre el trabajo del clic (LOM Ediciones, 2022) y a participar en la Noche de las Ideas 2023.

Entrevista Antonio A. Casilli, sociólogo italiano:

Hombres y mujeres detrás de la inteligencia artificial

En “Esperando a los robots” (Lom), libro sobre el “trabajo del clic”, el autor, invitado a “La noche de las ideas”, muestra que los ingenios digitales y la retórica que los promueve ocultan labores humanas tan materiales como precarias.

Juan Rodríguez M.

Una empresa francesa, especializada en inteligencia artificial (IA), ofrece a personas adineradas productos y servicios exclusivos y personalizados, gracias a un algoritmo que rastrea la vida digital de los clientes para conocer sus gustos. Lo raro es que en la empresa no hay ningún ingeniero en IA ni tampoco un científico de datos.

¿Por qué? Porque la tecnología que ofrece no existe, “el trabajo que debería haber hecho la IA se realiza realmente en el extranjero por trabajadores independientes. En lugar de la IA, o de un robot inteligente que recopila información en la web y devuelve un resultado tras un cálculo matemático, los fundadores de la startup habían diseñado una plataforma digital, es decir, un software que envía las solicitudes de los usuarios de la aplicación móvil hacia… Antananarivo”. O sea, la capital de Madagascar, cuenta el sociólogo italiano Antonio A. Casilli en su libro “Esperando a los robots” (Lom).

Son millones en el mundo las manos, no de ingenieros ni científicos, sino de trabajadores precarizados, que hacen funcionar las tecnologías que prometen automatizar la vida. Les pagan pocos centavos por clic, dice Casilli, “a menudo sin contrato y sin estabilidad laboral. ¿Y desde dónde trabajan? Desde cibercafés en Filipinas, desde los hogares en la India, incluso desde las salas de informática de las universidades de Kenia”. “En Mozambique o en Uganda hay barrios enteros de las grandes ciudades, o de las aldeas rurales, que se han puesto a trabajar para cliquear”.

Casilli es profesor del Instituto Politécnico de París e investigador de la Escuela de Estudios Superiores en Ciencias Sociales, también de París, investiga el impacto de la cultura digital en la vida cotidiana, y es uno de los invitados a “La noche de las ideas”, encuentro que organiza el Instituto Francés, el próximo fin de semana en el Centro Cultural La Moneda (ver recuadro).

Las tecnologías digitales, explica el autor, han tenido un impacto ambivalente en nuestras sociedades. De un lado, la aspiración de los usuarios a la autonomía y la libertad, el deseo de comunicarse; del otro, los oligopolios digitales —“Amazon, Alphabet, Meta, Alibaba, Tencent, etcétera”— que se apropian de esos deseos.

“La aparición del digital labor o ‘trabajo del clic’ es una de las manifestaciones más extremas de estas tendencias”, explica Casilli. “Muchas empresas y plataformas subcontratan el trabajo a multitudes de usuarios que lo hacen gratis o por salarios muy bajos. Este trabajo en línea lo realizan aficionados apasionados, creadores, autónomos y trabajadores informales. También consumidores y usuarios de plataformas. En lugar de contratarlos, reclutarlos, formarlos y pagarles, las empresas y plataformas utilizan sistemas complejos para captar su atención. El procesamiento de datos, la curaduría, la adición de etiquetas y metadatos son los principales aspectos de este trabajo. Cada vez que resolvemos un captcha o dejamos una reseña de un producto, realizamos este tipo de trabajo. Como usuarios de Google o Amazon, hacemos esta labor digital de forma gratuita, mientras que el resto trabaja por tarifas muy pequeñas, uno a mil pesos por clic”.

—Entonces, como dice usted, son los humanos los que le están quitando el trabajo a los robots.

“La IA se vende como una especie de magia: coches que se conducen solos, objetos que saben lo que quieren sus usuarios y ordenadores que aprenden más rápido que los humanos. Nos prometen máquinas sobrehumanas. Sin embargo, como en el Mago de Oz, los multimillonarios de la tecnología nos ordenan ‘no prestar atención al hombre tras la cortina’. Y le sorprendería saber cuántos hombres y mujeres hay detrás de la cortina de las tecnologías inteligentes. Con mi equipo de investigación DiPLab he realizado encuestas en varios países, de Egipto a Venezuela, de Argentina a Camerún. Hemos conocido a cientos de trabajadores informales que alimentan de datos a nuestras tecnologías inteligentes, a veces haciéndose pasar por aplicaciones o robots, mientras en realidad trabajan desde una pequeña habitación en la periferia de Caracas o Antananarivo”.

Ciclo de charlas en Chile sobre inteligencia artificial, trabajo y colonialidad (16-26 enero 2023)

Paola Tubaro y yo estaremos en Chile para una serie de charlas entre el 16 y el 26 de enero. Nuestros temas de investigación, que se centran en el trabajo en plataformas, inteligencia artificial, redes sociales, informalidad y colonialidad.

Lunes 16 enero 2023, 12:00, CUT, Talca — Antonio Casilli & Paola Tubaro “Plataformas digitales, trabajo en línea y automatización tras la crisis sanitaria” (CUT Talca, 1 oriente 809, Talca)

Martes 17 enero 2023, 11:00, Pontificia Universidad Católica — Paola Tubaro “Inteligencia artificial, transformaciones laborales y deslegalidades: El trabajo de las mujeres en las plataformas digitales de ‘microtareas”” (Instituto de Sociología UC & Quantitative and Computational Social Science Research Group (Campus San Joaquín), Pontificia Universidad Católica de Chile)

Martes 17 enero 2023, 12:10 Congreso Futuro, Providencia — Antonio Casilli “Trabajo global y inteligencia artificial. Los ‘ingredientes humanos’ ed la automatización” (Teatro Oriente, Pedro de Valdivia 099, Providencia)

Martes 17 enero 2023, 16:00, Universidad del Desarrollo — Paola Tubaro “Ética de la inteligencia artificial y otros retos para la investigación en redes sociales” (Escuela de Verano 2023, Universidad del Desarrollo)

Viernes 20 enero 2023, 10:00, Universidad de Chile — Paola Tubaro & Antonio Casilli “El trabajo detrás de la inteligencia artificial y la automatización en América Latina” (con Pablo Pérez y Francisca Gutiérrez, sala 129, FASCO, Av. Ignacio Carrera Pinto 1045, Ñuñoa)

Viernes 20 enero 2023, 20:00, Centro cultural La Moneda, Noche de las Ideas, Santiago — Paola Tubaro “Automatización: ¿El fin del humano?” (con con Denis Parra y Javier Ibacache, Plaza de la Ciudadanía 26, Santiago)

Sabado 21 enero 2021, 16:00, Centro cultural La Moneda, Noche de las Ideas, Santiago — Antonio Casilli “¿Qué esconde la inteligencia artificial?” (con José Ulloa, Constanza Michelson y Paula Escobar, Plaza de la Ciudadanía 26, Santiago)

Miércoles 26 enero 2023, 18:30, Santiago — Antonio Casilli, presentación del libro “Esperando a los robots. Investigación sobre el trabajo del clic” (LOM, 2021) (con Paulo Slachevsky, Librería del Ulises Lastarria, José Victorino Lastarria 70, local 2, Paseo Barrio Lastarria)

Dans La Croix, trois pages sur le micro-travail (13 déc. 2022)

Dans La Croix, la journaliste Audrey Dufour consacre trois pages au sujet du microtravail et ses liens avec l’IA. Les recherches de l’équipe DiPLab y sont mises à l’honneur. Dans un court texte, tiré de l’interview que j’ai accordé au quotidien, j’entame un débat avec le scientifique Jean-Claude Heudin.

Croix-2022

Dans l’Humanité, mon interview sur colonialité et travail du clic (9 déc. 2022)

Dans le cadre d’un grand dossier que le quotidien L’Humanité consacre aux travaux de notre équipe de recherche DiPLab, un long article dans lequel est présentée notre enquête sur la sous-traitance des données nécessaires pour produire les IA françaises à Madagascar (2022). Pour apporter un éclairage sur les liens entre travail du clic et héritages coloniaux, j’ai accordé un entretien au journaliste Pierric Marissal.

Antonio Casilli : « De sujets coloniaux à des “data subjects” »

Le partage des tâches dans l’économie de l’intelligence artificielle se calque sur des rapports de dépendance Nord-Sud, analyse le chercheur Antonio Casilli.

Antonio Casilli (1) coordonne avec Ulrich Laitenberger et Paola Tubaro l’équipe de recherche DiPLab (Digital Platform Labor) afin de mettre en lumière toute la chaîne de production humaine derrière les technologies intelligentes et l’IA. Deux régions géographiques sont étudiées : l’Amérique latine (projet CNRS Tria) et l’Afrique (projet ANR Hush), et leurs liens avec les entreprises donneuses d’ordres européennes.

Comment qualifiez-vous ces liens entre les entreprises donneuses d’ordres et exécutantes dans l’intelligence artificielle ? De la sous-traitance classique ? Du colonialisme ?

Cela reste une classique volonté d’externalisation vers des pays tiers à but de minimisation des coûts du traitement des données et des infrastructures. Les groupes occidentaux, pour développer leur sous-traitance, se sont souvent appuyés sur des entreprises structurées qui existaient déjà, par exemple dans le secteur du textile ou des centres d’appels. Dans l’Afrique francophone, on retrouve ainsi Madagascar, mais aussi le Maroc, la Tunisie, le Cameroun, le Sénégal ou la Côte d’Ivoire. Il s’est ainsi créé tout un circuit d’entraînement des intelligences artificielles. Cette sous-traitance s’inscrit dans une logique de dépendance économique qui elle-même est parfois héritée d’une longue histoire de dépendance politique. On peut alors parler effectivement de trajectoire coloniale. Mais je préfère le terme de colonialité, qui souligne l’emprise culturelle que les pays du Nord ont sur ceux du Sud.

C’est-à-dire ?

La colonialité, c’est le pouvoir de façonner l’identité des citoyens d’une autre nation. Jadis, elle les réduisait à des sujets coloniaux, aujourd’hui à des « data subjects ». Lorsqu’on regarde qui produit des données annotées, au bénéfice de qui, on voit bien qu’il n’y a pas de hasard. C’est en tout cas ce que montrent nos propres enquêtes pour l’Afrique francophone, comme celles de l’Oxford Internet Institute, qui a beaucoup travaillé les liens entre l’Afrique de l’Est, l’Inde, l’Angleterre et les États-Unis. Et les Philippines, qui étaient un protectorat états-unien.

On retrouve donc de vieilles dépendances…

Les liens culturels et linguistiques sont en effet cruciaux pour certains produits d’intelligence artificielle comme les assistants vocaux, par exemple, ou des systèmes linguistiques ou lexicaux. Beaucoup de microtravailleurs s’inscrivent à des cours de l’Alliance française ou de l’Institut Cervantès pour parfaire leur maîtrise de la langue. On retrouve, là encore, des liens issus des siècles passés. Mais on voit aussi de nouvelles dépendances de l’Ouest vers l’Est qui lient l’Égypte, les pays du Golfe et la Chine. J’ai rencontré des propriétaires de start-up dans la banlieue du Caire, où des jeunes Égyptiennes faisaient de la reconnaissance faciale pour le gouvernement chinois. Cette sous-traitance de technologies de surveillance qui consiste à identifier et traquer en temps réel, on l’a aussi rencontrée à Madagascar, comme au Venezuela.

Comme cela se passe-t-il en Amérique latine, justement ?

La colonialité des siècles passés se manifeste dans des liens entre des pays de langue espagnole et l’Espagne. Mais il y a aussi des dépendances héritées du XIXe siècle et de la doctrine Monroe, qui théorisait la domination politique des États-Unis sur tout le continent sud-américain. Aujourd’hui, l’Argentine, la Colombie et particulièrement le Venezuela produisent des données pour des entreprises américaines. Ils ont une identité économique et politique qui ne se construit que par rapport au pays le plus fort. C’est la définition même de la colonialité telle que l’a pensée le sociologue péruvien Aníbal Quijano. Concrètement, ces pays sont des sous-traitants condamnés à le rester. Leur travail sera constamment considéré comme sans qualité ni qualification. Même si nous avons rencontré des Vénézuéliens diplômés en sciences de l’ingénieur et des Malgaches diplômés de l’enseignement supérieur, ils sont réduits à faire des microtâches pour quelques centimes par jour sur des plateformes.

Y a-t-il des stratégies des entreprises donneuses d’ordres pour maintenir leurs sous-traitants en bas de l’échelle de la production de valeur ?

Les entreprises donnent le moins d’informations possibles sur l’usage qui sera fait des données. La raison officielle est que s’ils savaient à quoi est destinée l’intelligence artificielle, les travailleurs pourraient saboter le processus d’entraînement et chercher à introduire des biais spécifiques, pour des raisons économiques ou politiques. Cela peut s’imaginer si l’IA sert à de la reconnaissance visuelle pour des missiles de l’armée, par exemple. Mais, effectivement, moins les start-up donnent de détails, moins elles risquent que leurs sous-traitants s’organisent et tentent de leur piquer le marché. Cela entretient ce système de subordination.

À l’inverse, celui qui commande l’IA a-t-il connaissance de toute cette chaîne de sous-traitance ?

Pas forcément. Pour notre projet ANR Hush, nous avions interrogé des grands groupes français qui recrutaient les travailleurs de plateforme. Nous avons remarqué que les responsables marketing pouvaient décider d’acheter 10 000 clics pour une campagne de communication sans en référer aux ressources humaines, alors qu’il y a des humains derrière. Les entreprises commandent ce type de services comme si elles se payaient du matériel de bureau. Cela crée une nouvelle chape d’invisibilité sur ces travailleurs.

Entretien réalisé par Pierric Marissal

Dans Libération (7 déc. 2022)

Dans le cadre du dossier que le quotidien Libération consacre à un “Voyage au cœur de l’IA”, la journaliste Julie Ronfaut rencontre informaticiens et sociologues (dont moi) pour parler d’automation et travail.

L’intelligence artificielle, une précarisation de l’emploi plus qu’une destruction

Entre prévisions catastrophistes et optimisme souvent intéressé, l’impact de ces technologies sur les travailleurs est difficile à prédire. Au-delà du risque d’aggravation des inégalités, c’est surtout notre dépendance qui doit être interrogée.

Quand on lui demande si l’intelligence artificielle (IA) va détruire nos emplois, GPT-3 reste prudent : «Cette question est très controversée et dépend largement des applications de l’intelligence artificielle.» Pour une réponse plus détaillée, et surtout plus intéressante, on se tournera plutôt vers les humains qui planchent depuis longtemps sur ces enjeux, En 2013, une étude publiée par l’université d’Oxford semait un vent de panique. Après avoir analysé 702 métiers, ses auteurs ont conclu que 47 % des emplois aux Etats-Unis seraient automatisables d’ici à vingt ans, grâce à des robots, des logiciels ou des intelligences artificielles. Parmi les métiers les moins à risque, on retrouvait les assistants de service social, les orthoprothésistes ou les stomatologues. Parmi les plus à risques, les télémarketeurs, les réparateurs de montres ou les agents de bibliothèque.

«Précarisation généralisée»

Presque dix ans après ces prédictions fatalistes, et parfois critiquées, économistes et sociologues du travail tentent toujours d’estimer les conséquences de la généralisation des intelligences artificielles dans nos vies. Certains de ces travaux cassent nos clichés. En 2020, Michael Webb, économiste de l’université de Standford, supposait que contrairement aux robots et aux logiciels, qui peuvent concurrencer des métiers moins qualifiés, l’intelligence artificielle menace davantage les emplois à hautes compétences, car elle ne se contente pas d’effectuer des tâches répétitives. Les travailleurs les plus âgés, qui ont accumulé le plus d’expérience et qui s’adaptent moins vite, seraient particulièrement vulnérables à ces bouleversements. Par ailleurs, en 2019, l’OCDE donnait une estimation moins dramatique que les économistes de l’université d’Oxford : «Seulement 14 % des emplois existants présentent un risque de complète automatisation, et non pas près de 50 % comme le suggèrent d’autres recherches.» Par ailleurs, 32 % des emplois pourraient «profondément changer», sans pour autant disparaître.

Intelligence artificielle

Il est donc difficile d’estimer l’impact réel de l’intelligence artificielle sur le futur marché de l’emploi, entre les pessimistes, qui craignent une explosion massive du chômage, et les optimistes, qui croient en la destruction créatrice (discours largement nourri par l’industrie du numérique) ou en l’avènement d’une société sans travail. Pourtant, certains spécialistes arguent qu’on se trompe de sujet. «Ce n’est pas l’intelligence artificielle qui menace l’emploi, c’est le capitalisme et la course effrénée aux hyperprofits», tranche Antonio Casilli, professeur de sociologie à l’Institut polytechnique de Paris. «Les investisseurs cherchent à réduire le coût de la masse salariale par différentes méthodes. Par exemple, en licenciant en masse puis en réembauchant des personnes en free-lance pour ne pas payer de cotisations sociales. On assiste aussi à la fragmentation de métiers qui, avant, étaient professionnalisants et liés à des compétences fortes. Désormais, il s’agit de microtâches séparées. Ce qu’on voit aujourd’hui c’est moins du chômage de masse qu’une situation de précarisation généralisée.»

Inégalités sociales aggravées

Dans son essai En attendant les robots (Seuil, 2019), le chercheur s’attaque justement à la «prophétie lancinante» de la fin du travail provoqué par les machines. Il y souligne que les intelligences artificielles sont des dispositifs qui demandent énormément de travail humain pour fonctionner, au-delà des développeurs informatiques qui les créent. C’est ce qu’on appelle le «digital labor». Des activités (rémunérées ou non) conçues pour enrichir des plateformes numériques, les nourrir de données, et donc leur donner de la valeur : livreur Deliveroo, travailleur du clic (qui fait des petites tâches répétitives comme de trier ou d’annoter une base de données) ou même… internaute qui s’amuse à discuter avec GPT-3, entraînant ainsi l’IA pour améliorer gratuitement ses performances. C’est un travail qui n’est pas considéré comme du travail, sans protection ni reconnaissance. Or, ce phénomène de digital labor s’accélère, particulièrement avec la crise sanitaire et encore plus dans les pays en développement. L’intelligence artificielle aggrave donc déjà les inégalités économiques et sociales, mais pas forcément comme on le croit. «Dans ce débat sur l’intelligence artificielle et l’emploi, il faut se poser cette question : quand on parle d’automatisation, de quoi parle-t-on vraiment ? s’interroge Antonio Casilli. Souvent, cela veut dire remplacer des personnes visibles par d’autres invisibles, qu’on sépare du reste du monde par un écran.»

Dans AlgorithmWatch: Why neofascists love AI (11 oct. 2022)

Josephine Lulamae interviewed me in the website of the NGO AlgorithmWatch about the a trend in European far-right policy: the preference for algorithmic solutions to social problems, such as unemployment, precarity, disability.

Italian neofascists considered building an authoritarian AI to solve unemployment. They are far from alone. – AlgorithmWatch

Back in April, the far-right Brothers of Italy party presented “Notes on a Conservative Program”. In a chapter on work, they called for an “artificial intelligence system” that “traces the list of young people who finish high school and university every year and connects them to companies in the sector.” This, the authors of the chapter wrote, would finally solve “youth unemployment,” as “the young person will no longer be able to choose whether to work or not, but [will be] bound to accept the job offer for himself (sic), for his family and for the country, under penalty of loss of all benefits with the application of a system of sanctions.” 

The proposal did not make it to the final program that Brothers of Italy published prior to the election on 25 September, when they became Italy’s largest party with 26% of the vote.

Ironically, the neofascists most likely had intended to use Artificial Intelligence to “create a fog around them, around what they are and what they want, because they want to attract a more moderate right-wing electorate,” says sociologist Antonio Casilli. Guido Crosetto, the Brothers of Italy co-founder who edited the work chapter, is not considered knowledgeable on technology, though he once tweeted about being “in favor of introducing artificial intelligence to the Ministry of Justice”. Unlike in other countries, there is no noticeable overlap between the Italian tech scene and far-right parties like Lega Nord and Brothers of Italy.

“I haven’t met a fascist geek in Italy,” Casilli tells us. (He added later, posting on Twitter, “but I’ve left the country two decades ago, and I’ve met many elsewhere in Europe.”)

Artificial Intelligence and the far-right

In his essay Ur-Fascism, Umberto Eco, who was a child during Benito Mussolini’s dictatorship, lists some of the characteristics of fascism. As well as being into a “cult of tradition” that mythologizes and idolizes the past (e.g. Mussolini’s call for a “new Rome”), fascists also – irrationally, unsurprisingly – worship technology, insofar as they believe in it as a way to reassert inegalitarianism, Eco wrote. 

In the United States, powerful people in the field of Artificial Intelligence are known to have been fascinated with extreme-right views. William Shockley, also known as Silicon Valley’s first founder, was an ardent eugenicist. Another AI pioneer, Stanford professor John McCarthy, believed that women were biologically less gifted in math and science. In 2020, the founder of face recognition firm Clearview AI collaborated with far-right extremist Chuck Johnson in the development of Clearview AI’s software. A few weeks later, the CEO of the AI surveillance firm Banjo was exposed to be a former member of the Dixie Knights of the Ku Klux Klan, who in 1990 was charged with a hate crime for shooting at a synagogue. (This revelation lost the company a contract with Utah’s Department of Public Safety.) 

In 2016, one of the groups that far-right provocateur Milo Yianoppolous featured in his (ghostwritten) Breitbart “guide to the far-right” were the “neoreactionaries”: folks who subscribe to the political philosophy that democracy has failed and a return to authoritarian rule is required. In her essay “The Silicon Ideology”, critic Josephine Armistead describes one of the neoreactionary fantasies to be aristocrats or monarchs in a world ruled by a tech CEO or a super-intelligent AI. 

An early incubator of these ideas was LessWrong.com, a discussion forum created by the California-based Machine Intelligence Research Institute (MIRI), which holds – without proof – that a general AI with potential for world domination will be created. People associated with MIRI “do basically no research and tell scary stories about how AI will turn us all into paper clips,” says researcher David Gerard, “It’s a huge distraction.” 

Back in 2010, some LessWrong users were chatting about how to live forever by being reincarnated on a hard drive by a godlike AI. Then a man called Roko Mijic – a self-described “tradhumanist” barred from MIRI events for sexual harassment – posted the argument that anyone who imagines this future “AI god” but doesn’t help fund its development risks one day being tortured by it. Several users had breakdowns. Famous MIRI donors include tech mogul Peter Thiel and cryptocurrency founder Vitalik Buterin. “They’re reactionaries whose version of libertarian economics ends at neofeudalism with them on top,” Gerard says.

“Algorithmic solutions” to unemployment in the EU

According to Casilli, the Brothers of Italy party’s “Artificial Intelligence” proposal actually has a lot in common with previous proposals for using automated systems to tackle or manage unemployment that have been made by center-right or liberal parties in other countries of the European Union. 

For example, in 2014, the then-liberal Polish government introduced a ranking system for job centers to use to decide how to best allocate welfare resources. The centers were widely regarded as overworked and short on time to pay attention to people who were registering there as unemployed. For the scoring system, information was gathered from people who registered as unemployed (age, duration of unemployment, etc.) The system was then used to sort them into three categories, which determined how much help a jobseeker received. Single mothers, people with disabilities or who lived in the countryside disproportionately ended up in the third category, which in practice received little help from job centers, as this category was considered “not worth investing in”. And, similarly to the Brothers of Italy proposal, it was hardly possible to appeal against the algorithm’s decision. The system was scrapped in 2019. 

Meanwhile in 2017 France, Emmanuel Macron was elected president and promised to turn France into a “startup nation.” Around the same time, a 24-year-old “young genius” businessman called Paul Duan started a public relation blitz. He said he could reduce unemployment by 10% by designing an algorithm that – similarly to the Brothers in Italy proposal – would help people find jobs by matching them with potential employers and assisting them through the application process. Years later, the public administration that originally commissioned the project issued a report to say that the algorithm to match jobseekers with open positions does not work.

“This kind of algorithmic solution to unemployment shows a continuum between far-right politicians in Italy, politicians in Poland and center-right politicians like Macron,” says Casilli. He adds, “They are different shades of the same political ideology, some are presented as market-friendly solutions like the French one, others are presented as extremely bureaucratic and boring like the Polish one, and the Italian proposal, the way it is phrased, is really reactionary and authoritarian.”

edited on October 11 to better reflect Mr. Casilli’s position

[Podcast] Interview dans l’émission “Un monde nouveau” (Radio France Inter, 25 juill. 2022)

Quels hommes se cachent derrière les robots ? Réponses avec le sociologue Antonio Casilli, professeur à l’Institut Polytechnique de Paris et spécialiste de nos usages numériques.

Avec

  • Antonio Casilli Professeur à Telecom Paris, Institut Polytechnique de Paris

Sociologue d’une modernité liquide, il a fait de nos vies numériques un champ d’analyse très concret et interroge ce que les nouvelles technologies font aux humains de corps et d’esprit ! Antonio Casilli est notre invité : professeur de sociologie à l’Institut Polytechnique de Paris, il est l’auteur d’En attendant les robots, paru au Seuil et a participé à la série documentaire Invisibles, les travailleurs du clic, sur France 5, disponible sur la plateforme France TV Slash.


Le quotidien britannique The Guardian rapporte une histoire un peu effrayante d’attaque de robot. En marge d’un tournoi international d’échecs à Moscou, un robot joueur a été mis à disposition. Un petit garçon, qui figure parmi les meilleurs joueurs de la capitale russe dans la catégorie des moins de 9 ans, a voulu tester la machine. Le robot, perturbé par sa rapidité d’exécution, lui a vivement attrapé les doigts. Sur une vidéo, l’on constate que le robot met du temps à lâcher l’enfant et que l’intervention d’un adulte est nécessaire.

Le résultat est une fracture et un plâtre. L’enfant a tout de même pu participer au tournoi le lendemain, à l’aide d’une attelle, mais ses parents envisagent des poursuites judiciaires contre le fabricant du robot.

Dans l’émission “Un nouveau monde”, le sociologue franco-italien Antonio Casilli revient sur cet événement.

L’enfant mis en cause

Étonnamment, c’est l’enfant qui a été mis en cause par les organisateurs du tournoi dans cet événement, car son comportement serait sorti du cadre établi. Sergey Smagin, vice-président de la Fédération russe des échecs, auprès du média russe Baza, justifiait cet acte ainsi : “Il y a des règles de sécurité et il semblerait que l’enfant ne les ait pas respectées. Quand il a entrepris son action, il n’a pas réalisé qu’il devait d’abord attendre. C’est un événement rarissime. Le premier de ce type à ma connaissance.”

Le sociologue spécialisé dans l’analyse des nouvelles technologies Antonio Casilli s’étonne que ce soit le geste de l’enfant qui soit d’abord mis en avant :

“C’est intéressant de remarquer la réaction des organisateurs de ce tournoi d’échecs qui ont tout de suite mis la faute sur l’enfant en disant que c’est lui qui avait commis une erreur parce qu’il avait été trop rapide, plus rapide qu’une machine intelligente parce que cet enfant, c’est l’un des meilleurs champion d’échecs russes de moins de neuf ans. Donc il est plus rapide et plus intelligent que la machine. C’est un joli échec pour cette machine qui joue aux échecs, c’est-à-dire que c’est un fail.”

Cette machine, moins intelligente que cet enfant, n’a pas été blâmée. L’aurait-t-elle compris… Mais comment un tel incident a-t-il été possible ?

Un univers trop complexe pour l’intelligence artificielle

Antonio Casilli explique que ces machines peuvent agir et intervenir dans un cadre précis, mais dès lors que l’on sort de ce cadre, l’univers devient trop complexe :

“Ces machines sont pensées et imaginées pour évoluer dans ce qu’on appelle, en mathématiques, des ‘espaces discrets’. Les échecs sont un cas classique. Vous avez 64 cases, 32 pièces et rien de plus. Mais l’univers est beaucoup plus complexe que ça. Il y a beaucoup plus de places que 64 cases dans l’univers et beaucoup plus de choses que 32 pièces. Et donc, parfois, un doigt peut, disons s’insérer dans la machine, et malheureusement aussi blesser en passant.”

Doit-on avoir peur des machines ?

La peur des machines, qui pourraient prendre la place des humains, peut avoir des liens avec la politique et cette idée totalement abjecte d’un “grand remplacement”, comme l’explique Antonio Casilli :

“La rhétorique du remplacement est une rhétorique qui a des échos, hélas politiquement, très problématiques. Le grand remplacement robotique se fait écho de certaines peurs des droites extrêmes un peu partout dans le monde, d’un grand remplacement. Souvent, les personnes qui véhiculent cette rhétorique du grand remplacement robotique ont aussi des sympathies pour les autres théories du grand remplacement. Et on le voit de plus en plus avec les producteurs de technologies de la Silicon Valley, par exemple, qui se rangent de plus en plus à droite dans l’échiquier politique.”

Des dangers des nouvelles technologies et de l’intelligence artificielle

La perte de contrôle est en revanche une crainte légitime, quant aux nouvelles technologies, toujours plus présentes dans nos quotidiens. Antonio Casilli parle d’automatisation :

“Il existe une continuité entre les plateformes et les applications en général, tous ces petits bouts de logiciels qui peuplent notre vie, nous mettent au travail d’une manière ou d’une autre. Et de l’autre côté, l’automation, parce que c’est souvent avec les données extraites à partir des applications et des plateformes numériques comme Google, Facebook ou WhatsApp. et ainsi de suite, qu’on entraîne, c’est-à-dire qu’on prépare, qu’on produit l’automatisation.”

Est également pointée du doigt dans l’émission “Un monde nouveau” la pénibilité du travail de certains micro-travailleurs, des petites mains qui accomplissent en nombre des taches précises et répétitives notamment.

Antonio Casilli prend l’exemple des voitures autonomes et du travail que cela nécessite, bien souvent délocalisé :

“Ce sont des ordinateurs sur roues et elles enregistrent énormément de données qui doivent être par exemple des vidéos du monde environnant. Après, il faut que quelqu’un traite ces données. Par exemple, en ajoutant des tags comme on le fait sur Instagram par exemple, ‘ça, c’est un arbre’, ‘ça, c’est un feu de circulation’, etc. Ou alors que ces personnes dessinent les contours des voitures… Donc c’est un travail pénible, c’est un travail à faire à la main et qui est considéré comme un travail sans qualités. (…) Les grandes plateformes externalisent, délocalisent ce travail très faiblement rémunéré à des personnes qui sont souvent à l’autre bout du monde, pour les entreprises françaises, fort souvent en Afrique, ou alors dans d’autres pays francophones, et pour les pays anglophones, plutôt du côté de l’Asie, de l’Inde, vers l’Asie du Sud-Est.”

Le sociologue évoque l’idée, pour pallier ses dangers et dérives, de la “coopérativisation”. Il explique : “C’est l’idée de faire en sorte que ces grandes plateformes et ces technologies en général soient confiées aux utilisateurs. Si on devenait tous un peu propriétaires de ces technologies, on aurait aussi la possibilité de les investir de nos exigences, de nos désirs et pas seulement des désirs des billionaires qui les ont lancées au début.”