artificial intelligence

Dans AlgorithmWatch: Why neofascists love AI (11 oct. 2022)

Josephine Lulamae interviewed me in the website of the NGO AlgorithmWatch about the a trend in European far-right policy: the preference for algorithmic solutions to social problems, such as unemployment, precarity, disability.

Italian neofascists considered building an authoritarian AI to solve unemployment. They are far from alone. – AlgorithmWatch

Back in April, the far-right Brothers of Italy party presented “Notes on a Conservative Program”. In a chapter on work, they called for an “artificial intelligence system” that “traces the list of young people who finish high school and university every year and connects them to companies in the sector.” This, the authors of the chapter wrote, would finally solve “youth unemployment,” as “the young person will no longer be able to choose whether to work or not, but [will be] bound to accept the job offer for himself (sic), for his family and for the country, under penalty of loss of all benefits with the application of a system of sanctions.” 

The proposal did not make it to the final program that Brothers of Italy published prior to the election on 25 September, when they became Italy’s largest party with 26% of the vote.

Ironically, the neofascists most likely had intended to use Artificial Intelligence to “create a fog around them, around what they are and what they want, because they want to attract a more moderate right-wing electorate,” says sociologist Antonio Casilli. Guido Crosetto, the Brothers of Italy co-founder who edited the work chapter, is not considered knowledgeable on technology, though he once tweeted about being “in favor of introducing artificial intelligence to the Ministry of Justice”. Unlike in other countries, there is no noticeable overlap between the Italian tech scene and far-right parties like Lega Nord and Brothers of Italy.

“I haven’t met a fascist geek in Italy,” Casilli tells us. (He added later, posting on Twitter, “but I’ve left the country two decades ago, and I’ve met many elsewhere in Europe.”)

Artificial Intelligence and the far-right

In his essay Ur-Fascism, Umberto Eco, who was a child during Benito Mussolini’s dictatorship, lists some of the characteristics of fascism. As well as being into a “cult of tradition” that mythologizes and idolizes the past (e.g. Mussolini’s call for a “new Rome”), fascists also – irrationally, unsurprisingly – worship technology, insofar as they believe in it as a way to reassert inegalitarianism, Eco wrote. 

In the United States, powerful people in the field of Artificial Intelligence are known to have been fascinated with extreme-right views. William Shockley, also known as Silicon Valley’s first founder, was an ardent eugenicist. Another AI pioneer, Stanford professor John McCarthy, believed that women were biologically less gifted in math and science. In 2020, the founder of face recognition firm Clearview AI collaborated with far-right extremist Chuck Johnson in the development of Clearview AI’s software. A few weeks later, the CEO of the AI surveillance firm Banjo was exposed to be a former member of the Dixie Knights of the Ku Klux Klan, who in 1990 was charged with a hate crime for shooting at a synagogue. (This revelation lost the company a contract with Utah’s Department of Public Safety.) 

In 2016, one of the groups that far-right provocateur Milo Yianoppolous featured in his (ghostwritten) Breitbart “guide to the far-right” were the “neoreactionaries”: folks who subscribe to the political philosophy that democracy has failed and a return to authoritarian rule is required. In her essay “The Silicon Ideology”, critic Josephine Armistead describes one of the neoreactionary fantasies to be aristocrats or monarchs in a world ruled by a tech CEO or a super-intelligent AI. 

An early incubator of these ideas was, a discussion forum created by the California-based Machine Intelligence Research Institute (MIRI), which holds – without proof – that a general AI with potential for world domination will be created. People associated with MIRI “do basically no research and tell scary stories about how AI will turn us all into paper clips,” says researcher David Gerard, “It’s a huge distraction.” 

Back in 2010, some LessWrong users were chatting about how to live forever by being reincarnated on a hard drive by a godlike AI. Then a man called Roko Mijic – a self-described “tradhumanist” barred from MIRI events for sexual harassment – posted the argument that anyone who imagines this future “AI god” but doesn’t help fund its development risks one day being tortured by it. Several users had breakdowns. Famous MIRI donors include tech mogul Peter Thiel and cryptocurrency founder Vitalik Buterin. “They’re reactionaries whose version of libertarian economics ends at neofeudalism with them on top,” Gerard says.

“Algorithmic solutions” to unemployment in the EU

According to Casilli, the Brothers of Italy party’s “Artificial Intelligence” proposal actually has a lot in common with previous proposals for using automated systems to tackle or manage unemployment that have been made by center-right or liberal parties in other countries of the European Union. 

For example, in 2014, the then-liberal Polish government introduced a ranking system for job centers to use to decide how to best allocate welfare resources. The centers were widely regarded as overworked and short on time to pay attention to people who were registering there as unemployed. For the scoring system, information was gathered from people who registered as unemployed (age, duration of unemployment, etc.) The system was then used to sort them into three categories, which determined how much help a jobseeker received. Single mothers, people with disabilities or who lived in the countryside disproportionately ended up in the third category, which in practice received little help from job centers, as this category was considered “not worth investing in”. And, similarly to the Brothers of Italy proposal, it was hardly possible to appeal against the algorithm’s decision. The system was scrapped in 2019. 

Meanwhile in 2017 France, Emmanuel Macron was elected president and promised to turn France into a “startup nation.” Around the same time, a 24-year-old “young genius” businessman called Paul Duan started a public relation blitz. He said he could reduce unemployment by 10% by designing an algorithm that – similarly to the Brothers in Italy proposal – would help people find jobs by matching them with potential employers and assisting them through the application process. Years later, the public administration that originally commissioned the project issued a report to say that the algorithm to match jobseekers with open positions does not work.

“This kind of algorithmic solution to unemployment shows a continuum between far-right politicians in Italy, politicians in Poland and center-right politicians like Macron,” says Casilli. He adds, “They are different shades of the same political ideology, some are presented as market-friendly solutions like the French one, others are presented as extremely bureaucratic and boring like the Polish one, and the Italian proposal, the way it is phrased, is really reactionary and authoritarian.”

edited on October 11 to better reflect Mr. Casilli’s position

[Séminaire #ecnEHESS] Shannon Vallor: Ethique de l’IA et dette morale des technologies (20 mai 2021, 19h)

Enseignement ouvert aux auditeurs libres. Pour s’inscrire, merci de renseigner le formulaire.

La nouvelle séance d’approfondissement de notre séminaire Étudier les cultures du numérique aura lieu en version webinaire le jeudi 20 mai 2021, de 19h à 21h. Vous pouvez suivre cette séance, organisée en collaboration avec la Gaîté Lyrique :
– sur le site de la Gaîté Lyrique
– sur Youtube
– sur Facebook

Dans ce séminaire, nous aurons l’honneur d’accueillir l’une des plus brillantes expertes de l’éthique des données et de l’IA, la philosophe Shannon Vallor, titulaire de la chaire Baillie Gifford à l’Université d’Édimbourg. Prof. Vallor présentera ses recherches sur la “dette morale technologique”. Les grandes entreprises du secteur technologique ont “emprunté” de la confiance aux publics pour développer des outils allant des algorithmes, à la reconnaissance faciale, aux dispositifs de traçage pour le Covid-19. Cette dette considérable semble désormais arrivée à échéance. De quelle manière vont-elles l’honorer ?

Dans le rôle de discutant/contrepoint, l’artiste Sam Lavigne, auteur de plusieurs projets sur la surveillance et concepteur, entre autres, du Stupid Hackaton.

La séance et les échanges seront entièrement en anglais.

Shannon Vallor (Université d’Édimbourg)

Technology’s Moral Debt

Acceder ici au streaming vidéo
Jeudi 20 mai 2021, 19h-21h

The humane future that champions of advanced technology once promised—one of greater leisure and equality, more enlightened minds and sentiments, and cleaner and healthier environments—has been indefinitely delayed. Instead, a growing ‘moral debt’ has been incurred by technologists as the environmental and social costs of 19th-20th century industrialization and 21st century computerization continue to accumulate, while compensating advantages are distributed increasingly unequally. Computing technologies are used to bridge or disguise ethical gaps in our institutions, rather than to design more ethical social systems. How does AI fit into this picture? Will we allow it to add to that increasingly unsustainable debt? Or might recent shifts in how we understand the ethical responsibilities of AI developers allow us to use it in ways that finally begin to pay down that debt, and fulfill technology’s unmet promise of a more humane world?

Shannon Vallor est philosophe et titulaire de la chaire Baillie Gifford sur l’éthique des données et de l’IA à l’Edinburgh Futures Institute. Ses recherches explorent l’impact de l’automatisation et de l’intelligence artificielle sur le caractère et les pratiques humaines. En 2015, elle a reçu le World Technology Award in Ethics. Elle est l’auteure de Technology and the Virtues: A Philosophical Guide to a Future Worth Wanting (Oxford University Press, 2016) ainsi que de nombreux articles sur l’éthique de l’IA.

The real dangers of facial recognition: mass obedience and online labor exploitation

Facial recognition is a scam, but that doesn’t mean we should underestimate the threat it poses to freedom and fundamental human rights.

Case in point: Russian media MBKh discovered that Moscow police officers illegally “monetize” footage of 175,000 surveillance cameras on forums and messenger groups. For the equivalent of 470$, anyone can have access to facial recognition lookup services that, when provided with the picture of an individual, match it with passerby from hundreds of cameras, along with a list of addresses and times they were caught on camera. 

Interestingly enough, face recognition tech *does not work*, and the journalist has to grudgingly admit its low accuracy:

“As for the accuracy of the results, none of the photos returned were of the investigator. However, the facial features were similar to the input and the system assessed a similarity of 67%.”

According to the journalist, the explanation for this suboptimal performance is “the limited number of cameras connected to the face recognition algorithm”. Apparently, the sample is too small, but the technology is not fundamentally called into question…

Another explanation (often ignored by journalists, ever ready to believe the AI hype and therefore disregard its actual dangers) is introduced by a 2018 New York Times coverage of China’s surveillance-industrial complex: mass surveillance systems are not automated per se and are largely based on the intervention of crowds of micro-workers who cherry-pick millions of videos, cut out silhouettes of individual and tag metadata, fill in databases and annotate information:

“The system remains more of a digital patchwork than an all-seeing technological network. Many files still aren’t digitized, and others are on mismatched spreadsheets that can’t be easily reconciled. Systems that police hope will someday be powered by A.I. [emphasis added] are currently run by teams of people sorting through photos and data the old-fashioned way.”

“The old-fashioned way” here means “by hand”… Data annotation, triage, enrichment, especially for the computer vision models underlying face recognition algorithms, is a blossoming market. Recent research by Bonnie Nardi, Hamid Ekbia, Mary Gray, Sid Suri, Janine Berg, Six Silberman, Florian Schmidt, Trevor Paglen, Kate Crawford, Paola Tubaro and myself witnesses its development in sectors as diverse as home automation, transportation, advertising, health, entertainment… and the military. It is based on a workforce of hundreds of million of online laborers, alternatively called microworkers or crowdworkers. They work long hours, with precarious contracts and exploitative working conditions, and are paid very low wages (in some cases less than a cent per micro-task). Although they are attested in the global North, they are predominantly based in developing and emerging economies—such as Russia and China. But the companies that recruit them to package their annotated data and resell it as surveillance technologies, are mainly located in so-called liberal democracies. Despite the Chinese market supremacy, US, French, Japanese, Israeli and Finnish corporations are spreading these technologies all over the world, according to the 2019 AI Global Surveillance Index.

Despite the importance of these “humans in the loop” that constitute the secret ingredients of AI-based technological innovation, the threats of facial recognition, smart cities and predictive policing must not be minimized. The glorification of AI turns it into a powerful psychological deterrent and a disciplinary device. “The whole point,” explains an expert interviewed by the New York Times, “is that people don’t know if they’re being monitored, and that uncertainty makes them more obedient.”

Any action aimed to fight against the alleged omnipotence of these technologies begins with the recognition of their fictitious nature. If automated surveillance is made up of men and women who train, control and impersonate “artificial artificial intelligence“, it is from the awareness of their role in a dystopian and inhuman system that a change is going to come.

[Podcast] Débat Antonio Casilli, Jean-Gabriel Ganascia et Marine Al Dahdah sur automation et globalisation (16 oct. 2019)

Dans le cadre du cycle de conférences Les Débats du CAK, organisées depuis 2014 au Centre Alexandre-Koyré, j’ai eu le plaisir de débattre mon dernier ouvrage En attendant les robots. Enquête sur le travail du clic (Paris, Le Seuil, 2019) en compagnie de Marine Al Dahdah (sociologue au CEMSS CNRS et co-fondatrice du groupe de recherche « Digital studies in the Global South ») et de Jean-Gabriel Ganascia (informaticien et philosophe à la Sorbonne Université, et président du Comité d’éthique du CNRS).

Modération : Wolf Feuerhahn (CNRS, CAK).

Los trabajadores del clic (Viento Sur, Spain, 11 Feb. 2019)

The Spanish website Viento Sur features a long article penned by Joseph Confavreux reviewing my book En attendant les robots (Seuil, 2019). The French version of this article was originally published by the online magazine Mediapart.

Los trabajadores del clic, nuevos proletarios digitales

¿La perspectiva de la sustitución general del trabajo humano por las tecnologías de la inteligencia artificial es solo un gran bluf destinado a impedir la organización de los nuevos proletarios del sector digital? Analizando los perfiles del digital labor [trabajo digital], el sociólogo Antonio Casilli ha elaborado una gran encuesta sobre el trabajo en el siglo XXI.

Seres humanos que roban el trabajo de los robots, inteligencia artificial que es realmente artificial, un gran engaño tecnológico que es un gigantesco truco de magia ideológico, un trabajo hasta tal punto fragmentado que apenas se ve, “granjeros del clic”, “la parias digitales, produsagers o proletarios del teclado…

Bienvenida al mundo del digital labor, que el sociólogo Antonio Casilli renombra como trabajo del clic en una obra tan amplia como rigurosa, construida como una encuesta basada tanto en las metamorfosis del trabajo en este tiempo digital, como del mismo trabajo digital.

Un término que el libro de este investigador permite por otra parte utilizar sin que se le pueda acusar de anglicismo ya que se trata, para él, de estudiar el trabajo del dedo, sobre la pantalla o el ratón, comparable con el trabajo manual, mientras que el digital labor es a menudo confundido con el trabajo inmaterial. De ese modo se pone el acento en el elemento físico, “el movimiento activo del digitus, el dedo que sirve para contar, pero también que apunta, clica, apoya sobre el botón”, por contraste con la inmovilidad abstracta del numerus, el número en tanto que concepto matemático”, lo que para el investigador es una forma de liberarnos “de una visión de lo numérico entendida exclusivamente como un trabajo de expertos y de sabios”.

Al equiparar el título de su nuevo libro, En attendant les robots (Esperando a los robots, ndt), con la célebre obra de Samuel Beckett, Antonio Casilli nos sumerge en un mundo absurdo, en el que el saqueo del trabajo y la inanidad de la condición humana están organizados por los grandes grupos de la economía digital, que permiten multiplicar las actividades creadoras de riquezas pero no de ingresos.

Ahora bien, el investigador aporta una tesis especialmente sugerente, que va contra las decenas de artículos que nos describen la inteligencia artificial (IA) como el porvenir de humanidad en general y del trabajo en particular. En efecto, según él, la mayor parte de las inteligencias artificiales se asemeja mucho al Turco mecánico descrito por Walter Benjamin en sus Tesis sobre el concepto de historia, en la que un enano, jorobado y jugador de ajedrez, manipulaba las piezas, dando la ilusión de que se trataba de una máquina mediante un juego de cuerdas y un espejo [foto del artíclo].

En materia de IA, los fallos de la innovación son en realidad numerosos y deben ser constantemente paliados mediante un recurso intensivo al trabajo humano para, a su vez, entrenar, enmarcar y suministrar a las máquinas datos fiables y utilizables. Lo que conduce a una situación en la que frecuentemente la IA muestra que no es otra cosa que una “mezcla de becarios franceses y precarios malgaches”; justo lo contrario a la extendida imagen tecnológica y futurista.

El investigador nos obliga así a entender la automatización bajo otro ángulo: “Esta no supone la sustitución de trabajadores humanos por inteligencias artificiales eficaces y precisas, sino por otros trabajadores humanos: -ocultados, precarios y mal pagados”. En efecto, para Casillo no son “las máquinas quienes hacen el trabajo de las personas humanas, sino los humanos quienes se ven obligados a realizar un digital labor para las máquinas”. Esto es particularmente cierto para los vehículos autónomos cuya autonomía es en realidad muy relativa.

Para describir esta situación, Antonio Casillo llega hasta a hablar de gran “bluf tecnológico”, de estrategia de “camelo”, incluso de “IA Washing [lavado, ndt]”, tomando en especial el ejemplo de Google. En efecto, mientras que se pueden leer decenas de artículos sobre las teorías desarrolladas por Ray Kurzweil, escritor transhumanista y empleado en Google, en los que propone trazar el camino de una IA fuerte que obtenga resultados superiores a los sistemas biológicos, su patrón se ha lanzado a una producción de masa de IA débil y “estrecha” que utilizan ampliamente el digital labor de los “parias digitales”.

A pesar del hecho de que a instancias de Godot, la IA que reemplazará al trabajo humano tiene el riesgo de no llegar nunca, sin embargo, se sigue considerando al digital labor como transitorio, en la idea de que “actualmente las máquinas tendrán necesidad de él para aprender a prescindir del mismo mañana”.

Pues si en la actualidad está de moda esta tesis del “gran reemplazamiento tecnológico”, el investigador demuestra que es menos en razón de los avances de la tecnología que de los usos que permite. En efecto, “la automatización, fantasma constantemente agitado por los industriales, produce efectos desde el momento en que simplemente es considerada: ejerce una constricción sobre los trabajadores e introduce una verdadera disciplina en el trabajo. El trabajo se ve amenazado y mal pagado y cada trabajador es potencialmente supernumerario”.

Sin embargo, un estudio de la OCDE basado en 21 países en 2016 mostró la sobreestimación de la posibilidad de automatizar las actuales profesiones. Estimaba ciertamente que aproximadamente el 50% de las tareas son susceptibles de verse considerablemente modificadas por la automatización. No obstante, subrayaba que solo el 9% de los empleos serían realmente susceptibles de ser eliminados por la introducción de inteligencias artificiales y procesos automáticos.

Para Casilli, el capitalismo de las plataformas actuales “recurre abundantemente al mismo truco que utilizaban los propietarios manufactureros del pasado siglo: evacuar las variables sociales de un proceso de innovación tecnológica para hacerle aparecer como una fase necesaria de un progreso indefinido”. Y los robots “solo son en esta operación los avatares cómodos de la voluntad de los propietarios de las plataformas de obstaculizar la constitución de un movimiento de oposición”.

En consecuencia, estima el investigador, “la automatización es ante todo un espectáculo, una estrategia de distracción de la atención, destinada a ocultar las decisiones empresariales que pretenden reducir la parte relativa de los salarios (y más generalmente de la remuneración de los factores productivos humanos) en relación con la remuneración de los inversores”.

Como el horizonte de la completa automatización “aparece inalcanzable, es legítimo interrogarse sobre la función ideológica de ese escenario”, concluye el investigador, estimando que se construye una visión del mundo y del trabajo en la que el “proletariado digital no tendría necesidad de pensarse, de organizarse, ni de imaginar un proyecto colectivo ya que no sería más que la porción residual de un mundo del trabajo humano destinado a la desaparición”.

Sin duda, si el gran reemplazo tecnológico del trabajo no tendría lugar, está claramente en marcha su gigantesco desplazamiento, a la vez geográfico y numérico. En efecto “La inquietud contemporánea sobre la desaparición del trabajo es un verdadero síntoma de la verdadera transformación en marcha: su digitalización”, estima el sociólogo.

Esta digitalización de las tareas humanas empuja al extremo dos tendencias profundas, “la estandarización y la externalización de las tareas”. En efecto, “la especificidad de las tecnologías informacionales actuales en relación con sus antecedentes industriales consiste en la relación que mantienen con el espacio. Como la producción se puede organizar en cualquier lugar, el lugar físico en el que se despliega la automatización no es fijo, ni limitado al perímetro de la empresa”.

Este desplazamiento delega en realidad un “cierto número de tareas productivas a no-trabajadores (o a trabajadores no remunerados y reconocidos como tales”. Y las plataformas adoptan entonces un estilo particular “de gestión de las actividades productivas, que consiste en poner a trabajar a un número creciente de personas, pero situándolas fuera del trabajo, ya que su figura se sitúa fuera de las modalidades clásicas de la relación de empleo”.

El fenómeno que se describe conlos términos de digital labor se hace “posible por dos dinámicas históricamente manifestadas: la externalización del trabajo y su fragmentación”. Estas dos tendencias han conocido puntos de partida y ritmos diferentes, pero “las tecnologías de la información y de la comunicación las reconcilian”. De forma que el “trabajador de las plataformas se encuentra aplastado entre las proclamaciones de independencia y las condiciones materiales que le exponen a bajas o inexistentes remuneraciones, a ritmos y a finalidades heterodeterminadas, a una separación entre su gesto productivo y el fruto de éste”.

Y es justamente porque está fragmentado, parcelado y externalizado, que este trabajo “escapa a la categorías utilizas clásicamente para analizarlo” y que “ya no reconocemos el trabajo que tenemos delante de los ojos”,

“Inflexible flexibilidad del trabajo a petición”

Para aprender a reconocer el trabajo en la época del capitalismo de las plataformas y en la era de lo digital, Antonio Casillo propone estudiar el digital labor como un “movimiento de organización en tareas (tâcheronnisation) [no existe término equivalente en castellano; podría traducirse por tareanización, ndt] y de organización en datos (datafication) [no existe término equivalente en castellano, ndt] de las actividades productivas humanas en la hora de la aplicación de las soluciones de inteligencia artificial”.

A la vez que permanece lúcido sobre el hecho de que este tipo de trabajo amalgama fenómenos diferenciados y “se sitúa en el cruce complejo de formas de empleo no estándar, del freelancing, del trabajo a destajo micro-remunerado, del amateurismo profesionalizado, de ocios monetizados y de la producción más o menos visible de datos”. No se trata pues, o no solamente, de un trabajo gratuito, sino de un “continuum entre actividades no remuneradas, actividades mal pagadas y actividades remuneradas de forma flexible”.

Para clarificar las cosas, el investigador propone distinguir tres tipos de actividades que se subsumen corrientemente bajo los términos de digital labor. En primer lugar, el “digital labor por pedido”, que reagrupa las actividades creadas por las aplicaciones de tipo Uber o Deliveroo, cuyas prestaciones suministran no solo tareas manuales sino que pasan también mucho tiempo produciendo datos.

Para Casilli, aunque en su origen la economía por pedido fue asimilada a fenómenos diferentes, tales como la economía colaborativa, la economía de reparto o la economía circular, en realidad se trata de una actividad de otra naturaleza, marcada por la “inflexible flexibilidad del trabajo por pedido”, que generaliza el trabajo atípico más que abrir una nueva era a la autonomía humana.

A continuación el micro-trabajo, utilizado prioritariamente por las pseudo-inteligencias artificiales que confían a micro-sirvientes lo que era realizado por trabajadores regulares. El investigador utiliza el ejemplo de un trabajo que ocuparía 20 años a un asalariado equipado de un ordenador, un año entero a 20 asalariados en CDD [contrato de duración determinada, ndt] o seis meses a 40 becarios y puede ser realizado todavía de forma más rápida y barata gracias a la fragmentación de las tareas.

La encarnación de este nuevo tipo de trabajo es el servicio de Amazon, bautizado Turco Mecánico, gracias al cual la empresa puede, por ejemplo, publicar un anuncio pidiendo a 500.000 personas que transcriban dos líneas cada una. Tal servicio permite “reclutar a centenares de miles de micro-sirvientes situados en todos los lugares del mundo para filtrar vídeos, etiquetar fotos y transcribir documentos que las máquinas no son capaces de realizar”.

Contrariamente a las plataformas de trabajo por pedido, en las que los recientes conflictos sociales han permitido, puntualmente, hacer reconocer la relación de sujeción entre el prestatario y las empresas que organizan el trabajo en el siglo XXI, las reglas de gestión algorítmica del trabajo y las condiciones de contractualización del micro-trabajo oscurecen todavía aquí las pistas.

En efecto, en los “en los ecosistemas de micro-trabajo -escribe Casilli-, la actividad de producción de valor se hace discreta y, debido al estallido geográfico, los trabajadores no encuentran interlocutores patronales frente a ellos, como en el caso de Uber y otros Deliveroo”. Amazon encarna perfectamente el “papel de plataforma neutra, de útil técnico de puesta en contacto que desintermedia el trabajo y desaparece en tela de fondo”, como si fuera un “tercer beneficiario”.

En fin, el sociólogo distingue el “trabajo social en red” realizado por cualquiera que alimenta en datos, por el uso que hace de internet, los gigantes de la economía numérica. Antono Casilli da cuenta del debate que opone, sobre el tema, a dos perspectivas representadas por los “laboristas” y los “hedonistas”.

La primera “entiende la participación sobre los medios sociales como una relación social relacionada con el trabajo y caracteriza la apropiación por las grandes plataformas del valor que resulta como una relación de explotación. La otra interpreta el produsage como la expresión de una búsqueda de placer y una participación libremente consentida en una nueva cultura del amateurismo y, a por ello, niega la pertinencia misma de la noción de digital labor”.

Para Casilli, esta diferenciación se presenta, de forma demasiado tajante, como un conflicto de obediencias, “en la que los dos campos se acusan recíprocamente de ser, cada uno, una cábala de universitarios marxistas o una emanación de la investigación industrial del sector de lo numérico”. En una perspectiva próxima al marxismo, en el sentido en que este último define como trabajo todo lo que fecunda al capital, el investigador considera que “encerrando a sus usuarios en el papel de amateurs felices y desinteresados, los medios sociales buscan también mantener aparte uno de los elementos constitutivos de la dialéctica entre trabajo y capital: la conflictualidad”.

Una posición que permanece discutida, incluso cuestionada, por otros investigadores que trabajan sobre la economía numérica, especialmente los que prefieren hablar de extracción de valor que de trabajo, en la medida en que sigue siendo difícil medir el valor de un like o considerar sus fotos de vacaciones en Facebook como trabajo, incluso aunque ello contribuya a valorizar la empresa de Mark Zuckerberg.

Cualquiera que sea la extensión que se prefiera dar al perímetro del digital labor, Antoine Casilli pone el dedo sobre varios efectos importantes de la recomposición del trabajo en la era digital. El primero consiste en el hecho de que “el recurso a la deslocalización con el objetivo de una compresión de costes o de una racionalización de la cartera de las sedes de una empresa no solo afecta exclusivamente a las multinacionales. En lo sucesivo, el offshoring [externalización, deslocalización, ndt] es un proceso en cascada”.

Se produce así una nueva división internacional del trabajo ya que las tareas menos nobles “son habitualmente delegadas en los países asiáticos o africanos”, contribuyendo a que el digital labor sea muy frecuentemente invisible “para los ojos europeos”. Esta situación de hecho obliga a reactualizar el debate sobre las desigualdades Norte/Sur, aún cuando Casilli no endosa los términos de neocolonialismo numérico que circulan a veces para describir la actividad de los gigantes del sector, aunque solo sea porque “los países del Norte no son los únicos motores de la economía numérica” y que China, especialmente, forma parte de los que explotan los nuevos servidores de lo numérico.

El segundo es la “nivelación por abajo de las condiciones de trabajo y de remuneración a escala mundial” que el investigador muestra que coincide con una recomposición importante del capitalismo globalizado en este último decenio. En efecto, escribe, “el desarrollo de las plataformas numéricas ha coincidido con la crisis de la deuda y la crisis financiera de finales de los años 2000, marcada por un elevado desempleo, una congelación de los salarios, un declive de las protecciones sociales y una profundización de las desigualdades”.

El intento de hacer bajar todavía más el precio del trabajo mediante las deslocalizaciones ha podido enfrentarse “a políticas disuasivas de fiscalidad y a los costes de las inversiones necesarias para la apertura de instalaciones físicas en terceros países”. Y las soluciones, masivamente utilizadas durante los Treinta Gloriosos [se entiende con este término al período de mayor desarrollo del capitalismo en los países desarrollados, comprendido entre el final de la II Guerra Mundial, 1945, y la crisis petrolera de 1973, ndt], de introducción de la mano de obra extranjera, han caído “bajo el golpe de políticas migratorias cada vez más draconianas”.

La plataformización ha supuesto pues “una salida a esta doble constricción, al instaurar una libertad de circulación ‘virtual’ de la mano de obra planetaria” y permitiendo “transferencias no presenciales de poblaciones”. De hecho, “lejos de suavizar la dureza de las políticas migratorias de los países americanos y europeos respecto a la mano de obra inmigrada, el digital labor desempeña un papel perverso de facilitador de una explotación a distancia”.

El investigador estima pues que para los “capitalistas de las plataformas”, que hacen creer a los jóvenes occidentales que no tienen más que practicar un ocio productor de valor y condenan a la precariedad toda una parte de la fuerza de trabajo global, se trata de “fragilizar el trabajo para mejor evacuarlo, a la vez como categoría conceptual y como factor productivo a remunerar”.

¿Se puede, entonces, escapar de esta constatación tan desesperante como inquietante? Casilli describe algunas iniciativas y luchas para el reconocimiento de las yt los trabajadores de las plataformas, que se anudan esencialmente alrededor de dos estrategias. Una se esfuerza de ensanchar al digital labor las conquistas sociales que precedentemente habían estado ligadas con el empleo, como han hecho algunos repartidores de Deliveroo o chóferes de Uber, pero exige, estima, “tomar en consideración la dimensión planetaria del digital labor”.

La otra, todavía emergente, se basa en repensar la relación “entre usuarios-trabajadores e infraestructuras de colecta y tratamiento de datos al criterio de la gobernanza de los comunes para concebir modalidades nuevas de distribución de los recursos”. En el marco de esta estrategia, sería posible “otra plataformización”, a la manera de Coopify, cooperativa de trabajadores al pedido alternativo en TaskRabbit, de AllBnB sustituto de AirBnB, o también de CoopCyicle que los repartidores prefieren a Foodora.

Sin embargo, para Casilli, “ni el arsenal sindical ni la respuesta liberal aportan solución satisfactoria al problema de la remuneración del digital labor”. El investigador propone pues no escoger entre una y otra estrategia sino, de forma más real, establecer un “ingreso social numérico” que estaría basado en el impuesto y también sobre la restitución a los comunes de lo que “se produce socialmente”.

Forzando a las plataformas actuales a renunciar a su opacidad y a su voracidad, e inspirándose en la tradición mutualista, sería posible pasar a modelos no depredadores de plataformas que entonces no tendrían ninguna razón para agitar el espectro de la automatización para disciplinar la fuerza de trabajo.

Para Casilli, estas plataformas renovadas cumplirían así su función original: “La sustitución de la propiedad privada por la propiedad social, sobrepasar el trabajo forzado por un trabajo sin coerción y reemplazar los enclaustramientos por infraestructuras verdaderamente comunes”.

Esperando la realización de este amplio programa es tiempo ya de plantearse sobre la forma como firmamos ciegamente las famosas CGU, o “Condiciones Generales de Utilización”, que muestran ser, en realidad, contratos leoninos que fijan los marcos de nuestra alienación.

Como recuerda Antonio Casilli, la plataforma de jobbing [trabajador a destajo, ndt] de estudiante americano Sweeping o las de tareas domésticas a pedido TaskRabbit llegan hasta a amenazar a sus usuarios con la reclamación de indemnizaciones si presentan denuncias para exigir la reclasificación de sus actividades o solicitar las cotizaciones sociales no pagadas…

In Arbetet (Sweden, Jan. 24, 2019)

The Swedish newspaper Arbetet publishes a review of my book En attendant les robots : Enquête sur le travail du clic (2019).

”Myt att robotar tar över våra jobb”

Anna Trenning-Himmelsbach

Att robotar gör mänsklig arbetskraft överflödig är en seglivad myt, som bidrar till att hålla oss på mattan. Det säger sociologen Antonio Casilli och tillägger att industrin tjänar på att sprida varningar om att artificiell intelligens håller på att över våra jobb. 

Sociologen Antonio Casilli säger att varningarna om att robotar tar över våra jobb är överdrivna. Bild: Hermance Triay

Om 20 år försvinner nästan hälften av jobben i USA på grund av robotar, enligt den så kallade Oxford-rapporten från 2013.

Prognoser, bland annat från Stiftelsen för strategisk forskning, säger att andelen hotade arbetstillfällen i Sverige är ännu högre.

– Men det är en myt som göds av industriella och finansiella intressen.

Det påstår den fransk-italienska sociologen Antonio Casilli, som nyligen har gett ut en hyllad essä om ämnet i Frankrike.* Han är professor vid högskolan Télécom ParisTech, och är specialiserad på hur arbetslivet påverkas av datoriseringen.

Antonio Casilli säger att legenden om robotarnas hot mot sysselsättningen har återkommit med jämna mellanrum sedan början av 1800-talet, men att det fortfarande inte finns några tecken på att profetian håller på att infrias.

– Den artificiella intelligensen har ett enormt behov av information.

Att samla in och sortera uppgifter är ett arbete som kräver ett mänskligt omdöme, som ingen maskin klarar. Men myten skapar oro. Rädslan för att förlora jobbet gör att arbetare blir disciplinerade.

– De ställer färre krav och organiserar sig inte, säger han.

Robotiseringen förändrar däremot arbetslivet. ”Digital-arbetarna” är en snabbt växande grupp. En del är avlönade, till exempel de som arbetar via de så kallade Uberföretagen.

Andra får en mikrobetalning för varje mikromoment de gör, när de sorterar information åt företag.

I västländer utför hundratusentals personer den här typen av arbeten, men ofta vid sidan av ett annat jobb. I andra världsdelar är klick-jobben huvudsysselsättning för miljontals invånare.

– I allmänhet handlar det om små grupper av arbetare som inte är organiserade sinsemellan, säger Antonio Casilli.

Därtill kommer alla vi andra, som genom våra aktiviteter på sociala medier, omedvetet deltar i utvecklingen. Vi taggar till exempel våra bilder på Instagram eller Facebook, och bidrar till att robotar får nya kunskaper om bildassociationer, känslor eller stämningar.

Antonio Casilli presenterar tre olika möjligheter, där facken kan utöva påtryckning, för att motverka en ökad exploatering av dessa i dag så splittrade klickarbetare.

Den första består i att försöka organisera den digitala arbetskraften för att den ska kunna dra vinning av de trygghetssystem som redan finns.

Den andra handlar om att bygga upp icke-kapitalistiska alternativ till de lönsamhetsdrivna plattformarna för utbyte av tjänster.

Den tredje och den mest intressanta, enligt Antoine Casilli, är att kräva att få ta del av de rikedomar, som vi tillsammans är med om att skapa när vi matar olika plattformar med information. Han anser att Internetföretagen ska beskattas högre av just den anledningen, och att vinsterna ska fördelas genom en universell inkomst till alla invånare.

I hans eget hemland Frankrike, har regeringen just meddelat att de stora internetföretagen snart kommer att beläggas med en helt ny skatt. Enligt sociologen är det ett beslut som går i rätt riktning.

* Antonio Casilli essä heter: En attendant les robots. Enquête sur le travail du clic. Utgivare: Seuil, 2019

[Video] Trabajo, conocimiento y vigilancia (La Paz, Bolivia, 11 julio 2018)

Presentación de mi libro Trabajo, conocimiento y vigilancia: 5 ensayos sobre tecnología, una antología de mis artículos, originalmente publicados en francés e inglés entre 2010 y 2018. La publicación de este libro fue dirigida por AGETIC y la Embajada de Francia en Bolivia. (Conferencia realizada en la Vicepresidencia del Estado, La Paz, Bolivia, traducida al español del inglés).

Referencia completa:

Casilli, Antonio A. (2018). Trabajo, conocimiento y vigilancia: 5 ensayos sobre tecnología. La Paz, Bolivia: Editorial del Estado.

Descarga documento PDF

M, le maudit chatbot (ou, de l’impossibilité de l’automation complète au lendemain de l’échec de l’assistant virtuel de Facebook)

L’année 2018 commence fort chez Zuckerberg. Facebook a décidé de mettre fin à l’expérience de son assistant virtuel, M. Par rapport aux autres chatbots sur le marché, M avait une particularité : il ne cachait pas la présence d’humains derrière les rideaux de l’automation, pour ainsi dire. Facebook allait jusqu’à intégrer cet attribut dans ses arguments de vente. M était présenté comme une intelligence artificielle « mue par des humains » (human powered).

Il s’agissait d’un logiciel qui envoyait des messages via l’application Messenger, initialement disponible pour un nombre limité d’usagers-testeurs (10 000 résidents de San Francisco) qui l’utilisaient surtout pour des opérations commerciales. La plupart des tâches réalisées par le chatbot nécessitaient de personnes pour assister, entraîner, vérifier ses réponses — et parfois se faire carrément passer pour M. D’où la suspicion que son nom ne soit pas un clin d’œil à l’assistant de James Bond, miss Moneypenny, mais une référence assez claire au “micro-travail”…

L’objectif de Facebook avec cet agent conversationnel était de développer une technologie d’intelligence artificielle capable d’automatiser presque n’importe quelle tâche (“Facebook put no bounds on what M could be asked to do“). C’est toujours la vieille promesse du machine learning : tu fais réaliser des tâches par des humains, puis “la machine” apprend et — bam ! tu te débarrasses des humains. Néanmoins, malgré les vastes ressources techniques de Facebook, le taux d’automation de M semble n’avoir jamais dépasse 30%. Presque trois quarts des tâches, donc, étaient effectuées par des petites mains payées à la pièce, entre San Francisco et Katmandou (si le bruit selon lequel elles étaient recrutées via le bureau népalais de la plateforme de micro-travail Cloudfactory était confirmé).

L’histoire de M contient une moralité pour toute entreprise qui développe ou achète des solutions de IA : quand on prend en compte le coût de the human in the loop, l’automation revient très chère. C’est à cause de l’importance de ces coûts (et de la médiocrité des résultats) que Facebook a définitivement décidé de discontinuer M en 2018.

L’autre leçon à retenir ici est que dans la mesure où l’objectif final de M était de préparer le développement de solutions IA qui auraient pu automatiser presque toutes les tâches que les usagers réalisent en ligne, l’automation complète s’avère être un fantasme de silconvallards. A chaque fois qu’on automatise une tâche, les êtres humains avec qui l’IA interagit en redemandent, et de plus en plus complexes. Comme Wired le souligne :

“Another challenge: When M could complete tasks, users asked for progressively harder tasks. A fully automated M would have to do things far beyond the capabilities of existing machine learning technology. Today’s best algorithms are a long way from being able to really understand all the nuances of natural language.”

Il faut alors recommencer et recommencer à concevoir-entraîner-tester-micro-travailler etc. Comme quoi, nous (autant les centaines de millions de tâcherons du clic sur les plateformes de micro-travail que les milliards de micro-tâcherons dissimulés que nous sommes sur les plateformes de médias sociaux) avons devant nous une longue carrière de dresseurs d’IA. Très longue. Interminable même, à en croire certains jeunes experts d’automation. Parmi eux, un nommé Ernest Mandel, lequel affirmait, dans un texte paru en… 1986 :

“Sous le capitalisme, l’automation complète, l’introduction de robots sur grande échelle sont impossibles car elles impliqueraient la disparition de l’économie de marché, de l’argent, du capital et des profits. (…) La variante la plus probable sous le capitalisme, c’est précisément la longue durée de la dépression actuelle, avec seulement le développement d’une automation partielle et d’une robotisation marginale, les deux étant accompagnées par une surcapacité de surproduction sur grande échelle (une surproduction de marchandises), un chômage sur grande échelle, une pression sur grande échelle pour extraire de plus en plus de plus-value d’un nombre de jours de travail et d’ouvriers productifs tendant à stagner et à décliner lentement. Cela équivaudrait à une augmentation de la pression à la surexploitation de la classe ouvrière (en faisant baisser les salaires réels et les prestations de Sécurité sociale), en affaiblissant ou détruisant le mouvement ouvrier organisé et en sapant les libertés démocratiques et les droits de l’homme.”