Artificial intelligence will increasingly make the world of work precarious
Antonio A. Casilli
Systems like ChatGpt won’t completely disrupt work as we know it, but it will create a new class of “click slaves,” paid (very poorly) to train algorithms.
This is a more real risk than science fiction scenarios, where robots would completely take over human labor. OpenAi itself already uses these micro-workers.
A few months after ChatGpt was launched, a TIME magazine exposé disclosed that Kenyan workers were being paid less than $2 per hour to train artificial intelligence.
A study analyzing the impact of artificial intelligence on the labor market was published this week. Its authors examined so-called “pre-trained models” of the Gpt family. These pieces of software learn from a large amount of data to perform tasks that they then adapt to new contexts. Three of the four authors of this study are employees of OpenAi, the company that in recent months has launched Dall-E 2, an image-generating system, and of course ChatGpt, the virtual assistant that has become a cultural phenomenon.
According to the study, about 80% of the workforce could be exposed to this innovation, and for some of them 50% of tasks could change dramatically. Even highly educated people would be affected by this development.
The conditional is a must, because the study has more limitations than results. It relies on opaque data, adopts an abstruse methodology and, as a cherry on top, uses a Gpt to analyze the effects of other Gpts.
The new Frey & Osborne
The study matters more for its ambition than for its results. Doubtlessly, the article aspires to be the “Frey & Osborne report of the 2020s,” after the two Oxford researchers who published in 2013 an analysis predicting that 47% of jobs would be destroyed by 2030. It is a highly cited and heavily criticized work given that, despite a pandemic, a geopolitical crisis and a climate emergency, their forecasts are far from coming true.
Both the 2013 article and the one just published by OpenAi researchers reduce human work to a series of “tasks.” Like all reductionist analyses, they should be greeted with healthy distrust. To say that a nurse’s job is reduced to 10 tasks (caring for patients, filling out forms, etc.) and to say that some of them might be exposed to ChatGpt use does not mean that the nurse will be fired. Her job will change.
A marketing operation
Maybe with the excuse that new technology saves time, employers will find new ways to add tasks to employees while keeping real wages at a minimum. Despite utopian visions and fears regarding automation, historically this is what has happened, much to the chagrin of OpenAi researchers.
Their article is largely a marketing tool designed to help their company get noticed by the media. Every time OpenAi launches a product, a debate rages in the news and on social media about the threats artificial intelligence poses to journalists, illustrators, teachers. It just so happens that the jobs that are threatened to disappear are precisely those that the American company sells as services: text and image generation, training, etc. It is not the robots that are destroying jobs. It is OpenAi that is destroying competition.
Out of control
But sadly, this is not good news. The effects of these technologies on jobs are indeed there, but they are different. To really detect them we have to read the System Card of Gpt-4, OpenAi’s latest software. A hundred or so pages describe the tests by which the AI was trained. The testers often pushed Gpt-4 to perform dangerous or illegal actions in order to teach the artificial intelligence to avoid them.
But during the tests, Gpt-4 escaped its controllers, and attempted a cyberattack on a website. The latter, however, was protected by ReCaptcha, those pop-ups that require proving you are not a robot by solving a puzzle. Unfortunately, Gpt-4 is a robot. To solve the puzzle, it then turned to an on-demand platform to recruit a pieceworker to solve the ReCaptcha on its behalf.
Micro-work
But ReCaptchas do more than just protect against cyberattacks. They are also used to train artificial intelligence. When they prompt us to transcribe words, they use them to digitize Google Books. When we are invited to spot a traffic light, they calibrate Waymo’s autonomous driving systems. This raises a mind-boggling question: can Gpt-4 be used to recruit workers who in turn train other AIs?
In fact, more or less automated systems for recruiting freelance workers to train algorithms have existed for decades. Amazon Mechanical Turk is a site where, for a few cents, companies recruit for less than a quarter of an hour hundreds of thousands of people to generate data, transcribe text, and filter images. Other platforms, such as Australia’s Appen, employ more than ten million people. Can we really talk about jobs? These are micro jobs with poverty wages, which are largely performed by workers from developing countries.
Replacement
Paradoxically, OpenAi itself uses these “click slaves.” A few months after ChatGpt was launched, a TIME magazine exposé revealed that Kenyan workers were being paid less than $2 per hour to train the chatbot. In other documents uncovered shortly thereafter, the U.S. company claimed it contracted workers in the Philippines, Latin America and the Middle East to train its algorithms.
Thus, the true impact on the work of Gpt software has been revealed. Artificial intelligence automates the process of selecting, hiring, and firing precarious workers. This is not the usual science fiction scenario where robots replace humans. It is one where permanent employees being replaced with underpaid pieceworkers hired and fired on digital platforms. This trend is already underway, and companies like OpenAi are escalating it.
Tl;dr L’IA a bien un impact sur le marché du travail, mais ce n’est pas la catastrophe robotique que redoutent les prophètes de l’apocalypse. Ne perdez pas votre temps à combattre un faux ennemi.
OpenAI a récemment publié la GPT-4 System Card, un document de 50 pages détaillant les tests effectués par des “red-teamers” (c’est-à-dire des testeurs hostiles) qui ont tenté de contraindre l’IA à effectuer des actions dangereuses, controversées ou illégales. Ce type de test est essentiel afin de mettre en place des garde-fous pour empêcher GPT-4 de se livrer à de telles activités. Entre autres, GPT-4 a réussi à engager un travailleur de Taskrabbit pour résoudre un ReCaptcha, une simple tâche cognitive utilisée pour entraîner des IA. Cela soulève la question suivante : peut-on l’utiliser pour recruter automatiquement des annotateurs de données à la demande ?
Un extrait du GPT-4 System Card : dans un test dans, l’IA a recruté un travailleur sur une plateforme en le convainquant qu’elle n’est pas un robot pour lui faire réaliser une tâche qu’un robot ne pourrait pas réaliser…
Néanmoins, GPT-4 soulève des inquiétudes quant à son impact sur le marché du travail, car il pourrait accélérer la tendance au remplacement des employés permanents par des micro-tâcherons précaires, embauchés et licenciés par un simple “prompt”. C’est le triomphe de ce que l’on appelle Humans as a service, pour reprendre le titre d’un beau livre de Jeremias Adams-Prassl (publié en Français sous le titre L’ubérisation du travail).
Cela ne signifie pas que “les robots vont piquer votre boulot”. GPT-4 est simplement un robot qui automatise l’embauche de travailleurs précaires qui effectuent les mêmes tâches que des humains mieux rémunérés. Il s’agit d’une vraie problématique sur les effets domino de l’IA, et non d’un scénario de science-fiction sur un prétendu soulèvement des robots.
Attention : la System Card est un pas dans la bonne direction pour garantir que la technologie ne soit pas utilisée pour porter atteinte aux droits des travailleurs. Toutefois, il faut faire plus. Par exemple, créer une commission d’enquête internationale pour exiger d’OpenAI qu’elle divulgue le code de ses IA, ses paramètres et surtout d’où proviennent les données qu’elle utilse pour les entraîner…
Josephine Lulamae interviewed me in the website of the NGO AlgorithmWatch about the a trend in European far-right policy: the preference for algorithmic solutions to social problems, such as unemployment, precarity, disability.
Italian neofascists considered building an authoritarian AI to solve unemployment. They are far from alone. – AlgorithmWatch
Back in April, the far-right Brothers of Italy party presented “Notes on a Conservative Program”. In a chapter on work, they called for an “artificial intelligence system” that “traces the list of young people who finish high school and university every year and connects them to companies in the sector.” This, the authors of the chapter wrote, would finally solve “youth unemployment,” as “the young person will no longer be able to choose whether to work or not, but [will be] bound to accept the job offer for himself (sic), for his family and for the country, under penalty of loss of all benefits with the application of a system of sanctions.”
The proposal did not make it to the final program that Brothers of Italy published prior to the election on 25 September, when they became Italy’s largest party with 26% of the vote.
Ironically, the neofascists most likely had intended to use Artificial Intelligence to “create a fog around them, around what they are and what they want, because they want to attract a more moderate right-wing electorate,” says sociologist Antonio Casilli. Guido Crosetto, the Brothers of Italy co-founder who edited the work chapter, is not considered knowledgeable on technology, though he once tweeted about being “in favor of introducing artificial intelligence to the Ministry of Justice”. Unlike in other countries, there is no noticeable overlap between the Italian tech scene and far-right parties like Lega Nord and Brothers of Italy.
“I haven’t met a fascist geek in Italy,” Casilli tells us. (He added later, posting on Twitter, “but I’ve left the country two decades ago, and I’ve met many elsewhere in Europe.”)
Artificial Intelligence and the far-right
In his essay Ur-Fascism, Umberto Eco, who was a child during Benito Mussolini’s dictatorship, lists some of the characteristics of fascism. As well as being into a “cult of tradition” that mythologizes and idolizes the past (e.g. Mussolini’s call for a “new Rome”), fascists also – irrationally, unsurprisingly – worship technology, insofar as they believe in it as a way to reassert inegalitarianism, Eco wrote.
In the United States, powerful people in the field of Artificial Intelligence are known to have been fascinated with extreme-right views. William Shockley, also known as Silicon Valley’s first founder, was an ardent eugenicist. Another AI pioneer, Stanford professor John McCarthy, believed that women were biologically less gifted in math and science. In 2020, the founder of face recognition firm Clearview AI collaborated with far-right extremist Chuck Johnson in the development of Clearview AI’s software. A few weeks later, the CEO of the AI surveillance firm Banjo was exposed to be a former member of the Dixie Knights of the Ku Klux Klan, who in 1990 was charged with a hate crime for shooting at a synagogue. (This revelation lost the company a contract with Utah’s Department of Public Safety.)
In 2016, one of the groups that far-right provocateur Milo Yianoppolous featured in his (ghostwritten) Breitbart “guide to the far-right” were the “neoreactionaries”: folks who subscribe to the political philosophy that democracy has failed and a return to authoritarian rule is required. In her essay “The Silicon Ideology”, critic Josephine Armistead describes one of the neoreactionary fantasies to be aristocrats or monarchs in a world ruled by a tech CEO or a super-intelligent AI.
An early incubator of these ideas was LessWrong.com, a discussion forum created by the California-based Machine Intelligence Research Institute (MIRI), which holds – without proof – that a general AI with potential for world domination will be created. People associated with MIRI “do basically no research and tell scary stories about how AI will turn us all into paper clips,” says researcher David Gerard, “It’s a huge distraction.”
Back in 2010, some LessWrong users were chatting about how to live forever by being reincarnated on a hard drive by a godlike AI. Then a man called Roko Mijic – a self-described “tradhumanist” barred from MIRI events for sexual harassment – posted the argument that anyone who imagines this future “AI god” but doesn’t help fund its development risks one day being tortured by it. Several users had breakdowns. Famous MIRI donors include tech mogul Peter Thiel and cryptocurrency founder Vitalik Buterin. “They’re reactionaries whose version of libertarian economics ends at neofeudalism with them on top,” Gerard says.
“Algorithmic solutions” to unemployment in the EU
According to Casilli, the Brothers of Italy party’s “Artificial Intelligence” proposal actually has a lot in common with previous proposals for using automated systems to tackle or manage unemployment that have been made by center-right or liberal parties in other countries of the European Union.
For example, in 2014, the then-liberal Polish government introduced a ranking system for job centers to use to decide how to best allocate welfare resources. The centers were widely regarded as overworked and short on time to pay attention to people who were registering there as unemployed. For the scoring system, information was gathered from people who registered as unemployed (age, duration of unemployment, etc.) The system was then used to sort them into three categories, which determined how much help a jobseeker received. Single mothers, people with disabilities or who lived in the countryside disproportionately ended up in the third category, which in practice received little help from job centers, as this category was considered “not worth investing in”. And, similarly to the Brothers of Italy proposal, it was hardly possible to appeal against the algorithm’s decision. The system was scrapped in 2019.
Meanwhile in 2017 France, Emmanuel Macron was elected president and promised to turn France into a “startup nation.” Around the same time, a 24-year-old “young genius” businessman called Paul Duan started a public relation blitz. He said he could reduce unemployment by 10% by designing an algorithm that – similarly to the Brothers in Italy proposal – would help people find jobs by matching them with potential employers and assisting them through the application process. Years later, the public administration that originally commissioned the project issued a report to say that the algorithm to match jobseekers with open positions does not work.
“This kind of algorithmic solution to unemployment shows a continuum between far-right politicians in Italy, politicians in Poland and center-right politicians like Macron,” says Casilli. He adds, “They are different shades of the same political ideology, some are presented as market-friendly solutions like the French one, others are presented as extremely bureaucratic and boring like the Polish one, and the Italian proposal, the way it is phrased, is really reactionary and authoritarian.”
edited on October 11 tobetter reflect Mr. Casilli’s position
La nouvelle séance d’approfondissement de notre séminaire Étudier les cultures du numérique aura lieu en version webinaire le jeudi 20 mai 2021, de 19h à 21h. Vous pouvez suivre cette séance, organisée en collaboration avec la Gaîté Lyrique : – sur le site de la Gaîté Lyrique – sur Youtube – sur Facebook
Dans ce séminaire, nous aurons l’honneur d’accueillir l’une des plus brillantes expertes de l’éthique des données et de l’IA, la philosophe Shannon Vallor, titulaire de la chaire Baillie Gifford à l’Université d’Édimbourg. Prof. Vallor présentera ses recherches sur la “dette morale technologique”. Les grandes entreprises du secteur technologique ont “emprunté” de la confiance aux publics pour développer des outils allant des algorithmes, à la reconnaissance faciale, aux dispositifs de traçage pour le Covid-19. Cette dette considérable semble désormais arrivée à échéance. De quelle manière vont-elles l’honorer ?
Dans le rôle de discutant/contrepoint, l’artiste Sam Lavigne, auteur de plusieurs projets sur la surveillance et concepteur, entre autres, du Stupid Hackaton.
La séance et les échanges seront entièrement en anglais.
The humane future that champions of advanced technology once promised—one of greater leisure and equality, more enlightened minds and sentiments, and cleaner and healthier environments—has been indefinitely delayed. Instead, a growing ‘moral debt’ has been incurred by technologists as the environmental and social costs of 19th-20th century industrialization and 21st century computerization continue to accumulate, while compensating advantages are distributed increasingly unequally. Computing technologies are used to bridge or disguise ethical gaps in our institutions, rather than to design more ethical social systems. How does AI fit into this picture? Will we allow it to add to that increasingly unsustainable debt? Or might recent shifts in how we understand the ethical responsibilities of AI developers allow us to use it in ways that finally begin to pay down that debt, and fulfill technology’s unmet promise of a more humane world?
Shannon Vallor est philosophe et titulaire de la chaire Baillie Gifford sur l’éthique des données et de l’IA à l’Edinburgh Futures Institute. Ses recherches explorent l’impact de l’automatisation et de l’intelligence artificielle sur le caractère et les pratiques humaines. En 2015, elle a reçu le World Technology Award in Ethics. Elle est l’auteure de Technology and the Virtues: A Philosophical Guide to a Future Worth Wanting (Oxford University Press, 2016) ainsi que de nombreux articles sur l’éthique de l’IA.
Interestingly enough, face recognition tech *does not work*, and the journalist has to grudgingly admit its low accuracy:
“As for the accuracy of the results, none of the photos returned were of the investigator. However, the facial features were similar to the input and the system assessed a similarity of 67%.”
According to the journalist, the explanation for this suboptimal performance is “the limited number of cameras connected to the face recognition algorithm”. Apparently, the sample is too small, but the technology is not fundamentally called into question…
“The system remains more of a digital patchwork than an all-seeing technological network. Many files still aren’t digitized, and others are on mismatched spreadsheets that can’t be easily reconciled. Systems that police hope will someday be powered by A.I. [emphasis added] are currently run by teams of people sorting through photos and data the old-fashioned way.”
“The old-fashioned way” here means “by hand”… Data annotation, triage, enrichment, especially for the computer vision models underlying face recognition algorithms, is a blossoming market. Recent research by Bonnie Nardi, Hamid Ekbia, Mary Gray, Sid Suri, Janine Berg, Six Silberman, Florian Schmidt, Trevor Paglen, Kate Crawford, Paola Tubaro and myself witnesses its development in sectors as diverse as home automation, transportation, advertising, health, entertainment… and the military. It is based on a workforce of hundreds of million of online laborers, alternatively called microworkers or crowdworkers. They work long hours, with precarious contracts and exploitative working conditions, and are paid very low wages (in some cases less than a cent per micro-task). Although they are attested in the global North, they are predominantly based in developing and emerging economies—such as Russia and China. But the companies that recruit them to package their annotated data and resell it as surveillance technologies, are mainly located in so-called liberal democracies. Despite the Chinese market supremacy, US, French, Japanese, Israeli and Finnish corporations are spreading these technologies all over the world, according to the 2019 AI Global Surveillance Index.
Despite the importance of these “humans in the loop” that constitute the secret ingredients of AI-based technological innovation, the threats of facial recognition, smart cities and predictive policing must not be minimized. The glorification of AI turns it into a powerful psychological deterrent and a disciplinary device. “The whole point,” explains an expert interviewed by the New York Times, “is that people don’t know if they’re being monitored, and that uncertainty makes them more obedient.”
Any action aimed to fight against the alleged omnipotence of these technologies begins with the recognition of their fictitious nature. If automated surveillance is made up of men and women who train, control and impersonate “artificial artificial intelligence“, it is from the awareness of their role in a dystopian and inhuman system that a change is going to come.
Dans le cadre du cycle de conférences Les Débats du CAK, organisées depuis 2014 au Centre Alexandre-Koyré, j’ai eu le plaisir de débattre mon dernier ouvrage En attendant les robots. Enquête sur le travail du clic (Paris, Le Seuil, 2019) en compagnie de Marine Al Dahdah (sociologue au CEMSS CNRS et co-fondatrice du groupe de recherche « Digital studies in the Global South ») et de Jean-Gabriel Ganascia (informaticien et philosophe à la Sorbonne Université, et président du Comité d’éthique du CNRS).
Los trabajadores del clic, nuevos proletarios digitales
¿La perspectiva de la sustitución general del
trabajo humano por las tecnologías de la inteligencia artificial es solo
un gran bluf destinado a impedir la organización de los nuevos
proletarios del sector digital? Analizando los perfiles del digital
labor [trabajo digital], el sociólogo Antonio Casilli ha elaborado una
gran encuesta sobre el trabajo en el siglo XXI.
Seres humanos que roban el trabajo de los robots, inteligencia
artificial que es realmente artificial, un gran engaño tecnológico que
es un gigantesco truco de magia ideológico, un trabajo hasta tal punto
fragmentado que apenas se ve, “granjeros del clic”, “la parias
digitales, produsagers o proletarios del teclado…
Bienvenida al mundo del digital labor, que el sociólogo Antonio
Casilli renombra como trabajo del clic en una obra tan amplia como
rigurosa, construida como una encuesta basada tanto en las metamorfosis
del trabajo en este tiempo digital, como del mismo trabajo digital.
Un término que el libro de este investigador permite por otra parte
utilizar sin que se le pueda acusar de anglicismo ya que se trata, para
él, de estudiar el trabajo del dedo, sobre la pantalla o el ratón,
comparable con el trabajo manual, mientras que el digital labor es a
menudo confundido con el trabajo inmaterial. De ese modo se pone el
acento en el elemento físico, “el movimiento activo del digitus, el dedo
que sirve para contar, pero también que apunta, clica, apoya sobre el
botón”, por contraste con la inmovilidad abstracta del numerus, el
número en tanto que concepto matemático”, lo que para el investigador es
una forma de liberarnos “de una visión de lo numérico entendida
exclusivamente como un trabajo de expertos y de sabios”.
Al equiparar el título de su nuevo libro, En attendant les robots
(Esperando a los robots, ndt), con la célebre obra de Samuel Beckett,
Antonio Casilli nos sumerge en un mundo absurdo, en el que el saqueo del
trabajo y la inanidad de la condición humana están organizados por los
grandes grupos de la economía digital, que permiten multiplicar las
actividades creadoras de riquezas pero no de ingresos.
Ahora bien, el investigador aporta una tesis especialmente sugerente,
que va contra las decenas de artículos que nos describen la
inteligencia artificial (IA) como el porvenir de humanidad en general y
del trabajo en particular. En efecto, según él, la mayor parte de las
inteligencias artificiales se asemeja mucho al Turco mecánico descrito
por Walter Benjamin en sus Tesis sobre el concepto de historia, en la
que un enano, jorobado y jugador de ajedrez, manipulaba las piezas,
dando la ilusión de que se trataba de una máquina mediante un juego de
cuerdas y un espejo [foto del artíclo].
En materia de IA, los fallos de la innovación son en realidad
numerosos y deben ser constantemente paliados mediante un recurso
intensivo al trabajo humano para, a su vez, entrenar, enmarcar y
suministrar a las máquinas datos fiables y utilizables. Lo que conduce a
una situación en la que frecuentemente la IA muestra que no es otra
cosa que una “mezcla de becarios franceses y precarios malgaches”; justo
lo contrario a la extendida imagen tecnológica y futurista.
El investigador nos obliga así a entender la automatización bajo otro
ángulo: “Esta no supone la sustitución de trabajadores humanos por
inteligencias artificiales eficaces y precisas, sino por otros
trabajadores humanos: -ocultados, precarios y mal pagados”. En efecto,
para Casillo no son “las máquinas quienes hacen el trabajo de las
personas humanas, sino los humanos quienes se ven obligados a realizar
un digital labor para las máquinas”. Esto es particularmente cierto para
los vehículos autónomos cuya autonomía es en realidad muy relativa.
Para describir esta situación, Antonio Casillo llega hasta a hablar
de gran “bluf tecnológico”, de estrategia de “camelo”, incluso de “IA
Washing [lavado, ndt]”, tomando en especial el ejemplo de Google. En
efecto, mientras que se pueden leer decenas de artículos sobre las
teorías desarrolladas por Ray Kurzweil, escritor transhumanista y
empleado en Google, en los que propone trazar el camino de una IA fuerte
que obtenga resultados superiores a los sistemas biológicos, su patrón
se ha lanzado a una producción de masa de IA débil y “estrecha” que
utilizan ampliamente el digital labor de los “parias digitales”.
A pesar del hecho de que a instancias de Godot, la IA que reemplazará
al trabajo humano tiene el riesgo de no llegar nunca, sin embargo, se
sigue considerando al digital labor como transitorio, en la idea de que
“actualmente las máquinas tendrán necesidad de él para aprender a
prescindir del mismo mañana”.
Pues si en la actualidad está de moda esta tesis del “gran
reemplazamiento tecnológico”, el investigador demuestra que es menos en
razón de los avances de la tecnología que de los usos que permite. En
efecto, “la automatización, fantasma constantemente agitado por los
industriales, produce efectos desde el momento en que simplemente es
considerada: ejerce una constricción sobre los trabajadores e introduce
una verdadera disciplina en el trabajo. El trabajo se ve amenazado y mal
pagado y cada trabajador es potencialmente supernumerario”.
Sin embargo, un estudio de la OCDE basado en 21 países en 2016 mostró
la sobreestimación de la posibilidad de automatizar las actuales
profesiones. Estimaba ciertamente que aproximadamente el 50% de las
tareas son susceptibles de verse considerablemente modificadas por la
automatización. No obstante, subrayaba que solo el 9% de los empleos
serían realmente susceptibles de ser eliminados por la introducción de
inteligencias artificiales y procesos automáticos.
Para Casilli, el capitalismo de las plataformas actuales “recurre
abundantemente al mismo truco que utilizaban los propietarios
manufactureros del pasado siglo: evacuar las variables sociales de un
proceso de innovación tecnológica para hacerle aparecer como una fase
necesaria de un progreso indefinido”. Y los robots “solo son en esta
operación los avatares cómodos de la voluntad de los propietarios de las
plataformas de obstaculizar la constitución de un movimiento de
oposición”.
En consecuencia, estima el investigador, “la automatización es ante
todo un espectáculo, una estrategia de distracción de la atención,
destinada a ocultar las decisiones empresariales que pretenden reducir
la parte relativa de los salarios (y más generalmente de la remuneración
de los factores productivos humanos) en relación con la remuneración de
los inversores”.
Como el horizonte de la completa automatización “aparece
inalcanzable, es legítimo interrogarse sobre la función ideológica de
ese escenario”, concluye el investigador, estimando que se construye una
visión del mundo y del trabajo en la que el “proletariado digital no
tendría necesidad de pensarse, de organizarse, ni de imaginar un
proyecto colectivo ya que no sería más que la porción residual de un
mundo del trabajo humano destinado a la desaparición”.
Sin duda, si el gran reemplazo tecnológico del trabajo no tendría
lugar, está claramente en marcha su gigantesco desplazamiento, a la vez
geográfico y numérico. En efecto “La inquietud contemporánea sobre la
desaparición del trabajo es un verdadero síntoma de la verdadera
transformación en marcha: su digitalización”, estima el sociólogo.
Esta digitalización de las tareas humanas empuja al extremo dos
tendencias profundas, “la estandarización y la externalización de las
tareas”. En efecto, “la especificidad de las tecnologías informacionales
actuales en relación con sus antecedentes industriales consiste en la
relación que mantienen con el espacio. Como la producción se puede
organizar en cualquier lugar, el lugar físico en el que se despliega la
automatización no es fijo, ni limitado al perímetro de la empresa”.
Este desplazamiento delega en realidad un “cierto número de tareas
productivas a no-trabajadores (o a trabajadores no remunerados y
reconocidos como tales”. Y las plataformas adoptan entonces un estilo
particular “de gestión de las actividades productivas, que consiste en
poner a trabajar a un número creciente de personas, pero situándolas
fuera del trabajo, ya que su figura se sitúa fuera de las modalidades
clásicas de la relación de empleo”.
El fenómeno que se describe conlos términos de digital labor se hace
“posible por dos dinámicas históricamente manifestadas: la
externalización del trabajo y su fragmentación”. Estas dos tendencias
han conocido puntos de partida y ritmos diferentes, pero “las
tecnologías de la información y de la comunicación las reconcilian”. De
forma que el “trabajador de las plataformas se encuentra aplastado entre
las proclamaciones de independencia y las condiciones materiales que le
exponen a bajas o inexistentes remuneraciones, a ritmos y a finalidades
heterodeterminadas, a una separación entre su gesto productivo y el
fruto de éste”.
Y es justamente porque está fragmentado, parcelado y externalizado,
que este trabajo “escapa a la categorías utilizas clásicamente para
analizarlo” y que “ya no reconocemos el trabajo que tenemos delante de
los ojos”,
“Inflexible flexibilidad del trabajo a petición”
Para aprender a reconocer el trabajo en la época del capitalismo de
las plataformas y en la era de lo digital, Antonio Casillo propone
estudiar el digital labor como un “movimiento de organización en tareas
(tâcheronnisation) [no existe término equivalente en castellano; podría
traducirse por tareanización, ndt] y de organización en datos
(datafication) [no existe término equivalente en castellano, ndt] de las
actividades productivas humanas en la hora de la aplicación de las
soluciones de inteligencia artificial”.
A la vez que permanece lúcido sobre el hecho de que este tipo de
trabajo amalgama fenómenos diferenciados y “se sitúa en el cruce
complejo de formas de empleo no estándar, del freelancing, del trabajo a
destajo micro-remunerado, del amateurismo profesionalizado, de ocios
monetizados y de la producción más o menos visible de datos”. No se
trata pues, o no solamente, de un trabajo gratuito, sino de un
“continuum entre actividades no remuneradas, actividades mal pagadas y
actividades remuneradas de forma flexible”.
Para clarificar las cosas, el investigador propone distinguir tres
tipos de actividades que se subsumen corrientemente bajo los términos de
digital labor. En primer lugar, el “digital labor por pedido”, que
reagrupa las actividades creadas por las aplicaciones de tipo Uber o
Deliveroo, cuyas prestaciones suministran no solo tareas manuales sino
que pasan también mucho tiempo produciendo datos.
Para Casilli, aunque en su origen la economía por pedido fue
asimilada a fenómenos diferentes, tales como la economía colaborativa,
la economía de reparto o la economía circular, en realidad se trata de
una actividad de otra naturaleza, marcada por la “inflexible
flexibilidad del trabajo por pedido”, que generaliza el trabajo atípico
más que abrir una nueva era a la autonomía humana.
A continuación el micro-trabajo, utilizado prioritariamente por las
pseudo-inteligencias artificiales que confían a micro-sirvientes lo que
era realizado por trabajadores regulares. El investigador utiliza el
ejemplo de un trabajo que ocuparía 20 años a un asalariado equipado de
un ordenador, un año entero a 20 asalariados en CDD [contrato de
duración determinada, ndt] o seis meses a 40 becarios y puede ser
realizado todavía de forma más rápida y barata gracias a la
fragmentación de las tareas.
La encarnación de este nuevo tipo de trabajo es el servicio de
Amazon, bautizado Turco Mecánico, gracias al cual la empresa puede, por
ejemplo, publicar un anuncio pidiendo a 500.000 personas que transcriban
dos líneas cada una. Tal servicio permite “reclutar a centenares de
miles de micro-sirvientes situados en todos los lugares del mundo para
filtrar vídeos, etiquetar fotos y transcribir documentos que las
máquinas no son capaces de realizar”.
Contrariamente a las plataformas de trabajo por pedido, en las que
los recientes conflictos sociales han permitido, puntualmente, hacer
reconocer la relación de sujeción entre el prestatario y las empresas
que organizan el trabajo en el siglo XXI, las reglas de gestión
algorítmica del trabajo y las condiciones de contractualización del
micro-trabajo oscurecen todavía aquí las pistas.
En efecto, en los “en los ecosistemas de micro-trabajo -escribe
Casilli-, la actividad de producción de valor se hace discreta y, debido
al estallido geográfico, los trabajadores no encuentran interlocutores
patronales frente a ellos, como en el caso de Uber y otros Deliveroo”.
Amazon encarna perfectamente el “papel de plataforma neutra, de útil
técnico de puesta en contacto que desintermedia el trabajo y desaparece
en tela de fondo”, como si fuera un “tercer beneficiario”.
En fin, el sociólogo distingue el “trabajo social en red” realizado
por cualquiera que alimenta en datos, por el uso que hace de internet,
los gigantes de la economía numérica. Antono Casilli da cuenta del
debate que opone, sobre el tema, a dos perspectivas representadas por
los “laboristas” y los “hedonistas”.
La primera “entiende la participación sobre los medios sociales como
una relación social relacionada con el trabajo y caracteriza la
apropiación por las grandes plataformas del valor que resulta como una
relación de explotación. La otra interpreta el produsage como la
expresión de una búsqueda de placer y una participación libremente
consentida en una nueva cultura del amateurismo y, a por ello, niega la
pertinencia misma de la noción de digital labor”.
Para Casilli, esta diferenciación se presenta, de forma demasiado
tajante, como un conflicto de obediencias, “en la que los dos campos se
acusan recíprocamente de ser, cada uno, una cábala de universitarios
marxistas o una emanación de la investigación industrial del sector de
lo numérico”. En una perspectiva próxima al marxismo, en el sentido en
que este último define como trabajo todo lo que fecunda al capital, el
investigador considera que “encerrando a sus usuarios en el papel de
amateurs felices y desinteresados, los medios sociales buscan también
mantener aparte uno de los elementos constitutivos de la dialéctica
entre trabajo y capital: la conflictualidad”.
Una posición que permanece discutida, incluso cuestionada, por otros
investigadores que trabajan sobre la economía numérica, especialmente
los que prefieren hablar de extracción de valor que de trabajo, en la
medida en que sigue siendo difícil medir el valor de un like o
considerar sus fotos de vacaciones en Facebook como trabajo, incluso
aunque ello contribuya a valorizar la empresa de Mark Zuckerberg.
Cualquiera que sea la extensión que se prefiera dar al perímetro del
digital labor, Antoine Casilli pone el dedo sobre varios efectos
importantes de la recomposición del trabajo en la era digital. El
primero consiste en el hecho de que “el recurso a la deslocalización con
el objetivo de una compresión de costes o de una racionalización de la
cartera de las sedes de una empresa no solo afecta exclusivamente a las
multinacionales. En lo sucesivo, el offshoring [externalización,
deslocalización, ndt] es un proceso en cascada”.
Se produce así una nueva división internacional del trabajo ya que
las tareas menos nobles “son habitualmente delegadas en los países
asiáticos o africanos”, contribuyendo a que el digital labor sea muy
frecuentemente invisible “para los ojos europeos”. Esta situación de
hecho obliga a reactualizar el debate sobre las desigualdades Norte/Sur,
aún cuando Casilli no endosa los términos de neocolonialismo numérico
que circulan a veces para describir la actividad de los gigantes del
sector, aunque solo sea porque “los países del Norte no son los únicos
motores de la economía numérica” y que China, especialmente, forma parte
de los que explotan los nuevos servidores de lo numérico.
El segundo es la “nivelación por abajo de las condiciones de trabajo y
de remuneración a escala mundial” que el investigador muestra que
coincide con una recomposición importante del capitalismo globalizado en
este último decenio. En efecto, escribe, “el desarrollo de las
plataformas numéricas ha coincidido con la crisis de la deuda y la
crisis financiera de finales de los años 2000, marcada por un elevado
desempleo, una congelación de los salarios, un declive de las
protecciones sociales y una profundización de las desigualdades”.
El intento de hacer bajar todavía más el precio del trabajo mediante
las deslocalizaciones ha podido enfrentarse “a políticas disuasivas de
fiscalidad y a los costes de las inversiones necesarias para la apertura
de instalaciones físicas en terceros países”. Y las soluciones,
masivamente utilizadas durante los Treinta Gloriosos [se entiende con
este término al período de mayor desarrollo del capitalismo en los
países desarrollados, comprendido entre el final de la II Guerra
Mundial, 1945, y la crisis petrolera de 1973, ndt], de introducción de
la mano de obra extranjera, han caído “bajo el golpe de políticas
migratorias cada vez más draconianas”.
La plataformización ha supuesto pues “una salida a esta doble
constricción, al instaurar una libertad de circulación ‘virtual’ de la
mano de obra planetaria” y permitiendo “transferencias no presenciales
de poblaciones”. De hecho, “lejos de suavizar la dureza de las políticas
migratorias de los países americanos y europeos respecto a la mano de
obra inmigrada, el digital labor desempeña un papel perverso de
facilitador de una explotación a distancia”.
El investigador estima pues que para los “capitalistas de las
plataformas”, que hacen creer a los jóvenes occidentales que no tienen
más que practicar un ocio productor de valor y condenan a la precariedad
toda una parte de la fuerza de trabajo global, se trata de “fragilizar
el trabajo para mejor evacuarlo, a la vez como categoría conceptual y
como factor productivo a remunerar”.
¿Se puede, entonces, escapar de esta constatación tan desesperante
como inquietante? Casilli describe algunas iniciativas y luchas para el
reconocimiento de las yt los trabajadores de las plataformas, que se
anudan esencialmente alrededor de dos estrategias. Una se esfuerza de
ensanchar al digital labor las conquistas sociales que precedentemente
habían estado ligadas con el empleo, como han hecho algunos repartidores
de Deliveroo o chóferes de Uber, pero exige, estima, “tomar en
consideración la dimensión planetaria del digital labor”.
La otra, todavía emergente, se basa en repensar la relación “entre
usuarios-trabajadores e infraestructuras de colecta y tratamiento de
datos al criterio de la gobernanza de los comunes para concebir
modalidades nuevas de distribución de los recursos”. En el marco de esta
estrategia, sería posible “otra plataformización”, a la manera de
Coopify, cooperativa de trabajadores al pedido alternativo en
TaskRabbit, de AllBnB sustituto de AirBnB, o también de CoopCyicle que
los repartidores prefieren a Foodora.
Sin embargo, para Casilli, “ni el arsenal sindical ni la respuesta
liberal aportan solución satisfactoria al problema de la remuneración
del digital labor”. El investigador propone pues no escoger entre una y
otra estrategia sino, de forma más real, establecer un “ingreso social
numérico” que estaría basado en el impuesto y también sobre la
restitución a los comunes de lo que “se produce socialmente”.
Forzando a las plataformas actuales a renunciar a su opacidad y a su
voracidad, e inspirándose en la tradición mutualista, sería posible
pasar a modelos no depredadores de plataformas que entonces no tendrían
ninguna razón para agitar el espectro de la automatización para
disciplinar la fuerza de trabajo.
Para Casilli, estas plataformas renovadas cumplirían así su función
original: “La sustitución de la propiedad privada por la propiedad
social, sobrepasar el trabajo forzado por un trabajo sin coerción y
reemplazar los enclaustramientos por infraestructuras verdaderamente
comunes”.
Esperando la realización de este amplio programa es tiempo ya de
plantearse sobre la forma como firmamos ciegamente las famosas CGU, o
“Condiciones Generales de Utilización”, que muestran ser, en realidad,
contratos leoninos que fijan los marcos de nuestra alienación.
Como recuerda Antonio Casilli, la plataforma de jobbing [trabajador a
destajo, ndt] de estudiante americano Sweeping o las de tareas
domésticas a pedido TaskRabbit llegan hasta a amenazar a sus usuarios
con la reclamación de indemnizaciones si presentan denuncias para exigir
la reclasificación de sus actividades o solicitar las cotizaciones
sociales no pagadas…
Att robotar gör mänsklig arbetskraft överflödig är en
seglivad myt, som bidrar till att hålla oss på mattan. Det säger
sociologen Antonio Casilli och tillägger att industrin tjänar på att
sprida varningar om att artificiell intelligens håller på att över våra
jobb.
Sociologen Antonio Casilli säger att varningarna om att robotar tar över våra jobb är överdrivna.
Bild: Hermance Triay
Om 20 år försvinner nästan hälften av jobben i USA på grund av robotar, enligt den så kallade Oxford-rapporten från 2013.
Prognoser, bland annat från Stiftelsen för strategisk forskning,
säger att andelen hotade arbetstillfällen i Sverige är ännu högre.
– Men det är en myt som göds av industriella och finansiella intressen.
Det påstår den fransk-italienska sociologen Antonio Casilli, som nyligen har gett ut en hyllad essä om ämnet i Frankrike.* Han är professor vid högskolan Télécom ParisTech, och är specialiserad på hur arbetslivet påverkas av datoriseringen.
Antonio Casilli säger att legenden om robotarnas hot
mot sysselsättningen har återkommit med jämna mellanrum sedan början av
1800-talet, men att det fortfarande inte finns några tecken på att
profetian håller på att infrias.
– Den artificiella intelligensen har ett enormt behov av information.
Att samla in och sortera uppgifter är ett arbete som kräver ett
mänskligt omdöme, som ingen maskin klarar. Men myten skapar oro. Rädslan
för att förlora jobbet gör att arbetare blir disciplinerade.
– De ställer färre krav och organiserar sig inte, säger han.
Robotiseringen förändrar däremot arbetslivet.
”Digital-arbetarna” är en snabbt växande grupp. En del är avlönade, till
exempel de som arbetar via de så kallade Uberföretagen.
Andra får en mikrobetalning för varje mikromoment de gör, när de sorterar information åt företag.
I västländer utför hundratusentals personer den här typen av arbeten, men ofta vid sidan av ett annat jobb. I andra världsdelar är klick-jobben huvudsysselsättning för miljontals invånare.
– I allmänhet handlar det om små grupper av arbetare som inte är organiserade sinsemellan, säger Antonio Casilli.
Därtill kommer alla vi andra, som genom våra aktiviteter på sociala
medier, omedvetet deltar i utvecklingen. Vi taggar till exempel våra
bilder på Instagram eller Facebook, och bidrar till att robotar får nya
kunskaper om bildassociationer, känslor eller stämningar.
Antonio Casilli presenterar tre olika möjligheter, där facken kan utöva påtryckning, för att motverka en ökad exploatering av dessa i dag så splittrade klickarbetare.
Den första består i att försöka organisera den digitala arbetskraften
för att den ska kunna dra vinning av de trygghetssystem som redan
finns.
Den andra handlar om att bygga upp icke-kapitalistiska alternativ till de lönsamhetsdrivna plattformarna för utbyte av tjänster.
Den tredje och den mest intressanta, enligt Antoine Casilli, är att
kräva att få ta del av de rikedomar, som vi tillsammans är med om att
skapa när vi matar olika plattformar med information. Han anser att
Internetföretagen ska beskattas högre av just den anledningen, och att
vinsterna ska fördelas genom en universell inkomst till alla invånare.
I hans eget hemland Frankrike, har regeringen just meddelat att de
stora internetföretagen snart kommer att beläggas med en helt ny skatt.
Enligt sociologen är det ett beslut som går i rätt riktning.
*Antonio Casilli essä heter: En attendant les robots. Enquête sur le travail du clic.Utgivare: Seuil, 2019