Interestingly enough, face recognition tech *does not work*, and the journalist has to grudgingly admit its low accuracy:
“As for the accuracy of the results, none of the photos returned were of the investigator. However, the facial features were similar to the input and the system assessed a similarity of 67%.”
According to the journalist, the explanation for this suboptimal performance is “the limited number of cameras connected to the face recognition algorithm”. Apparently, the sample is too small, but the technology is not fundamentally called into question…
“The system remains more of a digital patchwork than an all-seeing technological network. Many files still aren’t digitized, and others are on mismatched spreadsheets that can’t be easily reconciled. Systems that police hope will someday be powered by A.I. [emphasis added] are currently run by teams of people sorting through photos and data the old-fashioned way.”
“The old-fashioned way” here means “by hand”… Data annotation, triage, enrichment, especially for the computer vision models underlying face recognition algorithms, is a blossoming market. Recent research by Bonnie Nardi, Hamid Ekbia, Mary Gray, Sid Suri, Janine Berg, Six Silberman, Florian Schmidt, Trevor Paglen, Kate Crawford, Paola Tubaro and myself witnesses its development in sectors as diverse as home automation, transportation, advertising, health, entertainment… and the military. It is based on a workforce of hundreds of million of online laborers, alternatively called microworkers or crowdworkers. They work long hours, with precarious contracts and exploitative working conditions, and are paid very low wages (in some cases less than a cent per micro-task). Although they are attested in the global North, they are predominantly based in developing and emerging economies—such as Russia and China. But the companies that recruit them to package their annotated data and resell it as surveillance technologies, are mainly located in so-called liberal democracies. Despite the Chinese market supremacy, US, French, Japanese, Israeli and Finnish corporations are spreading these technologies all over the world, according to the 2019 AI Global Surveillance Index.
Despite the importance of these “humans in the loop” that constitute the secret ingredients of AI-based technological innovation, the threats of facial recognition, smart cities and predictive policing must not be minimized. The glorification of AI turns it into a powerful psychological deterrent and a disciplinary device. “The whole point,” explains an expert interviewed by the New York Times, “is that people don’t know if they’re being monitored, and that uncertainty makes them more obedient.”
Any action aimed to fight against the alleged omnipotence of these technologies begins with the recognition of their fictitious nature. If automated surveillance is made up of men and women who train, control and impersonate “artificial artificial intelligence“, it is from the awareness of their role in a dystopian and inhuman system that a change is going to come.
Dans le cadre du cycle de conférences Les Débats du CAK, organisées depuis 2014 au Centre Alexandre-Koyré, j’ai eu le plaisir de débattre mon dernier ouvrage En attendant les robots. Enquête sur le travail du clic (Paris, Le Seuil, 2019) en compagnie de Marine Al Dahdah (sociologue au CEMSS CNRS et co-fondatrice du groupe de recherche « Digital studies in the Global South ») et de Jean-Gabriel Ganascia (informaticien et philosophe à la Sorbonne Université, et président du Comité d’éthique du CNRS).
Los trabajadores del clic, nuevos proletarios digitales
¿La perspectiva de la sustitución general del
trabajo humano por las tecnologías de la inteligencia artificial es solo
un gran bluf destinado a impedir la organización de los nuevos
proletarios del sector digital? Analizando los perfiles del digital
labor [trabajo digital], el sociólogo Antonio Casilli ha elaborado una
gran encuesta sobre el trabajo en el siglo XXI.
Seres humanos que roban el trabajo de los robots, inteligencia
artificial que es realmente artificial, un gran engaño tecnológico que
es un gigantesco truco de magia ideológico, un trabajo hasta tal punto
fragmentado que apenas se ve, “granjeros del clic”, “la parias
digitales, produsagers o proletarios del teclado…
Bienvenida al mundo del digital labor, que el sociólogo Antonio
Casilli renombra como trabajo del clic en una obra tan amplia como
rigurosa, construida como una encuesta basada tanto en las metamorfosis
del trabajo en este tiempo digital, como del mismo trabajo digital.
Un término que el libro de este investigador permite por otra parte
utilizar sin que se le pueda acusar de anglicismo ya que se trata, para
él, de estudiar el trabajo del dedo, sobre la pantalla o el ratón,
comparable con el trabajo manual, mientras que el digital labor es a
menudo confundido con el trabajo inmaterial. De ese modo se pone el
acento en el elemento físico, “el movimiento activo del digitus, el dedo
que sirve para contar, pero también que apunta, clica, apoya sobre el
botón”, por contraste con la inmovilidad abstracta del numerus, el
número en tanto que concepto matemático”, lo que para el investigador es
una forma de liberarnos “de una visión de lo numérico entendida
exclusivamente como un trabajo de expertos y de sabios”.
Al equiparar el título de su nuevo libro, En attendant les robots
(Esperando a los robots, ndt), con la célebre obra de Samuel Beckett,
Antonio Casilli nos sumerge en un mundo absurdo, en el que el saqueo del
trabajo y la inanidad de la condición humana están organizados por los
grandes grupos de la economía digital, que permiten multiplicar las
actividades creadoras de riquezas pero no de ingresos.
Ahora bien, el investigador aporta una tesis especialmente sugerente,
que va contra las decenas de artículos que nos describen la
inteligencia artificial (IA) como el porvenir de humanidad en general y
del trabajo en particular. En efecto, según él, la mayor parte de las
inteligencias artificiales se asemeja mucho al Turco mecánico descrito
por Walter Benjamin en sus Tesis sobre el concepto de historia, en la
que un enano, jorobado y jugador de ajedrez, manipulaba las piezas,
dando la ilusión de que se trataba de una máquina mediante un juego de
cuerdas y un espejo [foto del artíclo].
En materia de IA, los fallos de la innovación son en realidad
numerosos y deben ser constantemente paliados mediante un recurso
intensivo al trabajo humano para, a su vez, entrenar, enmarcar y
suministrar a las máquinas datos fiables y utilizables. Lo que conduce a
una situación en la que frecuentemente la IA muestra que no es otra
cosa que una “mezcla de becarios franceses y precarios malgaches”; justo
lo contrario a la extendida imagen tecnológica y futurista.
El investigador nos obliga así a entender la automatización bajo otro
ángulo: “Esta no supone la sustitución de trabajadores humanos por
inteligencias artificiales eficaces y precisas, sino por otros
trabajadores humanos: -ocultados, precarios y mal pagados”. En efecto,
para Casillo no son “las máquinas quienes hacen el trabajo de las
personas humanas, sino los humanos quienes se ven obligados a realizar
un digital labor para las máquinas”. Esto es particularmente cierto para
los vehículos autónomos cuya autonomía es en realidad muy relativa.
Para describir esta situación, Antonio Casillo llega hasta a hablar
de gran “bluf tecnológico”, de estrategia de “camelo”, incluso de “IA
Washing [lavado, ndt]”, tomando en especial el ejemplo de Google. En
efecto, mientras que se pueden leer decenas de artículos sobre las
teorías desarrolladas por Ray Kurzweil, escritor transhumanista y
empleado en Google, en los que propone trazar el camino de una IA fuerte
que obtenga resultados superiores a los sistemas biológicos, su patrón
se ha lanzado a una producción de masa de IA débil y “estrecha” que
utilizan ampliamente el digital labor de los “parias digitales”.
A pesar del hecho de que a instancias de Godot, la IA que reemplazará
al trabajo humano tiene el riesgo de no llegar nunca, sin embargo, se
sigue considerando al digital labor como transitorio, en la idea de que
“actualmente las máquinas tendrán necesidad de él para aprender a
prescindir del mismo mañana”.
Pues si en la actualidad está de moda esta tesis del “gran
reemplazamiento tecnológico”, el investigador demuestra que es menos en
razón de los avances de la tecnología que de los usos que permite. En
efecto, “la automatización, fantasma constantemente agitado por los
industriales, produce efectos desde el momento en que simplemente es
considerada: ejerce una constricción sobre los trabajadores e introduce
una verdadera disciplina en el trabajo. El trabajo se ve amenazado y mal
pagado y cada trabajador es potencialmente supernumerario”.
Sin embargo, un estudio de la OCDE basado en 21 países en 2016 mostró
la sobreestimación de la posibilidad de automatizar las actuales
profesiones. Estimaba ciertamente que aproximadamente el 50% de las
tareas son susceptibles de verse considerablemente modificadas por la
automatización. No obstante, subrayaba que solo el 9% de los empleos
serían realmente susceptibles de ser eliminados por la introducción de
inteligencias artificiales y procesos automáticos.
Para Casilli, el capitalismo de las plataformas actuales “recurre
abundantemente al mismo truco que utilizaban los propietarios
manufactureros del pasado siglo: evacuar las variables sociales de un
proceso de innovación tecnológica para hacerle aparecer como una fase
necesaria de un progreso indefinido”. Y los robots “solo son en esta
operación los avatares cómodos de la voluntad de los propietarios de las
plataformas de obstaculizar la constitución de un movimiento de
oposición”.
En consecuencia, estima el investigador, “la automatización es ante
todo un espectáculo, una estrategia de distracción de la atención,
destinada a ocultar las decisiones empresariales que pretenden reducir
la parte relativa de los salarios (y más generalmente de la remuneración
de los factores productivos humanos) en relación con la remuneración de
los inversores”.
Como el horizonte de la completa automatización “aparece
inalcanzable, es legítimo interrogarse sobre la función ideológica de
ese escenario”, concluye el investigador, estimando que se construye una
visión del mundo y del trabajo en la que el “proletariado digital no
tendría necesidad de pensarse, de organizarse, ni de imaginar un
proyecto colectivo ya que no sería más que la porción residual de un
mundo del trabajo humano destinado a la desaparición”.
Sin duda, si el gran reemplazo tecnológico del trabajo no tendría
lugar, está claramente en marcha su gigantesco desplazamiento, a la vez
geográfico y numérico. En efecto “La inquietud contemporánea sobre la
desaparición del trabajo es un verdadero síntoma de la verdadera
transformación en marcha: su digitalización”, estima el sociólogo.
Esta digitalización de las tareas humanas empuja al extremo dos
tendencias profundas, “la estandarización y la externalización de las
tareas”. En efecto, “la especificidad de las tecnologías informacionales
actuales en relación con sus antecedentes industriales consiste en la
relación que mantienen con el espacio. Como la producción se puede
organizar en cualquier lugar, el lugar físico en el que se despliega la
automatización no es fijo, ni limitado al perímetro de la empresa”.
Este desplazamiento delega en realidad un “cierto número de tareas
productivas a no-trabajadores (o a trabajadores no remunerados y
reconocidos como tales”. Y las plataformas adoptan entonces un estilo
particular “de gestión de las actividades productivas, que consiste en
poner a trabajar a un número creciente de personas, pero situándolas
fuera del trabajo, ya que su figura se sitúa fuera de las modalidades
clásicas de la relación de empleo”.
El fenómeno que se describe conlos términos de digital labor se hace
“posible por dos dinámicas históricamente manifestadas: la
externalización del trabajo y su fragmentación”. Estas dos tendencias
han conocido puntos de partida y ritmos diferentes, pero “las
tecnologías de la información y de la comunicación las reconcilian”. De
forma que el “trabajador de las plataformas se encuentra aplastado entre
las proclamaciones de independencia y las condiciones materiales que le
exponen a bajas o inexistentes remuneraciones, a ritmos y a finalidades
heterodeterminadas, a una separación entre su gesto productivo y el
fruto de éste”.
Y es justamente porque está fragmentado, parcelado y externalizado,
que este trabajo “escapa a la categorías utilizas clásicamente para
analizarlo” y que “ya no reconocemos el trabajo que tenemos delante de
los ojos”,
“Inflexible flexibilidad del trabajo a petición”
Para aprender a reconocer el trabajo en la época del capitalismo de
las plataformas y en la era de lo digital, Antonio Casillo propone
estudiar el digital labor como un “movimiento de organización en tareas
(tâcheronnisation) [no existe término equivalente en castellano; podría
traducirse por tareanización, ndt] y de organización en datos
(datafication) [no existe término equivalente en castellano, ndt] de las
actividades productivas humanas en la hora de la aplicación de las
soluciones de inteligencia artificial”.
A la vez que permanece lúcido sobre el hecho de que este tipo de
trabajo amalgama fenómenos diferenciados y “se sitúa en el cruce
complejo de formas de empleo no estándar, del freelancing, del trabajo a
destajo micro-remunerado, del amateurismo profesionalizado, de ocios
monetizados y de la producción más o menos visible de datos”. No se
trata pues, o no solamente, de un trabajo gratuito, sino de un
“continuum entre actividades no remuneradas, actividades mal pagadas y
actividades remuneradas de forma flexible”.
Para clarificar las cosas, el investigador propone distinguir tres
tipos de actividades que se subsumen corrientemente bajo los términos de
digital labor. En primer lugar, el “digital labor por pedido”, que
reagrupa las actividades creadas por las aplicaciones de tipo Uber o
Deliveroo, cuyas prestaciones suministran no solo tareas manuales sino
que pasan también mucho tiempo produciendo datos.
Para Casilli, aunque en su origen la economía por pedido fue
asimilada a fenómenos diferentes, tales como la economía colaborativa,
la economía de reparto o la economía circular, en realidad se trata de
una actividad de otra naturaleza, marcada por la “inflexible
flexibilidad del trabajo por pedido”, que generaliza el trabajo atípico
más que abrir una nueva era a la autonomía humana.
A continuación el micro-trabajo, utilizado prioritariamente por las
pseudo-inteligencias artificiales que confían a micro-sirvientes lo que
era realizado por trabajadores regulares. El investigador utiliza el
ejemplo de un trabajo que ocuparía 20 años a un asalariado equipado de
un ordenador, un año entero a 20 asalariados en CDD [contrato de
duración determinada, ndt] o seis meses a 40 becarios y puede ser
realizado todavía de forma más rápida y barata gracias a la
fragmentación de las tareas.
La encarnación de este nuevo tipo de trabajo es el servicio de
Amazon, bautizado Turco Mecánico, gracias al cual la empresa puede, por
ejemplo, publicar un anuncio pidiendo a 500.000 personas que transcriban
dos líneas cada una. Tal servicio permite “reclutar a centenares de
miles de micro-sirvientes situados en todos los lugares del mundo para
filtrar vídeos, etiquetar fotos y transcribir documentos que las
máquinas no son capaces de realizar”.
Contrariamente a las plataformas de trabajo por pedido, en las que
los recientes conflictos sociales han permitido, puntualmente, hacer
reconocer la relación de sujeción entre el prestatario y las empresas
que organizan el trabajo en el siglo XXI, las reglas de gestión
algorítmica del trabajo y las condiciones de contractualización del
micro-trabajo oscurecen todavía aquí las pistas.
En efecto, en los “en los ecosistemas de micro-trabajo -escribe
Casilli-, la actividad de producción de valor se hace discreta y, debido
al estallido geográfico, los trabajadores no encuentran interlocutores
patronales frente a ellos, como en el caso de Uber y otros Deliveroo”.
Amazon encarna perfectamente el “papel de plataforma neutra, de útil
técnico de puesta en contacto que desintermedia el trabajo y desaparece
en tela de fondo”, como si fuera un “tercer beneficiario”.
En fin, el sociólogo distingue el “trabajo social en red” realizado
por cualquiera que alimenta en datos, por el uso que hace de internet,
los gigantes de la economía numérica. Antono Casilli da cuenta del
debate que opone, sobre el tema, a dos perspectivas representadas por
los “laboristas” y los “hedonistas”.
La primera “entiende la participación sobre los medios sociales como
una relación social relacionada con el trabajo y caracteriza la
apropiación por las grandes plataformas del valor que resulta como una
relación de explotación. La otra interpreta el produsage como la
expresión de una búsqueda de placer y una participación libremente
consentida en una nueva cultura del amateurismo y, a por ello, niega la
pertinencia misma de la noción de digital labor”.
Para Casilli, esta diferenciación se presenta, de forma demasiado
tajante, como un conflicto de obediencias, “en la que los dos campos se
acusan recíprocamente de ser, cada uno, una cábala de universitarios
marxistas o una emanación de la investigación industrial del sector de
lo numérico”. En una perspectiva próxima al marxismo, en el sentido en
que este último define como trabajo todo lo que fecunda al capital, el
investigador considera que “encerrando a sus usuarios en el papel de
amateurs felices y desinteresados, los medios sociales buscan también
mantener aparte uno de los elementos constitutivos de la dialéctica
entre trabajo y capital: la conflictualidad”.
Una posición que permanece discutida, incluso cuestionada, por otros
investigadores que trabajan sobre la economía numérica, especialmente
los que prefieren hablar de extracción de valor que de trabajo, en la
medida en que sigue siendo difícil medir el valor de un like o
considerar sus fotos de vacaciones en Facebook como trabajo, incluso
aunque ello contribuya a valorizar la empresa de Mark Zuckerberg.
Cualquiera que sea la extensión que se prefiera dar al perímetro del
digital labor, Antoine Casilli pone el dedo sobre varios efectos
importantes de la recomposición del trabajo en la era digital. El
primero consiste en el hecho de que “el recurso a la deslocalización con
el objetivo de una compresión de costes o de una racionalización de la
cartera de las sedes de una empresa no solo afecta exclusivamente a las
multinacionales. En lo sucesivo, el offshoring [externalización,
deslocalización, ndt] es un proceso en cascada”.
Se produce así una nueva división internacional del trabajo ya que
las tareas menos nobles “son habitualmente delegadas en los países
asiáticos o africanos”, contribuyendo a que el digital labor sea muy
frecuentemente invisible “para los ojos europeos”. Esta situación de
hecho obliga a reactualizar el debate sobre las desigualdades Norte/Sur,
aún cuando Casilli no endosa los términos de neocolonialismo numérico
que circulan a veces para describir la actividad de los gigantes del
sector, aunque solo sea porque “los países del Norte no son los únicos
motores de la economía numérica” y que China, especialmente, forma parte
de los que explotan los nuevos servidores de lo numérico.
El segundo es la “nivelación por abajo de las condiciones de trabajo y
de remuneración a escala mundial” que el investigador muestra que
coincide con una recomposición importante del capitalismo globalizado en
este último decenio. En efecto, escribe, “el desarrollo de las
plataformas numéricas ha coincidido con la crisis de la deuda y la
crisis financiera de finales de los años 2000, marcada por un elevado
desempleo, una congelación de los salarios, un declive de las
protecciones sociales y una profundización de las desigualdades”.
El intento de hacer bajar todavía más el precio del trabajo mediante
las deslocalizaciones ha podido enfrentarse “a políticas disuasivas de
fiscalidad y a los costes de las inversiones necesarias para la apertura
de instalaciones físicas en terceros países”. Y las soluciones,
masivamente utilizadas durante los Treinta Gloriosos [se entiende con
este término al período de mayor desarrollo del capitalismo en los
países desarrollados, comprendido entre el final de la II Guerra
Mundial, 1945, y la crisis petrolera de 1973, ndt], de introducción de
la mano de obra extranjera, han caído “bajo el golpe de políticas
migratorias cada vez más draconianas”.
La plataformización ha supuesto pues “una salida a esta doble
constricción, al instaurar una libertad de circulación ‘virtual’ de la
mano de obra planetaria” y permitiendo “transferencias no presenciales
de poblaciones”. De hecho, “lejos de suavizar la dureza de las políticas
migratorias de los países americanos y europeos respecto a la mano de
obra inmigrada, el digital labor desempeña un papel perverso de
facilitador de una explotación a distancia”.
El investigador estima pues que para los “capitalistas de las
plataformas”, que hacen creer a los jóvenes occidentales que no tienen
más que practicar un ocio productor de valor y condenan a la precariedad
toda una parte de la fuerza de trabajo global, se trata de “fragilizar
el trabajo para mejor evacuarlo, a la vez como categoría conceptual y
como factor productivo a remunerar”.
¿Se puede, entonces, escapar de esta constatación tan desesperante
como inquietante? Casilli describe algunas iniciativas y luchas para el
reconocimiento de las yt los trabajadores de las plataformas, que se
anudan esencialmente alrededor de dos estrategias. Una se esfuerza de
ensanchar al digital labor las conquistas sociales que precedentemente
habían estado ligadas con el empleo, como han hecho algunos repartidores
de Deliveroo o chóferes de Uber, pero exige, estima, “tomar en
consideración la dimensión planetaria del digital labor”.
La otra, todavía emergente, se basa en repensar la relación “entre
usuarios-trabajadores e infraestructuras de colecta y tratamiento de
datos al criterio de la gobernanza de los comunes para concebir
modalidades nuevas de distribución de los recursos”. En el marco de esta
estrategia, sería posible “otra plataformización”, a la manera de
Coopify, cooperativa de trabajadores al pedido alternativo en
TaskRabbit, de AllBnB sustituto de AirBnB, o también de CoopCyicle que
los repartidores prefieren a Foodora.
Sin embargo, para Casilli, “ni el arsenal sindical ni la respuesta
liberal aportan solución satisfactoria al problema de la remuneración
del digital labor”. El investigador propone pues no escoger entre una y
otra estrategia sino, de forma más real, establecer un “ingreso social
numérico” que estaría basado en el impuesto y también sobre la
restitución a los comunes de lo que “se produce socialmente”.
Forzando a las plataformas actuales a renunciar a su opacidad y a su
voracidad, e inspirándose en la tradición mutualista, sería posible
pasar a modelos no depredadores de plataformas que entonces no tendrían
ninguna razón para agitar el espectro de la automatización para
disciplinar la fuerza de trabajo.
Para Casilli, estas plataformas renovadas cumplirían así su función
original: “La sustitución de la propiedad privada por la propiedad
social, sobrepasar el trabajo forzado por un trabajo sin coerción y
reemplazar los enclaustramientos por infraestructuras verdaderamente
comunes”.
Esperando la realización de este amplio programa es tiempo ya de
plantearse sobre la forma como firmamos ciegamente las famosas CGU, o
“Condiciones Generales de Utilización”, que muestran ser, en realidad,
contratos leoninos que fijan los marcos de nuestra alienación.
Como recuerda Antonio Casilli, la plataforma de jobbing [trabajador a
destajo, ndt] de estudiante americano Sweeping o las de tareas
domésticas a pedido TaskRabbit llegan hasta a amenazar a sus usuarios
con la reclamación de indemnizaciones si presentan denuncias para exigir
la reclasificación de sus actividades o solicitar las cotizaciones
sociales no pagadas…
Att robotar gör mänsklig arbetskraft överflödig är en
seglivad myt, som bidrar till att hålla oss på mattan. Det säger
sociologen Antonio Casilli och tillägger att industrin tjänar på att
sprida varningar om att artificiell intelligens håller på att över våra
jobb.
Sociologen Antonio Casilli säger att varningarna om att robotar tar över våra jobb är överdrivna.
Bild: Hermance Triay
Om 20 år försvinner nästan hälften av jobben i USA på grund av robotar, enligt den så kallade Oxford-rapporten från 2013.
Prognoser, bland annat från Stiftelsen för strategisk forskning,
säger att andelen hotade arbetstillfällen i Sverige är ännu högre.
– Men det är en myt som göds av industriella och finansiella intressen.
Det påstår den fransk-italienska sociologen Antonio Casilli, som nyligen har gett ut en hyllad essä om ämnet i Frankrike.* Han är professor vid högskolan Télécom ParisTech, och är specialiserad på hur arbetslivet påverkas av datoriseringen.
Antonio Casilli säger att legenden om robotarnas hot
mot sysselsättningen har återkommit med jämna mellanrum sedan början av
1800-talet, men att det fortfarande inte finns några tecken på att
profetian håller på att infrias.
– Den artificiella intelligensen har ett enormt behov av information.
Att samla in och sortera uppgifter är ett arbete som kräver ett
mänskligt omdöme, som ingen maskin klarar. Men myten skapar oro. Rädslan
för att förlora jobbet gör att arbetare blir disciplinerade.
– De ställer färre krav och organiserar sig inte, säger han.
Robotiseringen förändrar däremot arbetslivet.
”Digital-arbetarna” är en snabbt växande grupp. En del är avlönade, till
exempel de som arbetar via de så kallade Uberföretagen.
Andra får en mikrobetalning för varje mikromoment de gör, när de sorterar information åt företag.
I västländer utför hundratusentals personer den här typen av arbeten, men ofta vid sidan av ett annat jobb. I andra världsdelar är klick-jobben huvudsysselsättning för miljontals invånare.
– I allmänhet handlar det om små grupper av arbetare som inte är organiserade sinsemellan, säger Antonio Casilli.
Därtill kommer alla vi andra, som genom våra aktiviteter på sociala
medier, omedvetet deltar i utvecklingen. Vi taggar till exempel våra
bilder på Instagram eller Facebook, och bidrar till att robotar får nya
kunskaper om bildassociationer, känslor eller stämningar.
Antonio Casilli presenterar tre olika möjligheter, där facken kan utöva påtryckning, för att motverka en ökad exploatering av dessa i dag så splittrade klickarbetare.
Den första består i att försöka organisera den digitala arbetskraften
för att den ska kunna dra vinning av de trygghetssystem som redan
finns.
Den andra handlar om att bygga upp icke-kapitalistiska alternativ till de lönsamhetsdrivna plattformarna för utbyte av tjänster.
Den tredje och den mest intressanta, enligt Antoine Casilli, är att
kräva att få ta del av de rikedomar, som vi tillsammans är med om att
skapa när vi matar olika plattformar med information. Han anser att
Internetföretagen ska beskattas högre av just den anledningen, och att
vinsterna ska fördelas genom en universell inkomst till alla invånare.
I hans eget hemland Frankrike, har regeringen just meddelat att de
stora internetföretagen snart kommer att beläggas med en helt ny skatt.
Enligt sociologen är det ett beslut som går i rätt riktning.
*Antonio Casilli essä heter: En attendant les robots. Enquête sur le travail du clic.Utgivare: Seuil, 2019
Presentación de mi libro Trabajo, conocimiento y vigilancia: 5 ensayos sobre tecnología, una antología de mis artículos, originalmente publicados en francés e inglés entre 2010 y 2018. La publicación de este libro fue dirigida por AGETIC y la Embajada de Francia en Bolivia. (Conferencia realizada en la Vicepresidencia del Estado, La Paz, Bolivia, traducida al español del inglés).
Referencia completa:
Casilli, Antonio A. (2018). Trabajo, conocimiento y vigilancia: 5 ensayos sobre tecnología. La Paz, Bolivia: Editorial del Estado.
Il s’agissait d’un logiciel qui envoyait des messages via l’application Messenger, initialement disponible pour un nombre limité d’usagers-testeurs (10 000 résidents de San Francisco) qui l’utilisaient surtout pour des opérations commerciales. La plupart des tâches réalisées par le chatbot nécessitaient de personnes pour assister, entraîner, vérifier ses réponses — et parfois se faire carrément passer pour M. D’où la suspicion que son nom ne soit pas un clin d’œil à l’assistant de James Bond, miss Moneypenny, mais une référence assez claire au “micro-travail”…
L’objectif de Facebook avec cet agent conversationnel était de développer une technologie d’intelligence artificielle capable d’automatiser presque n’importe quelle tâche (“Facebook put no bounds on what M could be asked to do“). C’est toujours la vieille promesse du machine learning : tu fais réaliser des tâches par des humains, puis “la machine” apprend et — bam ! tu te débarrasses des humains. Néanmoins, malgré les vastes ressources techniques de Facebook, le taux d’automation de M semble n’avoir jamais dépasse 30%. Presque trois quarts des tâches, donc, étaient effectuées par des petites mains payées à la pièce, entre San Francisco et Katmandou (si le bruit selon lequel elles étaient recrutées via le bureau népalais de la plateforme de micro-travail Cloudfactory était confirmé).
L’histoire de M contient une moralité pour toute entreprise qui développe ou achète des solutions de IA : quand on prend en compte le coût de the human in the loop, l’automation revient très chère. C’est à cause de l’importance de ces coûts (et de la médiocrité des résultats) que Facebook a définitivement décidé de discontinuer M en 2018.
L’autre leçon à retenir ici est que dans la mesure où l’objectif final de M était de préparer le développement de solutions IA qui auraient pu automatiser presque toutes les tâches que les usagers réalisent en ligne, l’automation complète s’avère être un fantasme de silconvallards. A chaque fois qu’on automatise une tâche, les êtres humains avec qui l’IA interagit en redemandent, et de plus en plus complexes. Comme Wired le souligne :
“Another challenge: When M could complete tasks, users asked for progressively harder tasks. A fully automated M would have to do things far beyond the capabilities of existing machine learning technology. Today’s best algorithms are a long way from being able to really understand all the nuances of natural language.”
Il faut alors recommencer et recommencer à concevoir-entraîner-tester-micro-travailler etc. Comme quoi, nous (autant les centaines de millions de tâcherons du clic sur les plateformes de micro-travail que les milliards de micro-tâcherons dissimulés que nous sommes sur les plateformes de médias sociaux) avons devant nous une longue carrière de dresseurs d’IA. Très longue. Interminable même, à en croire certains jeunes experts d’automation. Parmi eux, un nommé Ernest Mandel, lequel affirmait, dans un texte paru en… 1986 :
“Sous le capitalisme, l’automation complète, l’introduction de robots sur grande échelle sont impossibles car elles impliqueraient la disparition de l’économie de marché, de l’argent, du capital et des profits. (…) La variante la plus probable sous le capitalisme, c’est précisément la longue durée de la dépression actuelle, avec seulement le développement d’une automation partielle et d’une robotisation marginale, les deux étant accompagnées par une surcapacité de surproduction sur grande échelle (une surproduction de marchandises), un chômage sur grande échelle, une pression sur grande échelle pour extraire de plus en plus de plus-value d’un nombre de jours de travail et d’ouvriers productifs tendant à stagner et à décliner lentement. Cela équivaudrait à une augmentation de la pression à la surexploitation de la classe ouvrière (en faisant baisser les salaires réels et les prestations de Sécurité sociale), en affaiblissant ou détruisant le mouvement ouvrier organisé et en sapant les libertés démocratiques et les droits de l’homme.”
Pour la dixième année consécutive, notre séminaire EHESS Etudier les cultures du numérique revient ! Et le programme est extrêmement riche, avec plein d’intelligence artificielle, d’études post-coloniales, de genre et sexualité, d’algorithmes et d’économie de la connaissance. Des chercheurs internationaux, des sujets de pointe, et un format long pour vous permettre d’avoir un véritable échange avec les intervenants.
Vous connaissez le principe : le séminaire est ouvert aux auditeurs libres. Il suffit de s’inscrire (pour toute l’année ou seulement pour une ou deux séances) en remplissant le formulaire de contact. Si vous êtes un étudiant et vous souhaitez valider cet enseignement, merci de me contacter par e-mail.
Le séminaire a lieu le deuxième lundi du mois de 17 h à 20 h, en salle M. & D. Lombard, EHESS, 96 bd Raspail 75006 Paris. La séance de décembre aura lieu le lundi 4, en salle 13, 105 bd Raspail, 75006 Paris. NB : une séance exceptionnelle avec Gabriella Coleman aura lieu le mercredi 28 mars 2018 en Amphithéâtre François Furet, 105 bd Raspail, 75006 Paris.
Voilà le calendrier complet :
lundi 13 novembre 2017 – Antonio Casilli (ParisTech/EHESS)
Des intelligences pas si artificielles : plateformes, digital labor et la ‘tentation d’automatiser’
lundi 04 décembre 2017 – Bernie Hogan (Oxford Internet Institute) Control, Privacy, Generativity: Big Data after the Ideology of Machine Learning
lundi 08 janvier 2018 – Olivier Ertzscheid (Université de Nantes – IUT La Roche-sur-Yon)
L’appétit des géants : les plateformes sont-elles des gouvernements comme les autres ?
lundi 12 février 2018 – Jean-Gabriel Ganascia (Université Pierre et Marie Curie)
Singularité : les mythes transhumanistes à l’épreuve de la recherche sur l’intelligence artificielle
lundi 12 mars 2018– Yves Citton (Université Paris 8)
Penser les médias numériques : ouvrir les boîtes noires pour surprendre la médiarchie
⚠ Séance exceptionnelle ⚠
mercredi 28 mars 2018– Gabriella Coleman (McGill University)
HackAccess: How Anonymous reinvented the hack-leak combo
lundi 09 avril 2018– Payal Arora (Erasmus University Rotterdam), Edgar C. Mbanza (EHESS) Mobilizing the ludic underclass in the digital age
lundi 14 mai 2018 – Marie Bergström (INED)
Au bonheur des (plateformes de) rencontres : entre couples et hétérosexualité non conjugale
lundi 11 juin 2018 – Juan Carlos De Martin (Nexa – Politecnico di Torino)
The historical mission of the university in the wake of the digital revolution
Sono gli addetti delle grandi piattaforme digitali: iper-precari, pagati quasi nulla e invisibili. A illuminare questa realtà poco conosciuta è Antonio Casilli, ricercatore presso il Centro Edgar Morin di Parigi, intervenuto alla kermesse Cgil di Lecce.
“L’effetto dell’intelligenza artificiale sul lavoro non è la sostituzione dei lavoratori con delle intelligenze artificiali, ma la sostituzione del lavoro formale con micro-lavoro precarizzato e invisibilizzato”. Un ribaltamento di ciò che comunemente si pensa, oltre che un orizzonte ancora peggiore di quello immaginato: questo ha proposto Antonio Casilli, ricercatore presso il Centro Edgar Morin (Ehess) di Parigi, nella Lectio Magistralis che si è tenuta oggi (domenica 17 settembre) a Lecce, alle ore 11 presso le Officine Cantelmo, nell’ambito delle Giornate del lavoro 2017 (qui il podcast).
“L’intelligenza artificiale non può esistere se dietro non c’è il lavoro umano” ha spiegato il sociologo. Ma è un “micro-lavoro”, pagato quasi niente e privo di ogni diritto. Tra i tanti esempi portati dal sociologo, ricordiamo quello di Amazon Mechanical Turk, un servizio di assistenza creato dalla multinazionale una decina di anni fa. Dietro le molte operazioni che si possono fare (dalle traduzioni alle organizzazioni di playlist, dal riconoscimento dei siti pornografici alle classificazioni degli scontrini di cassa) ci sono “folle di lavoratori che sono ingaggiati per addestrare il software. Lavoratori micro-tuskers e micro-pagati: ogni singola prestazione, infatti, viene remunerata anche con un solo centesimo di dollaro”.
“Tutta questa economia – argomenta il ricercatore del Centro Edgar Morin di Parigi – si fonda su un insieme di tensioni e su forme di sfruttamento e di estremizzazione delle logiche del lavoro precario, che è spesso l’unico lavoro disponibile per grandi quantità di lavoratori nel mondo”. Per i sindacati internazionali, dunque, c’è molto da fare. “Oggi il compito dei sindacati – conclude Casilli – è quello di riconoscere il lavoro dove è, nelle grandi piattaforme digitali, riconoscere il ‘digital labor’. In Inghilterra e in Francia abbiamo già qualche esperienza, in Germania la Ig Metall ha creato una ‘piattaforma per lavoratori delle piattaforme’, negli Stati Uniti sta crescendo il movimento Platform Cooperativism, in Amazon Mechanical Turk è stato creato il sindacato Dynamo”.
Pour la séance du 10 avril 2017 EHESS Etudier les cultures du numérique, nous avons l’honneur d’accueillir Mary L. Gray, chercheuse chez Microsoft Research et membre du Berkman Center for Internet and Society de l’Université Harvard. Mary Gray a été l’une des pionnières des études sur Amazon Mechanical Turk et sur les liens entre micro-travail et intelligence artificielle.
ATTENTION : Le siège habituel étant fermé pour les vacances universitaires, cette séance se déroulera le lundi 10 avril 2017, de 17h à 20h, amphi Opale, Télécom ParisTech, 46 rue Barrault, 13e arr. Paris.
Title: What is Going On Behind the API? Artificial Intelligence, Digital Labor and the Paradox of Automation’s “Last Mile.”
Speaker: Mary L. Gray
Abstract: On-demand digital labor has become the core “operating system” for a range of on-demand services. It is also vital to the advancement of artificial intelligence (AI) systems built to supplement or replace humans in industries ranging from tax preparation, like LegalZoom, to digital personal assistants, like Alexa. This presentation shares research that starts from the position that on-demand “crowdwork”—intelligent systems that blend AI and humans-in-the-loop to deliver paid services through an application programming interface (API)—will dominate the future of work by both buttressing the operations of future enterprises and advancing automation. For 2 years Mary L Gray and computer scientist Siddharth Suri have combined ethnographic fieldwork and computational analysis to understand the demographics, motivations, resources, skills and strategies workers drawn on to optimize their participation in this nascent but growing form of employment. Crowdwork systems are not, simply, technologies. They are sites of labor with complicated social dynamics that, ultimately, hold value and require recognition to be sustainable forms of work.
La présentation et les débats se dérouleront en anglais.
Séminaire organisé en collaboration avec ENDL (European Network on Digital Labour).