artificial intelligence

Los trabajadores del clic (Viento Sur, Spain, 11 Feb. 2019)

The Spanish website Viento Sur features a long article penned by Joseph Confavreux reviewing my book En attendant les robots (Seuil, 2019). The French version of this article was originally published by the online magazine Mediapart.

Los trabajadores del clic, nuevos proletarios digitales

¿La perspectiva de la sustitución general del trabajo humano por las tecnologías de la inteligencia artificial es solo un gran bluf destinado a impedir la organización de los nuevos proletarios del sector digital? Analizando los perfiles del digital labor [trabajo digital], el sociólogo Antonio Casilli ha elaborado una gran encuesta sobre el trabajo en el siglo XXI.

Seres humanos que roban el trabajo de los robots, inteligencia artificial que es realmente artificial, un gran engaño tecnológico que es un gigantesco truco de magia ideológico, un trabajo hasta tal punto fragmentado que apenas se ve, “granjeros del clic”, “la parias digitales, produsagers o proletarios del teclado…

Bienvenida al mundo del digital labor, que el sociólogo Antonio Casilli renombra como trabajo del clic en una obra tan amplia como rigurosa, construida como una encuesta basada tanto en las metamorfosis del trabajo en este tiempo digital, como del mismo trabajo digital.

Un término que el libro de este investigador permite por otra parte utilizar sin que se le pueda acusar de anglicismo ya que se trata, para él, de estudiar el trabajo del dedo, sobre la pantalla o el ratón, comparable con el trabajo manual, mientras que el digital labor es a menudo confundido con el trabajo inmaterial. De ese modo se pone el acento en el elemento físico, “el movimiento activo del digitus, el dedo que sirve para contar, pero también que apunta, clica, apoya sobre el botón”, por contraste con la inmovilidad abstracta del numerus, el número en tanto que concepto matemático”, lo que para el investigador es una forma de liberarnos “de una visión de lo numérico entendida exclusivamente como un trabajo de expertos y de sabios”.

Al equiparar el título de su nuevo libro, En attendant les robots (Esperando a los robots, ndt), con la célebre obra de Samuel Beckett, Antonio Casilli nos sumerge en un mundo absurdo, en el que el saqueo del trabajo y la inanidad de la condición humana están organizados por los grandes grupos de la economía digital, que permiten multiplicar las actividades creadoras de riquezas pero no de ingresos.

Ahora bien, el investigador aporta una tesis especialmente sugerente, que va contra las decenas de artículos que nos describen la inteligencia artificial (IA) como el porvenir de humanidad en general y del trabajo en particular. En efecto, según él, la mayor parte de las inteligencias artificiales se asemeja mucho al Turco mecánico descrito por Walter Benjamin en sus Tesis sobre el concepto de historia, en la que un enano, jorobado y jugador de ajedrez, manipulaba las piezas, dando la ilusión de que se trataba de una máquina mediante un juego de cuerdas y un espejo [foto del artíclo].

En materia de IA, los fallos de la innovación son en realidad numerosos y deben ser constantemente paliados mediante un recurso intensivo al trabajo humano para, a su vez, entrenar, enmarcar y suministrar a las máquinas datos fiables y utilizables. Lo que conduce a una situación en la que frecuentemente la IA muestra que no es otra cosa que una “mezcla de becarios franceses y precarios malgaches”; justo lo contrario a la extendida imagen tecnológica y futurista.

El investigador nos obliga así a entender la automatización bajo otro ángulo: “Esta no supone la sustitución de trabajadores humanos por inteligencias artificiales eficaces y precisas, sino por otros trabajadores humanos: -ocultados, precarios y mal pagados”. En efecto, para Casillo no son “las máquinas quienes hacen el trabajo de las personas humanas, sino los humanos quienes se ven obligados a realizar un digital labor para las máquinas”. Esto es particularmente cierto para los vehículos autónomos cuya autonomía es en realidad muy relativa.

Para describir esta situación, Antonio Casillo llega hasta a hablar de gran “bluf tecnológico”, de estrategia de “camelo”, incluso de “IA Washing [lavado, ndt]”, tomando en especial el ejemplo de Google. En efecto, mientras que se pueden leer decenas de artículos sobre las teorías desarrolladas por Ray Kurzweil, escritor transhumanista y empleado en Google, en los que propone trazar el camino de una IA fuerte que obtenga resultados superiores a los sistemas biológicos, su patrón se ha lanzado a una producción de masa de IA débil y “estrecha” que utilizan ampliamente el digital labor de los “parias digitales”.

A pesar del hecho de que a instancias de Godot, la IA que reemplazará al trabajo humano tiene el riesgo de no llegar nunca, sin embargo, se sigue considerando al digital labor como transitorio, en la idea de que “actualmente las máquinas tendrán necesidad de él para aprender a prescindir del mismo mañana”.

Pues si en la actualidad está de moda esta tesis del “gran reemplazamiento tecnológico”, el investigador demuestra que es menos en razón de los avances de la tecnología que de los usos que permite. En efecto, “la automatización, fantasma constantemente agitado por los industriales, produce efectos desde el momento en que simplemente es considerada: ejerce una constricción sobre los trabajadores e introduce una verdadera disciplina en el trabajo. El trabajo se ve amenazado y mal pagado y cada trabajador es potencialmente supernumerario”.

Sin embargo, un estudio de la OCDE basado en 21 países en 2016 mostró la sobreestimación de la posibilidad de automatizar las actuales profesiones. Estimaba ciertamente que aproximadamente el 50% de las tareas son susceptibles de verse considerablemente modificadas por la automatización. No obstante, subrayaba que solo el 9% de los empleos serían realmente susceptibles de ser eliminados por la introducción de inteligencias artificiales y procesos automáticos.

Para Casilli, el capitalismo de las plataformas actuales “recurre abundantemente al mismo truco que utilizaban los propietarios manufactureros del pasado siglo: evacuar las variables sociales de un proceso de innovación tecnológica para hacerle aparecer como una fase necesaria de un progreso indefinido”. Y los robots “solo son en esta operación los avatares cómodos de la voluntad de los propietarios de las plataformas de obstaculizar la constitución de un movimiento de oposición”.

En consecuencia, estima el investigador, “la automatización es ante todo un espectáculo, una estrategia de distracción de la atención, destinada a ocultar las decisiones empresariales que pretenden reducir la parte relativa de los salarios (y más generalmente de la remuneración de los factores productivos humanos) en relación con la remuneración de los inversores”.

Como el horizonte de la completa automatización “aparece inalcanzable, es legítimo interrogarse sobre la función ideológica de ese escenario”, concluye el investigador, estimando que se construye una visión del mundo y del trabajo en la que el “proletariado digital no tendría necesidad de pensarse, de organizarse, ni de imaginar un proyecto colectivo ya que no sería más que la porción residual de un mundo del trabajo humano destinado a la desaparición”.

Sin duda, si el gran reemplazo tecnológico del trabajo no tendría lugar, está claramente en marcha su gigantesco desplazamiento, a la vez geográfico y numérico. En efecto “La inquietud contemporánea sobre la desaparición del trabajo es un verdadero síntoma de la verdadera transformación en marcha: su digitalización”, estima el sociólogo.

Esta digitalización de las tareas humanas empuja al extremo dos tendencias profundas, “la estandarización y la externalización de las tareas”. En efecto, “la especificidad de las tecnologías informacionales actuales en relación con sus antecedentes industriales consiste en la relación que mantienen con el espacio. Como la producción se puede organizar en cualquier lugar, el lugar físico en el que se despliega la automatización no es fijo, ni limitado al perímetro de la empresa”.

Este desplazamiento delega en realidad un “cierto número de tareas productivas a no-trabajadores (o a trabajadores no remunerados y reconocidos como tales”. Y las plataformas adoptan entonces un estilo particular “de gestión de las actividades productivas, que consiste en poner a trabajar a un número creciente de personas, pero situándolas fuera del trabajo, ya que su figura se sitúa fuera de las modalidades clásicas de la relación de empleo”.

El fenómeno que se describe conlos términos de digital labor se hace “posible por dos dinámicas históricamente manifestadas: la externalización del trabajo y su fragmentación”. Estas dos tendencias han conocido puntos de partida y ritmos diferentes, pero “las tecnologías de la información y de la comunicación las reconcilian”. De forma que el “trabajador de las plataformas se encuentra aplastado entre las proclamaciones de independencia y las condiciones materiales que le exponen a bajas o inexistentes remuneraciones, a ritmos y a finalidades heterodeterminadas, a una separación entre su gesto productivo y el fruto de éste”.

Y es justamente porque está fragmentado, parcelado y externalizado, que este trabajo “escapa a la categorías utilizas clásicamente para analizarlo” y que “ya no reconocemos el trabajo que tenemos delante de los ojos”,

“Inflexible flexibilidad del trabajo a petición”

Para aprender a reconocer el trabajo en la época del capitalismo de las plataformas y en la era de lo digital, Antonio Casillo propone estudiar el digital labor como un “movimiento de organización en tareas (tâcheronnisation) [no existe término equivalente en castellano; podría traducirse por tareanización, ndt] y de organización en datos (datafication) [no existe término equivalente en castellano, ndt] de las actividades productivas humanas en la hora de la aplicación de las soluciones de inteligencia artificial”.

A la vez que permanece lúcido sobre el hecho de que este tipo de trabajo amalgama fenómenos diferenciados y “se sitúa en el cruce complejo de formas de empleo no estándar, del freelancing, del trabajo a destajo micro-remunerado, del amateurismo profesionalizado, de ocios monetizados y de la producción más o menos visible de datos”. No se trata pues, o no solamente, de un trabajo gratuito, sino de un “continuum entre actividades no remuneradas, actividades mal pagadas y actividades remuneradas de forma flexible”.

Para clarificar las cosas, el investigador propone distinguir tres tipos de actividades que se subsumen corrientemente bajo los términos de digital labor. En primer lugar, el “digital labor por pedido”, que reagrupa las actividades creadas por las aplicaciones de tipo Uber o Deliveroo, cuyas prestaciones suministran no solo tareas manuales sino que pasan también mucho tiempo produciendo datos.

Para Casilli, aunque en su origen la economía por pedido fue asimilada a fenómenos diferentes, tales como la economía colaborativa, la economía de reparto o la economía circular, en realidad se trata de una actividad de otra naturaleza, marcada por la “inflexible flexibilidad del trabajo por pedido”, que generaliza el trabajo atípico más que abrir una nueva era a la autonomía humana.

A continuación el micro-trabajo, utilizado prioritariamente por las pseudo-inteligencias artificiales que confían a micro-sirvientes lo que era realizado por trabajadores regulares. El investigador utiliza el ejemplo de un trabajo que ocuparía 20 años a un asalariado equipado de un ordenador, un año entero a 20 asalariados en CDD [contrato de duración determinada, ndt] o seis meses a 40 becarios y puede ser realizado todavía de forma más rápida y barata gracias a la fragmentación de las tareas.

La encarnación de este nuevo tipo de trabajo es el servicio de Amazon, bautizado Turco Mecánico, gracias al cual la empresa puede, por ejemplo, publicar un anuncio pidiendo a 500.000 personas que transcriban dos líneas cada una. Tal servicio permite “reclutar a centenares de miles de micro-sirvientes situados en todos los lugares del mundo para filtrar vídeos, etiquetar fotos y transcribir documentos que las máquinas no son capaces de realizar”.

Contrariamente a las plataformas de trabajo por pedido, en las que los recientes conflictos sociales han permitido, puntualmente, hacer reconocer la relación de sujeción entre el prestatario y las empresas que organizan el trabajo en el siglo XXI, las reglas de gestión algorítmica del trabajo y las condiciones de contractualización del micro-trabajo oscurecen todavía aquí las pistas.

En efecto, en los “en los ecosistemas de micro-trabajo -escribe Casilli-, la actividad de producción de valor se hace discreta y, debido al estallido geográfico, los trabajadores no encuentran interlocutores patronales frente a ellos, como en el caso de Uber y otros Deliveroo”. Amazon encarna perfectamente el “papel de plataforma neutra, de útil técnico de puesta en contacto que desintermedia el trabajo y desaparece en tela de fondo”, como si fuera un “tercer beneficiario”.

En fin, el sociólogo distingue el “trabajo social en red” realizado por cualquiera que alimenta en datos, por el uso que hace de internet, los gigantes de la economía numérica. Antono Casilli da cuenta del debate que opone, sobre el tema, a dos perspectivas representadas por los “laboristas” y los “hedonistas”.

La primera “entiende la participación sobre los medios sociales como una relación social relacionada con el trabajo y caracteriza la apropiación por las grandes plataformas del valor que resulta como una relación de explotación. La otra interpreta el produsage como la expresión de una búsqueda de placer y una participación libremente consentida en una nueva cultura del amateurismo y, a por ello, niega la pertinencia misma de la noción de digital labor”.

Para Casilli, esta diferenciación se presenta, de forma demasiado tajante, como un conflicto de obediencias, “en la que los dos campos se acusan recíprocamente de ser, cada uno, una cábala de universitarios marxistas o una emanación de la investigación industrial del sector de lo numérico”. En una perspectiva próxima al marxismo, en el sentido en que este último define como trabajo todo lo que fecunda al capital, el investigador considera que “encerrando a sus usuarios en el papel de amateurs felices y desinteresados, los medios sociales buscan también mantener aparte uno de los elementos constitutivos de la dialéctica entre trabajo y capital: la conflictualidad”.

Una posición que permanece discutida, incluso cuestionada, por otros investigadores que trabajan sobre la economía numérica, especialmente los que prefieren hablar de extracción de valor que de trabajo, en la medida en que sigue siendo difícil medir el valor de un like o considerar sus fotos de vacaciones en Facebook como trabajo, incluso aunque ello contribuya a valorizar la empresa de Mark Zuckerberg.

Cualquiera que sea la extensión que se prefiera dar al perímetro del digital labor, Antoine Casilli pone el dedo sobre varios efectos importantes de la recomposición del trabajo en la era digital. El primero consiste en el hecho de que “el recurso a la deslocalización con el objetivo de una compresión de costes o de una racionalización de la cartera de las sedes de una empresa no solo afecta exclusivamente a las multinacionales. En lo sucesivo, el offshoring [externalización, deslocalización, ndt] es un proceso en cascada”.

Se produce así una nueva división internacional del trabajo ya que las tareas menos nobles “son habitualmente delegadas en los países asiáticos o africanos”, contribuyendo a que el digital labor sea muy frecuentemente invisible “para los ojos europeos”. Esta situación de hecho obliga a reactualizar el debate sobre las desigualdades Norte/Sur, aún cuando Casilli no endosa los términos de neocolonialismo numérico que circulan a veces para describir la actividad de los gigantes del sector, aunque solo sea porque “los países del Norte no son los únicos motores de la economía numérica” y que China, especialmente, forma parte de los que explotan los nuevos servidores de lo numérico.

El segundo es la “nivelación por abajo de las condiciones de trabajo y de remuneración a escala mundial” que el investigador muestra que coincide con una recomposición importante del capitalismo globalizado en este último decenio. En efecto, escribe, “el desarrollo de las plataformas numéricas ha coincidido con la crisis de la deuda y la crisis financiera de finales de los años 2000, marcada por un elevado desempleo, una congelación de los salarios, un declive de las protecciones sociales y una profundización de las desigualdades”.

El intento de hacer bajar todavía más el precio del trabajo mediante las deslocalizaciones ha podido enfrentarse “a políticas disuasivas de fiscalidad y a los costes de las inversiones necesarias para la apertura de instalaciones físicas en terceros países”. Y las soluciones, masivamente utilizadas durante los Treinta Gloriosos [se entiende con este término al período de mayor desarrollo del capitalismo en los países desarrollados, comprendido entre el final de la II Guerra Mundial, 1945, y la crisis petrolera de 1973, ndt], de introducción de la mano de obra extranjera, han caído “bajo el golpe de políticas migratorias cada vez más draconianas”.

La plataformización ha supuesto pues “una salida a esta doble constricción, al instaurar una libertad de circulación ‘virtual’ de la mano de obra planetaria” y permitiendo “transferencias no presenciales de poblaciones”. De hecho, “lejos de suavizar la dureza de las políticas migratorias de los países americanos y europeos respecto a la mano de obra inmigrada, el digital labor desempeña un papel perverso de facilitador de una explotación a distancia”.

El investigador estima pues que para los “capitalistas de las plataformas”, que hacen creer a los jóvenes occidentales que no tienen más que practicar un ocio productor de valor y condenan a la precariedad toda una parte de la fuerza de trabajo global, se trata de “fragilizar el trabajo para mejor evacuarlo, a la vez como categoría conceptual y como factor productivo a remunerar”.

¿Se puede, entonces, escapar de esta constatación tan desesperante como inquietante? Casilli describe algunas iniciativas y luchas para el reconocimiento de las yt los trabajadores de las plataformas, que se anudan esencialmente alrededor de dos estrategias. Una se esfuerza de ensanchar al digital labor las conquistas sociales que precedentemente habían estado ligadas con el empleo, como han hecho algunos repartidores de Deliveroo o chóferes de Uber, pero exige, estima, “tomar en consideración la dimensión planetaria del digital labor”.

La otra, todavía emergente, se basa en repensar la relación “entre usuarios-trabajadores e infraestructuras de colecta y tratamiento de datos al criterio de la gobernanza de los comunes para concebir modalidades nuevas de distribución de los recursos”. En el marco de esta estrategia, sería posible “otra plataformización”, a la manera de Coopify, cooperativa de trabajadores al pedido alternativo en TaskRabbit, de AllBnB sustituto de AirBnB, o también de CoopCyicle que los repartidores prefieren a Foodora.

Sin embargo, para Casilli, “ni el arsenal sindical ni la respuesta liberal aportan solución satisfactoria al problema de la remuneración del digital labor”. El investigador propone pues no escoger entre una y otra estrategia sino, de forma más real, establecer un “ingreso social numérico” que estaría basado en el impuesto y también sobre la restitución a los comunes de lo que “se produce socialmente”.

Forzando a las plataformas actuales a renunciar a su opacidad y a su voracidad, e inspirándose en la tradición mutualista, sería posible pasar a modelos no depredadores de plataformas que entonces no tendrían ninguna razón para agitar el espectro de la automatización para disciplinar la fuerza de trabajo.

Para Casilli, estas plataformas renovadas cumplirían así su función original: “La sustitución de la propiedad privada por la propiedad social, sobrepasar el trabajo forzado por un trabajo sin coerción y reemplazar los enclaustramientos por infraestructuras verdaderamente comunes”.

Esperando la realización de este amplio programa es tiempo ya de plantearse sobre la forma como firmamos ciegamente las famosas CGU, o “Condiciones Generales de Utilización”, que muestran ser, en realidad, contratos leoninos que fijan los marcos de nuestra alienación.

Como recuerda Antonio Casilli, la plataforma de jobbing [trabajador a destajo, ndt] de estudiante americano Sweeping o las de tareas domésticas a pedido TaskRabbit llegan hasta a amenazar a sus usuarios con la reclamación de indemnizaciones si presentan denuncias para exigir la reclasificación de sus actividades o solicitar las cotizaciones sociales no pagadas…

https://www.mediapart.fr/journal/culture-idees/100119/les-travailleurs-du-clic-nouveaux-proletaires-du-numerique

In Arbetet (Sweden, Jan. 24, 2019)

The Swedish newspaper Arbetet publishes a review of my book En attendant les robots : Enquête sur le travail du clic (2019).

”Myt att robotar tar över våra jobb”

Anna Trenning-Himmelsbach


Att robotar gör mänsklig arbetskraft överflödig är en seglivad myt, som bidrar till att hålla oss på mattan. Det säger sociologen Antonio Casilli och tillägger att industrin tjänar på att sprida varningar om att artificiell intelligens håller på att över våra jobb. 

Sociologen Antonio Casilli säger att varningarna om att robotar tar över våra jobb är överdrivna. Bild: Hermance Triay

Om 20 år försvinner nästan hälften av jobben i USA på grund av robotar, enligt den så kallade Oxford-rapporten från 2013.

Prognoser, bland annat från Stiftelsen för strategisk forskning, säger att andelen hotade arbetstillfällen i Sverige är ännu högre.

– Men det är en myt som göds av industriella och finansiella intressen.

Det påstår den fransk-italienska sociologen Antonio Casilli, som nyligen har gett ut en hyllad essä om ämnet i Frankrike.* Han är professor vid högskolan Télécom ParisTech, och är specialiserad på hur arbetslivet påverkas av datoriseringen.

Antonio Casilli säger att legenden om robotarnas hot mot sysselsättningen har återkommit med jämna mellanrum sedan början av 1800-talet, men att det fortfarande inte finns några tecken på att profetian håller på att infrias.

– Den artificiella intelligensen har ett enormt behov av information.

Att samla in och sortera uppgifter är ett arbete som kräver ett mänskligt omdöme, som ingen maskin klarar. Men myten skapar oro. Rädslan för att förlora jobbet gör att arbetare blir disciplinerade.

– De ställer färre krav och organiserar sig inte, säger han.

Robotiseringen förändrar däremot arbetslivet. ”Digital-arbetarna” är en snabbt växande grupp. En del är avlönade, till exempel de som arbetar via de så kallade Uberföretagen.

Andra får en mikrobetalning för varje mikromoment de gör, när de sorterar information åt företag.

I västländer utför hundratusentals personer den här typen av arbeten, men ofta vid sidan av ett annat jobb. I andra världsdelar är klick-jobben huvudsysselsättning för miljontals invånare.

– I allmänhet handlar det om små grupper av arbetare som inte är organiserade sinsemellan, säger Antonio Casilli.

Därtill kommer alla vi andra, som genom våra aktiviteter på sociala medier, omedvetet deltar i utvecklingen. Vi taggar till exempel våra bilder på Instagram eller Facebook, och bidrar till att robotar får nya kunskaper om bildassociationer, känslor eller stämningar.

Antonio Casilli presenterar tre olika möjligheter, där facken kan utöva påtryckning, för att motverka en ökad exploatering av dessa i dag så splittrade klickarbetare.

Den första består i att försöka organisera den digitala arbetskraften för att den ska kunna dra vinning av de trygghetssystem som redan finns.

Den andra handlar om att bygga upp icke-kapitalistiska alternativ till de lönsamhetsdrivna plattformarna för utbyte av tjänster.

Den tredje och den mest intressanta, enligt Antoine Casilli, är att kräva att få ta del av de rikedomar, som vi tillsammans är med om att skapa när vi matar olika plattformar med information. Han anser att Internetföretagen ska beskattas högre av just den anledningen, och att vinsterna ska fördelas genom en universell inkomst till alla invånare.

I hans eget hemland Frankrike, har regeringen just meddelat att de stora internetföretagen snart kommer att beläggas med en helt ny skatt. Enligt sociologen är det ett beslut som går i rätt riktning.

* Antonio Casilli essä heter: En attendant les robots. Enquête sur le travail du clic. Utgivare: Seuil, 2019


[Video] Trabajo, conocimiento y vigilancia (La Paz, Bolivia, 11 julio 2018)

Presentación de mi libro Trabajo, conocimiento y vigilancia: 5 ensayos sobre tecnología, una antología de mis artículos, originalmente publicados en francés e inglés entre 2010 y 2018. La publicación de este libro fue dirigida por AGETIC y la Embajada de Francia en Bolivia. (Conferencia realizada en la Vicepresidencia del Estado, La Paz, Bolivia, traducida al español del inglés).

Referencia completa:

Casilli, Antonio A. (2018). Trabajo, conocimiento y vigilancia: 5 ensayos sobre tecnología. La Paz, Bolivia: Editorial del Estado.

Descarga documento PDF

M, le maudit chatbot (ou, de l’impossibilité de l’automation complète au lendemain de l’échec de l’assistant virtuel de Facebook)

L’année 2018 commence fort chez Zuckerberg. Facebook a décidé de mettre fin à l’expérience de son assistant virtuel, M. Par rapport aux autres chatbots sur le marché, M avait une particularité : il ne cachait pas la présence d’humains derrière les rideaux de l’automation, pour ainsi dire. Facebook allait jusqu’à intégrer cet attribut dans ses arguments de vente. M était présenté comme une intelligence artificielle « mue par des humains » (human powered).

Il s’agissait d’un logiciel qui envoyait des messages via l’application Messenger, initialement disponible pour un nombre limité d’usagers-testeurs (10 000 résidents de San Francisco) qui l’utilisaient surtout pour des opérations commerciales. La plupart des tâches réalisées par le chatbot nécessitaient de personnes pour assister, entraîner, vérifier ses réponses — et parfois se faire carrément passer pour M. D’où la suspicion que son nom ne soit pas un clin d’œil à l’assistant de James Bond, miss Moneypenny, mais une référence assez claire au “micro-travail”…

L’objectif de Facebook avec cet agent conversationnel était de développer une technologie d’intelligence artificielle capable d’automatiser presque n’importe quelle tâche (“Facebook put no bounds on what M could be asked to do“). C’est toujours la vieille promesse du machine learning : tu fais réaliser des tâches par des humains, puis “la machine” apprend et — bam ! tu te débarrasses des humains. Néanmoins, malgré les vastes ressources techniques de Facebook, le taux d’automation de M semble n’avoir jamais dépasse 30%. Presque trois quarts des tâches, donc, étaient effectuées par des petites mains payées à la pièce, entre San Francisco et Katmandou (si le bruit selon lequel elles étaient recrutées via le bureau népalais de la plateforme de micro-travail Cloudfactory était confirmé).

L’histoire de M contient une moralité pour toute entreprise qui développe ou achète des solutions de IA : quand on prend en compte le coût de the human in the loop, l’automation revient très chère. C’est à cause de l’importance de ces coûts (et de la médiocrité des résultats) que Facebook a définitivement décidé de discontinuer M en 2018.

L’autre leçon à retenir ici est que dans la mesure où l’objectif final de M était de préparer le développement de solutions IA qui auraient pu automatiser presque toutes les tâches que les usagers réalisent en ligne, l’automation complète s’avère être un fantasme de silconvallards. A chaque fois qu’on automatise une tâche, les êtres humains avec qui l’IA interagit en redemandent, et de plus en plus complexes. Comme Wired le souligne :

“Another challenge: When M could complete tasks, users asked for progressively harder tasks. A fully automated M would have to do things far beyond the capabilities of existing machine learning technology. Today’s best algorithms are a long way from being able to really understand all the nuances of natural language.”

Il faut alors recommencer et recommencer à concevoir-entraîner-tester-micro-travailler etc. Comme quoi, nous (autant les centaines de millions de tâcherons du clic sur les plateformes de micro-travail que les milliards de micro-tâcherons dissimulés que nous sommes sur les plateformes de médias sociaux) avons devant nous une longue carrière de dresseurs d’IA. Très longue. Interminable même, à en croire certains jeunes experts d’automation. Parmi eux, un nommé Ernest Mandel, lequel affirmait, dans un texte paru en… 1986 :

“Sous le capitalisme, l’automation complète, l’introduction de robots sur grande échelle sont impossibles car elles impliqueraient la disparition de l’économie de marché, de l’argent, du capital et des profits. (…) La variante la plus probable sous le capitalisme, c’est précisément la longue durée de la dépression actuelle, avec seulement le développement d’une automation partielle et d’une robotisation marginale, les deux étant accompagnées par une surcapacité de surproduction sur grande échelle (une surproduction de marchandises), un chômage sur grande échelle, une pression sur grande échelle pour extraire de plus en plus de plus-value d’un nombre de jours de travail et d’ouvriers productifs tendant à stagner et à décliner lentement. Cela équivaudrait à une augmentation de la pression à la surexploitation de la classe ouvrière (en faisant baisser les salaires réels et les prestations de Sécurité sociale), en affaiblissant ou détruisant le mouvement ouvrier organisé et en sapant les libertés démocratiques et les droits de l’homme.”

Le programme du séminaire #ecnEHESS “Étudier les cultures du numérique” 2017/18 est arrivé [avec séance exceptionnelle !]

Pour la dixième année consécutive, notre séminaire EHESS Etudier les cultures du numérique revient ! Et le programme est extrêmement riche, avec plein d’intelligence artificielle, d’études post-coloniales, de genre et sexualité, d’algorithmes et d’économie de la connaissance. Des chercheurs internationaux, des sujets de pointe, et un format long pour vous permettre d’avoir un véritable échange avec les intervenants.

Vous connaissez le principe : le séminaire est ouvert aux auditeurs libres. Il suffit de s’inscrire (pour toute l’année ou seulement pour une ou deux séances) en remplissant le formulaire de contact. Si vous êtes un étudiant et vous souhaitez valider cet enseignement, merci de me contacter par e-mail.

Le séminaire a lieu le deuxième lundi du mois de 17 h à 20 h, en salle M. & D. Lombard, EHESS, 96 bd Raspail 75006 Paris. La séance de décembre aura lieu le lundi 4, en salle 13, 105 bd Raspail, 75006 Paris. NB : une séance exceptionnelle avec Gabriella Coleman aura lieu le mercredi 28 mars 2018 en Amphithéâtre François Furet, 105 bd Raspail, 75006 Paris.

Voilà le calendrier complet :

 
lundi 13 novembre 2017 – Antonio Casilli (ParisTech/EHESS)

Des intelligences pas si artificielles : plateformes, digital labor et la ‘tentation d’automatiser’

lundi 04 décembre 2017 – Bernie Hogan (Oxford Internet Institute)
Control, Privacy, Generativity: Big Data after the Ideology of Machine Learning
lundi 08 janvier 2018 – Olivier Ertzscheid (Université de Nantes – IUT La Roche-sur-Yon)

L’appétit des géants : les plateformes sont-elles des gouvernements comme les autres ?

lundi 12 février 2018 – Jean-Gabriel Ganascia (Université Pierre et Marie Curie)

Singularité : les mythes transhumanistes à l’épreuve de la recherche sur l’intelligence artificielle

lundi 12 mars 2018 Yves Citton (Université Paris 8)

Penser les médias numériques : ouvrir les boîtes noires pour surprendre la médiarchie

⚠ Séance exceptionnelle ⚠

mercredi 28 mars 2018 Gabriella Coleman (McGill University)

HackAccess: How Anonymous reinvented the hack-leak combo

lundi 09 avril 2018 Payal Arora (Erasmus University Rotterdam), Edgar C. Mbanza (EHESS) Mobilizing the ludic underclass in the digital age
lundi 14 mai 2018 – Marie Bergström (INED)

Au bonheur des (plateformes de) rencontres : entre couples et hétérosexualité non conjugale

lundi 11 juin 2018 – Juan Carlos De Martin (Nexa – Politecnico di Torino)

The historical mission of the university in the wake of the digital revolution


 

 

Micro-lavoratori di tutto il mondo… (Rassegna Sindacale, Italia, 17 sett. 2017)

Riassunto della mia lectio magistralis alle Giornate del Lavoro della CGIL. Qui il video del mio intervento.

 

 

[Séminaire #ecnEHESS] Mary L. Gray “Amazon MTurk: les coulisses de l’intelligence artificielle” (10 avril 2017, 17h)

Enseignement ouvert aux auditeurs libres. Pour s’inscrire, merci de renseigner le formulaire.

Pour la séance du 10 avril 2017 EHESS Etudier les cultures du numérique, nous avons l’honneur d’accueillir Mary L. Gray, chercheuse chez Microsoft Research et membre du Berkman Center for Internet and Society de l’Université Harvard. Mary Gray a été l’une des pionnières des études sur Amazon Mechanical Turk et sur les liens entre micro-travail et intelligence artificielle.

Pour suivre le séminaire sur Twitter : hashtag #ecnEHESS.

ATTENTION : Le siège habituel étant fermé pour les vacances universitaires, cette  séance se déroulera le lundi 10 avril 2017, de 17h à 20h, amphi Opale, Télécom ParisTech, 46 rue Barrault, 13e arr. Paris.

Title: What is Going On Behind the API? Artificial Intelligence, Digital Labor and the Paradox of Automation’s “Last Mile.”

Speaker: Mary L. Gray

Abstract: On-demand digital labor has become the core “operating system” for a range of on-demand services. It is also vital to the advancement of artificial intelligence (AI) systems built to supplement or replace humans in industries ranging from tax preparation, like LegalZoom, to digital personal assistants, like Alexa. This presentation shares research that starts from the position that on-demand “crowdwork”—intelligent systems that blend AI and humans-in-the-loop to deliver paid services through an application programming interface (API)—will dominate the future of work by both buttressing the operations of future enterprises and advancing automation. For 2 years Mary L Gray and computer scientist Siddharth Suri have combined ethnographic fieldwork and computational analysis to understand the demographics, motivations, resources, skills and strategies workers drawn on to optimize their participation in this nascent but growing form of employment.  Crowdwork systems are not, simply, technologies. They are sites of labor with complicated social dynamics that, ultimately, hold value and require recognition to be sustainable forms of work.

La présentation et les débats se dérouleront en anglais.


Séminaire organisé en collaboration avec ENDL (European Network on Digital Labour).

The business performativity of Mark Zuckerberg’s manifesto

Whenever I hear a businessman talk about building a “healthy society”, my sociologist sense tingles… And although I haven’t been discussing Zuckerberg’s recent tirade, I feel reassured by the fast and compelling reactions I’ve read. Countering Zuckerberg’s brand of simplistic technodeterminism is crucial. For instance, you might want to examine Aral Balkan’s piece, or appreciate the relentless logic of Annalee Newitz, exposing contradictions and dangers in the manifesto.

Of course, we’ve been here before. Facebook’s founder customarily posts messages, rants, and edicts. And unfortunately their criticism is not enough. Because there is a performativity to Zuckerberg’s essays. Although they are constantly spinned to the media as heart-felt cries from Mark-Zuckerberg-the-person, they actually serve as program frameworks for the company run by Mark-Zuckerberg-the-CEO. The fact of stemming from “trainwrecks” (term used by both Annalee Newitz and danah boyd in a seminal paper penned almost a decade ago) doesn’t diminish the power of these pronouncements.

Capitalism feeds on crises. And Facebook (being the ultimate capitalist scheme) feeds on “trainwrecks”— it uses them as devices to establish its dominance. So the 2008/9 “privacy trainwreck” jumpstarted its extensive market for personal data. The 2013 “connectivity crisis” spawned Free Basics. And what will the 2016 “fake news disaster” be exploited for? Smart money says: “turning Facebook’s colossal user-base in a training ground for AI”.

Admittedly, this doesn’t come as a surprise. The ambition to “solve AI” by extracting free/micropaid digital labor from users is evident. Facebook AI Research (FAIR) division is devoted to “advancing the field of machine intelligence and to give people better ways to communicate” by relying on quality datasets produced by… people communicating on Facebook.

What is new is how the “fake news trainwreck” has ended up supporting this ambition by turning Facebook human users into a “social infrastructure” for AI (cf. Zuckerberg). More importantly, it provides a rationale for the company’s strategy. And throws in “terror” for good measure, to render it unavoidable…:

“A healthy society needs these communities to support our personal, emotional and spiritual needs. In a world where this physical social infrastructure has been declining, we have a real opportunity to help strengthen these communities and the social fabric of our society. (…) The guiding principles are that the Community Standards should reflect the cultural norms of our community, that each person should see as little objectionable content as possible, and each person should be able to share what they want while being told they cannot share something as little as possible. The approach is to combine creating a large-scale democratic process to determine standards with AI to help enforce them. (…) Right now, we’re starting to explore ways to use AI to tell the difference between news stories about terrorism and actual terrorist propaganda so we can quickly remove anyone trying to use our services to recruit for a terrorist organization. This is technically difficult as it requires building AI that can read and understand news, but we need to work on this to help fight terrorism worldwide. (…) The path forward is to recognize that a global community needs social infrastructure to keep us safe from threats around the world, and that our community is uniquely positioned to prevent disasters, help during crises, and rebuild afterwards. Keeping the global community safe is an important part of our mission — and an important part of how we’ll measure our progress going forward.”