admin

Mi libro “Esperando a los robots” acaba de publicar en España (24 nov. 2021)

Esperando a los robots. Investigación sobre el trabajo del clic (NOVIEMBRE, 2021) Antonio A. Casilli

Traducción de Juan Riveros

Punto de Vista Editores

¿La humanidad podrá finalmente deshacerse del trabajo gracias a los robots?

Desde la victoria de la supercomputadora IBM Deep Blue sobre el campeón mundial de ajedrez Garry Kasparov, en 1997, hasta el uso, en 2017, de la red neuronal convolucional GoogLeNet para diagnosticar un cáncer con la misma precisión que un médico, los triunfos sucesivos de la inteligencia artificial se multiplican y son ampliamente difundidos en los medios de comunicación. La opinión pública difícilmente creería hoy que las máquinas no pueden «pensar como los humanos». Y, aunque es probable que esto no sea cierto por el momento, el sentido común nos indica que se podría cumplir en un futuro próximo.

Algunas voces como la del filósofo austriaco Ludwig Wittgenstein ya nos advertían que la inteligencia artificial no presupone que las máquinas tengan capacidades cognitivas y que puedan existir sin la colaboración de humanos dispuestos a enseñarles cómo pensar. La computadora «exhibe inteligencia», pero esta no es más que un efecto de la ejecución mecánica de instrucciones dadas que pueden definirse como procedimientos elementales o «tareas atomizadas». El programa científico de la inteligencia artificial se vuelve inseparable del arte de controlar a los seres humanos y de disciplinar la ejecución de sus actividades.

Tras una detallada investigación, el sociólogo francés Antonio A. Casilli desvela el «engaño» detrás de estas formas de trabajo que consisten en entrenar y regular la inteligencia artificial, y nos ofrece una mirada crítica de la realidad del digital labor: la explotación de miles de personas con sueldos de subsistencia y sometidos a la gestión algorítmica de las plataformas, que están en camino de reconfigurar y hacer del trabajo humano una mercancía precaria.

Interview dans Le Monde (21 nov. 2021)

A l’occasion de la parution d’un dossier sur le travail des plateformes, j’ai accordé un entretien à la journaliste Catherine Quignon (Le Monde).

« L’intelligence artificielle favorise l’accélération du microtravail »

Le professeur de sociologie Antonio Casilli explique au « Monde » que le nombre de personnes travaillant sur des plates-formes numériques a augmenté pendant la crise sanitaire, amorçant une nouvelle forme de précarisation.

Par Catherine Quignon

Antonio Casilli est professeur de sociologie à Télécom Paris, grande école de l’Ixnstitut polytechnique de Paris, et codirigeant de l’équipe de recherche DiPLab (Digital Platform Labor) sur le travail en ligne. Il explique l’essor du microtravail sur les plates-formes.

Quel est le profil des microtravailleurs ?

En France, notre équipe de recherche a dénombré près de 15 000 personnes qui se connecteraient chaque semaine sur les plates-formes de microtravail – plus de 50 000 au moins une fois par mois –, et plus de 260 000 microtravailleurs seraient inscrits mais pas ou peu actifs. Contrairement à ce que l’on pourrait croire, ces personnes sont souvent diplômées.

Le profil des inscrits reflète aussi l’évolution des plates-formes. Depuis plusieurs années, la frontière s’estompe avec les sites de free-lance classique. Certaines plates-formes de microtravail recherchent des compétences assez avancées sur des missions mieux payées, autour de 15 dollars de l’heure. Parallèlement, on voit des plates-formes de free-lance se mettre à proposer des microtâches, comme taguer des images. Cela reflète une forme de paupérisation du travail indépendant.

Quel impact la crise sanitaire a-t-elle eu sur le microtravail ?

Plusieurs plates-formes annoncent qu’elles ont vu leur activité augmenter avec la crise sanitaire, mais on suppose qu’il s’agit d’abord d’une augmentation des personnes qui s’inscrivent. L’une des plus importantes au monde, Appen, déclare avoir vu son activité croître de 30 % depuis avril 2020. De son côté, Clickworker dit avoir atteint les 2 millions de travailleurs inscrits sur sa plate-forme. Preuve que la crise sanitaire est aussi une crise de l’emploi.

Parallèlement, il semble que certaines entreprises ont plutôt tendance à vouloir réinternaliser ce processus de microtravail, à cause du risque de fuites de données. On se souvient des controverses autour des assistants vocaux en 2019, lorsque les médias ont révélé que des armées de microtravailleurs écoutaient et retranscrivaient des conversations. On suppose que ces fuites ont pu contraindre les entreprises à renoncer à se tourner vers des sous-traitants, mais il reste difficile de mesurer l’ampleur réelle de ce phénomène.

L’intelligence artificielle va-t-elle tuer le microtravail ?

Contrairement aux idées reçues, l’intelligence artificielle favoriserait plutôt l’accélération du microtravail. On aurait pu croire que, une fois entraînées, les machines pourraient progresser toutes seules mais, en fait, elles ont constamment besoin d’être réentraînées. Car la réalité du terrain, le comportement des consommateurs, la manière de parler en ligne… changent constamment. Lorsqu’on tapait « corona » en 2018 dans Google, la première réponse affichée par le moteur de recherche était « bière ». Fin 2019, des millions de personnes se sont mises à rechercher le terme « coronavirus ». Il a fallu l’intervention humaine de milliers d’employés pour vérifier et rectifier les résultats du moteur de recherche. Preuve que plus il y a d’intelligences artificielles, plus il y a besoin d’êtres humains derrière pour les rééduquer.

Prepublicación del primer capítulo de mi libro ‘Esperando a los robots’ (El Confidencial, 21 nov. 2021)

El diario español El Confidencial oferece un adelanto editorial de mi libro ‘Esperando a los robots: investigación sobre el trabajo del clic’ (Punto de Vista Editores), que se publica el 24 de noviembre.

Los robots no sustituirán a los seres humanos pero pueden hacer algo peor

[Adelantamos a continuación por su interés el primer capítulo del libro ‘Esperando a los robots: investigación sobre el trabajo del clic’ (Punto de Vista Editores), del sociólogo francés Antonio A. Casilli (1972) que se publica el 24 de noviembre. ¿La humanidad podrá finalmente deshacerse del trabajo gracias a los robots? La respuesta es más compleja de lo que parece…]

A mediados del siglo pasado, el matemático inglés Alan Turing condujo un intenso programa de investigación inaugurado en 1936 con la conferencia ‘On computable numbers’ impartida en la London Mathematical Society que culminaría doce años más tarde con el artículo ‘Computing machinery and intelligence’. En el primero de estos textos, Turing anunciaba el postulado que constituiría la base de una investigación posterior sobre la inteligencia artificial, a saber, que a priori no hay razón para no aplicar los mismos criterios a los humanos y a las máquinas cuando se trata de determinar si estos pueden pensar, percibir o, incluso, desear: “Un hombre que calcula el valor de un número real puede ser comparado a una máquina”.

Por lo tanto, los seres humanos serían máquinas como cualquier otra. Si bien esto ha empujado a generaciones de científicos a creer en la posibilidad de producir máquinas inteligentes (y a generaciones de empresarios a tratar de hacer negocios con esta idea), esta visión mecanicista de la mente ha sido, desde sus comienzos, fuertemente criticada por ciertos filósofos, entre ellos Ludwig Wittgenstein. De hecho, el autor del ‘Tractatus logico-philosophicus’ había desarrollado una posición diametralmente opuesta, bien resumida por su observación sobre las máquinas de Turing donde sugiere que estas no son en realidad más que “hombres que calculan”.

Sin duda, su escepticismo radical sobre la posibilidad de modelar matemáticamente el funcionamiento de la mente humana ahora se considera una curiosidad histórica. Desde la victoria de la supercomputadora IBM Deep Blue sobre el campeón mundial de ajedrez Garry Kasparov en 1997 hasta el uso, en 2017, de la red neuronal convolucional GoogLeNet para diagnosticar un cáncer con el mismo nivel de precisión que un médico, los triunfos sucesivos de las inteligencias artificiales se multiplican y son ampliamente difundidos en los medios de comunicación. La opinión pública difícilmente estaría preparada hoy en día para creer a alguien que afirme que las máquinas no pueden “pensar como los humanos”. Y aunque probablemente esto no sea cierto por el momento, el sentido común dice que será cierto en un futuro próximo.

Foto: Kaspárov, contra el programa Deep Blue, en 1996. (Reuters)

Sin embargo, la incredulidad de Wittgenstein no se refería al nivel de rendimiento que las máquinas podían alcanzar en la simulación de los procesos cognitivos humanos, sino, por el contrario, a la verdadera naturaleza de estas invenciones. El filósofo destacó que las ‘máquinas’ no pueden existir sin la colaboración de los humanos dispuestos a enseñarles cómo pensar. Y estos humanos no son solo los científicos que los diseñan y los construyen. La supercomputadora de IBM no habría podido vencer al campeón ruso sin la ayuda de cuatro grandes ajedrecistas que la entrenaron para jugar de acuerdo con sus estrategias más secretas. Del mismo modo, la red neuronal utilizada para los diagnósticos médicos no habría llegado a ser tan eficiente sin el millón de ejemplos de imágenes de cáncer de piel producidas, digitalizadas y anotadas por cientos de miles de profesionales.

La supercomputadora de IBM no habría podido vencer al campeón ruso sin la ayuda de cuatro grandes ajedrecistas

La perspectiva de Wittgenstein definitivamente nos obliga a dar otra mirada sobre la inteligencia artificial señalando un malentendido recurrente. Este malentendido radica en la idea de que las máquinas inteligentes pueden autonomizarse de toda intervención humana debido a sus supuestas capacidades cognitivas. Sin embargo, el filósofo austriaco indica que esta autonomía no es un hecho probado. En un aspecto, Turing habría estado de acuerdo con él, es decir, que la inteligencia artificial no presupone que las máquinas tengan capacidades cognitivas. A lo mucho, la computadora “exhibe inteligencia”, pero esta no es más que un efecto de la ejecución mecánica de instrucciones que se le dan: tomar una variable, asignarle un valor, dividirla por un coeficiente, etc. Estas instrucciones pueden definirse como procedimientos elementales o «tareas atomizadas» (atomic tasks) de un programa o de un procedimiento de cálculo.

Tal es la naturaleza de los algoritmos que rigen hoy los aspectos más dispares de nuestras vidas, y que no son más que una secuencia de operaciones a realizar para obtener un resultado. No importa si estas operaciones consisten en identificar con un GPS el recorrido más rápido en el transporte público (“calcular el punto de partida”, “calcular el punto de llegada”, “superponer los trayectos del metro con el trazado más corto entre los dos puntos”) o encontrar un alma gemela en Tinder (“tomar el perfil A”, “analizar un número finito de sus características”, “emparejarlas con el perfil B”, etc.), esto no es más que una sucesión de instrucciones que las máquinas ejecutan, sin que ello presuponga jamás que el algoritmo les atribuya un sentido. El problema filosófico del “pensamiento mecánico” admite una solución solo si la inteligencia artificial, prevista por Alan Turing, se limita a la secuencia mecánica de tareas atomizadas.

La artificialidad de la inteligencia artificial reside precisamente en esto: ninguno de estos procedimientos requiere que la máquina discierna algo; sin embargo, se presenta como si fuese una propiedad suya, una apariencia de inteligencia. El problema, tanto desde el punto de vista de Turing como el de Wittgenstein, puede, entonces, ser invertido. El problema no es concebir una máquina capaz de ‘interlegere’, en el sentido latino de «leer entre líneas» (en este caso, las líneas de código que dan órdenes de ejecución a un algoritmo), sino de poner a esas “máquinas”, que son seres humanos, en una situación donde el hecho de ejecutar mecánicamente una instrucción no sea problemático ni sujeto a cuestionamientos. Por consiguiente, el programa científico de la inteligencia artificial se vuelveinseparable de una determinada cibernética, es decir, de un arte de controlar a los seres humanos y de disciplinar la ejecución de sus actividades.

Los dos ‘digital labor’

Esta cibernética de las actividades humanas se expresa en el actual contexto económico a través del digital labor. Esta expresión que traducimos de manera imperfecta por “trabajo digital” tiene dos significados bastante diferentes en el ámbito del debate público. El primero de estos fue adoptado en el transcurso del 2010 entre los círculos de consultores empresariales, los innovadores y los expertos en think tanks. Para ellos, el ‘digital labor’ significa la automatización completa de los procesos de producción, conjugando los avances en el dominio de la robótica y aquellas de los análisis de datos. El segundo significado, que en realidad antecedió a esta, fue utilizada desde mediados de los 2000 por académicos, activistas y analistas políticos.

En este caso, y contrario al anterior, el ‘digital labor’ se relaciona con el elemento humano que las tecnologías digitales ayudan a poner a trabajar incitándolo permanente a realizar acciones productivas que generen valor. Este concepto también tiene una dimensión política, porque denuncia la forma en que el trabajador es invisibilizado del perímetro del trabajo por los diseñadores y los propietarios de estas tecnologías. Así como los grandes maestros del ajedrez se escondían detrás de Deep Blue, el trabajo humano es ocultado detrás de las máquinas y sus automatismos.

El trabajador es invisibilizado del perímetro del trabajo por los diseñadores y los propietarios de las tecnologías

Estos dos enfoques reproducen la fractura original entre la visión de Turing y la de Wittgenstein en cuanto al lugar relativo de los humanos frente a la inteligencia artificial. Aquellos para los que el digital labor rima con el “todo automático” y anuncian el remplazo del trabajo humano por el de las tecnologías ‘smart’ se adhieren a la línea definida por Turing; quienes, por el contrario, piensan que el ‘digital labor’ se refiere ante todo al trabajo de hombres y mujeres, a la vez que cuestionan el impacto del cambio técnico y de gestión sobre ellos, siguen la estela de Wittgenstein.

La actividad del primero consiste en obligar o inducir a los humanos a realizar las tareas automatizadas que permiten a las máquinas dar la impresión de pensar y, al mismo tiempo, reducir este trabajo al rango de contingencia inicial. El objetivo del segundo consiste en estudiar las implicaciones de esta desconsideración del trabajo humano, mostrando al mismo tiempo su centralidad ante la creciente necesidad de producir datos y realizar tareas de gestión de la información.

El ‘digital labor’, tal como se entiende en este estudio, define el proceso de fragmentación de tareas (‘tâcheronnisation’) y de datificación (‘datafication’) de las actividades productivas humanas que caracterizan la aplicación de soluciones de inteligencia artificial y de aprendizaje automático al contexto económico. Al tratarse de un universo de prácticas, estas se sitúan en la compleja encrucijada de formas atípicas de empleo, el freelancing, el trabajo a destajo microrremunerado, el amateurismo profesionalizado, los pasatiempos monetizados y la producción de datos más o menos visible. Se trata de fenómenos muy dispares para los que será necesario encontrar posibles articulaciones a través de una investigación más amplia sobre el impacto de las tecnologías en la actividad humana.

La tentación automática

La persistente pregunta sobre los efectos de la tecnología en las actividades humanas no es nueva. Solo quedan algunos fragmentos del poeta latino Ennius, incluido uno que transmite en pocas palabras una gran preocupación existencial: “La máquina es una inmensa amenaza [machina multa minax]”, ya que “representa el mayor peligro para la ciudad [minatur maxima muris]”. Poco importa que, en la imaginación del poeta, la tecnología en cuestión sea una máquina de asedio, el caballo de Troya, y que la ciudad amenazada sea la verdadera ciudad de Príamo: desde sus orígenes nuestra civilización ha cuestionado el impacto de los dispositivos técnicos sobre el vivir-juntos, y las antiguas angustias surgen con inexorable regularidad. El miedo a que la máquina destruya la vida, la vida desnuda o la vida en común, encuentra su encarnación más reciente en el gran debate sobre la destrucción del trabajo a través de la automatización.

La idea del miedo de la modernidad a la automatización también es bastante relativa. El fantasma sobre la destrucción del trabajo humano, que ronda al menos hace dos siglos, tiene como clave el discurso del “gran reemplazo” de los hombres por las máquinas. Los pensadores clásicos del industrialismo ya le habían dedicado sus análisis. Entre ellos, el inglés Thomas Mortimer que, en sus ‘Lectures on the Element of Commerce’, publicado en 1801, se preocupó por ello: habría una categoría de máquinas “que están diseñadas para acortar o facilitar el trabajo de la humanidad”, y otra “cuya finalidad es excluir casi totalmente el trabajo de la raza humana [almost totally to exclude the labour of the human race]”. A pesar de este “casi”, a pesar de esta aproximación después de todo optimista, según el autor, todo principio de beneficencia y de toda política pública juiciosa debe oponerse a este segundo tipo de tecnología.

El fantasma sobre la destrucción del trabajo humano tiene como clave el ‘gran reemplazo’ de los hombres por las máquinas

A su vez, David Ricardo dedica, a este asunto, el capítulo 31 de sus ‘Principios de economía política y tributación’, publicado en 1821, titulado ‘On machinery’. Sin embargo, él insiste en el criterio puramente instrumental del uso de soluciones mecánicas. Pero este no es un destino ineludible; por el contrario, resulta más bien de una “tentación de emplear a las máquinas [temptation to employ machinery]”, es decir, de algo congénito en el capitalista que busca aumentar las ganancias de productividad reduciendo los costos del trabajo. De este modo, la automatización no sería para él más que una de las opciones disponibles donde podría reemplazar al trabajador tanto por un dispositivo mecánico como por una mano de obra de bajo costo (obtenida gracias al “comercio exterior [foreign trade]” o la deslocalización), o incluso por la explotación de la fuerza animal. La opción de la automatización es, por tanto, el resultado de un cálculo que el propietario de la fábrica hace al poner en pie de igualdad a la máquina y estas otras soluciones.

Este razonamiento fue llevado al extremo por su contemporáneo Andrew Ure, en su ‘Philosophy of Manufacturers’ (1835), añadiendo a la lista de posibles soluciones “la sustitución del trabajo de los hombres por el de las mujeres y los niños”. Aunque las máquinas, según dijo, apuntan a “sustituir completamente el trabajo humano [supersede human labour altogether]”, el objetivo final de quienes las usan no es la destrucción del trabajo, sino la reducción de su costo. Así, la automatización se transforma en un fantasma constantemente agitado por los industriales, un espectro que ejerce presión sobre los trabajadores e introduce una verdadera disciplina del trabajo. En esta dinámica, el trabajo se encuentra continuamente amenazado y mal pagado, y cada trabajador es potencialmente un excedente.

Incluso antes de ser una solución científica a los problemas tecnológicos, la automatización se presenta como una solución económica a una relación social problemática. “La más perfecta de las manufacturas”, vuelve a decir Ure, puede prescindir totalmente del trabajo de las manos”. Pero esta potencial independencia no es, de hecho, más que una manera de gobernar el trabajo de las manos exponiéndolo al terror absoluto de la multa minax de la tecnología. Máquinas, niños, trabajadores extranjeros e, incluso, animales son todos equivalentes entre sí, casi sinónimos de la máquina. Ante esta confusión ontológica, la definición de tecnología solo puede elaborarse de manera vana: la automatización es todo lo que no es “trabajo de las manos”. Ahora bien, el objetivo de este libro es mostrar que, manteniendo esta definición, la única sustitución posible que se puede hacer en la actual revolución digital es la del trabajo manual por el trabajo de los dedos —trabajo “digital” en sentido estricto.

Los marginados de la sociedad de la información

Aunque para los clásicos economistas ingleses no era más que una posibilidad el que los trabajadores humanos fueran reemplazados por máquinas, a partir de la década de 1970 esta probabilidad tomó el aspecto de una profecía radical del fin del trabajo. Aun cuando sean dialécticamente opuestos, el alarmante anuncio de Daniel Bell sobre el declive de los oficios manuales en las sociedades postindustriales y el entusiasmo de Simon Nora y Alain Minc por las importantes reducciones de personal en determinados sectores profesionales (administradores, secretarias, empleados de banca y seguros), ambas posiciones comparten el mismo diagnóstico de discontinuidad que representa la introducción de las tecnologías de la información y de la comunicación.

A partir de estos análisis, Jeremy Rifkin argumentó que el desarrollo de las herramientas informáticas marca el comienzo de una era de crecimiento sin empleo y, por lo tanto, el replanteamiento del orden social fundado sobre el trabajo. Para desmitificar esta conjetura sumamente simplista, fue necesario volver a trazar la genealogía filosófica y política del concepto de trabajo. Dominique Méda ha subrayado su persistente centralidad como elemento constitutivo del vínculo social.14 Sin embargo, para medir el impacto de las tecnologías de la información y la comunicación en la evolución contemporánea del trabajo, es necesario observar las fragilizaciones y las asimetrías entre los trabajadores y los propietarios de los medios de producción.

Más que el fin del trabajo, la automatización implica una desagregación del trabajo como fuerza social

Quizás sea Manuel Castells quien, a fines de la década de 1990, en su trilogía sobre la “sociedad en red”, ha sintetizado mejor el rol de la automatización como eje de las nuevas relaciones industriales. En los capítulos dedicados a la “transformación del trabajo y el empleo”, vincula de manera indisociable el surgimiento de modelos de crecimiento económico basados en la información, con los fenómenos de flexibilización y de fragmentación de las estructuras laborales. Entonces, el núcleo de la fuerza de trabajo estaría formado por “generadores de conocimiento” y “manipuladores de símbolos” a los que se opondría “una mano de obra desechable que puede ser automatizada y/o contratada/despedida/subcontratada, según la demanda del mercado y de los costos del trabajo”. Más que el fin del trabajo, la automatización (o lo que la automatización designa) implica una dualización, una segmentación y, finalmente, una desagregación del trabajo como fuerza social.

Los análisis más recientes parecen coincidir, por un lado, sobre la idea de una polarización entre profesiones hiperespecializadas e indispensables y, por otro lado, profesiones no especializadas o “débiles”, aquella de los marginados de la historia. Pero este escenario, que se reactualiza sin cesar, ha experimentado en los últimos años una nueva transformación. Si estas “actividades débiles”, los ‘lousy jobs’, se asociaron históricamente a actividades repetitivas y reducibles a reglas simples, con los espejismos de la gobernanza de mercados a través de los big data y las inteligencias artificiales capaces de reproducir procesos cognitivos complejos, las profecías distópicas del remplazo de los trabajadores por las nuevas tecnologías incluyen ahora a profesiones más creativas con un fuerte componente intelectual y relacional.

Un ejemplo a este respecto es el emblemático “estudio de Oxford” que ha estado en el centro de una agitada controversia internacional desde que fue publicado el 2013 por los investigadores Carl Benedikt Frey y Michael Osborne de la universidad británica. Este informe, de unas cincuenta páginas (anexos excluidos), se distribuyó inicialmente en forma de ‘working paper’, y luego fue publicado en una revista prospectiva que se dedica a medir el número de empleos que serán “destruidos por las máquinas”.Teniendo como objeto de estudio los Estados Unidos, los autores analizan un conjunto de funciones profesionales tanto manuales como cognitivas (producción, transporte, comercio, servicios, industria agroalimentaria, salud, etc.). De este modo, evalúan la probabilidad de que estas funciones sean remplazadas por robots o programas informáticos en función del grado de repetición de las tareas y del nivel de automatización ya puesto en marcha. Las conclusiones son drásticas: el 47 % de los empleos tienen una alta probabilidad de desaparecer ante la ola de innovación tecnológica basada en el aprendizaje automático y la robótica móvil.

Las cifras de esta anunciada desaparición del trabajo se prestan a muchas críticas

El trabajo de Osborne y Frey ha sido emulado por quienes han buscado replicar, actualizar o llevar sus resultados a otros contextos. El Instituto Roland Berger, una de las principales consultorías de estrategia, se inspiró en el estudio Oxford para estimar el impacto de la automatización sobre los empleos en Francia para el año 2025. El mismo método, la misma conclusión inexorable: el 42 % de los empleos sería altamente susceptible de ser automatizado.

Sin embargo, las cifras de esta anunciada desaparición del trabajo se prestan a muchas críticas. La metodología empleada introduce varias limitaciones y sesgos, tanto de carácter conceptual como estadístico. Los autores examinan solo una submuestra del 10 % de las funciones profesionales. ¿Cómo pueden generalizar estos resultados a otros sectores sin distinguir entre segmentos donde la automatización tiene consecuencias más marcadas y aquellos donde su impacto en el empleo es más débil? El razonamiento “todo lo demás constante” (ceteris paribus) plantea otro problema. Los autores no parecen tener en cuenta la posibilidad de que los efectos de la sustitución pueden compensarse con la creación de nuevas actividades: ocupaciones que aún no existen, o cuyo contenido ha sido reconfigurado por la innovación tecnológica, etc.

Sin embargo, la crítica más determinante se refiere a un sesgo en la conceptualización de la automatización por parte de los investigadores de Oxford. En la medida que conciben la innovación como un proceso que trasciende las relaciones sociales de producción, llegan a creer en una introducción de soluciones automáticas “sin resistencia [‘frictionless’]”. Aquí es donde evidenciamos la distancia entre los primeros y los últimos pensadores de la innovación aplicada al trabajo. Si Ricardo, Ure y aquellos que se inscribían en su línea tenían en mente la negociación social que enmarcaba la expansión del maquinismo, Osborne, Frey y los prospectivistas que les siguen evitan deliberadamente el impase de esta dimensión.

Los robots no se encontrarán con los asalariados

Finalmente, nos encontramos ante una especie de paradoja de Solow aplicada a la automatización y a las inteligencias artificiales. A fines del siglo pasado, el economista estadounidense Robert Solow señaló que “vemos a las computadoras en todas partes excepto en las estadísticas de productividad”. Y hoy se puede afirmar que vemos en todas partes que la automatización destruye el trabajo, excepto en las estadísticas laborales.

Por ejemplo, el informe del año 2017 de la Oficina de Estadísticas del Departamento del Trabajo de Estados Unidos presenta una imagen ambigua: a diferencia de la década anterior, la automatización ha avanzado muy lentamente en los últimos años. Los aumentos de productividad que miden el impacto en los trabajadores por la introducción de procesos automáticos no alcanzaron en promedio el 1 % en el sector no agrícola y en el sector manufacturero. Esta torpeza no se limita al continente americano. Algunos países del norte han experimentado un crecimiento de la productividad muy lento, incluso negativo. Según Dean Baker, director del Centro de Investigación Económica y Política: “Esto es equivalente —ironiza— a que los trabajadores estuvieran reemplazando a los robots: una situación en la que se necesitan más trabajadores para producir los mismos resultados económicos”.

Vemos en todas partes que la automatización destruye el trabajo, excepto en las estadísticas laborales

Las cifras, de hecho, van en contra de la tesis defendida por los partidarios del “gran reemplazo automático”. Esta paradoja es particularmente evidente en el sector de la robótica. Un estudio realizado en diecisiete países entre 1993 y 2007 no encontró efectos significativos con la introducción de robots industriales multifuncionales sobre el empleo global, en términos del número total de horas trabajadas. En cuanto a los estudios del sector financiados por las empresas de robótica, estos se consagran a tranquilizar a una opinión pública inquieta. El informe Metra Martech para la Federación Internacional de Robótica, titulado inequívocamente ‘Impacto positivo de los robots industriales en el empleo’, sostiene que gracias a estas tecnologías, entre el 2017 y el 2020, deberían ser creados 450 000 y 800 000 puestos de trabajo a nivel mundial.

¿Estamos aquí ante un escenario de crecimiento adverso guiado por la tecnología? Incluso sin adherirnos a la creencia de que la digitalización y la robotización mantendrían el empleo, si nos limitamos a confrontar el nivel de los indicadores de automatización y la tasa de desempleo de los diferentes países del G20, las naciones con altas tasas de automatización (números de robots industriales por cada 10 000 empleados) muestran índices de desempleo más bajos. Corea del Sur tiene 531 robots por cada 10 000 trabajadores, y solo el 3,4 % de su población activa está buscando empleo. La densidad de robots en Japón es comparable a la de Alemania (305 y 301 por cada 10 000 trabajadores) y sus tasas de desempleo son del 3,1 % y el 3,9 %, respectivamente. Francia, por su parte, tiene una proporción de robots/trabajadores más baja (127/10 000) y una tasa de desempleo más alta (9,6 %).

Hoy ‘robot’ (sobre todo cuando se abrevia en ‘bot’) designa únicamente a entidades de software que interactúan con humanos

Si el sector de la robótica nos permite tener una aproximación plausible del nivel de automatización de nuestras economías, las estimaciones del informe entre empleados y robots y su correlación con la tasa de desempleo son solo indicadores aproximados que no tienen en cuenta dos elementos importantes: primero, que la robotización no es una cuestión de brazos mecánicos en la fábrica; segundo, que el trabajo no se deja reducir a empleo.

Aunque, en la opinión común, los robots continúan generando temores espontáneos —vinculados principalmente a nuestro imaginario modernista aún poblado de autómatas antropomórficos y cuerpos humanos artificiales en el trabajo—, en un contexto más amplio del debate sobre la innovación, ‘robot’ (sobre todo cuando el término se abrevia en ‘bot’) designa únicamente a entidades de software que interactúan con los humanos. Se trata de «robots lógicos» que se encuentran a años luz de la conocida máquina automotriz del siglo xix que, según André Leroi-Gourhan, “no tiene cerebro ni manos”. Esa palabra termina por convertirse en sinónimo no de las máquinas o del material, sino de cadenas de códigos informáticos que ordenan, clasifican, calculan itinerarios, twitean, chatean, hacen compras, etc. Incluso en el contexto industrial, su principal característica no es su fuerza ni su resistencia material (su dimensión hardware), sino más bien su capacidad para desplegar complejos procesos de información (su dimensión software).

Frente a la actual ola de automatización, asistimos a una persistencia del trabajo

Frente a la actual ola de automatización, asistimos a una persistencia del trabajo. Este se mantiene desde un punto de vista cultural, porque sigue siendo un valor central de nuestra convivencia, pero también desde un punto de vista sustancial, porque su lugar en las trayectorias de vida de los individuos, así como en la conformación de nuestras sociedades, sigue siendo preponderante.

Para comprender esta estabilidad, es necesario realizar un cambio de perspectiva que considere tomar las tareas elementales, y no los trabajos en su conjunto, como la unidad fundamental con la cual medir los efectos de la automatización. Incluso los trabajos con mayor riesgo de automatización a menudo contienen una parte importante de tareas y funciones que son difíciles de digitalizar. Un estudio comparativo de la Organización para la Cooperación y el Desarrollo Económicos (OCDE), llevado a cabo en veintiún países en 2016, sostiene que hay una sobreestimación de la capacidad de automatización en las profesiones actuales. Mientras que el 50 % de las tareas se preparan a ser modificadas por la automatización, solo el 9 % de los empleos serían realmente susceptibles de ser eliminados por la introducción de inteligencias artificiales y de procesos automáticos.

Estamos muy lejos de los espantosos presagios del estudio de Oxford. Por tanto, es legítimo preguntar, al igual que lo hace el investigador del Instituto Tecnológico de Massachusetts (MIT) Davis Autor, por qué es tan difícil demostrar la obsolescencia del trabajo humano, cuya perspectiva parece inevitable para tantos observadores. Su observación inicial es recordar que, durante dos siglos, la relación empleo/población ha aumentado constantemente y que el desempleo a nivel global no ha mostrado un aumento visible y estable. A merced de las innovaciones tecnológicas y las recurrentes aprensiones que estas suscitan, el mismo argumento reaparece cíclicamente: “Esta vez es diferente”. Hoy se habla de tecnologías digitales llamadas supuestamente “disruptivas” que revolucionarían el orden social basado en el trabajo. Sin embargo, para Autor, esta semántica revolucionaria no tiene en cuenta las fuertes complementariedades que existen entre el gesto productivo humano y el funcionamiento de las máquinas. Aunque no exenta de tensiones, la dialéctica automatización/trabajo provoca un aumento de la demanda de mano de obra.

La dialéctica automatización/trabajo provoca un aumento de la demanda de mano de obra

Un ejemplo que permite discernir esta complementariedad es el sector bancario, donde la introducción de los cajeros automáticos en el periodo 1980-2010 dio lugar a una recalificación, y no a una supresión de determinadas categorías de empleados. Tan solo en los Estados Unidos, los cajeros automáticos pasaron de 100 000 a 400 000 entre finales del siglo xx y la primera década del siglo xxi. Sin embargo, el número de cajeros bancarios permaneció estable, registrando un modesto aumento de 500 000 a 550 000 trabajadores. La propagación de los distribuidores automáticos de billetes (DAB) no ha reducido el número de cajeros, porque una expansión económica en el sector ha estabilizado los puestos de trabajo. La presencia de DAB permite gestionar una agencia con menos empleados. Sin embargo, esto ha estimulado la multiplicación de agencias, cuyo número ha aumentado en un 43 % desde 1990. La demanda de trabajo humano no varía desde un punto de vista cuantitativo. Sin embargo, es en el plano cualitativo donde la automatización tiene un efecto decisivo: cambia el contenido, o incluso la naturaleza del trabajo requerido. Las tareas que son automatizadas quedan fuera de las funciones de los cajeros; mientras que otras se añaden (como las que mantiene relaciones de apoyo a los clientes, asesoramiento financiero o la venta de nuevos productos de inversión).

Para David Autor, se trata más bien de un cambio de perspectiva: hay que dejar de considerar el trabajo como algo reemplazable, cuyo pronóstico vital está comprometido con cada pequeño cambio de las innovaciones tecnológicas, para poder concentrarnos en las actividades que conforman la vida cotidiana de los trabajadores. Hay tareas que pueden ser automatizadas, es cierto, pero nunca todas, ni todas al mismo tiempo. De este modo, el trabajo no desaparece.

¿Reemplazo o desplazamiento?

Si la influencia de la automatización sobre el trabajo no se reduce a un mero proceso de sustitución de entidades orgánicas (los trabajadores) por entidades artificiales (los bots, los sistemas inteligentes, etc.), lo que está en juego aquí es, más bien, una digitalización de las tareas humanas. Se trata de un proceso distinto, que modifica la esencia del trabajo llevando al extremo dos tendencias de larga data: la estandarización y la externalización de los procesos de producción. La reducción del gesto productivo a una secuencia estandarizada de actividades parceladas es compatible con los procesos artificiales. Este fue el caso de la mecanización durante el periodo taylorista del siglo XX y posteriormente para el nuevo taylorismo de las plataformas digitales y las tecnologías ‘smart’. La especificidad de las actuales tecnologías de la información, en relación con las del pasado industrial, reside en la conexión que mantienen con el espacio. La producción digital se puede organizar en cualquier sitio; el lugar físico donde se despliega la automatización no es fijo, ni limitado al perímetro de la empresa tradicional. Tiene lugar en otra parte. Mejor aún: en la medida en que puede dividirse en innumerables tareas uniformes, tiene lugar, por así decirlo, en “muchos lugares”.

Para tomar el ejemplo del cajero automático, la estandarización digital de algunas de las tareas humanas no es esencialmente automática. Son, sobre todo, los usuarios, los consumidores, los clientes quienes toman la responsabilidad del funcionamiento de las máquinas. Ahora son ellos, y no los cajeros, quienes se identifican, realizan las transacciones, cuentan el dinero. Lo mismo ocurre con otras tecnologías que facilitan el autoservicio, tales como los terminales de autorregistro o las cajas automáticas de los supermercados.

Digámoslo así: lo que se realiza no es un reemplazo del trabajo que opera mediante tecnologías automáticas, sino su desplazamiento, es decir, la delegación de un número creciente de tareas productivas a los no-trabajadores (o trabajadores no remunerados y no reconocidos como tales). Es la noción de “trabajo del consumidor” que comienza a aflorar aquí, antes de imponerse como uno de los ejes de nuestro análisis en los capítulos que seguirán. Se establece una relación social entre una entidad comercial y su usuario, mediada por tecnologías digitales, destinada a la producción de un bien o un servicio. Esto es lo que algunos autores, como Ursula Huws, califican de “trabajo de consumo no remunerado [unpaid labor of ‘consumption work’]”.

El trabajo mediatizado por tecnologías digitales también permite alejarse de las visiones “centradas en los asalariados” para reconocer la gran variedad de sujetos que pueblan estos espacios exteriores. Se trata de una contribución necesaria y no reconocida de grupos humanos cuyo acceso al trabajo ha sido difícil en el mundo heredado del primer industrialismo —como las minorías, las personas en situación de exclusión o las mujeres—. Por eso, también, el trabajo del consumidor entra en resonancia con el trabajo doméstico. Ambos permiten a las empresas aprovechar al máximo la lógica de dependencia que caracteriza a los ecosistemas humanos que se encuentran alrededor —y no en el interior— del conocido “lugar de trabajo”.

Evidentemente, ni el trabajo de los consumidores ni el “trabajo de las mujeres” agotan la variedad de nociones disponibles para describir las manifestaciones de la actividad humana en la era de las tecnologías digitales. Más adelante veremos que una parte importante de las actividades generadoras de valor se oculta a menudo en el ‘back office’. Otras veces, se minimiza y se reduce al rango de microtrabajo. En otras ocasiones, se oculta a la vista porque es deslocalizada y llevada a cabo por trabajadores precarizados al otro lado del mundo. Y, a menudo, lo que se niega es la naturaleza de su propia actividad de trabajo, porque se interpreta simplemente como un juego, una forma de participación, de cuidado, de realización personal, etc.

¿Automatización o digitalización?

El trabajo digitalizado no es un “trabajo muerto”, para retomar una expresión en la que el repertorio marxista asignaba a los dispositivos de las fábricas. Tampoco es el “trabajo perdido” con el que los augures de la automatización fantasean. La digitalización puede ser considerada bajo el aspecto de una externalización de tareas productivas estandarizadas, una reorganización de la relación entre el interior y el exterior de la empresa, con lo cual la parte de valor producida desde el interior disminuye, mientras que el producido desde el exterior aumenta.

Es necesario ir más allá de la perspectiva del trabajo automatizado, para identificar el verdadero problema: el del trabajo digitalizado. De ahí la necesidad de importar la formulación inglesa de ‘digital labor’.

Se trata de subrayar el elemento físico, el movimiento activo del ‘digitus’, el dedo que cuenta, pero también hace clic

En primer lugar, el uso de lo digital no debe interpretarse como una toma de posición en la ociosa e infinita disputa entre anglófilos y puristas del lenguaje que prefieren el adjetivo “numérico”. Por el contrario, se trata de subrayar el elemento físico, el movimiento activo del ‘digitus’, el dedo que se usa para contar, pero también que señala, que hace clic, que presiona el botón, en contraposición a la inmovilidad abstracta del ”numerus, el número como concepto matemático. Esta es una manera de liberarnos de una visión de lo digital entendido exclusivamente como trabajo de expertos y estudiosos. Es también una forma de enfocar finalmente nuestra mirada en aquellas y aquellos que realizan las tareas humildes, ordinarias y elementales que estructuran cada vez más las cadenas productivas actuales.

Entonces, ¿por qué usar la palabra ‘labor’? Principalmente porque el término francés ‘travail’ encierra una polisemia demasiado grande. Designa los tres ejes sobre los cuales la noción se ha formado históricamente. Como recuerda Dominique Méda, el trabajo permanece “en una triple relación: entre el individuo y su entorno natural; entre el individuo y los otros; entre el individuo y él mismo”. En otros idiomas, los términos como ‘work’, en inglés, o ‘Werk’, en alemán, expresan el primer concepto, el trabajo como una relación con el mundo y con la realidad que se encuentra transformada por el gesto productivo humano. Pero, cuando el individuo se libera de la necesidad, su actividad deja de ser una relación con la naturaleza, su esencia aparece a través de las relaciones sociales —y se expresa con los términos labor o Arbeit—. Por último, la relación de sí mismo nace de una visión del trabajo en una sociedad pacífica “cuya relación fundamental sería la expresión […]: te entiendo a través de tu obra, me contemplas a través de la mía”. Es el trabajo que describe la identidad profesional: el ‘job’, incluso la ‘Stelle’.

Por tanto, es la segunda de estas acepciones de la palabra trabajo la que hay que privilegiar para captar la dimensión propiamente colectiva de esta noción, alejada de la concepción individualista del ser humano frente al mundo o frente a sí mismo.

Las actividades digitales, como administrar Facebook, crear una playlist, etc., generan riqueza, pero no ingresos

Sin duda, algunos autores perciben esta dimensión intersubjetiva como el fundamento mismo de lo «social», o incluso de un trabajo que implica el hecho mismo de “estar en sociedad”. Alexandra Bidet y Jérôme Porta destacan, por ejemplo, que “el ‘digital labour’ [sic] pone a prueba la idea misma de trabajo. Las actividades indisociables de lo digital, como administrar la cuenta de Facebook, crear una playlist, likear un contenido, etc., son actividades que generan riqueza, pero no ingresos. El usuario-consumidor participa en la cadena de valor y está sujeto a ciertas limitaciones […]. Más allá de la cuestión del ingreso y la distribución equitativa del valor generado, la transferencia de actividades que se realizaban en el marco de las relaciones asalariadas (por ejemplo, la compra de un boleto y luego su impresión por parte del consumidor) revela la fragilidad de las convenciones que califican al trabajo como una actividad“.

El digital labor representa así una manera de “conceptualizar más sólidamente la técnica: no ya como un simple factor externo a lo ‘social’, sino como el conjunto de las maneras de hacer y las mediaciones concretas por las que transformamos nuestro entorno para orientarnos y vivir en él”. En la medida que el trabajo forma un triángulo con las mediaciones técnicas y las estructuras sociales, no es sorprendente que la sociabilidad digital y el “trabajo del clic” se correspondan mutuamente. En el curso de las últimas décadas, las tecnologías se han integrado en nuestros espacios privados hasta adherirse al cuerpo de los individuos. El trabajo reproduce estas características, haciéndose a su vez menos perceptible, menos vinculado a la expresión de una fuerza mecánica.

En los estudios actuales, esta transformación es tomada en cuenta solo en términos de una tecnología, entendida como fuerza exógena, que destruiría los equilibrios de la vida en sociedad. Sin embargo, para comprender el digital labor también es necesario romper con esta falsa oposición, recordando que el trabajo no se puede pensar sin tener en consideración el medio técnico en el que se desarrolla. No hay trabajo sin herramientas, como han reconocido las ciencias sociales desde las investigaciones de Gilbert Simondon y André Leroi-Gourhan.

Centrarse en las actividades no remuneradas que generan valor desde la conectividad social ignora la precarización de los trabajadores

Incluso, tampoco puede existir el trabajo fuera del entorno económico. Por lo tanto, nuestro análisis no puede detenerse en el trabajo invisible del consumidor conectado. También hay que incluir la intermediación de los trabajos ocasionales, los contratos de cero horas o, incluso, las formas tradicionales de subcontratación que están experimentando una explosión y una exacerbación de sus lógicas en la era de los autómatas y los algoritmos inteligentes. Centrarse exclusivamente en las actividades no remuneradas que generan valor a partir de la conectividad social y que las tecnologías digitales hacen posible significaría ignorar el otro aspecto del trabajo digital, a saber, las dinámicas de precarización de los trabajadores y el deterioro de sus condiciones de trabajo.

Es por esta razón que la noción de ‘digital labor’ no puede limitarse al “trabajo gratuito”, sino que también designa a un continuum entre actividades no remuneradas, actividades mal remuneradas y actividades remuneradas de manera flexible. Tampoco se trata de situarse fuera del trabajo, en particular del consumo, sino más bien de reconocer la creciente dependencia de las estructuras productivas contemporáneas con respecto a las tecnologías que garantizan un puente entre el trabajo y lo extralaboral.

El autómata y el operario

Interrogar las fronteras entre el trabajo y lo extralaboral supone, como ya se ha mencionado, adoptar un cambio de perspectiva que implica pasar del empleo entendido en su generalidad y enfocarse en las tareas específicas que lo integran. Sin embargo, esto no se puede reducir a un cambio conceptual limitado a las categorías de análisis de los economistas y las instancias de regulación de los mercados. En términos muy concretos, asistimos a un cambio de los modos de producción hacia la parcelación del trabajo. Como lo explicó la antropóloga de medios Mary Gray en 2016, esta es la piedra angular del advenimiento del digital labor. Fragmentación, externalización y precarización van juntas:

“Las empresas, desde la más pequeña start-up a las más grandes corporaciones, ahora pueden ‘parcelar’ [‘taskify’] todo, desde la planificación de las reuniones, la depuración de sitios web, hasta la búsqueda de clientes y la gestión de los archivos de RH de los empleados a tiempo completo. En lugar de contratar, las empresas pasan anuncios en línea para cubrir sus necesidades […]. Olviden el auge de los robots y la lejana amenaza de la automatización. El problema inmediato es […] la fragmentación de los empleos en tareas externalizadas y el desmantelamiento de los salarios mediante micropagos.”

Olviden el auge de los robots y la lejana amenaza de la automatización. El problema inmediato es el desmantelamiento de los salarios

Descuidar la embestida de esta lógica productiva centrada en tareas específicas y continuar manteniendo el foco sobre los empleos nos expone a dos problemas principales. El primero se relaciona con la dificultad de distinguir las horas “no trabajadas”. La perspectiva del empleo formal regulado contractualmente y situado en una oficina o en una fábrica parece inevitablemente inadecuado para entender el trabajo de individuos o grupos humanos teóricamente autónomos, pero vinculados a las cadenas productivas —desde el trabajo doméstico al trabajo del consumidor, del trabajo de los aficionados al de los voluntarios, del trabajo público al digital labor—. El segundo alude al riesgo de encerrarnos en los marcos nacionales a los que se limitan la mayoría de los análisis de este tipo. Este límite es tanto más perjudicial a medida que las interdependencias globales se vuelven cada vez más preponderantes en la producción de la riqueza. El recurso a la deslocalización con vistas a una reducción de los costos o de una racionalización de las instalaciones de una empresa ya no es una prerrogativa exclusiva de las multinacionales. El ‘offshoring’ se ha convertido, dentro de las cadenas mundiales de suministro, en un proceso en cascada que estructura a los proveedores y compradores, desde las empresas más grandes a las más pequeñas.

La incapacidad de percibir en lo extralaboral el gesto productivo humano es el resultado directo de estos dos ángulos muertos. Precisamente porque está fragmentado, y escapa a las categorías movilizadas para analizarlo, es que ya no reconocemos el trabajo que tenemos frente a nosotros cuando examinamos la compleja articulación entre la actividad de los trabajadores atípicos o precarios y la de los no-trabajadores o consumidores, pero también cuando consideramos el vínculo entre los clics pagados a una fracción de dólar a los ciudadanos de los países del sur y la creatividad monetizada de los usuarios del norte.

Esta ceguera tiene graves consecuencias. No solo nos resulta difícil distinguir las evoluciones del trabajo, sino que también imaginamos que la enorme cantidad de trabajo externalizado hacia las comunidades humanas extralaborales, locales o globales sería realizada “por las máquinas”. En este sentido, la automatización es, ante todo, un espectáculo, una estrategia para desviar la atención y ocultar las decisiones gerenciales dirigidas a reducir los costos relativos a los salarios (y más en general de la remuneración de los factores productivos humanos) en relación con la remuneración de los inversores.

[Séminaire #ecnEHESS] Lilly Irani : Ethique et démocratie des infrastructures numériques (ft. Elisa Giardina Papa, 17 juin 2021, 19h)

Enseignement ouvert aux auditeurs libres. Pour s’inscrire, merci de renseigner le formulaire.

La dernière séance de l’année universitaire 2020/21 de notre séminaire Étudier les cultures du numérique (#ecnEHESS) aura lieu en version webinaire le jeudi 17 juin 2021, de 19h à 21h. Vous pouvez suivre cette séance, organisée en collaboration avec la Gaîté Lyrique :
– sur le site de la Gaîté Lyrique 
– sur Facebook
– sur Youtube.

Dans ce séminaire, nous aurons le plaisir d’accueillir Lilly Irani, professeure associée à l’Université de Californie, San Diego (UCSD). L’une des premières chercheuses à avoir étudié le micro-travail et co-fondatrice du collectif Turkopticon, elle est spécialiste de l’impact social de l’innovation. Ses domaines vont de l’automation, au design, aux luttes citoyennes contre la surveillance. Lilly Irani présentera ses recherches sur la “l’éthique d’en bas des technologies”, c’est-à-dire de notre capacité à créer des effets directs et institutionnels de changement dans nos vies régies par des infrastructures numériques apparemment hors de notre portée.

Dans le rôle de discutante/contrepoint, nous accueillons aussi Elisa Giardina Papa, artiste dont les travaux portent sur le genre, la sexualité et le travail en relation avec le capitalisme néolibéral et les frontières du Sud.

La séance et les échanges seront entièrement en anglais.


Lilly Irani (Université de Californie San Diego – UCSD)

Ethics from Below: Claiming Democracy Over Digital Infrastructures

Acceder ici au streaming video

Jeudi 17 juin 2021, 19h-21h

We work and live through layers of infrastructure designed and installed by companies and public agencies, often out of sight and seemingly beyond our grasp. Calls to ethics demand professionals and regulators assess the how well these technologies align with notions of the good. In this talk, I will argue that we need to go a step further to address the problem of political agency over digital infrastructures. By political agency, I mean the capacity of agents to create effects through direct and institutional action. I will motivate and elaborate this argument with two case studies: a struggle to shape public-private smart cities infrastructure in San Diego, as well as struggles to transform platform work conditions for Amazon Mechanical Turk workers.

Lilly Irani is an Associate Professor at University of California, San Diego (UCSD). She is author of “Chasing Innovation: Making Entrepreneurial Citizens in Modern India” (Princeton University Press, 2019) and “Redacted” (Taller California, 2021; with Jesse Marx). She is a co-founder of the digital worker advocacy organization Turkopticon.

[Séminaire #ecnEHESS] Shannon Vallor: Ethique de l’IA et dette morale des technologies (20 mai 2021, 19h)

Enseignement ouvert aux auditeurs libres. Pour s’inscrire, merci de renseigner le formulaire.

La nouvelle séance d’approfondissement de notre séminaire Étudier les cultures du numérique aura lieu en version webinaire le jeudi 20 mai 2021, de 19h à 21h. Vous pouvez suivre cette séance, organisée en collaboration avec la Gaîté Lyrique :
– sur le site de la Gaîté Lyrique
– sur Youtube
– sur Facebook

Dans ce séminaire, nous aurons l’honneur d’accueillir l’une des plus brillantes expertes de l’éthique des données et de l’IA, la philosophe Shannon Vallor, titulaire de la chaire Baillie Gifford à l’Université d’Édimbourg. Prof. Vallor présentera ses recherches sur la “dette morale technologique”. Les grandes entreprises du secteur technologique ont “emprunté” de la confiance aux publics pour développer des outils allant des algorithmes, à la reconnaissance faciale, aux dispositifs de traçage pour le Covid-19. Cette dette considérable semble désormais arrivée à échéance. De quelle manière vont-elles l’honorer ?

Dans le rôle de discutant/contrepoint, l’artiste Sam Lavigne, auteur de plusieurs projets sur la surveillance et concepteur, entre autres, du Stupid Hackaton.

La séance et les échanges seront entièrement en anglais.


Shannon Vallor (Université d’Édimbourg)

Technology’s Moral Debt

Acceder ici au streaming vidéo
Jeudi 20 mai 2021, 19h-21h

The humane future that champions of advanced technology once promised—one of greater leisure and equality, more enlightened minds and sentiments, and cleaner and healthier environments—has been indefinitely delayed. Instead, a growing ‘moral debt’ has been incurred by technologists as the environmental and social costs of 19th-20th century industrialization and 21st century computerization continue to accumulate, while compensating advantages are distributed increasingly unequally. Computing technologies are used to bridge or disguise ethical gaps in our institutions, rather than to design more ethical social systems. How does AI fit into this picture? Will we allow it to add to that increasingly unsustainable debt? Or might recent shifts in how we understand the ethical responsibilities of AI developers allow us to use it in ways that finally begin to pay down that debt, and fulfill technology’s unmet promise of a more humane world?

Shannon Vallor est philosophe et titulaire de la chaire Baillie Gifford sur l’éthique des données et de l’IA à l’Edinburgh Futures Institute. Ses recherches explorent l’impact de l’automatisation et de l’intelligence artificielle sur le caractère et les pratiques humaines. En 2015, elle a reçu le World Technology Award in Ethics. Elle est l’auteure de Technology and the Virtues: A Philosophical Guide to a Future Worth Wanting (Oxford University Press, 2016) ainsi que de nombreux articles sur l’éthique de l’IA.

Entrevista especial : “O trabalho digital é o ingrediente não secreto da inteligência artificial” (Instituto Humanitas Unisinos, 28 abr. 2021)

Entrevista à margem da minha conferência ministrada no “XIX Simpósio Internacional IHU Homo Digitalis. A escalada da algoritmização da vida em tempos de pandemia”.

O trabalho digital é o ingrediente não secreto da inteligência artificial. Entrevista especial com Antonio Casilli

Por: Edição: Patricia Fachin | Tradução: Isaque G. Correa | 28 Abril 2021

A visão distópica de manchetes e pesquisas que anunciam a substituição do trabalho humano por robôs, esta mudança radical de uma completa automação, “provavelmente nunca chegará sem a contribuição do trabalho digital humano”, diz o sociólogo francês Antonio Casilli. Em conferência ministrada no “XIX Simpósio Internacional IHU Homo Digitalis. A escalada da algoritmização da vida em tempos de pandemia”, em dezembro do ano passado, o professor do Institut Polytechnique de Paris expôs a realidade de inúmeras pessoas que vivem em países em desenvolvimento e realizam “microtrabalho digital” para plataformas como Amazon, Facebook e Uber, a fim de “treinar” o que ele denomina de “inteligência artificial falsa”.

As atividades desenvolvidas por esses trabalhadores digitais que atuam em fazendas de cliques, moderando conteúdos nas redes sociais e treinando a inteligência artificial de produtos a serem lançados no mercado, demonstram, de um lado, “o mito da substituição robótica” e, de outro, a piora das condições de trabalho. “A moderação de conteúdos é o que nos permite ver o Facebook e nunca encontrar, na melhor das hipóteses, imagens violentas ou mensagens de mau gosto, insultos, conteúdos adultos que nem sempre são apropriados. Como isso acontece? Evidentemente, o Facebook sustenta que o faz via inteligência artificial. Então, existe uma inteligência artificial tão competente que nunca vemos nenhum conteúdo problemático em sua plataforma. A situação é completamente diferente. Há equipes de pessoas que são recrutadas e que trabalham, mais ou menos, nas mesmas condições dos microtrabalhadores do Amazon Mechanical Turk ou do Rater Hub, e essas pessoas não avaliam conteúdos ou produzem dados, nem treinam dados como os demais. Na verdade, elas recebem – ou recebem microssalários – para assistir vídeos e avaliar se esses vídeos são apropriados ou não, julgam fotos, considerando se são pornográficas, eróticas ou sugestivas. Leem mensagens e decidem se uma mensagem pode ser enviada a alguém no Facebook e alcançar uma certa audiência”, informa.

De acordo com Casilli, as pesquisas recentes sobre o impacto das tecnologias focam nas consequências socioeconômicas da inteligência artificial e nos efeitos da automação nos processos empresariais. Esse tipo de abordagem, destaca, analisa “algo que acontece no fim do processo produtivo”. Sua proposta, ao contrário, consiste em perguntar “O que acontece antes do uso?”, ou seja, qual é a mão de obra necessária para produzir a inteligência artificial. “Olhemos então para esta lacuna no conhecimento que temos hoje, ou seja, o fato de que não conhecemos o suficiente sobre os modos atuais de produção, de aprendizagem de máquina e das soluções intensivas de dados. Precisamos olhar para a geração, preparação, anotação de dados e verificar os resultados das análises algorítmicas em que se baseiam as soluções de aprendizagem de máquina. Todos esses elementos possuem um impacto social e econômico considerável e, também, carregam muitos riscos sociais”, assegura.

Casilli refere-se ao que chama de “robôs humanos, pessoas contratadas para ensinar os carros autônomos a dirigir” ou para realizarem outras atividades digitais pelas quais recebem um ou dois centavos por microatividades realizadas. Essas pessoas, que trabalham para conglomerados europeus, norte-americanos e asiáticos, “formam ecossistemas industriais inteiros que se especializam em fornecer esse tipo de dados” e vivem nas cidades de Bangalore e Hyderabad – dois ‘vales do silício’ na Índia –, na China, nas FilipinasBangladesh e na América do Sul, particularmente na Colômbia e na Venezuela.

Antonio Casilli é professor titular de Sociologia da Telecom Paris, a escola de telecomunicações do Institut Polytechnique de Paris, e pesquisador do Interdisciplinary Institute on Innovation (i3). Também é pesquisador associado do LACI-IIAC (Centro de Antropologia Interdisciplinar Crítica da École des Hautes Études en Sciences Sociales – EHESS, Escola de Estudos Avançados em Ciências Sociais). Além disso, é membro do corpo docente do Nexa Center for Internet and Society (um instituto da Universidade Politécnica de Torino).

IHU On-Line – Os robôs roubarão os nossos empregos?

Antonio Casilli – Comecemos com alguns dos títulos que a imprensa produziu nos últimos anos: “Robôs podem substituir seres humanos em 1/4 no número de empregos até 2030 nos EUA”. “Robôs substituem empregos: potencialmente 200 mil cortes no horizonte”. E a pergunta eterna: “Os robôs e, em geral, as tecnologias roubarão os nossos empregos?” Essa visão distópica é transmitida não só por meio da imprensa, mas também pelo discurso de especialistas e acadêmicos. Em particular, essa ideia de centenas de milhares de postos de trabalho desaparecendo por volta de 2030 foi popularizada no artigo intitulado “The Future of Employment”, publicado em 2012 por Carl Benedikt Frey e Michael Osborne, pesquisadores da Universidade de Oxford. Segundo o artigo, o número de empregos destruídos pela automação e, especificamente, pela aprendizagem de máquinas e robôs móveis equivaleria a 47% dos empregos em um país como os Estados Unidos. Evidentemente, outros estudos questionaram a metodologia e desafiaram estes resultados, como aquele publicado logo depois pela Organização para a Cooperação e Desenvolvimento Econômico – OCDE, mostrando que o artigo superestimava o número de empregos substituídos pela automação. Segundo esse novo estudo, apenas 9% dos empregos estariam em perigo por causa da automação.

Isso não impediu os autores, especialmente Carl Benedikt Frey, de repetirem o mesmo tipo de profecia distópica, particularmente nos últimos tempos, quando a Covid-19 atingiu o mundo inteiro e nos vários países onde o lockdown foi imposto. Diante do fato de que centenas de milhares de pessoas foram forçadas a trabalhar de casa, ou precisaram parar de trabalhar, Benedikt Frey e outros especialistas sustentaram que, nesse caso, a automação iria se impor simplesmente pelo fato de os seres humanos estarem numa posição difícil, de trabalharem juntos e de trabalhar em locais específicos, como fábricas e escritórios.

Essa ideia de centenas de milhares de postos de trabalho desaparecendo por volta de 2030 foi popularizada no artigo intitulado “The Future of Employment”, publicado em 2012 por Carl Benedikt Frey e Michael Osborne, pesquisadores da Universidade de Oxford – Antonio CasilliTweet

IHU On-Line – Estamos enfrentando o fim do trabalho ou, especificamente, do trabalho como o conhecemos, como uma atividade realizada em locais e organizações específicos?

Antonio Casilli – Novamente, nem todos concordam com esses resultados porque nem todos concordam com o tipo de ideia subjacente a artigos como esses. Em especial, há quem desafie que a própria ideia de inovação, e a inovação tecnológica em particular, conduz necessariamente à perda de empregos. David Autor, por exemplo. Economista do MIT, ele vem argumentando, em vários artigos, como este intitulado “Por que ainda existem muitos empregos?”, que o ganho em produtividade, introduzido pela inovação tecnológica, às vezes pode ter resultados inesperados. Por exemplo, peguemos os dispensadores automáticos de dinheiro implementados nos bancos desde o fim da década de 1980. Nesse caso, esperaríamos que essas máquinas substituíssem os funcionários dos bancos, mas o que aconteceu é que, no mundo todo, a própria possibilidade de abrir novas agências bancárias com um custo menor incentivou os donos de bancos a abrirem mais agências, e estas determinaram o aumento no número de pessoas empregadas no setor bancário. Esse é só um exemplo do fato de que, por um lado, existe a ameaça de vermos alguns tipos de trabalhos sendo destruídos e, em outros casos, existe a possibilidade de vermos alguma forma nova de emprego surgir ou, como no caso bancário, ver uma evolução nas habilidades exigidas para trabalhar em um banco.

Atualmente, o funcionário de banco não só conta o dinheiro e o entrega ao cliente. Às vezes, ele é um conselheiro ou assessor de finanças. Em alguns casos, precisa desenvolver novas habilidades, como escutar o que o cliente diz, ou o que o cliente procura, o tipo de investimento que este cliente imagina, e assim por diante. Ele lembra mais um psicólogo ou, em alguns casos, um confessor religioso, do que um consultor, como costumava ser.

Há quem desafie que a própria ideia de inovação, e a inovação tecnológica em particular, conduz necessariamente à perda de emprego – Antonio Casilli.

Profecia distópica

Na verdade, o fato é que esta profecia distópica da mão de obra humana tem estado presente entre nós há séculos. Ela começou no início do século XIX, no começo da primeira revolução industrial, com pensadores e economistas como Thomas MortimerDavid Ricardo ou Andrew Ure. Cada um a seu modo, eles tentam explicar que as tecnologias são pensadas para salvar a mão de obra e que, em alguns casos, as tecnologias poderiam ser o fim de certas atividades ou de todas as atividades. Mas esse não é um resultado que acontece necessariamente. Em alguns casos, as tecnologias que salvam a mão de obra andam de mãos dadas com tecnologias que são úteis aos seres humanos e para o trabalho humano, como Thomas Mortimer costumava explicar. Ou, em outros casos, como David Ricardo argumentava, algumas tecnologias não necessariamente são empregadas pelos capitalistas e investidores porque são caras demais, e a mão de obra humana ainda é a opção melhor e mais barata.

IHU On-Line – O que acontece para que essa noção da substituição robótica da mão de obra humana seja tão dominante e tão difundida?

Antonio Casilli – O fato é que quando se trata de analisar as tecnologias, as pesquisas atuais, especialmente aquelas que enfocam as consequências socioeconômicas da inteligência artificial e das tecnologias inteligentes, tendem a enfocar o uso de inteligência artificial na automação de processos empresariais. E, quando focamos no uso, estamos analisando algo que acontece no fim do processo produtivo.

Pelo contrário, a pergunta que faço, e aquela que todos os que olham para a mão de obra necessária para produzir inteligência artificial, é: O que acontece antes do uso? Olhemos então para esta lacuna no conhecimento que temos hoje, ou seja, o fato de que não conhecemos o suficiente sobre os modos atuais de produção, de aprendizagem de máquina e das soluções intensivas de dados. Precisamos olhar para a geração, preparação, anotação de dados e verificar os resultados das análises algorítmicas em que se baseiam as soluções de aprendizagem de máquina. Todos esses elementos possuem um impacto social e econômico considerável e, também, carregam muitos riscos sociais.

Plataformização e o trabalho digital

Basicamente, argumentamos que as tecnologias inteligentes predicam-se na plataformização, e a plataformização, por sua vez, predica-se na mão de obra(no trabalho) digital humana. Para explicar isso, precisamos nos perguntar por que a plataformização é tão importante. Ora, porque as plataformas põem em prática um novo tipo de trabalho, chamado trabalho digital. Mas o que é trabalho digital exatamente? É a “dataficação” e a “tareficação” das atividades humanas. Por dataficação, quero dizer que todo gesto humano produtivo – atividade e ocupação – acaba virando um processo produtor de dados. E também um processo gerido por dados. Em seguida, ele é também tareficado, porque se reduz a simples tarefas, a comportamentos simples e fragmentados, que são capazes de ser conectados e misturados para produzirem aquilo que conhecemos como tecnologias inteligentes.

A visibilidade e a simples força social e política dos usuários e dos motoristas e entregadores está́ maior do que antes da pandemia – Antonio CasilliTweet

Três tipos de trabalho digital nas plataformas

Existem três tipos de trabalho digital que acontecem nas plataformas. O primeiro tipo é conhecido como trabalho sob demanda: os típicos Uber, Lyft, Glovo, Deliveroo, Uber Eats. A atividade, realizada via aplicativos, se restringe geograficamente. Ela conecta-se a uma área urbana, a uma cidade, um bairro. Não podemos solicitar um motorista em São Paulo, se estamos em Salvador, na Bahia. É claro que essas atividades foram impactadas pesadamente pela Covid-19 a ponto de perdermos muitos motoristas de aplicativo. Por outro lado, a visibilidade e a simples força social e política dos usuários e dos motoristas e entregadores está maior do que antes da pandemia.

Em seguida, temos o segundo grupo do trabalho digital, chamado de microtrabalho. O microtrabalho é um tipo de atividade não muito conhecido ao redor do mundo, mas que é geral, está presente em vários países e é realizado por milhões de pessoas. Em alguns casos, é um trabalho realizado por usuários de plataformas especializadas, como o Amazon Mechanical Turk, onde, se somos trabalhadores, podemos procurar por trabalhos simples. Chamam-se microtarefas e pagam alguns poucos centavos em troca de uma atividade que dura, em alguns casos, menos de um minuto. Trabalhamos menos de um minuto e ganhamos menos de um centavo, em alguns casos.

Essa não é exatamente a espécie de atividade que buscaríamos se quiséssemos ter uma fonte de renda estável. No entanto, em vários países, visto os problemas políticos e econômicos pelos quais passam alguns países em desenvolvimento, esse tipo de atividade tem se tornado mais popular. Provavelmente, conhecemos pessoas que, especialmente desde o começo da Covid-19, começaram a trabalhar nesse tipo de plataformas, que às vezes se mascaram como atividade onde podemos ganhar algum dinheiro, ou que simplesmente clicamos em coisas que não conhecemos exatamente. Em seguida, veremos no que clicamos e o que estamos fazendo exatamente.

Finalmente, temos o terceiro tipo de trabalho digital. Chama-se trabalho social em rede. É a atividade que acontece nas mídias sociais e, em geral, em plataformas não especializadas, como o Google, o Facebook, o Instagram, o YouTube. Poderíamos pensar que esse tipo de trabalho digital se limita à atividade de produzir conteúdos. Naturalmente, há muito disso. Mas, até certo ponto, cada um de nós, mesmo se jamais postamos mensagens, imagens ou vídeos, estamos produzindo dados e metadados. Para essas plataformas, de alguma forma nós somos produtores de valor.

Há outras atividades realizadas em rede e que são importantes para fazer com que essas plataformas existam. Por exemplo, pensemos nos moderadores. Os moderadores são os que filtram e denunciam o conteúdo considerado problemático e, evidentemente, foram impactados pesadamente pela Covid-19. Provavelmente você já notou que, ao denunciar um conteúdo no Twitter, viu uma mensagem desde março que diz: “Obrigado por denunciar este conteúdo. Infelizmente, nossas equipes de moderadores não estão trabalhando a todo vapor por causa da Covid-19”. Essas pessoas nem sempre podem trabalhar de casa. Em alguns casos, são microtrabalhadores. Em alguns casos, eles podem trabalhar de casa. Mas, visto o tipo sensível de dados com os quais precisam lidar – é preciso analisar o conteúdo, o seu perfil, suas mensagens privadas – eles não podem trabalhar de casa, onde há outras pessoas, como filhos, por exemplo.

Mão de obra sob demanda

Comecemos analisando o trabalho sob demanda e enfoquemos naquela que é provavelmente a plataforma mais importante, o Uber, empresa que não só teve um enorme sucesso cultural – virou uma expressão: uberizar algo é fazê-lo mais parecido com o Uber –, mas também se apresentou como modelo de inovação paradigmático, pois impacta pesadamente na forma como a mão de obra se organiza.

empresa Uber incorpora um modo específico de organizar a mão de obra humana, não só porque é famosa por descrever seus motoristas como parceiros e por não contratá-los, mas principalmente porque tais motoristas são, antes de mais nada, provedores de dados. De acordo com vários dos motoristas entrevistados pela imprensa, eles dedicam uma boa parcela do seu tempo aguardando a solicitação de uma corrida e, enquanto aguardam, estão no aplicativo do Uber móvel produzindo dados. Segundo algumas estimativas, apenas 41% do tempo é usado para dirigir do ponto A ao ponto B. O restante do tempo é descrito como quilômetros perdidos, expressão que descreve o fato de serem horas inúteis. E essas horas são, na verdade, gastas fornecendo dados para a plataforma.

Que tipo de dados são produzidos pelos motoristas de Uber? Antes de mais nada, são os dados pessoais, relativos ao próprio perfil do motorista. Eles precisam escolher a foto certa, digitar o próprio nome e providenciar uma série de informações pessoais, que são importantes para os que trabalham no Uber. Em seguida, os motoristas de Uber produzem dados sempre que definem um período específico de horas a trabalhar e que lhes permitirá ganhar mais. Eles então precisam enviar e receber mensagens, e essas mensagens são dados que são trocados com uma central, também com outros motoristas e, evidentemente, clientes.

Dados de localização são também importantes. São produzidos principalmente na utilização de vários aplicativos para negociar o melhor trajeto possível entre o ponto inicial de uma corrida e o seu destino. Especialmente porque o aplicativo do Uber tem o terrível hábito de sugerir trajetos que são linhas retas. Evidentemente, isso é impossível numa cidade regular. Portanto, os motoristas de Uber precisam trocar entre aplicativos de Uber e outros aplicativos, tais como Waze, que fornecem melhores trajetos de GPS e que consideram problemas de tráfego e acidentes.

Finalmente, temos o placar de reputação. O placar de reputação é realmente uma Espada de Dâmocles pendendo sobre a cabeça dos motoristas de Uber. Principalmente porque esse é o placar que eles alcançam com base nas avaliações que são deixadas pelos usuários. Sempre que pego um Uber, normalmente deixo uma avaliação da performance do motorista. Se foi um bom motorista, se chegou no horário certo, se o carro estava limpo o suficiente, se estava disponível para conversar, se era muito falador ou silencioso demais, e assim por diante. Esse modo subjetivo e, em alguns casos, extremamente arbitrário de avaliar a performance dessas pessoas lhes são realmente importantes, porque, se o placar cai abaixo de um certo limite – em alguns casos, o limite é 4,7 –, eles são desativados, o que se aproxima de uma demissão pela empresa. Digo “se aproxima”, porque, segundo a plataforma, ela nunca os contratou.

O trabalho, na plataforma, regula-se por algoritmos, que nem sempre é o caso em empresas regulares e negócios tradicionais, onde a gerência se estabelece sobre regras ou critérios, tais como a ação planejada – Antonio CasilliTweet

Gerenciamento algorítmico

Todos esses dados são necessários para a combinação algorítmica do Uberque, nesse caso, é fundamental para pôr em prática um sistema de gerenciamento algorítmico desta mão de obra. Por gerenciamento algorítmico quero dizer que o trabalho, na plataforma, regula-se por algoritmos, que nem sempre é o caso em empresas regulares e negócios tradicionais, onde a gerência se estabelece sobre regras ou critérios, tais como a ação planejada.

Nesse caso, existe uma adaptação em tempo real da solicitação por mão de obra: a solicitação que é dirigida aos motoristas de Uber e o incentivo que eles precisam para fornecerem essa mão de obra. Tudo isso se alcança via algoritmos específicos. O algoritmo patenteado de busca de preços, usado pelo Uber para combinar a oferta e demanda de mão de obra, não é segredo. Na verdade, o setor de pesquisa e desenvolvimento da empresa publicou vários artigos explicando como este algoritmo funciona. Peguemos um exemplo, publicado num artigo de 2015, que descreve uma situação muito específica ocorrida em Nova York, em 21 de março de 2015. Após a apresentação da estrela pop Ariana Grande, milhares de pessoas estavam no Madison Square Garden e precisavam de uma carona para casa. Então, alguns milhares conectaram-se ao aplicativo móvel e, com base no fato de que havia um aumento enorme no número de usuários conectados num local específico, o algoritmo pôde estimar o surto na demanda de caronas. O que, claramente, leva a uma outra consequência, a uma outra ação: o algoritmo estabeleceu que o preço de cada corrida deveria ser multiplicado por um coeficiente. Para os consumidores, isso significou que a mesma corrida que eles pagariam dez dólares antes, agora ficaria em torno de 40, 50, 70 dólares. Para os motoristas de Uber, foi uma boa notícia, pois significava que ganhariam mais pela mesma corrida, enquanto, do lado dos usuários, a situação muda. O mapa da cidade de Nova York muda porque ocorre uma nova zona vermelha. Uma zona vermelha é onde os preços são mais altos, então os motoristas de Uber são incentivados, são motivados, encorajados a se dirigirem para a região. Nesse caso, era a região em torno do Madison Square Garden, e foi exatamente o que aconteceu.

Várias centenas e, em alguns casos, milhares de motoristas se dirigiram para a região do Madison Square Garden e pegaram os usuários que estavam dispostos a pagar um preço mais elevado. Em outros casos, alguns consumidores decidiram não gastar 40 ou 70 dólares, mas aguardar para que o preço voltasse ao normal. Assim, nesse caso, eles passaram mais tempo na plataforma produzindo dados.

Todos os dados produzidos, seja pelos motoristas, seja pelos usuários do Uber, importam porque são, evidentemente, monetizados. São dados que se transformam em dinheiro, porque o Uber vende esses dados a cidades ou marcas, a outras plataformas para fazerem o que quiserem. Principalmente para anúncios direcionados e para a otimização do tráfego em cidades e municípios. Mas existe também outro uso para esses dados, e é principalmente o uso de dados para a automação.

Dados para automação

Os dados são usados para treinar um tipo específico de processo automatizado que, para o Uber, são seus carros sem motoristas. É importante enfatizar que eles descrevem esses carros como sem motoristas. Esses veículos autônomos são, evidentemente, imaginados como uma espécie de “boudoir” [quarto decorado] sobre rodas, onde ninguém seria o motorista e todos seriam apenas passageiros. A situação também é diferente porque, hoje, inexistem veículos automatizados de nível 5. Segundo CEOs e funcionários da Tesla e da Volkswagen, jamais veremos algo acima do nível 3 – a automação limite que conhecemos atualmente –, em que alguém dirige esses carros, mas a pessoa não é descrita como motorista. Ela é descrita como uma operadora de direção, alguém que está ali para evitar que esses carros colidam com algo, ou para ajudar outros passageiros, assumindo o volante em situações que poderiam acabar sendo fatais, porque um carro pode matar alguém, evidentemente.

O fato de o trabalho destes motoristas ser tão subestimado, pouco enfatizado e, ultimamente, invisibilizado pelas plataformas, levou a algumas consequências terríveis, como a primeira casualidade humana: uma pessoa morta por um carro sem motorista, por assim dizer. Aconteceu em março de 2018, no Arizona. A seguir, vemos duas fotos. A primeira, com um círculo vermelho, é tirada do ponto de vista do carro. A câmera aponta na direção exterior, e a pessoa no círculo vermelho é a vítima do acidente. Essa foto foi tirada um segundo antes do acidente fatal.

Robôs humanos

Vejamos a segunda foto [ao lado e acima]. Essa foi tirada da câmera que aponta na direção do interior do carro, um segundo antes do acidente. Como podemos ver, há alguém no assento do motorista. Essa pessoa não está dormindo. Ela não está assistindo um programa de TV no tablet. Na verdade, ela está assistindo a progressão do carro no tablet. Portanto, nesse caso, significa que, se a pessoa tivesse recebido um treinamento melhor, se tivesse ficado claro que o seu trabalho era crucial para evitar situações como esta, se o Uber não tivesse subestimado a importância de alguém sentado no banco do motorista, esse acidente poderia ter sido evitado.

Quando digo que as empresas, como a Uber, fazem de tudo para invisibilizar esta mão de obra humana, não é uma metáfora, não é uma figura de linguagem. É algo que as empresas fazem realmente. Elas buscam esconder estes trabalhadores; escondem dentro dos carros. Como podemos ver, por exemplo, nesta imagem… não é um meme, não é uma foto humorística, nem uma fotomontagem. Trata-se de um protótipo real dos chamados carros sem motorista desenvolvidos pela Ford, nos Estados Unidos. Como podemos ver, o motorista foi disfarçado como um assento do carro para produzir a ilusão de que é um carro sem motorista.

Além dos trabalhadores humanos que ainda são necessários dentro dos carros, existem também outros trabalhadores, uma outra categoria inteira que nos permite trocar para o segundo tipo de microtrabalho digital. Esses trabalhadores não estão dentro dos carros. Estão em locais remotos. Eles são fundamentais para ajudar o carro a aprender a dirigir. Porque os carros autônomos baseiam-se em soluções de inteligência artificial e no aprendizado de máquina. Quando falamos em aprendizado de máquina, também falamos que alguém precisa ensinar esse carro a dirigir e reconhecer diferentes objetos: um outro carro, uma árvore, e assim por diante.

Quem são as pessoas que ensinam os carros a fazerem o que prometem fazer? De acordo com Anthony Levandowski – ele foi o chefe do setor de veículos comerciais do UberOtto –, podemos descrever essas pessoas como robôs humanos. Por quê? São elas algum tipo de autômato antropomórfico? Não. São basicamente os humanos que ensinam os robôs, nesse caso, o carro autônomo, a fazerem o que fazem. Isto é, são os treinadores dos dados que são usados para esta inteligência artificial.

Quem são as pessoas que ensinam os carros a fazerem o que prometem fazer? São basicamente os humanos que ensinam os robôs, nesse caso, o carro autônomo, a fazerem o que fazem – Antonio CasilliTweet

Dados e metadados

Um carro autônomo é, na verdade, um dispositivo que se comunica. Ele se comunica com a plataforma à qual se conecta. Comunica-se com outros veículos conectados. Mas também captura muitos dados de objetos ou comportamentos ao redor. Se alguém cruza a rua, o carro autônomo deve registrar e, então, processar e agir consequentemente. Mas, para que o carro aprenda a agir consequentemente, precisamos injetar dados de qualidade, o que significa dados anotados, filtrados, documentados na inteligência artificial que gerencia o carro.

Os dados, como provavelmente já sabemos, não são anotados desde o começo. Eles precisam ser anotados, precisam ser transformados de dados brutos em dados enriquecidos. Portanto, existem várias plataformas que fornecem esse serviço. Pegam dados brutos, nesse caso, imagens gravadas pelos carros autônomos, e traçam linhas ao redor dos carros, semáforos, pistas de corrida, casas, pessoas cruzando a rua. Em seguida, acrescentam tags, depois fornecem metadados contextuais. Geralmente, quem faz isso são as plataformas comerciais que tendem a se especializar nesse tipo de anotação de dados, e provavelmente uma das melhores plataformas era a Mighty AI. Digo “era” porque no ano passado [2019] a empresa Uber decidiu comprar a Mighty AI e, agora, ela não existe mais. É simplesmente Uber Pesquisa.

Então, a Uber criou uma plataforma que anota esses dados. E quem são as pessoas que anotam esses dados? De acordo com as imagens comerciais da própria empresa, os treinadores desses dados são geralmente jovens, loiros, brancos e trabalham em ambientes que lembram uma start-up. Um jeito extremamente descontraído de trabalhar. Há um garoto e uma garota. Provavelmente temos uma tensão romântica aí. Portanto, um ambiente ideal para trabalhar. Bem, a realidade é totalmente diferente.

Esses robôs humanos, as pessoas contratadas para ensinar os carros autônomos a dirigir, são geralmente contratados em países em desenvolvimento ou emergentes. Formam ecossistemas industriais inteiros que se especializam em fornecer esse tipo de dados. Por exemplo, nas cidades de Bangalore e Hyderabad – dois “vales do silício” da Índia –, há uma enorme quantidade de pessoas especializando-se no enriquecimento desses dados.

Por que as plataformas precisam contratar este tipo de trabalhador? A razão é que as soluções de inteligência artificial que nós, enquanto sociedade, produzimos não são exatamente o tipo de inteligência artificial apresentada na imprensa ou nos artigos mais visionários dos pioneiros da inteligência artificial.

As soluções de inteligência artificial existentes no mercado se assemelham aos assistentes virtuais, como Siri e Cortana, aqueles que temos nos nossos smartphones, na Alexa ou no Google Home, que são usados como alto-falantes inteligentes (smart). Ou estas soluções são aquele tipo de inteligência artificial usado para conectar carros, sistemas de autopiloto.

As soluções de inteligência artificial que nós, enquanto sociedade, produzimos não são exatamente o tipo de inteligência artificial apresentada na imprensa ou nos artigos mais visionários dos pioneiros da inteligência artificial – Antonio CasilliTweet

Inteligência artificial estreita

Portanto, não é uma inteligência artificial geral. É uma inteligência artificial estreita. Eis a definição dada por Ray Kurzweil, chefe de engenharia do Google, e esta inteligência artificial estreita se especializa em ações específicas, decisões ou domínios da atividade humana. A maior parte desse tipo de inteligência artificial depende do aprendizado de máquinas. Qualquer tipo de aprendizagem de máquina: aprendizagem profunda, redes neurais, anúncios gerativos, redes convolucionais e outros tipos de redes, mas principalmente baseiam-se no aprendizado estatístico – e o aprendizado estatístico depende de dados. Portanto, precisamos de dados para produzir estas soluções de inteligência artificial estreita.

Para treinar estas soluções em inteligência artificial estreita, algumas plataformas especializaram-se na produção de dados anotados, como o Amazon Mechanical Turk, que foi inventado por Jeff Bezos – ou, pelo menos, lançado por ele em 2006. Fia-se em uma patente apresentada em 2001, e o nome nada tem a ver com a Turquia, mas com o autômato lendário inventado no século XVIII.

Mechanical Turk

Mechanical Turk (turco mecânico) era um jogador robótico de xadrez disfarçado de turco otomano, inventado em 1769 por Wolfgang von Kempelen, inventor austríaco. O turco mecânico deveria ser a primeira inteligência artificial porque ele desafiaria e, claro, venceria qualquer adversário humano de xadrez. Mas havia um pequeno problema, na verdade. Esse robô era uma farsa. Ele não era inteiramente robótico. Não simulava os processos cognitivos de um jogador de xadrez, mas simplesmente continha dentro de seu mecanismo uma pessoa – um ser humano – que podia mover as peças sobre o tabuleiro. Já a pergunta sobre quem era essa pessoa fica para interpretação de cada um. Há várias hipóteses. Uns dizem que era um soldado cujas pernas foram amputadas após uma batalha. Em outros casos, o indivíduo é descrito como um garotinho magro ou, ainda, é descrito como um anão. De qualquer forma, nunca o descreveram como um grande mestre de xadrez. Essa pessoa não era um gênio. Era apenas alguém que tinha um tipo de deficiência, por ser pequena demais ou porque era anã, ou porque tinha as pernas amputadas, ou ainda era pequena demais para trabalhar. Na verdade, o Amazon Mechanical Turk não se baseia na ideia de colocar a trabalhar pessoas com deficiência. Não necessariamente. A ideia é que, para alcançar uma boa performance intelectual, não precisamos de gênios, precisamos de pessoas normais. É o mesmo princípio subjacente ao Amazon Mechanical Turk, exceto que, no caso do mecânico turco do século XVIII era uma única pessoa a mover o único robôe, no caso do Amazon Mechanical Turk, há centenas de milhares de pessoas produzindo aquilo que Jeff Bezos descreve como “inteligência artificial artificial”, isto é, inteligência artificial falsa.

Para alcançar uma boa performance intelectual, não precisamos de gênios. Precisamos de pessoas normais. É o mesmo princípio subjacente ao Amazon Mechanical Turk – Antonio CasilliTweet

Quando Jeff Bezos diz que o Amazon Mechanical Turk produz inteligência artificial artificial, ele exagera um pouco, ou pelo menos em alguns casos. A questão é que nem sempre esta plataforma pode ser usada para estimular um sistema de inteligência artificial, mas que a plataforma é importante para treinar e, em alguns casos, para verificar o que o sistema de inteligência artificial e as tecnologias fazem.

Por exemplo, imaginemos que temos de treinar uma solução de software OCRque reconheça o conteúdo de um ticket de compras no Walmart. Ou, por exemplo, que precisamos treinar um carro autônomo a dirigir. Ou imaginemos que precisamos treinar o algoritmo gerador de playlists do Spotify. Teremos que ensinar o algoritmo a reconhecer diferentes gêneros musicais e como reuni-los. Para fazer isso, precisamos produzir dados e esses dados precisam ser, evidentemente, anotados e enriquecidos.https://www.youtube.com/embed/v0BT7_2t840 

IHU On-Line – Quais são os limites e possibilidades da automação?

Antonio Casilli – Empresas que querem automatizar alguns processos empresariais, por exemplo, a contabilidade ou qualquer outro processo, podem ir ao Amazon Mechanical Turk e contratar, por um período limitado de tempo, pessoas que realizarão microtarefas. Visto que essas microtarefas levam alguns poucos segundos, em alguns casos alguns minutos, para serem realizadas, “contratar” não é exatamente a palavra certa. Essas pessoas são recrutadas e, em seguida, descartadas. Isso significa que, após terem finalizado a microtarefa, nada as conecta ao cliente, à pessoa que quis o seu trabalho em primeiro lugar. E esses trabalhadores são muito mal pagos. Em alguns casos, um ou dois centavos para realizarem as tarefas. Não há nenhum contrato real que liga os trabalhadores às empresas ou à própria plataforma. A única coisa que a Amazon quer que os microtrabalhadores subscrevam é um acordo geral, como os Termos de Serviços em que qualquer um clicaria para usar uma plataforma ou um aplicativo. Mas, em seguida, essas pessoas são encorajadas a realizar tarefas realmente importantes de treino dos algoritmos e da inteligência artificial. Essas tarefas incluem reconhecer linguagens ou tipos de conversas, escrever palavras, anotar imagens ou isolar elementos, fornecer palavras-chave. Todas são extremamente importantes para o processamento da linguagem natural ou para o reconhecimento de imagens.

Novamente, o problema é sempre quem está realizando essas microtarefas. Quem aceita trabalhar por um tipo tão instável e volátil de ocupação – que não é um emprego, para falar a verdade, apenas uma atividade, uma atividade informal, precária, na melhor das hipóteses, e que é mal paga. Sempre que precisam responder quem são os seus microtrabalhadores, as empresas respondem com o tipo de imagem comercial promocional que vimos antes com o Uber, por exemplo. Esses trabalhadores de dados, esses provedores de dados são descritos como profissionais jovens, residentes em países do Norte global, e geralmente são pessoas brancas. O ponto é que a realidade das equipes de pessoas que de fato treinam e geram esses dados é inteiramente diferente. Como podemos imaginar, as pessoas dispostas a realizar tais trabalhos voláteis por uma quantidade tão pequena de dinheiro vêm de países com renda média muito baixa, como os países em desenvolvimento. Por exemplo, as Filipinas ou Bangladesh.

A Amazon não é a única empresa que lucra com o microtrabalho de treinamento das soluções para a inteligência artificial. A Microsoft, por exemplo, vem usando-o há anos para calibrar e otimizar os seus produtos – Antonio CasilliTweet

Offshoring virtual

Portanto, em certo sentido esse tipo de microtrabalho pode se comparar ou equacionar-se a um tipo de offshore, ou seja, uma terceirização para um local distante, normalmente um país mais pobre, onde os salários são mais baixos e onde as pessoas se dispõem a trabalhar em condições piores. Nesse caso, não é um offshore demandando que uma empresa abra uma fábrica ou escritório em um outro país. Elas podem fazer um offshoring virtual, ou seja, uma terceirização com base numa plataforma de processos empresariais num local remoto, com um investimento muito limitado ou sem nenhum investimento. Elas sequer precisam contratar essas pessoas porque os microtrabalhadores que normalmente usam essas plataformas não são contratados.

Amazon não é a única empresa que lucra com o microtrabalho de treinamento das soluções para a inteligência artificial. A Microsoft, por exemplo, vem usando-o há anos para calibrar e otimizar os seus produtos. Por exemplo, o mecanismo de buscas Bing precisa ser, digamos, melhorado com ajuda de microtrabalhadores que são recrutados em uma plataforma de propriedade da Microsoft. Essa plataforma chama-se UHRS, sigla para Sistema de Referência Humana Universal. O princípio é exatamente o mesmo, com a exceção de que não é aberto a qualquer um como o Amazon Mechanical Turk. O UHRS serve só para a Microsoft treinar as suas próprias inteligências artificiais.

Mas a Microsoft também mostrou que os usuários podem se transformar em microtrabalhadores: usuários simples, regulares de internet, que foi o caso com o experimento Tay. O experimento Tay foi um chatbot – tipo muito simples de inteligência artificial – que deveria simular o comportamento e a personalidade de uma adolescente. O problema ou, na verdade, o desafio foi que a Microsoftdecidiu não treinar essa inteligência artificial internamente, mas deixá-la livre de forma que os usuários de internet a treinassem. Grande engano. Em pouco tempo, vários usuários, especialmente trolls vindos da comunidade 4chan [um website no qual os usuários publicam anonimamente, com as postagens mais recentes aparecendo acima das mais antigas], decidiram organizar aquilo que podemos descrever como treinamento adverso, isto é, ensinar Tay a agir de forma problemática. Especialmente, ensinaram a esse chatbot várias opiniões pouco populares e politicamente preconceituosas sobre o uso de drogas, minorias étnicas ou blasfêmia, e outras coisas que fizeram a Microsoftdescontinuar o experimento, que, evidentemente, foi um grande fracasso. Mas ele também demonstrou o quanto o treinamento é importante para a criação da inteligência artificial. A inteligência artificial não existe simplesmente. Ela precisa ser treinada. Portanto, um treinamento de qualidade é importante.

A inteligência artificial não existe simplesmente. Ela precisa ser treinada – Antonio CasilliTweet

Outras empresas como o Google fazem exatamente a mesma coisa que a Microsoft fez com o experimento Tay, mas elas tiveram um maior sucesso. Por exemplo, quando usamos o mecanismo de buscas do Google, este mecanismo funciona – e funciona bem – porque, atrás dele, há uma plataforma já com mais de dez anos de idade chamada Rater Hub, onde microtrabalhadores são recrutados para avaliar e conferir os resultados algorítmicos das buscas do Google.

Rater Hub do Google, ou seja, a plataforma de microtrabalho dessa empresa, foi introduzido por volta de 2007. Basicamente, funciona assim: sempre que um usuário de internet usa o mecanismo de buscas do Google para procurar algo, alguém recebe no Rater Hub uma tarefa que consiste em checar se os resultados submetidos pelo mecanismo de buscas do Google foram apropriados. Por exemplo, estamos procurando por uma farmácia em Lille, na França, mas o mecanismo de buscas traz resultados do Brooklyn, nos Estados Unidos. Há algo errado, e algo precisa ser corrigido. Então, nesse caso, o avaliador – o microtrabalhador – pode pôr uma avaliação vermelha, que significará que é um exemplo ruim de resultado. Em outros casos, alguns resultados de buscas introduzem websites que são inapropriados para o usuário. Por exemplo, são websites adultos, ou websites que contêm notícias falsas, ou politicamente extremistas e, nesses casos, os endereços podem ser marcados pelos microtrabalhadores no Rater Hub.

De novo, por serem microtrabalhadores, essas pessoas recebem pela tarefa. Recebem uma pequena quantidade de dinheiro, geralmente alguns centavos a cada checagem de um resultado de buscas. Mas poderíamos dizer que sempre que usamos o mecanismo de buscas do Google somos, até certo ponto, um provedor de dados. Toda vez que buscamos algo no Google, estamos ensinando os algoritmos de buscas a procurar pelas ocorrências mais comuns de um termo, de uma sentença, de uma expressão. Por exemplo, se procurarmos por “Nova York T…”, mais provavelmente estaremos procurando pelo jornal New York Times. E isso é verdade porque o Google já teve milhões – nesse caso, provavelmente bilhões – de exemplos produzidos pelos usuários para treinar os seus algoritmos.

reCaptcha

Mas poderíamos dizer que sempre que usamos um mecanismo de buscas, não temos um trabalho e, do ponto de vista jurídico, não temos. E mesmo do ponto de vista econômico seria difícil demonstrar que algo pelo qual não recebemos seria considerado trabalho. Na verdade, há algo mais acontecendo com o Google. O Google é extremamente competente em convidar as pessoas a produzirem dados para as suas plataformas e seus serviços em geral, e em alguns casos a empresa é muito transparente sobre o fato de que aquilo que as pessoas fazem, ao produzirem dados, é trabalho. Um tipo específico de trabalho, que chamam de “crowd work”, trabalho de uma multidão de usuários. É exatamente o caso com o reCaptcha.

reCaptcha é algo que você já encontrou alguma vez na vida. É a página que aparece sempre quando queremos recuperar uma senha ou deixar uma mensagem num fórum ou uma mensagem on-line, ou qualquer tipo de atividade dessa natureza. Nesse caso, precisamos demonstrar que não somos robôs. Como afinal demonstrar que não somos um robô? No começo, por volta de 2010, isso era feito via transcrição de palavras enviesadas. Nesse caso, por exemplo, temos “mourning upon”. É difícil ler essas palavras e, nesse caso, um ser humano era capaz de ler, mas não um robô. Portanto, se transcrevêssemos as duas palavras, demonstraríamos ter dado a resposta certa.

Ao mesmo tempo, sempre que transcrevemos essas palavras distorcidas, nós também ensinamos as tecnologias OCR do Google Livros a ler livros escaneados. O problema é que os livros do Google eram escaneados manualmente, o que significa que alguém normalmente colocava a página sobre o escâner. Em alguns casos, a página estava corrompida, ficava distorcida ou o resultado não era legível. Não era legível por um robô, mas alguém, como um ser humano, com um pouco de atenção, poderia interpretar essas palavras, e é isso o que acontece – ou costumava acontecer, na verdade – quando alguém transcrevia palavras para o reCaptcha.

Eu disse “costumava acontecer”, porque, em 2015, algumas poucas centenas de pessoas em Massachusetts deram início a um processo de ação coletiva contra o Google para serem reclassificadas como funcionárias da plataforma, porque durante anos elas usaram esse reCaptcha. Apesar de o juiz decidir em contrário, esse foi um momento de verdade para o Google. A empresa disse: “Muito bem, agora as pessoas estão cientes de que não se trata apenas de um serviço, não é um jogo. Na verdade, é um trabalho que elas fazem para nós”. E assim o Google decidiu descontinuar o antigo reCaptcha e apresentou algo novo.

Mas, ao mesmo tempo, sempre que transcrevemos essas palavras distorcidas, nós também ensinamos as tecnologias OCR do Google Livros a ler livros escaneados – Antonio CasilliTweet

No Captcha reCaptcha

Em 2015, o reCaptcha foi substituído pelo “No Captcha reCaptcha”, que é o reCaptcha visual com o qual estamos familiarizados atualmente. Às vezes, quando queremos receber uma informação ou acessar website, temos que selecionar quadros com sinais de trânsito, carros, estátuas. Por quê? Porque nesse caso não estamos ensinando o software OCR do Google Livros a fazer aquilo que ele faz, mas estamos treinando a inteligência artificial do carro Waymo. Chama-se Waymo o setor do Google especializado em carros autônomos. Então, basicamente estamos ensinando carros autônomos a reconhecerem sinais de trânsito, semáforos e outros carros. Estamos realizando aquele trabalho que, para o Uber, as pessoas realizam recebendo algo em troca. De uma forma clara e simples… elas são mal pagas, mas, pelo menos, são pagas. Nesse caso, não estamos sendo pagos.

IHU On-Line – Qual a diferença entre o microtrabalho e o trabalho fornecido por um usuário?

Antonio Casilli – Alguém pode dizer que, sim, não recebemos; que, sim, estamos produzindo dados. Mas isso não pode ser considerado como trabalho, porque estamos recebendo um serviço em troca da nossa contribuição. A questão é que esse serviço que recebemos em troca nem sempre é um serviço real – e por “real” quero dizer um serviço pronto para ser colocado no mercado. Em muitos casos, existem os protótipos dos serviços. Por exemplo, os softwares de tradução, como o Bing ou o Google Tradutor. Eles dão uma tentativa. Tentam traduzir com base em alguns exemplos. Mas sempre que apresentam uma tradução, eles também nos convidam a sugerir uma tradução melhor. Portanto, sempre que clicamos em “Sugerir uma edição” no Google Tradutor, somos convidados a fornecer a nossa própria tradução. E o que acontece com a nossa sugestão? Ela é incluída num banco de dados de treinamento e é usada para extrair uma qualidade melhor desse software tradutório.

O mesmo vale para o Facebook. O Facebook às vezes fornece traduções automáticas de postagens e mensagens. No Facebook, podemos clicar em um botão específico e somos convidados a dar uma tradução melhorada. Então o mesmo acontece com o Facebook: fornecemos uma tradução, que é incluída no banco de dados de treinamento e, então, é usada para melhorar esse software de tradução automática.

Facebook também apresentou o seu próprio serviço em que convida as pessoas a realizarem microtrabalhos gratuitos. Se acessarmos o endereço facebook.com/editor, seremos convidados a dar informações sobre o teatro ou restaurante em que estamos, sobre um filme ou livro. Nesses casos, somos convidados a conferir o endereço e os horários. O que recebemos em troca? Não é dinheiro, mas recebemos selos e algumas recompensas simbólicas que consistem em nos pôr em contato com outros microtrabalhadores ocultos, outros editores do Facebook.

[O microtrabalho] é apresentado como uma atividade comunitária. Mas ela tem obscurecido as linhas entre trabalho e consumo. Sou um simples usuário do Facebook? Ou estou também trabalhando para o Facebook? – Antonio CasilliTweet

Usuário ou trabalhador

Vemos que esse tipo de atividade é apresentado como um desafio. É apresentado como uma atividade comunitária. Mas ela tem obscurecido as linhas entre trabalho e consumo. Sou um simples usuário do Facebook? Ou estou também trabalhando para o Facebook?

Facebook é uma plataforma e, como tal, captura o valor produzido pela comunidade de seus usuários. Nesse caso, o Facebook é uma plataformalean”. Ela é uma plataforma não proprietária do conteúdo que produz e distribui. Desse ponto de vista, é um meio-termo entre uma fábrica de conteúdos e o mercado de conteúdos. Um mercado de conteúdos não significa que o Facebook venda o conteúdo produzido pelos usuários. Sempre que postamos uma mensagem ou uma foto do nosso gato, o conteúdo não é importante. O Facebook não é como o Flickr, não é como o YouTube. Ele não utiliza o conteúdo dessa forma, mas o monetiza olhando para os metadados, que são disponibilizados a corretoras de dadosagências de anúncios ou marcas que podem usá-los para personalizar as propagandas direcionadas.

Moderação de conteúdos

Mas, como muitas outras plataformas, a monetização de dados não é a única atividade importante. Os dados são fundamentais também para a automação, como afirmamos antes. Consideremos um exemplo ou uma atividade específica que acontece no Facebook: a moderação de conteúdos. A moderação de conteúdos é o que nos permite ver o Facebook e nunca encontrar, na melhor das hipóteses, imagens violentas ou mensagens de mau gosto, insultos, conteúdos adultos que nem sempre são apropriados. Como isso acontece? Evidentemente, o Facebook sustenta que o faz via inteligência artificial. Então, existe uma inteligência artificial tão competente que nunca vemos nenhum conteúdo problemático em sua plataforma.

A situação é completamente diferente. Há equipes de pessoas que são recrutadas e que trabalham, mais ou menos, nas mesmas condições dos microtrabalhadores do Amazon Mechanical Turk ou do Rater Hub, e essas pessoas não avaliam conteúdos ou produzem dados, nem treinam dados como os demais. Na verdade, elas recebem – ou recebem microssalários – para assistir vídeos e avaliar se esses vídeos são apropriados ou não, julgam fotos, considerando se são pornográficas, eróticas ou sugestivas. Leem mensagens e decidem se uma mensagem pode ser enviada a alguém no Facebook e alcançar uma certa audiência.

Portanto, é um trabalho de moderação realizado por humanos, e esses humanos são pagos. Nesse caso, é claramente um trabalho, apesar do fato de as pessoas serem mal pagas e nem sempre estarem em países onde podem escolher, do ponto de vista do acesso à mão de obra. Mas algo acontece no Facebook quando se trata da moderação de conteúdos, porque simples usuários – pessoas que não recebem nada – estão envolvidos ativamente nessa atividade. Por exemplo, sempre que vemos algo e o consideramos ofensivo, podemos clicar em um botão e denunciar o conteúdo.

O que acontece quando denunciamos e quando também fornecemos detalhes sobre quem pode se ofender com tal conteúdo? Do que se trata o conteúdo? Ele é pornográfico, é um insulto? O que acontece é que o conteúdo não é excluído automaticamente. Ele é enviado a um moderador, e esse moderador humano decide se o conteúdo é apropriado ou não. Portanto, há um tipo de mão de obra humana no começo, porque nenhum conteúdo recebe moderação se ninguém o denuncia, se os usuários não os marcam. Mas, de novo, há um trabalho humano no final desse processo porque existe uma decisão humana, a decisão de um moderador de conteúdos que, eventualmente, decide para um lado. E, no meio, não vemos em lugar algum a inteligência artificial.

As fazendas de cliques são serviços que às vezes se disfarçam de websites ou plataformas onde simplesmente podemos nos inscrever e ganhar por “likes” ou por cliques, além de recebermos para avaliar positivamente um aplicativo ou um site – Antonio CasilliTweet

Produtores de cliques

Um outro ponto é que o ganho de conteúdos é apenas um aspecto da produção e da cultura de valor do Facebook. Quando se trata do Facebook, o principal sempre são os dados e os dados são produzidos na plataforma via cliques. Isso significa que só precisamos clicar em algo para compartilhar ou adicionar reações e, nesse caso, podemos argumentar que os usuários regulares do Facebook se parecem muito com os produtores de cliques. E esses produtores de cliques são uma categoria específica de trabalhadores chamados “clickfarmers”, fazendeiros de cliques.

As fazendas de cliques são serviços que às vezes se disfarçam de websites ou plataformas onde simplesmente podemos nos inscrever e ganhar por “likes” ou por cliques, além de recebermos para avaliar positivamente um aplicativo ou um site. É o tipo de site usado por estudantes que querem ganhar um dinheiro extra, ou por alguém em apuros financeiros e que deseja ganhar um dinheiro extra no fim do mês.

Evidentemente, a situação em alguns países emergentes e em desenvolvimento é completamente diferente, e estas fazendas de cliques não são usadas por quem quer algum dinheiro extra, mas por quem depende delas como renda primária. Os fazendeiros de cliques não trabalham em suas casas. Eles ficam em fazendas de cliques reais, que são lugares essenciais como este da foto, onde alguém recebe dinheiro, declaradamente muito pouco, para ir de um smartphone a outro e clicar no conteúdo que recebem.

Empresas x mão de obra

A forma como a inteligência artificial e o trabalho digital necessário para produzi-la é percebida no Norte global e no Sul global divergem, o que requer uma investigação melhor e mais aprofundada. Antes de mais nada, vejamos a localização das empresas que produzem ou, pelo menos, vendem soluções de inteligência artificial. Elas ficam em países do Norte global, como os Estados Unidos e, claro, a Europa. Depois, a Austrália, a Coreia e o Japão, para citar alguns países asiáticos ou do Pacífico. Em seguida, temos os grandes atores localizados atualmente na China e na Índia.

E quanto à mão de obra? Ela nem sempre é local. Isto é, as empresas nos Estados Unidos nem sempre recrutam mão de obra no próprio país. Às vezes, ou em muitos casos, recrutam nas Filipinas ou na Índia, ou nos países do Sudeste asiático, ou mesmo da América do Sul.

A América do Sul atualmente tem explodido no mercado do trabalho digital global – Antonio CasilliTweet

América do Sul é interessante porque atualmente tem explodido no mercado do trabalho digital global. Há um número crescente dessas pessoas na Colômbia ou, de modo significativo, na Venezuela, o que é compreensível, visto a situação política e econômica do país. E também no Brasil, conforme atestam pesquisas atuais. Mas elas nem sempre trabalham para países norte-americanos. Elas também trabalham para países da Europa. E quanto à Europa, nem todo o continente fala inglês, espanhol ou alemão, mas, em muitos casos, há um número significativo que fala francês, por exemplo na França, na Bélgica, na Suíça, e em outras partes da Europa. Nesse caso, os trabalhadores de dados falantes de francês são recrutados em ex-colônias do império francês e, depois, da república. Eles estão localizados na África. Isso tende a consolidar um desequilíbrio pós-colonial ou, pelo menos, disparidades de poder.

A situação na China é mais complicada porque a China tem um enorme mercado de trabalho interno e, em alguns casos, podem recrutar trabalhadores digitais e microtrabalhadores no sul da Ásia. Mas, em muitos casos, as empresas simplesmente recrutam internamente, ou seja, são trabalhadores chineses atuando para empresas chinesas que produzem automação ou, pelo menos, dizem que estão produzindo automação.

Então, depois disso tudo, eis a mensagem que quero deixar para vocês: Nós estamos aguardando por robôs, como [na peça teatral de SamuelBeckett as pessoas esperavam Godot, aguardando que algo aconteça – uma completa automação, provavelmente – que nunca chegará sem a contribuição do trabalho digital humano.

Enquanto aguardamos por robôs, algo acontece na maneira como trabalhamos e na forma como trabalhamos nas plataformas. Porque, evidentemente, se os robôs não tiram os nossos postos de trabalho, isso não deve soar como uma boa notícia. Porque, nesse meio tempo, tem algo acontecendo. Os trabalhos estão se tornando mais precários. Em alguns casos, não contam com proteções sociais, como era antes. E, evidentemente, essa atividade humana é constantemente invisibilizada pelo que chamamos de automação. Portanto, deveríamos levar em conta essas coisas enquanto pensamos políticas e movimentos sociais para o futuro.