admin

Review of the Arabic version of my book in the Independent Arabia (16 May 2022)

The novelist and journalist Ali Ata published a flattering and very complete review of my latest book in the newspaper Independent Arabia. The book, initially published in French in 2019 under the title En attantendant les robots (Seuil, 2019), has been translated in Arabic as في انتظار الروبوت للكات (Dar Almaraya, 2022).

الأيدي الرقمية الخفية هل تحول البشر إلى آلات ؟

يطرح كتاب “في انتظار الروبوت: الأيدي الخفية وراء العمل الرقمي”، تأليف أستاذ علم الاجتماع بتليكوم باريس (كلية الاتصالات اللاسلكية في العاصمة الفرنسية) أنطونيو كازيللي، ترجمة مها قابيل (دار المرايا للثقافة والفنون)، سؤالاً يبدو معاكساً للراسخ في الأذهان في ظل التقدم التكنولوجي المذهل الذي تعيشه البشرية في الوقت الراهن، وهو: هل سيحل البشر محل الروبوت؟ فكازيللي يلاحظ في كتابه هذا انتشار نمط من “العمل الخفي” الذي يقوم به بشر في خدمة التحول الرقمي على مستوى العالم من دون أن يتمتعوا بحقوق مادية عادلة نظير عملهم هذا، الذي يبدو أن لا غنى عنهم في أدائه حتى في وجود الروبوتات، ومن ثم فإنه يُنْظر إليهم على أنهم لا يختلفون عن الآلات الصماء في شيء، بل ربما يكونون أقل كلفة منها في نظر الرأسمالية الرقمية المهيمنة على إنتاج المعلوماتية في مجالات إنتاجية وخدمية مختلفة. وهكذا وبحسب ما ذهب إليه المؤلف استناداً على معطيات عدة، فإن “الآلات ما هي إلا بشر يقومون بعمليات حسابية”!

يطلعنا كازيللي في كتابه الذي حاز جائزة الكتابة الاجتماعية والجائزة الكبرى للحماية الاجتماعية عام 2019، على كواليس التطور المهول في عالم الذكاء الاصطناعي ومدى تأثيره على أشكال العمل المختلفة. فهناك شركات عملاقة تبيع الذكاء الاصطناعي ولكنها ليست من يصنعه، بل توكل هذه المهمة للعديد من “عرائس الماريونيت” التي تنجذب عبر خيوط غير مرئية نحو العمل غير الرسمي أو في ظروف مجحفة وفي ظل عدم اعتراف كامل بالجهود المبذولة. فالانبهار بالذكاء الاصطناعي والروبوت لا يعكس إلا تزايد تهميش العمل البشري، إذ أن أسطورة إحلال التكنولوجيا الحديثة محل العمل البشري تعني تراجع صورة العمل النمطية والوظائف الرسمية واستبدالها بجيش غير مرئي من الأشخاص.

ما لم يتحقق أبداً

Fe-Entzar-Elrobot-695x521@2x.jpg

الكتاب بالترجمة العربية (دار المرايا)

يبحث كازيللي، الذي سبق أن أصدر كتاباً بعنوان “الروابط الرقمية” في العام 2010، عن الإنسان وراء العمليات ذات الشكل الآلي والتي في جوهرها، وفي حقيقة الأمر، هي من صنع الإنسان وموجَّهة للإنسان، ويزعم أن فكرة انتظار الروبوت هي أشبه بترقب ما لن يتحقق أبداً. حيث يتمسك بالمسمى الانجليزي للعمل الرقمي المبني على “نقرات الأصابع” Digital Labor   في إشارة إلى الأعمال الآلية في الذكاء الاصطناعي التي تتأسس على أصابع الإنسان وعدد الدقات التي يدق بها على أزرار الجهاز.

وما ينبغي الانتباه إليه في هذا الصدد هو أن لذلك “التطور” جذوراً ملموسة ترجع إلى ثلاثينيات القرن الماضي. ففي منتصف ذلك القرن أدار الرياضي البريطاني آلان تيورينغ برنامج أبحاث ضخم لصالح جمعية لندن الرياضية، بدأ عام 1936 مع مؤتمر عن “الأعداد القابلة للحساب”، ثم سطع نجمه بعد ذلك باثني عشر عاماً مع نشره دراسة بعنوان “الحاسبات الآلية والذكاء” منطلقاً من فرضية ستكون أساساً لأبحاث تالية عن الذكاء الاصطناعي، وتقضي بأنه لا يوجد ما يمنع مبدئياً من تطبيق المعايير نفسها على البشر وعلى الآلات على حد سواء، خاصة عندما يتعلق الأمر بتحديد ما إذا كانت الآلات يمكنها التفكير والإدراك بل وامتلاك الرغبة أيضاً. أو بمعنى لآخر: “أي إنسان يقوم بحساب قيمة رقمية حقيقية يمكن مقارنته بما تقوم به الآلة”. والأخطر من ذلك هو احتمال تحول البشر إلى عبيد للآلات الذكية. وهو أمر يبدو أنه سيميز القرن الواحد والعشرين مقارنة بما سبقه من قرون.

الإغراء الأوتوماتيكي

وبحسب كازيللي، وهو أيضاً منسق سيمنار “دراسة الثقافات الرقمية” في كلية الدراسات العليا في العلوم الاجتماعية في باريس، فإن السؤال الذي يفرض نفسه عن الآثار التكنولوجية على النشاط البشري ليس وليد اللحظة، مشيراً إلى أنه لم يبق من الشاعر اللاتيني أنيوس، سوى بضعة أبيات تنم عن قلق وجودي عظيم: “الآلة تمثل تهديداً ضخماً”، و”إنها تعتبر من أكبر الأخطار التي تهدد المدينة”، كما يرد في القصيدة. وبغض النظر عن أن التكنولوجيا المقصودة في خيال الشاعر هي مجرد محرك لمقعد حصان طروادة، وأن المدينة المهددة ما هي إلا مدينة بريام، فالواقع أن تأثير الأجهزة التكنولوجية على الحياة المشتركة لا زال هو التساؤل الذي يمر عبر حضارتنا من أصولها الأولى، والذي تتأجَّج به المخاوف القديمة بقوة. إنه الخوف من أن تقضي الآلة على الحياة، سواء أكانت الحياة المجردة أو الحياة المشتركة، والذي يتجسد في الآونة الأخيرة في الجدل الكبير حول هيمنة “الأتمتة” وقضائها على مفهوم العمل.

casilli-c-hermance-triay-3.jpg

المؤلف أنطونيو كازيللي (دار المرايا)

 ويكمن حجر الزاوية في أوهام تدمير العمل البشري في خطاب “الإحلال الكبير” للآلات محل البشر والذي يرجع تاريخه إلى قرنين من الزمن. وقد كرَّس له مفكرو التصنيع الكلاسيكيون تحليلاتهم ومنهم البريطاني توماس مورتمي في كتابه “محاضرات حول عناصر التجارة” الصادر في 1801 والذي حذر فيه: “سيكون هناك نوع من الآلات مصممة كي تختصر أو تسهل عمل الإنسانية”، ونوع آخر “يهدف إلى استبعاد العمل البشري شبه كلياً”. وقد آل الحال إلى أن الإحلال الوحيد الواضح في التحولات الرقمية الحالية هو التحول من العمل اليدوي إلى العمل بالأصابع (أو بالنقر) أي بصورة أدق هو العمل الرقمي الثائم على النقر. مع العلم أن إمكانية الاستعاضة عن العمال البشريين بحلول أوتوماتيكية كانت مجرد ملاحظة عابرة للكلاسيكيين البريطانيين، لكنها صارت في السبعينيات من القرن الماضي أقرب إلى نبوءة راديكالية تعلن عن نهاية العمل.

توافقات هشة

en.jpg

الأصل الفرنسي للكتاب (دار سوي)

ولكن كيف للديجيتال لابور (العمل الرقمي) أن يضع على المحك فكرة العمل نفسها؟ هناك أنشطة لا يمكن فصلها عن الرقمية مثل إدارة حساب الفيسبوك وعمل قائمة تشغيل والإعجاب بمحتوى ما، إلخ. كلها أنشطة منتجة مرتبطة بالثراء، ولكن ليس بالعائد. المستخدم – المستهلك يشترك في سلسلة القيم ويتحمل بعض القيود بعيداً عن مسألة الدخل والتوزيع العادل للقيمة المتولدة، انتقال الأنشطة المنفذة في إطار العلاقات مدفوعة الأجر (مثل شراء تذكرة ثم طبعها بواسطة المستهلك) تظهر هشاشة التوافقات التي تصف نشاطاً ما بأنه عمل.     

وهكذا يجد كازيللي أن العمل الرقمي ليس نشاطاً إنتاجياً بسيطاً. هو علاقة تبعية بين فئتين من الفاعلين على المنصات، وهما المصممون والمستخدمون. ولكن إلى أي مدى يمثل العمل الرقمي نشاطاً يرتبط بالعمل؟ وهل ينبغي التعامل معه بصفته تحولاً جذرياً لفكرتنا عنه بحيث يتطلب الأمر تصنيفه تحت مسمى آخر بعيداً عن مسمى العمل؟ يقترح البعض مفاهيم مثل “هجين من العمل واللعب” playbor  أو “العمل والترفيه” weisure  مع التركيز على المكون الترفيهي لأنشطة معينة تتم على المنصات. ومع ذلك تتجاهل هذه المفاهيم عنصري المشقة والخضوع اللذين يظلان قائمين في عمل المنصات ويلقيان بثقلهما بشكل خاص على القائمين بالمهام الصغيرة في البلدان النامية أو العمال غير النمطيين للتطبيقات “عند الطلب” (القائمين بالتوصيل، وقائدي السيارات، ومنتجي الخدمات الشخصية). بالإضافة إلى ذلك فإن العمل “المجاني” والتطوعي لمستخدمي المنصات الترفيهية والاجتماعية يعتمد في حد ذاته على إخفاء عمل قطاعات واسعة من الوسطاء والعاملين بالنقر (أي أن يكون عملهم غير مرئي). إنه يكرر بعض أشكال مساومات القرن التاسع عشر قبل استحداث نظام المستخدمين، ويستعير سمات أخرى من “التبعية المحمية” التي ميَّزت العمل في الشركة. وهكذا يعد العمل الرقمي نشاطاً يمكن التعرف على بعض مكوناته المرئية (تقديم وجبة، ونشر مقطع فيديو عبر الإنترنت) في حين أن البعض الآخر يعتبره جزءاً من العمل غير المرئي يتعلق بإعداد المعلومات والبيانات وعلاجها. 

مبادئ العدالة الاجتماعية

ولكن ما السبيل الذي ينبغي أن نسلكه لنصل إلى إنترنت قائم على البشر يروج لمبادئ العدالة الاجتماعية والاقتصاد الاجتماعي التضامني؟. يجب على المنصات التعاونية أن توفر لأعضائها أجراً لائقاً وأماناً في العمل وإطاراً قانونياً يحميهم وإمكانية نقل ضمانات الصحة وصناديق الادخار والحق في قطع الاتصال. ينبغي كذلك وضع الملكية الجماعية للمنصات في أيدي “الأشخاص الذين يولِّدون أغلبية القيمة” وإشراك العاملين في عملية برمجتها وفي إدارة تدفقات إنتاجهم لإنشاء نظام عمل شاركوا في تحديده. وهكذا، وفق كازيللي، يمكن إصلاح رأسمالية المنصات من ناحية؛ والمساهمة في التحول إلى منصة مسؤولة أخلاقياً عن التعاونيات التقليدية من ناحية أخرى. والتقارب بين هذين النهجين يعد أمراً مهماً جداً ولكنه قد يمثل أيضاً نقطة ضعف نظراً إلى أن البديل التعاوني يتطور بالتوازي مع الصعود العالمي للمنصات الرأسمالية. لذا فإن الخطر يكمن في أن هذا البديل يقتصر على إدخال بعض التنوع في مشهد العمل الرقمي، دون قلب النظام المعمول به حالياً. ومن ثم يمكن أن تظل الحركة ظاهرة متخصصة في مواجهة النهج الغازي لخصومها، أو حتى الاستيلاء عليها من قبل كيان يذهب في بعض الحالات إلى حد تمويل المنصات التعاونية بشكل مباشر.

ويلاحظ أن ترسانة القوانين النقابية، من ناحية، والطرح الليبرالي من ناحية أخرى، لا يقدم أي منهما حلاً مرضياً لمشكلة أجور العمل الرقمي. فالأولى تتجاهل الأبعاد غير المرئية لعمل المنصات، على حين يسهم الآخر من خلال تشجيع إعادة بيع البيانات بالقطعة، في التقليل من قيمة مساهمة المستخدمين. في عالم حلت فيه “الأتمتة” بشكل نهائي محل العمل البشري، سيكون الدخل الاجتماعي الرقمي أولاً وقبل كل شيء مصدراً رئيسياً للموارد الاقتصادية للأفراد وليس مكملاً للأموال التي يتم تلقيها من خلال قنوات أخرى. لذلك لن يكون بديلاً أو منافساً للمساعدة الاجتماعية. ينبغي دفع المنصات للتخلي عن الاحتكار والتخلي عن عدم شفافية تقنياتها، وبالتالي التخلي عن إخضاع العمل البشري للإكراه. فإذا أجبرت المنصات على دفع أجور للعمل الرقمي، بما في ذلك العمل غير المرئي، فسوف تساهم في تمويل ما هو مشاع بلا مقابل مجزي، ما قد يؤدي إلى حدوث تحول في نماذج أعمالها الحالية، التي ستصبح غير مربحة أو حتى غير مستدامة. من خلال التحول إلى النماذج غير الجشعة، لن يكون للمنصات الرقمية حجة بعد الآن للتلويح بشبح “الأتمتة” لتأديب قوة العمل. سوف تحقق إذن رسالتها الثلاثية الأصلية: إحلال الملكية الاجتماعية محل الملكية الخاصة، وتجاوز العمل الخاضع للعمل من دون إكراه، واستبدال حظائر التبعية  ببنيات تحتية مشتركة.

Mon texte sur l’actualité des luttes abolitionnistes publié dans le magazine Le 1 Hebdo (14 mars 2022)

Le magazine Le 1 Hebdo publie ma tribune sur l’abolitionnisme, entre lutte contre la dissuasion nucléaire et limitation des algorithmes. Ce texte est né d’une conversation avec la journaliste Marie Deshaye.


Abolition

Antonio A. Casilli

Quel est le point commun entre la lutte contre l’esclavagisme, contre la prolifération des armes nucléaires et contre le manque de contrôle des algorithmes ? C’est, à chaque fois, la volonté d’abolir une institution disciplinaire, nous dit le sociologue spécialiste du numérique.

Dans une situation de risque de guerre nucléaire, il est important de rappeler l’histoire du mot abolition. Prenons la Campagne internationale pour l’abolition des armes nucléaires (ICAN), qui existe depuis quinze ans et avait reçu le prix Nobel pour la paix en 2017. Sa visée est radicale : non seulement interdire, mais “abolir” les armes atomiques.
Cette campagne se rattache à un mouvement beaucoup plus vaste et plus ancien : celui qui, du combat pour l’abolition de l’esclavage au XVIIIe et XIXe siècle, conduit à la lutte contre la peine de mort, contre le système pénal et la police. Il s’agit d’un mouvement très varié, dont la visée politique est la suppression d’institutions considérées comme des formes de répression, ainsi que des sources d’injustice et d’inégalités sociales.

Pour les abolitionnistes, la peine de mort et les prisons sont considérées comme une de prolongation de l’esclavage. Comme ce dernier, elles punissent et disciplinent les corps de populations opprimées. Aux États-Unis, la population carcérale est énorme et très inégalement répartie ; les personnes racisées sont surreprésentées. Les prisonniers sont, de plus, encouragés à travailler pour des activités peu rémunérées.

On voit donc que le mouvement abolitionniste a su à chaque fois changer son cap et sa cible, toujours en restant sur une critique des institutions : c’est toujours le point de départ.

Récemment, d’autres formes d’abolitionnisme se sont manifestées, notamment avec la pensée de toute une nouvelle génération de militants aux États-Unis. En 2020, alors que la crise sanitaire battait son plein, un événement déclencheur, le meurtre de Georges Floyd, a catalysé l’organisation et la structuration d’un mouvement d’abolition de la police. La revendication est de limiter son budget, de la démilitariser. Par opposition, en France on assiste à l’explosion de l’usage de nouvelles armes par les policiers et les gendarmes. Depuis 2010, les tirs d’armes “non létales” sont passés de 1 000 à plus de 32 000 par an. Parfois, l’abolition de la police peut aller jusqu’à la volonté de s’en passer totalement, en réorganisant les collectivités humaines et locales, dans lesquelles on peut gérer l’ordre public d’une manière préventive plutôt que punitive. Il s’agit d’une vision de la justice réparatrice, basée sur le dialogue, l’entraide et l’inclusion.

Le lien entre ces événements apparemment disparates est toujours la volonté politique d’abolir une institution. Et l’esclavage, la prison, la police et le nucléaire doivent justement être considérés comme des institutions qui règlent la vie humaine de manière répressive. Le nucléaire militaire, par exemple, impose de choix de politiques publiques même aux Etats qui poursuivent des processus de dénucléarisation. Face à la menace nucléaire de Vladimir Poutine, l’Allemagne a tout de suite décidé de consacrer 2 % de son PIB aux dépenses militaires. Si le problème de l’Allemagne est la dépendance aux énergies fossiles fournies par la Russie, consacrer 100 milliards d’euros pour poursuivre une transition énergétique significative aurait été une politique à long terme plus intéressante, mais ce n’est pas ce choix qui a été retenu.

Il y a également un lien entre le mouvement abolitionniste et ce dont je m’occupe dans mon activité de chercheur, le numérique. Certes, la réflexion est pour l’instant extrêmement exploratoire, avec une tentative de structuration des luttes. Quel est le lien entre abolition, big data et algorithmes ? C’est le fait que pour un nombre croissant de chercheuses et de chercheurs, il existe une continuité entre des formes d’oppression anciennes et les mesures d’aides aux personnes précaires, de plus en plus automatisées. Les enquêtes de l’américaine Virginia Eubanks montrent comment l’isolement et la discrimination algorithmique ont succédé à l’enfermement physique dans les hospices pour les indigents d’antan. Ces formes de gestion automatisée de l’assistance peuvent parfois créer des véritables désastres dans la vie des pauvres, des migrants, des minorités sexuelles. L’idée est donc d’abolir la gestion automatique de ces aides pour en venir à une gestion réellement humaine, ce qui est d’ailleurs cohérent avec la législation existante. L’article 22 du Règlement général sur la protection des données (RGPD) précise ainsi que les citoyens ont le droit de ne pas faire l’objet de décisions entièrement automatisées.

Cela explique qu’un nombre croissant de chercheuses et chercheurs aient cessé de considérer les effets négatifs des technologies simplement comme les conséquences de biais de programmation. La reconnaissance faciale, par exemple, n’est pas seulement dangereuse parce qu’elle est moins précise dans l’identification de personnes qui ne sont pas des hommes blancs. Elle est délétère pour la démocratie puisqu’elle constitue la continuation de politiques de domination anciennes sur les populations, dont l’émancipation passe aussi par une mouvement populaire d’abolition.
 

[Podcast] Comment les nouvelles plateformes de commerce rapide changent la consommation et la ville (Le temps du débat, France Culture, 9 févr. 2022)

J’ai eu le plaisir de passer à l’antenne avec Philippe Moati et Laetitia Dablanc lors de l’émission de France Culture Le Temps du Débat, animé par Emmanuel Laurentin et avec la participation de Sophie Comte. Nous avons abordé le sujet des plateformes de commerce rapide, qui promettent des livraisons en quelques minutes, mais qui changent l’aménagement des villes en les parsemant de “dark stores” et de “dark kitchens”.

Nous nous intéressons à une niche commerciale en croissance forte depuis deux ans : les “dark stores” et “dark kitchens”, ces espaces sans vitrines qui stockent nourriture et biens de première nécessité ou préparent des repas à livrer au cœur des grandes villes. Ce sont de là que partent des flottes de livreurs à vélo ou scooters pour parcourir le fameux dernier kilomètre et porter chez nous le repas ou les courses. C’est un marché sur lequel se lancent des sociétés inconnues il y a quelques mois, comme Cajoo, Getir ou Gorillas, avec des investissements gigantesques pour emporter le marché au nez des enseignes de la grande distribution, présentes partout dans les métropoles. 

Pourquoi promettre ces livraisons en moins de dix minutes de courses que chacun pourrait faire au pied de chez soi ? Cette accélération a-t-elle des conséquences sur les commerces de ville, les restaurants et sur la ville elle-même  ? Cette “économie de la flemme” est-elle une économie de désir de distinction ou de réels besoins ? 

Pour cette émission en partenariat avec le magazine Chut!, Emmanuel Laurentin et Sophie Comte reçoivent Laetitia Dablanc, directrice de recherche à l’Université Gustave Eiffel, directrice de la Chaire Logistics Energy, Philippe Moati, économiste, professeur à l’Université Paris 7 et cofondateur de l’Observatoire Société et Consommation (ObSoCo) et Antonio Casilli, sociologue, professeur à Télécom Paris (Institut Polytechnique de Paris) et chercheur associé au LACI-IIAC de l’EHESS. 

Laetitia Dablanc décrit le profil-type des consommateurs des “dark stores” et “dark kitchen”, et souligne l’intensité de la demande : “Les jeunes urbains sans enfants sont friands d’une livraison d’hyper-proximité. (…) On nous propose une livraison quasi-gratuite immédiate, on ne va pas s’en priver. En ce moment, il y a création d’un marché à travers le désir, et il va se structurer car il rencontre une demande qui va rester (…) Mais ces nouvelles entreprises vont devoir gérer autrement leurs relations à la ville et aux municipalités“. 

Selon Philippe Moati, c’est parce que la livraison très rapide est proposée que les consommateurs optent pour ce service, mais elle n’est pas au cœur de la demande : “Ce qui prime, c’est la praticité, l’absence de fatigue. La vitesse en tant que telle n’est pas une demande des consommateurs. On a besoin de quelque chose et on ne supporte pas d’attendre : on va jouer sur la gratification instantanée. On vit dans une société globale qui nous promet la satisfaction de nos désirs dans l’immédiat. (…) Les surfaces de proximité sont en danger, mais le phénomène peut être un levier de développement commercial pour les commerces différenciés.” 

Quant à lui, Antonio Casilli met en lumière la diminution des interactions, notamment depuis la pandémie, et les différentes stratégies de distinction des services d’e-commerce : “Un discours se met en place autour du fait que les consommateurs, depuis la crise sanitaire, semblent être plus à l’aise avec des interactions distancielles et des livraisons ou services de e-commerce plateformisés. (…) Ces services s’efforcent de montrer qu’ils font de la livraison sans contact. Ils effacent toutes les interactions avec le restaurateur, le commerçant, le magasinier du “dark store”, et même le livreur. (…) Ces services sont difficiles à départager. On a du mal à les qualifier en terme de qualité de service, alors on les quantifie : dire que la livraison se fait en dix minutes, c’est une ruse.“.

Bibliographie :

Laetitia Dablanc et Antoine Frémont (dir.), La Métropole logistique. Le transport des marchandises et le territoire des grandes villes, Paris, Armand Colin, 2015

Philippe Moati, La plateformisation de la consommation. Peut-on encore contrer l’ascension d’Amazon ?, Gallimard, “Le débat”, 2021

Antonio Casilli, En attendant les robots, Enquête sur le travail du clic, Seuil, 2019

The Arabic translation of my book “Waiting for Robots” has just been published! (2 Feb. 2022)

After the Italian and the Spanish translations of my latest book [Waiting for Robots. An Inquiry Into Digital Labor] En attendant les robots. Enquête sur le travail du clic, here is the Arabic version, published by Dar Almaraya, Cairo, Egypt.

أنطونيو كازيللي (Antonio Casilli) (2022). في انتظار الروبوت للكات. Dar Almaraya, Cairo, Egypt.

Translated by: مها قابيل

Order here: Almaraya Publisher.

Mi libro “Esperando a los robots” acaba de publicar en España (24 nov. 2021)

Esperando a los robots. Investigación sobre el trabajo del clic (NOVIEMBRE, 2021) Antonio A. Casilli

Traducción de Juan Riveros

Punto de Vista Editores

¿La humanidad podrá finalmente deshacerse del trabajo gracias a los robots?

Desde la victoria de la supercomputadora IBM Deep Blue sobre el campeón mundial de ajedrez Garry Kasparov, en 1997, hasta el uso, en 2017, de la red neuronal convolucional GoogLeNet para diagnosticar un cáncer con la misma precisión que un médico, los triunfos sucesivos de la inteligencia artificial se multiplican y son ampliamente difundidos en los medios de comunicación. La opinión pública difícilmente creería hoy que las máquinas no pueden «pensar como los humanos». Y, aunque es probable que esto no sea cierto por el momento, el sentido común nos indica que se podría cumplir en un futuro próximo.

Algunas voces como la del filósofo austriaco Ludwig Wittgenstein ya nos advertían que la inteligencia artificial no presupone que las máquinas tengan capacidades cognitivas y que puedan existir sin la colaboración de humanos dispuestos a enseñarles cómo pensar. La computadora «exhibe inteligencia», pero esta no es más que un efecto de la ejecución mecánica de instrucciones dadas que pueden definirse como procedimientos elementales o «tareas atomizadas». El programa científico de la inteligencia artificial se vuelve inseparable del arte de controlar a los seres humanos y de disciplinar la ejecución de sus actividades.

Tras una detallada investigación, el sociólogo francés Antonio A. Casilli desvela el «engaño» detrás de estas formas de trabajo que consisten en entrenar y regular la inteligencia artificial, y nos ofrece una mirada crítica de la realidad del digital labor: la explotación de miles de personas con sueldos de subsistencia y sometidos a la gestión algorítmica de las plataformas, que están en camino de reconfigurar y hacer del trabajo humano una mercancía precaria.

Interview dans Le Monde (21 nov. 2021)

A l’occasion de la parution d’un dossier sur le travail des plateformes, j’ai accordé un entretien à la journaliste Catherine Quignon (Le Monde).

« L’intelligence artificielle favorise l’accélération du microtravail »

Le professeur de sociologie Antonio Casilli explique au « Monde » que le nombre de personnes travaillant sur des plates-formes numériques a augmenté pendant la crise sanitaire, amorçant une nouvelle forme de précarisation.

Par Catherine Quignon

Antonio Casilli est professeur de sociologie à Télécom Paris, grande école de l’Ixnstitut polytechnique de Paris, et codirigeant de l’équipe de recherche DiPLab (Digital Platform Labor) sur le travail en ligne. Il explique l’essor du microtravail sur les plates-formes.

Quel est le profil des microtravailleurs ?

En France, notre équipe de recherche a dénombré près de 15 000 personnes qui se connecteraient chaque semaine sur les plates-formes de microtravail – plus de 50 000 au moins une fois par mois –, et plus de 260 000 microtravailleurs seraient inscrits mais pas ou peu actifs. Contrairement à ce que l’on pourrait croire, ces personnes sont souvent diplômées.

Le profil des inscrits reflète aussi l’évolution des plates-formes. Depuis plusieurs années, la frontière s’estompe avec les sites de free-lance classique. Certaines plates-formes de microtravail recherchent des compétences assez avancées sur des missions mieux payées, autour de 15 dollars de l’heure. Parallèlement, on voit des plates-formes de free-lance se mettre à proposer des microtâches, comme taguer des images. Cela reflète une forme de paupérisation du travail indépendant.

Quel impact la crise sanitaire a-t-elle eu sur le microtravail ?

Plusieurs plates-formes annoncent qu’elles ont vu leur activité augmenter avec la crise sanitaire, mais on suppose qu’il s’agit d’abord d’une augmentation des personnes qui s’inscrivent. L’une des plus importantes au monde, Appen, déclare avoir vu son activité croître de 30 % depuis avril 2020. De son côté, Clickworker dit avoir atteint les 2 millions de travailleurs inscrits sur sa plate-forme. Preuve que la crise sanitaire est aussi une crise de l’emploi.

Parallèlement, il semble que certaines entreprises ont plutôt tendance à vouloir réinternaliser ce processus de microtravail, à cause du risque de fuites de données. On se souvient des controverses autour des assistants vocaux en 2019, lorsque les médias ont révélé que des armées de microtravailleurs écoutaient et retranscrivaient des conversations. On suppose que ces fuites ont pu contraindre les entreprises à renoncer à se tourner vers des sous-traitants, mais il reste difficile de mesurer l’ampleur réelle de ce phénomène.

L’intelligence artificielle va-t-elle tuer le microtravail ?

Contrairement aux idées reçues, l’intelligence artificielle favoriserait plutôt l’accélération du microtravail. On aurait pu croire que, une fois entraînées, les machines pourraient progresser toutes seules mais, en fait, elles ont constamment besoin d’être réentraînées. Car la réalité du terrain, le comportement des consommateurs, la manière de parler en ligne… changent constamment. Lorsqu’on tapait « corona » en 2018 dans Google, la première réponse affichée par le moteur de recherche était « bière ». Fin 2019, des millions de personnes se sont mises à rechercher le terme « coronavirus ». Il a fallu l’intervention humaine de milliers d’employés pour vérifier et rectifier les résultats du moteur de recherche. Preuve que plus il y a d’intelligences artificielles, plus il y a besoin d’êtres humains derrière pour les rééduquer.

Prepublicación del primer capítulo de mi libro ‘Esperando a los robots’ (El Confidencial, 21 nov. 2021)

El diario español El Confidencial oferece un adelanto editorial de mi libro ‘Esperando a los robots: investigación sobre el trabajo del clic’ (Punto de Vista Editores), que se publica el 24 de noviembre.

Los robots no sustituirán a los seres humanos pero pueden hacer algo peor

[Adelantamos a continuación por su interés el primer capítulo del libro ‘Esperando a los robots: investigación sobre el trabajo del clic’ (Punto de Vista Editores), del sociólogo francés Antonio A. Casilli (1972) que se publica el 24 de noviembre. ¿La humanidad podrá finalmente deshacerse del trabajo gracias a los robots? La respuesta es más compleja de lo que parece…]

A mediados del siglo pasado, el matemático inglés Alan Turing condujo un intenso programa de investigación inaugurado en 1936 con la conferencia ‘On computable numbers’ impartida en la London Mathematical Society que culminaría doce años más tarde con el artículo ‘Computing machinery and intelligence’. En el primero de estos textos, Turing anunciaba el postulado que constituiría la base de una investigación posterior sobre la inteligencia artificial, a saber, que a priori no hay razón para no aplicar los mismos criterios a los humanos y a las máquinas cuando se trata de determinar si estos pueden pensar, percibir o, incluso, desear: “Un hombre que calcula el valor de un número real puede ser comparado a una máquina”.

Por lo tanto, los seres humanos serían máquinas como cualquier otra. Si bien esto ha empujado a generaciones de científicos a creer en la posibilidad de producir máquinas inteligentes (y a generaciones de empresarios a tratar de hacer negocios con esta idea), esta visión mecanicista de la mente ha sido, desde sus comienzos, fuertemente criticada por ciertos filósofos, entre ellos Ludwig Wittgenstein. De hecho, el autor del ‘Tractatus logico-philosophicus’ había desarrollado una posición diametralmente opuesta, bien resumida por su observación sobre las máquinas de Turing donde sugiere que estas no son en realidad más que “hombres que calculan”.

Sin duda, su escepticismo radical sobre la posibilidad de modelar matemáticamente el funcionamiento de la mente humana ahora se considera una curiosidad histórica. Desde la victoria de la supercomputadora IBM Deep Blue sobre el campeón mundial de ajedrez Garry Kasparov en 1997 hasta el uso, en 2017, de la red neuronal convolucional GoogLeNet para diagnosticar un cáncer con el mismo nivel de precisión que un médico, los triunfos sucesivos de las inteligencias artificiales se multiplican y son ampliamente difundidos en los medios de comunicación. La opinión pública difícilmente estaría preparada hoy en día para creer a alguien que afirme que las máquinas no pueden “pensar como los humanos”. Y aunque probablemente esto no sea cierto por el momento, el sentido común dice que será cierto en un futuro próximo.

Foto: Kaspárov, contra el programa Deep Blue, en 1996. (Reuters)

Sin embargo, la incredulidad de Wittgenstein no se refería al nivel de rendimiento que las máquinas podían alcanzar en la simulación de los procesos cognitivos humanos, sino, por el contrario, a la verdadera naturaleza de estas invenciones. El filósofo destacó que las ‘máquinas’ no pueden existir sin la colaboración de los humanos dispuestos a enseñarles cómo pensar. Y estos humanos no son solo los científicos que los diseñan y los construyen. La supercomputadora de IBM no habría podido vencer al campeón ruso sin la ayuda de cuatro grandes ajedrecistas que la entrenaron para jugar de acuerdo con sus estrategias más secretas. Del mismo modo, la red neuronal utilizada para los diagnósticos médicos no habría llegado a ser tan eficiente sin el millón de ejemplos de imágenes de cáncer de piel producidas, digitalizadas y anotadas por cientos de miles de profesionales.

La supercomputadora de IBM no habría podido vencer al campeón ruso sin la ayuda de cuatro grandes ajedrecistas

La perspectiva de Wittgenstein definitivamente nos obliga a dar otra mirada sobre la inteligencia artificial señalando un malentendido recurrente. Este malentendido radica en la idea de que las máquinas inteligentes pueden autonomizarse de toda intervención humana debido a sus supuestas capacidades cognitivas. Sin embargo, el filósofo austriaco indica que esta autonomía no es un hecho probado. En un aspecto, Turing habría estado de acuerdo con él, es decir, que la inteligencia artificial no presupone que las máquinas tengan capacidades cognitivas. A lo mucho, la computadora “exhibe inteligencia”, pero esta no es más que un efecto de la ejecución mecánica de instrucciones que se le dan: tomar una variable, asignarle un valor, dividirla por un coeficiente, etc. Estas instrucciones pueden definirse como procedimientos elementales o «tareas atomizadas» (atomic tasks) de un programa o de un procedimiento de cálculo.

Tal es la naturaleza de los algoritmos que rigen hoy los aspectos más dispares de nuestras vidas, y que no son más que una secuencia de operaciones a realizar para obtener un resultado. No importa si estas operaciones consisten en identificar con un GPS el recorrido más rápido en el transporte público (“calcular el punto de partida”, “calcular el punto de llegada”, “superponer los trayectos del metro con el trazado más corto entre los dos puntos”) o encontrar un alma gemela en Tinder (“tomar el perfil A”, “analizar un número finito de sus características”, “emparejarlas con el perfil B”, etc.), esto no es más que una sucesión de instrucciones que las máquinas ejecutan, sin que ello presuponga jamás que el algoritmo les atribuya un sentido. El problema filosófico del “pensamiento mecánico” admite una solución solo si la inteligencia artificial, prevista por Alan Turing, se limita a la secuencia mecánica de tareas atomizadas.

La artificialidad de la inteligencia artificial reside precisamente en esto: ninguno de estos procedimientos requiere que la máquina discierna algo; sin embargo, se presenta como si fuese una propiedad suya, una apariencia de inteligencia. El problema, tanto desde el punto de vista de Turing como el de Wittgenstein, puede, entonces, ser invertido. El problema no es concebir una máquina capaz de ‘interlegere’, en el sentido latino de «leer entre líneas» (en este caso, las líneas de código que dan órdenes de ejecución a un algoritmo), sino de poner a esas “máquinas”, que son seres humanos, en una situación donde el hecho de ejecutar mecánicamente una instrucción no sea problemático ni sujeto a cuestionamientos. Por consiguiente, el programa científico de la inteligencia artificial se vuelveinseparable de una determinada cibernética, es decir, de un arte de controlar a los seres humanos y de disciplinar la ejecución de sus actividades.

Los dos ‘digital labor’

Esta cibernética de las actividades humanas se expresa en el actual contexto económico a través del digital labor. Esta expresión que traducimos de manera imperfecta por “trabajo digital” tiene dos significados bastante diferentes en el ámbito del debate público. El primero de estos fue adoptado en el transcurso del 2010 entre los círculos de consultores empresariales, los innovadores y los expertos en think tanks. Para ellos, el ‘digital labor’ significa la automatización completa de los procesos de producción, conjugando los avances en el dominio de la robótica y aquellas de los análisis de datos. El segundo significado, que en realidad antecedió a esta, fue utilizada desde mediados de los 2000 por académicos, activistas y analistas políticos.

En este caso, y contrario al anterior, el ‘digital labor’ se relaciona con el elemento humano que las tecnologías digitales ayudan a poner a trabajar incitándolo permanente a realizar acciones productivas que generen valor. Este concepto también tiene una dimensión política, porque denuncia la forma en que el trabajador es invisibilizado del perímetro del trabajo por los diseñadores y los propietarios de estas tecnologías. Así como los grandes maestros del ajedrez se escondían detrás de Deep Blue, el trabajo humano es ocultado detrás de las máquinas y sus automatismos.

El trabajador es invisibilizado del perímetro del trabajo por los diseñadores y los propietarios de las tecnologías

Estos dos enfoques reproducen la fractura original entre la visión de Turing y la de Wittgenstein en cuanto al lugar relativo de los humanos frente a la inteligencia artificial. Aquellos para los que el digital labor rima con el “todo automático” y anuncian el remplazo del trabajo humano por el de las tecnologías ‘smart’ se adhieren a la línea definida por Turing; quienes, por el contrario, piensan que el ‘digital labor’ se refiere ante todo al trabajo de hombres y mujeres, a la vez que cuestionan el impacto del cambio técnico y de gestión sobre ellos, siguen la estela de Wittgenstein.

La actividad del primero consiste en obligar o inducir a los humanos a realizar las tareas automatizadas que permiten a las máquinas dar la impresión de pensar y, al mismo tiempo, reducir este trabajo al rango de contingencia inicial. El objetivo del segundo consiste en estudiar las implicaciones de esta desconsideración del trabajo humano, mostrando al mismo tiempo su centralidad ante la creciente necesidad de producir datos y realizar tareas de gestión de la información.

El ‘digital labor’, tal como se entiende en este estudio, define el proceso de fragmentación de tareas (‘tâcheronnisation’) y de datificación (‘datafication’) de las actividades productivas humanas que caracterizan la aplicación de soluciones de inteligencia artificial y de aprendizaje automático al contexto económico. Al tratarse de un universo de prácticas, estas se sitúan en la compleja encrucijada de formas atípicas de empleo, el freelancing, el trabajo a destajo microrremunerado, el amateurismo profesionalizado, los pasatiempos monetizados y la producción de datos más o menos visible. Se trata de fenómenos muy dispares para los que será necesario encontrar posibles articulaciones a través de una investigación más amplia sobre el impacto de las tecnologías en la actividad humana.

La tentación automática

La persistente pregunta sobre los efectos de la tecnología en las actividades humanas no es nueva. Solo quedan algunos fragmentos del poeta latino Ennius, incluido uno que transmite en pocas palabras una gran preocupación existencial: “La máquina es una inmensa amenaza [machina multa minax]”, ya que “representa el mayor peligro para la ciudad [minatur maxima muris]”. Poco importa que, en la imaginación del poeta, la tecnología en cuestión sea una máquina de asedio, el caballo de Troya, y que la ciudad amenazada sea la verdadera ciudad de Príamo: desde sus orígenes nuestra civilización ha cuestionado el impacto de los dispositivos técnicos sobre el vivir-juntos, y las antiguas angustias surgen con inexorable regularidad. El miedo a que la máquina destruya la vida, la vida desnuda o la vida en común, encuentra su encarnación más reciente en el gran debate sobre la destrucción del trabajo a través de la automatización.

La idea del miedo de la modernidad a la automatización también es bastante relativa. El fantasma sobre la destrucción del trabajo humano, que ronda al menos hace dos siglos, tiene como clave el discurso del “gran reemplazo” de los hombres por las máquinas. Los pensadores clásicos del industrialismo ya le habían dedicado sus análisis. Entre ellos, el inglés Thomas Mortimer que, en sus ‘Lectures on the Element of Commerce’, publicado en 1801, se preocupó por ello: habría una categoría de máquinas “que están diseñadas para acortar o facilitar el trabajo de la humanidad”, y otra “cuya finalidad es excluir casi totalmente el trabajo de la raza humana [almost totally to exclude the labour of the human race]”. A pesar de este “casi”, a pesar de esta aproximación después de todo optimista, según el autor, todo principio de beneficencia y de toda política pública juiciosa debe oponerse a este segundo tipo de tecnología.

El fantasma sobre la destrucción del trabajo humano tiene como clave el ‘gran reemplazo’ de los hombres por las máquinas

A su vez, David Ricardo dedica, a este asunto, el capítulo 31 de sus ‘Principios de economía política y tributación’, publicado en 1821, titulado ‘On machinery’. Sin embargo, él insiste en el criterio puramente instrumental del uso de soluciones mecánicas. Pero este no es un destino ineludible; por el contrario, resulta más bien de una “tentación de emplear a las máquinas [temptation to employ machinery]”, es decir, de algo congénito en el capitalista que busca aumentar las ganancias de productividad reduciendo los costos del trabajo. De este modo, la automatización no sería para él más que una de las opciones disponibles donde podría reemplazar al trabajador tanto por un dispositivo mecánico como por una mano de obra de bajo costo (obtenida gracias al “comercio exterior [foreign trade]” o la deslocalización), o incluso por la explotación de la fuerza animal. La opción de la automatización es, por tanto, el resultado de un cálculo que el propietario de la fábrica hace al poner en pie de igualdad a la máquina y estas otras soluciones.

Este razonamiento fue llevado al extremo por su contemporáneo Andrew Ure, en su ‘Philosophy of Manufacturers’ (1835), añadiendo a la lista de posibles soluciones “la sustitución del trabajo de los hombres por el de las mujeres y los niños”. Aunque las máquinas, según dijo, apuntan a “sustituir completamente el trabajo humano [supersede human labour altogether]”, el objetivo final de quienes las usan no es la destrucción del trabajo, sino la reducción de su costo. Así, la automatización se transforma en un fantasma constantemente agitado por los industriales, un espectro que ejerce presión sobre los trabajadores e introduce una verdadera disciplina del trabajo. En esta dinámica, el trabajo se encuentra continuamente amenazado y mal pagado, y cada trabajador es potencialmente un excedente.

Incluso antes de ser una solución científica a los problemas tecnológicos, la automatización se presenta como una solución económica a una relación social problemática. “La más perfecta de las manufacturas”, vuelve a decir Ure, puede prescindir totalmente del trabajo de las manos”. Pero esta potencial independencia no es, de hecho, más que una manera de gobernar el trabajo de las manos exponiéndolo al terror absoluto de la multa minax de la tecnología. Máquinas, niños, trabajadores extranjeros e, incluso, animales son todos equivalentes entre sí, casi sinónimos de la máquina. Ante esta confusión ontológica, la definición de tecnología solo puede elaborarse de manera vana: la automatización es todo lo que no es “trabajo de las manos”. Ahora bien, el objetivo de este libro es mostrar que, manteniendo esta definición, la única sustitución posible que se puede hacer en la actual revolución digital es la del trabajo manual por el trabajo de los dedos —trabajo “digital” en sentido estricto.

Los marginados de la sociedad de la información

Aunque para los clásicos economistas ingleses no era más que una posibilidad el que los trabajadores humanos fueran reemplazados por máquinas, a partir de la década de 1970 esta probabilidad tomó el aspecto de una profecía radical del fin del trabajo. Aun cuando sean dialécticamente opuestos, el alarmante anuncio de Daniel Bell sobre el declive de los oficios manuales en las sociedades postindustriales y el entusiasmo de Simon Nora y Alain Minc por las importantes reducciones de personal en determinados sectores profesionales (administradores, secretarias, empleados de banca y seguros), ambas posiciones comparten el mismo diagnóstico de discontinuidad que representa la introducción de las tecnologías de la información y de la comunicación.

A partir de estos análisis, Jeremy Rifkin argumentó que el desarrollo de las herramientas informáticas marca el comienzo de una era de crecimiento sin empleo y, por lo tanto, el replanteamiento del orden social fundado sobre el trabajo. Para desmitificar esta conjetura sumamente simplista, fue necesario volver a trazar la genealogía filosófica y política del concepto de trabajo. Dominique Méda ha subrayado su persistente centralidad como elemento constitutivo del vínculo social.14 Sin embargo, para medir el impacto de las tecnologías de la información y la comunicación en la evolución contemporánea del trabajo, es necesario observar las fragilizaciones y las asimetrías entre los trabajadores y los propietarios de los medios de producción.

Más que el fin del trabajo, la automatización implica una desagregación del trabajo como fuerza social

Quizás sea Manuel Castells quien, a fines de la década de 1990, en su trilogía sobre la “sociedad en red”, ha sintetizado mejor el rol de la automatización como eje de las nuevas relaciones industriales. En los capítulos dedicados a la “transformación del trabajo y el empleo”, vincula de manera indisociable el surgimiento de modelos de crecimiento económico basados en la información, con los fenómenos de flexibilización y de fragmentación de las estructuras laborales. Entonces, el núcleo de la fuerza de trabajo estaría formado por “generadores de conocimiento” y “manipuladores de símbolos” a los que se opondría “una mano de obra desechable que puede ser automatizada y/o contratada/despedida/subcontratada, según la demanda del mercado y de los costos del trabajo”. Más que el fin del trabajo, la automatización (o lo que la automatización designa) implica una dualización, una segmentación y, finalmente, una desagregación del trabajo como fuerza social.

Los análisis más recientes parecen coincidir, por un lado, sobre la idea de una polarización entre profesiones hiperespecializadas e indispensables y, por otro lado, profesiones no especializadas o “débiles”, aquella de los marginados de la historia. Pero este escenario, que se reactualiza sin cesar, ha experimentado en los últimos años una nueva transformación. Si estas “actividades débiles”, los ‘lousy jobs’, se asociaron históricamente a actividades repetitivas y reducibles a reglas simples, con los espejismos de la gobernanza de mercados a través de los big data y las inteligencias artificiales capaces de reproducir procesos cognitivos complejos, las profecías distópicas del remplazo de los trabajadores por las nuevas tecnologías incluyen ahora a profesiones más creativas con un fuerte componente intelectual y relacional.

Un ejemplo a este respecto es el emblemático “estudio de Oxford” que ha estado en el centro de una agitada controversia internacional desde que fue publicado el 2013 por los investigadores Carl Benedikt Frey y Michael Osborne de la universidad británica. Este informe, de unas cincuenta páginas (anexos excluidos), se distribuyó inicialmente en forma de ‘working paper’, y luego fue publicado en una revista prospectiva que se dedica a medir el número de empleos que serán “destruidos por las máquinas”.Teniendo como objeto de estudio los Estados Unidos, los autores analizan un conjunto de funciones profesionales tanto manuales como cognitivas (producción, transporte, comercio, servicios, industria agroalimentaria, salud, etc.). De este modo, evalúan la probabilidad de que estas funciones sean remplazadas por robots o programas informáticos en función del grado de repetición de las tareas y del nivel de automatización ya puesto en marcha. Las conclusiones son drásticas: el 47 % de los empleos tienen una alta probabilidad de desaparecer ante la ola de innovación tecnológica basada en el aprendizaje automático y la robótica móvil.

Las cifras de esta anunciada desaparición del trabajo se prestan a muchas críticas

El trabajo de Osborne y Frey ha sido emulado por quienes han buscado replicar, actualizar o llevar sus resultados a otros contextos. El Instituto Roland Berger, una de las principales consultorías de estrategia, se inspiró en el estudio Oxford para estimar el impacto de la automatización sobre los empleos en Francia para el año 2025. El mismo método, la misma conclusión inexorable: el 42 % de los empleos sería altamente susceptible de ser automatizado.

Sin embargo, las cifras de esta anunciada desaparición del trabajo se prestan a muchas críticas. La metodología empleada introduce varias limitaciones y sesgos, tanto de carácter conceptual como estadístico. Los autores examinan solo una submuestra del 10 % de las funciones profesionales. ¿Cómo pueden generalizar estos resultados a otros sectores sin distinguir entre segmentos donde la automatización tiene consecuencias más marcadas y aquellos donde su impacto en el empleo es más débil? El razonamiento “todo lo demás constante” (ceteris paribus) plantea otro problema. Los autores no parecen tener en cuenta la posibilidad de que los efectos de la sustitución pueden compensarse con la creación de nuevas actividades: ocupaciones que aún no existen, o cuyo contenido ha sido reconfigurado por la innovación tecnológica, etc.

Sin embargo, la crítica más determinante se refiere a un sesgo en la conceptualización de la automatización por parte de los investigadores de Oxford. En la medida que conciben la innovación como un proceso que trasciende las relaciones sociales de producción, llegan a creer en una introducción de soluciones automáticas “sin resistencia [‘frictionless’]”. Aquí es donde evidenciamos la distancia entre los primeros y los últimos pensadores de la innovación aplicada al trabajo. Si Ricardo, Ure y aquellos que se inscribían en su línea tenían en mente la negociación social que enmarcaba la expansión del maquinismo, Osborne, Frey y los prospectivistas que les siguen evitan deliberadamente el impase de esta dimensión.

Los robots no se encontrarán con los asalariados

Finalmente, nos encontramos ante una especie de paradoja de Solow aplicada a la automatización y a las inteligencias artificiales. A fines del siglo pasado, el economista estadounidense Robert Solow señaló que “vemos a las computadoras en todas partes excepto en las estadísticas de productividad”. Y hoy se puede afirmar que vemos en todas partes que la automatización destruye el trabajo, excepto en las estadísticas laborales.

Por ejemplo, el informe del año 2017 de la Oficina de Estadísticas del Departamento del Trabajo de Estados Unidos presenta una imagen ambigua: a diferencia de la década anterior, la automatización ha avanzado muy lentamente en los últimos años. Los aumentos de productividad que miden el impacto en los trabajadores por la introducción de procesos automáticos no alcanzaron en promedio el 1 % en el sector no agrícola y en el sector manufacturero. Esta torpeza no se limita al continente americano. Algunos países del norte han experimentado un crecimiento de la productividad muy lento, incluso negativo. Según Dean Baker, director del Centro de Investigación Económica y Política: “Esto es equivalente —ironiza— a que los trabajadores estuvieran reemplazando a los robots: una situación en la que se necesitan más trabajadores para producir los mismos resultados económicos”.

Vemos en todas partes que la automatización destruye el trabajo, excepto en las estadísticas laborales

Las cifras, de hecho, van en contra de la tesis defendida por los partidarios del “gran reemplazo automático”. Esta paradoja es particularmente evidente en el sector de la robótica. Un estudio realizado en diecisiete países entre 1993 y 2007 no encontró efectos significativos con la introducción de robots industriales multifuncionales sobre el empleo global, en términos del número total de horas trabajadas. En cuanto a los estudios del sector financiados por las empresas de robótica, estos se consagran a tranquilizar a una opinión pública inquieta. El informe Metra Martech para la Federación Internacional de Robótica, titulado inequívocamente ‘Impacto positivo de los robots industriales en el empleo’, sostiene que gracias a estas tecnologías, entre el 2017 y el 2020, deberían ser creados 450 000 y 800 000 puestos de trabajo a nivel mundial.

¿Estamos aquí ante un escenario de crecimiento adverso guiado por la tecnología? Incluso sin adherirnos a la creencia de que la digitalización y la robotización mantendrían el empleo, si nos limitamos a confrontar el nivel de los indicadores de automatización y la tasa de desempleo de los diferentes países del G20, las naciones con altas tasas de automatización (números de robots industriales por cada 10 000 empleados) muestran índices de desempleo más bajos. Corea del Sur tiene 531 robots por cada 10 000 trabajadores, y solo el 3,4 % de su población activa está buscando empleo. La densidad de robots en Japón es comparable a la de Alemania (305 y 301 por cada 10 000 trabajadores) y sus tasas de desempleo son del 3,1 % y el 3,9 %, respectivamente. Francia, por su parte, tiene una proporción de robots/trabajadores más baja (127/10 000) y una tasa de desempleo más alta (9,6 %).

Hoy ‘robot’ (sobre todo cuando se abrevia en ‘bot’) designa únicamente a entidades de software que interactúan con humanos

Si el sector de la robótica nos permite tener una aproximación plausible del nivel de automatización de nuestras economías, las estimaciones del informe entre empleados y robots y su correlación con la tasa de desempleo son solo indicadores aproximados que no tienen en cuenta dos elementos importantes: primero, que la robotización no es una cuestión de brazos mecánicos en la fábrica; segundo, que el trabajo no se deja reducir a empleo.

Aunque, en la opinión común, los robots continúan generando temores espontáneos —vinculados principalmente a nuestro imaginario modernista aún poblado de autómatas antropomórficos y cuerpos humanos artificiales en el trabajo—, en un contexto más amplio del debate sobre la innovación, ‘robot’ (sobre todo cuando el término se abrevia en ‘bot’) designa únicamente a entidades de software que interactúan con los humanos. Se trata de «robots lógicos» que se encuentran a años luz de la conocida máquina automotriz del siglo xix que, según André Leroi-Gourhan, “no tiene cerebro ni manos”. Esa palabra termina por convertirse en sinónimo no de las máquinas o del material, sino de cadenas de códigos informáticos que ordenan, clasifican, calculan itinerarios, twitean, chatean, hacen compras, etc. Incluso en el contexto industrial, su principal característica no es su fuerza ni su resistencia material (su dimensión hardware), sino más bien su capacidad para desplegar complejos procesos de información (su dimensión software).

Frente a la actual ola de automatización, asistimos a una persistencia del trabajo

Frente a la actual ola de automatización, asistimos a una persistencia del trabajo. Este se mantiene desde un punto de vista cultural, porque sigue siendo un valor central de nuestra convivencia, pero también desde un punto de vista sustancial, porque su lugar en las trayectorias de vida de los individuos, así como en la conformación de nuestras sociedades, sigue siendo preponderante.

Para comprender esta estabilidad, es necesario realizar un cambio de perspectiva que considere tomar las tareas elementales, y no los trabajos en su conjunto, como la unidad fundamental con la cual medir los efectos de la automatización. Incluso los trabajos con mayor riesgo de automatización a menudo contienen una parte importante de tareas y funciones que son difíciles de digitalizar. Un estudio comparativo de la Organización para la Cooperación y el Desarrollo Económicos (OCDE), llevado a cabo en veintiún países en 2016, sostiene que hay una sobreestimación de la capacidad de automatización en las profesiones actuales. Mientras que el 50 % de las tareas se preparan a ser modificadas por la automatización, solo el 9 % de los empleos serían realmente susceptibles de ser eliminados por la introducción de inteligencias artificiales y de procesos automáticos.

Estamos muy lejos de los espantosos presagios del estudio de Oxford. Por tanto, es legítimo preguntar, al igual que lo hace el investigador del Instituto Tecnológico de Massachusetts (MIT) Davis Autor, por qué es tan difícil demostrar la obsolescencia del trabajo humano, cuya perspectiva parece inevitable para tantos observadores. Su observación inicial es recordar que, durante dos siglos, la relación empleo/población ha aumentado constantemente y que el desempleo a nivel global no ha mostrado un aumento visible y estable. A merced de las innovaciones tecnológicas y las recurrentes aprensiones que estas suscitan, el mismo argumento reaparece cíclicamente: “Esta vez es diferente”. Hoy se habla de tecnologías digitales llamadas supuestamente “disruptivas” que revolucionarían el orden social basado en el trabajo. Sin embargo, para Autor, esta semántica revolucionaria no tiene en cuenta las fuertes complementariedades que existen entre el gesto productivo humano y el funcionamiento de las máquinas. Aunque no exenta de tensiones, la dialéctica automatización/trabajo provoca un aumento de la demanda de mano de obra.

La dialéctica automatización/trabajo provoca un aumento de la demanda de mano de obra

Un ejemplo que permite discernir esta complementariedad es el sector bancario, donde la introducción de los cajeros automáticos en el periodo 1980-2010 dio lugar a una recalificación, y no a una supresión de determinadas categorías de empleados. Tan solo en los Estados Unidos, los cajeros automáticos pasaron de 100 000 a 400 000 entre finales del siglo xx y la primera década del siglo xxi. Sin embargo, el número de cajeros bancarios permaneció estable, registrando un modesto aumento de 500 000 a 550 000 trabajadores. La propagación de los distribuidores automáticos de billetes (DAB) no ha reducido el número de cajeros, porque una expansión económica en el sector ha estabilizado los puestos de trabajo. La presencia de DAB permite gestionar una agencia con menos empleados. Sin embargo, esto ha estimulado la multiplicación de agencias, cuyo número ha aumentado en un 43 % desde 1990. La demanda de trabajo humano no varía desde un punto de vista cuantitativo. Sin embargo, es en el plano cualitativo donde la automatización tiene un efecto decisivo: cambia el contenido, o incluso la naturaleza del trabajo requerido. Las tareas que son automatizadas quedan fuera de las funciones de los cajeros; mientras que otras se añaden (como las que mantiene relaciones de apoyo a los clientes, asesoramiento financiero o la venta de nuevos productos de inversión).

Para David Autor, se trata más bien de un cambio de perspectiva: hay que dejar de considerar el trabajo como algo reemplazable, cuyo pronóstico vital está comprometido con cada pequeño cambio de las innovaciones tecnológicas, para poder concentrarnos en las actividades que conforman la vida cotidiana de los trabajadores. Hay tareas que pueden ser automatizadas, es cierto, pero nunca todas, ni todas al mismo tiempo. De este modo, el trabajo no desaparece.

¿Reemplazo o desplazamiento?

Si la influencia de la automatización sobre el trabajo no se reduce a un mero proceso de sustitución de entidades orgánicas (los trabajadores) por entidades artificiales (los bots, los sistemas inteligentes, etc.), lo que está en juego aquí es, más bien, una digitalización de las tareas humanas. Se trata de un proceso distinto, que modifica la esencia del trabajo llevando al extremo dos tendencias de larga data: la estandarización y la externalización de los procesos de producción. La reducción del gesto productivo a una secuencia estandarizada de actividades parceladas es compatible con los procesos artificiales. Este fue el caso de la mecanización durante el periodo taylorista del siglo XX y posteriormente para el nuevo taylorismo de las plataformas digitales y las tecnologías ‘smart’. La especificidad de las actuales tecnologías de la información, en relación con las del pasado industrial, reside en la conexión que mantienen con el espacio. La producción digital se puede organizar en cualquier sitio; el lugar físico donde se despliega la automatización no es fijo, ni limitado al perímetro de la empresa tradicional. Tiene lugar en otra parte. Mejor aún: en la medida en que puede dividirse en innumerables tareas uniformes, tiene lugar, por así decirlo, en “muchos lugares”.

Para tomar el ejemplo del cajero automático, la estandarización digital de algunas de las tareas humanas no es esencialmente automática. Son, sobre todo, los usuarios, los consumidores, los clientes quienes toman la responsabilidad del funcionamiento de las máquinas. Ahora son ellos, y no los cajeros, quienes se identifican, realizan las transacciones, cuentan el dinero. Lo mismo ocurre con otras tecnologías que facilitan el autoservicio, tales como los terminales de autorregistro o las cajas automáticas de los supermercados.

Digámoslo así: lo que se realiza no es un reemplazo del trabajo que opera mediante tecnologías automáticas, sino su desplazamiento, es decir, la delegación de un número creciente de tareas productivas a los no-trabajadores (o trabajadores no remunerados y no reconocidos como tales). Es la noción de “trabajo del consumidor” que comienza a aflorar aquí, antes de imponerse como uno de los ejes de nuestro análisis en los capítulos que seguirán. Se establece una relación social entre una entidad comercial y su usuario, mediada por tecnologías digitales, destinada a la producción de un bien o un servicio. Esto es lo que algunos autores, como Ursula Huws, califican de “trabajo de consumo no remunerado [unpaid labor of ‘consumption work’]”.

El trabajo mediatizado por tecnologías digitales también permite alejarse de las visiones “centradas en los asalariados” para reconocer la gran variedad de sujetos que pueblan estos espacios exteriores. Se trata de una contribución necesaria y no reconocida de grupos humanos cuyo acceso al trabajo ha sido difícil en el mundo heredado del primer industrialismo —como las minorías, las personas en situación de exclusión o las mujeres—. Por eso, también, el trabajo del consumidor entra en resonancia con el trabajo doméstico. Ambos permiten a las empresas aprovechar al máximo la lógica de dependencia que caracteriza a los ecosistemas humanos que se encuentran alrededor —y no en el interior— del conocido “lugar de trabajo”.

Evidentemente, ni el trabajo de los consumidores ni el “trabajo de las mujeres” agotan la variedad de nociones disponibles para describir las manifestaciones de la actividad humana en la era de las tecnologías digitales. Más adelante veremos que una parte importante de las actividades generadoras de valor se oculta a menudo en el ‘back office’. Otras veces, se minimiza y se reduce al rango de microtrabajo. En otras ocasiones, se oculta a la vista porque es deslocalizada y llevada a cabo por trabajadores precarizados al otro lado del mundo. Y, a menudo, lo que se niega es la naturaleza de su propia actividad de trabajo, porque se interpreta simplemente como un juego, una forma de participación, de cuidado, de realización personal, etc.

¿Automatización o digitalización?

El trabajo digitalizado no es un “trabajo muerto”, para retomar una expresión en la que el repertorio marxista asignaba a los dispositivos de las fábricas. Tampoco es el “trabajo perdido” con el que los augures de la automatización fantasean. La digitalización puede ser considerada bajo el aspecto de una externalización de tareas productivas estandarizadas, una reorganización de la relación entre el interior y el exterior de la empresa, con lo cual la parte de valor producida desde el interior disminuye, mientras que el producido desde el exterior aumenta.

Es necesario ir más allá de la perspectiva del trabajo automatizado, para identificar el verdadero problema: el del trabajo digitalizado. De ahí la necesidad de importar la formulación inglesa de ‘digital labor’.

Se trata de subrayar el elemento físico, el movimiento activo del ‘digitus’, el dedo que cuenta, pero también hace clic

En primer lugar, el uso de lo digital no debe interpretarse como una toma de posición en la ociosa e infinita disputa entre anglófilos y puristas del lenguaje que prefieren el adjetivo “numérico”. Por el contrario, se trata de subrayar el elemento físico, el movimiento activo del ‘digitus’, el dedo que se usa para contar, pero también que señala, que hace clic, que presiona el botón, en contraposición a la inmovilidad abstracta del ”numerus, el número como concepto matemático. Esta es una manera de liberarnos de una visión de lo digital entendido exclusivamente como trabajo de expertos y estudiosos. Es también una forma de enfocar finalmente nuestra mirada en aquellas y aquellos que realizan las tareas humildes, ordinarias y elementales que estructuran cada vez más las cadenas productivas actuales.

Entonces, ¿por qué usar la palabra ‘labor’? Principalmente porque el término francés ‘travail’ encierra una polisemia demasiado grande. Designa los tres ejes sobre los cuales la noción se ha formado históricamente. Como recuerda Dominique Méda, el trabajo permanece “en una triple relación: entre el individuo y su entorno natural; entre el individuo y los otros; entre el individuo y él mismo”. En otros idiomas, los términos como ‘work’, en inglés, o ‘Werk’, en alemán, expresan el primer concepto, el trabajo como una relación con el mundo y con la realidad que se encuentra transformada por el gesto productivo humano. Pero, cuando el individuo se libera de la necesidad, su actividad deja de ser una relación con la naturaleza, su esencia aparece a través de las relaciones sociales —y se expresa con los términos labor o Arbeit—. Por último, la relación de sí mismo nace de una visión del trabajo en una sociedad pacífica “cuya relación fundamental sería la expresión […]: te entiendo a través de tu obra, me contemplas a través de la mía”. Es el trabajo que describe la identidad profesional: el ‘job’, incluso la ‘Stelle’.

Por tanto, es la segunda de estas acepciones de la palabra trabajo la que hay que privilegiar para captar la dimensión propiamente colectiva de esta noción, alejada de la concepción individualista del ser humano frente al mundo o frente a sí mismo.

Las actividades digitales, como administrar Facebook, crear una playlist, etc., generan riqueza, pero no ingresos

Sin duda, algunos autores perciben esta dimensión intersubjetiva como el fundamento mismo de lo «social», o incluso de un trabajo que implica el hecho mismo de “estar en sociedad”. Alexandra Bidet y Jérôme Porta destacan, por ejemplo, que “el ‘digital labour’ [sic] pone a prueba la idea misma de trabajo. Las actividades indisociables de lo digital, como administrar la cuenta de Facebook, crear una playlist, likear un contenido, etc., son actividades que generan riqueza, pero no ingresos. El usuario-consumidor participa en la cadena de valor y está sujeto a ciertas limitaciones […]. Más allá de la cuestión del ingreso y la distribución equitativa del valor generado, la transferencia de actividades que se realizaban en el marco de las relaciones asalariadas (por ejemplo, la compra de un boleto y luego su impresión por parte del consumidor) revela la fragilidad de las convenciones que califican al trabajo como una actividad“.

El digital labor representa así una manera de “conceptualizar más sólidamente la técnica: no ya como un simple factor externo a lo ‘social’, sino como el conjunto de las maneras de hacer y las mediaciones concretas por las que transformamos nuestro entorno para orientarnos y vivir en él”. En la medida que el trabajo forma un triángulo con las mediaciones técnicas y las estructuras sociales, no es sorprendente que la sociabilidad digital y el “trabajo del clic” se correspondan mutuamente. En el curso de las últimas décadas, las tecnologías se han integrado en nuestros espacios privados hasta adherirse al cuerpo de los individuos. El trabajo reproduce estas características, haciéndose a su vez menos perceptible, menos vinculado a la expresión de una fuerza mecánica.

En los estudios actuales, esta transformación es tomada en cuenta solo en términos de una tecnología, entendida como fuerza exógena, que destruiría los equilibrios de la vida en sociedad. Sin embargo, para comprender el digital labor también es necesario romper con esta falsa oposición, recordando que el trabajo no se puede pensar sin tener en consideración el medio técnico en el que se desarrolla. No hay trabajo sin herramientas, como han reconocido las ciencias sociales desde las investigaciones de Gilbert Simondon y André Leroi-Gourhan.

Centrarse en las actividades no remuneradas que generan valor desde la conectividad social ignora la precarización de los trabajadores

Incluso, tampoco puede existir el trabajo fuera del entorno económico. Por lo tanto, nuestro análisis no puede detenerse en el trabajo invisible del consumidor conectado. También hay que incluir la intermediación de los trabajos ocasionales, los contratos de cero horas o, incluso, las formas tradicionales de subcontratación que están experimentando una explosión y una exacerbación de sus lógicas en la era de los autómatas y los algoritmos inteligentes. Centrarse exclusivamente en las actividades no remuneradas que generan valor a partir de la conectividad social y que las tecnologías digitales hacen posible significaría ignorar el otro aspecto del trabajo digital, a saber, las dinámicas de precarización de los trabajadores y el deterioro de sus condiciones de trabajo.

Es por esta razón que la noción de ‘digital labor’ no puede limitarse al “trabajo gratuito”, sino que también designa a un continuum entre actividades no remuneradas, actividades mal remuneradas y actividades remuneradas de manera flexible. Tampoco se trata de situarse fuera del trabajo, en particular del consumo, sino más bien de reconocer la creciente dependencia de las estructuras productivas contemporáneas con respecto a las tecnologías que garantizan un puente entre el trabajo y lo extralaboral.

El autómata y el operario

Interrogar las fronteras entre el trabajo y lo extralaboral supone, como ya se ha mencionado, adoptar un cambio de perspectiva que implica pasar del empleo entendido en su generalidad y enfocarse en las tareas específicas que lo integran. Sin embargo, esto no se puede reducir a un cambio conceptual limitado a las categorías de análisis de los economistas y las instancias de regulación de los mercados. En términos muy concretos, asistimos a un cambio de los modos de producción hacia la parcelación del trabajo. Como lo explicó la antropóloga de medios Mary Gray en 2016, esta es la piedra angular del advenimiento del digital labor. Fragmentación, externalización y precarización van juntas:

“Las empresas, desde la más pequeña start-up a las más grandes corporaciones, ahora pueden ‘parcelar’ [‘taskify’] todo, desde la planificación de las reuniones, la depuración de sitios web, hasta la búsqueda de clientes y la gestión de los archivos de RH de los empleados a tiempo completo. En lugar de contratar, las empresas pasan anuncios en línea para cubrir sus necesidades […]. Olviden el auge de los robots y la lejana amenaza de la automatización. El problema inmediato es […] la fragmentación de los empleos en tareas externalizadas y el desmantelamiento de los salarios mediante micropagos.”

Olviden el auge de los robots y la lejana amenaza de la automatización. El problema inmediato es el desmantelamiento de los salarios

Descuidar la embestida de esta lógica productiva centrada en tareas específicas y continuar manteniendo el foco sobre los empleos nos expone a dos problemas principales. El primero se relaciona con la dificultad de distinguir las horas “no trabajadas”. La perspectiva del empleo formal regulado contractualmente y situado en una oficina o en una fábrica parece inevitablemente inadecuado para entender el trabajo de individuos o grupos humanos teóricamente autónomos, pero vinculados a las cadenas productivas —desde el trabajo doméstico al trabajo del consumidor, del trabajo de los aficionados al de los voluntarios, del trabajo público al digital labor—. El segundo alude al riesgo de encerrarnos en los marcos nacionales a los que se limitan la mayoría de los análisis de este tipo. Este límite es tanto más perjudicial a medida que las interdependencias globales se vuelven cada vez más preponderantes en la producción de la riqueza. El recurso a la deslocalización con vistas a una reducción de los costos o de una racionalización de las instalaciones de una empresa ya no es una prerrogativa exclusiva de las multinacionales. El ‘offshoring’ se ha convertido, dentro de las cadenas mundiales de suministro, en un proceso en cascada que estructura a los proveedores y compradores, desde las empresas más grandes a las más pequeñas.

La incapacidad de percibir en lo extralaboral el gesto productivo humano es el resultado directo de estos dos ángulos muertos. Precisamente porque está fragmentado, y escapa a las categorías movilizadas para analizarlo, es que ya no reconocemos el trabajo que tenemos frente a nosotros cuando examinamos la compleja articulación entre la actividad de los trabajadores atípicos o precarios y la de los no-trabajadores o consumidores, pero también cuando consideramos el vínculo entre los clics pagados a una fracción de dólar a los ciudadanos de los países del sur y la creatividad monetizada de los usuarios del norte.

Esta ceguera tiene graves consecuencias. No solo nos resulta difícil distinguir las evoluciones del trabajo, sino que también imaginamos que la enorme cantidad de trabajo externalizado hacia las comunidades humanas extralaborales, locales o globales sería realizada “por las máquinas”. En este sentido, la automatización es, ante todo, un espectáculo, una estrategia para desviar la atención y ocultar las decisiones gerenciales dirigidas a reducir los costos relativos a los salarios (y más en general de la remuneración de los factores productivos humanos) en relación con la remuneración de los inversores.

[Séminaire #ecnEHESS] Lilly Irani : Ethique et démocratie des infrastructures numériques (ft. Elisa Giardina Papa, 17 juin 2021, 19h)

Enseignement ouvert aux auditeurs libres. Pour s’inscrire, merci de renseigner le formulaire.

La dernière séance de l’année universitaire 2020/21 de notre séminaire Étudier les cultures du numérique (#ecnEHESS) aura lieu en version webinaire le jeudi 17 juin 2021, de 19h à 21h. Vous pouvez suivre cette séance, organisée en collaboration avec la Gaîté Lyrique :
– sur le site de la Gaîté Lyrique 
– sur Facebook
– sur Youtube.

Dans ce séminaire, nous aurons le plaisir d’accueillir Lilly Irani, professeure associée à l’Université de Californie, San Diego (UCSD). L’une des premières chercheuses à avoir étudié le micro-travail et co-fondatrice du collectif Turkopticon, elle est spécialiste de l’impact social de l’innovation. Ses domaines vont de l’automation, au design, aux luttes citoyennes contre la surveillance. Lilly Irani présentera ses recherches sur la “l’éthique d’en bas des technologies”, c’est-à-dire de notre capacité à créer des effets directs et institutionnels de changement dans nos vies régies par des infrastructures numériques apparemment hors de notre portée.

Dans le rôle de discutante/contrepoint, nous accueillons aussi Elisa Giardina Papa, artiste dont les travaux portent sur le genre, la sexualité et le travail en relation avec le capitalisme néolibéral et les frontières du Sud.

La séance et les échanges seront entièrement en anglais.


Lilly Irani (Université de Californie San Diego – UCSD)

Ethics from Below: Claiming Democracy Over Digital Infrastructures

Acceder ici au streaming video

Jeudi 17 juin 2021, 19h-21h

We work and live through layers of infrastructure designed and installed by companies and public agencies, often out of sight and seemingly beyond our grasp. Calls to ethics demand professionals and regulators assess the how well these technologies align with notions of the good. In this talk, I will argue that we need to go a step further to address the problem of political agency over digital infrastructures. By political agency, I mean the capacity of agents to create effects through direct and institutional action. I will motivate and elaborate this argument with two case studies: a struggle to shape public-private smart cities infrastructure in San Diego, as well as struggles to transform platform work conditions for Amazon Mechanical Turk workers.

Lilly Irani is an Associate Professor at University of California, San Diego (UCSD). She is author of “Chasing Innovation: Making Entrepreneurial Citizens in Modern India” (Princeton University Press, 2019) and “Redacted” (Taller California, 2021; with Jesse Marx). She is a co-founder of the digital worker advocacy organization Turkopticon.

[Séminaire #ecnEHESS] Shannon Vallor: Ethique de l’IA et dette morale des technologies (20 mai 2021, 19h)

Enseignement ouvert aux auditeurs libres. Pour s’inscrire, merci de renseigner le formulaire.

La nouvelle séance d’approfondissement de notre séminaire Étudier les cultures du numérique aura lieu en version webinaire le jeudi 20 mai 2021, de 19h à 21h. Vous pouvez suivre cette séance, organisée en collaboration avec la Gaîté Lyrique :
– sur le site de la Gaîté Lyrique
– sur Youtube
– sur Facebook

Dans ce séminaire, nous aurons l’honneur d’accueillir l’une des plus brillantes expertes de l’éthique des données et de l’IA, la philosophe Shannon Vallor, titulaire de la chaire Baillie Gifford à l’Université d’Édimbourg. Prof. Vallor présentera ses recherches sur la “dette morale technologique”. Les grandes entreprises du secteur technologique ont “emprunté” de la confiance aux publics pour développer des outils allant des algorithmes, à la reconnaissance faciale, aux dispositifs de traçage pour le Covid-19. Cette dette considérable semble désormais arrivée à échéance. De quelle manière vont-elles l’honorer ?

Dans le rôle de discutant/contrepoint, l’artiste Sam Lavigne, auteur de plusieurs projets sur la surveillance et concepteur, entre autres, du Stupid Hackaton.

La séance et les échanges seront entièrement en anglais.


Shannon Vallor (Université d’Édimbourg)

Technology’s Moral Debt

Acceder ici au streaming vidéo
Jeudi 20 mai 2021, 19h-21h

The humane future that champions of advanced technology once promised—one of greater leisure and equality, more enlightened minds and sentiments, and cleaner and healthier environments—has been indefinitely delayed. Instead, a growing ‘moral debt’ has been incurred by technologists as the environmental and social costs of 19th-20th century industrialization and 21st century computerization continue to accumulate, while compensating advantages are distributed increasingly unequally. Computing technologies are used to bridge or disguise ethical gaps in our institutions, rather than to design more ethical social systems. How does AI fit into this picture? Will we allow it to add to that increasingly unsustainable debt? Or might recent shifts in how we understand the ethical responsibilities of AI developers allow us to use it in ways that finally begin to pay down that debt, and fulfill technology’s unmet promise of a more humane world?

Shannon Vallor est philosophe et titulaire de la chaire Baillie Gifford sur l’éthique des données et de l’IA à l’Edinburgh Futures Institute. Ses recherches explorent l’impact de l’automatisation et de l’intelligence artificielle sur le caractère et les pratiques humaines. En 2015, elle a reçu le World Technology Award in Ethics. Elle est l’auteure de Technology and the Virtues: A Philosophical Guide to a Future Worth Wanting (Oxford University Press, 2016) ainsi que de nombreux articles sur l’éthique de l’IA.