Crédit photo: Brian Sokol / Panos pour SGIA.

Garder le contact avec les robots - maintenir une agence humaine dans un monde automatisé

La Commission de la technologie et du développement inclusif de Pathways for Prosperity a assisté à la conférence We Robot 2018 sur la robotique, le droit et les politiques à l'Université de Stanford. La réunion a aidé la Commission à comprendre les dernières technologies et à réfléchir aux approches que pourraient adopter les gouvernements pour faire face aux changements rapides.

Tebello Qhotsokoane, chargé de recherche et de politiques à Pathways for Prosperity, réfléchit à la manière dont la technologie affecte l’activité humaine et ses implications pour les gouvernements du Sud alors qu’ils gèrent leurs conversations avec le secteur privé, les citoyens, la société civile et d’autres parties prenantes.

Il est plus probable que les humains travaillent aux côtés de machines bien avant qu’elles ne soient complètement remplacées par celles-ci, mais une grande partie de l’attention portée aux perturbations technologiques continue de se concentrer sur l’hystérie existentielle liée à la perspective d’un avenir sans emploi. Il existe une myriade de papiers et d'articles de presse décrivant la montée de la machine, souvent conçus comme des robots et des dispositifs entrant dans des rôles précédemment occupés par des humains, tandis que les humains deviennent obsolètes.

Mais les machines ont déjà augmenté.

Les robots humanoïdes, comme ceux du film à succès hollywoodien I, Robot, ne dirigent peut-être pas tous les secteurs, car les humains contemplent avec langueur leur obsolescence, mais les technologies robotiques sont utilisées depuis longtemps dans les usines, les usines de fabrication et les mines. Ces technologies augmentent l'efficacité et la productivité économique globale, d'où leur large adoption et utilisation.

L’influence de ces solutions de haute technologie sur les travailleurs qui travaillent aux côtés de robots et de systèmes autonomes est moins discutée, mais mérite également d’être examinée. Quels sont les impacts de ces technologies sur l’identité des travailleurs, leur sens de l’agence ou même sur la manière dont les connaissances sont acquises et perçues?

Madeleine Elish, chercheuse et anthropologue culturelle chez Data & Society, a déclaré lors de la conférence We Robot 2018 que les robots perturbaient l’organisation des travailleurs de manière à nuire à leur image de soi. Dans son ethnographie de pilotes de drones sans équipage, elle indique que les drones sans équipage sont uniquement perçus comme tels car ils masquent les réseaux de travail humain nécessaires à leur création et à leur maintenance. Ces systèmes ‘autonomes’ privent les pilotes de drones d’agence et diminuent ainsi leur stature aux yeux de leurs collègues, ce qui a un impact négatif sur leur propre perception de soi. Cet «obscurcissement» n'a pas seulement des effets sur des qualités abstraites telles que «l'identité» et «l'estime de soi», mais pourrait également avoir des conséquences matérielles pour les pilotes de drones. Étant donné que les pilotes de drones exploitent des avions sans équipage à partir de lieux éloignés situés à de nombreux kilomètres des lignes de front, ils sont exclus des récompenses traditionnelles associées aux combats sur le terrain. Ces récompenses sont liées à la progression de carrière et, dans certains cas, aux salaires et avantages, ce qui signifie que l’incapacité à être perçu comme un véritable pilote influe sur les résultats de leur carrière.

Ces arguments sur la dissimulation du travail ne se limitent pas aux pilotes de drones aux États-Unis. Des phénomènes similaires peuvent être observés en République démocratique du Congo, où les «robocops» sont utilisés aux intersections achalandées de la ville. Ces RoboCops sont entretenus par un travail humain dont la contribution n'est ni reconnue, ni louée. Les RoboCops eux-mêmes sont devenus l'objet de l'adoration du public, certains médias rapportant que "les gens les préfèrent à la police de la circulation humaine". Lorsque le ralentissement de la congestion et des accidents de la route sont attribués aux robots, les agents surveillant les séquences recueillies à partir de l'expérience de ces robots même perte d’agence que celle subie par les pilotes de drones et qui pourrait en fait être exclue des primes associées à un bon service que la police de la circulation sur le terrain a accès à.

À Kinshasa, le succès des Robocops, tout en étant loué, a ses limites. Les policiers humains peuvent poursuivre les automobilistes qui portent des feux rouges et sensibiliser les citoyens, contrairement à leurs homologues robocop. La popularité des Robocops a renforcé la méfiance envers les policiers humains considérés comme corruptibles. Pour de nombreux agents de la circulation à Kinshasa, il y a très peu d'incitation à bien faire leur travail, notamment parce qu'il s'agit d'un travail mal rémunéré, offrant de fortes possibilités de corruption à un niveau peu élevé. Avec les nouveaux robots menaçant leur statut social et même leur statut humain, cette incitation à faire du bon travail n’a fait que s’affaiblir.

Cette perte d’agence prend une forme différente dans l’usine. Le fabricant taiwanais d’importants ordinateurs portables, Quanta, a commencé à décentraliser les ouvriers de l’usine et à centrer les robots dans leurs processus de conception - un processus de conception appelé Designing for Automation - met en lumière Ling-Fei Lin de l’Université de Harvard, prenant la parole à la conférence We Robot 2018. Cette nouvelle approche nécessite que les équipes de R & D de la fabrication de matériel «modifient leurs expériences et leurs pratiques de conception de longue date afin de bien travailler avec leurs« collègues »de la robotique», déclare Ling-Fei Lin.

Les ouvriers d’usine sont chargés d’adapter la technologie, et non l’inverse, ce qui signifie qu’ils sont constamment engagés dans un processus de suivi, de réapprentissage et de réajustement. Cela induit du stress chez les travailleurs qui doivent effectuer des tâches au rythme de robots qui fonctionnent avec des performances relativement stables et sans fatigue. Le problème du stress est encore exacerbé par le fait que les robots sont des compagnons de travail stoïques, ce qui signifie que certains travailleurs ne bénéficient même pas du confort d'un collègue bavard. Cela peut non seulement les laisser se sentir inadéquats, mais ils pensent aussi peut-être que le temps presse pour la valeur de leur propre travail, de leur travail et même, par voie de conséquence, de leur position sociale.

Au-delà de la perte d’agence, les utilisateurs de machines intelligentes doivent également se préoccuper de la surveillance et de la normalisation des dispositifs intrusifs. Dans le projet de son livre intitulé Data Driven: Les camionneurs et la nouvelle surveillance du lieu de travail, Karen Levy, sociologue et juriste à la Cornell University, affirme que les chauffeurs routiers pourraient avoir à s'inquiéter de Big Brother avant que les chauffeurs autonomes ne prennent leur emploi. Levy présente une analyse de l'utilisation de systèmes intelligents, dont certains sont déjà utilisés, pour aider les camionneurs dans leur travail, et décrit les effets pernicieux de ces technologies d'assistance sur les travailleurs. Une technologie destinée à contrôler la somnolence pourrait s'apparenter à un dispositif de surveillance utilisé contre le conducteur du camion, par exemple. Selon les recherches de Levy, l’intégration de systèmes de détection et de surveillance dans le camion, ainsi que la technologie intégrée dans les gilets et les chapeaux des camionneurs, pourraient être une gêne pour les camionneurs en particulier. La population de camionneurs est stéréotypée en tant que groupe auto-sélectionné d’hommes «machistes» adeptes de l’idée de rester seul sur la route. L’introduction de la surveillance dans cette industrie est en opposition directe avec cette identité et pourrait, et a déjà provoqué, une grande résistance de la part des camionneurs qui sont forcés ou fortement encouragés à utiliser la technologie.

La menace de la surveillance n’est pas propre à l’industrie du camionnage. En Chine, le réseau public Zhejiang Electric Power, une entreprise dirigée par le gouvernement, utilise Neurocaps, une technologie qui place des capteurs sans fil dans les casquettes des employés et qui, combinée aux algorithmes d’intelligence artificielle, permet de détecter les incidents de rage, d’anxiété ou de tristesse sur le lieu de travail. Cette technologie est conçue pour aider les gestionnaires à surveiller les flux de travail et à anticiper la fatigue, leur permettant de demander de manière préventive aux travailleurs de prendre des pauses, ce qui augmente leur productivité. Nonobstant les bonnes intentions, les informations recueillies par ces systèmes pourraient également être utilisées pour licencier ou retirer injustement des travailleurs. Selon des médias chinois, les travailleurs de ces usines, à l'instar de leurs homologues des robots routiers, ont résisté à la technologie en raison de leur inconfort et de leur sentiment d'intrusion. Mais dans ces usines, l'asymétrie des pouvoirs entre les ouvriers et la direction signifie que les travailleurs doivent accepter tacitement l'utilisation de Neurocaps, ce qui leur donne un accès sans précédent aux données personnelles sur la santé mentale.

Qiao Zhian, professeur de gestion dans une université de Beijing, cite dans le South China Morning Post: «Les législateurs doivent agir maintenant pour limiter le recours à la surveillance émotionnelle et donner aux travailleurs davantage de pouvoir de négociation pour protéger leurs intérêts». Sa conclusion est claire et résolue. - "L'esprit humain ne doit pas être exploité à des fins lucratives"

La discussion sur l'impact de la technologie sur l'homme semble un complément utile à la discussion bien documentée sur les impacts de la technologie sur les statistiques de l'emploi, les chaînes de valeur mondiales et la croissance économique. Lorsque nous discutons des forces économiques en jeu dans l’automatisation, il est facile d’oublier que les gens existent derrière les chiffres et les graphiques colorés. Les questions d'identité, d'agence, de respect de la vie privée et de création de connaissances sont des considérations essentielles dans l'exploration du rôle que la technologie a et pourrait jouer dans la société.

En effet, la compréhension de ces nouvelles relations entre l’homme et la machine pourrait éclairer la manière dont les systèmes sont déployés pour obtenir le maximum d’avantages pour la société. Dans cette recherche, comme dans toutes les recherches, il est important que ces questions et études soient menées non seulement dans les pays développés, mais également dans les pays en développement où les institutions de gouvernance naissantes et les réglementations du travail souvent plus faibles signifient que l'impact de la surveillance, l'augmentation du travail et les impacts psychologiques sur les travailleurs peuvent être amplifiés.

Pour en savoir plus, consultez la Commission de la technologie et du développement inclusif de Passeport pour la prospérité.

Et ensuite?

Suivez-nous ici sur Medium où nous publions régulièrement.

Si vous avez aimé cet article, applaudissez-le pour passer le mot et aider les autres à le trouver.

Voulez-vous lire plus? Essayez nos articles sur Qui enregistre vos conversations? Que sait Angry Birds sur vos enfants? Et The Future of Work.

Êtes-vous un membre de l'Université qui veut écrire pour nous sur Medium? Contactez-nous ici avec vos idées: digicomms@admin.ox.ac.uk.