INTERVIEWS : Le prix caché de l’IA

INTERVIEWS : Le prix caché de l’IA

Agora #96
20 - 23

La technologie progresse rapidement, mais que nos conceptions du travail peinent à suivre le rythme

L’intelligence artificielle fait irruption dans nos vies, redessinant les économies, les lieux de travail et les normes démocratiques. Bien plus qu’une simple avancée technologique, l’IA soulève désormais des questions fondamentales : qui en tire profit, qui en pâtit, et qui fixe les règles alors qu’elle se généralise dans les bureaux, les usines et les administrations ?

Au milieu des débats sur la productivité et l’innovation, une autre réalité se dessine. Les travailleurs sont confrontés à de nouvelles précarités professionnelles, les employeurs gèrent des outils qu’ils comprennent à peine, et les gouvernements peinent à réglementer une technologie qui devance leurs règles. Les employés, les syndicats et le personnel du secteur public – souvent négligés – offrent des perspectives plus précieuses que les déclarations ambitieuses sur l’automatisation.

Pour explorer ces questions, Véronique Michel s’est entretenue avec trois experts qui étudient l’impact de l’IA sur le pouvoir, le travail et la gouvernance. La journaliste Karen Hao met en lumière la manière dont les grandes entreprises d’IA remodèlent les marchés de l’emploi et le contrôle des travailleurs, mais note une organisation collective croissante. L’expert en cybersécurité, Dr Valentin Weber, met en garde contre une surveillance silencieuse et croissante des lieux de travail par l’IA, qui menace la vie privée et la confiance. Le philosophe Simon Goldstein prévoit des pertes d’emplois plus rapides que lors des cycles technologiques passés et exhorte les syndicats et les gouvernements à se préparer dès maintenant.

Ensemble, leurs analyses montrent que la technologie progresse rapidement, mais que nos conceptions du travail peinent à suivre le rythme. Ces entretiens nous rappellent que l’avenir de l’IA n’est pas gravé dans le marbre. Il dépendra des décisions que nous prenons aujourd’hui et de la capacité des travailleurs à avoir leur mot à dire sur ce qui se passera ensuite.

Karen Hao est une journaliste récompensée, autrice à succès et ingénieure formée au MIT, à la pointe de la couverture médiatique mondiale sur l’IA. Ancienne correspondante à l’étranger pour le Wall Street Journal et rédactrice en chef adjointe chargée de l’IA au MIT Technology Review, elle écrit désormais pour The Atlantic. Elle a co-créé la série « AI Spotlight » du Pulitzer Center et est l’autrice du best-seller Empire of AI, une analyse audacieuse et novatrice du pouvoir, de la politique et de l’avenir de l’intelligence artificielle.

L’IA est souvent présentée comme un outil d’efficacité et d’innovation, mais vos travaux soulignent à quel point le pouvoir et la prise de décision sont concentrés entre les mains d’un petit nombre d’acteurs. Selon vous, quels sont les risques les plus importants que cette concentration fait peser sur les travailleurs et les employés de différents secteurs ?

La concentration du capital, des données, de l’énergie, des terres et du pouvoir entre les mains de quelques entreprises d’IA menace la démocratie. C’est pourquoi je les appelle des « empires ». Le risque pour les travailleurs et les employés est une perte d’autonomie et de contrôle sur leurs moyens de subsistance, ainsi que sur leur capacité à influencer leur avenir.

Nous le constatons déjà. L’IA crée des fissures dans l’économie : les licenciements ont augmenté tandis que la croissance de l’emploi a ralenti. Ceux qui travaillent encore sont confrontés à des situations plus précaires, leurs patrons exigeant une productivité accrue de l’IA, même lorsque ces outils ne sont pas utiles, ou menaçant de licenciements.

En utilisant les outils requis, les travailleurs fournissent des données que les entreprises d’IA peuvent utiliser pour entraîner des modèles susceptibles de les remplacer. Les employeurs ont également tout à y perdre. Avec suffisamment de données, les entreprises d’IA pourraient consommer les services et produits d’autres secteurs.

Et que peuvent-ils faire à ce sujet ?

Nous devons nous engager dans une action collective pour lutter contre l’exploitation et l’extraction des « empires » et contre leur contribution au recul de la démocratie. Pour les travailleurs et les employés, cela peut signifier s’organiser pour exiger de meilleurs droits du travail et une meilleure protection contre l’utilisation de l’IA et l’automatisation, comme nous l’avons vu lors des grèves des scénaristes hollywoodiens.

Les travailleurs de l’industrie de l’IA ont également mobilisé leur pouvoir collectif pour protester contre les pratiques de leurs employeurs. Par exemple, plus de 1 000 employés d’Amazon ont signé une lettre ouverte critiquant la direction pour son « approche du développement de l’IA à tout prix et à vitesse grand V » qui menace la démocratie, les emplois et la planète. Nous avons besoin de davantage d’initiatives de ce type.

De nombreux employés sont déjà confrontés à l’IA par la gestion automatisée, le suivi des performances ou les systèmes d’aide à la décision. Comment voyez-vous ces technologies remodeler les conditions de travail quotidiennes, l’autonomie et la sécurité de l’emploi dans les années à venir ?

(Je vais passer cette question car je pense y avoir déjà répondu dans la première.)

Les débats publics sur l’IA se concentrent souvent sur les pertes d’emplois futures ou les avancées spectaculaires, tandis que la réalité vécue par les travailleurs reçoit moins d’attention. Selon vous, quels aspects de l’impact de l’IA sur le monde du travail sont actuellement sous-estimés ou mal compris ?

Récemment, le rapport sur l’emploi aux États-Unis a montré que l’économie était en pleine restructuration en raison de l’impact de l’industrie de l’IA. La croissance de l’emploi a ralenti dans la plupart des secteurs, et les PDG en attribuent directement l’origine à l’IA. La construction de centres de données fait exception. Dans le cadre de mon reportage, j’ai discuté avec de nombreuses personnes, en particulier des jeunes, qui ont du mal à trouver du travail et sont bombardées d’offres d’emploi dans le domaine de l’annotation de données. Ces deux éléments révèlent une réalité souvent négligée : alors que l’industrie de l’IA absorbe l’économie traditionnelle, elle profite d’une nouvelle vague de travailleurs précaires, dont la plupart occupent des emplois temporaires et contractuels qui soutiennent l’industrie elle-même. Cela montre la logique impériale de l’industrie.

Pensez-vous que l’IA détruira des emplois ou, comme certains le croient, qu’elle permettra aux gens d’accéder à d’autres emplois ?

Les vagues d’automatisation passées montrent que certains emplois disparaissent tandis que d’autres apparaissent, généralement à des niveaux supérieurs ou inférieurs à ceux d’avant. Dans les usines, par exemple, les robots ont éliminé les emplois à la chaîne, mais ont créé davantage de postes de direction à mesure que la production augmentait, ainsi que davantage de superviseurs chargés de gérer les cas limites dangereux lorsque les robots tombent en panne. En d’autres termes, l’automatisation brise l’échelle de carrière.

Nous observons déjà le même phénomène avec l’IA. Les emplois de débutants, avec des horaires de bureau classiques, disparaissent, ce qui rend plus difficile l’accès des jeunes à des secteurs bien rémunérés. Ceux qui sont entrés avant ont accès à des emplois de plus haut niveau, tandis que beaucoup d’autres sont relégués à des emplois précaires, basés sur des contrats.

Les employés et les syndicats se sentent souvent exclus des décisions relatives à la conception et au déploiement des systèmes d’IA sur leur lieu de travail. Quels mécanismes concrets – juridiques, institutionnels ou organisationnels – pourraient contribuer à garantir que les travailleurs aient leur mot à dire quant à la manière dont l’IA est introduite et régie ?

Les travailleurs doivent s’organiser et faire pression sur la direction pour qu’elle les écoute. L’industrie du divertissement offre des exemples éloquents, tels que la grève des scénaristes hollywoodiens et la récente Creators Coalition on AI, un groupe d’acteurs et de réalisateurs de l’ensemble du secteur qui élabore de nouvelles normes et règles pour le développement, l’adoption et l’impact de l’IA.

Il est essentiel de noter que la Coalition adopte une vision large. Elle se concentre non seulement sur des questions telles que le consentement pour les œuvres créatives, mais aussi sur la protection des travailleurs précaires et la planification de la transition pour les personnes touchées par l’automatisation. Tout aussi important, elle vise à renforcer la solidarité entre les industries. Lors de son lancement, la Coalition a invité toutes les personnes qui partagent ses valeurs à contribuer à réorienter l’IA dans le respect de l’humanité.

Ces exemples montrent que les travailleurs peuvent exercer une influence collective sur les décisions liées à l’IA en s’organisant pour faire entendre leur voix plus fort.

À l’avenir, à quoi ressemblerait concrètement une approche plus démocratique et centrée sur les travailleurs en matière d’IA ?

Exactement comme vous l’avez formulé dans votre question ci-dessus : disposer de structures de gouvernance impliquant les travailleurs dans les décisions relatives à la conception et au déploiement des systèmes d’IA à tous les niveaux.

Existe-t-il des exemples, des principes ou des orientations politiques qui vous donnent l’espoir que l’IA puisse être développée et utilisée de manière à bénéficier véritablement aux employés plutôt qu’à les priver de leur pouvoir ?

Une chose me tient particulièrement à cœur : nous devons éloigner le développement de l’IA de la recherche sur ce qu’on appelle l’intelligence artificielle générale. Ce concept est mal défini, nécessite de nombreuses ressources et conduit à une chaîne d’approvisionnement extractive et exploitative. Cette quête vise à remplacer les humains, ce qui ne peut que priver les travailleurs – et tout le monde – de leur pouvoir.

L’IA ne doit pas nécessairement être ainsi. De nombreuses formes d’IA, en particulier les systèmes plus petits et spécialisés, peuvent aider les humains plutôt que de les remplacer. Si nous voulons que la technologie donne davantage de pouvoir aux employés, c’est par là qu’il faut commencer.

L’IA est de plus en plus utilisée pour la surveillance sur le lieu de travail. Du point de vue de la gouvernance et des politiques, comment pouvons-nous garantir que les systèmes d’IA utilisés à des fins de surveillance ne portent pas atteinte à la vie privée et à la liberté des travailleurs ?

Pour garantir que les systèmes de surveillance basés sur l’IA ne portent pas atteinte aux droits des employés, nous devons tout d’abord veiller à ce que leur déploiement soit strictement nécessaire et proportionné. Dans la mesure du possible, les processus de travail des employés ne devraient pas faire l’objet d’une surveillance. Il convient plutôt de privilégier les résultats du travail. Dans de nombreux cas, il est possible d’obtenir de bons résultats sans aucune surveillance. Lorsque des outils de surveillance du lieu de travail basés sur l’IA sont déployés, les travailleurs doivent en être informés. Si ces outils sont utilisés pour les sanctionner ou les licencier, ils doivent avoir pleinement accès aux données qui ont conduit à cette décision.

Vous avez évoqué le rôle de l’IA dans la surveillance. Selon vous, quel impact les outils d’IA destinés à surveiller les employés de l’administration publique pourraient-ils avoir sur leurs droits, leur satisfaction au travail et la culture d’entreprise dans son ensemble ?

À mesure que les outils d’IA de surveillance seront déployés, la satisfaction des employés diminuera. Une surveillance accrue signifie que les employeurs ne font pas confiance à leurs employés. Si les employés ont le sentiment de ne pas bénéficier de cette confiance, la qualité de leur travail en pâtira. Les syndicats devraient promouvoir une culture de confiance au travail. L’IA devrait responsabiliser les employés, et non les surveiller. Le principal défi lié à la surveillance par l’IA réside dans le traitement de quantités massives de données sur les employés, souvent à leur insu (atteinte à la vie privée et à l’anonymat), et dans le fait qu’on ignore ce que l’IA considère exactement comme un comportement « improductif ». De plus, les outils d’IA peuvent être utilisés pour surveiller en permanence le comportement en ligne d’un employé en dehors du travail, ce qui était jusqu’à présent d’un coût prohibitif pour les entreprises.

Faut-il mettre en place une réglementation mondiale régissant la surveillance par IA sur le lieu de travail, ou cette question doit-elle être laissée à l’appréciation de chaque pays ou entreprise ?

En conclusion, une réglementation mondiale sur la surveillance par IA sur le lieu de travail serait souhaitable, mais dans le contexte géopolitique actuel, il est peu probable qu’elle voie le jour. Il serait toutefois utile que les pays les plus avancés partagent les bonnes pratiques qu’ils ont mises au point avec les pays moins avancés. De cette manière, les enseignements tirés pourraient se diffuser rapidement à travers le monde. En résumé, il incombe aux pays d’adopter des réglementations en la matière et de veiller à ce que la surveillance par IA ne soit mise en place qu’en cas d’absolue nécessité, et même dans ce cas, de manière aussi peu intrusive que possible et, idéalement, pour une durée strictement limitée.

Dr Valentin Weber est chercheur associé senior au Centre pour la géopolitique, la géoéconomie et la technologie de la DGAP, ainsi que chercheur associé au programme China Foresight de l’IDEAS de la LSE. Ses recherches portent sur les normes cybernétiques, la géopolitique du cyberespace, les technologies de surveillance de pointe et l’intersection entre cybersécurité et sécurité nationale. Il a occupé des postes de chercheur invité et de chercheur associé à l’université Columbia et au Berkman Klein Centre de l’université Harvard, a contribué à un livre blanc pour l’état-major interarmées américain et a publié des articles dans des médias tels que Die Zeit, Deutsche Welle, le South China Morning Post et l’Associated Press. Il est titulaire d’un doctorat en cybersécurité de l’université d’Oxford et a étudié à Sciences Po, à l’université Johns Hopkins et à la London School of Economics.

Simon Goldstein est professeur agrégé au département de philosophie de l’université de Hong Kong, où il occupe également le poste de coordinateur des études supérieures.Il est un éminent spécialiste de la sécurité de l’IA, de l’épistémologie et de la philosophie du langage, alliant une philosophie analytique approfondie à des débats de pointe dans le domaine technologique. Formé à Yale (licence) et à Rutgers (doctorat), il explore les interactions entre l’intelligence artificielle et le raisonnement, l’éthique et la communication humains. M. Goldstein a occupé des postes de recherche au Centre for AI Safety et publié de nombreux articles sur les risques, l’éthique et la sémantique dynamique. À l’université de Hong Kong, il contribue à la recherche avancée en IA ainsi qu’à la formation et au mentorat d’étudiants diplômés du monde entier.

Il existe une inquiétude majeure quant à la possibilité que l’IA remplace de nombreux emplois. Pensez-vous que des catégories entières d’emplois disparaîtront complètement en raison de l’automatisation ?

L’IA pourrait avoir un impact différent sur les emplois par rapport aux technologies précédentes. De nombreux laboratoires d’IA se concentrent sur le développement d’agents conçus pour remplacer directement les travailleurs humains. Le risque est donc davantage la disparition d’emplois que leur simple transformation, contrairement à d’autres technologies.

La transition pourrait être rapide. Si un laboratoire d’IA développait soudainement un agent IA aussi performant que les humains dans une tâche particulière (par exemple, le service client), cet agent pourrait être déployé rapidement et à grande échelle dans tout le secteur.

Pourquoi penser que de tels agents IA pourraient bientôt voir le jour ? Deux mesures récentes sont particulièrement pertinentes. Premièrement, le benchmark GDPval d’OpenAI mesure les performances des modèles sur des tâches à valeur économique dans 44 professions. Les modèles les plus récents peuvent être aussi performants que les experts humains du secteur dans environ la moitié des tâches. Deuxièmement, les horizons temporels de METR reflètent la durée des tâches d’ingénierie logicielle que les modèles d’IA accomplissent de manière fiable. Il est à noter que les modèles les plus récents peuvent désormais accomplir des tâches qui prennent environ 5 heures à des ingénieurs logiciels experts humains, avec une fiabilité de 50 %. Plus important encore, le temps nécessaire aux modèles d’IA pour accomplir des tâches double tous les 7 mois.

Dans l’ensemble, nous sommes confrontés à une grande incertitude quant aux emplois qui seront automatisés, à leur nombre et au moment où l’automatisation aura lieu.

Les syndicats se sont toujours battus pour les droits des travailleurs face à l’automatisation. Comment voyez-vous le rôle des syndicats dans la gouvernance éthique des systèmes d’IA sur le lieu de travail ?

Face à cette incertitude, l’un des rôles importants des syndicats sera de faire pression sur les gouvernements. Leur objectif sera de développer des solutions à l’échelle de l’économie pour faire face à une automatisation potentiellement généralisée. Plus précisément, les syndicats doivent plaider de manière préventive en faveur de politiques qui protègent les travailleurs de tous les secteurs, car aucun secteur n’est épargné par les risques liés à l’automatisation. Si l’automatisation touche un secteur particulier, il sera peut-être trop tard pour que les syndicats de ce secteur seul puissent mettre en place une réponse efficace.

Les deux solutions gouvernementales les plus importantes à ces problèmes pourraient être le renforcement de l’assurance chômage et la mise en place d’un revenu de base universel. Ce type de solutions à l’échelle de l’économie pourrait aider les travailleurs qui seront licenciés lorsque de nouveaux agents d’IA automatiseront tout un secteur de l’économie.

Véronique Michel

À propos de l’auteur

Véronique Michel est représentante élue du personnel pour IPSO, le syndicat de la Banque Centrale Européenne. Elle est une fervente défenseure de la diversité et de l’inclusion. Au cours des huit dernières années, elle a organisé de nombreux événements en présentiel et en ligne dans son Institution, créant des espaces de dialogue ouvert et réunissant des experts de premier plan sur un large éventail de sujets. Parmi les très nombreux intervenants de renom qu’elle a invités figurent le réalisateur oscarisé Costa-Gavras, les lauréats du prix Nobel Joseph Stiglitz, Michael Spence et Daron Acemoglu, ainsi que Michael Forsythe, Sander van der Linden, Mariana Mazzucato, Thomas Piketty, Laura Georges, Adam Tooze, Margrethe Vestager et Helena Dalli.