Les entreprises et le gouvernement australiens ont rejoint le chœur mondial mettant en garde contre les risques que l’intelligence artificielle (IA) pose à l’humanité. Mais malgré leur ton agité, l’introduction d’algorithmes dans la vie politique australienne a été moins apocalyptique et plus habituelle. Les changements apportés au système de protection sociale australien en sont un excellent exemple. Punitif et difficile d’accès par sa conception, le système est désormais surtout connu pour une innovation algorithmique désastreuse surnommée robodebt.
Robodebt a été conçu par le Parti libéral et des fonctionnaires australiens de haut niveau pour attraper ostensiblement des «tricheurs de l’aide sociale». Il a duré de 2016 jusqu’à ce qu’il soit déclaré illégal en 2019. Une commission royale sur le stratagème désormais tristement célèbre a rendu ses conclusions la semaine dernière. Ils étaient, sans surprise, cinglants. Le stratagème reposait sur un algorithme rigide et défectueux qui émettait par erreur des avis de remboursement de dette menaçants à environ un demi-million d’Australiens. Au cours de sa durée de vie courte mais catastrophique, le robodebt a entraîné des décès, des suicides, un appauvrissement, un stress lié au logement et des traumatismes de masse.
Les retombées du stratagème et les conclusions prévisibles de la commission se poursuivent. Mais toute cette saga sordide a soulevé de nombreuses questions. Celles-ci concernent non seulement le comportement corrompu et cruel des politiciens et de la fonction publique, mais également les utilisations et les abus des algorithmes et de l’IA dans la vie professionnelle des Australiens.
Le gouvernement travailliste, savourant l’ignominie dont est victime son prédécesseur, a publié une multitude de rapports et de documents de travail sur l’utilisation “sûre et responsable” de l’IA en Australie. Mais ces rapports, tout naturellement, évitent de discuter de ce que les progrès technologiques du capitalisme sont généralement conçus pour faire : prolonger la journée de travail, intensifier le processus de travail pour les travailleurs et maximiser les profits pour les grandes entreprises.
Lors de son lancement en 2016, le programme robodebt a été instantanément critiqué pour sa prémisse et sa formulation erronées. L’algorithme a mesuré les informations des déclarations de revenus, qui sont calculées annuellement, par rapport aux paiements de sécurité sociale, qui sont payés tous les quinze jours. Si le revenu annuel moyen ne correspondait pas au montant déclaré tous les quinze jours par un bénéficiaire de la sécurité sociale, l’algorithme déclarait automatiquement l’écart comme une dette et émettait un ordre de remboursement menaçant. Ensuite, le ministre des Services sociaux, Alan Tudge, est apparu à la télévision pour faire écho à la menace, avertissant “nous vous trouverons, nous vous retrouverons et vous devrez rembourser ces dettes et vous pourriez vous retrouver en prison”.
Avant même le lancement du programme, les avocats du Département des services sociaux ont averti que tout cela était probablement illégal. Des conseils juridiques externes répétés au cours des années suivantes ont confirmé cette évaluation. Mais les fonctionnaires ont admis à la commission royale que ces préoccupations avaient été écartées parce que le projet bénéficiait du soutien politique du premier ministre de l’époque, Scott Morrison. À l’époque, Morrison avait lié sa fortune politique à la diabolisation des assistés sociaux et des réfugiés. Il a fait valoir que « tout comme ils ne contrôleront pas les gens qui arrivent sur des bateaux, ils ne contrôleront pas les personnes qui vont corrompre ce système. Il faut donc qu’il y ait un flic de l’aide sociale fort sur le coup.
Comme les critiques l’ont immédiatement souligné, le robodebt n’avait absolument aucun sens : la législation sur la sécurité sociale avait été modifiée à plusieurs reprises pour obliger les allocataires sociaux à travailler occasionnellement et à temps partiel. La plupart ne gagnaient pas un salaire régulier tous les quinze jours, mais les salaires aléatoires et fragmentaires que la législation les incitait à gagner.
Dans le scénario cauchemardesque qui a suivi, les évaluations de l’algorithme n’étaient pas seulement incorrectes, elles étaient plus ou moins incontestables. Une fois que l’algorithme vous avait déclaré coupable, le seul moyen de prouver votre innocence était de produire des fiches de paie pour la période en question. Mais si vous ne travailliez pas réellement à ce moment-là – une perspective raisonnable pour quelqu’un qui s’est tourné vers le filet de sécurité sociale – c’était littéralement impossible.
Robodebt n’impliquait pas techniquement l’IA, mais un algorithme maladroit connu sous le nom de système de prise de décision automatisée (ADM). Ce n’était pas faute d’avoir essayé. Après que le stratagème ait été lancé sous des hurlements de dérision, le gouvernement libéral a désespérément tenté d’amener l’agence gouvernementale responsable de la recherche scientifique à inventer une IA à la hauteur de la tâche de traquer les travailleurs pauvres. On leur a dit que ce n’était pas possible.
Si l’algorithme robodebt a joué le rôle de juge et de jury, les sociétés privées de recouvrement de créances ont bien voulu intervenir en tant que bourreau. Certaines appartenaient à d’énormes sociétés de capital-risque ayant des liens avec le Parti libéral. Ils recevaient des commissions – essentiellement des primes – pour extorquer le plus d’argent possible le plus rapidement possible aux victimes innocentes de l’algorithme. Le mégaconsultant corrompu PricewaterhouseCoopers (PwC) a également mis son museau dans l’auge. Persuadé à tort que le robodebt lui garantirait des bénéfices pendant des années, PwC a néanmoins reçu 1 million de dollars pour produire un rapport sur les failles du stratagème. Le rapport ne s’est jamais matérialisé – PwC a été invité à le faire disparaître avec “un signe de tête et un clin d’œil”.
Dans l’ensemble, robodebt visait à “récupérer” un montant largement imaginaire de 2 milliards de dollars australiens. Il a coûté 606 millions de dollars à administrer jusqu’en 2019 et a réussi à extorquer 785 millions de dollars à des innocents. Une fois que l’illégalité du stratagème a été officiellement déclarée, tout cela a ensuite été « remboursé » dans le cadre d’un règlement de 1,8 milliard de dollars. Cependant, seule une petite fraction de cette somme est allée aux victimes réelles.
Ainsi, en plus de coûter des vies et des moyens de subsistance, le robodebt coûte cher au contribuable australien. Il convient de noter que le montant dérisoire que le régime avait initialement promis de récupérer auprès des travailleurs pauvres est pâle par rapport aux dizaines de milliards de dollars que l’Australie perd chaque année à cause d’escroqueries pro-riches comme les paradis fiscaux et l’engrenage négatif.
Le programme robodebt met en évidence la manière insidieuse dont les nouvelles technologies ont été exploitées pour punir les bénéficiaires de l’aide sociale. Mais les bénéficiaires de l’aide sociale ne sont pas la seule section de la société à tomber sous son emprise.
Un rapport du cabinet d’avocats mondial Herbert Smith Freehills sur la surveillance des employés a révélé que plus de 90 % des patrons australiens utilisent des outils numériques pour surveiller la productivité des travailleurs. Alors que l’un des partenaires australiens de l’entreprise grimaçait,
dystopique n’est pas le bon mot, mais il y a cette sorte d’omniprésence que les mouvements des gens sont surveillés, d’une manière à laquelle je pense qu’en tant qu’Australiens, nous n’avons pas été habitués auparavant.
Cela semble différent dans différents contextes. Dans l’économie des concerts précaire, des décisions algorithmiques arbitraires imposent des réductions de salaire de 50 %. Dans l’industrie de l’entreposage à bas salaire et hautement monopolistique, les travailleurs australiens portent des casques alimentés par des algorithmes qui imposent des taux de sélection éreintants. Les travailleurs de Coles et d’Amazon rapportent que ces algorithmes fonctionnent comme des surveillants antipathiques les surveillant à la seconde près. Même les cols blancs d’entreprises comme PwC sont harcelés par l’IA pour rendre compte des pauses toilettes.
Comme l’a montré un récent rapport de l’Australia Institute, il y a très peu de secteurs de l’économie qui ne sont pas affectés par l’intrusion des algorithmes et de l’IA. Les entreprises essaient de défendre ces outils comme inspirés par des préoccupations de santé, de sécurité ou d’environnement. La vérité évidente est que, qu’il s’agisse de lieux de travail de chantier, manuels ou d’entreprise, ils sont conçus uniquement pour intensifier la journée de travail et tirer le moindre centime de profit possible de la main-d’œuvre.
Cette surveillance et cette intensité accrues contrastent nettement avec le traitement accordé aux patrons australiens. En mars, la commission parlementaire mixte sur les sociétés et les services financiers a constaté que l’organisme de réglementation des entreprises Australian Securities and Investments Commission (ASIC) utilisait un outil numérique automatisé pour passer au crible les plaintes pénales concernant les administrateurs de sociétés. L’IA n’a renvoyé que 3 % des plaintes à un niveau humain supérieur, bien que la grande majorité comprenne des allégations de comportement criminel. Contrairement à robodebt, l’algorithme ASIC est littéralement programmé pour présumer l’innocence de dizaines de milliers de patrons douteux.
Il y a eu beaucoup d’alarmisme à propos de l’IA de la part des grandes entreprises ces derniers mois. Mais si les patrons s’en sortent si bien grâce aux avancées technologiques, pourquoi tant d’agitation ?
Un rapide coup d’œil aux récents rapports du gouvernement travailliste sur l’IA révèle quelque chose d’éclairant. Ils pourraient être placés dans le contexte d’avertissements concernant l’apocalypse provoquée par l’IA, mais ils expriment largement leur inquiétude quant à la capacité des entreprises australiennes à gagner des parts de marché dans des secteurs émergents déjà dominés par des entreprises américaines. Si les récents appels des barons de la technologie américains à une plus grande réglementation sont en fait un appel à un plus grand transfert de pouvoir vers eux-mêmes, les plaintes des monopoles commerciaux australiens concernent davantage les monopoles étrangers.
Le gouvernement travailliste a comparé le robodebt aux hospices punitifs du XIXe siècle. Les entrepôts australiens d’Amazon et des supermarchés, avec leurs contremaîtres numériques, ont été comparés aux ateliers clandestins de la même époque. Malgré leur hype futuriste, les avancées technologiques récentes reproduisent – de manière nouvelle et tordue – la logique persistante de notre mode de production sifflant : monopole, avec de moins en moins d’opportunités d’expansion, et exploitation, à une intensité toujours croissante.
La source: jacobin.com
