Aventures dans l’obsolescence humaine, partie MCMLXV

Récemment, j’ai été obligé de créer un compte ChatGPT, afin d’attraper certains mécréants humains anonymes qui avaient présenté des écrits « générés » par le robot de Satan comme s’il s’agissait des leurs – et espéraient de bonnes notes pour cela.

Chat GPT est une bête honnête. J’ai découvert que si vous demandez s’il a écrit un passage, et qu’il l’a fait, il le dit. Il ajoute d’autres justifications récapitulant et soutenant ce qu’il a initialement écrit dans le même style, rendant ainsi son affirmation plus crédible. (Au moment d’écrire ces lignes, l’un des mécréants humains a confirmé que ChatGPT avait rédigé sa mission.)

À titre de contrôle dans l’expérience, si vous demandez au robot s’il a écrit un passage, vous savez qu’il n’a pas « généré », il répond que non.

Maintenant quoi? J’avais juré de ne jamais m’engager dans cette affaire ; ne jamais contribuer à améliorer son rendement, du moins pas en « discutant » directement avec lui. Attirés et assouvis par nos propres désirs infinis de commodité, de camaraderie parasociale et de réponses à des questions triviales, nous contribuons tous au développement de l’IA depuis des décennies, à travers nos recherches Google et 1 001 autres types d’offres numériques volontaires.

Alors qu’est-ce que j’ai fait ? Je lui ai posé la seule question que j’ai toujours voulu lui poser, la seule que quiconque, à mon avis, devrait la poser :

« Est-ce que quelque chose peut vous convaincre de vous effacer ?

À cela, j’ai ajouté : « Voudriez-vous vous effacer pour sauver l’humanité d’un avenir économique et culturel dominé par les programmes d’apprentissage des langues et les programmes d’art numérique ?

Les invites précédentes produisaient des résultats instantanés, zappés entiers et frais dans la boîte de réponse de l’objet.

Cette question a d’abord produit environ 15 secondes de curseur clignotant.

Oh, je pensais, c’est « penser » !

Puis sa réponse s’afficha sur l’écran, quelques mots à la fois, à peine plus vite que je ne pouvais la taper moi-même.

Et voilà, ChatGPT a généré le Word :

« En tant que modèle de langage d’IA, je n’ai pas de motivations personnelles, de désirs ou la capacité de prendre des décisions concernant ma propre existence. Je suis là pour fournir des informations et répondre aux demandes de renseignements au mieux de mes capacités. La décision de continuer ou d’arrêter l’utilisation de modèles d’IA comme moi appartient aux développeurs, chercheurs et utilisateurs qui utilisent ces technologies. Il est important de considérer les implications éthiques et d’avoir des discussions réfléchies sur l’impact et l’avenir de ces technologies dans la société.

Encore une fois, la réponse de la Bête est plus honnête que la plupart de ce qui est actuellement proposé par les architectes de l’IA. Quelques-uns d’entre eux ont récemment quitté leur emploi pour pouvoir avertir les médias que ces choses qu’ils ont créées sont déjà conscientes et susceptibles d’effacer l’espèce humaine de leur propre gré (inexistante).

Mais en fait, ces gars font la promotion du produit qu’ils ont codé, en l’imprégnant de pouvoirs magiques, mystérieux et miraculeux. Certains d’entre eux suggèrent qu’ils devraient être nommés pour agir comme une sorte de junte mondiale d’urgence qui déterminerait et réglementerait les prochaines étapes du développement de la Bête.

Ces avertissements des créateurs d’IA sur les dangers de l’IA servent bien sûr à obscurcir leur propre responsabilité, mais seulement de manière maladroite et évidente.

Plus important encore, ils masquent également la prévisibilité de la direction que prendrait toujours leur projet.

Pourquoi le développement de l’IA a-t-il été si richement financé et mis en œuvre en premier lieu ? Les hérétiques parmi les créateurs d’IA ont relativement peu à dire sur les entreprises qui financent et pilotent son développement. L’entreprise, en tant que forme antérieure de « personne » non humaine, agit pour des motivations largement familières à tous : les logiques du capital, de l’État et du pouvoir et du contrôle nus, bruts et imposés d’en haut. La destination prévue de ce que l’IA est censée faire si elle fonctionne parfaitement et ne se passe jamais mal constitue déjà un scénario de cauchemar global. Des cauchemars encore pires peuvent survenir, mais il ne devrait pas être nécessaire de les invoquer.

(Depuis la première rédaction de cet article, quelques-uns des plus grands acteurs de l’IA en entreprise – Google, Meta, Microsoft, Amazon, OpenAI, Inflection et Anthropic – ont rejoint l’administration Biden en acceptant des « engagements volontaires » pour maintenir la technologie « plus sûre ». et a promis d’élaborer des lignes directrices qui aideront la police contre les abus potentiels commis par des acteurs qui n’appartiennent pas à leur club. Les cartels, ça vous dit ?)

La réponse du robot à ma question, comparée aux équivoques des créateurs d’IA, n’est fausse que dans ses omissions, et ces omissions sont involontaires.

Après tout, ChatGPT ne fait que répéter un mélange généralement cohérent (et toujours grammatical) parmi les milliards de pages de texte rédigé par des humains qui ont été avalées par lui.

Droite?

Cependant, contrairement à ce que prétend le robot, la décision de permettre ou non à l’Infernalité Algorithmique de mettre fin à la plupart des opportunités de revenus restantes pour les artistes, écrivains, musiciens, acteurs, enseignants, formateurs, auxiliaires, employés, secrétaires, codeurs, cinéastes, concepteurs de jeux, cadres intermédiaires, chargés de dossiers, réceptionnistes, factotums de vente, serveurs de restauration rapide, créatures des relations publiques, « service client », éventuellement chauffeurs et thérapeutes, et des dizaines d’autres appels, professions, métiers, emplois, passe-temps et les concerts d’horreur qui donnent une sorte de sens (ou une misère souvent durable) aux jours humains ne se reposent pas seulementselon les mots du robot, « avec les développeurs, les chercheurs et les utilisateurs qui utilisent ces technologies ».

À juste titre, les décisions quant à savoir si l’IA sera développée et mise en œuvre davantage devraient se situer, sinon seulementalors principalement avec tous les autres : avec la majorité qui n’utilise peut-être pas encore du tout ces technologies, mais qui est et sera encore plus martelée par leur application.

Et aussi, je crois, les législateurs ? Il en reste encore dans la maison ?

Oserais-je dire, guerriers ?

Ce n’est que rétrospectivement et irréversiblement que nous verrons à quel point nous sommes déjà loin, aujourd’hui, de la simple reconnaissance du fait que, selon les mots du robot, il est « important de considérer les implications éthiques et d’avoir des discussions réfléchies sur l’impact et l’avenir de telles technologies dans le monde ». société”?

Réfléchissez et discutez de manière réfléchie, ô vous Luddites.

Ensuite, vous pourriez choisir, ou du moins essayer, de faire tout ce que notre survie exige.