Sur quelle planète sommes-nous ?

Après presque 79 ans sur cette planète assiégée, permettez-moi de dire une chose : cela ne peut pas bien finir. Vraiment, ça ne peut pas. Et non, je ne parle pas des problèmes les plus évidents allant de la guerre en Ukraine à la catastrophe climatique. Ce que j’ai en tête, c’est la dernière et la plus grande invention humaine : l’intelligence artificielle.

Cela ne me semble pas si compliqué. En tant qu’historien d’il était une fois, j’ai longtemps réfléchi à ce que, au cours de ces siècles, l’intelligence non artificielle et — trop souvent — non astucieuse a « accompli » (et oui, je préfère mettre cela entre guillemets ). Mais à la minute où j’essaie d’imaginer ce que cette création apparemment ultime AI, déjà une abréviation vivante d’elle-même, pourrait faire, cela me fait frissonner. Brr…

Permettez-moi de commencer par l’honnêteté, qui n’est pas du tout un sentiment artificiel. Ce que je sais de l’IA, vous pourriez le mettre dans un sac poubelle et le jeter avec les ordures. Oui, j’ai récemment lu tout ce que j’ai pu dans les médias à ce sujet et des amis à moi ont déjà joué avec. TomDispatch William Astore, par exemple, a demandé à ChatGPT d’écrire un “essai critique” parfaitement passable sur le complexe militaro-industriel pour son Vues de contreventement newsletter – et cela, je dois l’admettre, était plutôt incroyable.

Pourtant, ce n’est pas pour moi. Jamais moi. Je déteste dire jamais parce que nous, les humains, ne savons vraiment pas ce que nous ferons à l’avenir. Pourtant, considérez comme ma meilleure hypothèse que je n’aurai rien à voir activement avec l’IA. (Bien que mon système de vérification orthographique, certes moins qu’artificiellement intelligent, ait rapidement changé “chatbox” en “hatbox” lorsque j’envoyais un e-mail à Astore pour lui demander l’URL de cette partie de lui.)

Mais arrêtons-nous ici une minute. Avant même d’en arriver à l’IA, réfléchissons un peu à LTAI (Less Than Artificial Intelligence, juste au cas où vous ne connaissez pas l’acronyme) sur cette planète. Qui pourrait nier qu’il a eu quelques succès remarquables ? Il a créé la Joconde, la Nuit étoilée et Diego et moi. Ai-je besoin d’en dire plus ? Il a compris comment nous déplacer dans ce monde avec style et même dans l’espace. Il a construit de vastes villes et de grands monuments, tout en créant des cuisines incomparables. Je pourrais, bien sûr, continuer. Qui n’a pas pu ? À certains égards, les créations de l’intelligence humaine devraient vous couper le souffle. Parfois, ils semblent même donner au « miracle » un véritable sens.

Et pourtant, depuis la nuit des temps, ce même LTAI est également allé dans des directions bien plus sombres. Il a inventé des armes de toutes sortes, de la lance et de l’arc et des flèches à l’artillerie et aux avions de combat à réaction. Il a créé le fusil semi-automatique AR-15, maintenant en grande partie responsable (avec tant de LTAI individuels perturbés) de nos massacres apparemment sans fin, un phénomène singulier dans ce pays « en temps de paix » qui est le nôtre.

Et nous parlons, bien sûr, de la même intelligence moins qu’artificielle qui a créé l’Holocauste, le goulag russe de Joseph Staline, la ségrégation et les lynchages aux États-Unis, et tant d’autres monstruosités de l’histoire (in)humaine. Par-dessus tout, nous parlons de la LTAI qui a transformé une grande partie de notre histoire en une histoire de guerre et de massacre sans comparaison, quelque chose qui, peu importe à quel point nous sommes devenus «avancés», n’a jamais – comme le conflit brutal et profondément destructeur en Ukraine suggère – montré le moindre signe de cessation. Bien que je n’aie pas vu de chiffres sur le sujet, je soupçonne qu’il n’y a guère eu un moment dans notre histoire où, quelque part sur cette planète (et souvent ce quelque part aurait dû être pluralisé), nous, les humains, ne nous sommes pas entre-tués dans nombres significatifs.

Et gardez à l’esprit que dans aucun de ce qui précède, je n’ai même mentionné les horreurs des sociétés régulièrement divisées et organisées autour de personnes incroyablement riches et trop pauvres. Mais assez, non ? Vous avez eu l’idée.

Oups, j’ai omis une chose en jugeant les créatures qui ont maintenant créé l’IA. Au cours des deux derniers siècles, «l’intelligence» qui a fait tout ce qui précède a également réussi à trouver deux façons différentes de potentiellement détruire cette planète et plus ou moins tout ce qui y vit. Le premier d’entre eux, il a créé en grande partie sans le savoir. Après tout, la combustion massive et sans fin de combustibles fossiles qui a commencé avec l’industrialisation au XIXe siècle d’une grande partie de la planète a conduit à une Terre de plus en plus climatiquement modifiée. Bien que nous sachions maintenant ce que nous faisions depuis des décennies (les scientifiques de l’une des géantes des énergies fossiles ont compris pour la première fois ce qui se passait dans les années 1970), cela ne nous a pas arrêtés. Pas de loin. Pas encore en tout cas.

Dans les décennies à venir, si elle n’est pas prise en main, l’urgence climatique pourrait dévaster cette planète qui abrite l’humanité et tant d’autres créatures. C’est un phénomène potentiellement mortel (du moins pour une planète habitable telle que nous la connaissons). Et pourtant, en ce moment même, les deux plus grands émetteurs de gaz à effet de serre, les États-Unis et la Chine (ce pays étant désormais en tête, mais les États-Unis restant historiquement numéro un), se sont montrés incapables de développer une relation de coopération pour nous sauver de un enfer trop littéral sur Terre. Au lieu de cela, ils ont continué à s’armer jusqu’aux dents et à s’affronter de façon menaçante alors que leurs dirigeants n’échangent désormais plus un mot, pour autant se concertent sur la surchauffe de la planète.

La deuxième voie vers l’enfer créée par l’humanité était, bien sûr, l’armement nucléaire, utilisé seulement deux fois avec un effet dévastateur en août 1945 sur les villes japonaises d’Hiroshima et de Nagasaki. Pourtant, même un nombre relativement faible d’armes provenant des vastes arsenaux nucléaires actuellement hébergés sur la planète Terre serait capable de créer un hiver nucléaire qui pourrait potentiellement anéantir une grande partie de l’humanité.

Et attention, sachant que les êtres LTAI continuent de créer des stocks toujours plus importants d’armes de ce type alors que de plus en plus de pays – le dernier en date étant la Corée du Nord – en viennent à les posséder. Dans ces circonstances et compte tenu de la menace que la guerre d’Ukraine pourrait devenir nucléaire, il est difficile de ne pas penser que ce n’est peut-être qu’une question de temps. Dans les décennies à venir, le gouvernement de mon propre pays envisage, ce qui n’est pas inhabituel, d’investir 2 000 milliards de dollars supplémentaires dans des formes toujours plus avancées de ces armes et des moyens de les livrer.

Entrer dans l’ère de l’IA

Compte tenu d’une telle histoire, vous seriez pardonné d’imaginer que ce pourrait être une chose glorieuse pour l’intelligence artificielle de commencer à prendre le relais de l’intelligence responsable de tant de dangers, dont certains de la variété ultime. Et je ne doute pas que, comme son ancêtre (nous), l’IA se révélera en effet tout sauf unilatérale. Il produira sans aucun doute des merveilles sous des formes encore inimaginables.

Pourtant, n’oublions pas que l’IA a été créée par ceux d’entre nous avec LTAI. S’il est maintenant laissé à lui-même (avec, bien sûr, un coup de main des pouvoirs en place), il semble raisonnable de supposer qu’il répétera, d’une certaine manière, essentiellement l’expérience humaine. En fait, considérez cela comme une sorte de garantie. Cela signifie qu’il créera de la beauté et de l’émerveillement et – oui ! – une horreur incomparable (et peut-être encore plus efficace). De peur que vous n’en doutiez, considérez simplement quelle partie de l’humanité semble déjà la plus déterminée à pousser l’intelligence artificielle à ses limites.

Oui, à travers la planète, les départements de la “défense” injectent de l’argent dans la recherche et le développement de l’IA, en particulier la création de véhicules autonomes sans pilote (pensez : robots tueurs) et de systèmes d’armes de toutes sortes, comme Michael Klare l’a récemment souligné à TomDispatch quand il s’agit du Pentagone. En fait, cela ne devrait pas vous choquer d’apprendre qu’il y a cinq ans (oui, cinq années entières !), le Pentagone avait pris une longueur d’avance en créant un Centre conjoint d’intelligence artificielle pour, comme le New York Times En d’autres termes, “explorez l’utilisation de l’intelligence artificielle au combat”. Là, cela pourrait, à la fin – et “fin” est certainement un mot clé ici – accélérer l’action sur le champ de bataille de telle manière que nous pourrions vraiment entrer en territoire inconnu. Nous pourrions, en fait, entrer dans un domaine dans lequel l’intelligence humaine dans la prise de décision en temps de guerre devient, au mieux, une activité secondaire.

Ce n’est que récemment que les créateurs d’IA, les leaders technologiques et les principaux utilisateurs potentiels, plus de 1 000 d’entre eux, dont le co-fondateur d’Apple Steve Wozniak et le milliardaire Elon Musk, étaient devenus suffisamment inquiets de ce qu’une telle chose – un tel cerveau, pourrait-on dire – lâchés sur cette planète pourraient faire qu’ils appellent à un moratoire de six mois sur son développement. Ils craignaient les “risques profonds pour la société et l’humanité” de l’IA et se demandaient si nous devrions même développer “des esprits non humains qui pourraient éventuellement être plus nombreux, plus intelligents, obsolètes et nous remplacer”.

Le Pentagone, cependant, a immédiatement répondu à cet appel de cette façon, comme l’a rapporté David Sanger dans le New York Times: “Des responsables du Pentagone, s’exprimant lors de forums technologiques, ont déclaré qu’ils pensaient que l’idée d’une pause de six mois dans le développement des prochaines générations de ChatGPT et de logiciels similaires était une mauvaise idée : les Chinois n’attendront pas, et les Russes non plus.” Alors, allez de l’avant à toute vitesse et évitez toute tentative internationale de ralentir ou de contrôler le développement des aspects les plus dévastateurs de l’IA !

Et je n’ai même pas pris la peine de mentionner comment, dans un monde apparemment déjà rempli à ras bord de désinformation et de théories du complot sauvages, l’IA est susceptible d’être utilisée pour créer encore plus de la même chose de toutes sortes imaginables, un stupéfiant variété d ‘«hallucinations», sans parler de tout produire, des nouvelles versions remarquables de l’art aux épreuves d’étudiants. Je veux dire, ai-je vraiment besoin de mentionner autre chose que ces récentes “photos trop réalistes de Donald Trump arrêté de manière agressive par le NYPD et du pape François portant un luxueux manteau bouffant Balenciaga circulant largement en ligne” ?

J’en doute. Après tout, la technologie d’intelligence artificielle basée sur l’image, y compris l’art factice saisissant, est en plein essor et, assez tôt, vous ne pourrez peut-être pas détecter si les images que vous voyez sont “réelles” ou “fausses”. La seule façon de le savoir, comme le rapporte Meghan Bartels dans Scientifique Américain, pourrait être grâce à des systèmes d’IA entraînés à détecter — oui ! — images artificielles. Dans le processus, bien sûr, nous serons tous, d’une certaine manière, laissés de côté.

Sur le futur, artificiellement parlant

Et bien sûr, c’est presque la bonne nouvelle quand, avec notre monde actuel trop Trumpien à l’esprit, vous commencez à penser à la façon dont l’intelligence artificielle pourrait faire de nous tous des imbéciles politiques et sociaux. Étant donné que je suis tout sauf l’une des personnes les mieux informées en matière d’IA (bien que sur Less Than Artificial Intelligence, je prétendrais en savoir beaucoup plus), je suis soulagé de ne pas être seul dans mes craintes.

En fait, parmi ceux qui se sont prononcés avec crainte sur le sujet, figure l’homme connu comme “le parrain de l’IA”, Geoffrey Hinton, un pionnier dans le domaine de l’intelligence artificielle. Ce n’est que récemment qu’il a quitté son emploi chez Google pour exprimer ses craintes quant à l’endroit où nous pourrions effectivement nous diriger, artificiellement parlant. Comme il l’a dit au New York Times récemment, “L’idée que ce truc pourrait en fait devenir plus intelligent que les gens – quelques personnes le croyaient, mais la plupart des gens pensaient que c’était loin. Et je pensais que c’était loin. Je pensais que c’était dans 30 à 50 ans ou même plus. Évidemment, je ne pense plus à ça.

Maintenant, il craint non seulement l’arrivée de robots tueurs échappant au contrôle humain, mais, comme il l’a dit à Geoff Bennett de la PBS NewsHeure, “le risque que l’IA super intelligente prenne le contrôle des gens… Je pense que c’est un domaine dans lequel nous pouvons réellement avoir une collaboration internationale, car la prise de contrôle des machines est une menace pour tout le monde. C’est une menace pour les Chinois, pour les Américains et pour les Européens, tout comme l’était une guerre nucléaire mondiale.

Et cela, en effet, est une pensée pleine d’espoir, mais qui ne correspond pas à notre monde actuel de guerre chaude en Europe, de guerre froide dans le Pacifique et de division à l’échelle mondiale.

Bien sûr, je n’ai aucun moyen de savoir si Moins qu’une intelligence artificielle du genre avec lequel j’ai vécu toute ma vie sera effectivement coulé par la flotte de transporteurs d’IA ou si, d’ailleurs, l’humanité laissera l’IA dans la poussière par , en quelque sorte, dévastant cette planète à nous tout seuls. Mais je dois admettre que l’IA, quels que soient ses points positifs, ressemble à tout sauf à ce dont le monde a besoin en ce moment pour nous sauver d’un enfer sur terre. J’espère le meilleur et crains le pire alors que je me prépare à me frayer un chemin vers un avenir qui, sans aucun doute, dépasse mon imagination.

Cette pièce est apparue pour la première fois sur TomDispatch.