L’intelligence artificielle a beaucoup d’avantages potentiellement énormes, mais elle est aussi grande et effrayante car elle pourrait devenir incontrôlable et éventuellement mettre fin à toute vie humaine, selon certains scientifiques. Et donc, naturellement, les entreprises technologiques qui sont prêtes à tirer profit de la menace singent l’une des grandes et effrayantes industries d’origine : Big Tobacco.
C’est le sens d’une étude récente signalée pour moi par le Dr Max Tegmark après notre fascinante et terrifiante Temps de levier discussion sur ses terribles avertissements d’IA qui ont fait la une des journaux à travers la planète.
Tegmark compare la situation à l’intrigue de Ne lève pas les yeux, dans lequel les experts vantent les avantages de la comète entrante plutôt que de sonner l’alarme sur ses dangers. L’article de 2021 qu’il m’a envoyé offre quelques réponses sur les raisons : il montre comment la Big Tech a infiltré les institutions universitaires qui étudient et promeuvent souvent l’IA – sans se soucier des inconvénients potentiellement catastrophiques.
Les chercheurs de l’Université de Toronto et de Harvard qui ont dirigé l’étude proposent une conclusion : “Tout comme Big Tobacco a mis à profit son financement et ses initiatives pour identifier les universitaires qui seraient réceptifs aux postes de l’industrie et qui, à leur tour, pourraient être utilisés pour lutter contre la législation et lutter contre les litiges, Big Tech tire parti de sa puissance et de sa structure de la même manière.
Leur preuve est dans les données. Parmi les facultés de recherche menant à la permanence dans les universités qu’ils ont étudiées, “58% des professeurs d’éthique de l’IA se tournent vers la Big Tech pour de l’argent” et lorsque “l’élargissement des critères de financement pour inclure le financement des diplômés ainsi que l’expérience de travail antérieure, nous notons que 97% des professeurs avec des sources de financement connues (65% au total) ont reçu une compensation financière de Big Tech.
Les chercheurs expliquent ce que cela signifie :
Big Tech est capable d’influencer ce que [faculty] travailler sur. En effet, pour apporter des fonds à la recherche, les professeurs seront contraints de modifier leur travail pour être plus réceptifs aux vues de Big Tech. Cette influence peut se produire même sans l’intention explicite de manipulation, si ceux qui demandent des bourses et ceux qui décident qui méritent un financement ne partagent pas les mêmes points de vue sous-jacents sur ce qu’est l’éthique ou comment elle « devrait être résolue ».
Si vous voulez une preuve récente de cette influence, jetez un coup d’œil à ce rapport de Reuters montrant que Google “a décidé de resserrer le contrôle sur les articles de ses scientifiques en lançant une revue des” sujets sensibles “et, dans au moins trois cas, a demandé aux auteurs de s’abstenir de diffuser sa technologie sous un jour négatif.
Notamment, une partie du financement de la recherche sur l’IA par Big Tech va spécifiquement à des experts en éthique de l’IA souvent cités dans les médias. Les dirigeants de ces entreprises comprennent le pouvoir politique de ces experts et de leurs recherches. Citant un collaborateur du Sénat américain, la journaliste Rana Foroohar raconte cela dans Ne sois pas méchant:
« Il s’agit de capture sociale et intellectuelle, qui est en fait beaucoup plus efficace à court et à long terme. Google soutient les chercheurs travaillant dans des domaines complémentaires aux intérêts commerciaux de Google et/ou contraires aux intérêts commerciaux de ses concurrents ; des choses comme l’assouplissement des lois sur le droit d’auteur, la réforme des brevets, la neutralité du net, l’économie du laissez-faire, la vie privée, les robots, l’IA, la propriété des médias. . . . Ils le font via des subventions directes aux chercheurs, le financement de leurs centres et laboratoires, des conférences, des contributions à des groupes de la société civile et en les envoyant aux événements de Google.
De cette façon, l’entreprise non seulement construit la bonne volonté, mais réussit à “préparer les porte-drapeaux académiques, des universitaires éminents qui conduiront leurs pairs plus jeunes dans une direction plus favorable à l’entreprise”, explique l’assistant.
À l’heure actuelle, tout cela se joue surtout dans l’UE, où les lobbyistes de la technologie tentent d’édulcorer les réglementations sur l’IA au milieu des avertissements selon lesquels la technologie pourrait constituer une menace existentielle pour toute vie sur la planète. Ici aux États-Unis, politique a vanté une «ruée vers l’or» du lobbying de l’IA à Washington, alors que les entreprises et la machine d’influence de K Street ont des signes de dollar dans les yeux.
Ces Peter Isherwell du monde réel ne veulent pas que les législateurs connaissent – ou légifèrent contre – les dangers potentiels, car cela pourrait entraver ce qu’un nouveau mémo de Morgan Stanley note : « L’informatique cognitive crée des opportunités d’investissement potentielles, à mesure que les entreprises développent le technologie et l’utiliser pour transformer leur entreprise.
Alors qu’ils cherchent à protéger ce potentiel d’investissement, les dirigeants de la technologie et leurs lobbyistes utiliseront sans aucun doute des documents de recherche universitaires d’experts liés à des entreprises pour faire valoir leurs arguments – et dans de nombreux cas, les décideurs politiques pourraient même ne pas connaître ces liens.
C’était l’astuce de Big Tobacco il y a quelques décennies – et c’est maintenant la stratégie de Big Tech aujourd’hui.
La source: jacobin.com
