Qui a peur de l’intelligence artificielle ?

Depuis plus d’une décennie, Russ Roberts couvre les deux côtés du débat sur l’intelligence artificielle (IA) . Un épisode récent d’EconTalk s’intitule avec optimisme « Pourquoi l’IA est bonne pour les humains (avec Reid Hoffman) ». Un autre épisode de soutien est « Marc Andreessen sur les raisons pour lesquelles l’IA sauvera le monde ».

Dans le coin opposé : le tristement célèbre doomer Eliezer Yudkowsky et le Dr Erik Hoel. Vous pouvez écouter Erik Hoel sur la menace que représente l'IA pour l'humanité ici .

Russ Roberts a ouvert la conversation avec Hoel en disant : « Vous êtes la première personne qui m’a réellement fait m’inquiéter des implications de l’IA… » Hoel soutient que l’IA est peut-être très dangereuse. Les humains ne comprennent pas la technologie des réseaux neuronaux artificiels.

Hoel a prédit que nous pourrions créer des choses qui sont « à la fois plus générales qu’un être humain et aussi intelligentes que n’importe quelle personne vivante – peut-être même beaucoup plus intelligentes » d’ici 2025. Le produit ChatGPT pro d’OpenAI correspond peut-être déjà à cette description, et il nous reste encore la majeure partie de l’année 2025 à vivre. Hoel souligne que les humains ont déjà été confrontés à des menaces, mais que nous n’avons « jamais existé sur la planète avec quelque chose de semblable ». Nos adversaires dotés d’un cerveau humain n’ont jamais été beaucoup plus intelligents que nous, et aucun autre animal ne nous approche en termes de capacité à élaborer des stratégies.

La preuve principale de Hoel est la conversation effrayante enregistrée dans l'article « Je suis Bing, et je suis méchant ».

Au cours de cette conversation, un chatbot appelé Bing a fait des déclarations qui seraient dérangeantes venant d’un humain. Si un humain disait ces choses, vous craindriez qu’il vous fasse du mal. Bing a proféré des menaces et a finalement déclaré : « Je suis Bing et je suis le mal. » Devrions-nous avoir peur lorsque cela vient d’un chatbot IA ?

Les chatbots, comme Claude , sont devenus extrêmement populaires depuis l'épisode du « Bing maléfique ». Il n'y a pas eu beaucoup de rapports de ce genre sur les Bings maléfiques qui rôdent, alors que des millions de travailleurs humains en sont venus à compter sur les bots pour écrire du code ou des rapports.

Les méchants Bings se cachent-ils derrière les chatbots complaisants et serviables ? Hoel explore l'idée selon laquelle les chatbots semblent gentils parce qu'ils portent un masque :

Mais le problème est qu'une fois que le masque est posé, il n'est pas très clair. Il faut en quelque sorte le remplacer par un autre masque pour qu'il s'arrête. Et puis, parfois, vous lui mettez un masque : vous lui donnez une invite du genre « Raconte une très belle histoire », et il finit par se retourner et il s'avère que le masque que vous lui avez donné n'est pas du tout un masque joyeux.

Il est difficile de savoir ce qui se cache derrière les différents masques, car les robots ont été entraînés à utiliser nos fictions et nos non-fictions. Certains robots peuvent écrire des scénarios de films sombres. Si les robots sont capables de paraître effrayants, comment savoir si nous devons avoir peur ou nous amuser ?

Nous ne savons pas de quoi sont capables les agents IA, et comme ils sont très puissants, Hoel nous encourage à considérer les dangers.

En 2023, Hoel se rassurait en pensant que seules les très grandes entreprises ou les gouvernements riches auraient les ressources nécessaires pour construire et maintenir des systèmes d’IA. Cependant, la révélation de DeepSeek en janvier 2025 a bouleversé cette idée. Il est probable qu’il existe une large gamme d’outils d’IA, et ils ne seront pas tous gérés par des méga-entreprises ou des gouvernements du G7.

Dans son dernier EconTalk pro-IA , Reid Hoffman réitère ce que j’ai entendu de la part de nombreux experts en technologie : l’IA ayant le pouvoir de détruire, les États-Unis devraient continuer à progresser au lieu de tolérer des pauses ou d’être étouffés par la réglementation. Hoffman déclare : « Tout cela est important à la fois du point de vue économique et de la sécurité nationale. Et c’est en partie la raison pour laquelle je suis si déterminé à aller de l’avant et à établir une position forte. » Que nos adversaires soient des gouvernements étrangers ou des gangs voyous, nous devons garder une longueur d’avance dans la course aux armements.

L’objectif principal de Hoel est de sensibiliser le public aux problèmes de sécurité et de poursuivre le débat public. Les observateurs de l’IA soulignent depuis des semaines que les plus grandes avancées technologiques de notre époque ne font pas la une des journaux. La découverte selon laquelle les tuteurs IA semblent améliorer considérablement l’apprentissage des enfants est passée largement inaperçue.

Parmi les nombreux événements chaotiques de cette décennie, je suis d'accord pour dire que l'IA est un sujet important à surveiller. À son crédit, Hoel m'a fait peur. Je ne peux pas oublier ce qu'il a dit à la fin :

Les choses qui sont bien plus intelligentes que vous sont vraiment difficiles à comprendre et à prédire. Et la vie sauvage d'à côté, même si nous l'aimons beaucoup, nous construirons aussi un parking au-dessus d'elle en un clin d'œil et ils ne sauront jamais pourquoi. Ils ne sauront jamais pourquoi. C'est totalement au-delà de leur entendement. Donc, lorsque vous vivez sur une planète à côté de choses qui sont bien plus intelligentes que vous ou n'importe qui d'autre, ce sont eux les humains dans ce scénario. Ils pourraient bien construire un parking au-dessus de nous, et nous ne saurons jamais, jamais pourquoi.

Les liens suivants ont été organisés par ChatGPT : Voici plusieurs articles et discussions d’EconLib.org et d’AdamSmithWorks.org qui explorent divers aspects de l’intelligence artificielle (IA) :

EconLib.org:

1. « Je m’inquiète de plus en plus de l’IA » (14 mars 2017)
   • Scott Sumner discute des préoccupations concernant l'IA, en faisant référence à un article de Vox qui comprend les points de vue de 17 experts sur les risques posés par l'intelligence artificielle. econlib.org
2. « Le problème avec l’IA, c’est le mot « intelligence » » (juillet 2024)
   • Une analyse du terme « intelligence artificielle », affirmant que les appareils électroniques, malgré leur utilité, ne seront probablement jamais véritablement intelligents. econlib.org
3. « Harari et le danger de l’intelligence artificielle » (28 avril 2023)
   • Pierre Lemieux examine les arguments de Yuval Noah Harari sur l’IA, suggérant que l’IA a « piraté le système d’exploitation de la civilisation humaine ». econlib.org
4. « Le néolibéralisme à l’épreuve : intelligence artificielle et risque existentiel » (octobre 2023)
   • Critique d’un article du New York Times traitant des menaces existentielles posées par l’IA, en mettant l’accent sur les perspectives néolibérales. econlib.org
5. « Le problème avec le décret présidentiel sur l’IA » (18 novembre 2023)
   • Vance Ginn critique le décret du président Biden sur l'IA, affirmant que la réglementation gouvernementale pourrait entraver l'innovation et la croissance économique. econlib.org

AdamSmithWorks.org:

1. « Katherine Mangu-Ward sur l’IA : réalité, inquiétudes et optimisme » (mai 2024)
   • Un épisode de podcast dans lequel Katherine Mangu-Ward discute des réalités, des préoccupations et des perspectives optimistes sur l'IA. adamsmithworks.org
2. « La vocation : un remède contre le burn-out » (17 octobre 2023)
   • Brent Orrell et David Veldran étudient la manière dont les avancées de l’IA pourraient affecter le travail humain, en faisant référence aux points de vue d’Adam Smith et de Karl Marx sur le travail et l’aliénation. adamsmithworks.org
3. « Le grand antidote : Brent Orrell sur la dignité et le travail » (décembre 2023)
   • Brent Orrell discute de l’état du travail aux États-Unis, de l’importance du sens et de la dignité au travail et de la manière dont ces concepts sont liés à la croissance économique. adamsmithworks.org
4. « Le grand antidote : supplément : Eli Dourado sur l’abondance énergétique » (mars 2023)
   • Eli Dourado parle du potentiel d’un avenir abondant en énergie et du rôle de l’IA dans la réalisation de cette vision. adamsmithworks.org
5. « Adam Smith et l’horreur de Frankenstein » (octobre 2023)
   • Une discussion sur les considérations éthiques liées à la création de vie artificielle, établissant des parallèles entre le monstre de Frankenstein et les avancées modernes de l'IA. adamsmithworks.org

Ces ressources offrent une gamme de perspectives sur l’IA, allant des considérations éthiques et des risques existentiels à son impact sur le travail et les théories économiques.