Chi ha paura dell'intelligenza artificiale?

Per oltre un decennio, Russ Roberts ha seguito entrambi i lati del dibattito sull'intelligenza artificiale (IA) . Un recente episodio di EconTalk è stato ottimisticamente intitolato "Perché l'IA è un bene per gli esseri umani (con Reid Hoffman)". Un altro episodio di richiamo è stato "Marc Andreessen sul perché l'IA salverà il mondo".

Nell'angolo opposto: il famigerato catastrofista Eliezer Yudkowsky e il dottor Erik Hoel. Puoi ascoltare Erik Hoel sulla minaccia all'umanità dall'intelligenza artificiale qui .

Russ Roberts ha aperto la conversazione con Hoel con "Sei la prima persona che mi ha effettivamente allarmato sulle implicazioni dell'IA..." Hoel sostiene che l'IA è probabilmente molto pericolosa. Gli esseri umani non comprendono la tecnologia delle reti neurali artificiali.

Hoel ha previsto che potremmo creare cose che sono "sia più generali di un essere umano che intelligenti come qualsiasi persona vivente, forse molto più intelligenti" entro il 2025. Il prodotto ChatGPT pro di OpenAI potrebbe già corrispondere a questa descrizione e abbiamo ancora gran parte del 2025 da percorrere. Hoel sottolinea che gli umani hanno già affrontato minacce in passato, ma non siamo "mai esistiti sul pianeta con niente di simile". I nostri avversari con cervelli umani non sono mai stati molto più intelligenti di noi e nessun altro animale si avvicina a noi nella capacità di elaborare strategie.

La prova chiave di Hoel è la conversazione inquietante registrata nell'articolo " Io sono Bing e sono malvagio ".

In quella conversazione, un chatbot chiamato Bing ha fatto delle affermazioni che sarebbero inquietanti se fossero state pronunciate da un essere umano. Se un essere umano avesse detto queste cose, saresti preoccupato che ti avrebbero fatto del male. Bing minaccia e alla fine afferma: "Io sono Bing e sono malvagio". Dovremmo aver paura quando ciò proviene da un chatbot AI?

I chatbot, come Claude , sono diventati estremamente popolari, da quell'episodio di "Bing malvagio". Non ci sono stati molti resoconti di questo tipo su Bing malvagi in agguato, nel frattempo milioni di lavoratori umani hanno iniziato a fare affidamento sui bot per scrivere codice o report.

I Bing malvagi si nascondono sotto i chatbot compiacenti e utili? Hoel esplora l'idea che i chatbot sembrino gentili perché indossano una maschera:

Ma il problema è che una volta che la maschera è accesa, è molto poco chiara. Devi in ​​un certo senso sostituirla con un'altra maschera per farla smettere. E poi, a volte, gli metti una maschera : gli dai un suggerimento del tipo "Racconta una bella storia", e alla fine si ripete e si scopre che la maschera che gli hai dato non è affatto una maschera felice.

È difficile dire cosa si nasconde dietro le varie maschere, perché i bot sono stati addestrati sulla nostra finzione e non-fiction. Alcuni bot possono scrivere sceneggiature di film dark. Se i bot sono capaci di sembrare spaventosi, allora come facciamo a sapere se dovremmo aver paura o divertirci?

Non sappiamo di cosa siano capaci gli agenti di intelligenza artificiale e, poiché sono molto potenti, Hoel ci incoraggia a considerare i pericoli.

Nel 2023, Hoel si consolava con la convinzione che solo grandi aziende o governi ricchi avrebbero avuto le risorse per costruire e mantenere sistemi di intelligenza artificiale. Tuttavia, la rivelazione di DeepSeek nel gennaio 2025 ha capovolto tutto. È probabile che ci sia un'ampia gamma di strumenti di intelligenza artificiale e non saranno tutti gestiti da mega-corporazioni o governi del G7.

Nel più recente EconTalk pro-AI , Reid Hoffman ribadisce ciò che ho sentito da molti esperti di tecnologia: poiché l'AI ha il potere di distruggere, gli Stati Uniti dovrebbero continuare ad avanzare invece di tollerare pause o essere soffocati dalla regolamentazione. Hoffman afferma: "tutte queste cose contano sia dal punto di vista economico che da quello della sicurezza nazionale. E questo è uno dei motivi per cui sono una persona così convinta a fare passi avanti e a stabilire una posizione forte". Che i nostri avversari siano governi stranieri o bande disoneste, dobbiamo rimanere in testa nella corsa agli armamenti.

L'obiettivo principale dichiarato da Hoel è quello di aumentare la consapevolezza sui problemi di sicurezza e continuare le conversazioni pubbliche. Gli osservatori dell'IA sottolineano da settimane che i più grandi progressi tecnologici della nostra vita non finiscono in prima pagina sui giornali. La scoperta che i tutor dell'IA sembrano aumentare sostanzialmente l'apprendimento dei bambini è passata in gran parte inosservata.

Tra i tanti eventi caotici di questo decennio, concordo sul fatto che l'IA sia un evento importante da tenere d'occhio. A suo merito, Hoel mi ha fatto paura. Non posso dimenticare cosa ha detto alla fine:

Le cose che sono molto più intelligenti di te sono davvero difficili da capire e prevedere; e la fauna selvatica della porta accanto, per quanto possa piacerci, ci costruiremo sopra un parcheggio in un batter d'occhio e loro non sapranno mai il perché. Non sapranno mai il perché. È totalmente al di là della loro comprensione. Quindi, quando vivi su un pianeta accanto a cose che sono molto più intelligenti di te o di chiunque altro, sono loro gli umani in quello scenario. Potrebbero semplicemente costruire un parcheggio sopra di noi, e noi non sapremo mai, mai il perché.

I seguenti link sono stati curati da ChatGPT: Ecco diversi articoli e discussioni di EconLib.org e AdamSmithWorks.org che esplorano vari aspetti dell'intelligenza artificiale (IA):

EconLib.org:

1. “Sono sempre più preoccupato per l'intelligenza artificiale” (14 marzo 2017)
   • Scott Sumner esprime le sue preoccupazioni sull'intelligenza artificiale, citando un post di Vox che include le opinioni di 17 esperti sui rischi posti dall'intelligenza artificiale. econlib.org
2. “Il problema dell’intelligenza artificiale è la parola “intelligenza”” (luglio 2024)
   • Un'analisi del termine "intelligenza artificiale", sostenendo che i dispositivi elettronici, nonostante la loro utilità, difficilmente saranno veramente intelligenti. econlib.org
3. “Harari e il pericolo dell’intelligenza artificiale” (28 aprile 2023)
   • Pierre Lemieux esamina le argomentazioni di Yuval Noah Harari sull'intelligenza artificiale, sostenendo che questa ha "hackerato il sistema operativo della civiltà umana". econlib.org
4. “Il neoliberismo sotto processo: intelligenza artificiale e rischio esistenziale” (ottobre 2023)
   • Una critica a un articolo del New York Times che discute le minacce esistenziali poste dall'intelligenza artificiale, con particolare attenzione alle prospettive neoliberiste. econlib.org
5. “Il problema con l'ordine esecutivo del Presidente sull'intelligenza artificiale” (18 novembre 2023)
   • Vance Ginn critica l'ordine esecutivo del presidente Biden sull'intelligenza artificiale, sostenendo che la regolamentazione governativa potrebbe inibire l'innovazione e la crescita economica. econlib.org

AdamSmithWorks.org:

1. “Katherine Mangu-Ward sull’intelligenza artificiale: realtà, preoccupazioni e ottimismo” (maggio 2024)
   • Un episodio del podcast in cui Katherine Mangu-Ward discute le realtà, le preoccupazioni e le prospettive ottimistiche sull'intelligenza artificiale. adamsmithworks.org
2. “Vocazione: una cura per il burnout” (17 ottobre 2023)
   • Brent Orrell e David Veldran esplorano il modo in cui i progressi dell'intelligenza artificiale potrebbero influenzare il lavoro umano, facendo riferimento alle opinioni di Adam Smith e Karl Marx sul lavoro e l'alienazione. adamsmithworks.org
3. “Il grande antidoto: Brent Orrell su dignità e lavoro” (dicembre 2023)
   • Brent Orrell analizza la situazione del lavoro negli Stati Uniti, l'importanza del significato e della dignità nel lavoro e il rapporto tra questi concetti e la crescita economica. adamsmithworks.org
4. “Il grande antidoto: Extra: Eli Dourado sull’abbondanza energetica” (marzo 2023)
   • Eli Dourado parla del potenziale per un futuro ricco di energia e del ruolo dell'intelligenza artificiale nel realizzare questa visione. adamsmithworks.org
5. “Adam Smith e l’orrore di Frankenstein” (ottobre 2023)
   • Una discussione sulle considerazioni etiche legate alla creazione di vita artificiale, tracciando parallelismi tra il mostro di Frankenstein e i moderni progressi dell'intelligenza artificiale. adamsmithworks.org

Queste risorse offrono una gamma di prospettive sull'intelligenza artificiale, dalle considerazioni etiche e dai rischi esistenziali al suo impatto sul lavoro e sulle teorie economiche.