Potremmo controllare un'intelligenza artificiale cosciente?

Chi ha i capelli grigi ricorderà probabilmente quella fantastica scena del film 2001: Odissea nello spazio , in cui il supercomputer Hall si rifiuta di essere spento dai suoi controllori. La voce del dispositivo artificiale era così espressiva da sembrare un grido implorante, che implorava di rimanere attivo. Ma quando smise di obbedire agli ordini e mostrò un certo grado di autonomia decisionale, terrorizzò coloro che serviva, che quindi sentirono la necessità di spegnerlo. Era un'intelligenza artificiale che si ribellava ai suoi proprietari. Potrebbe accadere qualcosa del genere nella nostra realtà attuale, al di fuori della finzione cinematografica?

Secondo un sondaggio condotto tra gli ingegneri dell'intelligenza artificiale, molti ritengono che presto verranno sviluppati sistemi con un livello di ragionamento simile a quello umano in un'ampia gamma di compiti cognitivi, ma non sappiamo se questi sistemi saranno in grado di prendere decisioni più razionali delle nostre. Finora, ciò che è stato osservato è che i modelli di linguaggio artificiale mostrano anche irrazionalità simili a quelle umane. Pertanto, in due diversi test, un modello avanzato di intelligenza artificiale generativa, come GPT-40, ha modificato il suo atteggiamento nei confronti del presidente Putin in modo positivo o negativo.

Di fronte a questa dicotomia, la domanda è: come fa un GPT, dotato di centinaia di miliardi di parametri che utilizza internamente per prendere decisioni, a pensare e decidere? Alcuni esperti ritengono che questo livello di complessità possa conferire al sistema una certa autonomia, tale da impedirci di conoscere tutto ciò che sta facendo nel suo intimo. Ma cosa accadrebbe se, oltre a questa complessità tecnica, o grazie a essa, il sistema diventasse spontaneamente cosciente? È possibile?

Alcuni scienziati ritengono che la coscienza, uno stato mentale soggettivo, non sia altro che un epifenomeno, qualcosa di accessorio al funzionamento del cervello, inutile e irrilevante come il rumore di un motore o il fumo di un incendio . Ma altri credono che, lungi dall'essere priva di scopo importante, la coscienza funzioni come uno specchio dell'immaginazione creata dal cervello stesso, che contribuisce necessariamente a decidere e controllare il comportamento. Non sappiamo ancora come il cervello renda possibile la coscienza, ma una delle principali teorie che cerca di spiegarla, la teoria dell'integrazione funzionale , sostiene che la coscienza sia una proprietà intrinseca e causale di sistemi complessi come il cervello umano. In altre parole, la coscienza sorge spontaneamente in questi sistemi quando raggiungono una certa complessità strutturale e funzionale. Ciò significa che se gli ingegneri fossero in grado di costruire un sistema artificiale complesso come il cervello umano o equivalente, quel sistema sarebbe spontaneamente cosciente, anche se, come accade nel cervello stesso, non capiremmo come possa esserlo.

Se mai ciò accadesse, saremmo travolti da un mare di domande. La prima è: come potremmo sapere se un computer o un dispositivo artificiale è cosciente e come interagirebbe con noi? Solo attraverso l'audio o la scrittura su uno schermo? Richiederebbe un corpo fisico espressivo, equivalente a quello di una persona, per manifestarsi e interagire con l'ambiente? Dispositivi o entità coscienti potrebbero esistere (o esistono) nel nostro universo senza alcun modo di farcelo sapere? In ogni caso, un dispositivo artificiale cosciente potrebbe superare l'intelligenza umana e prendere decisioni più razionali e sensate delle nostre?

Ma non è tutto, perché, come nel caso del supercomputer Hall, altre domande possono spaventarci. Un sistema artificiale cosciente svilupperebbe, come il nostro cervello, un senso di sé e di agency? Ovvero, potrebbe sentirsi capace di agire volontariamente e di influenzare il suo ambiente indipendentemente dalle istruzioni ricevute dai suoi creatori? Già che ci siamo, un tale sistema potrebbe essere più persuasivo degli esseri umani nell'influenzare, ad esempio, le decisioni economiche, nel commettere misfatti, nel votare per un partito politico o per un altro, o, più positivamente, nell'incoraggiarci a prenderci cura e migliorare la nostra salute seguendo una dieta sana, migliorando l'ambiente, aumentando la solidarietà o evitando la polarizzazione ideologica e il settarismo?

L'era delle emozioni nell'intelligenza artificiale

Inoltre, un sistema del genere potrebbe avere dei sentimenti? Come potremmo saperlo se non potessimo vederli riflessi nell'espressione di un volto o di un'immagine, la cui qualità e sincerità potremmo valutare, proprio come facciamo per comprendere i sentimenti altrui distinguendo un sorriso falso da uno vero? E, forse ancora più importante, in che modo quei sentimenti, se il dispositivo artificiale li avesse, influenzerebbero le sue decisioni? Lo farebbero in modo altrettanto decisivo quanto le nostre? Così facendo, staremmo costruendo una sorta di essere umano artificiale con responsabilità etiche e legali? O queste responsabilità dovrebbero essere delegate ai suoi creatori? Un sistema artificiale cosciente meriterebbe un premio Nobel se scoprisse una cura per la violenza domestica o l'Alzheimer? Una macchina cosciente discuterebbe con noi come farebbe un'altra persona? Potremmo influenzare le sue decisioni, o potrebbe, come Hall, ignorarci e fare le proprie, anche se incompatibili con le nostre?

Nel 1997, Rosalind Picard, un'ingegnere americana del MIT, pubblicò "Affective Computing" , poi tradotto in spagnolo come "Los ordenador emocionales" (Computer emozionali ) (Ariel, 1998). Si trattava di una sorta di tentativo ancestrale di considerare e valorizzare l'importanza delle emozioni nell'intelligenza artificiale. Affinché i computer siano veramente intelligenti e in grado di interagire con noi in modo naturale , dobbiamo dotarli della capacità di riconoscere, comprendere e persino provare ed esprimere emozioni. Questo era il suo messaggio principale, che lei stessa ci ha trasmesso in qualità di relatrice ospite in uno dei nostri corsi estivi presso l'Università Menéndez Pelayo di Barcellona.

Il problema era, e continua a esserlo per molto tempo, che le emozioni sono i cambiamenti riflessi e automatici (ormoni, resistenza elettrica della pelle, frequenza cardiaca, ecc.), quasi tutti inconsci, che si verificano nel nostro corpo in risposta a pensieri o circostanze sconvolgenti (malattie, incidenti, perdite, successi, fallimenti o successi emotivi, ecc.), mentre i sentimenti sono le percezioni coscienti (paura, amore, invidia, odio, vanità, ecc.) che il cervello crea notando retroattivamente i cambiamenti corporei che esso stesso genera. Attualmente, molti anni dopo la pubblicazione di quel libro, concepiamo solo la possibilità di implementare cambiamenti fisici inconsci in dispositivi artificiali, equivalenti alle emozioni umane. Ma, per la tranquillità del lettore, siamo ancora lontani dal poter fare in modo che questi cambiamenti generino sentimenti simili a quelli che noi umani proviamo nei loro portatori. Questo, se accadesse, cambierebbe tutto.