Kunnen wij een bewuste kunstmatige intelligentie besturen?

Mensen met grijs haar zullen zich waarschijnlijk die fantastische scène uit de film 2001: A Space Odyssey herinneren, waarin de supercomputer Hall weigert zich door zijn controllers te laten uitschakelen. De stem van het kunstmatige apparaat was zo expressief dat het klonk als een smekende kreet, die smeekte om actief te blijven. Maar toen het apparaat stopte met het opvolgen van bevelen en een zekere mate van beslissingsautonomie vertoonde, jaagde het de mensen die het diende angst aan, en dus vonden ze het nodig om het uit te schakelen. Het was kunstmatige intelligentie die in opstand kwam tegen zijn eigenaren. Zou zoiets in onze huidige realiteit kunnen gebeuren, buiten de filmische fictie?

Volgens een enquête onder AI-ingenieurs geloven velen dat er binnenkort systemen zullen worden ontwikkeld met een niveau van redeneren dat vergelijkbaar is met dat van de mens voor een breed scala aan cognitieve taken. We weten echter niet of deze systemen in staat zullen zijn om rationelere beslissingen te nemen dan de onze. Tot nu toe is waargenomen dat kunstmatige taalmodellen ook menselijke irrationaliteiten vertonen. Zo veranderde in twee verschillende tests een geavanceerd generatief AI-model – zoals GPT-40 – zijn houding ten opzichte van president Poetin , zowel positief als negatief.

Geconfronteerd met deze tweedeling rijst de vraag: hoe denkt en beslist een GPT, uitgerust met honderden miljarden parameters die het intern gebruikt om beslissingen te nemen? Sommige experts geloven dat dit niveau van complexiteit het systeem een zekere autonomie kan geven, waardoor we niet eens alles weten wat het in zijn diepste wezen doet. Maar wat zou er gebeuren als het systeem, naast of dankzij deze technische complexiteit, spontaan bewust zou worden? Is dat mogelijk?

Sommige wetenschappers geloven dat bewustzijn, een subjectieve gemoedstoestand, niets meer is dan een epifenomeen – iets incidenteels aan de werking van de hersenen, net zo onnodig en onbelangrijk als het geluid van een motor of de rook van een vuur . Maar anderen geloven dat bewustzijn, verre van geen belangrijk doel te dienen, juist functioneert als een spiegel van de verbeelding die door de hersenen zelf wordt gecreëerd, en die noodzakelijkerwijs bijdraagt aan het bepalen en controleren van gedrag. We weten nog steeds niet hoe de hersenen bewustzijn mogelijk maken, maar een van de belangrijkste theorieën die dit probeert te verklaren, de theorie van functionele integratie , stelt dat bewustzijn een intrinsieke en causale eigenschap is van complexe systemen zoals het menselijk brein. Dat wil zeggen, bewustzijn ontstaat spontaan in deze systemen wanneer ze een bepaalde structurele en functionele complexiteit bereiken. Dit betekent dat als ingenieurs een kunstmatig systeem zouden kunnen bouwen dat zo complex is als het menselijk brein of daaraan gelijkwaardig, dat systeem spontaan bewust zou zijn, zelfs als we, zoals in de hersenen zelf gebeurt, niet zouden begrijpen hoe dat mogelijk is.

Mocht dat ooit gebeuren, dan overspoelt een zee van vragen ons. De eerste is: hoe weten we of een computer of kunstmatig apparaat bewust is en hoe het met ons zou interacteren ? Is dat alleen via audio of tekst op een scherm? Zou er een expressief fysiek lichaam, vergelijkbaar met dat van een mens, nodig zijn om zich te manifesteren en met zijn omgeving te interacteren? Zouden bewuste apparaten of entiteiten in ons universum kunnen bestaan (of bestaan ze) zonder dat we er iets van merken? Zou een bewust kunstmatig apparaat de menselijke intelligentie kunnen overtreffen en rationelere en weloverwogen beslissingen kunnen nemen dan wij?

Maar dat is niet alles, want net als in het geval van de Hall-supercomputer kunnen andere vragen ons beangstigen. Zou een bewust kunstmatig systeem, net als ons brein, een gevoel van eigenwaarde en handelingsbekwaamheid ontwikkelen? Dat wil zeggen, zou het zich in staat kunnen voelen om vrijwillig te handelen en zijn omgeving te beïnvloeden, onafhankelijk van de instructies die het van zijn makers heeft ontvangen? En nu we het er toch over hebben: zou zo'n systeem overtuigender kunnen zijn dan mensen in het beïnvloeden van bijvoorbeeld economische beslissingen, het plegen van misdaden, het stemmen op de ene of de andere politieke partij, of, positiever, in het aanmoedigen van ons om voor onze gezondheid te zorgen en deze te verbeteren door gezond te eten, het milieu te verbeteren, solidariteit te vergroten of ideologische polarisatie en sektarisme te vermijden?

Het tijdperk van emoties in AI

Bovendien, zou zo'n systeem gevoelens kunnen hebben? Hoe zouden we dat weten als we ze niet weerspiegeld zouden zien in de uitdrukking van een gezicht of afbeelding, waarvan we de kwaliteit en oprechtheid zouden kunnen beoordelen, net zoals we dat doen om de gevoelens van anderen te begrijpen door een neppe glimlach van een echte te onderscheiden? En, misschien wel het belangrijkste, hoe zouden die gevoelens, als het kunstmatige apparaat ze had, zijn beslissingen beïnvloeden? Zouden ze dat net zo beslissend doen als de onze? Zouden we daarmee een soort kunstmatige mens construeren met ethische en juridische verantwoordelijkheden? Of zouden die verantwoordelijkheden gedelegeerd moeten worden aan zijn scheppers? Zou een bewust kunstmatig systeem een Nobelprijs verdienen als het een remedie zou ontdekken voor huiselijk geweld of Alzheimer? Zou een bewuste machine met ons in discussie gaan zoals een ander mens dat zou doen? Zouden we zijn beslissingen kunnen beïnvloeden, of zou het, net als Hall, ons kunnen negeren en zijn eigen beslissingen kunnen nemen, zelfs als die onverenigbaar zijn met de onze?

In 1997 publiceerde Rosalind Picard, een Amerikaanse ingenieur van MIT, Affective Computing , later in het Spaans vertaald als Los ordenador emocionales (Emotionele Computers ) (Ariel, 1998). Het was een soort voorouderlijke poging om het belang van emoties in kunstmatige intelligentie te erkennen en te waarderen. Willen computers echt intelligent zijn en op een natuurlijke manier met ons kunnen communiceren, dan moeten we ze uitrusten met het vermogen om emoties te herkennen, te begrijpen, en zelfs te hebben en te uiten. Dit was haar belangrijkste boodschap, die ze persoonlijk aan ons overbracht als gastspreker tijdens een van onze zomercursussen aan de Universiteit Menéndez Pelayo in Barcelona.

Het probleem was, en is nog lang daarna zo gebleven, dat emoties reflexmatige en automatische veranderingen zijn (hormonen, elektrische weerstand van de huid, hartslag, enz.), bijna allemaal onbewust, die in ons lichaam optreden als reactie op schokkende gedachten of omstandigheden (ziekte, ongelukken, verlies, successen, mislukkingen of emotionele successen, enz.), terwijl gevoelens de bewuste waarnemingen zijn (angst, liefde, afgunst, haat, ijdelheid, enz.) die de hersenen creëren door achteraf de lichamelijke veranderingen op te merken die ze zelf veroorzaken. Momenteel, vele jaren na de publicatie van dat boek, kunnen we ons alleen nog maar de mogelijkheid voorstellen om onbewuste fysieke veranderingen in kunstmatige apparaten toe te passen, gelijkwaardig aan menselijke emoties. Maar voor de gemoedsrust van de lezer zijn we er nog lang niet aan toe om deze veranderingen gevoelens te laten opwekken zoals wij mensen die in hun dragers hebben. Dat, als dat zou gebeuren, zou alles veranderen.