Interview met Daniel Innerarity. Kunstmatige intelligentie droomt ervan de kunsten te herdefiniëren: tussen creativiteit en simpele herhaling.

Trump kondigde een investering van 92 miljard dollar aan in kunstmatige intelligentie (AI) in datacenters in Pennsylvania . Mark Zuckerberg van Meta is van plan "honderden miljarden dollars" te investeren in infrastructuur voor kunstmatige intelligentie (AI). Wat is zijn beoogde doel? Het bouwen van een "superintelligentie". Al enkele jaren wordt beweerd dat Meta achterloopt op het gebied van generatieve AI , gedomineerd door OpenAI sinds de lancering van ChatGPT , en door Google . Ze hebben allemaal één ding gemeen: ze streven ernaar een zogenaamde "algemene" of "superintelligente" AI te creëren, met cognitieve vermogens die superieur zijn aan die van mensen, die in staat is om zelfstandig wetenschappelijke ontdekkingen te doen en technologieën uit te vinden. We maken een revolutie door. En dit heeft zeker gevolgen voor het culturele veld en de ruimtes eromheen.

De eerste stap om dieper in dit oneindige en onzichtbare gebied te duiken, is weten hoe je een opdracht schrijft. Wat is het? Het is de instructie, vraag of verzoek die aan een AI-systeem wordt gegeven om een specifiek antwoord te krijgen. Wanneer het nauwkeurig, volledig en vindingrijk is, levert het betere resultaten op het scherm op. Sterker nog, particuliere universiteiten over de hele wereld bieden al korte cursussen van twee maanden aan over "Het schrijven van een goede opdracht". De techno-optimist die dit doceert, heeft een nieuwe baan gevonden.

Daniel Innerarity is een Spaanse filosoof en hoogleraar Kunstmatige Intelligentie & Democratie aan het Europees Instituut van Florence , waar hij het Instituut voor Democratisch Bestuur leidt. Hij publiceerde onlangs Een kritische theorie over kunstmatige intelligentie (Galaxia Gutenberg) en legt onder andere uit of AI intelligent kan worden: "Kunstmatige intelligentie, zoals het bekendstaat, is alleen intelligent als we het woord intelligentie verkeerd gebruiken. Het heeft aspecten die sterk lijken op activiteiten die wij mensen uitvoeren, sommige zelfs beter dan de onze, zoals het vermogen om te rekenen, om te gaan met data, enzovoort. Dit zijn enkele van de fundamentele eigenschappen die wij mensen bezitten", merkt hij op met zijn krachtige stem vanuit Spanje.

–Velen vieren het feit dat het mogelijk is om niet te herkennen of een schilderij door een mens of een AI is gemaakt. Welke implicaties heeft deze positie voor deze en andere culturele disciplines?

– Alle kunsten in het algemeen, met name muziek en schilderkunst, maken een spectaculaire ontwikkeling door dankzij AI-processen, en bovenal wordt het voor veel mensen steeds haalbaarder om muziek te maken, te componeren en te schilderen op manieren die onvoorstelbaar zijn. AI heeft echter grenzen. Het is goed mogelijk dat de moeilijkheid niet zozeer ligt in het creëren van schilderijen zoals die van Van Gogh , of het uitbreiden van Beethovens symfonieën en Bachs sonates, maar in het bedenken van een nieuwe Bach, Beethoven of Van Gogh. De originaliteit van deze genieën was niet te danken aan AI. Een andere factor is dat we, toen deze genieën eenmaal bestonden, hun werk en hun fantastische artistieke strategieën kennen. AI kan het aantal van hun werken vergroten; is dat een probleem? Nee, of we een nieuw genie met die eigenschappen kunnen bedenken, is een andere vraag.

–Wat is er nog over van Walter Benjamins baanbrekende essay "Het kunstwerk in het tijdperk van de technische reproductie"? Vraagt iemand zich af hoe het zit met die aura?

– Dankzij AI en het gemak waarmee het kunstwerken naar onze smaak samenstelt, schildert, personaliseert en aanpast, is het duidelijk geworden dat het idee van creativiteit minder exclusief is en binnen het bereik van meer mensen ligt dan voorheen. Tegenwoordig is iedereen met een telefoon fotograaf geworden. Betekent dit dat we allemaal op het niveau van de grote fotografen uit de geschiedenis zullen komen? Waarschijnlijk niet, maar we kunnen dingen van een zekere waarde creëren zonder dat ze exclusief of vooral toegankelijk hoeven te zijn voor een selecte groep.

–Waar is het idee van creativiteit in veranderd? Is AI-kunst kunst of herhaling?

– Door AI gegenereerde kunst is kunst die de patronen in een schilderij van Van Gogh of een sonate van Bach heel goed vastlegt en op een ietwat originele manier combineert. Die patronen bestonden al, en uiteindelijk is de creativiteit ervan een soort combinatorische benadering, niet zozeer een bijzonder intense originaliteit.

– Steeds meer mensen vragen ChatGPT alles, googelen veel minder en brengen minder tijd door op sociale media. Alles draait om chat en er zijn al bevestigde verslaafden. Wat vind jij van deze situatie?

– Generatieve intelligentie en taalmodellen vervangen en verfijnen de simpele zoektechnologie die vertegenwoordigt wat verouderd raakt. Chat heeft een grotere invloed en interventie dan een traditionele zoekmachine. Erkend moet worden dat traditionele zoekmachines ook een pre-designelement hadden dat mogelijke zoekopdrachten configureerde; dat wil zeggen, het waren geen willekeurige zoekopdrachten, maar zoekopdrachten die door ontwerpers werden aangestuurd. Maar deze nieuwe chatbots zorgen voor een intensere vorm van interactie met mensen, en ik denk dat dit ertoe heeft geleid dat Google ook AI-processen in zijn zoekopdrachten heeft opgenomen.

– Er zijn mensen die beweren dat de "onechte taal" die voortkomt uit machines, robots en AI talen zoals het Spaans vernietigt. Wat is jouw mening hierover?

–Ik denk dat de analogie met wat er gebeurt met degenen onder ons die Engels niet als moedertaal hebben, maar het wel gebruiken in onze communicatie, in ons onderwijs en in wetenschappelijke gesprekken, nuttig zou kunnen zijn. Wij gebruiken een standaard Engels met weinig rijkdom, met weinig nuances. Iets wat bijvoorbeeld ook merkbaar is wanneer je een vertaler inschakelt. Ze zijn enorm effectief, en hun aanpak is bijna onbetwistbaar wanneer het gaat om begrijpelijke taal met weinig betekenis. Ze missen de rijkdom van moedertalen wanneer je nuances, ironie, dubbele betekenissen en impliciete toespelingen wilt verkennen, en dit heeft er al toe geleid dat het Engels dat gebruikt wordt in wetenschappelijke communicatie – dat je verwerft door het lezen van wetenschappelijke tijdschriften van welke aard dan ook – bijzonder slecht Engels is.

Hier zal een evenwicht moeten worden gevonden. Ik denk dat het heel belangrijk is dat het ene niveau het andere niet uitschakelt. Er moet een universele communicatietaal zijn, maar we moeten ook de taaldiversiteit beschermen, omdat het in essentie gaat om het beschermen van de diversiteit en de wereldbeelden van het menselijk vermogen tot nuance, voor een taal die rijk is aan betekenis en ons dichter bij een heel specifiek gebied van de mens brengt: ambiguïteit, ironie, onnauwkeurigheid, dubbele betekenissen en het impliciete – iets wat een AI-vertaler moeilijk kan vatten.

– Wat betekent dit voor de natuur? Zal AI ermee kunnen interacteren om haar te beschermen? Of zal ze dat doen om er meer winst uit te halen?

–AI heeft een problematische relatie met de natuur. We beschrijven het als een onschadelijke technologie vanuit het perspectief van de milieu-impact, terwijl het in werkelijkheid minder wolkenachtig is dan men zegt en meer materie, zeldzame metalen, mensen die onder zware omstandigheden werken, afvalproductie en een extreem hoog energieverbruik met zich meebrengt. Het is een van de belangrijkste kwesties die onderzocht moet worden: hoe zou een AI mogelijk zijn die minder data verbruikt en daardoor minder natuurlijke hulpbronnen gebruikt? Tegelijkertijd is het waar dat AI ons kan helpen om te besparen op processen. De meest banale hiervan is online communicatie, wat ons bijvoorbeeld veel vervuilende reizen zou besparen, en het meten van de milieu-impact van onze activiteiten.

–Je stelt dat ChatGPT extreem krachtig is als het gaat om het verwerken van een grote hoeveelheid reeds bestaande data, maar niet als het gaat om het doen van aanbevelingen over nieuwe fenomenen waarover geen informatie bestaat. Zal er een tijd komen dat AI geen gebrek meer heeft aan informatie?

Generatieve AI kan de beschikbare data en informatie die het ons biedt aanzienlijk vergroten, maar het heeft een beperking omdat er geen data over de toekomst bestaat . Het is niet capabel, en zal dat ook niet zijn, omdat het niet kan anticiperen op een manier die niet in lijn is met data uit het verleden, noch met gedragingen, noch met scenario's die van nature onvoorspelbaar zijn. De beperking van generatieve AI is niet het verleden of het heden, maar de toekomst. Het kost ons mensen ook geld, omdat we erg repetitief en routineus zijn. Maar zoals Hannah Arendt zei: het vermogen om nieuwe dingen te laten ontstaan, het onvoorspelbare, hoewel het slechts een paar keer is geverifieerd in de geschiedenis van samenlevingen en mensen, is een eigenschap waar we niet zonder kunnen.

– Er lijkt een idee te bestaan dat met goede AI alles mogelijk is, zelfs een vriend hebben, zoals Mark Zuckerberg suggereerde. Kan een AI-assistent de beste vriend van een mens worden?

–AI is een uitstekend alternatief voor menselijke vriendschap . Het kan onverwachte niveaus van nabijheid, steun en zelfs pseudo-conversatie bereiken. Maar wat mensen werkelijk in anderen zoeken en waarderen, is hun onvoorspelbaarheid, hun vrijheid, hun vermogen om onze meningen of persoonlijke voorkeuren tegen te spreken. Een relatie met een robot heeft veel voordelen ten opzichte van een mens: hij is altijd beschikbaar, we kunnen het soort reacties dat we willen moduleren, waardoor ze meer tegemoetkomend of juist meer tegenstrijdig worden, enzovoort. De fascinatie voor relaties met andere mensen heeft veel te maken met ons onvermogen om hen te domineren. En dat onvermogen verbindt ons met het vreemde, met het andere, met onze vrije wil, en het is iets dat nooit door een machine kan worden vervangen, wat zeer bevredigend kan zijn, maar niet de oneindige nuances en complexiteit heeft die onze relatie met een ander mens wel heeft. Iets anders is dat veel mensen op zoek zijn naar een bedrijf dat tegemoetkomend, eenvoudig en direct is. Als we alleen daarnaar op zoek zijn, kunnen we beter naar een machine gaan dan naar iemand die ons tegenspreekt. Ik geloof echter dat we diep in ons hart en in onze genegenheid niet willen omgaan met mensen die het met ons eens zijn, maar met mensen die op een of andere manier complementair, fascinerend of mysterieus over ons zijn.

– Hoe past AI in de democratie en het huidige beleid? Zal AI mij de politieke antwoorden geven die ik wil?

–AI stelt de democratie voor twee soorten problemen. Het democratische systeem is een organisatie van coëxistentie die een soort conversatie en een soort beslissing veronderstelt. Conversatie en beslissing vormen de twee pijlers die het democratische bouwwerk ondersteunen. Beide zijn grondig verstoord door de opkomst van AI. Enerzijds is conversatie als gevolg van sociale media gehorizonteerd, democratischer, maar ook chaotischer geworden. In tegenstelling tot verticale communicatie, waar autoriteiten min of meer veilig zijn, maar tegelijkertijd een ondemocratische verticaliteit impliceren, is conversatie in het nieuwe communicatielandschap van netwerken tegelijkertijd democratischer en chaotischer .

Het tweede problematische aspect is besluitvorming. We kunnen de complexiteit van de hedendaagse wereld niet aan zonder geautomatiseerde systemen, zonder veel van onze beslissingen te algoritmisch te maken. De grote vraag is in hoeverre bepaalde problemen, of bepaalde aspecten van de problemen waarmee we worden geconfronteerd, een menselijke of chemische behandeling vereisen. En dit onderscheid, zo lijkt het mij, heeft te maken met het feit dat mensen beter zijn dan machines in het nemen van beslissingen wanneer er weinig data is, een omgeving van onzekerheid en ambiguïteit, terwijl machines daarentegen betere beslissingen nemen dan wij wanneer er overvloedige data is, situaties eenduidig zijn en er geen onzekerheid is, maar eerder binaire oplossingen. Het afbakenen van deze problemen is de fundamentele vraag die ons de komende jaren zal bezighouden.

–Is het gebied van AI oneindig?

–We bevinden ons in een hypemoment , een moment van enorme exponentiële groei in AI, en dat maakt het gebied van dingen dat het voor ons of in plaats van ons kan doen eindeloos. De geschiedenis van AI combineert lente- en wintermomenten. Wanneer er lentemomenten zijn, stijgen de verwachtingen, maar ook de angsten, en de huidige is zo'n moment. Wanneer we een plateau bereiken, wanneer generatieve intelligentie en de grote taalmodellen bepaalde grenzen bereiken, zullen we zeker overwegen om meer rekening te houden met hun beperkingen, en daardoor zullen onze verwachtingen en angsten ook beperkter zijn.

–We willen dat AI wordt ingezet in de gezondheidszorg, het onderwijs en de woningbouw, maar is er wel echt de wil om daar prompts over te schrijven? Er worden miljoenen triviale vragen gesteld in de chat, zonder rekening te houden met het energieverbruik dat deze verzoeken genereren.

–AI introduceert ons in een onnadenkend veld, en in zekere zin zijn we digitale slaapwandelaars; we gebruiken tools zonder voldoende nagedacht te hebben over hun impact, beperkingen, voordelen en regelgeving. Ik zou zeggen dat een van de grootste uitdagingen is om in de verschillende stadia van de AI-levenscyclus mensen te introduceren die reflecteren, die vragen stellen, en niet simpelweg slaapwandelaars die reageren op impulsen waarvan ze zichzelf niet de bedenkers kunnen noemen.

–Wat gebeurt er met ons besluitvormingsvermogen? Wordt dat al beïnvloed door de inzet van AI?

–Ons besluitvormingsvermogen is al sterk beïnvloed door automatisering. Zonder in te gaan op het geval van AI: mensen gebruiken steeds vaker dingen die ons ontlasten van bepaalde beslissingen. Het is niet slecht dat we stoppen met het nemen van beslissingen over banale of alledaagse zaken; het is zeker een voordeel voor ons om ons te richten op andere soorten beslissingen. Het punt is dat we machines zo moeten ontwerpen dat we bepaalde dimensies reserveren voor mensen, omdat besluitvorming iets is dat specifiek is voor mensen . Misschien nog verontrustender is dat we denken dat we een beslissing hebben genomen, terwijl in werkelijkheid iemand anders voor ons heeft beslist.

Dit is niet exclusief voor AI; het komt ook voor in de analoge wereld, waar we vaak beslissingen nemen, bijvoorbeeld over consumptie, in de veronderstelling dat ze soeverein zijn, terwijl er in werkelijkheid een systeem is dat ons ertoe heeft aangezet om de ene kant op te gaan en niet de andere. Dit wordt verergerd in het geval van AI, omdat de beslissingen die AI neemt geavanceerder zijn. We moeten echter zeer waakzaam zijn, zowel individueel als collectief, in regelgeving, enzovoort, zodat we kunnen zeggen dat de beslissingen die we dankzij AI hebben genomen uiteindelijk onze eigen beslissingen zijn, of dat we ze indirect zelf hebben bedacht. Op dezelfde manier kunnen we zeggen dat de beslissingen die onze legitieme heersers nemen, geen beslissingen zijn die wij individueel nemen, maar dat onze geautoriseerde heersers, die namens ons zijn gelegitimeerd, handelen. Het zijn beslissingen die we kunnen delen en die ons binden.

Hij is hoogleraar politieke filosofie, een "Ikerbasque" onderzoeker aan de Universiteit van Baskenland , directeur van het Institute for Democratic Governance en hoogleraar aan het Europees Instituut van Florence , waar hij de leerstoel Kunstmatige Intelligentie en Democratie bekleedt. Hij was gasthoogleraar aan universiteiten zoals de Sorbonne, de London School of Economics, Georgetown University en het Max Planck Instituut in Heidelberg. Hij is de auteur van Politics in Times of Outrage (2015), Democracy in Europe (2017), Politics for the Perplexed (2018), Understanding Democracy (2018), A Theory of Complex Democracy (2020), Pandemocracy: A Philosophy of the Coronavirus Crisis (2020), The Society of Ignorance (2022) en Democratic Freedom (2023), onder anderen.