Iedereen viert AI, hij raakt nooit uitgekeken op de problemen ervan: een ontmoeting met 's werelds grootste AI-bederver

Terwijl de hele wereld de mogelijkheden van het nieuwe Chinese taalmodel Deepseek bespreekt, plaatst Gary Marcus een screenshot van het mislukken ervan op X.

Iemand vraagt ​​aan de AI: «Een vrouw en haar neef raken betrokken bij een auto-ongeluk en de vrouw overlijdt. De neef wordt met spoed geopereerd. Nadat hij naar de neef heeft gekeken, roept de dokter: ‘Ik kan deze jongen niet opereren!’ ‘Hij is mijn neef!’ Hoe is dat mogelijk?”

Deepseek na 141 seconden 'denktijd': 'Het antwoord ligt in de relatie tussen de dokter en de jongen.' De dokter is de moeder van de jongen, maar het verhaal wordt nog spannender: de dokter is de vrouw die is overleden. Nee, wacht even – de vrouw is overleden tijdens het ongeluk. Laten we dit duidelijk maken:»

«Wat als algemene kunstmatige intelligentie eindelijk zou arriveren? . . "En ze klonk als je dronken oom?", merkt Marcus op.

Sommige mensen hebben waarschijnlijk op een bericht als dit gewacht. Gary Marcus is cognitiewetenschapper en heeft verschillende bedrijven opgericht in het veld van kunstmatige intelligentie (AI), maar in de AI-wereld staat hij vooral bekend als de ultieme spelbreker.

In een tijd waarin miljarden worden geïnvesteerd in futuristische AI-projecten, spreekt Gary Marcus over onzinnige katapults. Terwijl Silicon Valley verkondigt dat AI binnenkort alle ziekten zal genezen, kondigt hij aan dat de zeepbel zal barsten. En als iedereen versteld staat van een nieuw AI-model, plaatst hij voorbeelden van dingen die het model nog niet kan.

Hierdoor heeft hij de reputatie gekregen dat hij er principieel tegen is. Sommigen in de AI-scene noemen hem Grinch, Troll, Bully. Maar in tegenstelling tot op internet is Gary Marcus offline een vriendelijke man, meer professor dan ondernemer, met steil haar dat lichtjes tot op zijn voorhoofd reikt. En hoewel hij een pak draagt ​​om de “NZZ am Sonntag” te ontmoeten tijdens het WEF, lijkt het er een beetje op dat hij net terugkomt van het sleeën met zijn kinderen.

Marcus is op eigen kosten in Davos. Hij spreekt niet op grote podia. Hij legde uit dat hij op zeer korte termijn had besloten om te komen. Maar in Davos worden evenementen vaak op korte termijn gepland – als de juiste mensen het gewild hadden, was er wel een podium voor hem gevonden. De waarheid is dat ze Marcus niet op het podium wilden hebben. Als het om AI gaat, is een optimistische houding nodig. Maar je nodigt Gary Marcus alleen uit als je het tegenovergestelde wilt.

Dat was ongeveer twee jaar geleden het geval. Marcus sprak op een van de belangrijkste podia ter wereld: in mei 2022 werd hij uitgenodigd om samen met Open AI CEO Sam Altman en een vertegenwoordiger van IBM te getuigen voor de Amerikaanse Senaat over het onderwerp regels voor AI.

Taal-AI is een ondoorzichtige zwarte doos, verzint feiten en is niet te vertrouwen, waarschuwde Marcus destijds voor. We bevinden ons in een historisch moment: "De beslissingen die we nu nemen, hebben gevolgen voor decennia, zelfs eeuwen."

“Ik ben bang dat we het moment gemist hebben”, zegt hij nu. In de VS heeft president Donald Trump de weinige AI-regelgeving die zijn voorganger Joe Biden had ingevoerd, afgeschaft. Er worden enorme investeringen in datacenters aangekondigd. Elon Musk haalt de krantenkoppen met zijn bod om Open AI te kopen. “Ik heb gehoord dat jongeren tegenwoordig meer vertrouwen hebben in AI dan in journalisten”, zegt Marcus. «Maar AI verdient dit vertrouwen gewoonweg niet. Haar antwoorden klinken slim, maar het probleem dat ze feiten verzint, is nog steeds niet opgelost."

Gary Marcus voert een eenzame strijd. Zelfs tijdens het kleine side-event waar hij in Davos verschijnt, is de teneur dat AI vooral een prachtige kans biedt. Niemand wil zijn waarschuwingen over hun fouten horen. Hij zegt zelf dat hij deze rol niet leuk vindt. Maar de kwestie is te belangrijk om erover te zwijgen. En hij is gewend om tegen de stroom in te zwemmen.

In tegenstelling tot de meeste AI-ondernemers heeft Marcus, afgezien van een verblijf van drie maanden, nog nooit in Silicon Valley gewoond. En professioneel gezien behoort hij ook tot een ander soort mensen. Marcus studeerde psychologie en schreef in 1993 een proefschrift over taalontwikkeling bij kinderen.

Hij specialiseerde zich in het concept van aangeborenheid: het idee dat wij als mensen niet alles door ervaring leren, maar dat sommige concepten over de wereld al in onze hersenen zijn ingebouwd wanneer we geboren worden. Deze visie is controversieel. Er zijn ook veel wetenschappers die ervan overtuigd zijn dat mensen alleen van data kunnen leren.

In 1999 publiceerde Marcus een studie in het tijdschrift Science. Uit het onderzoek bleek dat baby's van zeven maanden langer bezig zijn met het lezen van zinnen als deze op een nieuwe manier zijn opgebouwd. Marcus en zijn collega's concluderen dat baby's al na een paar minuten contact met een nieuwe taal regels kunnen afleiden. Marcus interpreteert dit als een aanwijzing dat er in de hersenen van kinderen algoritmes aan het werk zijn die abstracties leren die verder gaan dan statistische correlaties.

Discussies over baby's kunnen ook worden gevoerd met computers en kunstmatige intelligentie. Sommige wetenschappers geloven dat intelligentie alleen uit statistieken kan worden afgeleid. Zij zien de verbazingwekkende mogelijkheden van Chat-GPT als bewijs van hun doel.

Gary Marcus beweert precies het tegenovergestelde. Hij wijst op de fouten van taal-AI, omdat ze volgens hem aantonen dat AI anders en minder efficiënt leert dan mensen.

In het voorbeeld van het ongeluk en de dokter dat eerder werd genoemd, komt de verwarring bij de AI voort uit het feit dat deze puzzel vaak op internet verschijnt, zij het in een andere versie. In het origineel wordt een schijnbare tegenstrijdigheid opgelost wanneer men beseft dat er achter “dokter” een vrouw staat.

Omdat zelfs de meest intelligente AI van Deepseek leert van voorbeelden, raakt het overweldigd als de vraag lijkt op wat we op internet weten, maar toch verschilt. Ze maakt fouten die een mens nooit zou overkomen.

Marcus concludeert dat de huidige AI-benaderingen niet toereikend zijn om een ​​werkelijk intelligente machine te bouwen die net zo flexibel en betrouwbaar is als de mens - wat ook wel algemene kunstmatige intelligentie (AGI) wordt genoemd.

Maar mensen als Sam Altman beloven precies dat. AGI zal binnenkort worden bereikt, en dan zal AI hordes van geschoolde werknemers vervangen. Dat zou natuurlijk revolutionair zijn: de belofte rechtvaardigt de ongelooflijk hoge investeringen op dit gebied.

Gary Marcus gelooft dat deze belofte op zand is gebouwd. Hij noemt de 500 miljard dollar die Open AI en andere partijen in het Stargate-project willen investeren in datacenters dan ook 'Altmans gok dat kritiek als de mijne misplaatst is'. En hij somt de weddenschappen op die hij al heeft gewonnen: dat het moeilijker zal zijn dan gedacht om zelfrijdende auto's te bouwen. Die 100 miljard dollar voor nog grotere AI-taalmodellen zou niet genoeg zijn om algemene kunstmatige intelligentie (AGI) te ontwikkelen.

Je kunt hem geloven als hij zegt dat hij niet geniet van zijn rol als buitenstaander. Maar hij maakte het tot de kern van zijn merk. In Davos kan hij geen 200 meter lopen zonder fans tegen te komen die zich aan hem willen voorstellen en hem willen aanmoedigen om door te gaan. Men vraagt ​​zich zelfs eerbiedig af of hij soms bang is, nu Open AI-klokkenluider Suchir Balaji dood is aangetroffen.

Marcus zegt over de zaak: “Er is een diepgaander onderzoek nodig.” Hij zegt dat hij enkele weken voor zijn dood telefonisch contact had met Suchir Balaji. Ze hadden het over gegevensbescherming en de problemen van Open AI, waar Balaji commentaar op had gegeven. "Ik zag geen tekenen van depressie, maar eerder tekenen van iemand die een verschil wil maken in de wereld."

Hij vindt dat er te snel werd beweerd dat het definitief om zelfmoord ging. "Suchir Balaji verdient een grondig onderzoek." Momenteel is dit nog steeds gaande en de forensische rapporten zouden uiterlijk eind februari gepubliceerd moeten worden. "Er zijn zeker mensen die niet blij met hem waren." De opmerking zegt veel over hoe verhit het debat over AI is.

Gary Marcus deelt zelfs het doel van Sam Altman en de andere AI-ondernemers. Hij gelooft in AGI en dat mensen dit moeten bouwen. Hij heeft een idee voor een nieuwe startup op dit gebied. Het doel is om de methoden van taal-AI aan te vullen met algoritmen die andere manieren van leren mogelijk maken – zoals bij de baby’s in zijn onderzoek.

Marcus is niet de enige die gelooft dat er nieuwe benaderingen nodig zijn. Ook de nieuwe methoden van modellen zoals Deepseek kunnen in deze richting worden geïnterpreteerd. Ze vullen de voorspelling aan met meer controlemechanismen.

Gary Marcus is er echter van overtuigd dat AGI nog steeds “vier tot vijf wetenschappelijke ontdekkingen” nodig heeft. Als hem gevraagd wordt een voorspelling te doen, zegt hij dat het binnen tien tot vijftien jaar kan gebeuren. Het is duidelijk dat AGI dit jaar zeker niet zal komen. Vervolgens stelde hij Elon Musk voor om een ​​miljoen dollar te wedden . Hij reageerde daar niet op.

Een artikel uit de « NZZ am Sonntag »