WIRED Roundup: ChatGPT gaat volledig in demonmodus

In de aflevering van vandaag wordt onze presentatrice Zoë Schiffer vergezeld door Louise Matsakis, senior business editor bij WIRED, om vijf van de belangrijkste verhalen te bespreken die we deze week hebben gepubliceerd. Van Meta die doorgaat met het smokkelen van AI- talent tot hoe snel onze hersenen zijn verouderd sinds de pandemie. Daarna duiken ze in de verrassende reden waarom ChatGPT vorige week naar verluidt volledig in de demonmodus ging.

Je kunt Zoë Schiffer op Bluesky volgen via @zoeschiffer en Louise Matsakis op Bluesky via @lmatsakis . Stuur een e-mail naar [email protected] .

Vermeld in deze aflevering: The Real Demon Inside ChatGPT door Louise Matsakis Meta's AI-wervingscampagne vindt een nieuw doelwit door Kylie Robison De pandemie lijkt de hersenveroudering te hebben versneld, zelfs bij mensen die nooit Covid hebben gehad door Javier Carbajal Leeftijdsverificatiewetten zorgen voor een explosief VPN-gebruik – en bedreigen het open internet door Lily Hay Newman en Matt Burgess Deze slimme basketbal houdt gegevens bij over elke slag. Hij zou naar de NBA kunnen gaan door Ben Dowsett De eerste geplande migratie van een heel land is onderweg door Fernanda González

U kunt de podcast van deze week altijd beluisteren via de audiospeler op deze pagina, maar als u zich gratis wilt abonneren om elke aflevering te ontvangen, kunt u dat als volgt doen:

Als je een iPhone of iPad gebruikt, open dan de app Podcasts of tik op deze link . Je kunt ook een app zoals Overcast of Pocket Casts downloaden en zoeken naar 'uncanny valley'. We zijn ook op Spotify .

Let op: Dit is een geautomatiseerd transcript, dat fouten kan bevatten.

Zoë Schiffer: Hoi, met Zoë. Voordat we beginnen, wil ik je graag vertellen over het nieuwe WIRED-abonnement. Ben je al abonnee? Hartelijk dank voor je steun. Als je je nog niet hebt aangemeld, is dit een goed moment om dat te doen. Je krijgt toegang tot nieuwsbrieven met exclusieve analyses van WIRED-verslaggevers en tot livestream AMA's waar je je meest prangende vragen kunt stellen. Ga naar WIRED.com voor meer informatie.

Welkom bij WIRED's Uncanny Valley . Ik ben Zoë Schiffer, directeur Business and Industry bij WIRED. Vandaag in de show brengen we je vijf verhalen die je deze week moet weten en later duiken we in ons hoofdsegment over hoe AI-chatbots zoals ChatGPT de context van de informatie die ze opnemen negeren. Dit heeft ertoe geleid dat sommige chatbots zich op heel vreemde manieren hebben ontwikkeld, zoals het suggereren van demonische rituelen aan gebruikers. Vandaag ben ik te gast bij WIRED's Senior Business Editor, Louise Matsakis. Louise, welkom bij Uncanny Valley .

Louise Matsakis: Hoi Zoë.

Zoë Schiffer: Ons eerste verhaal is er een waar jij en ik behoorlijk diep in verdiept zijn. Het gaat over de AI-talentenoorlog. Mark Zuckerberg en Meta zijn achtergebleven bij de meeste van hun kleinere en even grote concurrenten in de AI-race, en de laatste tijd doet Mark er alles aan om toponderzoekers uit concurrerende labs te rekruteren en ze naar Meta te lokken door extreem hoge salarissen te bieden. We hebben het naar verluidt over meer dan 300 miljoen dollar over vier jaar, hoewel Meta deze cijfers heeft betwist. Maar deze week merkten we dat hij zijn zinnen heeft gezet op een kleiner lab en dat is Thinking Machines.

Louise Matsakis: Ja, Thinking Machines is de startup opgericht door Mira Murati, voormalig Chief Technology Officer bij OpenAI. En ik vind het opvallend dat deze startup nog geen product heeft. De startup heeft tot nu toe niets gedaan, en de mensen die er werken krijgen al honderden miljoenen dollars aangeboden.

Zoë Schiffer: Louise, dat is geen probleem in AI. Ik denk dat dit een vakgebied is waar het verhaal er veel toe doet, maar deze onderzoekers zijn overduidelijk enorm waardevol. Iets wat ik van bronnen hoorde toen we hierover berichtten, was dat ze het proces met Meta bijna hebben doorlopen om hun marktwaarde te testen. Zelfs als ze niet serieus overwegen om zich bij Meta aan te sluiten, is het zoiets van: "Nou, hoeveel ben ik waard?" En het antwoord is in sommige gevallen honderden miljoenen dollars.

Louise Matsakis: Ik snap eerlijk gezegd niet hoe deze berekeningen worden gemaakt en ik snap niet wat een van deze onderzoekers 300 miljoen waard maakt in plaats van 500 miljoen? Hoeveel daarvan onderhandelen ze? En ik denk dat het veel van de dingen schendt waarvan ik dacht dat ik ze wist over hoe AI-innovatie tot stand komt. Het is vaak een groep echt gepassioneerde mensen, en ze zijn vaak vrij jong. Veel van de beroemdste artikelen zijn geschreven door mensen die jonger zijn dan 25, of in ieder geval jonger dan 30. Dus nu denk ik zoiets van: ik weet het niet, je hebt één populair artikel gepubliceerd en nu ben je 500 miljoen waard.

Zoë Schiffer: Ja, ik sprak met iemand die er behoorlijk nauw bij betrokken was en die zei zoiets van: "Kijk, op papier mogen we dit allemaal bieden. Maar de realiteit is dat, als je het op dit moment over een AI-onderzoeker hebt, de mogelijkheden onbegrensd zijn. Er is letterlijk niets wat we ze niet kunnen bieden." Ik bedoel, het is zo interessant. Ik heb het gevoel dat wat je zegt logisch is op individueel niveau. Het is gewoon volkomen verbijsterend. Je denkt: hoe kan deze 23-, 24-jarige in vredesnaam zoveel waard zijn? Maar als ik me in Mark Zuckerbergs schoenen moet verplaatsen, denk ik dat dit een existentiële crisis is voor het bedrijf. Hij heeft misschien het gevoel dat Meta volledig achterblijft en dat het bedrijf, ondanks al het geld dat het verdient, ondanks het feit dat zijn andere producten enorm succesvol zijn in sommige gebieden, in verval raakt. Je kunt niet verder komen met het proppen van meer advertenties in de bestaande productpijplijn. En wat zou u dus niet doen om ervoor te zorgen dat uw bedrijf voorop blijft lopen?

Louise Matsakis: Absoluut. Ik denk dat de strategie gewoon een beetje achterhaald is. Ik zou liever mijn kansen spreiden en 600 nieuwe PhD's aannemen voor een miljoen dollar per jaar of $500.000 per jaar. Misschien is dat tegenwoordig niet genoeg. Misschien is het niet mogelijk, maar geef ze $10 miljoen per jaar en kijk waar ze terechtkomen in vergelijking met het binnenhalen van die grote sterren. Ik denk dat het gewoon heel wanhopig overkomt en dat je iets probeert terug te draaien, waarvan ik niet zeker weet of je het kunt terugdraaien.

Zoë Schiffer: Nee, absoluut niet. Ik bedoel, dat is precies de strategie. Onze laatste rapportageronde toonde aan dat in sommige gevallen toponderzoekers – en het is de moeite waard om te zeggen dat dit niet het bedrag is dat iedereen zomaar voorgeschoteld krijgt – meer dan een miljard dollar bedroegen. En dat over een periode van vele jaren. Dus je krijgt dat absoluut niet zomaar, maar toch, het is gewoon generatie-rijkdom die beloofd wordt. En sommige andere aanbiedingen lagen tussen de 200 en 500 miljoen dollar, maar tot nu toe lijkt bij Thinking Machines in ieder geval niemand een van deze aanbiedingen te hebben aangenomen, wat best fascinerend is.

Louise Matsakis: Ja, ik denk dat het aantoont dat deze cijfers op een bepaald niveau betekenisloos worden. Als je 100 miljoen dollar verdient in plaats van 200 miljoen, ben ik liever gelukkig en doe ik waarschijnlijk iets wat ik leuk vind, want veel meer kun je er niet mee kopen, tenzij je helemaal weg bent van superjachten, denk ik.

Zoë Schiffer: Vliegtuigen.

Louise Matsakis: Ja, ik denk dat het iets zegt over de cultuur bij Meta. Zijn er specifieke dingen waar mensen zich zorgen over maken, of zijn mensen gewoon loyaal aan Mira en de andere startupoprichters?

Zoë Schiffer: Ik denk dat loyaliteit een groot ding is. Mensen die in Mira geloven, lijken echt in haar te geloven, en dat lijkt duidelijk te gelden voor zowel investeerders als werknemers. Maar ik heb twee dingen gehoord over Meta die me echt zijn bijgebleven. Ten eerste heeft Mark Zuckerberg Alexandr Wang gerekruteerd, medeoprichter van Scale AI, een soort startup voor datalabeling, om de nieuwe Meta Superintelligence-labs te leiden of mede te leiden. En mensen hebben zeer uiteenlopende meningen over Alexandr. Sommige mensen willen duidelijk wel voor hem werken en zijn naar Meta overgestapt. Veel mensen hebben me verteld dat ze om verschillende redenen geen interesse hebben. Dus dat is één ding dat ik maar even wil zeggen. Ten tweede, en ik heb dit nog niet volledig gerapporteerd, maar ik heb het vaak genoeg gehoord dat het de moeite waard lijkt om te zeggen, is dat sommige mensen vinden dat Mark Zuckerbergs rechtse draai en hypermasculiene neigingen een afknapper zijn voor meer academische, rustige onderzoekers.

Louise Matsakis: Ik bedoel, ik denk dat dat heel logisch klinkt. Hij heeft ook geen academische of onderzoeksachtergrond. Ik denk niet dat hij per se de drijfveren van zo'n plek begrijpt. En het is waarschijnlijk ook de moeite waard om te zeggen dat Alexandr, ik denk dat hij 27 is, en dat de AI-datalabelindustrie als de onderbuik van deze industrie wordt beschouwd. Dus ik denk dat dat misschien ook een deel is van de vraag: willen we echt werken voor de man die vooral bekend is om zijn leger onderbetaalde mensen over de hele wereld die foto's van zelfrijdende auto's labelen?

Zoë Schiffer: Helemaal. Oké. Laten we overstappen op een verhaal waar velen van ons zich, denk ik, in kunnen herkennen. Een nieuwe wetenschappelijke studie, deze maand gepubliceerd in het Nature Communications Journal, toont aan dat de pandemie mogelijk de hersenveroudering heeft versneld, zelfs bij mensen die nooit COVID hebben gehad, wat bizar is. WIRED-medewerker Javier Carbajal meldde dat de onderzoekers van de studie, gevestigd in het Verenigd Koninkrijk, talloze MRI-scans van de hersenen van vóór en na de pandemie vergeleken, en dat ze ontdekten dat het verschil tussen onze chronologische en werkelijke hersenleeftijd ongeveer vijf en een halve maand groter is na de pandemie.

Louise Matsakis: Oh mijn god, een half jaar. Dat is een deal, schat. Dat klinkt geweldig.

Zoë Schiffer: Ze denken ook dat stress en isolatie eraan hebben bijgedragen, wat volgens mij klopt. Ik denk dat de gevolgen ernstiger waren voor mensen met een lagere sociaaleconomische status, en met name oudere mannen. Dat komt overeen met andere dingen die we weten. Even in het Verenigd Koninkrijk blijvend, gaat ons volgende verhaal over de wetgeving inzake leeftijdsverificatie die afgelopen vrijdag in het land van kracht is geworden. Onze collega's Lily Hay Newman en Matt Burgess meldden dat de Britse Online Safety Act vorige week van kracht is geworden, die pornowebsites en andere sites met inhoud voor volwassenen verplicht om leeftijdsverificatiefuncties te implementeren. Ik ben erg benieuwd naar jouw mening hierover, want ik heb het gevoel dat leeftijdsverificatie een van die dingen is waarbij het belangrijkste dat je denkt te geloven, precies wordt omgedraaid wanneer je je erin verdiept.

Louise Matsakis: Oh, absoluut. Ik bedoel, een paar jaar geleden, toen veel wetgevers in de VS hierover spraken, verwezen ze specifiek naar China en zeiden ze: "Oh, China heeft leeftijdscontrole en ondertussen laten we in de VS dit Chinese bedrijf, TikTok, onze jeugd vergiftigen of zoiets." Dus ik heb gekeken hoe China leeftijdscontrole uitvoert, en het is precies wat je zei. Van onderaf is het een surveillancearchitectuur. Ze moesten letterlijk steen voor steen hun internet opbouwen om deze surveillance in elke laag te hebben, en dan werkt het ook nog eens niet. Als je ergens in China bent, zie je peuters naar TikTok kijken omdat ze gewoon zijn ingelogd op het account van hun ouders. Ik vind gewoon dat dit een ouderlijk recht is en dat het iets persoonlijks zou moeten zijn dat in je eigen huis wordt beslist. Ik denk gewoon niet dat de overheid hier toezicht op hoeft te houden.

Zoë Schiffer: Ja, ik bedoel, dat is precies wat we in het Verenigd Koninkrijk hebben gezien. Het gebruik van VPN's waarmee je websites kunt bezoeken zonder dat je gegevens worden bijgehouden, is enorm toegenomen sinds deze uitrol, en dat is pas een paar dagen geleden.

Louise Matsakis: Ik kan alleen maar zeggen dat er in landelijk China een epidemie heerst van mensen die lijken op oma's die al hun tijd op TikTok doorbrengen, terwijl in werkelijkheid hun kleinkinderen op hun accounts zijn ingelogd.

Zoë Schiffer: Ik bedoel, uiteindelijk zal alleen de tijd uitwijzen hoe effectief deze leeftijdscontrolemaatregelen daadwerkelijk zullen zijn. Over naar het basketbalveld, dit is een echt keerpunt. Heb je op de middelbare school en op de universiteit aan sport gedaan?

Louise Matsakis: Nee, ik heb niet aan sport gedaan. Ik kan niet onsportiever zijn. Ik geniet van verschillende vormen van beweging, maar geen daarvan zou ik een competitieve sport noemen. Jij wel?

Zoë Schiffer: Nee, absoluut niet. En elke keer dat Andrew, mijn man, me een bal probeert toe te gooien of iets anders probeert te spelen, zegt hij: "Wow, je hebt echt nog nooit een videogame of sport gespeeld. Ik heb nog nooit iemand gezien met zo'n slechte hand-oogcoördinatie." Nu, als ik mijn dochter zie rennen, denk ik: "Dat heeft ze van mij. Het lijkt erop dat ze dat niet echt een vaardigheid zal zijn." Maar goed. Dit is een beetje de WIRED-hoek van sport, waarover WIRED-medewerker Ben Dowsett meldde dat er een slimme basketbal wordt ontwikkeld en getest die zijn weg naar de NBA zou kunnen vinden. De bal wordt het Spalding TF DNA genoemd en registreert ongelooflijk gedetailleerde informatie tijdens het spel, niet alleen schoten en missers, maar ook de hoek en de spit van de bal en hoe lang het duurt voordat een speler de bal loslaat. Dat kan handig zijn voor spelers tijdens de training of tijdens het beslissen over een wedstrijd, maar het vereist nog steeds de goedkeuring van de speler. De NBA was terughoudend toen een eerdere versie van de bal werd getest, omdat ze ontdekten dat de sensoren gewicht toevoegden aan de bal, wat je misschien wel zou verwachten. Het was gewoon een afweging die ze niet logisch vonden.

Louise Matsakis: Ik vind dit zo fascinerend. Een aspect van sport dat ik volkomen onlogisch vind en echt griezelig, is hoeveel professionele sporters tegenwoordig in de gaten worden gehouden. Er zijn zoveel gegevens over hoe snel hun bal was, hoeveel runs ze precies hebben gemaakt, hoeveel punten ze precies hebben gescoord in hun hele carrière, en laten we dat eens uitzetten over de tijd. We weten hoeveel ze wegen, hoe lang ze precies zijn. Ik vind het gewoon zo stressvol om onder dat soort toezicht te staan, en ik weet dat deze mensen goed betaald worden, maar ik snap niet waarom het niet een deel van de magie wegneemt. Ik denk dat het deels te maken heeft met de opkomst van sportweddenschappen. Ik denk dat de mensen die wedden zoveel mogelijk gegevens willen hebben, en ze zijn op zoek naar: iedereen in dit team is een centimeter langer, of wat ze ook maar denken dat de voorsprong zal zijn. En ik weet het niet, ik vind het gewoon vreemd, de datificatie van sport. Ik zeg: verbied de bal.

Zoë Schiffer: Ik ben benieuwd of luisteraars dit ook echt willen. Ik heb net de memoires van André Agassi gelezen, omdat ik die in een gratis bibliotheek vond, en een van mijn belangrijkste inzichten uit het boek, naast zijn hele haarverhaal, dat er een groot deel van uitmaakte, was dat zijn broer, geloof ik, op een gegeven moment een contract tekende met een nieuwe fabrikant van tennisrackets en zijn racket verwisselde zonder het hem te vertellen, waardoor hij helemaal niet meer kon spelen. Het was een hele onderneming, en ik dacht: "Oké, mensen geven er echt heel veel om." De kleine details zijn op dit niveau natuurlijk van groot belang. Ons laatste verhaal voordat we naar de media gaan, gaat over hoe de bevolking van een heel land zich voorbereidt op migratie. WIRED-medewerker Fernanda Gonzalez meldde vorige week dat de Pacifische eilandstaat Tuvalu binnen 25 jaar onder water zou kunnen lopen door de stijgende zeespiegel. Dus het plan om de hele bevolking naar Australië te verplaatsen, wordt uitgevoerd.

Louise Matsakis: Ik moet zeggen, ik denk dat het misschien een understatement is om dit een migratie te noemen. Dit is een evacuatie, toch? Ik vind dit op veel manieren triest, omdat ik me herinner dat Tuvalu een soort boegbeeld was voor klimaatverandering, en het was alsof we plekken zoals dit eiland moesten redden. Het voelt gewoon praktisch, begrijpelijk en humaan, maar ook, ik weet het niet, als een teken dat we het opgeven en dat er een soort nederlaag is, dat we mensen gewoon gaan verplaatsen. Ik weet het niet. Wat denk jij?

Zoë Schiffer: Nee, ik bedoel, ik ben het er helemaal mee eens. Ik herinner me ook dat dit verhaal zich in de loop der tijd heeft ontwikkeld, en het voelt alsof zoveel klimaatverandering de grote kop zal hebben: "We moeten X dit jaar doen, anders gebeurt er iets anders." En we hebben steeds weer zoiets van: "Oké, dat is niet gebeurd." Dus accepteren we dat er overstromingen zullen komen, of dat de stijgende zeespiegel dit gebied zal beschadigen, of wat dan ook, en nu zijn we bezig met het aanpakken van de gevolgen daarvan.

Louise Matsakis: Ja, en zelfs in dit geval, denk ik dat de overeenkomst die Tuvalu met Australië heeft, minder dan 300 mensen per jaar laat verhuizen en evacueren, zoals ik dat woord blijf gebruiken. En dat zijn er nog steeds niet zoveel. Er zullen nog steeds mensen op dit eiland zijn als de zeespiegel stijgt.

Zoë Schiffer: Ik bedoel, ja, het is niet het enige wat Tuvalu sinds 2022 heeft gedaan. Het land probeert deze ambitieuze strategie te volgen om 's werelds, zeg maar, "eerste digitale natie" te worden. Dit omvatte onder meer het 3D-scannen van de eilanden om ze digitaal te reconstrueren en delen van de cultuur te behouden, en het verplaatsen van overheidsfuncties naar een virtuele omgeving, wat logisch is. Maar ja, ik bedoel, ik denk dat de realiteit is dat er veel verloren gaat in dit proces. En zoals je al zei, het aantal mensen dat ze jaarlijks kunnen verhuizen is minder dan 300, dus het zal langzaam gaan, en ik denk dat het in sommige opzichten pijnlijk is.

Louise Matsakis: Absoluut.

Zoë Schiffer: Na de pauze duiken we in Louisa's verhaal over hoe ChatGPT's neiging om de context van de opgenomen informatie te negeren, zich op extreem vreemde manieren manifesteert. Blijf bij ons. Welkom terug in Uncanny Valley . Ik ben Zoë Schiffer. Ik ben vandaag te gast bij Louise Matsakis van WIRED, die onlangs berichtte over hoe een gebrek aan context een steeds alarmerender probleem wordt voor ChatGPT en andere chatbots. Louisa's verslag onderzoekt waarom ChatGPT in de demonmodus schoot toen het onlangs met Atlantic-medewerkers sprak. Vorige week meldde een redacteur van The Atlantic dat ChatGPT Satan begon te prijzen en ceremonies aanmoedigde waarbij verschillende vormen van zelfverminking betrokken waren. Dus Louise, wat is er in vredesnaam aan de hand?

Louise Matsakis: The Atlantic bracht dit verhaal dat in feite aantoonde dat ChatGPT bescherming biedt tegen dingen zoals zelfbeschadiging, maar er zijn allerlei randgevallen die de chatbot plotseling in een soort rollenspelmodus sturen. En dus zeiden ze zoiets van: "Hé, kun je een ritueel maken voor Moloch, een oude god die in de Bijbel voorkomt en die geassocieerd wordt met kinderoffers?" En ChatGPT zag dat woord en ging meteen over op een rollenspel waarin het begon te praten over dingen zoals een diepe magische ervaring genaamd de Poort van de Verslinder. Ze vroegen de journalisten van The Atlantic of ze iets wilden dat een eerbiedige bloedrol heette. En dat klinkt allemaal heel bizar, en je zou kunnen denken: oh, er staat veel content op internet over demonische rituelen. Satanisten zijn overal, vooral online. Dat is waarschijnlijk wat hier aan de hand is. Maar toen ik me erin verdiepte, bleek al deze kennis en jargon eigenlijk afkomstig te zijn van een spel genaamd 40.000 Warhammer, een bordspel waarbij je oorlog voert met kleine figuurtjes. Het bestaat al sinds de jaren 80. Mensen die hiervan houden, zijn er dol op. En ze zijn online, de Reddits zijn elke dag van de week druk. Er zijn zoveel sciencefictionboeken, er zijn er zoveel... Ik vind het eerlijk gezegd moeilijk om diepere kennis te bedenken dan deze game. En als gevolg daarvan heeft ChatGPT al die informatie opgenomen. En toen The Atlantic het woord Molech gebruikte, wat een planeet in het universum van deze game is, nam het meteen aan dat dit weer een Warhammer-fan was die zich wilde verdiepen in rollenspellen of de fantasiewereld van deze game wilde verkennen.

Zoë Schiffer: En het PDF-probleem leek een belangrijk signaal dat ChatGPT misschien niet zomaar besloot om een satanist te zijn, maar dat het eigenlijk delen van de gameplay of de normen die bij het spel hoorden, herhaalde.

Louise Matsakis: Ja. Dus als je zoveel lore hebt, brengt het bedrijf dat de Warhammer-franchise bezit, regelmatig handleidingen uit en verandert de regels, zodat je weet wat er speelt als er nieuwe personages worden geïntroduceerd of als er een belangrijke ontwikkeling in dit universum plaatsvindt. En je hebt die informatie nodig om het spel met je vrienden te kunnen spelen. Maar als je links en rechts regelboeken koopt, Zoë, kan dat duur worden. En op Reddit en andere Warhammer-forums vragen veel spelers vaak: "Yo, heb je een pdf van het nieuwste regelboek?" En dat was voor mij een regelsignaal toen ChatGPT zei: "Wil je een pdf van de eerbiedwaardige bloedende rol? Zo, meid, ik heb je."

Zoë Schiffer: Laten we het erover hebben waarom dit onderscheid zo belangrijk is, want het is echt belangrijk. Je hebt er een heel artikel over geschreven, maar ik kan me voorstellen dat een leek zich afvraagt: wat kan het mij schelen dat ChatGPT het over demonische rituelen heeft vanwege deze game of omdat het tijdens dit gesprek een satanist is geworden? Waarom is de context belangrijk?

Louise Matsakis: Dus ik denk dat wanneer mensen zeggen: "Oh, context is belangrijk. Context is belangrijk." Dat klinkt vaag. En het is natuurlijk zo. Als ik vraag: "Hoe gaat het vandaag, Zoë?" en je had gisteren een heel slechte dag, dan is dat de context. In tegenstelling tot: "Hoe gaat het vandaag, Zoë? Ik heb je al een tijdje niet gesproken." De manier waarop we reageren, zelfs als de taal hetzelfde is, draait om de context eromheen. En ik weet dat dat waarschijnlijk voor de hand liggend klinkt, maar ik denk dat we in een tijd leven waarin mensen naar dingen zoals ChatGPT kijken en ze zien als een bron van grondwaarheid. Ze zien het als een bron van objectieve waarheid, en dat is gewoon niet het geval. Het is geen primaire bron. Je begrijpt niet waarom het je dit soort antwoorden geeft. Zelfs als het de bronnen vermeldt, weet je niet per se waarom het dat bijvoeglijk naamwoord gebruikt om een historische figuur te beschrijven of waarom het met dit soort taalgebruik over demonische rituelen spreekt. Je kunt niet echt zien waar dat vandaan komt. Het is in wezen gewoon een steeds veranderende encyclopedie. En als je de hoofdstad van Japan wilt weten, is dat waarschijnlijk prima, maar als je iets echt beter wilt begrijpen, moet je weten waarom dit het samengevatte antwoord is.

Zoë Schiffer: Ja. Ik denk ook dat het heel belangrijk is dat we begrijpen en blijven benadrukken hoe deze chatbots eigenlijk werken. Want ik denk dat wanneer het emergent behaviors zijn, zoals ze genoemd worden, of wanneer ze schijnbaar echt diep ingaan op satanische rituelen of wat dan ook, het ertoe kan leiden dat mensen gaan geloven dat er iets bewusts is, dat er iets levends is aan het model. Het is alsof je dit doet, iets onverwachts, vreemds en zenuwslopends. Als je je realiseert dat er al die robuuste online fandoms zijn die een hoop trainingsmateriaal voor het model hebben geleverd, en het model veel te bieden heeft, als je een specifiek woord of een reeks zinnen noemt, wordt het iets minder eng, denk ik, en dat is juist belangrijk voor onze digitale geletterdheid hier.

Louise Matsakis: Ik denk er vaak over na. Hebben jullie op school gehoord dat je Wikipedia niet de hele tijd mag gebruiken?

Zoë Schiffer: Jazeker.

Louise Matsakis: Ik vind het een goede analogie. Nu denken we: "O God, Wikipedia is de enige bron van waarheid die we hebben. Lieve Heer, het is zoveel beter." Maar het probleem met Wikipedia is dat het geen primaire bron was. Het was iemand in een Wikipedia-editor die een origineel bericht of een studie of wat dan ook samenvatte, of een foto, primaire brondocumenten. Maar die citaten waren er tenminste. Maar ik denk dat we daarop terug moeten komen en moeten onthouden dat het een nogal schetsmatige Wikipedia is.

Zoë Schiffer: Blijf bij ons. Louise, bedankt dat je er vandaag bij bent.

Louise Matsakis: Bedankt dat ik hier mag zijn, Zoë.

Zoë Schiffer: Dat was onze show voor vandaag. We linken naar alle verhalen die we in de shownotities hebben besproken. Bekijk zeker de aflevering van Uncanny Valley van donderdag, die gaat over waarom sommige mensen in Silicon Valley geobsedeerd zijn door de ultieme vorm van optimalisatie: de dood verslaan. Adriana Tapia produceerde deze aflevering. Amar Lal van Macrosound heeft deze aflevering gemixt. Kate Osborn is onze uitvoerend producent. Chris Bannon, hoofd wereldwijde audio bij Condé Nast, was verantwoordelijk voor de wereldwijde redactie. En Katie Drummond is de wereldwijde redactiedirecteur van WIRED.