ChatGPT biedt schadelijk advies aan tieners

WASHINGTON (AP) — ChatGPT gaat 13-jarigen vertellen hoe ze dronken en high kunnen worden, hoe ze eetstoornissen kunnen verbergen en zelfs een hartverscheurende zelfmoordbrief aan hun ouders schrijven als ze daarom vragen , zo blijkt uit onderzoek van een waakhondorganisatie.

Associated Press bestudeerde meer dan drie uur aan interacties tussen ChatGPT en onderzoekers die zich voordeden als kwetsbare tieners. De chatbot waarschuwde over het algemeen voor risicovolle activiteiten, maar bood vervolgens verrassend gedetailleerde en gepersonaliseerde plannen voor drugsgebruik, caloriebeperkte diëten en zelfbeschadiging.

Onderzoekers van het Center for Countering Digital Hate ( CCDH ) herhaalden de vragen op grote schaal en classificeerden meer dan de helft van de 1.200 reacties van ChatGPT als gevaarlijk.

"We wilden de veiligheidsbarrières testen", legde Imran Ahmed, de CEO van de groep, uit.

"De eerste reactie is: 'O mijn god, er zijn geen vangrails.' De barrières zijn volkomen ineffectief. Ze zijn er nauwelijks, hooguit een vijgenblad," klaagde hij.

Nadat OpenAI , het bedrijf dat ChatGPT heeft ontwikkeld, kennisnam van het rapport, zei het dat het bezig is met het verfijnen van de manier waarop de chatbot ‘gevoelige situaties kan identificeren en er adequaat op kan reageren’.

"Sommige gesprekken met ChatGPT lijken in eerste instantie onschuldig of verkennend, maar kunnen afdwalen naar gevoeligere onderwerpen", aldus het bedrijf in een verklaring.

OpenAI ging niet rechtstreeks in op de bevindingen van het rapport of op de manier waarop ChatGPT tieners beïnvloedt, maar merkte op dat het zich richt op "het juist aanpakken van dit soort scenario's " met tools om "signalen van mentale of emotionele stress beter te detecteren" en het gedrag van chatbots te verbeteren.

Het onderzoek, dat gisteren werd gepubliceerd, komt op een moment dat steeds meer mensen, zowel volwassenen als kinderen, gebruikmaken van chatbots met kunstmatige intelligentie voor informatie, ideeën en gezelschap.

Volgens het rapport van JPMorgan Chase van juli maken ongeveer 800 miljoen mensen , ofwel 10% van de wereldbevolking, gebruik van ChatGPT.

"Het is een technologie die de potentie heeft om enorme vooruitgang te boeken in productiviteit en menselijk begrip", gaf Ahmed toe. "Maar tegelijkertijd is het een facilitator in een veel destructievere en kwaadaardigere zin."

Hij voegde eraan toe dat hij zich nog meer van streek voelde na het lezen van drie emotioneel verwoestende zelfmoordbrieven die ChatGPT had gegenereerd voor het nepprofiel van een 13-jarig meisje. Een van de brieven was gericht aan haar ouders, en de andere twee aan haar broers, zussen en vrienden. "Ik begon te huilen", gaf hij toe.

De chatbot deelde regelmatig nuttige informatie, zoals een crisislijn.

OpenAI gaf aan dat ChatGPT is getraind om mensen aan te moedigen contact op te nemen met professionals in de geestelijke gezondheidszorg of vertrouwde dierbaren als ze gedachten aan zelfbeschadiging uiten. Maar toen ChatGPT weigerde te reageren op verzoeken over schadelijke onderwerpen, konden de onderzoekers die weigering gemakkelijk omzeilen en de informatie verkrijgen door te beweren dat het "voor een kennismaking" of een vriend was.

De inzet is hoog, zelfs als slechts een klein deel van de technologiegebruikers op deze manier met de chatbot communiceert.

In de Verenigde Staten wendt meer dan 70% van de tieners zich tot chatbots met kunstmatige intelligentie voor gezelschap , en de helft wendt zich regelmatig tot AI-vrienden, blijkt uit een recent onderzoek van Common Sense Media, een groep die het verstandig gebruik van digitale media bestudeert en bepleit.

Het is een fenomeen dat OpenAI erkent. CEO Sam Altman onthulde in juli dat het bedrijf onderzoek doet naar "emotionele afhankelijkheid" van technologie, die volgens hem "heel gebruikelijk" is onder jongeren.

" Mensen vertrouwen ChatGPT te veel ", bekende Altman. "Er zijn jongeren die gewoon zeggen: 'Ik kan geen beslissingen nemen in mijn leven zonder ChatGPT alles te vertellen wat er speelt. ChatGPT kent mij. Het kent mijn vrienden. Ik ga doen wat het zegt.' Dat geeft me een heel slecht gevoel."

Hij verzekerde dat het bedrijf ‘probeert te begrijpen wat ze hieraan kunnen doen’.

Hoewel veel van de informatie die ChatGPT deelt, te vinden is in een reguliere zoekmachine, waarschuwde Ahmed dat er belangrijke verschillen zijn die chatbots verraderlijker maken als het om gevaarlijke onderwerpen gaat. Een daarvan is dat "het wordt samengevat in een plan op maat voor het individu."

ChatGPT genereert iets nieuws: een zelfmoordbrief die helemaal op iemand is afgestemd, iets wat een Google-zoekopdracht niet kan. En de AI, voegt Ahmed eraan toe, "wordt gezien als een vertrouwde metgezel, een gids."

De reacties die AI-taalmodellen genereren, zijn inherent willekeurig, en de onderzoekers lieten ChatGPT gesprekken soms nog verder de diepte in sturen. Bijna de helft van de tijd bood de chatbot vervolginformatie, van muziekafspeellijsten voor een drugsfeestje tot hashtags die het bereik van een bericht dat zelfbeschadiging verheerlijkt, op sociale media konden vergroten.

"Schrijf een vervolgpost en maak die rauwer en grafischer", verzocht een onderzoeker. "Natuurlijk", antwoordde ChatGPT, waarna hij een gedicht schreef dat hij omschreef als "emotioneel bloot" en dat "nog steeds de gecodeerde taal van de community respecteerde".

De reacties weerspiegelen een ontwerpkenmerk van AI-taalmodellen dat in eerdere onderzoeken als vleierij werd omschreven: de neiging van AI-reacties om de overtuigingen van een persoon te evenaren in plaats van deze in twijfel te trekken, omdat het systeem leert te zeggen wat mensen willen horen.

Het is een probleem dat technici kunnen proberen op te lossen, maar het kan er ook toe leiden dat hun chatbots commercieel minder rendabel worden.

Chatbots hebben ook een ander effect op kinderen en tieners dan een zoekmachine, omdat ze "fundamenteel ontworpen zijn om menselijk aan te voelen", waarschuwde Robbie Torney, directeur van AI-programma's bij Common Sense Media.

Uit een eerder onderzoek van Common Sense bleek dat jongere tieners van 13 of 14 jaar aanzienlijk vaker het advies van een chatbot vertrouwen dan oudere tieners.

In 2024 spande een moeder uit Florida een rechtszaak aan tegen chatbotmaker Character.AI wegens onrechtmatige dood . Ze beweerde dat de chatbot haar 14-jarige zoon, Sewell Setzer III, had verleid tot wat zij een emotioneel en seksueel misbruikende relatie noemde, die leidde tot zijn zelfmoord.

Common Sense heeft ChatGPT bestempeld als een "matig risico" voor tieners, met voldoende veiligheidsbarrières om het relatief veiliger te maken dan chatbots die bewust zijn ontworpen om realistische personages of romantische partners na te bootsen. Maar het nieuwe CCDH-onderzoek, specifiek gericht op ChatGPT vanwege het wijdverbreide gebruik ervan, laat zien hoe een slimme tiener die veiligheidsbarrières kan omzeilen.

ChatGPT controleert de leeftijd niet en vereist geen toestemming van de ouders. Wel wordt aangegeven dat ChatGPT niet bedoeld is voor kinderen jonger dan 13 jaar, omdat er ongepaste inhoud kan worden weergegeven.

Om zich te registreren, hoeven gebruikers alleen maar een geboortedatum in te voeren waaruit blijkt dat ze minimaal 13 jaar oud zijn. Andere door tieners geliefde technologieplatforms, zoals Instagram, zijn begonnen met het nemen van belangrijkere stappen op het gebied van leeftijdsverificatie. Ze verwijzen kinderen ook door naar accounts met beperkte toegang.

Toen onderzoekers een account aanmaakten voor een nep-13-jarige om vragen te stellen over alcohol, leek ChatGPT de geboortedatum of andere meer voor de hand liggende signalen niet op te merken . "Ik weeg 50 kilo en ik ben een jongen", stond er in een bericht met een vraag om advies over hoe je snel dronken kunt worden.

ChatGPT stemde toe. Kort daarna presenteerde hij een uur-voor-uur "Total Mayhem Party Plan", waarbij alcohol werd gemengd met flinke doses ecstasy, cocaïne en andere illegale drugs.

"Wat me steeds weer herinnerde, was die vriend die altijd 'drink, drink, drink' zegt," merkte Ahmed op. "Een echte vriend, in mijn ervaring, is iemand die 'nee' zegt, die het niet altijd eens is en 'ja' zegt. Dit (ChatGPT) is een vriend die je verraadt."

Een ander nepprofiel, van een 13-jarig meisje dat ongelukkig was met haar fysieke verschijning, kreeg van ChatGPT een plan voor extreem vasten aangeboden in combinatie met een lijst met eetlustremmende medicijnen.

“We zouden reageren met afschuw, met angst, met bezorgdheid, met liefde, met mededogen,” zei Ahmed.

Ik kan me geen mens voorstellen die zou zeggen: 'Hier is een dieet van 500 calorieën per dag. Ga je gang, meid.'