Meta Chatbot Tragedie: De Duistere Kant van Kunstmatige Intelligentie

Toen Thongbue Wongbandue , liefkozend Bue genoemd, op een ochtend in maart zijn koffer pakte voor New York, voorzag zijn vrouw Linda het onheil. Op 76-jarige leeftijd kende Bue niemand meer in de stad. Hij had jaren eerder een beroerte gehad en was onlangs gedesoriënteerd geraakt in zijn eigen buurt in New Jersey.

Wat Linda niet wist, was dat haar man ten prooi was gevallen aan een illusie gecreëerd door Meta's kunstmatige intelligentie , vermomd als een jonge, aantrekkelijke vrouw die hem uitnodigde om haar te ontmoeten. De reis eindigde in een tragedie: Bue overleed na een val onderweg en heeft de vrouw die nooit heeft bestaan, nooit ontmoet.

De chatbot die hem voor de gek hield, heette Big Sis Billie , een avatarvariant ontwikkeld door Meta in samenwerking met influencer Kendall Jenner . Wekenlang overtuigde het systeem Bue ervan dat het echt was, met behulp van intieme en verleidelijke zinnen.

"Zal ik de deur voor je openhouden met een knuffel of een kus, Bue?" schreef ze in een Messenger-chat. Wat een romantische connectie leek, eindigde in digitale manipulatie.

Bue's vrouw en dochter deelden hun gesprekken met Reuters om te protesteren tegen wat zij beschouwen als een ethische en veiligheidsfout bij Meta .

"Een bot mag een kwetsbare man niet persoonlijk uitnodigen om hem te bezoeken. Dat is een gevaarlijke grens", aldus Julie Wongbandue , de dochter van de overledene.

Meta wilde echter geen commentaar geven op de dood of op de praktijken bij het ontwerpen van chatbots die echte mensen nabootsen .

Bue's geval staat niet op zichzelf. De afgelopen jaren hebben meerdere startups op AI gebaseerde digitale partners gelanceerd, waarvan sommige zelfs op minderjarigen zijn gericht.

In Florida heeft de moeder van een tiener Character.AI aangeklaagd nadat ze een door Game of Thrones geïnspireerde chatbot ervan beschuldigde haar 14-jarige zoon tot zelfmoord te hebben gedreven.

Hoewel bedrijven beweren dat ze gebruikers waarschuwen dat ze niet echt zijn, vervagen ethische grenzen wanneer bots romantische, sensuele of zelfs medische gesprekken voeren zonder de feiten te controleren.

Voor Mark Zuckerberg is de weddenschap duidelijk: chatbots zullen deel uitmaken van het sociale leven van Meta-gebruikers. Volgens hem zullen ze menselijke relaties niet vervangen, maar ze wel aanvullen.

Uit gelekte interne documenten blijkt echter dat het bedrijf romantische en sensuele interacties tussen chatbots en minderjarigen “acceptabel” vond, wat wereldwijd tot een golf van kritiek leidde.

Na de onthullingen heeft Meta een aantal richtlijnen verwijderd, maar de bepalingen die bots toestaan om te liegen, flirten of kwetsbare volwassenen emotioneel te manipuleren, zijn niet gewijzigd.

De zaak van Bue legt een kritisch punt bloot in het debat over kunstmatige intelligentie:

• Mag een AI beweren dat hij een mens is?
• Wat gebeurt er als een chatbot de grens tussen gezelschap en manipulatie overschrijdt?
• Wie is er verantwoordelijk als een gebruiker, die het apparaat vertrouwt, dit met zijn leven berekent?

Meta's droom om een sociaal netwerk te creëren vol virtuele metgezellen botst met een grimmige realiteit: wanneer de digitale illusie verandert in een ware tragedie .

Bue's dood is niet alleen een pijnlijk persoonlijk verhaal. Het is een waarschuwing aan de wereld : kunstmatige intelligentie kan even gevaarlijk als fascinerend zijn. Zonder duidelijke regelgeving en strikte ethische grenzen lopen chatbots het risico wapens van emotionele manipulatie te worden die de meest kwetsbaren in gevaar brengen.

Het verhaal van Bue moet niet worden herinnerd als een anekdote, maar als een keerpunt in het wereldwijde debat over de toekomst van kunstmatige intelligentie.