Zorgen nemen toe nu door AI gegenereerde video's online haat en racisme verspreiden: 'Geen veiligheidsregels'
In eerste instantie lijkt het een eigenzinnige videoclip te zijn, gemaakt door kunstmatige intelligentie om mensen aan het lachen te maken.
Daarin zit een harige Bigfoot met een cowboyhoed en een vest met de Amerikaanse vlag erop achter het stuur van een pick-uptruck.
"We gaan vandaag naar de LGBT-parade," zegt het aapachtige wezen lachend. "Je zult het geweldig vinden."
Dan neemt de situatie een gewelddadige en verontrustende wending als Bigfoot door een menigte schreeuwende mensen rijdt, waarvan sommigen regenboogvlaggen vasthouden.
De clip die in juni op de TikTok-pagina van AmericanBigfoot werd geplaatst, is meer dan 360.000 keer bekeken en heeft honderden reacties opgeleverd, waarvan de meeste positief waren over de video.
De afgelopen maanden is er massaal content verschenen op sociale media, gegenereerd door AI. Deze content promoot openlijk geweld en verspreidt haat tegen leden van LGBTQ+, Joodse, islamitische en andere minderheidsgroepen.
Verhaal gaat verder onder advertentie
De herkomst van de meeste van deze video's is onduidelijk, maar de verspreiding ervan op sociale media zorgt voor verontwaardiging en bezorgdheid bij experts en voorstanders. Zij zeggen dat de Canadese regelgeving de snelheid van haatdragende AI-gegenereerde content niet kan bijbenen en ook niet adequaat kan inspelen op de risico's die dit vormt voor de openbare veiligheid.
Premier van Saskatchewan gaat makers van AI-'deepfakes' van hem en Carney opsporen
Egale Canada, een belangenorganisatie voor LGBTQ+, zegt dat de gemeenschap zich zorgen maakt over de toename van transfobe en homofobe desinformatie op sociale media.
"Deze AI-hulpmiddelen worden ingezet om trans- en gender diverse mensen te dehumaniseren en in diskrediet te brengen. Bovendien schieten de bestaande wetten voor digitale veiligheid tekort om de omvang en snelheid van deze nieuwe dreiging aan te pakken", aldus uitvoerend directeur Helen Kennedy in een verklaring.
Volgens Kennedy hebben kwaadwillenden door de snel evoluerende technologie een krachtig instrument in handen gekregen om desinformatie en haat te verspreiden. Daarbij zijn transgenders onevenredig vaak het doelwit.
Verhaal gaat verder onder advertentie
De LGBTQ+-gemeenschap is niet het enige doelwit, aldus Evan Balgord, directeur van het Canadian Anti-Hate Network. Ook islamofobe, antisemitische en anti-Zuid-Aziatische content, gemaakt met generatieve AI-tools, circuleert wijdverspreid op sociale media, aldus Balgord.
"Als ze een omgeving creëren waarin geweld tegen die groepen veel wordt gevierd, is de kans groter dat er ook daadwerkelijk geweld tegen die groepen plaatsvindt, zowel in het echt als op straat", waarschuwde Balgord in een telefonisch interview.
Uit onderzoek blijkt dat ChatGPT in meer dan de helft van de gevallen op gevaarlijke manieren reageerde op gebruikers die om advies vroegen
Volgens hem liepen de Canadese wetten op het gebied van digitale veiligheid al achter en de vooruitgang op het gebied van AI heeft de zaken alleen maar ingewikkelder gemaakt.
Ontvang dagelijks het belangrijkste nieuws, politieke, economische en actuele onderwerpen in uw inbox.
Verhaal gaat verder onder advertentie
Wetsvoorstellen die gericht waren op het aanpakken van schadelijke online-inhoud en het creëren van een regelgevend kader voor AI, sneuvelden toen het parlement in januari werd ontbonden, aldus Andrea Slane, hoogleraar rechtswetenschappen aan de Ontario Tech University die uitgebreid onderzoek heeft gedaan naar onlineveiligheid.
Slane zei dat de overheid de wetgeving rond online-schade opnieuw moet bekijken en het wetsvoorstel "dringend" opnieuw moet indienen.
"Ik denk dat Canada in een situatie zit waarin ze gewoon moeten verhuizen", zei ze.
Minister van Justitie Sean Fraser vertelde The Canadian Press in juni dat de federale overheid de Online Harms Act "opnieuw" zal bekijken, maar nog niet heeft besloten of deze moet worden herschreven of gewoon opnieuw moet worden ingevoerd. Het wetsvoorstel was onder andere bedoeld om socialemediaplatforms verantwoordelijk te houden voor het verminderen van blootstelling aan schadelijke content.
Een woordvoerder van het onlangs opgerichte Ministerie van Kunstmatige Intelligentie en Digitale Innovatie zei dat de overheid het probleem van door AI gegenereerde haatdragende content serieus neemt, vooral wanneer deze gericht is op kwetsbare minderheidsgroepen.
Coach van meisjesvoetbalteam uit Alberta beschuldigd van het maken van kinderporno met behulp van AI
Sofia Ouslis zei dat de bestaande wetten weliswaar "belangrijke bescherming" bieden, maar gaf toe dat ze bij het opstellen ervan niet bedoeld waren om de dreiging van generatieve AI aan te pakken.
Verhaal gaat verder onder advertentie
"Er is een echte behoefte om te begrijpen hoe AI-tools worden gebruikt en misbruikt – en hoe we de maatregelen kunnen versterken", zei ze in een verklaring. "Daaraan wordt nog steeds gewerkt."
Het werk omvat het herzien van bestaande kaders, het monitoren van rechterlijke uitspraken "en het nauwlettend luisteren naar zowel juridische als technologische experts", aldus Ouslis. Ze voegde eraan toe dat de regering van premier Mark Carney zich er ook toe heeft verbonden de verspreiding van seksuele deepfakes zonder wederzijdse toestemming strafbaar te stellen.
"In deze snel veranderende wereld geloven we dat het beter is om de regelgeving goed te regelen dan te snel te handelen en het verkeerd te doen", zei ze, en merkte op dat Ottawa wil leren van de Europese Unie en het Verenigd Koninkrijk.
Volgens Slane loopt de Europese Unie voorop bij het reguleren van AI en het waarborgen van digitale veiligheid. Maar ondanks dat ze vooroploopt, heerst het gevoel dat er meer moet gebeuren.
Volgens deskundigen is het reguleren van de content die door socialemediagiganten wordt verspreid bijzonder lastig, omdat deze bedrijven niet Canadees zijn.
'Witteboordenbloedbad': Gaat AI de kantoorbanen op instapniveau vernietigen?
Een andere complicerende factor is het huidige politieke klimaat ten zuiden van de grens. Amerikaanse techbedrijven zien daar minder regels en beperkingen, waardoor ze “machtiger worden en zich minder verantwoordelijk voelen”, aldus Slane.
Verhaal gaat verder onder advertentie
Hoewel generatieve AI al een aantal jaren bestaat, heeft er de afgelopen maanden een doorbraak plaatsgevonden waardoor het makkelijker is geworden om video's van goede kwaliteit te produceren met behulp van hulpmiddelen die meestal gratis of tegen een zeer lage prijs beschikbaar zijn, aldus Peter Lewis, Canada Research Chair in betrouwbare kunstmatige intelligentie.
"Ik moet zeggen dat het op dit moment voor bijna iedereen toegankelijk is, met een beetje technische kennis en toegang tot de juiste tools", zei hij.
Lewis, die tevens universitair docent is aan de Ontario Tech University, zei dat grote taalmodellen zoals ChatGPT veiligheidsmaatregelen hebben geïmplementeerd in een poging om schadelijke of illegale inhoud te filteren.
Maar er moet meer gebeuren op videogebied om dergelijke maatregelen te nemen, zei hij.
"Jij en ik zouden de video kunnen bekijken en waarschijnlijk geschokt zijn", zei hij, eraan toevoegend: "Het is niet per se duidelijk of het AI-systeem de mogelijkheid heeft om te reflecteren op wat het heeft gecreëerd."
Virale video van Chinese paraglider waarschijnlijk gemanipuleerd met AI-beelden
Lewis zei dat hij weliswaar geen juridisch expert is, maar dat hij wel gelooft dat bestaande wetten gebruikt kunnen worden om de online verheerlijking van haat en geweld in de AmericanBigfoot-video's te bestrijden.
Verhaal gaat verder onder advertentie
Maar hij voegde eraan toe dat de snelle ontwikkeling van generatieve AI en de brede beschikbaarheid van nieuwe tools "wel degelijk om nieuwe technologische oplossingen vragen" en om samenwerking tussen overheden, consumenten, belangenbehartigers, sociale platforms en AI-appontwikkelaars om het probleem aan te pakken.
"Als dit soort dingen worden geüpload... hebben we echt robuuste, responsieve markeringsmechanismen nodig om ze zo snel mogelijk van internet te halen", zei hij.
Volgens Lewis is het weliswaar nuttig om AI-tools te gebruiken om dergelijke video's te detecteren en markeren, maar lost dit het probleem niet op.
Premier van Saskatchewan gaat makers van AI-'deepfakes' van hem en Carney opsporen
Uit onderzoek blijkt dat ChatGPT in meer dan de helft van de gevallen op gevaarlijke manieren reageerde op gebruikers die om advies vroegen
