YouTube lanceert anti-deepfake AI om populaire makers te beschermen

YouTube bestrijdt deepfakes met het enige wapen dat lijkt te werken: een andere vorm van kunstmatige intelligentie. Vanaf vandaag krijgen makers in het Partnerprogramma toegang tot een nieuwe tool voor het detecteren van lookalikes, die het platform scant op video's waarin hun gezicht zonder toestemming wordt gebruikt.

YouTube bestrijdt deepfakes: nieuwe AI-tool detecteert gestolen gezichten van makers

De tool belooft beroemdheden te helpen om op grote schaal AI-gegenereerde content van zichzelf te beheren. Dat is nodig, want een overtuigende deepfake creëren is zo eenvoudig geworden dat vrijwel iedereen met een laptop en veel vrije tijd het kan. Het enige wat je nodig hebt is een app, een paar referentiefoto's en de twijfelachtige morele wil om woorden en daden in de mond van iemand anders te leggen.

Nadat hun identiteit is geverifieerd (waarschijnlijk om te voorkomen dat iemand zich voordoet als MrBeast, terwijl diegene in werkelijkheid iemand is die bij zijn of haar ouders in de kelder woont), kunnen makers gemarkeerde video's bekijken op het tabblad Inhoudsdetectie in YouTube Studio.

Als een video ongeoorloofde, door AI gegenereerde content lijkt te zijn, kunnen ze een verwijderingsverzoek indienen. Het is vergelijkbaar met het Content ID-systeem dat YouTube gebruikt om auteursrechtelijk beschermde audio- en videocontent te detecteren, maar in plaats van naar muziek of filmfragmenten, zoekt het naar gezichten.

Het probleem, zoals YouTube zelf toegeeft in een handleiding voor early adopters , is dat de tool in zijn huidige ontwikkelingsfase video's zou kunnen weergeven die je echte gezicht laten zien, en geen bewerkte of synthetische versies . In de praktijk zou de AI fragmenten van de originele content van de maker kunnen markeren. Het is als een waakhond die zo ijverig is dat hij zelfs naar de host blaft. Gênant, maar begrijpelijk, aangezien het steeds moeilijker wordt om een ​​goed gemaakte deepfake van de echte te onderscheiden, zelfs voor mensen.

Uitrollen

YouTube kondigde deze functie vorig jaar aan en begon in december met het testen ervan via een pilotprogramma met talenten vertegenwoordigd door Creative Artists Agency (CAA), een van de grootste talentenbureaus van Hollywood.

De eerste lichting makers die in aanmerking kwamen, werd vanochtend per e-mail op de hoogte gebracht en de functie zal de komende maanden worden uitgebreid naar andere makers. YouTube heeft nog niet precies gespecificeerd welke criteria bepalen wie als eerste toegang krijgt, maar we kunnen ervan uitgaan dat het iets te maken heeft met de grootte van je kanaal, het aantal abonnees en waarschijnlijk hoe kwetsbaar je bent. Als je 100 abonnees hebt, zou waarschijnlijk niemand de moeite nemen om een ​​deepfake te maken. Maar als je er 10 miljoen hebt, word je een belangrijk doelwit.

De tools van YouTube tegen AI-content

De tool voor gelijkenisdetectie is niet het enige wapen in YouTube's arsenaal tegen problematische AI-content. In maart begon het platform met de eis dat makers geüploade content moeten labelen die materiaal bevat dat met AI is gegenereerd of bewerkt. Het kondigde ook een strikt beleid aan voor door AI gegenereerde muziek die de unieke stem van een zingende of rappende artiest nabootst.

Het echte probleem met elke detectietool is dat het altijd een wapenwedloop is. Je creëert een systeem dat deepfakes detecteert, iemand maakt betere deepfakes die de detectie omzeilen, jij verbetert de detectie, zij verbeteren de deepfakes. Het is een eindeloze cyclus.

YouTube doet wat het kan met de beschikbare middelen en technologie, maar het is geen permanente oplossing. Het is een tijdelijke oplossing voor een probleem dat zich zal blijven ontwikkelen. Populaire videomakers krijgen een extra tool om hun imago te beschermen, maar ze zullen het platform nog steeds constant in de gaten moeten houden en handmatig verwijderingsverzoeken moeten indienen.

En dan is er nog de vraag wat er gebeurt met deepfakes die onopgemerkt blijven, of die worden geüpload naar andere platforms waar YouTube geen jurisdictie over heeft. TikTok , Instagram , X , Twitch – allemaal plekken waar deepfakes kunnen woekeren zonder dat deze tool er iets aan kan doen. YouTube heeft alleen controle over zijn eigen achtertuin, maar deepfakes groeien overal als onkruid.