OpenAI lanceert Sora-app voor sociale media voor door AI gegenereerde video's, wat leidt tot zorgen over 'AI-rommel' en auteursrecht

Het bedrijf achter ChatGPT lanceerde dinsdag zijn nieuwe app voor sociale media, Sora, in een poging de aandacht te trekken van mensen die momenteel kijken naar korte video's op TikTok, YouTube of Instagram en Facebook, eigendom van Meta.

De nieuwe iPhone-app speelt in op de aantrekkingskracht van de mogelijkheid om een ​​video van jezelf te maken, waarin je vrijwel alles kunt doen wat je maar kunt bedenken, in stijlen die variëren van anime tot zeer realistisch.

Maar de stortvloed aan dergelijke video's die de sociale media overneemt, baart sommigen zorgen over 'AI-rommel' die de authentieke menselijke creativiteit verdringt en het informatie-ecosysteem aantast.

Door AI gegenereerde video's zijn steeds geavanceerder geworden naarmate de technologie is verbeterd – ze kunnen kijkers misleiden. Vorige week ging een AI-video van de brandende CN Tower viraal op Facebook , waar sommige gebruikers geschokt reageerden en dachten dat de video echt was. Van onschuldige video's van konijnen die op trampolines springen tot deepfakes van vermeende bosbranden , alles heeft socialemediagebruikers voor de gek gehouden.

De officiële lanceringsvideo van de Sora-app toont een door AI gegenereerde versie van OpenAI CEO Sam Altman die spreekt vanuit een psychedelisch bos, de maan en een stadion vol juichende fans die rubbereendraces bekijken. Hij introduceert de nieuwe tool voordat hij deze doorgeeft aan collega's die zich in andere bizarre scenario's bevinden. De app is voorlopig alleen beschikbaar op Apple-apparaten, te beginnen in de VS en Canada.

Meta lanceerde vorige week een eigen feed met korte AI-video's binnen de Meta AI-app. In een Instagram-bericht waarin hij het nieuwe Vibes-product aankondigde, plaatste Meta-CEO Mark Zuckerberg een carrousel aan AI-video's, waaronder een tekenfilmversie van zichzelf, een leger van harige wezens met kraaloogjes die rondspringen en een kitten die een bal deeg kneedt.

Zowel Sora als Vibes zijn zo ontworpen dat ze zeer gepersonaliseerd zijn. Ze raden nieuwe video's aan op basis van wat mensen al hebben bekeken.

Jose Marichal, hoogleraar politicologie aan de California Lutheran University die onderzoekt hoe AI de maatschappij hervormt, zegt dat zijn eigen socialemediafeeds op TikTok en andere sites al vol staan ​​met dergelijke video's, van een "huiskat die een wild dier berijdt vanuit het perspectief van een deurbelcamera" tot nepnieuws over natuurrampen die boeiend zijn, maar gemakkelijk te ontkrachten. Hij zei dat je mensen niet kwalijk kunt nemen dat ze zo geprogrammeerd zijn dat ze "willen weten of er iets bijzonders gebeurt in de wereld."

Het is gevaarlijk, zei hij, wanneer ze domineren wat we online zien.

"We hebben een informatieomgeving nodig die grotendeels waar is of waarop we kunnen vertrouwen, omdat we die informatie moeten gebruiken om rationele beslissingen te nemen over hoe we collectief moeten regeren", zei hij.

Zo niet, dan "worden we ofwel super, super sceptisch over alles, ofwel super zeker", zei Marichal. "We worden ofwel gemanipuleerd, ofwel de manipulatoren. En dat leidt ons naar dingen die iets anders zijn dan liberale democratie, iets anders dan representatieve democratie."

OpenAI heeft dinsdag in haar aankondiging geprobeerd om deze zorgen weg te nemen.

"Zorgen over doomscrolling, verslaving, isolatie en [reinforcement learning]-onvolledig geoptimaliseerde feeds staan ​​bovenaan de agenda", aldus het in een blogpost . Het bedrijf gaf aan dat het "gebruikers periodiek zou peilen naar hun welzijn" en hen opties zou bieden om hun feed aan te passen, met een ingebouwde voorkeur om berichten van vrienden aan te bevelen in plaats van van vreemden.

Auteursrechtelijk beschermde inhoud op Sora

Sora biedt gebruikers ook de mogelijkheid om video's te draaien van auteursrechtelijk beschermd materiaal. Dit is een stap die in Hollywood waarschijnlijk voor ophef zal zorgen.

Auteursrechthouders, zoals televisie- en filmstudio's, moeten ervoor kiezen om hun werk niet in de videofeed te laten verschijnen, aldus functionarissen van het bedrijf. Zij omschreven dit als een voortzetting van het eerdere beleid ten aanzien van het genereren van afbeeldingen.

De maker van ChatGPT is de afgelopen weken in gesprek geweest met diverse auteursrechthouders om het beleid te bespreken, aldus functionarissen van het bedrijf. Minstens één grote studio, Disney, heeft er al voor gekozen om hun materiaal niet in de app te laten verschijnen, aldus bronnen die bekend zijn met de kwestie. Eerder dit jaar drong OpenAI er bij de regering-Trump op aan om te verklaren dat het trainen van AI-modellen op auteursrechtelijk beschermd materiaal onder de "fair use"-bepaling in de auteursrechtwetgeving valt.

"Het toepassen van de fair use-doctrine op AI is niet alleen een kwestie van Amerikaans concurrentievermogen, maar ook van nationale veiligheid", betoogde OpenAI in maart. Zonder deze stap, zo stelde het bedrijf destijds, zouden Amerikaanse AI-bedrijven hun voorsprong op Chinese rivalen verliezen.

OpenAI-functionarissen zeiden dat er maatregelen zijn genomen om te voorkomen dat mensen zonder toestemming video's maken van publieke figuren of andere gebruikers van de app. De gelijkenissen van publieke figuren en anderen mogen niet worden gebruikt totdat ze hun eigen door AI gegenereerde video uploaden en toestemming geven.

Een van die stappen is een 'liveness check', waarbij de app de gebruiker vraagt ​​om zijn hoofd in verschillende richtingen te bewegen en een willekeurige reeks getallen op te zeggen. Gebruikers kunnen dan concepten zien van video's waarin hun gelijkenis voorkomt.