OpenAI Sora 2 en de Sora-app: zijn ze voldoende beschermd?

OpenAI heeft zijn nieuwe Sora 2- videogeneratiemodel aangekondigd . Gebruikers in de VS en Canada kunnen het model gebruiken in de Sora iOS- app. Het is vergelijkbaar met TikTok, maar de video's in de feed worden gemaakt door AI. Het in Californië gevestigde bedrijf heeft verschillende beveiligingen geïmplementeerd om het genereren van deepfakes zonder wederzijdse toestemming te voorkomen.

Sora 2: Voldoende bescherming?

Net als het eerste model kun je met Sora 2 video's met audio genereren op basis van een tekstbeschrijving (tot 10 seconden lang). Het eindresultaat is behoorlijk realistisch, dus alle video's worden automatisch voorzien van een watermerk op basis van de C2PA- standaard (Coalition for Content Provenance and Authenticity), wat duidt op het gebruik van kunstmatige intelligentie.

De komst van de Sora-app voor iOS heeft het risico op de verspreiding van deepfakes zonder wederzijdse toestemming aanzienlijk vergroot. Gebruikers kunnen nu video's delen die zijn gemaakt met afbeeldingen of andere video's met behulp van de Cameo- functie. Video's die door andere gebruikers zijn geplaatst, kunnen ook worden gebruikt om een ​​remix te maken.

Gebruikers moeten toestemming vragen om video's te maken en te delen. Deze toestemming kan worden ingetrokken en de cameo kan worden verwijderd. De geautomatiseerde systemen van OpenAI detecteren gevaarlijke of ongepaste content en voorkomen dat deze wordt gegenereerd. Ouders kunnen in plaats daarvan gebruikmaken van de ouderlijk toezichtfunctie van ChatGPT.

Het in Californië gevestigde bedrijf heeft ook filters geïmplementeerd om te voorkomen dat er audio wordt gegenereerd die levende artiesten of auteursrechtelijk beschermde content imiteert. De feed van de Sora-app wordt gepersonaliseerd door een algoritme dat verschillende informatie gebruikt, waaronder berichten, reacties, vind-ik-leuks, gevolgde accounts en geografische locatie op basis van IP-adres. Ouders kunnen personalisatie voor het account van hun kind uitschakelen.

In de komende weken zullen we ontdekken of al deze beschermingsmaatregelen effectief zijn of dat de Sora-app slechts een hulpmiddel wordt om video's te delen zonder toestemming.