To jest wielkie wyzwanie w walce z deepfake’ami w Ameryce Łacińskiej.

Zaniepokojenie deepfake'ami rośnie w Ameryce Łacińskiej. Według najnowszego raportu platformy Kapwing, Argentyna jest liderem regionu pod względem zainteresowania tą technologią, a następnie Chile, Peru i Kolumbia, z odpowiednio 481, 337 i 141 wyszukiwaniami związanymi z deepfake'ami miesięcznie.

Rośnie świadomość złośliwego wykorzystania tego narzędzia cyfrowego, które wykorzystuje sztuczną inteligencję do tworzenia fałszywych filmów i klipów audio symulujących prawdziwe życie. Jednak działania regulacyjne i techniczne postępują znacznie wolniej, wpływając na różne sektory społeczeństwa, twierdzi dr Francisco José Adán Castaño, prawnik i profesor Oficjalnego Programu Magisterskiego Prawa Cyfrowego i Cyberbezpieczeństwa na Uniwersytecie Międzynarodowym w Walencji (VIU), należącym do międzynarodowej sieci szkolnictwa wyższego Planeta Formación y Universidades.

„ Politycy są prawdopodobnie najbardziej dotknięci tym problemem. Fałszywe nagrania kandydatów wypowiadających rzeczy, których nigdy nie powiedzieli tuż przed wyborami… To koszmar dla demokracji” – ostrzega ekspert VIU. „Sektor biznesowy i finansowy również borykają się z poważnymi problemami. Przypadki oszustów wykorzystujących deepfake'i głosowe do podszywania się pod prezesów i autoryzowania wielomilionowych przelewów nie są rzadkością”.

Postęp technologiczny w zakresie deepfake'ów kontrastuje z powolnym tempem regulacji prawnych w Ameryce Łacińskiej. Systemy sądownicze muszą improwizować w kwestii przepisów dotyczących zniesławienia lub oszustwa, które nie zawsze są skuteczne. Co więcej, transnarodowy charakter środowiska cyfrowego dodatkowo komplikuje egzekwowalność przepisów prawnych.

„Przepisy zmieniają się bardzo wolno w porównaniu z technologią” – zauważa dr Francisco Adán Cataño, ekspert w dziedzinie sztucznej inteligencji i własności intelektualnej. „W wielu krajach nie ma nawet konkretnych przepisów dotyczących deepfake’ów. Internet nie ma granic. Jakie prawo obowiązuje: to, które obowiązuje w miejscu powstania, w którym zostało opublikowane, czy w miejscu, w którym zostało obejrzane?”

Do tej słabości regulacyjnej przyczynia się brak szkoleń technicznych wśród odpowiedzialnych organów. Funkcjonariusze policji i sędziowie często nie są odpowiednio przeszkoleni w zakresie powszechnych zagadnień technologicznych , a brak szkoleń technicznych staje się oczywisty, gdy chodzi o zrozumienie i rozszyfrowanie problemu deepfake'ów.

Rozwój deepfake'ów zapoczątkował prawdziwy wyścig zbrojeń między twórcami a wykrywaczami, w którym centralną rolę odgrywa uczenie maszynowe. Szkolą się oni na tysiącach prawdziwych i fałszywych filmów, aby udoskonalić swoje możliwości wykrywania.

Jak zauważa ekspert ds. własności intelektualnej, prywatności i nowych technologii, jest to gra w kotka i myszkę, w której deepfake’i stają się coraz bardziej wyrafinowane wraz z każdym udoskonaleniem detektorów.

Obecnie istnieją algorytmy detekcji, które identyfikują anomalie niewidoczne dla ludzkiego oka, takie jak wzorce mrugania czy zniekształcenia oświetlenia twarzy. Kluczem do tego zadania jest uczenie maszynowe, które uczy systemy rozróżniania wzorców na tysiącach prawdziwych i fałszywych filmów.

Uwierzytelnianie oparte na blockchainie to kolejna obiecująca droga, która umożliwiłaby nagrywanie wideo w sposób niemożliwy do modyfikacji w momencie jego utworzenia, tak aby wszelkie modyfikacje były widoczne. W przypadku dźwięku analiza mogłaby opierać się na wzorcach wokalnych, pauzach i oddechu.

Problem deepfake'ów nie ma jednego rozwiązania. Wymaga skoordynowanych działań rządów, firm technologicznych, deweloperów, platform i społeczeństwa obywatelskiego.

„Rządy muszą tworzyć prawa, które mają sens i można je stosować w praktyce, a nie tylko na papierze” – podkreśla ekspert. „Muszą również szkolić swoich ludzi i współpracować na arenie międzynarodowej, ponieważ to wykracza poza granice”.

Rzecznik VIU podkreśla również rolę platform cyfrowych. Sieci takie jak Facebook, TikTok i YouTube muszą inwestować w wykrywanie i eliminowanie złośliwych deepfake'ów, nie zwracając uwagi na neutralność. Do takiej sytuacji przyczynia się również odpowiedzialność użytkowników tych sieci.

„Społeczeństwo obywatelskie ma do odegrania ważną rolę” – zauważa. „ Weryfikacja faktów przez media jest skuteczna, ale potrzebujemy więcej. Uniwersytety powinny również prowadzić więcej badań nad wykrywaniem i programów edukacyjnych na temat kompetencji cyfrowych”.

Technologia, która spowodowała problem, może być również częścią rozwiązania. Jednak bez odpowiednich ram prawnych i powszechnej krytycznej świadomości w regionie, Ameryka Łacińska może być narażona na przyszłość, w której nie będzie już możliwe odróżnienie prawdy od fałszu.