Dies ist die große Herausforderung bei der Bekämpfung von Deepfakes in Lateinamerika.

In Lateinamerika wächst die Besorgnis über Deepfakes. Laut einem aktuellen Bericht der Plattform Kapwing ist Argentinien das größte Interesse an dieser Technologie in der Region, gefolgt von Chile, Peru und Kolumbien mit 481, 337 bzw. 141 monatlichen Suchanfragen im Zusammenhang mit Deepfakes.

Das Bewusstsein für den böswilligen Einsatz dieses digitalen Tools, das künstliche Intelligenz nutzt, um gefälschte Videos oder Audioclips zu erstellen, die das reale Leben simulieren, wächst. Regulatorische und technische Maßnahmen schreiten jedoch deutlich langsamer voran und betreffen verschiedene Bereiche der Gesellschaft, so Dr. Francisco José Adán Castaño, Anwalt und Professor des offiziellen Masterstudiengangs für Digitalrecht und Cybersicherheit an der Internationalen Universität Valencia (VIU), die zum internationalen Hochschulnetzwerk Planeta Formación y Universidades gehört.

„ Politiker sind wahrscheinlich am stärksten von diesem Problem betroffen. Gefälschte Videos von Kandidaten, die kurz vor einer Wahl Dinge sagen, die sie nie gesagt haben … Das ist ein Albtraum für die Demokratie“, warnt der VIU-Experte. „Auch der Wirtschafts- und Finanzsektor hat mit ernsthaften Problemen zu kämpfen. Fälle, in denen Betrüger Voice-Deepfakes verwenden, um sich als CEOs auszugeben und Überweisungen in Millionenhöhe zu autorisieren, sind keine Seltenheit.“

Der technologische Fortschritt bei Deepfakes steht im Kontrast zur langsamen Entwicklung der Regulierungsrahmen in Lateinamerika. Justizsysteme müssen mit Verleumdungs- oder Betrugsbestimmungen improvisieren, die jedoch nicht immer wirksam sind. Darüber hinaus erschwert der transnationale Charakter der digitalen Umgebung die rechtliche Durchsetzbarkeit zusätzlich.

„Gesetze entwickeln sich im Vergleich zur Technologie sehr langsam“, bemerkt Dr. Francisco Adán Cataño, der auch Experte für KI und geistiges Eigentum ist. „Viele Länder haben nicht einmal spezielle Gesetze für Deepfakes. Das Internet kennt keine Grenzen. Welches Recht gilt: das des Ortes, an dem es erstellt, hochgeladen oder gesehen wurde?“

Zu dieser regulatorischen Schwäche kommt der Mangel an technischer Ausbildung bei den zuständigen Behörden hinzu. Polizisten und Richter sind oft nicht ausreichend in gängigen technologischen Fragen geschult , und wenn es darum geht, das Problem der Deepfakes zu verstehen und zu entschlüsseln, wird der Mangel an technischer Ausbildung deutlich.

Die Weiterentwicklung von Deepfakes hat zu einem regelrechten Wettrüsten zwischen Erstellern und Erfassern geführt, bei dem maschinelles Lernen im Mittelpunkt steht. Sie trainieren mit Tausenden von echten und gefälschten Videos, um ihre Erkennungsfähigkeiten zu verfeinern.

Wie der Experte für geistiges Eigentum, Datenschutz und neue Technologien betont, handelt es sich um ein Katz-und-Maus-Spiel, bei dem Deepfakes mit jeder Verbesserung der Detektoren immer ausgefeilter werden.

Heute gibt es Erkennungsalgorithmen, die für das menschliche Auge unsichtbare Anomalien wie Blinzelmuster oder Lichtverzerrungen im Gesicht identifizieren. Maschinelles Lernen ist dabei der Schlüssel. Die Systeme werden mit Tausenden von echten und gefälschten Videos trainiert, um Muster zu unterscheiden.

Die Blockchain-Authentifizierung ist ein weiterer vielversprechender Ansatz. Sie würde es ermöglichen, ein Video bei der Erstellung unveränderlich aufzuzeichnen, sodass alle Änderungen erkennbar sind. Bei Audiodaten könnte die Analyse auf Stimmmustern, Pausen und Atmung basieren.

Für das Deepfake-Problem gibt es keine einheitliche Lösung. Es erfordert koordiniertes Handeln zwischen Regierungen, Technologieunternehmen, Entwicklern, Plattformen und der Zivilgesellschaft.

„Regierungen müssen Gesetze erlassen, die Sinn machen und in der Praxis anwendbar sind, nicht nur auf dem Papier“, betont der Experte. „Sie müssen außerdem ihre Bevölkerung schulen und international zusammenarbeiten, denn das ist grenzüberschreitend.“

Der VIU-Sprecher betont auch die Rolle digitaler Plattformen. Netzwerke wie Facebook, TikTok und YouTube müssten in die Erkennung und Beseitigung bösartiger Deepfakes investieren und dabei ihre Neutralität außer Acht lassen. Auch die Verantwortung der Nutzer dieser Netzwerke trage dazu bei.

„Die Zivilgesellschaft spielt eine wichtige Rolle“, stellt er fest. „ Die Medien leisten zwar gute Arbeit bei der Faktenprüfung, aber wir brauchen mehr. Außerdem brauchen wir mehr Forschung an den Universitäten zur Erkennung von Cyberkriminalität und mehr Bildungsprogramme zur digitalen Kompetenz.“

Die Technologie, die das Problem verursacht hat, kann auch Teil der Lösung sein. Doch ohne angemessene rechtliche Rahmenbedingungen und ein weit verbreitetes kritisches Bewusstsein in der Region könnte Lateinamerika einer Zukunft ausgesetzt sein, in der es nicht mehr möglich ist, Wahrheit von Lüge zu unterscheiden.