Charlie Kirk wurde in einer Welt ohne Inhaltsmoderation erschossen

Wenige Minuten nachdem der konservative politische Aktivist Charlie Kirk gestern bei einem Vortrag an der Utah Valley University angeschossen wurde , kursierten erschütternde Videos des Vorfalls auf Apps wie TikTok, Instagram und X. Unmittelbar danach enthielten die meisten der von WIRED angesehenen Videos keine Warnhinweise. Viele begannen automatisch abzuspielen, bevor die Zuschauer ihre Zustimmung geben konnten. Und auf X gab eine von KI generierte Zusammenfassung des Vorfalls fälschlicherweise an, Kirk habe die Schießerei überlebt.

Forscher, die die Verbreitung der Schießerei-Videos in den sozialen Medien verfolgen, sagen, dass die großen sozialen Plattformen ihre eigenen Regeln zur Inhaltsmoderation in einer Zeit, in der politische Spannungen und Gewalt eskalieren, nicht durchsetzen. Und das Video von Kirks tödlichen Schüssen fällt irgendwie in eine politische Lücke und bewegt sich zwischen zulässigen „grafischen Inhalten“ und der Kategorie „verherrlichter Gewalt“, die gegen die Plattformregeln verstößt.

„Es ist unglaublich, dass manche dieser Videos immer noch online sind. Und angesichts der Art und Weise, wie sich dieses Zeug verbreitet, ist es absolut unmöglich, all diese schrecklichen Videos zu entfernen oder Warnhinweise hinzuzufügen, wenn man kein robustes Vertrauens- und Sicherheitsprogramm hat“, sagt Alex Mahadevan, Leiter von MediaWise am Poynter Institute.

In den letzten zwei Jahren haben soziale Plattformen wie X, TikTok, Facebook und Instagram ihre Bemühungen zur Inhaltsmoderation zurückgefahren – in einigen Fällen wurde die Arbeit menschlicher Moderatoren, die zuvor eine wichtige Verteidigungslinie zum Schutz der Nutzer vor schädlichen Inhalten darstellten, vollständig eingestellt. Viele Plattformen nutzen KI-Tools, um potenziell schädliche Videoinhalte zu erkennen und zu kennzeichnen. Die Unternehmen geben jedoch nicht immer Einzelheiten darüber bekannt, wie diese Tools eingesetzt werden.

Die Videos von Kirks Erschießung zeigen ihn auf einem Hocker sitzend, wie er Fragen von Studenten und anderen Zuschauern beantwortet. Die Momente vor, während und nach seiner Tötung wurden mit Smartphones festgehalten und schnell in den sozialen Medien geteilt. Viele Videos zeigen, wie Kirk plötzlich zurückschreckt, angeschossen wurde und Blut aus seiner linken Halsseite strömt.

WIRED hat diese Videos auf TikTok, Instagram, X, Facebook, Threads und Bluesky angesehen. Einige der Videos erschienen direkt in Feeds oder beim ersten Öffnen der Apps. Andere waren leicht zu finden, wenn man nach Schlüsselwörtern wie „Charlie Kirk“ und „Charlie Kirk erschossen“ suchte. Auf X rieten einige Nutzer , die automatische Wiedergabe zu deaktivieren, um nicht versehentlich Videos der Schießerei anzusehen.

„Ich glaube nicht, dass es möglich ist, die anfängliche Verbreitung zu verhindern, aber ich denke, dass Plattformen mehr tun können, um die massive Verbreitung über algorithmische Feeds zu verhindern, insbesondere an Menschen, die nicht gezielt danach gesucht haben“, sagt Martin Degeling, ein Forscher, der algorithmische Systeme prüft und mit Organisationen wie der gemeinnützigen Organisation AI Forensics zusammenarbeitet.

Degeling verfolgte die Verbreitung von Kirks Drehvideos über Nacht und stellte fest, dass ein Clip auf TikTok über 17 Millionen Mal angesehen wurde. Einem Screenshot zufolge, der WIRED vorliegt, scheint das fragliche Video nur wenige Reihen hinter Kirk auf der Bühne aufgenommen worden zu sein. Es enthielt die Hashtags: #charliekirk #rip #charliekirkdied #charliekirkincident #ripcharlie. Das Video wurde inzwischen entfernt.

Ein weiteres TikTok-Video, das Degeling mit WIRED teilte, zeigte in Zeitlupe und Nahaufnahme die Kugel, die Kirks Hals traf. Der Ton des Videos war verschwörerisch: Der Nutzer, der es hochgeladen hatte, fügte gruselige Musik hinzu und eine digital kommentierte Stimme fragte: „Was ist das schwarze Ding auf seinem Hemd und warum hat es sich so bewegt, bevor er erschossen wurde?“ Am Donnerstagmorgen war das Video immer noch online. Es war seit acht Stunden online und hatte mehr als 900 Kommentare (viele sagten, das „schwarze Ding“ sei ein Mikrofon).

Am Donnerstagmorgen lieferte die Suche nach „Charlie Kirk erschossen“ auf Instagram als erstes Ergebnis ein Nahaufnahmevideo des Vorfalls. Das Video wird ohne Vorwarnung automatisch als Vorschaubild abgespielt. Zum Zeitpunkt des Schreibens hatte das Video 15,3 Millionen Aufrufe.

Die Videos von den Kirk-Schießereien verbreiten sich nicht nur rasant, einige verstoßen auch eindeutig gegen die Social-Media-Richtlinien der Plattformen. So heißt es beispielsweise in den Nutzungsbedingungen von TikTok, dass das Unternehmen keine „ blutigen, grausamen, verstörenden oder extrem gewalttätigen Inhalte “ zulässt.

„Wir sind traurig über die Ermordung von Charlie Kirk und sprechen seiner Frau Erika, ihren beiden kleinen Kindern sowie ihrer Familie und Freunden unser tiefstes Beileid aus“, sagte TikTok-Sprecher Jamie Favazza in einer Erklärung. „Diese schrecklichen Gewalttaten haben in unserer Gesellschaft keinen Platz. Wir setzen unsere Community-Richtlinien weiterhin proaktiv durch und haben zusätzliche Sicherheitsvorkehrungen getroffen, um zu verhindern, dass Menschen unerwartet Filmmaterial sehen, das gegen unsere Regeln verstößt.“

Auf anderen Plattformen fällt das Kirk-Video in eine Grauzone. Metas übergeordnete Richtlinie besteht darin, bestimmte Inhalte altersbeschränkt zu gestalten, Warnhinweise vorzuschreiben und einige grafische Gewaltdarstellungen zu entfernen.

Ein Sprecher von Meta erklärte, dass das Unternehmen gemäß seinen Richtlinien zu gewalttätigen und grausamen Inhalten das Filmmaterial der Schießerei in Kirk mit dem Warnhinweis „Als vertraulich markieren“ versieht und es für Nutzer ab 18 Jahren freigibt. Der Sprecher erklärte außerdem, dass 15.000 Personen Inhalte für Meta prüfen – ob es sich dabei um Mitarbeiter oder Vertragspartner handelt – und dass keine Videos erlaubt seien, die den Vorfall oder den Täter verherrlichen, darstellen oder unterstützen.

Meta erklärt in seinem Online -Transparenzzentrum außerdem, dass Inhalte zu „Terroranschlägen, Hassvorfällen, Gewalt mit mehreren Opfern oder versuchter Gewalt mit mehreren Opfern, Serienmorden oder von Tätern erstellten Hassverbrechen im Zusammenhang mit solchen Angriffen sowie Bilder von Dritten, die den Moment solcher Angriffe auf sichtbare Opfer zeigen“, nicht zulässig seien. Das weit verbreitete Filmmaterial von Kirks Erschießung ist jedoch vorerst zulässig. Es wird mit einem Warnhinweis und einer Altersbeschränkung versehen, aber nicht von Meta-Plattformen entfernt, es sei denn, es wird ein klarer Verstoß gegen die Richtlinie zu „verherrlichten Inhalten“ festgestellt.

X teilt den Nutzern mit, dass sie „grafische Medien teilen dürfen, sofern diese ordnungsgemäß gekennzeichnet sind, nicht auffällig dargestellt werden und nicht übermäßig blutig sind oder sexuelle Gewalt darstellen.“ Die Plattform weist darauf hin, dass Inhalte, die „ausdrücklich drohen, zur Gewalt aufrufen, sie verherrlichen oder den Wunsch nach Gewalt ausdrücken“, nicht erlaubt sind.

Mahadevan vom Poynter Institute sagt, er habe das Video von Kirks Erschießung am Mittwoch ohne dessen Zustimmung mehrfach auf X gesehen und vergleicht es mit einer Version von „4Chan, das zu einer Mainstream-Social-Media-Plattform geworden ist“. (Er sagt auch, er habe am Donnerstagmorgen Facebook geöffnet und sofort ein Video von Kirks Erschießung gesehen.)

X antwortete nicht auf Anfragen nach Kommentaren oder Fragen dazu, ob das Kirk-Video nach Xs Maßstäben als „übermäßig blutig“ angesehen werde.

Doch X scheint ein weiteres Problem mit der Inhaltsmoderation zu haben: Wenige Stunden nachdem Kirk für tot erklärt wurde, beharrte der KI-Chatbot Grok, der auf X läuft, darauf, dass es Kirk „gut und aktiv wie immer“ gehe. Auf weitere Fragen von WIRED zu Groks Fehlinformationen über die Erschießung Kirks antwortete X nicht.

Bluesky hat erklärt, dass es Konten sperrt, die Gewalt fördern, und Nahaufnahmen des Ereignisses entfernt.

Derzeit verbreiten sich die Videos von der Erschießung von Charlie Kirk weiterhin im Internet.

„Das alles schadet unserer Gesellschaft psychologisch auf eine Weise, die wir noch nicht verstehen“, sagte Mahadevan. „Wir sehen auf X Posts von Leuten, die sagen: ‚Herzlichen Glückwunsch, Sie haben mich radikalisiert.‘ Und das liegt zum Teil daran, dass sie das Video von Kirks Ermordung gesehen haben. Sie lesen nicht nur davon. Sie sehen es tatsächlich.“

Zusätzliche Berichterstattung von Kylie Robison.

Aktualisiert: 11.09.2025, 16:00 Uhr EST: Diese Geschichte wurde mit einem Kommentar von TikTok aktualisiert und um die aktuelle institutionelle Zugehörigkeit eines Forschers widerzuspiegeln.