Charlie Kirk werd doodgeschoten in een wereld zonder content-moderatie

Enkele minuten nadat conservatief politiek activist Charlie Kirk gisteren werd neergeschoten tijdens een spreekbeurt aan de Utah Valley University, begonnen schokkende video's van het incident te circuleren op apps zoals TikTok, Instagram en X. Direct na de schietpartij bevatte het merendeel van de video's die WIRED bekeek geen inhoudswaarschuwingen. Veel video's begonnen automatisch af te spelen voordat kijkers toestemming konden geven. En op X gaf een door AI gegenereerde samenvatting van het incident ten onrechte aan dat Kirk de schietpartij had overleefd.

Onderzoekers die de verspreiding van de schietpartijbeelden op sociale media volgen, stellen dat grote sociale platforms tekortschieten in het handhaven van hun eigen regels voor contentmoderatie, juist nu politieke spanningen en geweld oplaaien. De video van Kirk die dodelijk wordt neergeschoten, valt op de een of andere manier in een maas in de wet, waardoor hij de grens tussen toegestane "grafische content" en de categorie "verheerlijkt geweld" overschrijdt, wat in strijd is met de platformregels.

"Het is ongelooflijk dat sommige van deze video's nog steeds online staan. En met de manier waarop dit soort dingen zich verspreiden, is het absoluut onmogelijk om al deze gruwelijke video's te verwijderen of er waarschuwingen aan toe te voegen als je geen robuust vertrouwens- en veiligheidsprogramma hebt", zegt Alex Mahadevan, directeur van MediaWise bij het Poynter Institute.

In de afgelopen twee jaar hebben sociale platforms zoals X, TikTok, Facebook en Instagram hun inspanningen op het gebied van contentmoderatie teruggeschroefd. In sommige gevallen is het werk van menselijke moderators, die voorheen een cruciale verdedigingslinie vormden om gebruikers te beschermen tegen het bekijken van schadelijke content, zelfs volledig verdwenen. Veel platforms gebruiken AI-tools om potentieel schadelijke videocontent te detecteren en te labelen, maar de bedrijven delen niet altijd details over hoe deze tools worden ingezet.

De video's van Kirk die wordt neergeschoten, tonen hem zittend op een krukje terwijl hij vragen beantwoordt van studenten en andere toeschouwers. De momenten voor, tijdens en na zijn dood werden vastgelegd met smartphones en snel gedeeld op sociale media. Veel video's tonen Kirk die plotseling terugdeinst, nadat hij is neergeschoten, en waarbij bloed uit de linkerkant van zijn nek gutst.

WIRED bekeek deze video's op TikTok, Instagram, X, Facebook, Threads en Bluesky. Sommige video's verschenen organisch in feeds of bij het openen van de apps. Andere kwamen gemakkelijk naar boven door te zoeken op trefwoorden zoals "Charlie Kirk" en "Charlie Kirk neergeschoten". Op X adviseerden sommige gebruikers om automatisch afspelen uit te schakelen, zodat ze niet per ongeluk video's van de schietpartij zouden bekijken.

"Ik denk niet dat het mogelijk is om de initiële verspreiding te voorkomen, maar ik denk dat platforms beter kunnen presteren in het voorkomen van de massale verspreiding via algoritmische feeds, vooral naar mensen die er niet specifiek naar hebben gezocht", zegt Martin Degeling, een onderzoeker die algoritmische systemen controleert en samenwerkt met organisaties zoals de non-profitorganisatie AI Forensics.

Degeling hield de verspreiding van de video's van Kirk's schietpartij 's nachts in de gaten en merkte op dat één clip meer dan 17 miljoen keer bekeken was op TikTok. Volgens een screenshot die WIRED heeft bekeken, lijkt de video in kwestie te zijn opgenomen vanaf een paar rijen afstand van waar Kirk op het podium zat. De video bevatte de hashtags: #charliekirk #rip #charliekirkdied #charliekirkincident #ripcharlie. De video is inmiddels verwijderd.

Een andere TikTok-video die Degeling met WIRED deelde, toonde een slow-motion close-up van de kogel die Kirks nek raakte. De toon van de video was complottheorieën: de gebruiker die hem uploadde, voegde er spookachtige muziek en een digitaal ingesproken stem aan toe, met de vraag: "Wat is dat zwarte ding op zijn shirt en waarom bewoog het zo voordat hij werd neergeschoten?" Donderdagochtend stond de video nog steeds online. Hij stond al acht uur online en had meer dan 900 reacties (waarvan velen zeiden dat het "zwarte ding" een microfoon was).

Donderdagochtend leverde een zoekopdracht op Instagram naar "Charlie Kirk shot" als eerste resultaat een close-up video van het incident op. De video wordt automatisch afgespeeld als thumbnail, zonder waarschuwing. Op het moment van schrijven was de video 15,3 miljoen keer bekeken.

Niet alleen verspreiden de video's van de schietpartij met Kirk zich razendsnel, sommige schenden ook duidelijk het socialmediabeleid van de platforms. Zo staat in de gebruiksvoorwaarden van TikTok dat het bedrijf geen " bloederige, gruwelijke, verontrustende of extreem gewelddadige content " toestaat.

"We zijn bedroefd door de moord op Charlie Kirk en betuigen ons diepste medeleven aan zijn vrouw Erika, hun twee jonge kinderen, en hun familie en vrienden", aldus TikTok-woordvoerder Jamie Favazza in een verklaring. "Deze afschuwelijke gewelddadige daden horen niet thuis in onze samenleving. We blijven ons inzetten voor de proactieve handhaving van onze communityrichtlijnen en hebben extra veiligheidsmaatregelen geïmplementeerd om te voorkomen dat mensen onverwachts beelden bekijken die onze regels overtreden."

Op andere platforms valt de Kirk-video in een grijs gebied. Het overkoepelende beleid van Meta is om bepaalde content een leeftijdsbeperking te geven, waarschuwingslabels te vereisen en sommige expliciete beelden van geweld te verwijderen.

Een woordvoerder van Meta meldde dat het bedrijf, conform het beleid voor gewelddadige en expliciete content, een waarschuwingslabel 'Markeren als gevoelig' toepast op beelden van de schietpartij in Kirk en dat deze alleen toegankelijk zijn voor gebruikers van 18 jaar en ouder. De woordvoerder meldde ook dat 15.000 mensen de content voor Meta beoordelen – hoewel niet werd aangegeven of dit werknemers of contractanten zijn – en dat het bedrijf geen video's toestaat die het incident of de dader verheerlijken, vertegenwoordigen of ondersteunen.

Meta stelt in zijn online Transparantiecentrum ook dat het geen content toestaat met betrekking tot "terroristische aanslagen, haatincidenten, geweld met meerdere slachtoffers of pogingen daartoe, seriemoorden of door de dader gegenereerde content met betrekking tot haatmisdrijven met betrekking tot dergelijke aanslagen; of beeldmateriaal van derden dat het moment van dergelijke aanslagen op zichtbare slachtoffers afbeeldt." De wijdverspreide beelden van de schietpartij van Kirk zijn vooralsnog echter wel toegestaan. Deze krijgen een waarschuwingslabel en een leeftijdsbeperking, maar worden niet van Meta-platforms verwijderd, tenzij wordt vastgesteld dat ze een duidelijke schending van het beleid voor "verheerlijkte content" vormen.

X vertelt gebruikers dat ze "grafische media mogen delen als deze correct gelabeld is, niet prominent wordt weergegeven en niet overdreven bloederig is of seksueel geweld afbeeldt." Het platform merkt op dat content die "expliciet bedreigend, aanzettend, verheerlijkend of een verlangen naar geweld uitdrukt" niet is toegestaan.

Mahadevan van het Poynter Institute zegt dat hij de video van de schietpartij met Kirk woensdag meerdere keren zonder zijn toestemming op X heeft gezien. Hij vergelijkt het met een versie van "4Chan die is uitgegroeid tot een mainstream sociaalmediaplatform". (Hij zegt ook dat hij donderdagochtend Facebook opende en meteen een video zag waarop te zien was hoe Kirk werd neergeschoten.)

X reageerde niet op verzoeken om commentaar of op vragen of de video van Kirk volgens X' normen 'buitensporig bloederig' was.

Maar X lijkt nog een ander probleem te hebben met de contentmoderatie: een paar uur nadat Kirk dood was verklaard, bleef de AI-chatbot Grok, die op X draait, volhouden dat Kirk "nog steeds oké en actief was". X reageerde niet op verdere vragen van WIRED over Groks desinformatie over de schietpartij in Kirk.

Bluesky heeft gezegd dat het accounts die aanzetten tot geweld blokkeert en close-up video's van het evenement verwijdert.

Momenteel verspreiden de video's van de schietpartij op Charlie Kirk zich nog steeds online.

"Dit alles is psychologisch schadelijk voor onze samenleving op manieren die we nog niet begrijpen", zei Mahadevan. "We zien berichten op X van mensen die zeggen: 'Gefeliciteerd, je hebt me geradicaliseerd.' En dat komt deels doordat ze de video van de moord op Kirk zien. Ze lezen er niet alleen over. Ze zien het echt."

Aanvullende verslaggeving door Kylie Robison.

Bijgewerkt: 11-09-2025 16:00 uur EST: Dit verhaal is bijgewerkt met commentaar van TikTok en om de huidige institutionele affiliatie van een onderzoeker weer te geven.