Чарли Кирк был застрелен в мире, где уже давно отсутствует модерация контента

Спустя несколько минут после того, как вчера консервативный политический активист Чарли Кирк был застрелен во время выступления в Университете долины Юты, в таких приложениях, как TikTok, Instagram и X, начали распространяться шокирующие видеоролики инцидента. Сразу после этого большинство видео, просмотренных WIRED, не содержали предупреждений о содержании. Многие начинали автоматически воспроизводиться, прежде чем зрители могли дать согласие. А в X сгенерированный искусственным интеллектом обзор инцидента ложно указывал на то, что Кирк выжил после стрельбы.

Исследователи, отслеживающие распространение видеороликов со стрельбой в социальных сетях, утверждают, что крупные социальные платформы не обеспечивают соблюдение собственных правил модерации контента в момент обострения политической напряжённости и насилия. Видео со смертельным исходом в Кирке каким-то образом попадает в лазейку в законодательстве, балансируя между допустимым «натуралистичным контентом» и категорией «героизированного насилия», нарушающей правила платформы.

«Невероятно, как некоторые из этих видео всё ещё доступны. И учитывая скорость распространения этой информации, абсолютно невозможно удалить все эти ужасные видео или добавить предупреждения к ним, если у вас нет надёжной программы доверия и безопасности», — говорит Алекс Махадеван, директор MediaWise в Институте Пойнтера.

За последние два года такие социальные платформы, как X, TikTok, Facebook и Instagram, сократили свои усилия по модерации контента, в некоторых случаях полностью отказавшись от работы модераторов-людей, которые ранее выступали важнейшей линией защиты пользователей от просмотра вредоносного контента. Многие платформы используют инструменты искусственного интеллекта для выявления и маркировки потенциально опасного видеоконтента, но компании не всегда раскрывают подробности применения этих инструментов.

На видеозаписи, где Кирка расстреливают, видно, как он сидит на стуле и отвечает на вопросы студентов и других зрителей. Моменты до, во время и после убийства были сняты на смартфоны и быстро распространены в социальных сетях. На многих видео видно, как Кирк внезапно отшатывается, получив ранение, и из левой стороны его шеи льётся кровь.

WIRED просматривал эти видео в TikTok, Instagram, X, Facebook, Threads и Bluesky. Некоторые из них появлялись в лентах новостей естественным образом или при первом открытии приложений. Другие легко находили по ключевым словам, например, «Чарли Кирк» и «Чарли Кирк застрелен». В X некоторые пользователи рекомендовали отключить автовоспроизведение , чтобы случайно не посмотреть видео со стрельбой.

«Я не думаю, что возможно предотвратить первоначальное распространение, но я думаю, что платформы могут лучше предотвратить массовое распространение через алгоритмические каналы, особенно среди людей, которые специально не искали это», — говорит Мартин Дегелинг, исследователь, который проводит аудит алгоритмических систем и сотрудничает с такими организациями, как некоммерческая AI Forensics.

Дегелинг отслеживал распространение видеороликов со стрельбой Кирка за ночь и отметил, что один из роликов набрал более 17 миллионов просмотров в TikTok. Судя по скриншоту, предоставленному WIRED, видео, о котором идёт речь, было снято всего в нескольких рядах от места, где сидел Кирк на сцене. В нём были хэштеги: #charliekirk #rip #charliekirkdied #charliekirkincident #ripcharlie. Видео было удалено.

В другом видео из TikTok, которым Дегелинг поделился с WIRED, показана замедленная съемка крупным планом пули, попавшей в шею Кирка. В целом видео было заговорщическим: пользователь, загрузивший его, добавил жуткую музыку и закадровый голос, который спросил: «Что это за чёрная штука у него на рубашке и почему она так двигалась перед выстрелом?» По состоянию на утро четверга видео всё ещё было доступно в интернете. Оно было доступно восемь часов и собрало более 900 комментариев (многие из которых утверждали, что «чёрная штука» — это микрофон).

Утром четверга в Instagram по запросу «Чарли Кирк застрелен» первым результатом поиска стало видео инцидента крупным планом. Видео автоматически воспроизводится в виде миниатюры без предупреждения. На момент написания статьи видео набрало 15,3 миллиона просмотров.

Видео со стрельбой в Кирке не только быстро распространяются, но и некоторые из них явно нарушают политику социальных сетей. Например, в условиях использования TikTok указано, что компания не допускает « кровавый, отвратительный, тревожный или крайне жестокий контент ».

«Мы опечалены убийством Чарли Кирка и выражаем глубочайшие соболезнования его жене Эрике, их двум маленьким детям, а также их семье и друзьям», — заявил представитель TikTok Джейми Фавацца. «Этим ужасающим актам насилия нет места в нашем обществе. Мы по-прежнему привержены активному обеспечению соблюдения наших Правил сообщества и внедрили дополнительные меры безопасности, чтобы предотвратить неожиданный просмотр людьми материалов, нарушающих наши правила».

На других платформах видео Кирка попадает в «серую зону». Общая политика Meta заключается в ограничении по возрасту определённого контента, обязательном размещении предупреждающих надписей и удалении некоторых сцен насилия.

Представитель Meta заявил, что, согласно политике компании в отношении жестокого и откровенного контента, она помечает видеозаписи стрельбы в Кирке как «Отметить как деликатные» и устанавливает возрастные ограничения для пользователей старше 18 лет. Представитель также сообщил, что 15 000 пользователей компании просматривают контент Meta (хотя компания не уточнила, являются ли они сотрудниками или подрядчиками), и что компания не допускает к публикации видео, прославляющие, представляющие или поддерживающие инцидент или преступника.

Meta также заявляет в своём онлайн -Центре прозрачности , что не допускает контент, содержащий «террористические атаки, проявления ненависти, насилие с участием нескольких жертв или попытки насилия с участием нескольких жертв, серийные убийства или преступления на почве ненависти, создаваемый самими преступниками, связанный с такими атаками; а также сторонние изображения, запечатлевшие момент таких нападений на видимых жертв». Тем не менее, широко распространённые кадры расстрела Кирка пока разрешены. Они получат предупреждающую метку и будут ограничены по возрасту, но не будут удалены с платформ Meta, если только не будет установлено, что они явно нарушают политику «восхваляющего контента».

X сообщает пользователям, что они «могут делиться графическими материалами, если они надлежащим образом маркированы, не выставляются напоказ и не содержат чрезмерно кровавых сцен или изображений сексуального насилия». Платформа отмечает, что контент, который «явно угрожает, подстрекает, восхваляет или выражает стремление к насилию», не допускается.

Махадеван из Института Пойнтера говорит, что в среду на канале X он несколько раз видел видео, на котором Кирк стреляет без его согласия, сравнивая это с версией «4Chan, превратившегося в популярную платформу социальных сетей». (Он также говорит, что открыл Facebook в четверг утром и сразу же увидел видео, на котором Кирка расстреливают.)

X не ответил на просьбы прокомментировать ситуацию или вопросы о том, считается ли видео Кирка «чрезмерно кровавым» по стандартам X.

Но у X, похоже, возникла еще одна проблема с модерацией контента: спустя несколько часов после того, как Кирк был объявлен мертвым, ИИ-чат-бот Grok, работающий на X, заявил, что Кирк «в порядке и активен, как всегда». X не ответил на дальнейшие вопросы WIRED о дезинформации Grok о стрельбе в Кирке.

Компания Bluesky заявила, что блокирует аккаунты, поощряющие насилие, и удаляет видеоролики события крупным планом.

В настоящее время видеоролики со стрельбой в Чарли Кирка продолжают распространяться в Интернете.

«Всё это наносит психологический ущерб нашему обществу, и мы пока не понимаем, как именно», — сказал Махадеван. «Мы видим посты на X, где люди пишут: „Поздравляю, вы меня радикализировали“. И отчасти это связано с тем, что они видят видео убийства Кирка. Они не просто читают об этом. Они действительно это видят».

Дополнительный материал предоставлен Кайли Робисон.

Обновлено: 11 сентября 2025 г., 16:00 по восточноевропейскому времени: эта история была обновлена ​​с учетом комментария из TikTok и текущей институциональной принадлежности исследователя.