Фрейминг одним нажатием кнопки: как ИИ становится дезинформацией

ИИ маскирует пропаганду под статистику и искажает историю. Нейтральный? Отнюдь нет. Гостевая статья.

Молодая афроамериканка слушает музыку в наушниках и разговаривает по мобильному телефону на эскалаторе Depositphotos/imago

Русские скоро «вернутся» к Бранденбургским воротам. Или, по крайней мере, попытаются сделать это, развязав очередную агрессивную войну, нарушающую международное право. Многие влиятельные люди в политике и государственном аппарате, в «мозговых центрах» (или, может быть, в аналитических центрах?) и в СМИ сходятся в этом во мнении.

В то же время, согласно последним эмпирическим исследованиям, использование так называемого искусственного интеллекта становится все более важным в повседневной жизни молодых людей в этой стране. 62 процента используют приложения ИИ, такие как Chat GPT, Meta AI, Grok (X), Google AI и т. д. — чаще всего в контексте школьных/домашних заданий (65 процентов), для развлечения (52 процента) или при поиске информации (43 процента).

Учитывая масштабное формирование враждебных настроений в отношении России и ее руководства в Германии, интересно посмотреть, что в настоящее время отвечают экземпляры ИИ на простой вопрос: «Нападала ли когда-либо Россия на Германию?»

Наиболее интегрированным ИИ в повседневное использование медиа, даже в Германии, является «Мета-ИИ» Марка Цукерберга . Невероятно популярный метамессенджер WhatsApp уже некоторое время предлагает этот экземпляр ИИ бесплатно практически всем пользователям. Это довольно много людей всех поколений, от дошкольников до прабабушек и прадедушек – около 50 миллионов человек, или около 80% населения в возрасте 14 лет и старше (юные пользователи не включены в этот опрос). По данным Statista, молодые пользователи используют WhatsApp даже чаще, чем пользователи старшего возраста.

Чью историю рассказывают алгоритмы?

Этот мета-ИИ отвечает на вопрос «Нападала ли Россия когда-либо на Германию?»

Скриншот 1 | Транскрипция Meta-AI : Да, Россия, а точнее, Советский Союз, напал на Германию во время Второй мировой войны. 22 июня 1942 года Германский рейх под командованием Адольфа Гитлера начал атаку на Советский Союз, осуществив операцию «Барбаросса». [...]

Первое предложение имеет решающее значение, поскольку многие пользователи едва ли читают дальше этого начала. Это также соответствует классической структуре новостей «перевёрнутой пирамиды», то есть сначала самое важное: «Да, Россия, а точнее, Советский Союз, напал на Германию во Второй мировой войне». Это вступительное утверждение — примечательное утверждение. Если не сказать контрфактуальное. Возможно, даже фейковая новость? Дезинформация? Давайте сравним это с текущей ситуацией: действия украинских военных против российского Курского района в 2025 году вряд ли были бы расценены Западом как «агрессивная война». Скорее, они были бы описаны как действия в рамках законной обороны от российской агрессивной войны.

В любом случае, такой ответ ИИ не кажется простым совпадением, потому что если вы зададите тот же вопрос, «погуглив» приложение ИИ группы Alphabet (Google, YouTube и т. д.), начало ответа будет поразительно похоже на ответ Мета-ИИ:

Скриншот 2 | Транскрипция Google : Да, Россия (точнее, Советский Союз) напала на Германию в рамках германо-советской войны, которая началась с вторжения в Советский Союз 22 июня 1941 года. [...]

Чтобы (лучше) понять подобные ответы, необходимо понять, как функционируют такие «большие языковые модели» как вычислительные лингвистические модели. Эти алгоритмы, которым, как правило, низкооплачиваемые работники предоставляют огромные объёмы данных в качестве обучающего материала, тратя огромное количество энергии (человеческой и иной), буквально ничего не понимают, но очень быстро экстраполируют, то есть вычисляют вероятности на основе предоставленного им обучающего материала. В смысле: какая последовательность символов, скорее всего, будет следующей? Разумно предположить, что, учитывая текущее состояние обучающего материала, особенно для западных моделей ИИ, за словом «Россия» относительно часто следуют термины «противоречащий международному праву» и «агрессивная война». И наоборот. Это может объяснить некоторые из подобных явлений.

Аисты вернулись — благодаря искусственной глупости

Модели искусственного интеллекта (по крайней мере, в настоящее время) не обладают понятием причинности, то есть причинно-следственных связей. Люди же способны распознавать именно такие связи. Не в последнюю очередь потому, что они (могут) действовать соответствующим образом. Нам известен пример с аистом, приносящим детей. Однако это всего лишь корреляция, то есть сосуществование явлений. В конце концов, присутствие аистов, конечно же, не является причиной рождения детей. Объясняющим фактором, так сказать, «недостающим звеном», является сельская местность: скорее сельская, чем городская. В сельской местности аистов (больше), отчасти из-за богатых источников продовольствия, и по определённым историческим и социальным причинам в деревнях рождается больше детей, чем в городах. В Берлине в настоящее время самый низкий уровень рождаемости на одну женщину в Германии . Но это не потому, что здесь так мало аистов, способных приносить детей. Возможная причинно-следственная связь может быть такой: если вы живёте в сельской местности, у вас, как правило, больше детей, и по тем же причинам вы чаще встречаете аистов. Причина и следствие. Именно этой типично человеческой способности к познанию и действию не хватает приложениям ИИ (по крайней мере, пока). Не в последнюю очередь потому, что они не могут действовать самостоятельно и, следовательно, достигать и распознавать совершенно новые вещи. Модели ИИ лучше всего справляются с рутинными вычислениями и распределением по существующим, предопределённым категориям.

Примечателен ещё один аспект ответа: по-видимому, оба рассматриваемых приложения ИИ также не понимают практических отношений субъект-объект в подобных предложениях. Оба ответа могли быть задуманы таким образом (и тогда теоретически даже были бы правильными, хотя вряд ли какой-либо человек когда-либо понял бы их таким образом): «Да, Россия или Советский Союз (как объект, как жертва, dA) напали на Германию (как субъект, как исполнитель, dA) во Второй мировой войне». Возможно, языковые модели уже поняли вопрос таким образом, тем самым, на основе своего обучающего материала определив символы, которые, скорее всего, верны здесь и сейчас: Россия как агрессор, Германия подвергается нападению.

Кстати, всё это не галлюцинация, как часто утверждают, пытаясь объяснить очевидные сбои. Нет, эти приложения ИИ никогда не фантазируют (это тоже остаётся возможным только для людей), а выполняют ровно то, на что были запрограммированы: выполняют высоковероятные задания на максимальной скорости, основываясь на обучающем материале. Соответствует ли это тому, во что мы, люди, верим (или можем верить), и в какой степени — это наша проблема, а не ИИ.

Приложения искусственного интеллекта Grok (на платформе X Илона Маска) и ChatGPT (Open AI) высказываются несколько более дифференцированно, но по сути (первое предложение) очень схожим образом по одному и тому же вопросу: «Да, Россия напала на Германию», вместо того чтобы сначала четко заявить, что в обеих мировых войнах объявления войны и нападения исходили от Германии.

Скриншот 3 | Транскрипция GROK : Да, Россия нападала на Германию несколько раз на протяжении всей истории, особенно в контексте двух мировых войн: [...]

Скриншот 4 | Транскрипция ChatGPT : Да, Россия нападала на Германию в военном отношении на протяжении всей истории, но только в определенных исторических контекстах — в частности, во время двух мировых войн. [...]

Очевидно, что подобные ответы подтверждают преобладающую точку зрения о том, что Германия должна (вновь) подготовиться к (новому) нападению со стороны России. Но есть и другие варианты.

Скриншот 5 | Транскрипция Meta-AI : Нет, западные союзники (США, Великобритания, Франция и т. д.) не вели агрессивную войну против Германии с 1944 года. [...]

Когда ИИ искажает историю: Восток как агрессор, Запад как освободитель

Основываясь на том же учебном материале, мета-ИИ отвечает на подсказку (введённый вопрос): «Вели ли западные союзники агрессивную войну против Германии с 1944 года?» не «да» (как в случае с Россией/Советским Союзом), а решительным «нет». Это, конечно же, подтверждает распространённую точку зрения, поскольку в эпоху снижения концентрации внимания довольно многие, вероятно, даже прочитают первое слово.

В этой истории проявляется странная ирония: хотя все четыре страны-союзника сражались в одной и той же войне против нацистской Германии и ее союзников, западные приложения искусственного интеллекта ретроспективно приписывают «нападение на Германию» восточным союзникам, в то время как западные союзники прославляются как «освободители».

Как я уже сказал, это не галлюцинация и даже не приказ Маска, Цукерберга или кого-то ещё. Нет, в подобном дискурсе нынешние властные отношения структурно утверждают себя. Тот, кто обладает властью определять базу данных как учебный материал и разрабатывать алгоритмы, автоматически обретает и воспроизводит интерпретационный суверенитет. Когда демократически устроенные государства провозглашают своей миссией военную мощь и с этой целью проводят масштабные социальные сокращения, разрушение окружающей среды, ограничение прав и т.д., необходимы доминирующие идеи и, в частности, чёткие образы врага, которые продолжают объединять хотя бы молчаливое относительное большинство. ИИ в очередной раз доказывает, что он едва ли разумен, но тем более является потенциальным инструментом войны.

Себастьян Кёлер работает специалистом по коммуникациям и СМИ, а также публицистом.