Тенденция к созданию фейковых видеороликов с помощью искусственного интеллекта подпитывает сексизм в Интернете
Видеоролики поразительно реалистичны: на них женщины в бикини берут интервью на улице и оставляют непристойные комментарии, но они являются подделкой, созданной искусственным интеллектом для того, чтобы наводнить социальные сети сексистским контентом.
Этот контент, созданный в больших объемах с использованием низкокачественных инструментов искусственного интеллекта (ИИ), часто превосходит подлинные публикации и стирает грань между реальностью и вымыслом.
Эта тенденция привела к возникновению кустарной индустрии инфлюенсеров, которые массово производят сексуализированный контент, мотивируясь программами поощрения платформ, которые вознаграждают создателей вирусного контента деньгами.
Многие созданные искусственным интеллектом клипы, наполненные вульгарным юмором, предлагают показать полуобнаженных женщин-интервьюеров на улицах Индии и Великобритании.
Группа по проверке фактов AFP обнаружила сотни подобных видеороликов в Instagram, многие из которых были на хинди. На них интервьюируемые беззаботно отпускают женоненавистнические и сексистские комментарии, иногда даже хватают женщин, в то время как толпа мужчин на заднем плане наблюдает за ними, открыв рты или смеясь.
Эти видео были просмотрены десятки миллионов раз.
По данным аналитического агентства AFP, предоставленного американской компанией GetReal Security, занимающейся кибербезопасностью, они были созданы с помощью генератора искусственного интеллекта Veo 3 от Google, известного своими гиперреалистичными изображениями.
«Женоненавистничество, которое обычно было прибережено для разговоров в раздевалке и групповых чатов, теперь трансформируется в образы, генерируемые искусственным интеллектом», — рассказал агентству AFP индийский психолог, специализирующийся на киберпространстве, Нирали Бхатия.
«Это часть гендерного вреда, наносимого ИИ», — добавил он, отметив, что эта тенденция «подпитывает сексизм».
Тенденция такова, что Интернет все больше перенасыщается мемами, видеороликами и изображениями, созданными искусственным интеллектом, которые конкурируют за внимание с аутентичным контентом и все больше затмевают его.
«Контент, создаваемый ИИ, и любой тип немаркированного ИИ-контента постепенно подрывают то немногое доверие, которое еще осталось к визуальному контенту», — рассказала агентству AFP Эммануэль Салиба из GetReal Security.
Самый вирусный женоненавистнический контент, как правило, основан на шокирующих изображениях, таких как видеоролики в Instagram и TikTok, которые, по данным журнала Wired, были созданы с помощью Veo 3 и изображают чернокожих женщин в виде приматов с большими ступнями.
В видеороликах на популярном аккаунте TikTok в насмешку перечисляются вещи, которые некоторые «дикие девушки» готовы сделать ради денег.
Женщины также являются объектом сенсационного контента, создаваемого искусственным интеллектом.
Агентство Франс Пресс в ходе проверки фактов обнаружило вирусные видеоролики, на которых косатка растерзала насмерть фальшивую дрессировщицу по имени «Джессика Рэдклифф» во время выступления в аквапарке. На самом деле ничего не произошло.
Короткометражный фильм быстро распространился по таким платформам, как TikTok, Facebook и X, и вызвал всемирный резонанс среди пользователей, которые поверили, что женщина в видео настоящая.
В прошлом году Алексиос Манцарлис, директор Инициативы по безопасности и доверию в Корнелльском технологическом университете, обнаружил 900 аккаунтов в Instagram, предположительно созданных искусственным интеллектом «моделей», преимущественно женского пола, обычно полуобнаженных.
Эти мошеннические аккаунты собрали в общей сложности 13 миллионов подписчиков и опубликовали более 200 000 изображений, монетизируя результаты, перенаправляя свою аудиторию на коммерческие платформы обмена контентом.
«С распространением в интернете фейков, созданных искусственным интеллектом, эти цифры, несомненно, стали намного выше», — рассказал Манцарлис агентству AFP.
Контролировать финансово мотивированный «грязный» контент становится все сложнее, поскольку создатели контента в качестве подработки обращаются к видеопроизводству с использованием искусственного интеллекта.
Многие создатели контента на YouTube и TikTok предлагают платные курсы по монетизации вирусного контента, созданного с помощью искусственного интеллекта, на платформах, многие из которых сократили свою зависимость от людей, проверяющих факты, и уменьшили модерацию контента.
Некоторые платформы пытаются принять меры против аккаунтов, продвигающих некачественный контент. YouTube недавно объявил, что создатели «неаутентичного» и «массового» контента не будут иметь права на финансирование.
«Искусственный интеллект не изобретает женоненавистничество, он просто отражает и усиливает то, что уже существует», — заявил AFP консультант по искусственному интеллекту Дивьендра Джадун.
«Если аудитория вознаграждает подобный контент миллионами лайков, алгоритмы и создатели искусственного интеллекта продолжат его производить. Главная проблема не только технологическая, но и социальная и культурная», — заключил он.
burs-ac/mm/dth/mr/nn/mvv/aa
IstoÉ
