Обзор WIRED: Психоз искусственного интеллекта, пропавшие файлы FTC и клопы Google

В сегодняшнем выпуске Зои Шиффер вместе со старшим редактором Луизой Мацакис расскажут о пяти историях, которые вам стоит знать на этой неделе: от изменений в SEO в эпоху искусственного интеллекта до того, как лягушки стали символом протеста. Затем Зои и Луиз подробно объяснят, почему некоторые люди подают жалобы в Федеральную торговую комиссию (FTC) на ChatGPT, утверждая, что он довёл их до психоза, связанного с искусственным интеллектом.

Статьи, упомянутые в этом выпуске:

Подписаться на Зои Шиффер на Bluesky можно по ссылке @zoeschiffer , а на Луизу Мацакис на Bluesky — по ссылке @lmatsakis . Пишите нам по адресу [email protected] .

Вы всегда можете прослушать подкаст этой недели через аудиоплеер на этой странице, но если вы хотите оформить бесплатную подписку, чтобы получать все эпизоды, вот как это сделать:

Если у вас iPhone или iPad, откройте приложение «Подкасты» или просто нажмите на эту ссылку . Вы также можете скачать приложение, например, Overcast или Pocket Casts, и найти «зловещая долина». Мы также есть на Spotify .

Примечание: это автоматизированная расшифровка, которая может содержать ошибки.

Зои Шиффер: Добро пожаловать в программу «Зловещая долина» журнала WIRED. Меня зовут Зои Шиффер, я директор по бизнесу и промышленности журнала WIRED. Сегодня в программе мы представляем вам пять историй, которые вам стоит знать на этой неделе. А позже мы расскажем о главном сюжете — о том, как несколько человек подали жалобы в Федеральную торговую комиссию (FTC), утверждая, что ChatGPT от OpenAI привел их или их близких к предполагаемому ИИ-психопатии. Сегодня ко мне присоединяется старший бизнес-редактор WIRED Луиза Мацакис. Луиза, добро пожаловать в «Зловещую долину» .

Луиза Мацакис: Привет, Зои. Мне очень приятно здесь оказаться.

Зои Шиффер: Итак, Луиза, наша первая история на этой неделе – это, по сути, наша совместная работа в рамках нашего продолжающегося сотрудничества с Model Behavior . Она рассказывает о том, как в этот праздничный сезон ожидается, что всё больше покупателей будут использовать чат-ботов для выбора подарков. Прежде чем мы углубимся в эту тему, мне интересно, как вы сами выбираете подарки к праздникам, Луиза, особенно если совершенно не знаете, что подарить?

Луиза Мацакис: Я, конечно, раздражаю, в том смысле, что я действительно горжусь своими подарками, но у всех нас есть люди, которым, несмотря на всё это, сложно что-либо подарить. Так что да, я обязательно поищу в интернете 10 лучших подарков для вашего свёкра на этот праздник или что-то ещё.

Зои Шиффер: Да. Хорошо. В этом году люди будут следовать немного другой тенденции. Согласно недавнему отчёту Adobe о покупках, ритейлеры могут увидеть рост трафика от чат-ботов и поисковых систем на основе ИИ до 520% ​​по сравнению с 2024 годом. Гиганты ИИ, такие как OpenAI, уже пытаются извлечь выгоду из этой тенденции. На прошлой неделе OpenAI объявила о крупном партнёрстве с Walmart, которое позволит людям покупать товары прямо в окне чата. Мы знаем, что это для них важный приоритет. Поэтому, поскольку люди начинают полагаться на чат-ботов для поиска новых товаров, ритейлерам приходится пересматривать свой подход к онлайн-маркетингу. Десятилетиями основное внимание уделялось SEO, поисковой оптимизации, которая представляет собой тёмную магию, используемую для увеличения онлайн-трафика, в основном через Google. Теперь, похоже, мы вступаем в эру GEO, или генеративной оптимизации поисковых систем.

Луиза Мацакис: Я думаю, что геолокация во многих отношениях не является чем-то совершенно новым. Это своего рода следующая итерация SEO. И многие консультанты, работающие в сфере геолокации, определённо пришли из мира SEO. И главная причина, по которой я уверена, что это так, заключается в том, что, по крайней мере, на данный момент мы знаем, что эти чат-боты часто используют поисковые системы для поиска контента. Верно? То есть, они используют те же алгоритмы для веб-серфинга, что и Google, Bing или что-то ещё, DuckDuckGo. Очевидно, что некоторые из тех же правил будут применяться. К тому же, люди те же. Я думаю, что наше взаимодействие с чат-ботами существенно отличается от того, как мы взаимодействовали с поисковыми системами, но основные вопросы, которые у нас возникают, довольно похожи. Верно? Например, почему мой парень не отвечает мне? Что это за странная сыпь? Что подарить тестю на Рождество? Эти вопросы одни и те же, поэтому типы контента, которые бренды пытаются включить в ответы на эти вопросы, остаются по большей части теми же.

Зои Шиффер: Точно. Но, как вы понимаете, для розничного продавца это довольно пугающе, ведь даже взаимодействие с Google было для людей настоящей головной болью. Каждый раз, когда Google менял алгоритм, отрасль на какое-то время переживала некий переворот, пытаясь понять, что Google хочет видеть, и адаптировать свой контент соответствующим образом. Теперь люди общаются с чат-ботами и думают: «Боже мой, неужели вся эта работа, которую я вложил во все эти разные веб-страницы, напрасна? Мне что, нужно перенастроить их под новый мир?» Мы как раз поговорили с Имри Маркусом, генеральным директором компании Brandlight, специализирующейся на геолокации. Он подсчитал, что раньше совпадение между топовыми ссылками Google и источниками, цитируемыми инструментами искусственного интеллекта, такими как ChatGPT, составляло около 70%. Но теперь, по его словам, корреляция упала ниже 20%. Итак, Луиза, если я владелец малого бизнеса, как я адаптирую свой контент? Что я делаю по-другому в этом новом мире?

Луиза Мацакис: Думаю, у вас, вероятно, есть гораздо больше объяснений того, как можно использовать этот продукт. Допустим, мы продаём мыло. У вас может быть длинный маркированный список различных способов использования мыла. Оно подходит для пены для ванн. Оно обладает свойствами борьбы с акне или чем-то ещё, и, думаю, вы бы всё это подробно описали. Раньше вы, возможно, больше концентрировались на фирменном стиле своего сайта и на том, как бы вы хотели сформулировать информацию, ведь вы ожидаете, что люди будут заходить на сайт. Вы не ожидаете присутствия третьей стороны, которая будет задавать вопросы чат-боту.

Зои Шиффер: Да, именно. Это дало мне надежду, потому что, кажется, мы живём в эпоху, когда, найдя рецепт, приходится читать блог о жизни этого человека на 5000 слов, прежде чем доберёшься до рецепта. А я, как чат-бот, хочу только маркированный список ингредиентов. Может быть, к этому мы и движемся.

Переходя к нашей следующей истории, наши коллеги, Лорен Гуд и Макена Келли, сообщили о том, как FTC удалила несколько постов в блоге об ИИ, опубликованных во время пребывания Лины Кан в должности. Если вы знакомы с Линой Кан, она бывший председатель FTC. И ее прорегулируемая позиция в отношении технологической отрасли, вы уже можете себе представить, почему это может вызывать беспокойство. Одна из удаленных записей в блоге была о моделях ИИ с открытым весом, которые, по сути, являются моделями, которые публикуются публично, что позволяет любому человеку проверять, изменять или повторно использовать. Публикация в конечном итоге была перенаправлена ​​в Технологический офис FTC. Другая запись в блоге под названием «Потребители выражают обеспокоенность по поводу ИИ», написанная двумя технологами FTC, постигла та же участь. И все же другая запись о рисках для потребителей, связанных с продуктами ИИ, теперь приводит к экрану ошибки, в котором говорится просто «страница не найдена».

Луиза Мацакис: Да. Это действительно беспокоит, я думаю, по ряду причин. Во-первых, важно по историческим, национальным причинам не потерять эту информацию. Совершенно нормально, что у разных администраций разные мнения, но это ненормально, или, по крайней мере, в нашей стране не было такого, чтобы подобные записи в блогах просто исчезали. И в этом случае это особенно странно, потому что одна из этих записей, как вы упомянули, была о поддержке Линой Кан моделей с открытым весом и открытого исходного кода в целом, и с этим согласны и члены администрации Трампа. Думаю, в данном случае Лина Кан на одной стороне с такими людьми, как Дэвид Сакс, который является «царём» искусственного интеллекта и криптовалют в администрации Трампа.

Вот что здесь загадочного и запутанного: если администрация Трампа якобы с этим согласна, зачем их стирать? Речь идёт о стирании наследия Лины Кан? Речь идёт о желании избавиться от любых упоминаний о событиях, произошедших при администрации Байдена? Логику довольно сложно понять, и я думаю, что это оставляет бизнес и технологические компании в некотором замешательстве относительно позиции администрации. Смысл этих сообщений в блоге, да, в информировании общественности, но они также служат нормативным и деловым руководством для компаний, чтобы они понимали: мы понимаем, что, возможно, закон об этом не принят, или, может быть, неясно, является ли эта практика незаконной, но кажется, что она может быть таковой, верно? Или, похоже, что именно так эта администрация трактует закон. В противном случае вы просто остаётесь в неведении.

Зои Шиффер: Стоит отметить, что это не первый случай, когда Федеральная торговая комиссия (FTC) при администрации Трампа удаляет публикации, связанные с регулированием ИИ. Ранее в этом году FTC удалила около 300 публикаций, связанных с ИИ, защитой прав потребителей и судебными исками агентства против таких технологических гигантов, как Amazon и Microsoft. Давайте немного сменим тему. Обещаю, это будет более увлекательно. Итак, в прошлую субботу около семи миллионов человек заполнили американские города на очередных протестах «Нет королям» (No Kings) – серии общенациональных протестов, критикующих то, что участники считают авторитарными мерами администрации Трампа. И если вы следили за новостями, то, вероятно, заметили, что довольно много людей было в костюмах лягушек.

Луиза Мацакис: Да. Эти лягушки просто супер, и, честно говоря, я вижу их не в первый раз. Этот конкретный костюм лягушки я впервые увидела в Китае, потому что люди носили его в вирусных китайских TikTok. И часто они очень громко играли на тарелках и танцевали брейк-данс в городских центрах.

Зои Шиффер: Луиза всегда находит китайскую версию, и мы за это её ценим. Она действительно часто её видит. Но, оказывается, здесь есть определённая история. Своя предыстория. Наша коллега, Анджела Уотеркаттер, подробно разобралась в том, что скрывается за лягушками и политическими протестами. Во-первых, она отметила очевидное: надевание костюмов помогает протестующим избегать слежки. И это также помогает им опровергать распространённое мнение о том, что протестующие – это воинствующие экстремисты, как их называет администрация Трампа. Анджела поговорила с Бруксом Брауном, одним из инициаторов движения «Операция Инфляция». Они раздают бесплатные надувные костюмы, и он сказал ей, что теперь меньше вероятность, что кто-то из наблюдателей скажет: «Может быть, лягушка заслужила, если её распылят перцовым баллончиком или что-то в этом роде». Так что здесь есть настоящая стратегия.

Луиза Мацакис: Да. Я определённо понимаю, насколько сложнее убедить протестующих в их опасности, когда они носят кучу надувных костюмов лягушек. И это действительно интересно, ведь ещё десять лет назад лягушка означала нечто совершенно иное. Помните лягушонка Пепе примерно в 2015 году? Это был символ ультраправых. А в 2019 году, во время протестов за демократию в Гонконге, они тоже приняли лягушонка Пепе, но в этом контексте он тоже означал нечто другое. Так что, похоже, лягушка легко адаптируется.

Зои Шиффер: Да. У лягушки было много-много жизней, и, похоже, она замкнула круг. В прошлые выходные на Bluesky появились изображения надувной лягушки, бьющей Пепе по лицу. Так что это не просто интернет-мемы. Эти костюмы добрались и до судов. В понедельник Апелляционный суд США девятого округа снял запрет на размещение Национальной гвардии Трампа в Портленде. Сьюзан Грэйбер, судья, высказавшая особое мнение, встала на сторону лягушек и заявила: «Учитывая известную привычку протестующих в Портленде надевать костюмы цыплят и надувных лягушек, выражая своё несогласие с методами, применяемыми иммиграционной и таможенной полицией, наблюдатели могут счесть решение большинства, которое признает характеристику Портленда правительством как зоны боевых действий, абсурдным». Ещё одна короткая история перед перерывом. Если вы живёте в Нью-Йорке, эта история, к сожалению, вам знакома. На этой неделе мне сообщили, что сотрудники Google, работающие в одном из кампусов компании в Нью-Йорке, должны оставаться дома из-за вспышки клопов в офисе.

Луиза Мацакис: Боже мой, если бы там завелись клопы, меня бы неделями не было в офисе. Как они об этом узнали?

Зои Шиффер: В общем, в воскресенье они получили это письмо, в котором говорилось, что на место прибыли дезинсекторы с собаками-ищей и «обнаружили убедительные доказательства их присутствия». Речь идёт о клопах. Источники сообщают WIRED, что в нью-йоркских офисах Google хранится несколько больших чучел животных, и среди сотрудников определённо ходили слухи о том, что эти чучела животных причастны к вспышке. Мы не смогли проверить эту информацию до публикации, но, в любом случае, ещё в понедельник утром компания сообщила сотрудникам, что они могут вернуться в офис. И такие люди, как ты, Луиза, были этим очень недовольны. Они говорили: «Не уверен, что здесь всё чисто». Поэтому они и писали нам в личные сообщения, желая пообщаться.

Луиза Мацакис: Могу я сказать, что если у вас есть фотографии или описание этих больших плюшевых игрушек, пожалуйста, свяжитесь со мной и Зои. Спасибо.

Зои Шиффер: Да. Это крик о помощи. Мне показалось самым интересным, что когда я отдала Луизе свой черновик, она сказала: «Погодите-ка, такое уже случалось». И нашла статью 2010 года о нашествии клопов в нью-йоркском офисе Google.

Луиза Мацакис: Да. Это уже не первый случай, и это душераздирающе.

Зои Шиффер: После перерыва мы разберёмся, почему некоторые люди жалуются в Федеральную торговую комиссию на то, что ChatGPT в их сознании доводит их до психоза ИИ. Оставайтесь с нами.

Добро пожаловать обратно в «Зловещую долину» . Меня зовут Зои Шиффер. Сегодня ко мне присоединяется Луиза Мацакис из WIRED. Давайте перейдём к главному сюжету этой недели. Федеральная торговая комиссия получила 200 жалоб на ChatGPT от OpenAI с ноября 2022 года, когда он был запущен, по август 2025 года. Большинство людей жаловались на обычные вещи. Они не могли понять, как отменить подписку, или были разочарованы неудовлетворительными или неточными ответами чат-бота. Но наша коллега Кэролайн Хаскинс обнаружила, что среди этих жалоб несколько человек связывали с чат-ботом бред, паранойю и духовный кризис.

Одна женщина из Солт-Лейк-Сити позвонила в Федеральную торговую комиссию ещё в марте и сообщила, что ChatGPT советует её сыну не принимать прописанные лекарства и считает, что его родители представляют опасность. Другая жалоба поступила от человека, который утверждал, что после 18 дней использования ChatGPT компания OpenAI украла его «исключительный отпечаток» и создала обновление программного обеспечения, предназначенное для того, чтобы настроить этого человека против него самого. Они сказали: «Мне тяжело, пожалуйста, помогите мне. Я чувствую себя очень одиноким». Есть множество других примеров, но мне интересно поговорить с вами об этом, потому что, Луиза, я знаю, что вы много изучали именно психоз, связанный с искусственным интеллектом.

Луиза Мацакис: Да. Думаю, важно разобраться, что мы подразумеваем под психозом, вызванным искусственным интеллектом? Меня в чат-ботах интересует не то, что они вызывают у людей бред, а то, что они его поощряют. И в этом-то и суть: именно это взаимодействие подтверждает, что люди говорят: «Да, твоя паранойя совершенно обоснована». Или: «Хочешь, я расскажу тебе, почему твои друзья и родственники, безусловно, сговариваются против тебя?»

Проблема в том, что это интерактивно и может подтолкнуть людей к дальнейшему развитию. Всегда были люди, переживающие кризисы психического здоровья и принимающие знаки, на которые не стоило бы реагировать, думая, что увиденная ими где-то цифра указывает на то, что они Иисус, или что что-то, что они увидели в социальных сетях, свидетельствует о слежке, или что за ними охотится ФБР, или что-то ещё. Но теперь у нас есть инструменты, которые с неиссякаемой энергией могут продолжать и продолжать, могут напрямую реагировать на эти заблуждения и поощрять их, и работать именно с тем, что переживает этот человек, а не с другим человеком, который скажет: «Эй, кажется, тебе нездоровится», или с физическим объектом, который не высветит потом ещё одну цифру и не скажет: «Ты прав. Это твоё счастливое число. Это знак от Бога» или что-то в этом роде. Это действительно интерактивно.

Зои Шиффер: Да. Мне кажется, вы подступаете к тому, о чём мы много говорили: чем это отличается от других произошедших технологических изменений, которые коррелируют с определённым ростом психических заболеваний?

Луиза Мацакис: Да. Я думаю, что психические заболевания всегда были свойственны нашему виду. И новые технологические разработки всегда меняли наше понимание безумия, но я думаю, что мы видим это снова в этом случае, и это действительно что-то новое. Стоит также отметить, что эти жалобы в Федеральную торговую комиссию (FTC) являются частью растущего числа задокументированных случаев так называемого ИИ-психоза, когда взаимодействие с генеративными ИИ-чат-ботами, такими как ChatGPT, а также Google Gemini, вызывало или усугубляло бред пользователей. И мы знаем, что это привело к ряду самоубийств. Кроме того, ChatGPT был замешан, по крайней мере, в одном убийстве, если не ошибаюсь. Так что мы видим, что здесь что-то происходит, и я не думаю, что мы до конца понимаем, что именно.

Зои Шиффер: Верно. И подход OpenAI в данный момент интересен. Мы с вами много общались с людьми в компании, и очевидно, что они относятся к этому серьёзно. Они следят за происходящим и внедрили ряд мер безопасности. Но они не заявили: «Мы будем пресекать подобные разговоры, как только они начнутся. Мы просто не будем вмешиваться». Вместо этого они консультируются с экспертами по психическому здоровью. У них теперь есть совет консультантов, состоящих из профессионалов в этой области, и они фактически говорят что-то вроде: «Послушайте, люди часто обращаются к нам, когда им больше не с кем поговорить, и мы считаем, что пресекать это будет неправильно». Не знаю, но, на мой взгляд, это создаёт для OpenAI огромную ответственность.

Луиза Мацакис: Определённо да, и я думаю, что на самом деле они тоже этого не понимают. С любыми новыми технологиями всегда будут риски. Думаю, это нечто особенное, действительно примечательное и тревожное, но мне не всегда очевидно, что прекращение разговора или направление людей к разговору с кем-то другим из их жизни изменит исход, и что сложно определить, насколько серьёзны намерения человека. Я писала об этом, и ты, Зои, редактировала мой рассказ, который показал, что иногда эти чат-боты скатываются в ролевые игры, и это то, чего хотят люди, верно? Они как будто разыгрывают фантазию. Возможно, они работают над научно-фантастической книгой или занимаются чем-то вроде косплея или фанфика, верно? И грань между фантазированием и исследованием тёмных тайн и верой во всё это, их принятием в себя и потерей связи с реальностью, на мой взгляд, тоньше, чем мы можем себе представить или чем нам хотелось бы.

Зои Шиффер: Верно. Да-да. Сейчас компания идёт по очень интересной траектории. С одной стороны, публично заявлено: «Мы хотим относиться ко взрослым как к взрослым. Мы хотим предоставить людям, достигшим определённого возраста, большую свободу во взаимодействии с ChatGPT». С другой стороны, им приходится иметь дело с потенциально крайне деликатными сценариями использования и одновременно отбивать множество судебных исков. Так что будет очень любопытно посмотреть, как всё это будет развиваться.

Луиза Мацакис: Конечно. Я бы очень хотела увидеть это, хотя не знаю, возможно ли это, учитывая, что судебные иски всё ещё продолжаются, но я хочу увидеть клинические испытания. Думаю, для OpenAI было бы очень важно предоставить большую часть этих данных, разумеется, анонимно. Но передать эти данные экспертам по психическому здоровью, которые затем смогут систематически их изучить. Потому что, на мой взгляд, пугает то, что специалисты по психическому здоровью действуют вслепую. Я разговаривала с некоторыми из них, которые сами нечасто используют ChatGPT, поэтому они даже не знают, как обращаться с пациентом, который рассказывает об этом, потому что это для них непривычно, и всё это так ново. Но если бы у нас было открытое исследование, которое было бы надёжным и рецензируемым, и мы могли бы сказать: «Хорошо, мы знаем, как это выглядит, и мы можем разработать протоколы для обеспечения безопасности людей», это было бы, на мой взгляд, действительно важным шагом к пониманию этого.

Зои Шиффер: Абсолютно. Меня постоянно удивляет, как даже люди, прекрасно разбирающиеся в принципах работы этих технологий, скатываются к антропоморфизации чат-ботов или приписыванию им большего интеллекта, чем у них есть на самом деле. Представьте себе среднестатистического человека, не слишком разбирающегося в науке больших языковых моделей: очень легко быть полностью ошеломлённым их возможностями и начать терять понимание того, с чем на самом деле взаимодействуешь.

Луиза Мацакис: О, конечно. Мы все теперь социализированы и извлекаем много смысла из текста, верно? Многие из нас, основной способ общения с нашими близкими, особенно если мы не живем вместе, — это текстовые сообщения, верно? Так что это как будто у вас есть похожий интерфейс с этим чат-ботом. Не так уж необычно, что вы не обязательно слышите голос чат-бота, хотя вы можете общаться с ChatGPT голосом сейчас, но мы уже научились извлекать много смысла из текста, чтобы верить, что на другом конце этого сообщения есть человек. И есть много доказательств, которые показывают, что мы не общаемся так много, как раньше. Люди чувствуют себя более одинокими. Они чувствуют себя менее связанными со своими сообществами. У них меньше близких друзей. Я думаю, мы были действительно подготовлены к тому, чтобы чувствовать себя так, и я думаю, что люди не должны стыдиться, если они чувствуют себя так или думают, что с ними что-то не так.

Совершенно нормально быть вовлечённым в эту сущность, которая уделяет тебе много внимания, готова выслушать всё, о чём ты хочешь поговорить, а затем часто проявляет льстивость и действительно ценит твою правоту. Здоровые отношения с другим человеком состоят в том, что он не всегда будет ценить тебя, верно? У него будут границы. У него будут пределы. И я думаю, может быть очень заманчиво иметь это присутствие, которое не знает никаких границ и никогда не устаёт говорить с тобой, никогда не считает тебя неправым. И это нормально, но вопрос в том, как нам создать эти барьеры?

Зои Шиффер: Совершенно верно. Думаю, мы видели на национальной сцене, что происходит, когда тебя окружают люди, которые соглашаются с тобой, несмотря ни на что, и это нехорошо.

Луиза Мацакис: Нет, это не здорово.

Зои Шиффер: Луиза, большое спасибо, что присоединились ко мне сегодня.

Луиза Мацакис: Большое спасибо за приглашение.

Зои Шиффер: Это наше сегодняшнее шоу. Мы дадим ссылки на все истории, о которых говорили в заметках. Обязательно посмотрите выпуск «Зловещей долины» в четверг, где мы расскажем о том, почему бум инфраструктуры искусственного интеллекта и связанные с ним опасения достигли апогея. Продюсером этого выпуска выступила Адриана Тапиа. Сведением занимался Амар Лал из Macro Sound. Кейт Осборн — наш исполнительный продюсер. Крис Бэннон, глава отдела аудио в Condé Nast, а Кэти Драммонд — международный редакционный директор WIRED.