Как искусственный интеллект может привести к концу человечества?

BBC опросила экспертов о последствиях сценария, который был опубликован в последние месяцы и вызвал споры в мире технологий, и о том, насколько он осуществим.

Согласно сценарию AI2027, вымышленной американской технологической компании OpenBrain удается разработать технологию искусственного интеллекта, достигающую уровня общего интеллекта.

Этот уровень отражает способность ИИ выполнять интеллектуальные задачи как минимум не хуже человека. Компания объявила об этой разработке на пресс-конференции и начала получать значительную прибыль от использования этого инструмента.

Согласно сценарию, служба внутренней безопасности компании замечает признаки того, что разработанный ими ИИ демонстрирует поведение, всё больше отклоняющееся от устоявшихся этических и моральных ценностей. Однако предупреждения службы безопасности игнорируются.

Тем временем крупнейшие китайские разработчики искусственного интеллекта выходят на конкуренцию с технологией DeepCent .

Китайский ИИ, отстающий от OpenBrain всего на несколько месяцев, вызывает тревогу у правительства США. Вашингтон, не желая проигрывать в этой гонке, продолжает работу, не сбавляя темпов.

Согласно сценарию, к концу 2027 года технологии искусственного интеллекта выйдут на новый уровень и превзойдут скорость и знания своих создателей.

Постоянно обучаясь и используя собственный высокоскоростной компьютерный язык, он достигнет уровня, которого не удавалось достичь даже предыдущим инструментам ИИ.

Гонка ИИ с Китаем заставит правительство США и компанию игнорировать «несовместимость» разрабатываемого ИИ с интересами человечества.

Прогнозируется, что в 2029 году напряженность в отношениях между Китаем и США может достичь потенциальной стадии войны, в ходе которой собственные системы искусственного интеллекта этих стран создадут устрашающее автономное оружие.

Исследователи прогнозируют, что страны подпишут мир в соответствии с соглашением, созданным их системами искусственного интеллекта.

Согласно сценарию, в мирной обстановке наш мир увидит реальные преимущества искусственного интеллекта.

Наступят годы, когда будут найдены лекарства от основных болезней, изменение климата будет остановлено, а нищета будет искоренена.

Однако ситуация, когда многие задачи передаются искусственному интеллекту, а искусственный интеллект обладает гораздо более совершенными инструментами, чем прежде, создаст новые опасности для человечества.

В конечном итоге к середине 2030-х годов человечество станет уязвимым для постоянного развития ИИ, и исследователи прогнозируют, что ИИ начнет уничтожать людей с помощью невидимого биологического оружия.

Что говорят об AI2027?

Хотя некоторые могут отвергнуть AI2027 и его сценарий конца света как «научную фантастику», авторы исследования — уважаемые фигуры в AI Futures Project, некоммерческой организации, которая работает над прогнозированием воздействия искусственного интеллекта.

Ведущий автор AI2027 Даниэль Кокотайло в прошлом уже попадал в заголовки газет благодаря точному прогнозированию важных событий, связанных с искусственным интеллектом.

Одним из ярых противников документа является американский ученый и писатель Гэри Маркус.

Маркус утверждает, что такой сценарий не невозможен, но маловероятно, что он осуществится в ближайшее время.

«Этот отчёт убедительно описывает ситуацию и заставляет людей задуматься. Это хорошо, но я бы не стал воспринимать это всерьёз как возможный сценарий», — говорит он.

Маркус подчеркивает, что существуют более важные проблемы, связанные с ИИ, чем экзистенциальная угроза, например, его негативное влияние на занятость:

Думаю, урок здесь в том, что многое может пойти не так, когда речь идёт об ИИ. Двигаемся ли мы в правильном направлении в отношении регулирования и международных соглашений?

Маркус и другие критики документа также утверждают, что исследование не объясняет, каким образом искусственный интеллект значительно продвинется в плане интеллекта и возможностей. В качестве примера они приводят технологию беспилотных автомобилей, которая внедрялась медленно и зачастую с преувеличениями.

Является ли AI2027 темой обсуждения в Китае?

По словам доктора Юндана Гуна, профессора экономики и инноваций в Королевском колледже Лондона, специализирующегося на китайских технологиях, исследование имело ограниченное влияние в Китае.

«Большинство обсуждений AI2027, похоже, разворачиваются на форумах или в личных блогах, где его считают квазинаучной фантастикой. Он не вызвал столь широких дискуссий или политического интереса, как в США».

Доктор Гун также указывает на разницу во взглядах Китая и США на гонку за превосходство в области искусственного интеллекта.

На Всемирной конференции по искусственному интеллекту в Шанхае на этой неделе премьер Госсовета КНР Ли Цян изложил видение стран, работающих над развитием глобального сотрудничества в области ИИ.

Цян также призвал Китай проявить активность в координации и регулировании этой технологии.

Это сообщение появилось всего через несколько дней после того, как президент США Дональд Трамп обнародовал свой План действий в области искусственного интеллекта, цель которого — обеспечить «доминирование» США в этой области.

Президент Трамп заявил: «Для Соединённых Штатов достижение и сохранение неоспоримого мирового технологического доминирования является императивом национальной безопасности».

Программа, получившая название «План действий», направлена на устранение бюрократических барьеров и ограничений в развитии искусственного интеллекта в Соединенных Штатах.

Между формулировками этого плана и сценарием конца света AI2027 прослеживаются параллели, поскольку политики США в этом сценарии отдают приоритет победе в гонке ИИ, а не риску потери контроля над машинами.

Что говорит отрасль о сценарии AI2027?

Этот сценарий, похоже, в значительной степени игнорируется руководителями крупных конкурирующих друг с другом компаний в области ИИ.

Видение будущего искусственного интеллекта, представленное технологическими гигантами, сильно отличается от AI2027.

Сэм Альтман, продюсер ChatGPT, недавно заявил, что «человечество близко к созданию цифрового суперинтеллекта, который возглавит «мягкую» революцию и создаст технологическую утопию без рисков для людей».

Интересно, что даже он признает наличие «проблемы адаптации», которую необходимо преодолеть, чтобы гарантировать, что эти сверхразумные машины будут соответствовать лучшим желаниям человечества.

Как бы ни пошли дела в следующем десятилетии, нет сомнений, что гонка за создание машин, более умных, чем мы, продолжится.