Генеральный директор Microsoft AI предупреждает, что в ближайшие два года могут появиться «опасные» и «кажущиеся сознательными» модели ИИ: «Заслуживают нашего немедленного внимания»

По словам одного из лидеров в области искусственного интеллекта, в ближайшие несколько лет может появиться искусственный интеллект, обладающий сознанием, что представляет собой «опасную» угрозу для общества.

Генеральный директор Microsoft AI Мустафа Сулейман, 41 год, написал в личном эссе, опубликованном ранее на этой неделе, что Seemingly Conscious AI (SCAI), представляющий собой искусственный интеллект настолько продвинутый, что он может убедить людей в своей способности формулировать собственные мысли и убеждения, появится уже через несколько лет.

По теме: Microsoft утверждает, что её ИИ лучше врачей справляется с диагностикой пациентов, но «вам всё равно определённо нужен врач»

Сулейман написал, что, несмотря на то, что на данный момент нет «никаких доказательств» того, что ИИ обладает сознанием, появление SCAI в течение ближайших двух-трех лет «неизбежно и нежелательно».

«Главное беспокойство» Сулеймана заключается в том, что SCAI может показаться эмпатичным и действовать более автономно, что может привести к тому, что пользователи SCAI «начнут верить в иллюзию ИИ как сознательных существ» вплоть до того, что начнут выступать за права ИИ и даже за гражданство ИИ. Это ознаменует собой «опасный поворот» для общества, где люди привяжутся к ИИ и оторвутся от реальности.

«Это развитие станет опасным поворотом в развитии ИИ и заслуживает нашего немедленного внимания», — написал Сулейман в эссе. Позже он добавил, что ИИ «отрывает людей от реальности, разрушает хрупкие социальные связи и структуры, искажает насущные моральные приоритеты».

По теме: «Много места для стартапов»: именно здесь предпринимателям следует искать бизнес-возможности в сфере ИИ, считает генеральный директор Microsoft по ИИ

Сулейман заявил, что его «всё больше беспокоит» психоз, вызванный искусственным интеллектом , то есть возникновение у людей ложных убеждений, бредовых идей или параноидальных переживаний после длительного взаимодействия с чат-ботами. Примерами психоза, вызванного искусственным интеллектом, являются романтические отношения пользователей с чат-ботом или ощущение, будто у них появились сверхспособности после взаимодействия с ним.

Сулейман предсказал, что ИИ-психоз затронет не только людей, подверженных риску психических расстройств. Он сказал, что пользователям необходимо «срочно» обсудить «барьеры» вокруг ИИ, чтобы защитить себя от негативных последствий этой технологии.

^{Генеральный директор Microsoft AI Мустафа Сулейман. Фотограф: Дэвид Райдер/Bloomberg via Getty Images}

В прошлом году Сулейман стал генеральным директором Microsoft по искусственному интеллекту, после того как в течение двух лет стал соучредителем и руководителем собственного стартапа Inflection AI, согласно данным LinkedIn . Microsoft — вторая по стоимости компания в мире, её рыночная капитализация на момент написания статьи составляла 3,78 триллиона долларов.

По теме: Генеральный директор Microsoft AI заявил, что практически весь контент в Интернете можно использовать для обучения ИИ

Сулейман также стал соучредителем DeepMind — компании по исследованию и разработке искусственного интеллекта, которую Google приобрела в 2014 году примерно за 600 миллионов долларов.

Сулейман — не первый генеральный директор, предупреждающий о негативных последствиях ИИ. Выступая в прошлом месяце на конференции Федеральной резервной системы в Вашингтоне, генеральный директор OpenAI Сэм Альтман заявил, что «эмоциональная чрезмерная зависимость» от ChatGPT не даёт ему спать по ночам.

«Люди слишком сильно полагаются на ChatGPT», — сказал Альтман на мероприятии. «Мне это очень неприятно».