Человек, который изобрел ИИ

Летом 1956 года группа учёных — сейчас мы бы назвали их специалистами по информатике, но тогда такого понятия не существовало — собралась в кампусе Дартмутского колледжа в Нью-Гэмпшире, чтобы обсудить, как заставить машины думать как люди. Один из них, Джон Маккарти, придумал термин «искусственный интеллект». Эта легендарная встреча и название новой области науки хорошо известны.

В этом столетии на первый план вышла вариация этого термина: искусственный интеллект общего назначения (ИИОВ) — этап, на котором компьютеры могут сравниться с человеческим интеллектом или превзойти его. ИИОВ был движущей силой заголовков этой недели: сделка между OpenAI и Microsoft, которая зависела от того, что произойдет, если OpenAI достигнет этого; огромные капиталовложения Meta, Google и Microsoft в его реализацию; стремление к достижению этого, которое помогло Nvidia стать компанией стоимостью в 5 триллионов долларов. Американские политики заявили, что если мы не получим это раньше Китая , мы пропадем. Прогнозисты говорят, что мы можем получить это до конца десятилетия, и это изменит всё. Однако происхождение этого термина и его первоначальное определение не так хорошо известны. Но на этот вопрос есть четкий ответ. Человек, который первым придумал самую важную аббревиатуру XXI века на сегодняшний день, а также определение, которое до сих пор во многом остается тем, как мы его понимаем, не знаком практически никому. Вот его история.

В 1997 году Марк Губруд был одержим нанотехнологиями и их опасностями. Он был поклонником Эрика Дрекслера, популяризировавшего науку о самых малых объектах. Губруд начал посещать конференции по нанотехнологиям. Его особенно беспокоило, как эти технологии и другие передовые научные достижения могут превратиться в опасное оружие войны. «Я был аспирантом, сидел в подвальном помещении Мэрилендского университета, слушал, как огромный насос для откачки воды очень громко включается и выключается прямо за моим столом, и читал всё, что мог», — рассказывает он мне во время звонка по Zoom с крыльца одного домика в Колорадо.

В том же году Губруд представил доклад на Пятой конференции по прогнозированию развития молекулярных нанотехнологий под названием « Нанотехнологии и международная безопасность». Он утверждал, что прорывные технологии изменят международные конфликты, сделав их потенциально более катастрофичными, чем ядерная война. Он призвал страны «отказаться от воинственных традиций». Среди новых наук, которые он обсуждал, были, конечно же, нанотехнологии, но также и продвинутый ИИ, который он назвал, да, «общим искусственным интеллектом». Похоже, ранее никто не использовал это выражение. Далее в статье он дал следующее определение:

«Под развитым общим искусственным интеллектом я подразумеваю системы ИИ, которые по сложности и скорости соперничают с человеческим мозгом или превосходят его, которые могут приобретать, обрабатывать и рассуждать на основе общих знаний и которые могут использоваться практически на любом этапе промышленных или военных операций, где в противном случае потребовался бы человеческий интеллект».

Отбросьте последний пункт, и вы получите определение AGI, которым большинство людей пользуются сегодня.

«Мне нужно было слово, чтобы отличить ИИ, о котором я говорил, от того ИИ, который был известен людям в то время, то есть экспертных систем, и было совершенно ясно, что это не будет тот общий вид интеллекта, которым они являлись», — объясняет он. Статья не получила широкого распространения, и её влияние было минимальным.

Перенесёмся в начало 2000-х, когда ИИ-зима всё ещё охлаждала эту область. Некоторые проницательные исследователи предчувствовали оттепель. В 1999 году Рэй Курцвейл в своей книге «Эпоха одухотворённых машин» предсказал, что ИИ сможет сравняться с человеческим познанием примерно к 2030 году. Это нашло отклик у учёного-компьютерщика Бена Герцеля, который начал работать с единомышленником Кассио Пеннакином над редактированием книги о подходах к ИИ, которые можно было бы внедрить для широкого применения, в отличие от машинного обучения, которое можно было бы использовать в узких и ограниченных областях, таких как игра в шахматы или постановка медицинских диагнозов.

Курцвейл называл эту более масштабную технологию «сильным ИИ», но это название показалось ему расплывчатым. Герцель подумывал назвать её «настоящим ИИ» или, может быть, «синтетическим интеллектом». Ни один из вариантов не удовлетворил авторов книги, поэтому он предложил им подискутировать о других идеях. В обсуждении участвовали будущие влиятельные фигуры в области ИИ, такие как Шейн Легг, Пэй Ван и Элиезер Юдковски (да-да, тот самый, который впоследствии стал главным роковым деятелем ).

Легг, который тогда имел степень магистра и работал с Герцелем, придумал добавить слово «общий» к ИИ. Как он сейчас говорит: «Я написал ему по электронной почте: „Бен, не называй это настоящим ИИ — это большой крест на всей области. Если ты хочешь писать о машинах, которые обладают общим интеллектом, а не конкретными вещами, возможно, нам следует называть это искусственным общим интеллектом или ОИИ. Это как-то слетает с языка“». Герцель вспоминает, что Ван предложил другой порядок слов, предположив, что область применения следует называть общим искусственным интеллектом. Герцель отметил, что при произнесении вслух аббревиатура ОИИ может внести непреднамеренный подтекст. «Не то чтобы в этом было что-то неправильно», — быстро добавляет он. Они остановились на ОИИ Легга.

Ван, который сейчас преподаёт в Университете Темпл, говорит, что лишь смутно помнит эту дискуссию, но, возможно, предлагал какие-то альтернативы. Что ещё важнее, он рассказывает мне, что то, что эти авторы примерно в 2002 году окрестили ИИ, — это «по сути, изначальный ИИ». Основатели Дартмутского университета представляли себе машины, которые будут выражать интеллект с той же широтой, что и люди. «Нам нужен был новый термин, потому что единственный изменил своё общепринятое употребление», — говорит он.

Жребий был брошен. «Мы все начали использовать это словосочетание ИИОН на некоторых онлайн-форумах», — говорит Легг. (Он использовал его не всегда: «Я никогда не упоминал ИИОН в своей докторской диссертации, потому что считал это слишком спорным», — говорит он.) Книга Герцтеля «Искусственный интеллект общего назначения» вышла только в середине десятилетия, но к тому времени термин уже набирал популярность: появились журнал и конференция с таким названием.

Губруду всё же удалось присвоить себе заслугу в создании названия для ОИИ. В середине 2000-х годов сам Губруд обратил на это внимание тех, кто популяризировал этот термин. Как говорит Легг: «Кто-то неожиданно появляется и говорит: „О, я придумал этот термин в 1997-м“, а мы такие: „Кто ты, чёрт возьми, такой?“ И, конечно же, мы посмотрели, и у него была статья, где он был. Так что [вместо того, чтобы изобрести его], я как бы заново придумал термин». (Легг, конечно же, является соучредителем и главным учёным по ОИИ в DeepMind, компании Google.)

Губруд посетил вторую конференцию AGI в 2006 году и ненадолго встретился с Герцелем. Он никогда не встречался с Леггом лично, хотя на протяжении многих лет время от времени общался с ним онлайн, всегда дружелюбно. Губруд понимает, что отсутствие у него самого дальнейших контактов выбило его из колеи.

«Я признаю заслугу за первое упоминание и отдаю им должное за множество других работ, которые я не делал, а, возможно, и должен был сделать, но это не было моей целью», — говорит он. «Меня беспокоила гонка вооружений. Весь смысл написания этой статьи был в том, чтобы предупредить об этом». После этого Губруд не публиковал много работ — его карьера была связана с разъездами, и сейчас он много времени проводит, заботясь о матери, — но он написал ряд статей, обосновывающих запрет автономных роботов-убийц и тому подобного.

Губруд не может игнорировать диссонанс между своим статусом и статусом повелителей ИИ. «Он захватывает мир, его стоимость исчисляется буквально триллионами долларов», — говорит он. «А мне 66 лет, у меня никчемная докторская степень, нет ни имени, ни денег, ни работы». Но у Губруда есть наследие. Он дал имя ИИ. Его определение остаётся в силе. И к его предостережениям об опасностях этого явления всё ещё стоит прислушаться.

Это выпуск информационного бюллетеня Backchannel Стивена Леви . Предыдущие выпуски можно прочитать здесь.