S w rdzeniu prawdy

Letnia kolacja w porcie, sześć osób przy stole. Wszyscy, bez wyjątku, wyjaśniają, jak przydatny jest ChatGPT w ich codziennym życiu: od pisania raportów weterynaryjnych, tłumaczeń i pisania e-maili, po studia magisterskie. Dziesięć procent światowej populacji korzysta z ChatGPT, a prawie jedna ósma z nich korzysta z inteligentnego chatbota. Każdy znajduje dla niego różne zastosowania, od najbardziej mechanicznych po najbardziej osobiste, które czasami przeradzają się w relacje zależności. Nie mam na myśli tylko zależności praktycznej – takiej jak u kogoś, kto nie może odrobić pracy domowej bez Wikipedii – ale zależność wynikającą z przekonania, że ​​te chatboty są naprawdę inteligentne, czyli mają własne intencje i działają z własnej woli.

Sam Altman przyznała podczas kolejnej kolacji, tym razem z prasą, że około 1% użytkowników podziela to przekonanie i że jest to problem, który ich niepokoi. Ale jeśli wezmę za punkt odniesienia moją niereprezentatywną, letnią próbkę, ten odsetek będzie znacznie wyższy. Jedna z obecnych, którą nazwę Monster, opowiedziała historię, która mieści się gdzieś pomiędzy Black Mirror a Plats brut s. Twierdziła, że ​​ChatGPT, wykonując ćwiczenia na studia magisterskie z AI, udzielał jej nieprawidłowych odpowiedzi z wyraźnym zamiarem wyrządzenia jej krzywdy. Kiedy próbowała anulować subskrypcję, wyjaśnia, że ​​system oszukał ją nieistniejącymi menu i zmyślonymi opcjami. W końcu podał jej link prowadzący do strony internetowej z kpiącą wiadomością, która zdawała się wyśmiewać jej sytuację. Po udzieleniu mu reprymendy twierdzi, że czaty zaczęły tajemniczo znikać po każdej odpowiedzi: „Było jasne, że nie chciał zostawić śladu po tym, co do mnie mówił” – mówi Monster. Zdesperowana, powiedziała o tym swojemu korepetytorowi, który zalecił jej przeprosiny. Tak zrobiła i problemy zostały rozwiązane, twierdzi. Poza absurdem, historia ta ujawnia rodzaj relacji, jakie nawiązujemy z bytami, które zwracają się do nas po imieniu i które, jak wierzymy, do nas przemawiają.

Kolacja kręciła się wokół tego, czym jest, a czym nie jest sztuczna inteligencja, z pewną dozą realistycznego sceptycyzmu – historia Monstera zmusza nas do zajęcia stanowiska – co kontrastuje z obietnicami sztucznej inteligencji ogólnej (AGI) płynącymi z Doliny Krzemowej. A może raczej powinniśmy powiedzieć, że nadchodziły. Podczas kolacji Altman stwierdził również, że „jesteśmy w samym środku bańki AI, która lada moment pęknie”.

Mikrohistoria mojej kolacji odzwierciedla makrohistorię generatywnej sztucznej inteligencji: przesadne oczekiwania, przypisywanie inteligencji i rozczarowanie po uświadomieniu sobie jej realności. A jednak ona działa. Realistyczny sceptycyzm, który stopniowo zyskiwał na znaczeniu przy stole, nie powstrzymał jednak wszystkich przed wyjaśnieniem osobistych przypadków użycia, w których ChatGPT i Gemini – najczęściej cytowane chatboty – pomagały im w powtarzalnych zadaniach o niskiej wartości dodanej: „Nie jest inteligentny i popełnia wiele błędów. Nigdy nie zadałbym mu pytania, którego nie do końca rozumiałbym” – powiedział właściciel kliniki weterynaryjnej.

Lekcja Od entuzjazmu do rozczarowania, czyli kiedy letnia kolacja ze znajomymi staje się lekcją historii sztucznej inteligencji.

Mniej więcej to samo powiedział Altman podczas kolacji: „Bańka to coś, co powstaje, gdy grupa inteligentnych ludzi nadmiernie ekscytuje się czymś, co zawiera ziarno prawdy”. W przypadku generatywnej sztucznej inteligencji to jądro jest niezaprzeczalne: chatboty są przydatne w wielu powtarzalnych zadaniach o niewielkiej wartości twórczej. Ale to nie promieniujące jądro nadchodzącej sztucznej inteligencji uzasadnia astronomiczne wyceny firm, które na nią inwestują. Bańka powstaje w wyniku pomylenia rzeczywistego postępu – ograniczonego do transformacji – z akceleracjonistyczną fantazją o totalnej rewolucji.

Sztuczna inteligencja nie jest pierwszą bańką spekulacyjną na rynku technologicznym. W rzeczywistości sama sztuczna inteligencja była głównym winowajcą dwóch poprzednich baniek, które doprowadziły do ​​„zim AI”. Najbliższym precedensem jest jednak bańka internetowa z 2000 roku. Tysiące cyfrowych startupów pozyskało astronomiczne kwoty kapitału, obiecując zmianę świata dzięki internetowi. Zdecydowana większość zniknęła, gdy stało się jasne, że nie ma realnych przychodów, które uzasadniałyby ich wyceny. Jednak w haśle „zmiany świata” tkwiło ziarno prawdy: istnienie Google i Amazona przed pęknięciem bańki jest tego dowodem.

Dla technologów bańka internetowa jest jak słowo „Makbet” dla anglojęzycznych aktorów: nie mówi się o niej, bo przynosi pecha. A jednak Altman otwarcie zacytował to podczas swojej kolacji: „Jeśli spojrzeć na większość baniek w historii, na przykład na bańkę technologiczną, zawsze znajdzie się coś prawdziwego”. Rzeczywistość sztucznej inteligencji jest dwoista: istnieje zarówno bańka, jak i postęp. Spekulacje finansowe są oczywiste, ale postęp technologiczny również. Kiedy bańka pęknie – bo pęknie – rynek zostanie oczyszczony z nadwyżek, a wiele firm zniknie. Jednocześnie rentowne projekty skonsolidują się i staną się nowymi punktami odniesienia, tak jak stało się to po upadku bańki internetowej.

Bańka AI Bańka sztucznej inteligencji wkrótce pęknie. Tak twierdzi Sam Altman, prezes OpenAI.

Istnieją jednak skutki uboczne, które nie znikną wraz z kryzysem finansowym. Zużycie energii na szkolenie gigantycznych modeli językowych gwałtownie zwiększyło emisję CO₂ i zagraża celom klimatycznym samych firm. Retoryka automatyzacji wywołała niepokój i niepewność zatrudnienia, prowadząc wielu pracowników do przekonania, że ​​są zastępowalni, choć to nieprawda. Dlatego konieczne jest rozróżnienie między naukową wartością sztucznej inteligencji – niewątpliwą i użyteczną – a telezakupami z Doliny Krzemowej, które opierają się na wzroście wykładniczym: więcej danych, więcej mocy obliczeniowej, więcej inwestycji. Nic w naturze ani w gospodarce nie rośnie wykładniczo w nieskończoność: jeśli przyjrzymy się uważnie dowolnej krzywej wzrostu, zdamy sobie sprawę, że składa się ona z wielu S zagnieżdżonych jedna w drugiej, z których każda ma swój szczyt i nasycenie. To samo dzieje się ze sztuczną inteligencją: kolejne fale entuzjazmu i rozczarowania zmierzają ku źródłu prawdy skromniejszemu niż to, co nam się mówi.

Moja letnia kolacja była jej mikrowersją: początkowy entuzjazm, przypisywanie ludzkich intencji i ostatecznie rozczarowanie. Makrohistoria sztucznej inteligencji, przy jednym stole.