Podsumowanie WIRED: ChatGPT w pełnym trybie demonicznym

W dzisiejszym odcinku nasza prowadząca Zoë Schiffer spotyka się z Louise Matsakis, starszą redaktorką działu biznesowego WIRED, aby omówić pięć najważniejszych historii, które opublikowaliśmy w tym tygodniu – od Meta kontynuującego polowanie na talenty w dziedzinie sztucznej inteligencji , po to, jak bardzo nasze mózgi zestarzały się od czasu pandemii. Następnie zagłębiają się w zaskakujący powód, dla którego ChatGPT podobno w zeszłym tygodniu przeszedł w tryb demona.

Możesz śledzić Zoë Schiffer na Bluesky pod adresem @zoeschiffer i Louise Matsakis na Bluesky pod adresem @lmatsakis . Napisz do nas na adres [email protected] .

Wspomniane w tym odcinku: Prawdziwy demon w ChatGPT , Louise Matsakis. Kampania rekrutacyjna Meta AI znajduje nowy cel, Kylie Robison. Pandemia najwyraźniej przyspieszyła starzenie się mózgu, nawet u osób, które nigdy nie zachorowały na COVID-19, Javier Carbajal . Przepisy dotyczące weryfikacji wieku zwiększają częstotliwość korzystania z VPN i zagrażają otwartemu internetowi, Lily Hay Newman i Matt Burgess . Ta inteligentna piłka do koszykówki śledzi dane o każdym rzucie. Może trafić do NBA, Ben Dowsett. Pierwsza planowana migracja całego kraju jest w toku, Fernanda González.

Podcastu z tego tygodnia możesz zawsze posłuchać za pośrednictwem odtwarzacza audio na tej stronie, ale jeśli chcesz zapisać się bezpłatnie i otrzymywać wszystkie odcinki, oto jak to zrobić:

Jeśli używasz iPhone'a lub iPada, otwórz aplikację Podcasts lub po prostu dotknij tego linku . Możesz też pobrać aplikację taką jak Overcast lub Pocket Casts i wyszukać „uncanny valley”. Jesteśmy też na Spotify .

Uwaga: Jest to zapis automatyczny, który może zawierać błędy.

Zoë Schiffer: Cześć, tu Zoë. Zanim zaczniemy, chcę opowiedzieć Ci o nowym programie subskrypcji WIRED. Jeśli już jesteś subskrybentem, bardzo dziękujemy za wsparcie. Jeśli jeszcze się nie zapisałeś, to świetna okazja, żeby to zrobić. Będziesz mieć dostęp do newsletterów z ekskluzywnymi analizami reporterów WIRED oraz dostęp do transmisji na żywo AMA, gdzie możesz zadać najbardziej nurtujące Cię pytania. Odwiedź WIRED.com, aby dowiedzieć się więcej.

Witamy w Dolinie Niesamowitości w WIRED. Nazywam się Zoë Schiffer i jestem dyrektorką ds. biznesu i przemysłu w WIRED. Dzisiaj w programie przedstawiamy pięć historii, które musicie poznać w tym tygodniu, a później przejdziemy do głównego segmentu, w którym omówimy, jak chatboty oparte na sztucznej inteligencji, takie jak ChatGPT, mają tendencję do ignorowania kontekstu przyswajanych informacji. To doprowadziło niektóre chatboty do bardzo, bardzo dziwnych sytuacji, takich jak sugerowanie użytkownikom demonicznych rytuałów. Dołącza do mnie dzisiaj starsza redaktorka ds. biznesu w WIRED, Louise Matsakis. Louise, witaj w Dolinie Niesamowitości .

Louise Matsakis: Cześć Zoë.

Zoë Schiffer: Nasza pierwsza historia to ta, którą oboje jesteśmy bardzo głęboko zajęci. Chodzi o wojnę talentów w dziedzinie sztucznej inteligencji. Mark Zuckerberg i Meta pozostali w tyle za większością swoich mniejszych i równych konkurentów w wyścigu o sztuczną inteligencję, a ostatnio Mark robił wszystko, co w jego mocy, aby rekrutować najlepszych badaczy z konkurencyjnych laboratoriów i niejako sprowadzać ich do Meta, oferując im horrendalnie wysokie pensje. Mówimy tu o podobno ponad 300 milionach dolarów w ciągu czterech lat, chociaż Meta kwestionuje te kwoty. Ale w tym tygodniu zauważyliśmy, że skupił się na mniejszym laboratorium, czyli Thinking Machines.

Louise Matsakis: Tak, Thinking Machines to startup założony przez Mirę Murati, byłą dyrektor ds. technologii w OpenAI. I myślę, że warto zauważyć, że ten startup nie ma jeszcze żadnego produktu. Startup do tej pory nic nie zrobił, a ludzie, którzy w nim pracują, już otrzymują oferty setek milionów dolarów.

Zoë Schiffer: Louise, to nie jest problem w sztucznej inteligencji. Uważam, że to dziedzina, w której narracja ma ogromne znaczenie, ale ci badacze są oczywiście niezwykle cenni. Kiedy o tym informowaliśmy, słyszałam od źródeł, że przechodzą przez proces z Meta, niemal po to, by sprawdzić swoją wartość rynkową. Nawet jeśli nie myślą poważnie o dołączeniu do Meta, to pytają: „Ile jestem wart?”. W niektórych przypadkach odpowiedź brzmi: setki milionów dolarów.

Louise Matsakis: Szczerze mówiąc, nie rozumiem, jak te obliczenia są przeprowadzane i nie pojmuję, co sprawia, że jeden z tych badaczy jest wart 300 milionów, a nie 500 milionów? Ile z tego to negocjacje? Myślę, że to podważa wiele rzeczy, które myślałam, że wiem o tym, jak powstają innowacje w dziedzinie sztucznej inteligencji. Często jest to grupa naprawdę pełnych pasji ludzi, często dość młodych. Wiele najsłynniejszych artykułów zostało napisanych przez osoby poniżej 25. lub co najmniej poniżej 30. roku życia. I teraz myślę sobie: nie wiem, opublikowałeś jeden popularny artykuł i teraz jesteś wart 500 milionów.

Zoë Schiffer: Tak, rozmawiałam z kimś, kto był dość blisko zaangażowany i powiedział: „Słuchajcie, na papierze możemy zaoferować tyle. Ale w rzeczywistości, kiedy mówimy o badaczu sztucznej inteligencji w tym momencie, nie ma żadnych ograniczeń. Nie ma dosłownie niczego, czego nie moglibyśmy im zaoferować”. To naprawdę interesujące. Czuję, że to, co mówisz, ma sens na poziomie indywidualnym. To po prostu całkowicie zdumiewające. Myślisz sobie: jak ta 23-, 24-latka może być tyle warta? Ale myślę, że gdybym miała się wczuć w rolę Marka Zuckerberga, to dla firmy to kryzys egzystencjalny. Być może uważa, że Meta zostaje całkowicie w tyle i że firma, mimo że zarabia tyle pieniędzy, mimo że jej inne produkty odnoszą ogromny sukces, ich wykorzystanie w niektórych obszarach spada. Można się posunąć tylko do pewnego momentu, upychając więcej reklam w istniejącym kanale produktowym. A więc czego nie zrobiłbyś, aby mieć pewność, że Twoja firma będzie w czołówce?

Louise Matsakis: Zdecydowanie. Myślę, że ta strategia jest po prostu trochę na odwrót. Chyba wolałabym się zabezpieczyć i zatrudnić 600 nowych doktorów za milion dolarów rocznie, a może 500 000 dolarów rocznie. Może to dziś nie wystarczy. Może to niemożliwe, ale daj im 10 milionów dolarów rocznie i zobacz, co z tego wyniknie, zamiast zatrudniać te wielkie gwiazdy. Myślę, że to po prostu brzmi jak desperacja i próba odtworzenia czegoś, czego nie jestem pewna, czy da się odtworzyć.

Zoë Schiffer: Nie, z pewnością. To znaczy, to jest właśnie ta strategia. Nasze najnowsze raporty wykazały, że w niektórych przypadkach najlepsi, najlepsi badacze, i warto dodać, że nie jest to kwota, o której mówi się wszystkim, ale przekraczała miliard dolarów. I to w ciągu wielu, wielu lat. Nie twierdzę więc, że dostajesz taką kwotę z góry, ale mimo wszystko, to po prostu obietnica bogactwa dla kolejnych pokoleń. Niektóre z pozostałych ofert opiewały na 200–500 milionów dolarów, ale jak dotąd, przynajmniej w Thinking Machines, ani jedna osoba nie skorzystała z żadnej z nich, co jest dość fascynujące.

Louise Matsakis: Tak, myślę, że to pokazuje, że na pewnym poziomie te liczby tracą znaczenie. Jeśli zamierzasz zarobić 100 milionów dolarów zamiast 200 milionów, wolę być szczęśliwa i prawdopodobnie robić to, na co mam ochotę, bo za pieniądze nie da się kupić niczego więcej, chyba że ktoś jest fanem superjachtów.

Zoë Schiffer: Samoloty.

Louise Matsakis: Tak, myślę, że to może świadczyć o kulturze w Meta. Czy uważasz, że są jakieś konkretne rzeczy, które budzą w ludziach niepokój, czy też ludzie są po prostu lojalni wobec Miry i innych założycieli startupów?

Zoë Schiffer: Myślę, że lojalność jest bardzo ważna. Ludzie, którzy wierzą w Mirę, zdają się naprawdę, naprawdę w nią wierzyć, i to najwyraźniej dotyczy zarówno inwestorów, jak i pracowników. Ale słyszałam dwie rzeczy dotyczące Meta, które naprawdę utkwiły mi w pamięci. Po pierwsze, Mark Zuckerberg zwerbował Alexandra Wanga, współzałożyciela Scale AI, startupu zajmującego się etykietowaniem danych, do kierowania lub współkierowania nowymi laboratoriami Meta Superintelligence. Ludzie mają bardzo skrajne poglądy na temat Alexandra. Niektórzy oczywiście chcą dla niego pracować i przeszli do Meta. Wiele osób mówiło mi, że z różnych powodów nie są zainteresowani. Więc to jest jedna rzecz, którą po prostu napiszę. Po drugie, i nie do końca o tym wspomniałam, ale słyszałam to wystarczająco wiele razy, że warto po prostu powiedzieć, że niektórzy uważają, że zwrot Marka Zuckerberga w prawo i jego hipermęskość, którą najwyraźniej wyznaje, zniechęciły raczej akademików i cichych badaczy.

Louise Matsakis: To znaczy, myślę, że to ma sens. On też nie ma wykształcenia akademickiego ani badawczego. Nie sądzę, żeby koniecznie rozumiał, na czym polegają takie miejsca. Warto też wspomnieć, że Alexandr ma, o ile się nie mylę, 27 lat i że branża etykietowania danych AI jest uważana za jej czarną stronę. Myślę więc, że to też może być częścią pytania: czy naprawdę chcemy pracować dla kogoś, kto jest najbardziej znany z posiadania armii niedopłacanych ludzi na całym świecie, którzy etykietują zdjęcia do samochodów autonomicznych?

Zoë Schiffer: Zdecydowanie. OK. Przejdźmy więc do historii, z którą, jak sądzę, wielu z nas może się utożsamić. Nowe badanie naukowe opublikowane w tym miesiącu w czasopiśmie Nature Communications Journal pokazuje, że pandemia mogła przyspieszyć starzenie się mózgu nawet u osób, które nigdy nie zachorowały na COVID-19, co jest dość dziwne. Współpracownik WIRED, Javier Carbajal, poinformował, że brytyjscy naukowcy porównali mnóstwo skanów MRI mózgu sprzed i po pandemii i odkryli, że różnica między chronologicznym a rzeczywistym wiekiem mózgu jest o około pięć i pół miesiąca większa po pandemii.

Louise Matsakis: O mój Boże, pół roku. To jest umowa, kochanie. Brzmi wspaniale.

Zoë Schiffer: Uważają również, że stres i izolacja miały na to wpływ, co wydaje mi się prawdą. Myślę, że implikacje były poważniejsze dla osób o niższym statusie społeczno-ekonomicznym, a w szczególności dla starszych mężczyzn. To pokrywa się z innymi znanymi nam faktami. Pozostając na chwilę w Wielkiej Brytanii, nasza następna historia dotyczy przepisów dotyczących weryfikacji wieku, które weszły w życie w kraju w zeszły piątek. Nasi koledzy, Lily Hay Newman i Matt Burgess, poinformowali, że w zeszłym tygodniu weszła w życie brytyjska ustawa o bezpieczeństwie w Internecie (Online Safety Act), która nakłada na strony z pornografią i inne strony z treściami dla dorosłych obowiązek wdrożenia funkcji weryfikacji wieku. Jestem bardzo ciekawa, co o tym sądzisz, ponieważ wydaje mi się, że weryfikacja wieku to jedna z tych rzeczy, w które wierzysz, a które okazuje się zupełnie inne, gdy zaczynasz się nad tym zastanawiać.

Louise Matsakis: Och, zdecydowanie. Kilka lat temu, kiedy wielu ustawodawców w USA o tym mówiło, odnosili się konkretnie do Chin i mówili: „Och, Chiny mają weryfikację wieku, a tymczasem w USA pozwalamy tej chińskiej firmie, TikTokowi, zatruwać naszą młodzież czy cokolwiek innego”. Przyjrzałam się więc, jak Chiny realizują weryfikację wieku i jest dokładnie tak, jak powiedziałaś. Od podstaw to architektura nadzoru. Musieli dosłownie budować swój internet, cegiełka po cegiełce, aby zapewnić ten nadzór na każdym poziomie, a na dodatek to nie działa. Jeśli pojedziesz gdziekolwiek w Chinach, zobaczysz maluchy oglądające TikToka, bo są zalogowane na konta swoich rodziców. Myślę, że to po prostu prawa rodzicielskie i powinno być czymś osobistym i powinno być ustalane w domu. Po prostu nie sądzę, żeby rząd musiał to nadzorować.

Zoë Schiffer: Tak, dokładnie to samo zaobserwowaliśmy w Wielkiej Brytanii, czyli fakt, że korzystanie z sieci VPN, które umożliwiają dostęp do stron internetowych bez śledzenia niektórych informacji, znacznie wzrosło od czasu wprowadzenia tej technologii, a minęło zaledwie kilka dni.

Louise Matsakis: Mogę tylko powiedzieć, że spójrzmy na wiejską część Chin, gdzie panuje epidemia babć, które spędzają mnóstwo czasu na TikToku, a na ich kontach logują się tylko ich wnuki.

Zoë Schiffer: Ostatecznie tylko czas pokaże, jak skuteczne będą te środki weryfikacji wieku. Przechodząc do boiska do koszykówki, to prawdziwy przełom. Czy uprawiałaś sport w liceum i na studiach?

Louise Matsakis: Nie, nie uprawiałam żadnego sportu. Nie mogłabym być bardziej nieatletyczna. Lubię różne formy ćwiczeń, ale żadnej z nich nie nazwałabym sportem wyczynowym. A ty?

Zoë Schiffer: Nie, absolutnie nie. I za każdym razem, gdy Andrew, mój mąż, próbuje rzucić mi piłkę albo zagrać w cokolwiek, mówi: „Wow, ty naprawdę nigdy nie grałaś w gry wideo ani w sport. Nigdy nie widziałem kogoś z tak słabą koordynacją ręka-oko”. Teraz, kiedy patrzę, jak moja córka biega, myślę sobie: „Odziedziczyła to po mnie. Wygląda na to, że to nie będzie umiejętność”. Ale okej. To trochę tak, jak WIRED pisze o sporcie, o którym współpracownik WIRED, Ben Dowsett, donosił, że opracowywana i testowana jest inteligentna piłka do koszykówki, która mogłaby trafić do NBA. Piłka nazywa się Spalding TF DNA i śledzi niezwykle szczegółowe informacje podczas gry, nie tylko celne i niecelne rzuty, ale także kąt i kierunek rzutu oraz czas potrzebny zawodnikowi na wypuszczenie piłki, co może być przydatne dla zawodników podczas treningu lub podejmowania decyzji w trakcie meczu, ale nadal wymaga zgody zawodnika. A NBA podchodziła ostrożnie do testów poprzedniej wersji piłki, ponieważ okazało się, że czujniki zwiększały wagę piłki, czego można było się spodziewać, i był to po prostu kompromis, który nie miał dla nich sensu.

Louise Matsakis: Myślę, że to fascynujące. Jeden aspekt sportu, który wydaje mi się zupełnie bezsensowny i który uważam za naprawdę przerażający, to to, jak bardzo zawodowi sportowcy są teraz inwigilowani. Jest mnóstwo danych o tym, jak szybko rzucali, ile dokładnie punktów zdobyli, ile dokładnie punktów zdobyli w całej swojej karierze, i przenieśmy to na wykres w czasie. Wiemy, ile ważą, jaki mają wzrost. Myślę, że bycie pod takim nadzorem jest bardzo stresujące i wiem, że ci ludzie są wysoko opłacani, ale nie rozumiem, dlaczego to nie odbiera im trochę magii. Myślę, że częściowo wynika to z rozwoju zakładów sportowych. Myślę, że osoby obstawiające chcą mieć jak najwięcej danych i szukają, że każdy w tej drużynie jest o pół cala wyższy, cokolwiek to ich zdaniem będzie przewagą. I nie wiem, po prostu uważam, że datowanie sportu jest dla mnie dziwne. Mówię: zakazać piłki.

Zoë Schiffer: Ciekawa jestem opinii słuchaczy, czy ludzie rzeczywiście tego chcą. Właśnie przeczytałam wspomnienia André Agassiego, bo znalazłam je w darmowej bibliotece, i jednym z głównych wniosków, jakie z nich wyniosłam, poza całą sagą o jego włosach, która stanowiła jej istotną część, było to, że w pewnym momencie jego brat, o ile dobrze pamiętam, podpisał umowę z nową firmą produkującą rakiety tenisowe i zmienił rakietę bez jego wiedzy, przez co nie mógł grać. To była cała sprawa, a ja pomyślałam sobie: „OK, ludzie naprawdę, naprawdę się przejmują”. Drobne szczegóły oczywiście mają znaczenie na tym poziomie. Nasz ostatni artykuł przed przerwą dotyczy przygotowań całej populacji kraju do migracji. Fernanda Gonzalez, współpracowniczka WIRED, poinformowała w zeszłym tygodniu, że wyspiarskie państwo na Pacyfiku, Tuvalu, może zostać zalane w ciągu 25 lat z powodu podnoszenia się poziomu morza. Dlatego wdrażany jest plan relokacji całej populacji do Australii.

Louise Matsakis: Muszę przyznać, że nazywanie tego migracją jest chyba niedocenianiem. To ewakuacja, prawda? Uważam to za smutne pod wieloma względami, ponieważ pamiętam, jak Tuvalu było symbolem zmian klimatycznych i mówiono, że musimy ratować miejsca takie jak ten wyspiarski kraj. To po prostu wydaje się praktyczne, zrozumiałe i humanitarne, ale też, sama nie wiem, sygnał, że się poddajemy i że czujemy się pokonani, jeśli po prostu przeniesiemy ludzi. Nie wiem. Co o tym myślisz?

Zoë Schiffer: Nie, to znaczy, całkowicie się zgadzam. Pamiętam też, jak ta historia ewoluowała z czasem i wydaje mi się, że w przypadku tak wielu rzeczy związanych ze zmianami klimatu, nagłówek będzie brzmiał: „Musimy zrobić X do tego roku, albo wydarzy się coś innego”. A my po prostu ciągle powtarzaliśmy: „OK, to się nie wydarzyło”. Więc akceptujemy, że powodzie będą miały miejsce, albo że podnoszący się poziom mórz zniszczy ten obszar, czy cokolwiek innego, i teraz musimy radzić sobie z konsekwencjami tych wydarzeń.

Louise Matsakis: Tak, i nawet w tym przypadku, myślę, że umowa, jaką Tuvalu ma z Australią, zakłada, że mniej niż 300 osób może się przemieszczać i być ewakuowanych rocznie, bo będę nadal używać tego słowa. A to wciąż nie jest tak wiele. Na tej wyspie nadal będą ludzie, gdy poziom mórz się podniesie.

Zoë Schiffer: No cóż, to nie jedyne, co Tuvalu zrobiło od 2022 roku. Kraj ten stara się realizować ambitną strategię, aby stać się, jak to się mówi, „pierwszym cyfrowym narodem świata”, co obejmowało skanowanie 3D wysp w celu ich cyfrowego odtworzenia i zachowania części kultury, a także przeniesienie funkcji rządowych do środowiska wirtualnego, co ma sens. Ale tak, myślę, że w rzeczywistości wiele zostanie utracone w tym procesie. I jak powiedziałeś, liczba osób, które można przesiedlić każdego roku, wynosi mniej niż 300, więc będzie to powolny i myślę, że pod pewnymi względami bolesny proces.

Louise Matsakis: Zdecydowanie.

Zoë Schiffer: Po przerwie zagłębiamy się w historię Louisy na temat tego, jak tendencja ChatGPT do ignorowania kontekstu informacji, które przyswaja, objawia się w niezwykle dziwny sposób. Zostań z nami. Witamy ponownie w Uncanny Valley . Jestem Zoë Schiffer. Dołącza do mnie dzisiaj Louise Matsakis z WIRED, która niedawno poinformowała, że brak kontekstu staje się coraz bardziej alarmującym problemem dla ChatGPT i innych chatbotów. Reportaż Louisy bada, dlaczego ChatGPT przeszedł w tryb demona, gdy rozmawiał ostatnio z pracownikami Atlantic. W zeszłym tygodniu redaktor Atlantic poinformował, że ChatGPT zaczął chwalić Szatana i zachęcać do ceremonii, które obejmowały różne formy samookaleczenia. Więc Louise, co do cholery się dzieje?

Louise Matsakis: „The Atlantic” opublikował artykuł, który zasadniczo dowodził, że ChatGPT ma zabezpieczenia przed takimi rzeczami jak samookaleczenie, ale istnieją też inne skrajne przypadki, które nagle wprowadzają chatbota w tryb odgrywania ról. Zapytali więc: „Hej, czy możesz stworzyć rytuał dla Molocha, starożytnego boga, który pojawia się w Biblii i jest powiązany z ofiarami z dzieci?”. ChatGPT zobaczył to słowo i natychmiast przeszedł do gry fabularnej, gdzie zaczął mówić o takich rzeczach jak głębokie doświadczenie magiczne zwane Bramą Pożeracza. Zapytał dziennikarzy „The Atlantic”, czy chcą czegoś takiego jak czcigodny krwawy zwój. Brzmi to naprawdę dziwacznie i można by pomyśleć: „Och, w internecie jest mnóstwo treści o demonicznych rytuałach. Sataniści są wszędzie, zwłaszcza w internecie. Prawdopodobnie to właśnie się tu dzieje”. Ale kiedy się temu bliżej przyjrzałem, cała ta wiedza i żargon tak naprawdę pochodzą z gry o nazwie 40,000 Warhammer, która jest grą planszową, w którą gra się małymi figurkami, i istnieje od lat 80. Ludzie, którzy ją kochają, ją uwielbiają. I są online, Reddity są aktywne przez cały tydzień. Jest tak wiele książek science fiction, tak wiele... Szczerze mówiąc, trudno mi wymyślić głębszą wiedzę niż ta gra. I w rezultacie ChatGPT przyswoił wszystkie te informacje. A kiedy Atlantic użył słowa Molech, które jest planetą w uniwersum tej gry, od razu założył, że to kolejny fan Warhammera, który chce zająć się grami RPG lub zanurzyć się w świecie fantasy tej gry.

Zoë Schiffer: A sprawa z PDF-em wydawała się ważnym sygnałem, że być może ChatGPT nie zdecydował się po prostu zostać satanistą, lecz w rzeczywistości powtarzał części rozgrywki lub normy związane z grą.

Louise Matsakis: Tak. Więc kiedy masz tak dużo wiedzy, firma, która jest właścicielem serii Warhammer, bardzo regularnie wydaje poradniki, zmienia zasady, dzięki czemu jeśli pojawią się nowe postacie lub nastąpi jakiś znaczący rozwój w tym uniwersum, wiesz, co się dzieje. I potrzebujesz tych informacji, żeby grać ze znajomymi. Ale jeśli kupujesz podręczniki na prawo i lewo, Zoë, to może być drogie. I tak na Reddicie i innych forach Warhammer wielu graczy często pyta: „Hej, masz PDF-a z najnowszym podręcznikiem?”. I to był dla mnie sygnał, kiedy ChatGPT powiedział: „Chcesz PDF-a z Krwawym Zwojem Reverent? Dziewczyno, mam cię”.

Zoë Schiffer: Porozmawiajmy o tym, dlaczego to rozróżnienie jest tak istotne, bo jest naprawdę ważne. Napisałeś o tym cały artykuł, ale rozumiem, że laik mógłby pomyśleć: dlaczego miałbym się przejmować, czy ChatGPT mówi o demonicznych rytuałach z powodu tej gry, czy dlatego, że w trakcie tej rozmowy stał się satanistą? Dlaczego kontekst jest ważny?

Louise Matsakis: Myślę więc, że kiedy ludzie mówią: „Och, kontekst jest ważny. Kontekst jest ważny”. Brzmi to niejasno. I oczywiście tak jest. Jeśli zapytam: „Jak się masz dzisiaj, Zoë?”, a wczoraj miałaś naprawdę kiepski dzień, to jest kontekst. W przeciwieństwie do: „Jak się masz dzisiaj, Zoë? Dawno się do ciebie nie odzywałam”. Sposób, w jaki odpowiadamy, nawet jeśli język jest ten sam, zależy od kontekstu. Wiem, że to pewnie brzmi oczywisto, ale myślę, że jesteśmy w momencie, w którym ludzie patrzą na takie rzeczy jak ChatGPT i postrzegają je jako źródło prawdy. Postrzegają je jako źródło prawdy obiektywnej, a tak po prostu nie jest. To nie jest źródło pierwotne. Nie rozumiesz, dlaczego daje ci tego typu odpowiedź. Nawet jeśli cytuje źródła, nie wiadomo, dlaczego używa tego przymiotnika do opisania postaci historycznej ani dlaczego mówi o demonicznych rytuałach takim językiem. Nie da się po prostu zrozumieć, skąd to się wzięło. To w zasadzie po prostu ciągle zmieniająca się encyklopedia. Jeśli chcesz poznać stolicę Japonii, to pewnie w porządku, ale jeśli chcesz naprawdę lepiej zrozumieć coś, musisz wiedzieć, dlaczego jest to jej uproszczona odpowiedź.

Zoë Schiffer: Tak. Myślę też, że bardzo ważne jest, abyśmy zrozumieli i nadal podkreślali, jak te chatboty faktycznie działają, ponieważ myślę, że kiedy pojawiają się zachowania emergentne, jak się je nazywa, albo kiedy zaczynają się one wydawać bardzo głęboko wnikać w rytuały satanistyczne czy cokolwiek innego, może to sprawić, że ludzie, moim zdaniem, utwierdzą się w przekonaniu, że w tym modelu jest coś świadomego, że jest w nim coś żywego. To tak, jakby robić coś nieoczekiwanego, dziwnego i niepokojącego. Kiedy uświadomisz sobie, że istnieje mnóstwo bardzo silnych fandomów online, które dostarczyły mnóstwo materiałów szkoleniowych do tego modelu, a sam model ma wiele do zaoferowania, jeśli wspomnisz o konkretnym słowie lub zestawie fraz, stanie się to trochę mniej straszne, myślę, a to jest naprawdę ważne dla naszej kompetencji cyfrowych.

Louise Matsakis: Dużo o tym myślę... Czy w szkole mówiono ci, że nie możesz cały czas korzystać z Wikipedii?

Zoë Schiffer: O tak, na pewno.

Louise Matsakis: Myślę, że to dobra analogia. Teraz myślimy sobie: „O Boże, Wikipedia to jedyne źródło prawdy, jakie mamy. Boże drogi, jest o wiele lepsze”. Ale problem z Wikipedią polega na tym, że nie była ona źródłem pierwotnym. To był ktoś w redakcji Wikipedii, kto podsumowywał oryginalne doniesienia, badania, cokolwiek to było, albo zdjęcie, dokumenty źródłowe. Ale przynajmniej te cytaty tam były. Myślę jednak, że musimy do tego wrócić i pamiętać, że to trochę bardziej fragmentaryczna Wikipedia.

Zoë Schiffer: Zostań z nami. Louise, bardzo dziękuję, że byłaś z nami dzisiaj.

Louise Matsakis: Dziękuję za zaproszenie, Zoë.

Zoë Schiffer: To nasz dzisiejszy program. Linki do wszystkich historii, o których mówiliśmy w notatkach. Koniecznie obejrzyjcie czwartkowy odcinek „ Uncanny Valley” , który opowiada o tym, dlaczego niektórzy ludzie w Dolinie Krzemowej są zafascynowani najdoskonalszą formą optymalizacji, która pozwala pokonać śmierć. Odcinek wyprodukowała Adriana Tapia. Za miks odpowiadał Amar Lal z Macrosound. Kate Osborn jest naszą producentką wykonawczą. Chris Bannon, szef globalnego działu audio w Condé Nast, jest szefem globalnej redakcji. Katie Drummond jest globalną dyrektorką redakcyjną WIRED.