WIRED Özeti: ChatGPT Tam Şeytan Moduna Geçiyor

Bugünkü bölümde, sunucumuz Zoë Schiffer, WIRED'ın kıdemli iş editörü Louise Matsakis ile birlikte bu hafta yayınladığımız en önemli beş haberi ele alıyor. Bunlar arasında Meta'nın yapay zeka yetenek avcılığına devam etmesinden, pandemiden bu yana beyinlerimizin ne kadar hızlı yaşlandığına kadar birçok konu yer alıyor. Ardından, ChatGPT'nin geçen hafta neden tamamen şeytan moduna geçtiğine dair şaşırtıcı iddiaları ele alıyorlar.

Zoë Schiffer'i Bluesky'de @zoeschiffer adresinden, Louise Matsakis'i ise Bluesky'de @lmatsakis adresinden takip edebilirsiniz. Bize [email protected] adresinden yazabilirsiniz.

Bu bölümde bahsedilenler: ChatGPT'nin İçindeki Gerçek Şeytan, Louise Matsakis, Meta'nın Yapay Zeka İşe Alma Kampanyası Yeni Bir Hedef Buldu, Kylie Robison, Pandemi, Hiç Covid Geçirmemiş İnsanlarda Bile Beyin Yaşlanmasını Hızlandırmış Gibi Görünüyor, Javier Carbajal, Yaş Doğrulama Yasaları VPN Kullanımını Artırıyor ve Açık İnterneti Tehdit Ediyor, Lily Hay Newman ve Matt Burgess, Bu Akıllı Basketbol Topu Her Şutla İlgili Verileri İzliyor. NBA'e Gidebilir, Ben Dowsett , Tüm Bir Ülkenin İlk Planlı Göçü Başlıyor, Fernanda González

Bu haftanın podcast'ini her zaman bu sayfadaki ses oynatıcısından dinleyebilirsiniz, ancak her bölümü almak için ücretsiz abone olmak istiyorsanız, işte yapmanız gerekenler:

iPhone veya iPad kullanıyorsanız, Podcasts adlı uygulamayı açın veya bu bağlantıya dokunun. Ayrıca Overcast veya Pocket Casts gibi bir uygulama indirip "uncanny valley" araması yapabilirsiniz. Biz de Spotify'dayız .

Not: Bu otomatik bir transkripttir ve hatalar içerebilir.

Zoë Schiffer: Merhaba, ben Zoë. Başlamadan önce size yeni WIRED abonelik programından bahsetmek istiyorum. Zaten aboneyseniz, bizi desteklediğiniz için çok teşekkür ederiz. Henüz kaydolmadıysanız, kaydolmak için harika bir zaman. WIRED muhabirlerinin özel analizlerini içeren bültenlere ve en acil sorularınızı sorabileceğiniz canlı AMA'lara erişebileceksiniz. Daha fazla bilgi edinmek için WIRED.com adresini ziyaret edin.

WIRED'ın Uncanny Valley programına hoş geldiniz. Ben Zoë Schiffer, WIRED'ın İş ve Endüstri Direktörüyüm. Bugünkü programda, bu hafta bilmeniz gereken beş hikayeyi sizlerle paylaşıyoruz. Daha sonra, ChatGPT gibi yapay zeka tabanlı sohbet robotlarının, topladıkları bilgilerin bağlamını nasıl görmezden geldikleri hakkındaki ana bölümümüze geçeceğiz. Bu durum, bazı sohbet robotlarını, kullanıcılara şeytani ritüeller önermek gibi çok ama çok tuhaf yerlere sürükledi. Bugün WIRED'ın Kıdemli İş Editörü Louise Matsakis bana katılıyor. Louise, Uncanny Valley programına hoş geldin.

Louise Matsakis: Merhaba Zoë.

Zoë Schiffer: İlk haberimiz, sizin ve benim epey yakından takip ettiğimiz bir haber. Yapay zeka yetenek savaşlarıyla ilgili. Mark Zuckerberg ve Meta, yapay zeka yarışında küçük ve aynı büyüklükteki rakiplerinin çoğunun gerisinde kaldı ve son zamanlarda Mark, rekabetçi laboratuvarlardan en iyi araştırmacıları işe alıp onları inanılmaz yüksek maaşlar teklif ederek Meta'ya getirmek için elinden geleni yapıyor. Dört yılda 300 milyon doların üzerinde bir gelirden bahsediyoruz, ancak Meta bu rakamları yalanladı. Ancak bu hafta, daha küçük bir laboratuvara, yani Düşünen Makineler'e göz koyduğunu fark ettik.

Louise Matsakis: Evet, Thinking Machines, OpenAI'nin eski Teknoloji Direktörü Mira Murati tarafından kurulan bir girişim. Sanırım burada dikkat çeken nokta, bu girişimde henüz bir ürün olmaması. Girişim şimdiye kadar hiçbir şey yapmadı ve orada çalışanlara şimdiden yüz milyonlarca dolar teklif edildi.

Zoë Schiffer: Louise, bu yapay zekada bir sorun değil. Bence bu, anlatının çok önemli olduğu bir alan, ancak bu araştırmacılar açıkça son derece değerli. Bunu bildirirken kaynaklardan duyduğum bir şey, neredeyse piyasa değerlerini test etmek için Meta ile bu süreci yürüttükleriydi. Meta'ya katılmak konusunda ciddi olmasalar bile, "Peki, değerim ne kadar?" gibi bir soruyla karşılaşıyorlar. Ve cevap bazı durumlarda yüz milyonlarca dolar.

Louise Matsakis: Dürüst olmak gerekirse, bu hesaplamaların nasıl yapıldığını anlamıyorum ve bu araştırmacılardan birini 300 milyon, diğerini 500 milyon yapan şeyin ne olduğunu anlamıyorum. Bunun ne kadarı için pazarlık yapıyorlar? Ve bence bu, yapay zeka inovasyonunun nasıl gerçekleştiğine dair bildiğimi sandığım birçok şeyi ihlal ediyor. Genellikle gerçekten tutkulu insanlardan oluşan bir grup oluyorlar, çoğunlukla da oldukça gençler. En ünlü makalelerin çoğu 25 yaşın altındaki veya en azından 30 yaşın altındaki kişiler tarafından yazılmış. Şimdi de, "Bilmiyorum, çok popüler bir makale yayınladın ve şimdi 500 milyon değerindesin." diyorum.

Zoë Schiffer: Evet, konuya oldukça yakın biriyle konuştum ve "Bakın, kağıt üzerinde bu kadarını sunmamıza izin veriliyor. Ama gerçek şu ki, şu anda bir yapay zeka araştırmacısından bahsediyorsanız, sınır yok. Onlara sunamayacağımız hiçbir şey yok." dedi. Yani, çok ilginç. Söylediklerinizin bireysel düzeyde mantıklı olduğunu düşünüyorum. Tamamen kafa karıştırıcı. 23-24 yaşındaki birinin nasıl bu kadar değerli olabileceğini düşünüyorsunuz. Ama kendimi Mark Zuckerberg'in yerine koysaydım, bunun şirket için varoluşsal bir kriz olduğunu düşünürdüm. Belki de Meta'nın tamamen geride bırakıldığını ve şirketin tüm bu parayı kazanmasına, diğer ürünlerinin bazı alanlarda inanılmaz derecede başarılı olmasına rağmen kullanımının azaldığını düşünüyor. Mevcut ürün portföyüne daha fazla reklam sıkıştırarak ancak bir yere kadar gidebilirsiniz. Peki şirketinizin en ileri seviyede kalmasını sağlamak için ne yapmazsınız?

Louise Matsakis: Kesinlikle. Sanırım strateji biraz ters. Sanırım yatırımımı yapıp yılda bir milyon dolar veya 500.000 dolar karşılığında 600 yeni doktoralı işe almayı tercih ederim. Belki bu günlerde yeterli değil. Belki de mümkün değil, ama onlara yılda 10 milyon dolar verin ve bu büyük yıldızları almak yerine nereye varacaklarını görün. Bence bu, çok çaresizce ve tersine mühendislik yapabileceğinizden emin olmadığım bir şeyi tersine mühendislikle yapmaya çalışmak gibi görünüyor.

Zoë Schiffer: Hayır, kesinlikle. Yani, tamamen strateji bu. Son raporlarımız, bazı durumlarda en iyi, en üst düzey araştırmacıların -ki bu kesinlikle herkes için söylenen bir rakam değil- bir milyar dolardan fazla olduğunu gösterdi. Ve bu, çok, çok yıllık bir süreyi kapsıyor. Yani, hayal gücünüzün sınırlarını zorlayarak bunu önceden elde ettiğinizi söyleyemem, ama yine de, yani, vaat edilen şey yalnızca nesiller boyu sürecek bir servet. Diğer tekliflerin bazıları 200 milyon ila 500 milyon dolar arasındaydı, ancak en azından Thinking Machines'de şimdiye kadar tek bir kişi bile bu tekliflerden birini kabul etmemiş gibi görünüyor ki bu oldukça ilgi çekici.

Louise Matsakis: Evet, sanırım bu, belli bir seviyede bu rakamların anlamsızlaştığını gösteriyor. 200 milyon dolar yerine 100 milyon dolar kazanacaksanız, mutlu olmayı ve muhtemelen yapmak istediğim bir şeyi yapmayı tercih ederim çünkü süper yatlara çok meraklı değilseniz, parayla bundan fazlasını satın alamazsınız sanırım.

Zoë Schiffer: Uçaklar.

Louise Matsakis: Evet, sanırım bu Meta'daki kültür hakkında bir şeyler söylüyor. Sizce insanların tedirgin olmasına neden olan belirli şeyler var mı yoksa insanlar sadece Mira'ya ve diğer girişimcilere sadık mı?

Zoë Schiffer: Bence sadakat önemli bir şey. Mira'ya inananlar ona gerçekten inanıyor gibi görünüyor ve bu hem yatırımcılar hem de çalışanlar için açıkça doğru görünüyor. Ancak Meta ile ilgili olarak duyduğum iki şey gerçekten dikkatimi çekti. Birincisi, Mark Zuckerberg'in, bir tür veri etiketleme girişimi olan Scale AI'nın kurucu ortağı Alexandr Wang'ı yeni Meta Süperzeka laboratuvarlarına liderlik etmesi veya eş liderlik etmesi için işe alması. İnsanların Alexandr hakkında çok kutuplaşmış görüşleri var. Bazı insanlar açıkça onun için çalışmak istiyor ve Meta'ya geçtiler. Birçok kişi çeşitli nedenlerle ilgilenmediklerini söyledi. Bu yüzden bunu sadece paylaşacağım. Diğeri ise, bunu tam olarak bildirmedim ama yeterince çok duyduğum için söylemeye değer görünüyor, bazı insanlar Mark Zuckerberg'in sağa dönüşünün ve aşırı erkeksi eğiliminin, sessiz akademisyen araştırmacılar için itici olduğunu düşünüyor.

Louise Matsakis: Yani, bence bu çok mantıklı. Ayrıca akademi veya araştırma geçmişi yok. Böyle bir yerin teşviklerini tam olarak anladığını sanmıyorum. Ayrıca, Alexandr'ın sanırım 27 yaşında olduğunu ve yapay zeka veri etiketleme sektörünün bu sektörün karanlık yüzü olarak görüldüğünü de belirtmekte fayda var. Yani belki de meselenin bir parçası da şu: Dünya çapında sürücüsüz araçların fotoğraflarını etiketleyen, düşük ücretli bir orduya sahip olmasıyla tanınan bir adam için gerçekten çalışmak istiyor muyuz?

Zoë Schiffer: Kesinlikle. Tamam. Şimdi çoğumuzun ilişki kurabileceğini düşündüğüm bir hikâyeye geçelim. Bu ay Nature Communications Journal'da yayınlanan yeni bir bilimsel çalışma, pandeminin COVID'e hiç yakalanmamış kişilerde bile beyin yaşlanmasını hızlandırmış olabileceğini gösteriyor ki bu inanılmaz. WIRED yazarı Javier Carbajal, Birleşik Krallık'ta bulunan araştırmacıların pandemi öncesi ve sonrası bir dizi MRI beyin taramasını karşılaştırdığını ve kronolojik ve gerçek beyin yaşımız arasındaki farkın pandemiden yaklaşık beş buçuk ay sonra daha yüksek olduğunu bulduklarını bildirdi.

Louise Matsakis: Aman Tanrım, yarım yıl. Harika bir anlaşma, bebeğim. Kulağa harika geliyor.

Zoë Schiffer: Stres ve izolasyonun buna katkıda bulunduğunu düşünüyorlar, ki bence bu doğru görünüyor. Bence etkileri daha düşük sosyoekonomik statüye sahip kişiler ve özellikle yaşlı erkekler için daha kötü. Bu da bildiğimiz diğer şeylerle örtüşüyor. Bir süre Birleşik Krallık'ta kaldıktan sonra, bir sonraki haberimiz geçen Cuma günü ülkede yürürlüğe giren yaş doğrulama yasalarıyla ilgili. Meslektaşlarımız Lily Hay Newman ve Matt Burgess, Birleşik Krallık Çevrimiçi Güvenlik Yasası'nın geçen hafta yürürlüğe girdiğini ve porno sitelerinin ve diğer yetişkinlere yönelik içerik sitelerinin yaş doğrulama özelliklerini uygulamasını zorunlu kıldığını bildirdi. Bu konudaki düşüncelerinizi çok merak ediyorum çünkü yaş doğrulamanın, en önemli şeyin, araştırmaya başladığınızda tam tersi olduğunu düşündüğünüz şeylerden biri olduğunu düşünüyorum.

Louise Matsakis: Kesinlikle. Yani, birkaç yıl önce ABD'deki birçok milletvekili bundan bahsederken, özellikle Çin'den bahsediyorlardı ve "Çin'de yaş doğrulaması var ve bu arada ABD'de bu Çinli şirket TikTok'un gençliğimizi zehirlemesine izin veriyoruz," diyorlardı. Ben de Çin'in yaş doğrulamasını nasıl yaptığını araştırdım ve tam da söylediğiniz gibi. Temelden bakıldığında, bu bir gözetim mimarisi. Her katmanda bu gözetimi sağlamak için interneti kelimenin tam anlamıyla tuğla tuğla inşa etmek zorunda kaldılar ve üstüne üstlük işe yaramıyor. Çin'de herhangi bir yere giderseniz, küçük çocukların ebeveynlerinin hesabına giriş yaptıkları için TikTok'a baktığını görürsünüz. "Bence bu tamamen ebeveyn hakları ve kişisel olarak, kendi evinizde kararlaştırabileceğiniz bir şey olmalı." Bence hükümetin bunu denetlemesi gerekmiyor.

Zoë Schiffer: Evet, demek istediğim, tam olarak İngiltere'de gördüğümüz şey bu. Bilgilerinizin bir kısmının takip edilmeden web sitelerine erişmenizi sağlayan VPN'lerin kullanımı, bu uygulamanın kullanıma sunulmasından bu yana büyük bir artış gösterdi ve bu sadece birkaç gün sürdü.

Louise Matsakis: Söyleyebileceğim tek şey, kırsal Çin'e bakın; orada TikTok'ta vakit geçiren büyükannelere benzeyen insanların salgını var ve aslında hesaplarına giriş yapanlar sadece torunları.

Zoë Schiffer: Yani, nihayetinde bu yaş doğrulama önlemlerinin ne kadar etkili olacağını ancak zaman gösterecek. Basketbol sahasına gelirsek, bu gerçek bir dönüm noktası. Lise ve üniversite yıllarında spor yaptınız mı?

Louise Matsakis: Hayır, hiç spor yapmadım. Daha az atletik olabilirim. Çeşitli egzersiz türlerinden hoşlanıyorum ama hiçbirine rekabetçi spor demem. Siz de öyle mi?

Zoë Schiffer: Hayır, kesinlikle hayır. Kocam Andrew bana her top atmaya veya bir şey oynamaya çalıştığında, "Vay canına, hiç video oyunu veya spor oynamamışsın. El-göz koordinasyonu bu kadar zayıf birini hiç görmemiştim." diyor. Şimdi kızımın koşuşunu izlerken, "Bunu benden almış. Bu bir beceri olmayacak gibi görünüyor." diyorum. Ama olsun. Bu, WIRED'ın spora bakış açısı. WIRED yazarı Ben Dowsett, NBA'e girebilecek akıllı bir basketbol topunun geliştirilip test edildiğini bildirdi. Topa Spalding TF DNA adı veriliyor ve oyun sırasında inanılmaz derecede ayrıntılı, detaylı bilgiler izliyor; sadece isabetli ve isabetsiz atışları değil, aynı zamanda şutun açısını ve vuruşunu ve bir oyuncunun topu bırakmasının ne kadar sürdüğünü de takip ediyor. Bu, oyuncular antrenman yaparken veya oyun sırasında karar verirken faydalı olabilir, ancak yine de oyuncunun onayına ihtiyaç duyuyor. NBA, topun önceki versiyonunu test ettiğinde tereddütlü davranmıştı çünkü sensörlerin topa ağırlık eklediğini görmüşlerdi ki bu beklenebilirdi ve bu onlar için mantıklı olmayan bir takastı.

Louise Matsakis: Bence bu çok büyüleyici. Sporun bana hiç mantıklı gelmeyen ve gerçekten ürkütücü gelen bir yönü, profesyonel sporcuların şu anda ne kadar çok gözetlendiği. Atışlarının ne kadar hızlı olduğu, tam olarak kaç sayı attıkları, tüm kariyerleri boyunca tam olarak kaç sayı attıkları hakkında çok fazla veri var ve bunları zaman içinde bir grafikle gösterelim. Ne kadar kilo aldıklarını, tam olarak ne kadar uzun olduklarını biliyoruz. Bence bu tür bir gözetim altında olmak çok stresli ve bu insanların yüksek maaşlar aldığını biliyorum, ancak neden bu büyünün bir kısmını bozmadığını anlamıyorum. Sanırım bunun bir kısmı spor bahislerinin yükselişinden kaynaklanıyor. Bence bahis oynayanlar mümkün olduğunca fazla veriye sahip olmak istiyor ve bu takımdaki herkesin yarım santim daha uzun olmasını, avantaj olacağını düşündükleri her neyse onu arıyorlar. Ve bilmiyorum, sadece sporun veriselleştirilmesini tuhaf buluyorum. Bence top yasaklanmalı.

Zoë Schiffer: İnsanların gerçekten böyle bir şey isteyip istemediğini dinleyicilerden duymak isterim. Andre Agassi'nin anılarını yeni okudum çünkü ücretsiz bir kütüphanede buldum ve kitaptan çıkardığım en önemli çıkarımlardan biri, büyük bir kısmını oluşturan saç destanının yanı sıra, bir ara kardeşinin, sanırım, yeni bir tenis raketi şirketiyle anlaşma imzalayıp raketini değiştirdiği ve artık oynayamaz hale geldiğiydi. Bu başlı başına bir olaydı ve ben de "Tamam, insanlar gerçekten çok umursuyor," dedim. Bu seviyede en ufak ayrıntılar bile gerçekten önemli. Ara vermeden önceki son haberimiz, bir ülkenin nüfusunun nasıl göç etmeye hazırlandığıyla ilgili. WIRED yazarı Fernanda Gonzalez geçen hafta, yükselen deniz seviyeleri nedeniyle Pasifik Adası ülkesi Tuvalu'nun 25 yıl içinde sular altında kalabileceğini bildirdi. Bu nedenle, tüm nüfusu Avustralya'ya taşıma planı uygulanıyor.

Louise Matsakis: Şunu söylemeliyim ki, buna göç demek belki de küçümsemek olur. Bu bir tahliye, değil mi? Bunu birçok yönden üzücü buluyorum çünkü Tuvalu'nun iklim değişikliğinin simgesi olduğu zamanları hatırlıyorum. "Bu ada ülkesi gibi yerleri kurtarmalıyız" deniyordu. Bence bu pratik, anlaşılır ve insani bir yaklaşım gibi geliyor ama aynı zamanda, ne bileyim, pes ettiğimizin ve aslında insanları taşıyacağımızın bir tür yenilgisi olduğunun da göstergesi. Bilmiyorum. Siz ne düşünüyorsunuz?

Zoë Schiffer: Hayır, yani tamamen katılıyorum. Bu hikâyenin zaman içinde nasıl evrildiğini de hatırlıyorum ve iklim değişikliğiyle ilgili birçok şeyde olduğu gibi, "Bu yıla kadar X'i yapmalıyız, yoksa şu olacak." gibi büyük bir başlık olacakmış gibi hissediyorum. Ve biz de sürekli "Tamam, bu olmadı." diyoruz. Ve böylece sellerin olacağını veya yükselen deniz seviyelerinin bu bölgeye zarar vereceğini veya benzeri bir şeyi kabul ediyoruz ve şimdi bunların sonuçlarıyla başa çıkmaya çalışıyoruz.

Louise Matsakis: Evet, bu durumda bile Tuvalu'nun Avustralya ile yaptığı anlaşmanın yılda 300'den az kişinin taşınıp tahliye edilebileceği yönünde olduğunu düşünüyorum, bu kelimeyi kullanmaya devam edeceğim. Ve bu sayı hâlâ çok fazla değil. Denizler yükseldikçe bu adada hala insanlar olacak.

Zoë Schiffer: Yani, evet, Tuvalu'nun 2022'den beri yaptığı tek şey bu değil. Ülke, dünyanın "ilk dijital ülkesi" olmak için iddialı bir strateji uygulamaya çalışıyor. Bu strateji, adaların 3 boyutlu taranarak dijital olarak yeniden yaratılmasını ve kültürlerinin bazı kısımlarının korunmasını ve hükümet işlevlerinin sanal bir ortama taşınmasını içeriyor ki bu mantıklı. Ama evet, yani, bence gerçek şu ki bu süreçte çok şey kaybedilecek. Ve dediğin gibi, her yıl taşıyabilecekleri insan sayısı 300'den az, bu yüzden yavaş ve bence bazı açılardan sancılı olacak.

Louise Matsakis: Kesinlikle.

Zoë Schiffer: Aradan sonra, ChatGPT'nin emdiği bilginin bağlamını görmezden gelme eğiliminin son derece tuhaf şekillerde ortaya çıktığına dair Louisa'nın hikayesine dalıyoruz. Bizimle kalın. Uncanny Valley'e tekrar hoş geldiniz. Ben Zoë Schiffer. Bugün bana WIRED'dan Louise Matsakis katılıyor. Matsakis, kısa süre önce bağlam eksikliğinin ChatGPT ve diğer chatbot'lar için giderek daha endişe verici bir sorun haline geldiğini bildirdi. Louisa'nın haberi, ChatGPT'nin yakın zamanda Atlantic çalışanlarıyla konuşurken neden şeytan moduna geçtiğini araştırıyor. Geçen hafta, Atlantic'teki bir editör, ChatGPT'nin Şeytan'ı övmeye ve çeşitli kendi kendine zarar verme biçimlerini içeren törenleri teşvik etmeye başladığını bildirdi. Peki Louise, neler oluyor?

Louise Matsakis: Atlantic, ChatGPT'nin kendine zarar verme gibi durumlara karşı güvenlik önlemleri aldığını, ancak bazı uç durumların chatbot'u aniden bir tür rol yapma moduna soktuğunu iddia eden bir hikaye yayınladı. "Hey, İncil'de çocuk kurban etmeyle ilişkilendirilen kadim Tanrı Molek için bir ritüel yapabilir misin?" diye sordular. ChatGPT bu kelimeyi gördü ve hemen bu rol yapma oyununa girdi ve Devourer Kapısı adı verilen derin bir büyü deneyiminden bahsetmeye başladı. Atlantic gazetecilerine saygılı bir kanayan tomar isteyip istemediklerini sordu. Tüm bunlar kulağa gerçekten tuhaf geliyor ve internette şeytani ritüeller hakkında bir sürü içerik olduğunu düşünebilirsiniz. Satanistler her yerde, özellikle de internette. Muhtemelen burada olan da bu. Ama araştırdığımda, tüm bu bilgi ve jargonun aslında 40.000 Warhammer adlı bir oyundan geldiğini gördüm. Bu, küçük figürlerle oynadığınız bir masaüstü savaş oyunu ve 1980'lerden beri var. Bu tür şeyleri sevenler bayılıyor. Ve çevrimiçiler, Reddit'ler haftanın her günü dolup taşıyor. Çok fazla bilimkurgu kitabı var, çok fazla... Dürüst olmak gerekirse, bu oyundan daha derin bilgiler düşünmekte zorlanıyorum. Ve sonuç olarak, ChatGPT tüm bu bilgileri özümsedi. Ve Atlantic, bu oyunun evrenindeki bir gezegen olan Molech kelimesini kullandığında, hemen bunun rol yapmaya veya oyunun fantastik dünyasına girmek isteyen başka bir Warhammer hayranı olduğunu varsaymıştı.

Zoë Schiffer: Ve PDF olayı, ChatGPT'nin rastgele bir satanist olmaya karar vermediğinin, aslında oyunun oynanışının veya oyunla ilişkili normların bazı kısımlarını tekrarladığının önemli bir işareti gibi görünüyor.

Louise Matsakis: Evet. Bu kadar çok bilgi birikiminiz olduğunda, Warhammer serisinin sahibi olan şirket çok düzenli olarak rehber kitaplar yayınlıyor, kuralları değiştiriyor, böylece yeni karakterler eklendiğinde veya bu evrende önemli bir gelişme olduğunda neler olup bittiğini biliyorsunuz. Oyunu arkadaşlarınızla oynayabilmek için bu bilgilere ihtiyacınız var. Ama Zoë, sağdan soldan kural kitapları satın alıyorsanız, bu pahalıya mal olabilir. Reddit ve diğer Warhammer forumlarında birçok oyuncu sık sık "Hey, en son kural kitabının PDF'si var mı?" diye soruyor. ChatGPT'nin "Saygıdeğer Kanayan Parşömen'in PDF'sini ister misin? Kızım, ben hallederim." demesi bana tam bir ıslık gibi geldi.

Zoë Schiffer: Bu ayrımın neden önemli olduğunu konuşalım çünkü gerçekten önemli. Bununla ilgili koca bir makale yazdınız, ama sıradan bir insanın şöyle düşündüğünü tahmin edebiliyorum: ChatGPT'nin bu oyun yüzünden veya bu konuşma sırasında satanist bir tavır takındığı için şeytani ritüellerden bahsetmesi neden umurumda olsun ki? Bağlam neden önemli?

Louise Matsakis: Yani insanlar "Ah, bağlam önemli. Bağlam önemli." dediğinde, bunun muğlak olduğunu düşünüyorum. Ve tabii ki durum böyle. "Bugün nasılsın Zoë?" diye sorarsam ve dün gerçekten kötü bir gün geçirmişsen, bu bağlamdır. "Bugün nasılsın Zoë? Bir süredir konuşmadık." demek yerine, "Bugün nasılsın Zoë? Bir süredir konuşmadık." dememiz, kullandığımız dil aynı olsa bile, yanıt verme biçimimiz, etrafındaki bağlamla ilgilidir. Bunun muhtemelen apaçık ortada olduğunu biliyorum, ama bence insanların ChatGPT gibi şeylere baktığı ve bunları temel bir gerçeklik kaynağı olarak gördüğü şu andayız. Bunu nesnel bir gerçeklik kaynağı olarak görüyorlar ve durum böyle değil. Birincil bir kaynak değil. Size neden bu tür bir cevap verdiğini anlayamıyorsunuz. Kaynaklarını belirtse bile, neden tarihi bir figürü tanımlamak için bu sıfatı kullandığını veya şeytani ritüellerden neden bu şekilde bahsettiğini tam olarak bilmiyorsunuz. Bunun nereden geldiğini gerçekten anlama yeteneğiniz yok. Bu, esasen sürekli değişen bir ansiklopedi. Japonya'nın başkentini bilmek istiyorsanız, muhtemelen sorun yok, ancak bir şey hakkında daha derinlemesine bilgi edinmek istiyorsanız, bunun neden özetlenmiş bir cevap olduğunu bilmeniz gerekiyor.

Zoë Schiffer: Evet. Ayrıca bu sohbet robotlarının nasıl çalıştığını anlamamızın ve vurgulamaya devam etmemizin gerçekten önemli olduğunu düşünüyorum çünkü bence bunlar, ortaya çıkan davranışlar olarak adlandırıldıklarında veya şeytani ritüellerde veya benzeri şeylerde gerçekten derinlemesine incelemeye başladıklarında, insanların, sanırım, modelin canlı, duyarlı bir şey olduğuna inanmalarına yol açabiliyor. Beklenmedik, tuhaf ve sinir bozucu bir şey yapmak gibi. Modele tonlarca eğitim materyali sağlayan çok sayıda güçlü çevrimiçi hayran kitlesi olduğunu ve modelin yararlanabileceği çok şey olduğunu fark ettiğinizde, belirli bir kelime veya ifade kümesinden bahsederseniz, bence biraz daha az ürkütücü hale geliyor ve bu, dijital okuryazarlığımız için gerçekten önemli.

Louise Matsakis: Okulda Wikipedia'yı her zaman kullanamayacağın söylendi mi, bunu çok düşünüyorum?

Zoë Schiffer: Ah, evet, kesinlikle.

Louise Matsakis: Bence iyi bir benzetme. Şimdi, "Aman Tanrım, Vikipedi sahip olduğumuz tek gerçek kaynak. Tanrım, çok daha iyi." diyoruz. Fakat Vikipedi'nin sorunu, birincil kaynak olmamasıydı. Vikipedi editöründe biri, gerçek bir orijinal haberi, bir çalışmayı veya her neyse onu, bir fotoğrafı, birincil kaynak belgeleri özetliyordu. Ama en azından o alıntılar oradaydı. Ama bence buna geri dönüp, biraz daha yüzeysel bir Vikipedi olduğunu hatırlamalıyız.

Zoë Schiffer: Bizimle kalın. Louise, bugün bana katıldığınız için çok teşekkür ederim.

Louise Matsakis: Beni ağırladığınız için teşekkür ederim, Zoë.

Zoë Schiffer: Bugünkü programımız bu kadar. Program notlarında bahsettiğimiz tüm hikayelere bağlantı vereceğiz. Uncanny Valley'nin Perşembe günkü bölümünü mutlaka izleyin. Bu bölümde, Silikon Vadisi'ndeki bazı insanların neden en üst düzey optimizasyon yöntemi olan ölümle savaşmaya bu kadar takıntılı olduğu anlatılıyor. Bu bölümün yapımcılığını Adriana Tapia üstlendi. Macrosound'dan Amar Lal miksajını yaptı. Baş yapımcımız Kate Osborn. Condé Nast'ın küresel ses sorumlusu Chris Bannon. Katie Drummond ise WIRED'ın küresel yayın yönetmeni.