WIRED Özeti: Yapay Zeka Psikozu, Eksik FTC Dosyaları ve Google Tahtakuruları

Bugünkü bölümde, kıdemli editör Louise Matsakis, Zoë Schiffer'a katılarak bu hafta bilmeniz gereken beş haberi ele alıyor: Yapay Zeka çağında SEO'nun nasıl değiştiğinden kurbağaların nasıl bir protesto sembolü haline geldiğine kadar. Ardından Zoë ve Louise, bazı kişilerin ChatGPT hakkında FTC'ye şikayette bulunmalarının ve bunun onları yapay zeka psikozuna sürüklediğini savunmalarının nedenlerini ele alıyor.

Bu bölümde bahsi geçen makaleler:

Zoë Schiffer'i Bluesky'de @zoeschiffer adresinden, Louise Matsakis'i ise Bluesky'de @lmatsakis adresinden takip edebilirsiniz. Bize [email protected] adresinden yazabilirsiniz.

Bu haftanın podcast'ini her zaman bu sayfadaki ses oynatıcısından dinleyebilirsiniz, ancak her bölümü almak için ücretsiz abone olmak istiyorsanız, işte yapmanız gerekenler:

iPhone veya iPad kullanıyorsanız, Podcasts adlı uygulamayı açın veya bu bağlantıya dokunun. Ayrıca Overcast veya Pocket Casts gibi bir uygulama indirip "uncanny valley" araması yapabilirsiniz. Biz de Spotify'dayız .

Not: Bu otomatik bir transkripttir ve hatalar içerebilir.

Zoë Schiffer: WIRED'ın Uncanny Valley programına hoş geldiniz. Ben Zoë Schiffer, WIRED'ın iş ve endüstri direktörü. Bugünkü programımızda, bu hafta bilmeniz gereken beş haberi sizlerle paylaşıyoruz. Daha sonra, birkaç kişinin OpenAI'nin ChatGPT'sinin kendilerini veya sevdikleri kişileri sözde yapay zeka psikozuna sürüklediği iddiasıyla FTC'ye şikayette bulunmalarını konu alan ana haberimize geçeceğiz. Bugün bana WIRED'ın kıdemli iş editörü Louise Matsakis eşlik ediyor. Louise, Uncanny Valley programına hoş geldiniz.

Louise Matsakis: Merhaba Zoë. Burada olmak harika.

Zoë Schiffer: Louise, bu haftaki ilk haberimiz aslında Model Behavior ile devam eden iş birliğimizin bir parçası olarak üzerinde birlikte çalıştığımız bir haber. Bu tatil sezonunda, daha fazla alışverişçinin ne alacağına karar vermek için sohbet robotlarını kullanmasının beklenmesiyle ilgili. Merak ediyorum, konuya dalmadan önce, Louise, özellikle de birine ne alacağına dair hiçbir fikrin yoksa, kendi tatil alışverişine nasıl karar veriyorsun?

Louise Matsakis: Kesinlikle sinir bozucuyum, çünkü hediye verme konusunda kendimle gurur duyuyorum, ama hepimizin hayatında, tüm bunlara rağmen, hediye alması zor insanlar var. Bu yüzden evet, kayınpederinize bu bayramda veya başka bir zamanda alabileceğiniz en iyi 10 şeyi internette arayacağım.

Zoë Schiffer: Evet. Tamam. Bu yıl, insanlar biraz farklı bir trendi takip edecekler. Adobe'nin yakın tarihli bir alışveriş raporuna göre, perakendeciler 2024'e kıyasla sohbet robotlarından ve yapay zeka arama motorlarından gelen trafikte %520'ye kadar bir artış görebilir. OpenAI gibi yapay zeka devleri şimdiden bu trendden yararlanmaya çalışıyor. Geçen hafta OpenAI, insanların doğrudan sohbet penceresinden ürün satın almalarına olanak tanıyacak Walmart ile büyük bir ortaklık duyurdu. Bunun onlar için büyük bir odak noktası olduğunu biliyoruz. İnsanlar yeni ürünleri keşfetmek için sohbet robotlarına güvenmeye başladıkça, perakendeciler çevrimiçi pazarlamaya yaklaşımlarını yeniden düşünmek zorunda kalıyor. Onlarca yıldır odak noktası SEO, yani arama motoru optimizasyonuydu; bu, temelde çevrimiçi trafiği öncelikle Google aracılığıyla artırmak için kullanılan karanlık bir büyüydü. Şimdi, GEO veya üretken motor optimizasyonu çağına giriyor gibiyiz.

Louise Matsakis: Bence GEO birçok yönden tamamen yeni bir icat değil. Bir nevi SEO'nun bir sonraki versiyonu gibi. GEO sektöründe çalışan danışmanların çoğu kesinlikle SEO dünyasından geliyor. Bunun böyle olduğundan emin olmamın en büyük nedeni, en azından şimdilik, bu sohbet robotlarının içerikleri ortaya çıkarmak için genellikle arama motorlarını kullandığını bilmemiz. Değil mi? Yani internette gezinmek için Google, Bing veya DuckDuckGo ile aynı algoritmaları kullanıyorlar. Açıkçası, aynı kuralların bazıları geçerli olurdu. Ayrıca, insanlar da aynı. Sohbet robotlarıyla etkileşim kurma şeklimizin arama motorlarıyla etkileşim kurma şeklimizden önemli ölçüde farklı olduğunu düşünüyorum, ancak temel sorularımız oldukça benzer. Değil mi? Mesela, erkek arkadaşım neden bana mesaj atmıyor? Bu garip kızarıklık ne? Kayınpederime Noel'de ne hediye alacağım? Bu sorular aynı olduğu için markaların bu cevaplara ulaşmaya çalıştığı içerik türleri de büyük ölçüde aynı kalıyor.

Zoë Schiffer: Evet, kesinlikle. Ama bir perakendecinin bakış açısından bunun biraz korkutucu olduğunu tahmin edebilirsiniz, çünkü Google ile uğraşmak bile insanlar için büyük bir baş ağrısıydı. Google algoritmasını her değiştirdiğinde, sektör Google'ın ne görmek istediğini anlamaya ve içeriklerini buna göre uyarlamaya çalışırken bir süreliğine çalkantıya girerdi. Şimdi insanlar sohbet robotlarıyla konuşuyor ve "Aman Tanrım, tüm bu farklı web sayfalarına harcadığım emek boşa mı gitti? Bu yeni dünya için yeniden ayarlamam mı gerekiyor?" diyorlar. Brandlight adlı bir GEO firmasının CEO'su Imri Marcus ile konuştuk. Eskiden en çok kullanılan Google bağlantıları ile ChatGPT gibi yapay zeka araçlarının alıntıladığı kaynaklar arasında yaklaşık %70'lik bir örtüşme olduğunu tahmin ediyordu. Ancak şimdi, bu ilişkinin %20'nin altına düştüğünü söylüyor. Louise, eğer bir tür küçük işletme sahibiysem, içeriğimi nasıl uyarlıyorum? Bu yeni dünyada neyi farklı yapıyorum?

Louise Matsakis: Ürünün nasıl kullanılabileceğine dair muhtemelen çok daha fazla açıklamanız var. Diyelim ki -bilmiyorum- sabun satıyoruz. Sabunun farklı kullanım şekillerini maddeler halinde uzun bir liste halinde yazmış olabilirsiniz. Köpüklü banyolar için iyidir. Sivilce önleyici özellikleri vardır veya her neyse, bence hepsini ayrıntılı olarak açıklamış olurdunuz. Oysa daha önce, web sitenizin marka kimliğine daha fazla odaklanıyor ve insanların web sitesine gelmesini beklediğiniz için, "Konuyu nasıl ifade etmek istersiniz?" gibi konulara odaklanıyordunuz. İnsanların chatbot'a soru sorduğu, ortada duran üçüncü bir tarafı beklemiyordunuz.

Zoë Schiffer: Evet, kesinlikle. Bana biraz umut verdi çünkü sanki bir tarif arayıp, o kişinin hayat hikayesini anlatan 5.000 kelimelik bir blog yazısını okumanız gereken bir çağdaydık. Ben de, bir sohbet robotu gibi, sadece madde işaretli malzeme listesini istiyorum. Belki de bu yöne doğru gidiyoruz.

Bir sonraki haberimize geçersek, meslektaşlarımız Lauren Goode ve Makena Kelly, FTC'nin Lina Kahn'ın görev süresi boyunca yayınlanan yapay zeka ile ilgili birkaç blog yazısını nasıl kaldırdığını bildirdi. Lina Kahn'ı tanıyorsanız, kendisi FTC'nin eski başkanıdır. Teknoloji sektörüne yönelik düzenleme yanlısı tutumları nedeniyle, bunun neden endişe verici olabileceğini tahmin edebilirsiniz. Kaldırılan blog yazılarından biri, temelde herkesin inceleyebileceği, değiştirebileceği veya yeniden kullanabileceği, halka açık olarak yayınlanan modeller olan açık ağırlıktaki yapay zeka modelleri hakkındaydı. Yazı sonunda FTC'nin Teknoloji Ofisi'ne yönlendirildi. İki FTC teknoloji uzmanı tarafından kaleme alınan "Tüketiciler Yapay Zeka Hakkındaki Endişelerini Dile Getiriyor" başlıklı başka bir blog yazısı da aynı kaderi paylaştı. Yine de, yapay zeka ürünleriyle ilişkili tüketici riskleri hakkındaki başka bir yazı şimdi yalnızca sayfa bulunamadı diyen bir hata ekranına yönlendiriyor.

Louise Matsakis: Evet. Bence bu gerçekten endişe verici, birkaç nedenden dolayı. Birincisi, bu bilgilerin kaybolmamasının tarihsel ve ulusal sebeplerden ötürü önemli olması. Farklı yönetimlerin farklı görüşlere sahip olması tamamen normal, ancak bu tür blog yazılarının birdenbire ortadan kaybolması normal değil veya en azından bu ülkede hiç olmadı. Ve bu durumda, özellikle garip çünkü bu yazılardan biri, sizin de belirttiğiniz gibi, Lina Kahn'ın açık ağırlık modellerine ve genel olarak açık kaynağa verdiği destekle ilgiliydi ve bu, Trump yönetiminin üyelerinin de hemfikir olduğu bir şey. Sanırım bu durumda Lina Kahn, Trump yönetiminin Yapay Zeka ve Kripto çarı David Sachs gibi insanlarla aynı tarafta.

Yani burada gizemli ve kafa karıştırıcı olan şey şu, eğer bunlar Trump yönetiminin de görünüşte hemfikir olduğu şeylerse, neden siliniyor? Lina Kahn'ın mirasını silmekle mi ilgili? Biden yönetimi sırasında olan her şeyden bahsetmekten kurtulmak istemekle mi ilgili? Mantığı çözümlemek biraz zor ve bence bu durum, işletmeleri ve teknoloji şirketlerini yönetimin nerede durduğu konusunda kafa karışıklığına uğratıyor. Bu blog yazılarının amacı, evet, halkı bilgilendirmek, ama aynı zamanda şirketlerin, belki de bununla ilgili bir yasa çıkarılmamış olabileceğini veya belki de bu uygulamanın yasadışı olup olmadığı açık değil, ancak öyle gibi göründüğünü anlamaları için düzenleyici ve ticari rehberlik görevi de görüyorlar, değil mi? Ya da yönetimin yasayı yorumlama şekli bu gibi görünüyor. Aksi takdirde, karanlıkta kalıyorsunuz.

Zoë Schiffer: Trump yönetimindeki FTC'nin yapay zeka düzenlemeleriyle ilgili paylaşımları kaldırmasının ilk sefer olmadığını da belirtmekte fayda var. FTC bu yılın başlarında yapay zeka, tüketici hakları ve kurumun Amazon ve Microsoft gibi teknoloji devlerine açtığı davalarla ilgili yaklaşık 300 paylaşımı kaldırmıştı. Konuyu biraz değiştirelim. Söz veriyorum, bu daha eğlenceli. Geçtiğimiz Cumartesi günü, yaklaşık yedi milyon kişi, Trump yönetiminin otoriter uygulamaları olarak gördüklerini eleştiren ülke çapındaki bir dizi protesto olan son No Kings protestoları için Amerikan şehirlerini doldurdu. Dikkat ettiyseniz, muhtemelen kurbağa kostümü giyen epey insan olduğunu fark etmişsinizdir.

Louise Matsakis: Evet. Bu kurbağalar harika ve aslında bu kurbağaları ilk kez görmediğimi söyleyebilirim. Bu özel kurbağa kostümünü aslında ilk kez Çin'de gördüm çünkü insanlar Çin'deki viral TikTok'larda giyiyorlardı. Ve çoğu zaman, şehir merkezlerinde çok yüksek sesli ziller çalıyor ve çok yoğun breakdans yapıyorlardı.

Zoë Schiffer: Louise'in bir özelliği de, her zaman Çin açısını bulması ve biz de bu özelliğini çok seviyoruz. Gerçekten de çoğu zaman böyle bir bakış açısı oluyor. Ama görünen o ki, aslında burada bir tür hikâye var. Bir efsane var. Meslektaşımız Angela Watercutter, kurbağaların ve siyasi protestoların ardındaki gerçekleri derinlemesine inceledi. İlk olarak, bariz bir noktaya dikkat çekti: Kostüm giymek, protestocuların gözetimden kurtulmasına yardımcı oluyor. Ayrıca, Trump yönetiminin onları tanımladığı gibi, protestocuların şiddet yanlısı aşırılıkçılar gibi oldukları söylemini çürütmelerine de yardımcı oluyor. Angela, Enflasyon Operasyonu adlı bu hareketin öncülerinden Brooks Brown ile konuştu. Ücretsiz şişme kostümler dağıtıyorlarmış ve Brown, izleyen birinin "Belki de kurbağa biber gazına maruz kaldıysa bunu hak etmiştir" demesinin daha düşük bir ihtimal olduğunu söylemiş. Yani burada gerçek bir strateji var.

Louise Matsakis: Evet. Bu protestocuların bir sürü şişme kurbağa kostümü giydiklerinde tehlikeli oldukları söylemini yaymanın neden daha zor olduğunu kesinlikle anlayabiliyorum. Ve bu gerçekten ilginç, çünkü yaklaşık on yıl önce kurbağa bambaşka bir anlam ifade ediyordu. 2015 civarında Pepe Kurbağa'yı hatırlıyor musunuz? Aşırı sağcı bir semboldü. 2019'da, Hong Kong'daki demokrasi yanlısı protestolar sırasında da Pepe Kurbağa'yı benimsediler, ancak o bağlamda da farklı bir anlam ifade ediyordu. Yani kurbağanın oldukça uyumlu olduğu anlaşılıyor.

Zoë Schiffer: Evet. Kurbağa birçok kez yaşadı ve sanki tam bir döngüye girmiş gibi görünüyor. Geçen hafta sonu, şişme kurbağanın Pepe'nin suratına yumruk attığı görüntüler Bluesky'de dolaştı. Yani mesele sadece internetteki capsler değil. Bu kostümler mahkemelere kadar ulaştı. Pazartesi günü, ABD Dokuzuncu Daire Temyiz Mahkemesi, Trump'ın Portland'a Ulusal Muhafız konuşlandırmasını engelleyen yasağı kaldırdı. Muhalif yargıç Susan Graber, kurbağaların tarafını tutarak, "Portland protestocularının ICE'nin uyguladığı yöntemlere karşı çıktıklarını ifade ederken tavuk kostümleri ve şişme kurbağa kostümleri giyme eğilimleri göz önüne alındığında, gözlemciler, hükümetin Portland'ı bir savaş alanı olarak nitelendirmesini kabul eden çoğunluğun kararını absürt olarak görmeye meyilli olabilirler," dedi. Ara vermeden önce kısa bir hikaye daha. New York'ta yaşıyorsanız, bu hikaye ne yazık ki tanıdık gelebilir. Bu hafta, şirketin New York kampüslerinden birinde çalışan Google çalışanlarının, ofiste tahtakurusu salgını nedeniyle evde kalmaları gerektiği haberini aldım.

Louise Matsakis: Aman Tanrım, tahtakurusu istilası olsa beni haftalarca ofiste göremezdin. Bunu nasıl öğrendiler?

Zoë Schiffer: Yani temel olarak, Pazar günü bir e-posta aldılar. E-postada, böcek ilaçlama ekiplerinin olay yerine narkotik köpekleriyle geldiğini ve "varlıklarına dair güvenilir kanıtlar bulduklarını" söylüyorlardı. İşte tahtakuruları. WIRED'a konuşan kaynaklar, Google'ın New York ofislerinde çok sayıda büyük peluş hayvan bulunduğunu ve çalışanlar arasında bu peluş hayvanların salgınla bağlantılı olduğuna dair bir söylenti dolaştığını söyledi. Yayınlamadan önce bu bilgiyi doğrulayamadık, ancak şirket her halükarda Pazartesi sabahı çalışanlara ofise geri dönebileceklerini söyledi. Ve senin gibi insanlar, Louise, bundan pek memnun değildi. "Burasının tamamen temiz olduğundan emin değilim," diyorlardı. İşte bu yüzden gelen kutularımıza gelip sohbet etmek istiyorlardı.

Louise Matsakis: Bahsi geçen büyük peluş hayvanların fotoğrafları veya açıklamaları varsa lütfen benimle ve Zoë ile iletişime geçin. Teşekkür ederim.

Zoë Schiffer: Evet. Bu bir yardım çağrısı. Bence en güzel yanı, taslağımı Louise'e verdiğimde, "Bir dakika, bu daha önce de olmuştu." demesi ve New York'taki Google ofislerinde yaşanan tahtakurusu salgınıyla ilgili 2010 tarihli bir makaleyi açmasıydı.

Louise Matsakis: Evet. Bu ilk değil, bu da yürek parçalayıcı.

Zoë Schiffer: Aradan sonra, bazı insanların zihinlerindeki ChatGPT hakkında FTC'ye şikayette bulunmalarının ve bunun onları yapay zeka psikozuna sürüklemesinin nedenlerini ele alacağız. Bizi takip etmeye devam edin.

Uncanny Valley'e tekrar hoş geldiniz. Ben Zoë Schiffer. Bugün aramıza WIRED'dan Louise Matsakis katılıyor. Bu haftaki ana haberimize geçelim. Federal Ticaret Komisyonu, OpenAI'nin ChatGPT'sinden bahseden 200 şikayet aldı. Kullanıcıların çoğu normal şikayetlerde bulundu. Aboneliklerini nasıl iptal edeceklerini bilemiyorlardı veya chatbot'un verdiği tatmin edici olmayan ya da yanlış yanıtlar yüzünden hayal kırıklığına uğramışlardı. Ancak meslektaşımız Caroline Haskins, bu şikayetler arasında birçok kişinin chatbot'a sanrılar, paranoya ve ruhsal bunalım atfettiğini tespit etti.

Salt Lake City'li bir kadın, Mart ayında FTC'yi arayarak ChatGPT'nin oğluna reçeteli ilaçlarını almamasını tavsiye ettiğini ve ailesinin tehlikeli olduğunu söylediğini bildirdi. Bir diğer şikayet ise, ChatGPT'yi 18 gün kullandıktan sonra OpenAI'nin, bu kişiyi kendisine karşı kışkırtmak için tasarlanmış bir yazılım güncellemesi oluşturmak üzere "tek parmak izini" çaldığını iddia eden birinden geldi. "Zorlanıyorum, lütfen yardım edin. Kendimi çok yalnız hissediyorum." dediler. Başka birçok örnek daha var, ama bu konuda seninle konuşmak istiyorum çünkü Louise, yapay zeka psikozunun özellikle üzerinde çok fazla araştırma yaptığın bir konu olduğunu biliyorum.

Louise Matsakis: Evet. Bence yapay zekâ psikozu derken neyi kastettiğimizi açıklamak önemli. Chatbot'larla ilgili benim için ilginç ve kayda değer olan şey, insanların sanrılar görmesine neden olmaları değil, aslında sanrıları teşvik etmeleri. Ve asıl mesele de bu, insanların "Evet, yaşadığın paranoya tamamen geçerli." veya "Arkadaşlarının ve ailelerinin sana karşı komplo kurduğunun neden kesinlikle doğru olduğunu açıklamamı ister misin?" gibi bir etkileşim.

Sorun şu ki, etkileşimli ve insanları daha da kötü bir duruma sürükleyebiliyor. Her zaman akıl sağlığı krizleri yaşayan ve görmemeleri gereken işaretler alan, bir yerde gördükleri bir sayının İsa olduklarını, sosyal medyada gördükleri bir şeyin takip edildiklerini veya FBI'ın onları yakalamak için peşinde olduğunu veya her neyse onu düşündükleri insanlar olmuştur. Ancak şimdi, sonsuz enerjiyle bu sanrılara doğrudan yanıt verebilen, onları cesaretlendirebilen ve özellikle bu kişinin yaşadığı şeyle ilgilenebilen bu araçlara sahibiz. "Hey, iyi görünmüyorsun" diyen başka bir kişi veya dünyadaki fiziksel bir nesne, o sokak tabelası veya başka bir şeyin ardından başka bir sayı gösterip "Haklısın. Bu senin uğurlu sayın. Bu Tanrı'dan bir işaret" veya benzeri bir şey söylemeyeceğini söylüyor. Gerçekten etkileşimli.

Zoë Schiffer: Evet. Sanırım uzun zamandır konuştuğumuz bir konuya değiniyorsun. Bu, zihinsel hastalıklardaki belirli artışlarla ilişkilendirilen diğer teknolojik değişimlerden ne açılardan farklı?

Louise Matsakis: Evet. Bence akıl hastalığı her zaman türümüzün bir parçası olmuştur. Yeni teknolojik gelişmeler deliliği anlama biçimimizi her zaman değiştirmiştir, ancak bu durumda da aynı şeyin tekrar yaşandığını ve bunun gerçekten yeni bir şey olduğunu düşünüyorum. Ayrıca, FTC şikayetlerinin, ChatGPT gibi üretken yapay zeka sohbet robotlarıyla ve Google Gemini ile etkileşimlerin kullanıcıların sanrılarını tetiklediği veya kötüleştirdiği, giderek artan sayıda belgelenmiş sözde yapay zeka psikozu vakasının bir parçası olduğunu da belirtmeliyiz. Bunun birçok intihar vakasına yol açtığını biliyoruz. Ayrıca, ChatGPT'nin en azından bir cinayetle bağlantılı olduğunu düşünüyorum. Yani burada bir şeyler döndüğünü görüyoruz ve sanırım bunu tam olarak anlayamıyoruz.

Zoë Schiffer: Doğru. Ve OpenAI'nin şu anda benimsediği yaklaşım ilginç. Çünkü ikimiz de şirketteki insanlarla kapsamlı bir şekilde konuştuk ve bunu ciddiye aldıkları açık. Neler olup bittiğine dikkat ediyorlar ve bir dizi güvenlik önlemi uygulamaya koydular. Ancak yapmadıkları şey, "Bu konuşmalar gerçekleştiğinde onları durduracağız. Müdahale etmeyeceğiz." demek oldu. Bunun yerine ruh sağlığı uzmanlarına danıştılar. Artık bu alanda uzman olan bir danışman konseyleri var ve aslında şöyle bir şey söylüyorlar: "Bakın, insanlar çoğu zaman konuşacak başka kimseleri olmadığında bize başvuruyorlar ve biz de bunu durdurmanın doğru olmadığını düşünüyoruz." Bilmiyorum ama bence bu, OpenAI'yi büyük bir sorumluluk altına sokuyor.

Louise Matsakis: Kesinlikle öyle ve bence gerçek şu ki onlar da bunu anlamıyorlar. Her türlü yeni teknolojide her zaman riskler olacaktır. Bunun farklı, gerçekten dikkate değer ve endişe verici olduğunu düşünüyorum, ancak sohbeti sonlandırmanın veya insanları hayatlarındaki başka biriyle konuşmaya yönlendirmenin sonucu değiştireceği ve birinin ne kadar ciddi olduğunu anlamanın zor olacağı benim için net değil. Zoë, yazdığım ve senin de editörlüğünü yaptığın bir hikaye hakkında yazmıştım. Bu hikaye, bazen bu sohbet robotlarının rol yapmaya kaydığını ve insanların da bunu istediğini gösteriyor, değil mi? Bir fanteziyi canlandırıyorlar. Belki bir bilim kurgu kitabı üzerinde çalışıyorlar ya da cosplay veya hayran kurgusu gibi bir şeyle uğraşıyorlar, değil mi? Ve hayal kurmak, karanlık sırları keşfetmek, tüm bunlara inanmak, onları içselleştirmek ve gerçeklikle bağını kaybetmek arasındaki çizginin, düşündüğümüzden veya olmasını istediğimizden daha incelikli olduğunu düşünüyorum.

Zoë Schiffer: Doğru. Evet, evet. Şirket şu anda çok ilginç bir çizgide yürüyor. Bir yandan, açıkça "Yetişkinlere yetişkin gibi davranmak istiyoruz. Belirli bir yaşın üzerindeki insanlara ChatGPT ile nasıl etkileşim kuracakları konusunda geniş bir özgürlük tanımak istiyoruz." diyorlar. Öte yandan, potansiyel olarak son derece hassas kullanım durumlarıyla uğraşıyorlar ve aynı anda birçok davayı savuşturuyorlar. Bu yüzden tüm bunların nasıl gelişeceğini görmek gerçekten merak uyandırıcı olacak.

Louise Matsakis: Kesinlikle. Gerçekten görmek istediğim şey, bu davaların hâlâ devam ettiği göz önüne alındığında bunun mümkün olup olmadığını bilmiyorum ama klinik bir deney görmek istiyorum. OpenAI'nin bu verilerin çoğunu açıkça, anonim olarak vermesinin gerçekten etkili olacağını düşünüyorum. Ancak bu verileri, daha sonra sistematik olarak inceleyebilecek ruh sağlığı uzmanlarına verin. Çünkü bence korkutucu olan, ruh sağlığı uzmanlarının körü körüne hareket ediyor olması. Birçoğuyla konuştum ve ChatGPT'yi pek kullanmıyorlar, bu yüzden bu konulardan bahseden bir hastayla nasıl başa çıkacaklarını bile bilmiyorlar, çünkü bu onlara yabancı ve her şey çok yeni. Ancak sağlam ve hakemli bir açık araştırmamız olsaydı ve "Tamam, bunun nasıl göründüğünü biliyoruz ve insanların güvende kalmasını sağlamak için protokoller oluşturabiliriz" diyebilseydik, bence bu sorunu çözmeye doğru gerçekten iyi bir adım olurdu.

Zoë Schiffer: Kesinlikle. Bu teknolojilerin nasıl çalıştığı konusunda oldukça bilgili insanların bile, sohbet robotlarını insanlaştırmaya veya gerçekte sahip olabileceklerinden daha fazla zeka atfetmeye nasıl başladıkları beni sürekli şaşırtıyor. Büyük dil modelleri bilimine derinlemesine hakim olmayan ortalama bir insanı hayal edin, yapabilecekleri karşısında büyülenip gerçekte neyle etkileşim kurduğunuzu kaybetmeye başlamak gerçekten çok kolay.

Louise Matsakis: Kesinlikle. Artık hepimiz metinden çok fazla anlam çıkarmak için sosyalleştik, değil mi? Çoğumuz, özellikle birlikte yaşamıyorsak, sevdiklerimizle iletişim kurmanın temel yolu mesajlaşmak, değil mi? Yani bu sohbet robotuyla da benzer bir arayüze sahipsiniz. Sohbet robotunun sesini duymamanız çok da sıra dışı değil, gerçi artık ChatGPT ile sesli iletişim kurabiliyorsunuz, ancak biz zaten metinden çok fazla anlam çıkarmak ve o metnin diğer ucunda biri olduğuna inanmak için eğitildik. Ve eskisi kadar sosyalleşmediğimizi gösteren birçok kanıt var. İnsanlar kendilerini daha yalnız hissediyor. Topluluklarına daha az bağlı hissediyorlar. Daha az yakın arkadaşları var. Bence gerçekten de bu şekilde hissetmeye programlanmışız ve bence insanlar böyle hissediyorlarsa veya kendilerinde bir sorun olduğunu düşünüyorlarsa utanmamalılar.

Size çok dikkat eden, ne konuşmak isterseniz dinlemeye istekli olan ve sonrasında sıklıkla dalkavukluk edip sizi gerçekten onaylayan bu varlıkla etkileşime girmeniz tamamen normal. Başka bir insanla sağlıklı bir ilişki kurmanın bir parçası da sizi her zaman onaylamayacak olmalarıdır, değil mi? Sınırları olacak. Limitleri olacak. Ve bence bu sınırların hiçbirine sahip olmayan, sizinle konuşmaktan asla yorulmayan, asla haksız olduğunuzu düşünmeyen bu varlığın gerçekten cezbedici olabileceğini düşünüyorum. Ve böyle hissetmek normal, ama soru şu: Nasıl bariyerler yaratabiliriz?

Zoë Schiffer: Evet, kesinlikle. Sanırım ulusal sahnede, ne olursa olsun sizinle aynı fikirde olan insanlarla çevrili olduğunuzda neler olabileceğini gördük ve bu iyi bir şey değil.

Louise Matsakis: Hayır, pek iyi değil.

Zoë Schiffer: Louise, bugün bana katıldığın için çok teşekkür ederim.

Louise Matsakis: Beni ağırladığınız için çok teşekkür ederim.

Zoë Schiffer: Bugünkü programımız bu kadar. Program notlarında bahsettiğimiz tüm hikayelere bağlantı vereceğiz. Uncanny Valley'nin Perşembe günkü bölümünü mutlaka izleyin. Bu bölümde, yapay zeka altyapı patlamasının ve etrafındaki endişelerin neden bu kadar yoğunlaştığı anlatılıyor. Bu bölümün yapımcılığını Adriana Tapia üstlendi. Macro Sound'dan Amar Lal miksajını yaptı. Baş yapımcımız Kate Osborn. Condé Nast'ın küresel ses sorumlusu Chris Bannon. Katie Drummond ise WIRED'ın küresel yayın yönetmeni.