Bilinçli bir yapay zekayı kontrol edebilir miyiz?

Gri saçlı olanlar , 2001: Bir Uzay Macerası filmindeki o muhteşem sahneyi muhtemelen hatırlayacaktır. Süper bilgisayar Hall , kontrolörleri tarafından kapatılmayı reddeder. Yapay cihazın sesi o kadar etkileyiciydi ki, aktif kalmak için yalvaran bir yalvarışa benziyordu. Ancak emirlere uymayı bırakıp bir dereceye kadar karar alma özerkliği gösterdiğinde, hizmet ettiği kişileri dehşete düşürdü ve bu yüzden onu kapatmayı gerekli gördüler. Sahiplerine isyan eden bir yapay zekaydı bu. Sinematik kurgunun dışında, günümüz gerçekliğinde böyle bir şey olabilir mi?

Yapay zeka mühendisleri arasında yapılan bir ankete göre, birçok kişi çok çeşitli bilişsel görevlerde insan muhakemesine benzer bir muhakeme düzeyine sahip sistemlerin yakında geliştirileceğine inanıyor, ancak bu sistemlerin bizimkinden daha rasyonel kararlar alıp alamayacağını bilmiyoruz. Şimdiye kadar gözlemlenen şey, yapay dil modellerinin de insan benzeri irrasyonellikler sergilediği. Dolayısıyla, iki farklı testte, GPT-40 gibi gelişmiş bir üretken yapay zeka modeli, Başkan Putin'e karşı tutumunu olumlu veya olumsuz yönde değiştirdi.

Bu ikilem karşısında şu soru ortaya çıkıyor: Karar vermek için dahili olarak kullandığı yüz milyarlarca parametreyle donatılmış bir GPT nasıl düşünüp karar veriyor? Bazı uzmanlar, bu düzeydeki karmaşıklığın sisteme belirli bir özerklik kazandırabileceğine, öyle ki en derinlerinde neler yaptığını bile bilmediğimize inanıyor . Peki ya bu teknik karmaşıklığa ek olarak veya bu karmaşıklık sayesinde sistem kendiliğinden bilinçlenirse ne olur? Bu mümkün mü?

Bazı bilim insanları, öznel bir zihin durumu olan bilincin, bir epifenomenden başka bir şey olmadığına, beynin işleyişine tesadüfen dahil olan, bir motorun gürültüsü veya bir yangından çıkan duman kadar gereksiz ve önemsiz bir şey olduğuna inanırlar. Ancak diğerleri, hiçbir önemli amaca hizmet etmekten çok uzak, bilincin beynin kendisi tarafından yaratılan hayal gücünün bir aynası olarak işlev gördüğüne ve bunun da zorunlu olarak davranışa karar verme ve onu kontrol etmede katkıda bulunduğuna inanırlar. Beynin bilinci nasıl mümkün kıldığını hâlâ bilmiyoruz, ancak bunu açıklamaya çalışan başlıca teorilerden biri olan işlevsel bütünleşme teorisi , bilincin insan beyni gibi karmaşık sistemlerin içsel ve nedensel bir özelliği olduğunu savunur. Yani, bilinç, belirli bir yapısal ve işlevsel karmaşıklığa ulaştığında bu sistemlerde kendiliğinden ortaya çıkar. Bu, mühendisler insan beyni kadar karmaşık veya ona eşdeğer yapay bir sistem inşa edebilselerdi, beynin kendisinde olduğu gibi bunun nasıl olabileceğini anlamasak bile, bu sistemin kendiliğinden bilinçli olacağı anlamına gelir.

Böyle bir şey olursa, bir soru denizi bizi yutar. İlki şudur: Bir bilgisayarın veya yapay bir cihazın bilinçli olup olmadığını nasıl bileceğiz ve bizimle nasıl etkileşim kuracak? Sadece ses veya ekrana yazı yazarak mı? Kendini göstermesi ve çevresiyle etkileşim kurması için insan bedenine eşdeğer, ifade gücü yüksek bir fiziksel bedene mi ihtiyaç duyacak? Evrenimizde, bize herhangi bir şekilde haber vermenin bir yolu olmadan bilinçli cihazlar veya varlıklar var olabilir mi (yoksa gerçekten varlar mı)? Her halükarda, bilinçli bir yapay cihaz insan zekâsını aşarak bizimkinden daha rasyonel ve sağlam kararlar verebilir mi?

Ama hepsi bu kadar değil, çünkü Hall süper bilgisayarında olduğu gibi, başka sorular da bizi korkutabilir. Bilinçli bir yapay sistem, beynimiz gibi bir öz benlik ve eylemlilik duygusu geliştirebilir mi? Yani, yaratıcılarından aldığı talimatlardan bağımsız olarak gönüllü olarak hareket etme ve çevresini etkileme yeteneğine sahip olabilir mi? Bu arada, böyle bir sistem örneğin ekonomik kararları, suç işlemeyi, şu veya bu siyasi partiye oy vermeyi etkilemede insanlardan daha ikna edici olabilir mi? Ya da daha olumlu bir şekilde, sağlıklı beslenerek, çevreyi iyileştirerek, dayanışmayı artırarak veya ideolojik kutuplaşma ve mezhepçilikten kaçınarak sağlığımıza dikkat etmemizi ve sağlığımızı iyileştirmemizi teşvik etmede daha etkili olabilir mi?

Yapay zekada duyguların çağı

Dahası, böyle bir sistemin duyguları olabilir mi? Bir yüz veya görüntünün ifadesinde, tıpkı sahte bir gülümsemeyi gerçek bir gülümsemeden ayırt ederek başkalarının duygularını anladığımız gibi, niteliklerini ve samimiyetlerini değerlendirebileceğimiz bir ifadede yansıdıklarını göremezsek bunu nasıl bilebiliriz? Ve belki de en önemlisi, eğer yapay cihaz bu duygulara sahipse, bu duygular cihazın kararlarını nasıl etkiler? Bunu bizimkiler kadar kesin bir şekilde yaparlar mı? Bunu yaparken, etik ve yasal sorumlulukları olan bir tür yapay insan mı inşa etmiş oluruz? Yoksa bu sorumluluklar yaratıcılarına mı devredilmek zorundadır? Bilinçli bir yapay sistem, aile içi şiddete veya Alzheimer'a çare bulursa Nobel Ödülü'nü hak edebilir mi? Bilinçli bir makine, başka bir insanın yapacağı gibi bizimle tartışır mı? Kararlarını etkileyebilir miyiz, yoksa Hall gibi, bizimkilerle uyumsuz olsalar bile, bizi görmezden gelip kendi kararlarını verebilir mi?

1997'de, MIT'den Amerikalı bir mühendis olan Rosalind Picard, daha sonra İspanyolcaya Los ordenador emocionales (Duygusal Bilgisayarlar ) olarak çevrilen Duygusal Hesaplama adlı kitabını yayınladı (Ariel, 1998). Bu, yapay zekâda duyguların önemini ele almak ve değerlendirmek için bir tür atadan kalma bir girişimdi. Bilgisayarların gerçekten zeki olmaları ve bizimle doğal bir şekilde etkileşim kurabilmeleri için, onları duyguları tanıma, anlama ve hatta sahip olma ve ifade etme yeteneğiyle donatmalıyız. Bu, onun ana mesajıydı ve bunu Barselona'daki Menéndez Pelayo Üniversitesi'ndeki yaz kurslarımızdan birinde konuk konuşmacı olarak bize bizzat ifade etti.

Sorun şuydu ve uzun bir süre daha böyle olmaya devam etti: Duygular, şok edici düşüncelere veya koşullara (hastalık, kaza, kayıp, başarı, başarısızlık veya duygusal kazanımlar vb.) yanıt olarak vücudumuzda meydana gelen refleksif ve otomatik değişikliklerdir (hormonlar, cildin elektrik direnci, kalp atış hızı vb.) ve bunların neredeyse tamamı bilinçsizdir; hisler ise beynin kendi yarattığı bedensel değişiklikleri geriye dönük olarak fark ederek yarattığı bilinçli algılardır (korku, sevgi, kıskançlık, nefret, kibir vb.). Şu anda, o kitabın yayınlanmasından yıllar sonra, insan duygularına eşdeğer, bilinçsiz fiziksel değişiklikleri yapay cihazlarda uygulama olasılığını düşünüyoruz. Ancak, okuyucunun gönül rahatlığı için, bu değişikliklerin biz insanların taşıyıcılarında bulunanlara benzer hisler üretmesini sağlayabilmekten hâlâ çok uzağız. Eğer bu gerçekleşirse, her şey değişir.