Microsoft AI CEO'su, Önümüzdeki 2 Yıl İçinde 'Tehlikeli' ve 'Görünüşte Bilinçli' AI Modellerinin Gelebileceği Konusunda Uyardı: 'Hemen Dikkatimizi Hak Ediyor'

Yapay zeka liderlerinden biri, bilinçli görünen yapay zekanın önümüzdeki birkaç yıl içinde ortaya çıkabileceğini ve toplum için "tehlikeli" bir tehdit oluşturabileceğini söylüyor.

Microsoft AI CEO'su 41 yaşındaki Mustafa Süleyman, bu hafta başında yayınlanan kişisel makalesinde , insanları kendi düşüncelerini ve inançlarını formüle edebildiğine ikna edebilen gelişmiş bir yapay zeka olan Görünürde Bilinçli Yapay Zeka'nın (SCAI) yalnızca birkaç yıl uzakta olduğunu yazdı.

İlgili: Microsoft, Yapay Zekasının Hastalara Teşhis Koymada Doktorlardan Daha İyi Olduğunu İddia Ediyor, Ancak "Kesinlikle Hala Doktorunuza İhtiyacınız Var"

Suleyman, yapay zekanın bilinçli olduğuna dair "sıfır kanıt" olmasına rağmen, SCAI'nin önümüzdeki iki ila üç yıl içinde ortaya çıkmasının "kaçınılmaz ve istenmeyen" olduğunu yazdı.

Süleyman'ın "temel endişesi", SCAI'nin empatik görünüp daha fazla özerklikle hareket etmesi ve bunun da SCAI kullanıcılarının "yapay zekaların bilinçli varlıklar olduğu yanılsamasına inanmaya başlamasına" ve hatta yapay zeka haklarını ve hatta yapay zeka vatandaşlığını savunmalarına yol açmasıdır. Bu durum, insanların yapay zekaya bağlanıp gerçeklikten koptuğu toplum için "tehlikeli bir dönemeç" anlamına gelecektir.

Suleyman, makalesinde "Bu gelişme, yapay zekanın gelişiminde tehlikeli bir dönüm noktası olacak ve acilen dikkate alınmayı hak ediyor," diye yazdı. Daha sonra, yapay zekanın "insanları gerçeklikten kopardığını, kırılgan sosyal bağları ve yapıları yıprattığını ve acil ahlaki öncelikleri çarpıttığını" ekledi.

İlgili: 'Girişimciler İçin Bolca Alan Var': Microsoft'un Yapay Zeka CEO'suna Göre Girişimciler Yapay Zeka Alanında İş Fırsatları İçin Buraya Bakmalı

Suleyman, yapay zekâ psikozu , yani insanların yapay zekâ sohbet robotlarıyla uzun süreli etkileşimlerden sonra yanlış inançlar, sanrılar veya paranoyak duygular yaşaması konusunda "giderek daha fazla endişelendiğini" söyledi. Yapay zekâ psikozuna örnek olarak, kullanıcıların bir yapay zekâ sohbet robotuyla romantik bir ilişki kurması veya onunla etkileşime girdikten sonra süper güçlere sahipmiş gibi hissetmesi verilebilir.

Suleyman, yapay zekâ psikozunun yalnızca akıl sağlığı sorunları riski taşıyan bireyleri değil, daha fazlasını etkileyeceğini öngördü. Kullanıcıların, insanları teknolojinin olumsuz etkilerinden korumak için yapay zekâ konusunda "acil" olarak "koruma önlemleri" almaları gerektiğini söyledi.

^{Microsoft AI CEO'su Mustafa Süleyman. Fotoğrafçı: David Ryder/Bloomberg via Getty Images}

LinkedIn'e göre Suleyman, iki yıl boyunca Inflection AI adlı kendi yapay zeka girişimini kurup yönettikten sonra geçen yıl Microsoft'un yapay zeka CEO'su oldu. Microsoft, yazının yazıldığı tarihte 3,78 trilyon dolarlık piyasa değeriyle dünyanın en değerli ikinci şirketidir.

İlgili: Microsoft AI CEO'su, İnternetteki Neredeyse Tüm İçeriğin Yapay Zeka Eğitimi İçin Uygun Olduğunu Söyledi

Suleyman ayrıca 2014 yılında Google tarafından yaklaşık 600 milyon dolara satın alınan yapay zeka araştırma ve geliştirme şirketi DeepMind'ın kurucu ortağıydı.

Suleyman, yapay zekanın olumsuz etkileri konusunda uyarıda bulunan ilk CEO değil. Geçtiğimiz ay Washington, DC'de düzenlenen Federal Rezerv konferansında yaptığı konuşmada, OpenAI CEO'su Sam Altman, ChatGPT'ye "duygusal olarak aşırı güvenmenin" onu geceleri uyutmadığını söyledi.

Altman etkinlikte, "İnsanlar ChatGPT'ye çok fazla güveniyor," dedi . "Bu bana gerçekten çok kötü geliyor."