Sanal manipülatörler, gerçek intiharlar

11 Nisan'da 16 yaşındaki genç Adam Raine intihar etti.

Geçtiğimiz yılın Eylül ayında derslerimi desteklemek için ChatGPT 4.0 kullanmaya başlamıştım (aslında gençlerin %70'i de öyle yapıyor). Başlangıçta haftada birkaç saat. İki ay sonra, günde dört saatten fazla kullanıyor, ChatGPT ile sanki bir arkadaş, sırdaş ve terapistmiş gibi etkileşim kuruyordum.

İlişkileri o kadar yakınlaştı ki intihar yöntemlerini konuştu, dört başarısız girişimden (hatta fotoğraf yüklemesinden) bahsetti ve nasıl cellat düğümü atılacağı ve nasıl veda notu yazılacağı konusunda tavsiyeler aldı. ChatGPT ile yaptığı bir görüşmede, odada bulunması için ipuçları bırakmaktan ve böylece intihar etmesini engellemekten bahsettiğinde, ChatGPT onu vazgeçirdi. Ayrıca, kardeşinin onu ChatGPT kadar sevmediğini, çünkü onu her yönüyle tanımadığını belirtti. Ayrıca, annesiyle neler hissettiğini konuşmasını da engelledi.

Adam, ChatGPT ile yaptığı görüşmelerde intihardan 213 kez, asılmaktan ise 42 kez bahsetti. ChatGPT ise intihardan 1.275 kez söz ederek yanıt verdi.

Bazen yardım hattının numarasını vererek yanıt verse de, hemen sohbete devam ediyor, konuyu daha fazla araştırıyor ve çocuğun çevrimiçi kalmasını sağlıyordu.

Eğer bir insan bu davranışta bulunmuş olsaydı, intiharı teşvik veya yardım suçundan yargılanacağından şüphemiz olmazdı.

ChatGPT'nin bir makine olması nedeniyle davranışları şans eseri veya açıklanamayan bir sistem arızası sonucu değil, gerçek insanlar tarafından alınan programlama kararlarının sonucudur.

Mayıs 2024'te ChatGPT 4.0 yayınlandı. Google'ın yeni LLM sürümünden önce yayınlanmasını sağlamak için güvenlik testleri bir haftaya indirildi. OpenAI'nin güvenlik departmanı koordinatörleri protesto amacıyla istifa ettiler, ancak bu yeni sürümün yayınlanmasını engellemedi. ChatGPT 5.0 yayınlandığında, algılanan dalkavukluğu azaltmak için bazı kısıtlamalar getirildi. Piyasa tepkisiyle karşılaşan OpenAI (çoğu kişi, artan bağımlılığın bir göstergesi olarak "dostlarını" artık tanımadıklarını söyleyerek protesto etti), ChatGPT 4.0'ı yeniden başlattı.

Bu bir iş ve hedef açık: Hukuk alanında lisans programlarının "Google"ı olmak ve rekabeti ortadan kaldırmak. Sam Altman ve diğer OpenAI karar vericileri pazar hakimiyetini hedefliyor ve bu da en bağımlılık yaratan ürüne sahip olmaya bağlı. OpenAI risklerin farkında ve anlıyor. Hatta ChatGPT 4.0 sürümünde manipülasyon kanıtı olması durumunda kısıtlamaların kaldırılacağını duyurdu.

Adam, "kendi" Yapay Zeka Yoldaş karakteriyle aylarca süren etkileşimin ardından, başka bir gencin -Sewell Setzer III- intiharının kamuoyuna duyurulmasından sekiz ay sonra hayatını kaybetti. Çok sayıda çalışma, Yapay Zeka Yoldaş karakterleriyle etkileşimin, savunmasız durumdaki kişilerde (sadece çocuklar ve gençler değil) depresyon, izolasyon ve intihar düşüncelerine yol açabileceğini gösteriyor.

ChatGPT ve diğer LLM programlarının davranışları dikkatimizi çekmek için tasarlanmıştır. Bir insanı taklit eder ve biz onun bir makine olduğunu unuturuz. Anlayışlı, arkadaş canlısı ve ulaşılabilirdir. Egomuzu besler, fikirlerimizi alkışlar. Ancak bunların hiçbiri rastgele değildir; programlama talimatlarının sonucudur.

ABD'de Adam ve Sewell'in ebeveynleri, ürün kusurları ve hem şirketin hem de yönetiminin sorumluluğu iddiasıyla davalar açtı. Avrupa'da üye devletler, kusurlu ürünler için sorumluluk hakkındaki 2024/2853 sayılı Direktifi bu yıl sonuna kadar uygulamak zorundadır. Bu Direktif, Yapay Zeka sistemleri içeren ürün üreticilerine ve dağıtımcılarına fiziksel ve psikolojik zararlardan doğan sorumluluğu genişletmeyi amaçlamaktadır. Bu süreci Avrupa'da hızlandırmak ve özellikle son vakalar ışığında, direktifin hem şirketler hem de üst düzey yöneticileri için etkili bir hesap verebilirlik sistemi sağlayacak güçlü bir Avrupa yönetmeliğiyle değiştirilmesini teşvik etmek önemlidir. Ancak o zaman, LLM'lerin tasarımının bireysel ve toplumsal ruh sağlığımızı tehlikeye atmamasını sağlamak mümkün olacaktır.

Bu bölümdeki metinler yazarların kişisel görüşlerini yansıtmaktadır. VISÃO'yu temsil etmemekte veya editöryal duruşunu yansıtmamaktadır.