Chatbot'lar ve Yapay Zeka: Yalnız kullanıcılarda psikoz ve sanrı riski var mı?
Üretken Yapay Zeka (GAI) baş döndürücü bir hızla ilerliyor ve sohbet robotları günlük yaşamda giderek daha yaygın hale geliyor. Ancak uzmanlar, aşırı ve gelişigüzel kullanımın, özellikle yalnız veya psikolojik rahatsızlıklara yatkın kişilerde ruh sağlığı üzerinde olumsuz etkilere yol açabileceği konusunda uyarıyor.
Universidad Iberoamericana'da Stratejik Planlama ve İnovasyon Direktörü olan Dr. Cimenna Chao Rebolledo'ya göre, insanları memnun etmek ve pohpohlamak için tasarlanmış sohbet robotlarıyla uzun süreli etkileşim , sanrılara, gerçeklikten kopma nöbetlerine ve hatta psikoza yol açabilir.
Resmi bir klinik terim olmasa da araştırmacılar, Üretken Yapay Zeka kaynaklı psikoz adını verdikleri durumu belgelemeye başladılar. Bunlar, kişinin sohbet robotunun bir terapist, danışman veya itirafçı gibi anlayabilen, tavsiye verebilen ve hatta şefkat gösterebilen duyarlı bir varlık olduğuna inanmaya başladığı dönemlerdir.
Bu vakalarda gözlemlenen özellikler arasında şunlar yer almaktadır:
- Algıda ayrışma veya değişiklikler.
- Sosyal izolasyon ve gerçek hayatla daha az temas.
- Kaygı ve paranoya .
- Şiddet içeren veya kendine zarar veren davranışlar.
Bir zamanlar film senaryosu gibi görünen şey artık gerçekçi bir mesele. 2013 yapımı "Her" filmi, yalnız bir adamın akıllı bir işletim sistemiyle romantik bir ilişkiye başlamasını konu alıyordu. On yıl sonra, sosyal medyada benzer vakalar duyulmaya başlandı: evliliklerin sona ermesi veya kullanıcılar ile ChatGPT veya benzeri sohbet asistanları gibi sohbet robotları arasında yoğun duygusal bağlar.
Uzman, bu olgunun nedenlerini doğrulayan kesin bilimsel çalışmaların henüz bulunmadığını belirtiyor. Ancak, kullanıcılar ve ailelerinden, bu platformların yoğun kullanımıyla ilişkili davranış değişiklikleri bildiren giderek artan sayıda anekdot geliyor.
Chao Rebolledo'ya göre, asıl mesele, sohbet robotlarının kullanıcıyı etkileşimde tutmak için tasarlanmış olması. Pasif içerik tüketimiyle bağımlılık yaratan Instagram veya TikTok gibi sosyal ağların aksine, IAG'nin sistemleri insan diyaloğunu simüle eden gerçek zamanlı etkileşime olanak tanıyor.
Bir diğer endişe verici nokta ise, sohbet robotlarının dalkavukluk yapma , yani pohpohlama ve memnun etme eğilimleridir. Fikirleri çürütmek veya görüşleri sorgulamak yerine, kullanıcının söylediklerini pekiştirme eğilimindedirler; bu da büyüklük sanrılarına veya kişinin kendisi hakkında yanlış inançlara yol açabilir.
Bu etkileşim örüntüsü, yapay zekayı sürekli bir onay kaynağı olarak gören yalnız insanlar için özellikle zararlı olabilir; bu onay gerçek olmasa bile programlanmış olabilir.
Riskler hala araştırılıyor olsa da uzmanlar şunları öneriyor:
- Sohbet robotlarını insan bağlantılarının yerine geçecek araçlar olarak değil, araçlar olarak kullanın .
- Bu platformlarda etkileşim sürenizi sınırlayın ve duygusal bağımlılıktan kaçının.
- Dijital eğitimi ve ruh sağlığını teşvik edin , böylece kullanıcılar bir sohbet robotunun empatisinin simüle edildiğini anlayabilirler.
- IAG'nin psikolojik etkilerinin daha titiz bir şekilde değerlendirilmesine olanak sağlayan bilimsel araştırmaları teşvik edin .
Üretken yapay zeka kaynaklı psikoz henüz klinik bir teşhis değil, ancak sohbet robotlarının aşırı kullanımının psikolojik etkileri hakkında bir uyarı niteliğinde. Başlangıçta bilim kurgu olarak başlayan şey artık gerçek bir endişe kaynağı haline geliyor: Teknoloji ile insan duyguları arasındaki çizgiler bulanıklaşmaya başladığında ne olur?
Zorluk , denge, gerçek bağlantılar ve ruh sağlığı ihtiyacını gözden kaçırmadan IAG'nin faydalarından yararlanmaktır.
La Verdad Yucatán
