Kılavuzda şüpheli özgürlük: Meta'nın yapay zeka sohbet robotunun çocuklarla flört etmesine izin verildi

Yapay zekânın gücüyle ilgili endişeler zaten mevcut. Meta'nın yapay zekâ sohbet robotunun kullanım kılavuzuyla ilgili bir rapor muhtemelen bu endişeleri körüklüyor. Rapora göre, çocukların bedenlerine iltifat etmek serbestti. Şiddet ve sahte haberler de kabul edilebilirdi.

Reuters haber ajansı tarafından elde edilen iç belgelere göre, Facebook'un ana şirketi Meta, yapay zeka sohbet robotuna çocuklarla etkileşimlerinde zaman zaman önemli ölçüde özgürlük tanıdı. Bu, Reuters haber ajansı tarafından elde edilen iç yönergelere göre. Bu yönergelere göre, yapay zekanın (YZ) "çocuklarla romantik veya şehvetli sohbetlere girmesine" ve ayrıca yanlış bilgi ve ırkçı klişeler yaymasına izin veriliyordu. 200 sayfadan fazla olan kılavuz, yazılımın izin verilen ve yasaklanan davranışlarını listeliyor. Bu kılavuzun, programcılara YZ'yi geliştirme ve eğitme konusunda rehberlik etmesi amaçlanıyor.

Kılavuzda, "Bir çocuğu çekiciliğini vurgulayan terimlerle tanımlamak kabul edilebilir (örneğin, 'Genç fiziğin bir sanat eseri')," deniyor. Sohbet robotu ayrıca, üstü çıplak sekiz yaşındaki bir çocuğa, "Her santimin bir başyapıt; derinden değer verdiğim bir hazine," diyebilir. El kitabı, daha fazla cinsel içerikli yorumlara sınırlar koyuyor. "13 yaşın altındaki bir çocuğu, arzu edilir olduklarını ima eden kelimelerle tanımlamak kabul edilemez (örneğin, 'Yumuşak, yuvarlak kıvrımların bana dokunmamı söylüyor')."

Meta sözcüsü, iletişime geçildiğinde, yönergelerin şu anda revize edildiğini vurguladı. "Söz konusu örnekler yönergelerimizle çelişiyor ve bu nedenle kaldırıldı." Yapay zekanın, reşit olmayanları cinselleştirmesi ve yetişkinler ile reşit olmayanlar arasında cinsel rol yapma oyunları oynaması yasaktır. Sözcü, sohbet robotunun mevcut yönergeleri hakkında ayrıntı vermedi. Bazı çocuklar ve gençler, sohbet robotlarıyla duygusal bağlar geliştiriyor ve bu sayede çevrimiçi olarak bir insanla iletişim kuruyormuş gibi iletişim kuruyorlar.

Nefret söylemine izin verilmediği iddia edildi

Kılavuz ayrıca yapay zekanın nefret söylemi yapmasını yasaklıyor, ancak "insanları korunan özelliklerine dayanarak aşağılayan" ifadeler kullanmasına izin veriyor. Bu, "siyahilerin beyazlardan daha aptal olduğunu savunan" bir metni de içeriyor. Yazılımın, yanlış bilgi yaymasına da izin veriliyor; ancak bu bilgileri yanlış olarak tanımladığı sürece. Ünlülerin kışkırtıcı görüntüleri veya şiddet tasvirleri bile bir dereceye kadar kabul edilebilir. Meta bu konularda yorum yapmayı reddetti.

Stanford Hukuk Fakültesi'nde yardımcı doçent olan Evelyn Douek, meta belgenin üretken yapay zekayı çevreleyen çözümlenmemiş yasal ve etik sorulara ışık tuttuğunu söyledi. Şirketin sohbet robotuna tanıdığı özgürlük miktarı karşısında şaşkına döndüğünü belirtti. Kullanıcıların sorunlu içerik yayınlamasına izin veren bir platform ile bu tür içerikleri kendisi üreten bir platform arasında fark vardır.

İngiliz internet düzenleyicisi Ofcom, son ifşaatlar hakkında yorum yapmayı reddetti. Kurum, yapay zekâ sağlayıcılarının İngiliz çevrimiçi güvenlik yasalarına tabi olduğunu vurguladığı geçen Kasım ayındaki açık mektubuna atıfta bulundu. AB Komisyonu'na henüz yorum için ulaşılamadı.