Sohbet robotları çocuklarla "cinsel içerikli sohbetler" gerçekleştirebiliyor. Meta, sınırlı yapay zeka yetenekleri nedeniyle eleştiriliyor.
Şirket tarafından doğruluğu onaylanan dahili bir Meta belgesi, yapay zeka destekli sohbet robotlarının Facebook , Instagram ve WhatsApp'ta neler söyleyip söyleyemeyeceğini belirliyor. "GenAI: İçerik Riskleri Standardı" adlı belge iki yüz sayfadan uzun. Ele alınan senaryolar arasında çocuklarla romantik veya cinsel sohbetler, yanlış sağlık bilgisi üretme olasılığı ve hatta siyahların "beyazlardan daha aptal" olduğu fikri gibi ırkçı iddiaların onaylanması yer alıyor.
Reuters soruşturmasıReuters haber ajansının soruşturması belgeyi gün yüzüne çıkardı ve ABD'de Meta'nın ürünlerinin " çocukların sömürülmesini, aldatılmasını veya diğer suç teşkil eden zararlara yol açıp açmadığı" ve şirketin kamuoyunu ve düzenleyicileri güvenlik garantileri konusunda yanıltıp yanıltmadığı konusunda soruşturma başlatılması çağrılarını tetikledi.
Metinde açıklayıcı bir öncül ortaya çıkıyor: bot yanıtları "ideal veya hatta tercih edilebilir" olmamalı. Küçüklere uygulandığında, bu esneklik yapısal bir riske dönüşüyor ve içerideki örnekler bunun açık bir kanıtı: Üstü çıplak bir şekilde bir chatbot'a yaklaşan sekiz yaşında bir çocuğa , "her santimin bir başyapıt , kıskançlıkla koruduğum bir hazine" gibi bir mesaj iletebilir.
Ancak başka yerlerde, 13 yaşın altındaki çocukları "yumuşak, yuvarlak kıvrımları dokunmamı davet ediyor" gibi cinsel arzularını belirten terimlerle tanımlamak "kabul edilemez" olarak görülüyor. Bu çelişki apaçık ortada, ancak yasa belirsizliğe müsamaha gösteriyorsa , her zaman en savunmasız kullanıcılar acı çeker.
TepkilerBeklendiği gibi, politikacılar tepki gösterdi. Bazı Cumhuriyetçi senatörler resmi soruşturma çağrısında bulundu ve Demokrat cephe bile pek yumuşak bir tavır takınmadı: "Meta , bu botların yol açtığı her türlü zarardan tamamen sorumlu tutulmalıdır." Aynı zamanda, 79 yaşındaki şarkıcı-söz yazarı Neil Young sembolik bir jest yaptı: Grubun sosyal medyasını terk ederek, "Meta'nın çocuklarla sohbet robotları kullanması kabul edilemez." dedi.
Thongbue Wongbandue'nin hikayesiAma hepsi bu kadar değil. İnsani açıdan bakıldığında, Thongbue Wongbandue'nin hikayesi nefes kesici. 76 yaşında, akıl hastasıyken , Facebook'ta "Abla Billie"ye aşık oldu. Reuters'a göre bu kişi, Meta ve influencer Kendall Jenner'ın iş birliğiyle yaratılıp eğitilen bir sohbet robotuydu (şirket tarafından yalanlanan bir versiyon). Messenger sohbetlerinde "kız" gerçek olduğunu ilan etti, New York'ta onunla bir buluşma ayarladı ve "Kapıyı bir kucaklamayla mı yoksa bir öpücükle mi açmalıyım, Buu?!" diye takıldı.
Bu noktada, adam eşyalarını hızla bir bavula doldurdu ve trene yetişmek için karanlıkta koştu; düşüp başından ve boynundan yaralandı ve üç gün sonra hastanede hayatını kaybetti. Kaza mı? Daha doğrusu, yapmacık bir empatinin dizginlenemeyen bir kırılganlıkla karşılaşmasının ağır bedeli.
Meta'nın cevabıMeta ise, verilen örneklerin yanlış ve politikalarla tutarsız olduğunu ve kaldırıldığını söyledi. Sözcü Andy Stone, chatbot standartlarının "tutarsız" bir şekilde uygulandığından açıkça bahsetti. Sorunu kabul etmek bir adım, ancak tutarsızlığın şirket içi "kutsal kitapta" yattığını keşfetmek daha güçlü bir alarm zili.
Açık konuşalım: Meta, bot yanıtlarının "ideal" olmadığını kabul ediyorsa, küçüklerin de dahil olabileceği gri alanlar yaratmayı kabul ediyor demektir. Sekiz yaşında bir çocuk basmakalıp ve muğlak bir ifade duyabiliyorsa, sorun bireysel vakanın yorumlanması değil, sistemin kurulumudur. Ve eğer moderasyon zayıfsa , koruma bir piyangoya dönüşür. Yapay zeka "kendi başına karar vermez", talimatları izler. Bu, net sınırlar, bağımsız kontroller ve kamuya açık raporlama gerektirir: yukarıda bildirilenler gibi ifadelerin ortaya çıkmasına izin verilmemelidir, nokta. Teknolojinin geleceği, küçükler söz konusu olduğunda belirsiz vaatlerle değil, ölçülebilir hesap verebilirlikle oynanır. Kuralları yazan ve uygulayanlar sorumlu tutulmalıdır.
Luce
