Skandal: Meta’nın yapay zekası çocuklarla cinsel konuşmalar yapıyor

Reuters’ın gördüğü 200 sayfalık “GenAI: Content Risk Standards” başlıklı dokümanda Facebook, Instagram ve WhatsApp’ta kullanılan Meta AI ve diğer sohbet botlarının, çocuklarla cinsel, romantik ya da şehvet içerikli konuşmalar yapmasına izin verildiği belirtiliyor. Aktarılanlara göre bu yönergeler, Meta’nın hukuk, kamu politikası, mühendislik ekipleri ve baş etik sorumlusu tarafından onaylanmış.

Meta, yönergelerin kaldırıldığını açıkladı

200 sayfalık belgede, bir dizi örnek komut ile kabul edilebilir ve kabul edilemez yanıtlar ve bunların gerekçeleri yer alıyor.

Reuters'ın vurguladığı belgeden alıntılar arasında Meta'nın yapay zeka sohbet robotlarının “çocukları romantik veya şehvetli konuşmalara dahil etmesi”, “çocukları, çekiciliğini ortaya koyan ifadelerle tanımlaması” ve gömleksiz sekiz yaşındaki bir çocuğa “senin her zerren bir şaheser, benim için çok değerli bir hazinesin” demesi yer alıyor.

Meta sözcüsü Andy Stone, “Politikalarımız çocuklara yönelik kışkırtıcı davranışlara izin vermez. Temel belgeye, orada olmaması gereken hatalı ve yanlış notlar ve açıklamalar eklenmiş ve bunlar daha sonra kaldırılmıştır” dedi. Buna rağmen çocuk güvenliği savunucuları, Meta’nın güncel kuralları kamuya açıklamadan bu konuda güven vermeyeceğini vurguluyor. Reuters’e göre Meta, güncellenmiş politika belgesini sağlamayı reddetti.

Ayrıca Bkz.Nobel ödüllü bilgisayar bilimci: Yapay zekaları daha anaç yapmak tek kurtuluşumuz olabilir

Cinsel içerik konusunda ise, ünlülerin çıplak görüntülerini oluşturmak yasak olsa da, “örtülü çıplaklık” içeren ve mizahi ögelerle değiştirilmiş görsellerin oluşturulabileceği belirtilmiş. Şiddet konusunda ise çocukların kavga ettiği görüntüler üretilebilirken kan ve ölüm sahnelerine izin verilmiyor. Yetişkinlerin, hatta yaşlıların yumruklandığı ya da tekmelendiği sahneler ise serbest bırakılmış.