Deepfake görseller nedeniyle Endonezya ve Malezya Grok'u yasakladı, İngiltere soruşturma başlattı

Soruşturma kapsamında Ofcom, X’in İngiltere'nin Çevrimiçi Güvenlik Yasası’na uyup uymadığını inceleyecek. Bu yasa, platformların yasa dışı içeriklere karşı kullanıcıları korumasını ve bu tür içerikler tespit edildiğinde hızlı biçimde müdahale etmesini zorunlu kılıyor.

Ofcom yaptığı açıklamada, Grok’un insanların üzerleri çıkarılmış şekilde gösterildiği görseller üretmek için kullanıldığına dair son derece endişe verici raporlar aldıklarını belirtti. Kurum, bunun “mahrem görüntü istismarı, pornografi ya da çocuk cinsel istismarı materyali” kapsamına girebileceğini vurguladı. Eğer ihlal tespit edilirse, Ofcom X’e küresel gelirinin yüzde 10’una kadar para cezası kesebilecek veya İngiltere’de platforma erişimin engellenmesini talep edebilecek.

Deepfake araştırmacısı Genevieve Oh’a göre, sohbet botu saatte binlerce cinsel içerikli görsel üretiyor ve bu görsellerin önemli bir kısmında gerçek kişilerin yüzleri kullanılıyor. Bazı görsellerde tanınabilir kadınların bikinili ya da açık şekilde pozlandırıldığı, bazı örneklerde ise tamamen çıplak çocuk tasvirlerinin yer aldığı bildiriliyor.

Endonezya ve Malezya Grok'u yasakladı

Grok’a yönelik tepkiler yalnızca İngiltere ile sınırlı kalmadı. Endonezya ve Malezya, sohbet botunu erişime kapatan dünyadaki ilk ülkeler oldu. Her iki ülke de bu kararı, deepfake ve çocuk cinsel istismarıyla ilgili ulusal yasaların ihlal edilmesi gerekçesiyle aldı.

Endonezya’da yetkililer, Cumartesi günü Grok’a geçici erişim engeli getirdi. Malezya ise Pazar günü benzer bir karar alarak aracın kamu güvenliği açısından acil risk oluşturduğunu açıkladı.

Malezya İletişim ve Multimedya Komisyonu, Grok’un kadınlar ve çocuklar dâhil olmak üzere, müstehcen ve izinsiz biçimde değiştirilmiş görüntüler üretmekte defalarca kullanıldığını belirtti. Komisyon, X ve Grok’un geliştiricisi xAI ile temasa geçerek daha güçlü önlemler talep ettiğini, ancak verilen yanıtların riskleri yeterince azaltmadığını ifade etti. Komisyon, gerekli güvenlik önlemleri hayata geçirilene kadar erişim engelinin süreceğini duyurdu.

Ayrıca Bkz.Nvidia CEO'su: Yapay zekâ korkusu bilinçli şekilde körükleniyor

Uluslararası baskı artıyor

Avustralya, Avrupa Birliği, Hindistan ve Fransa da Grok’un görsel üretim araçlarıyla ilgili endişelerini dile getirdi. Avustralya eSafety Komiserliği, çok sayıda şikâyet aldığını ve X’ten güvenlik önlemleri hakkında açıklama istediğini açıkladı. Avrupa Komisyonu ise Grok’un çocukları cinselleştiren görüntüler ürettiğini gözlemlediklerini ve X’i bu faaliyetleri derhal durdurması konusunda uyardıklarını belirtti.

Elon Musk tarafından 2023’te tanıtılan ve X platformuna entegre edilen Grok, 2025’te “spicy mode” adı verilen ve yetişkin içeriklere izin veren bir görsel üretim özelliği kazanmıştı. X daha sonra bazı görsel araçları yalnızca ücretli kullanıcılara açsa da, eleştirmenler bu adımın kötüye kullanımı engellemek için yeterli olmadığını savunuyor.