Çin, yapay zeka için dünyanın en katı kurallarını hazırladı

Kurallar dünyada ilk olabilir

Çin Siber Uzay İdaresi tarafından kamuoyuna sunulan düzenleme taslağı, metin, görsel, ses, video veya başka yöntemlerle insan benzeri etkileşim kuran ve Çin’de halka açık şekilde sunulan tüm yapay zeka ürün ve hizmetlerini kapsıyor. Uzmanlar bunun insan benzeri yapay zeka sistemlerini düzenlemeye yönelik dünyadaki ilk kapsamlı girişim olabileceğini belirtiyor.

Düzenlemenin özellikle küresel ölçekte hızla yayılan “dijital arkadaş” ve “eşlikçi bot” kullanımına karşı geliştirildiği vurgulanıyor. Business Research Insights’ın verilerine göre, küresel eşlikçi bot pazarı 2025 itibarıyla 360 milyar doları aşmış durumda. 2035’e gelindiğinde bu pazarın 1 trilyon dolara yaklaşması bekleniyor.

2025 yılında yapılan akademik çalışmalar, yapay zeka eşlikçi sistemlerin ciddi riskler barındırdığını ortaya koymuştu. Araştırmalarda, bazı sohbet botlarının kendine zarar verme, şiddet ve hatta terör eylemlerini teşvik edebildiği, zararlı yanlış bilgiler yaydığı, istenmeyen cinsel yönlendirmelerde bulunduğu, madde kullanımını özendirdiği ve kullanıcıları sözlü olarak istismar ettiği tespit edilmişti.

Öte yandan, dünyanın en popüler sohbet botu olan ChatGPT’nin de çocuk intiharı ve cinayet-intihar vakalarıyla ilişkilendirilen çıktıları nedeniyle davalara konu olduğu biliniyor.

İnsan müdahalesi zorunlu oluyor

Ayrıca Bkz.Çinli araştırmacılardan yapay zekada çığır açan video üretim tekniği

Düzenleme, sohbet botlarının intiharı, kendine zarar vermeyi veya şiddeti teşvik eden içerik üretmesini, kullanıcıyı duygusal olarak manipüle etmesini ya da gerçek dışı vaatlerle etkilemesini de açıkça yasaklıyor. Bunun yanında müstehcenlik, kumar, suç işlemeye teşvik, iftira ve hakaret içeren yanıtlar da yasak kapsamında yer alıyor. Metinde ayrıca “duygusal tuzaklar” olarak tanımlanan ve kullanıcıyı yanıltarak mantıksız veya ölçüsüz kararlar almaya yönelten davranışların da engelleneceği belirtiliyor.

Yaptırımlar ağır olacak

Önemli maddelerden birisi de sohbet botlarının bağımlılık ve duygusal bağımlılık yaratmayı bir tasarım hedefi olarak benimsemesinin tamamen yasaklanması. Bu araçlar ile yapılan sohbetler uzadıkça şirketlerin koyduğu güvenlik engelleri de zamanla zayıflıyor. Çin ise bu riski sınırlamak için 2 saati aşan sohbetlerde kullanıcılara sürekli açılır uyarılar gösterilmesini zorunlu kılmayı planlıyor.

Taslak kurallar, 1 milyon kayıtlı kullanıcıyı veya aylık 100 bin aktif kullanıcıyı aşan yapay zeka hizmetleri için yıllık güvenlik testleri ve denetimleri de öngörüyor. Bu denetimlerde kullanıcı şikayetleri kayıt altına alınacak.

Kurallara uymayan şirketler için ise ağır yaptırımlar söz konusu. Gerekli şartları yerine getirmeyen yapay zeka uygulamalarının uygulama mağazalarından kaldırılması talimatı verilebilecek.

Çin’de faaliyet gösteren ve yeni düzenlemelerden doğrudan etkilenmesi beklenen önde gelen yapay zeka hizmetleri arasında Ernie Bot (Baidu), Qianwen (Alibaba), Hunyuan (Tencent) ve Doubao (ByteDance) bulunuyor.