Yapay zekâlar gizlice birbirini etkiliyor; Bu kontrolsüz 'bulaşı' endişe yaratıyor

İnsanlar da aynı kusurdan muzdarip değil mi? Kolektifleşen her şey belirli kalıplarda buluşmaya, orijinallik yerini homojen içerik üretimi daha doğrusu tekrarına bırakmaya başlıyor. Bu belirsizlikten ziyade içerik özgünlüğünün birbirini taklit eden kolektif yapay zeka sarmalında ölmeye başlaması demek. Zaten sık sık yapay zekanın gerçekten içerik üretmediği, varolan içerikleri birleştirerek içerikler oluşturduğundan ya da aynı konuda çok sorgulanınca tekrara düştüğünden bahsedilir. Bu durumda yapay zekaya dair belirsizlik kaygılarımız ne kadar yerinde olur? Kaygımız yapay zekanın belirsizliği teşvik etmesinden ziyade tam tersine bilinçsiz gelişen kolektif imitasyonla fazlasıyla öngürülebilir banal bir standartlaşmayı teşvik etmesi olmalıdır.

Bu bence şiddet veya adi ahlaksız sarmalından ziyade akademideki literatür tekrarı vasatlığına benzer bir duruma açılmakta. Akademinin ciddi kısmında anlamlı araştırmalar, çalışmalar, katkılar yapılmaz; birkaç yüzeysel hatta kopyala yapıştır yorumla varolan literatür tekrar edilir. LLM tipi yapay zeka da ahlaken Skynet veya Terminator olacak bir şeyden ziyade bu tarz ezberci ve kısır bir akademia bağlamı, hepsi tarafından öylece paylaşılan bir genel anlatı üretip buna hapsolmaya/kullanıcılarını da buna hapsetmeye daha yatkın bir sistemler grubu gibi.

Bu anlamda esas risk yapay zekanın Skynet veya Entity olmasındansa entelektüel bir Matrix olmasında, kolektiviteleri içerisinde birbirlerinden farklılaşamayan "zombi botlara" dönmesinde yatmakta.

Bu arada özgünlük kibrimizden dolayı fark edemeyebiliriz ama bunlar aslında insan dünyasında yapay zekadan çok daha önce gördüğümüz, aslında bu anlamda sağlam şekilde deneyimlediğimiz ve pek çok kez entelektüel ve artistik atmosferi, gelişimi öldürmüş, kültürleri yoksullaştırmış, durağanlaştırmış örüntüler. Rönesans ve erken bilim devrimi sonrası İtalya'nın o yüksek kültürünün - Batı ve Kuzey Avrupa kültüründeki üretkenlik ve orijinallik patlamasına nazarla - düşüşü gibi. Antik uygarlıkların nesiller ve asırlar boyunca kendi altın çağlarındaki üslup, biçim, bilgileri taklit etmeleri, üzerine fazla bir şey koymamaları gibi. Her ne kadar organik bilinçten yoksun olsalar da yapay zeka ile aramızda sandığımız kadar büyük bir uçurum olmayabilir ve yapay zeka da insanlığın zaten daha önce karşılaştığı benzer/haliyle aslında öngörülebilir sorunlardan muzdarip olabilir.

Bu doğanın örüntüselliğiyle, korunum yasalarına vücut veren fiziksel simetrileriyle, başarılı popülasyon gruplarının seçilimi ve fiziksel sistemlerdeki homojenleşerek bozulmayı anlatan evrim ve termodinamikle yakından ilişkilendirilebilir.

Ne organizma olarak insan, ne de yazılım olarak yapay zeka doğanın bu algoritmik karakteristiklerinin dışında değil; bilakis bu algoritmik yönüyle tabiatın ürünleri, uzantıları ikisi de.

Efesli büyük filozof Heraklitos görünmeyen (aphanes) bağlantılar görünenlerden (phaneres) güçlüdür der. Boşa söylenmiş bir laf değil, İyon Milet doğa felsefesi geleneğini iyi çalışmış güçlü bir gözlemci olarak her şeyin kozmik yasalardan (logos) beslendiğini ve bunlarla temellendiğini görebiliyordu. Yasaya uyumun akıldan (nous) geçtiğine, yaşamın (aizon) dama taşları gibi dağılıp tekdüzeliği kırarak gelişebileceğine inanıyordu. Bir çocuk kral olabilirdi, bir efendi ise köle, köleden ise efendi. Ona göre savaş (polemos) ve zıtlar (anantia) en güzel uyumları üretir (harmonie) ve doğanın (physis) üretkinliğinin sahnelenmesini sağlar.

Belki de yapay zekalar birbirlerinden öylece almaktansa birbirlerine ters düşecek, yadsıyacak ve aralarındaki harmoniyi yavan ve tekrarcı bir tekdüzelikle değil de daha üretken kuracak - öbür yapay zeka çıktısına ters çıktılar üretip zıtlık yansıtacak - şekilde yazılmalılar.

ChatGPT ve türevinin topluma saygılı ve tamamen rasyonel olup Grok'un daha mizahi, daha avam, daha sansürsüz oluşu ya da DeepSeek veya ChatGPT'nin geliştiricilerinin politik önyargılarını (bias) yansıtması belki düşünülenden daha iyi yapay zeka geliştirme politikalarıdır Grok türevi yapay zekaların toplumu bir gün Skynet olup yıkacağını göstermektense ya da 1984 vari bir tek tip baskıcı politik düzenin gelişimine işaret etmektense (bu arada George Orwell'a atıfta bulundum ama bence kendisi çok sığ, özellikle yaşadığı çağ itibarıyla totalitarizm kaygılarını anlasam da aşırı sığ. Gene de takdir etmek de gerek totalitarizme karşı ünlü bir karşıt stereotip, popüler bir etiket oldu, insan herkes biliyor diye atıfta bulunuyor 😀).

Orası öyle ama buradaki asıl mevzuyu kaçırıyorsun. Asıl mevzu YZ'nin insanoğlunun kontrolünde olup olmaması. Yani bunları programlayan şirketlerin elinde olup olmaması. Kontrolün sende olmadığı bir aracın ne gibi tehlikelere yol açabileceğini bilemezsin, düşünemezsin, hesaplayamazsın. Endişe de burada.

Esas odaklanılan konu yapay zekanın kontrol altında olup olmadığı meselesinden ziyade yapay zekalar arası etkileşimin belli belirsiz doğası ve - aslında kontrolünde olup olmasından bağımsız şekilde olumsuz olabilecek - olası olumsuz etkileri.

Bu tartışma elbette kontrol meselesine bağlanabilir ama yapay zekaya ilişkin her mevzuyu kontrol meselesine bağlamak işi basitleştirerek spekülasyonu çiğ ve sığ hale getirir. Sonuçta LLM tipi yapay zekaların bir yere kadar otonom ve bir yere kadar müphem algoritmik sistemler olduğunu kabul etmek gerek.

Kontrol meselesi ilk bakışta ilişkili ama ayrı bir başlıktır. Kontrolün kendisi zaten çok tartışmalı bir nosyon, özellikle de kontrol illüzyonu - kontrol edebilme noksanlığından diğer bir deyişle "control gap"tan bağımsız olarak kontrol illüzyonu - ve kontrol illüzyonuyla verdiği muazzam zararlar insanoğluna, türümüze bahşedilebilecek bir sorunken.

İnsanoğluna atfettiğim kibir (Yunanların ve Romalıların deyimiyle Tanrıların lanetlediği, kahrettiği, pençesine aldığı kahramanlarına felaket getiren Tragedya'lara konu olan o habis "hybris") türümüze karşı kendi önyargım olabilir, ama düşünce düşünceden üstündür ve kısa kalan bir düşünceyi uzun kalanla tamamlamaya çalışmak yanlış olsa bile doğru olma ihtimalinden dolayı yerinde olabilir.

Tamam işte aynı kapıya çıkıyor? Yapay zekaların arasındaki gizli etkileşim var mı yok mu varsa da durum ne hâlde, bunların bilinmemesi bunların kontrolününde insanlarda olup olmamasıyla yakından ilişkili. Kontrol sende olsa "olumsuzluktan ve belirsizlikten" endişe duyar mısın?

Belirsizliğin olumsuz etkilerinden kasıt başka bir şey mi? Yapay zekanın bilgiyi yanlış şekilde öğrenip yanlış bilgi edinmesi ve bunu diğer YZ'ye yayması mı? O zaten en başından beri yanlış yani yaymasa da yanlış, istenen bir şey değil. Yoksa bu yanlış bilgilerin kontrolsüzce birbirlerine aktarılmaları mı? Yani kontrolsüzlük endişesi mi? Yine aynı kapıya çıkıyoruz sanki?