Bir yapay zeka gerçeği: Her şey, her yerde, aynı anda ortalama hale geliyor

Tek tip düşünce

Sizlere geçtiğimiz günlerde MIT Media Lab tarafından 50 öğrenciyle yapılan yeni bir çalışmayı aktarmıştık. Bu çalışmada etkinin sadece yazıların içeriğinde değil, beynin çalışma biçiminde de hissedildiği ortaya konulmuştu. Araştırma kapsamında katılımcılar sadece kendi zekalarını kullananlar, Google'dan bilgi arayabilenler ve ChatGPT'ye erişimi olanlar olarak üç gruba ayrılmış ve beyin aktiviteleri EEG cihazlarıyla takip edilmişti.

Sonuçlar çarpıcıydı. ChatGPT kullanan öğrencilerin beyin aktiviteleri diğer gruplara göre belirgin şekilde daha düşük çıkmıştı. Bu grupta yaratıcılıkla ilişkili alfa bağlantılarında ve kısa süreli hafızayla ilişkilendirilen teta bağlantılarında zayıflık gözlendi. Dahası, bu öğrencilerin büyük çoğunluğu yazdıkları metinleri hatırlamıyor ya da bir aidiyet hissetmiyordu.

Çalışmanın ortak yazarlarından biri olan Nataliya Kosmyna, büyük dil modellerini (ChatGPT, Gemini, Claude vb.) kullananlarda “farklı görüşlerin ortaya çıkmadığına” değinirken “Her şeyin her yerde aynı anda ortalama hale gelmesi, burada gördüğümüz şey bu” dedi.

Ortalamaların teknolojisi

Esasında baktığımızda yapay zekayı bir “ortalamaların teknolojisi” olarak ifade etmek çok da yanlış olmayacaktır. Daha önceki içeriklerimizde belirttiğimiz gibi; büyük dil modeller, geniş veri yığınlarında kalıpları tespit etmek için eğitilir; ürettikleri cevaplar, genellikle klişeler ve banallıklarla doludur. Ortaya çıkan yazının ve fikirlerin kalitesi ise uzlaşma eğilimi gösterir. Daha basit ifadeyle: Trilyonlarca kelimelik veri setlerinden kalıpları tanımak ve en yaygın görülen yanıtları üretmek üzerine çalışıyorlar.

Burada yapay zekayı kötülediğim anlaşılmamalı. Bu, endüstri çağında ortaya çıkan ve insan ile fiziksel/duygusal temas kuran tüm teknolojilerin ortak bir etkisi. Muhtemelen bu yazıyı yazdığım klavye de yazarları bir anlamda zayıflatmış veya değiştirmiştir.

ChatGPT’nin arkasındaki OpenAI’ın CEO’su olan Sam Altman’ın deyimiyle bu durum, insan ile makine arasında yaşanan bir tür “nazik tekillik”. Altman, bu başlığı taşıyan yakın tarihli bir blog yazısında, “ChatGPT, şimdiye kadar yaşamış herhangi bir insandan daha güçlü. Her gün yüz milyonlarca insan, giderek daha önemli görevler için ona güveniyor” diyor.

Altman'a göre, insan makineyle birleşiyor ve şirketinin yapay zeka araçları, organik beyinlerimizi kullanma şeklindeki eski, yetersiz sistemi geliştiriyor: “Bu araçlar, onları kullanan insanların verimini önemli ölçüde artırıyor” diyor Altman.

Altman’ın bu noktada kesinlikle haklı olduğunu söylemeliyim. Verimlilik, hiç olmadığı kadar artıyor. Ancak, yapay zekanın kitlesel olarak benimsenmesinin uzun vadeli sonuçlarını bilmiyoruz. Araştırmalar gösteriyor ki bu nazik tekilliğe geçiş, içeriğin kalitesi ve özgünlüğü pahasına gerçekleşiyor olabilir.

İnsan zihninin yerini alan bu dijital ortalama, hepimizi düşünsel olarak merkeze doğru çekiyor. Ve bu merkezi nokta, bireysel zekanın değil, toplu verinin ortalamasından ibaret.

Düşüncelerimizin homojenleşmesi sadece MIT araştırmasında ortaya çıkmadı. Cornell Üniversitesi'ndeki araştırmacılar tarafından yapılan başka bir çalışmanın sonuçlarına bu duruma işaret ediyor. Bu araştırmada Hintli ve Amerikalı katılımcılar bu sefer kültürel olarak sınandı.

Düşüncenin homojenleşmesi sadece ifadelerde değil, sitil düzeyinde de gerçekleşiyor. Örneğin, tavuk biryaniyi en sevdiği yemek olarak tanımlayan yapay zeka tarafından yazılan bir denemede, hindistan cevizi ve limon turşusu gibi belirli malzemelerden bahsetmek yerine “zengin tatlar ve baharatlar” gibi oldukça genel bir ifade sıklıkla kullanıldı.

Elbette yapay zekanın önerilerini kabul etmek en nihayetinde kullanıcının kararına bağlı. Ancak bu araçların hipnotik bir etki yarattığı ve kullanıcının sesini bastırdığı görülüyor. Bu durum, yazarken arkanızda oturan bir öğretmenin sürekli olarak ‘bu daha iyi bir versiyon’  demesi gibi bir şey.

Sonuç olarak özgünlük kaybediliyor, zamanla kimlik erozyonuna neden oluyor ve -eğer bir yazar için konuşuyorsak- yazma özgüveni zedeleniyor.

Küresel kültürel hegemonya

Yapay zeka ile üretilen içerikler sıklıkla “tekdüze” veya “sıradan” olarak tanımlansa da, bu sıradanlık aslında kültürel hegemonyanın pekişmesine yol açabilir. Gazeteci ve yazar Vauhini Vara’ya göre bu metinler zararsızmış gibi görünse de, aslında küresel ölçekte düşünsel çeşitliliğin törpülenmesine hizmet ediyor. OpenAI gibi şirketlerin amacı mümkün olan en geniş kitleye hitap etmek olduğundan, ortalama fikirleri teşvik etmek ticari açıdan daha verimli hale geliyor.

OpenAI, Google, Meta, Microsoft, Anthropic ve diğerleri için ortalama olmak verimlidir. Her şey ortalama olduğunda da ortaya bir ölçek ekonomisi çıkar. Tebrikler, devasa bir şekilde büyüyebilirsiniz.

Elbette yapay zeka şirketleri bunların tam aksini vurguluyor, doğal olarak. Bunları zaman zaman biz editörler de kullanıyoruz: “Üretken yapay zeka”, “yaratıcı yapay zeka” gibi gibi. Dediğimiz gibi, bu ifadeler mevcutta olan ile çelişkili.

Peki yaratıcılık otomatikleştirilebilir mi? Santa Clara Üniversitesi’nde yapılan bir diğer çalışma, bu soruya şüpheyle yaklaşılması gerektiğini gösteriyor. Araştırmada katılımcılardan yaratıcı düşünmeyi gerektiren görevleri yerine getirmeleri istendi: Örneğin “peluş bir oyuncağı daha eğlenceli hale nasıl getirirsiniz?” ya da “yerçekimi neredeyse yok olacak kadar zayıflarsa ne olur?” gibi.

Bir grup ChatGPT kullanırken, diğer grup 1970’lerde Brian Eno ve Peter Schmidt tarafından geliştirilen “Oblique Strategies” kartlarını kullandı. Sonuçta, ChatGPT kullanıcılarının ürettiği fikirlerin çok daha benzer ve öngörülebilir olduğu görüldü.

Midjourney adlı yapay zeka girişiminde çalışan araştırmacı Max Kreminski’ye göre bu sonuçlar tesadüf değil. İnsanlar başta kendi fikirlerini üretmeye çalışsa da, yapay zeka sürekli olarak hızlı ve düzgün görünen içerikler sundukça kullanıcılar “seçici küratör” moduna geçiyor. Yani üretmekten çok, olanı seçmeye başlıyorlar.

Bu tek yönlü süreç yaşandığında da özgün fikirler gidiyor; sistemin hafızası doldukça içerikler tekrar etmeye başlıyor, özgünlük iyice kayboluyor.

Şimdilik bu deneylerin çoğu küçük ölçekli olsa da, gösterdikleri eğilim kaygı verici: Yapay zeka araçları bireysel düşünceyi baskılayabilir, kültürel çeşitliliği erozyona uğratabilir ve insan özgünlüğünü giderek daha silik hale getirebilir. Aslında bunları görüyoruz. Meta’nın yapay zeka platformunda kullanıcılar tarafından oluşturulan içerik akışında da benzer bir tablo göze çarpıyor. Tümüyle pürüzsüz görüntüler, filtreli videolar ve “toplantıyı yeniden planlamak için profesyonel bir e-posta” gibi sıradan görevler için üretilmiş metinler akışta yer alıyor.

Yapay zeka bize hız, kolaylık ve düzen sunuyor. Ancak karşılığında fikirlerimizi, dilimizi ve hatta düşünce biçimimizi tek bir kalıba sokuyor. Her şeyin pürüzsüz olduğu bir dünyada, asıl tehlike sivrilen fikirlerin sessizce ortadan kaybolması. Her cevabında iyimser olması, kötü olasılıkları törpüleyerek sunması tümüyle yapay zekanın veya onu eğitenlerin hatası değil. Bu aynı zamanda onu geliştiren insanların, veri setlerini oluşturan toplulukların ve kullanıcıların beklentilerinin bir yansıması.

Ancak mesele yalnızca teknolojinin ne sunduğu değil, bizim ondan ne talep ettiğimizde düğümleniyor. Yapay zekaya her soruyu emanet ederken, düşünme sorumluluğunu da onunla birlikte teslim ediyoruz. Oysa bazı soruların yanıtı dışarıda değil, hâlâ içeride aranmalı.

Ve gerçekten tüm hikayeyi anlamak için yapmamamız gereken şey belli: Beynimizi devre dışı bırakmak.