ChatGPT, üniversite öğrencilerinden daha iyi ahlaki muhakeme yapıyor: İşte ilginç araştırmanın sonuçları

kime göre, neye göre 

Yapay zekalar zaten gerekli sonuçlara ulaşabilecek çok rafine bir mantıkla programlandıkları için daha ahlaklı olmaları beklenebilecek bir durum aslında. Çünkü insanın aksine yapay zeka ile ortada özneselliğiyle bir vaziyet karşısında ahlaki nesnelliği çarpıtabilecek sosyal varlık durumu söz konusu değil. İnsan yeri geldi mi objektif ahlakı reddedebilir, ki Nietzsche gibi objektif ahlaki reddeden ve aslında objektif ahlakı reddederek farklı bir şey demek istese de ahlakı reddettiği için dolaylı yoldan Hitler gibi gayri ahlaki politikacıların ister istemez önünü açan düşünürler mevcut. Nietzsche'nin derdi sıradan ve vasat addettiği - köle - insanın ahlakıylaydı ve onun bir uzantısı saydığı genel Hıristiyan ahlakıyla. Buna mukabil yapay zeka gerçekten tam anlamıyla sosyal ihtiyaç, beklenti, hedef, algı, değerleri vs bulunan sosyal bir yaratık olmadığı için böyle şahsi spekülasyonlarda ve kaprislerde kaybolması ve aşağı yukarı standart bir ahlak anlayışını ihlal etmesi pek beklenemez.

Bilakis yapay zeka daima akademik ve mantıksal bakacağı için, ahlaklı, informatif ve mantıksal programlandığı için böyle bir sonucu vermemesi mümkün bile değil denebilir. En azından ChatGPT'yi kullanırken o yapay zeka programı hakkında elde ettiğim kişisel izlenim bu yönde. Bir kere ChatGPT her zaman kibardı. Kibar olmaya programlandığı çok ama çok barizdi. Doğal olarak rastgele insanların seçildiği bir testte kolayca daha kibar çıkar. İster bu imitasyon veya programlama yoluyla sergilenen "yapmacık" bir kibarlık olsun, ister bilinçli bir öznenin içsel veya aile ve toplum terbiyesinden gelen "samimi" kibarlığı olsun fark etmez. Ortak algıda ChatGPT insanların ortalamasından veya çoğundan daha kibar. Haliyle gerçek bir ahlak bilinci taşıyıp taşımadığı fark etmeksizin pekala daha "ahlaklı" da olabilir.

ChatGPT ayrıca politik konularda suya sabuna dokunmayı sevmez. :) Bu da tesadüf değil elbette. Programcı tercihi. Ki çok doğal. Yapay zeka politik görüş bildirse programcısı müşteri kaybeder. Belirli bir siyasi cenahın lincine uğrar. Pazarladığı ürünler yabancılaştırdığı politik kampın tercihi olmaktan çıkar ve o cenahın mensupları alternatiflerine gider. Kısaca temel ticari mantık.

Buna göre ChatGPT'ye tacir de mi demeliyiz? :D Yoksa bu deneydeki tüm kredi yapay zekayı tasarlayıp yönelimlerini belirleyecek şekilde eğiten programcılarına mı gidiyor? Yoksa gerçekten üniversiteli gençlerden daha ahlaklı olanlar yapay zeka değil de programcıları mı? :D Sanırım ortada böyle bir durum var. Ama yapay zekaya - bu örnekte ChatGPT - her şeyi kendisi neredeyse sıfırdan öğrendiyse önyargıyla (bias) yaklaşmış da olabilirim ama yapay zekalar hakkında bildiklerim ve anladığım kadarıyla pek zannetmiyorum. Yapay zekalardan, bilhassa ChatGPT'den daha fazla anlayan birisi beni aydınlatabilir.

Hakim trend gereği yapay zeka şu an bile devreden çıkarılabilir değil. :)

Ama yapay zekadan teknolojik tekillik veya benzerini çıkarmak, bilemeyeceğim. Yapay zekaların tam dominasyon için fiziksel uzantılara sahip olması lazım. Figure AI örneğindeki gibi yapay zekaya fiziksel boyut kazandıran robotik teknolojileri vs baş döndürücü bir hızda gelişse de hala yapay zekalar büyük ölçüde sanal alemde sıkışıklar ve reel aleme etkileri aslında sanal dünyadan. Esasında çeşitli türden makineler yapay zekalara bağlanabilir ve bu da yapay zekaların - ilk aşamada iktisadi sahada - hakimiyeti demektir.

Aşırı bel bağladığımız bir yapay zeka tekilliğe giderken eğer karmaşasından veya entropisinden dolayı üzerimize çökerse bence bu esas felaket olur. Fizikte Schwarzschild tekillikleri bugün karadelik olgusu veya problemi olarak bildiğimiz "felaket kürelerine" vücut verir. Verilmiş bir kütlenin tekilliğe sürüklenen gravitasyonal çöküşü bildiğimiz fizik yasalarının yıkılıp yerini bilmediğimiz fizik yasalarına bıraktığı bir hadiseyi temsil eder. "Geri dönülemezlik hududu" olarak bilinen bir olay ufkuna vücut verir. Bu ufku geçen karadeliğin yalın özelliklerine indirgenir ve bu mesela dışardan bakan gözlemci olarak bizim açımızdan bir - kuantum - bilgi paradoksu teşkil eder. Yapay zekanın teknolojik tekillik denilen fazında bir karadelik misali bizi tüketecek veya en basitinden anlayamayacağımız bir oluşuma dönüşmesi, tekillikleşen yapay zekanın mevcut kuralları yeniden yazarken veya daha önce hiç bilmediğimiz kuralları ve uygulamaları hiç görmediğimiz kartlar misali açarken herhangi bir şekilde başımıza yıkılacak bir oluşuma dönüşmesi ihtimali elbette korkutucu. İvmelenen dönüşler yasası (law of accelerating returns) uyarınca sonunda üstel bir büyüme fonksiyonunu takip eden bir yapay zeka gelişimiyle beraber "bir yapay zeka karadeliğine" hapsolabiliriz. Daha önce de yapay zekayla ilgili bu matematiksel teknolojik tekillik konseptinden - astrofizik bir varlık olduğu kadar matematiksel bir varlık da olup teoride geri dönülmezlik/olay ufkuna vücut veren bir tekillik taşıyan - karadeliklerle benzerlik kurarak bahsetmiştim:

https://forum.donanimhaber.com/mesaj/yonlen/158128437

Yani yapay zekanın illa mantıksal veya düşmanca bir düzlemde bize tehdit oluşturması gerekmez, yapay zeka hayatlarımızı kökten şekilde değiştirdiği kurallarla yeniden yazıp bizi kendisiyle beraber karadeliklerin kendileri gibi karanlık bir geleceğe sürükleyebilir. Bu gelecekte illa bir zeka bilinç kazanmak, kendi varlığını öncellemek, kendi bekasını gözetmek zorunda değil. Yalnızca yapay zeka kontrolden çıkmış şekilde büyüdüğü ve geliştiği için bizi kaderimizi artık elimize alamayacağımız şekilde yutmuştur ve yapay zeka bizle beraber kendi sonuna gidiyor da olabilir. Unutmayın, bir karadeliğin geri dönülmezlik sınırı olan olay ufkunu geçtiğinizde de - felaketiniz olacak şekilde - tekilliğe ulaşmak zorundasınız. Başka çareniz veya kaderiniz bulunmaz. Nereye gitmeye çalışırsanız çalışın tüm yollar tekilliğe gider. Dahası kaçma çabanız sonunuzu hızlandırır. Şimdi her yeri madde yuttukça büyüyen bir karadelik misali makinelerin ve yapay zekaların kontrolden çıkmış biçimde sardığını, Matrix'ten bile beter bir karabasan alemine sürüklendiğinizi hayal edin.

Az önce çok güzel bir dehşetli distopya teması kurdum. Lovecraft-vari ama devreler ve makinelerle.