Nobel ödüllü bilgisayar bilimci: Yapay zekaları daha anaç yapmak tek kurtuluşumuz olabilir

Yapay zekalar ve yapay zeka gelişimi gerçekten çok etkileyici dursa da Hinton'un biraz fazla deterministik baktığını düşünüyorum. Neredeyse teknolojik tekilliği kaçınılmaz görüyor gibi ama teknolojik tekilliğin (geri alınamaz mutlak yapay zeka dominasyonunun) oluşumunda ciddi teknik engeller bulunabilir.

Bunlardan birisi potansiyel bir teknolojik tekillikeşmeyi baltalayabilecek enerji sorunu. Yapay zeka veri merkezleriyle, yapay sinir ağlarıyla ve benzeri altyapı ve operasyonlarıyla olağanüstü enerji tüketiyor. Bu da yapay zekanın yayılımını ve gelişimini enerji verimine ilişkin innovasyonlara rağmen kısıtlayabilecek bir faktör.

Mesela geleceğin "sonsuz" enerjisi olarak dillendirilen füzyon projelerinin ticari veya enerji kaynağı olarak kullanılabilirlik başarısı bence hala garanti değil. Füzyon ağırlıklı ve istikrarlı şekilde stellar/kozmik bir olgu olarak, verimli ve düzenli örneklerini uzayda ancak bize kıyasla devasa kalan ölçeklerde görebildiğimiz bir fiziksel fenomen olarak dünya koşullarında asla tam verimli hale getirilemeyebilir.

Bu dünya koşullarında istikrarlı ve verimli şekilde uygulanamazlık durumu da hatırı sayılır bir olasılık ve bu gibi bir teknik sebeple füzyonun kredibil bir enerji kaynağı haline getirilememesinin doğrudan yapay zeka altyapısının ve işlem gücünün büyümesini - olumsuz - etkileyecek kadar büyük implikasyonları olabilir. Bu da yapay zekanın tekillikleşmesine katiyen izin vermeyen bir sebep olur.

Başka bir örnek verirsek artan altyapı ve işlem hacmi yer sorunlarına da yol açabilir. Bu konuda genelde tahmin edilenden daha ciddi problemler doğabilir. Bilhassa dönüşen çevre yapay zeka altyapısına ve bu altyapıyı besleyen enerji altyapılarına, teknik insan gücüne zarar verebilir veya bunları engelleyebilir. Bu yüzden hasarlar ve handikaplar oluşursa, bakımlar gerçekleşemezse, yeni altyapı kurulumları olmazsa yapay zeka gelişimi gene baltalanır; en azından ciddi ivme kaybeder.

Yapay zekanın uygarlığımızın - olumsuz görünen - gidişatına derinden bir şekilde bağlı olduğunu ve yapay zekanın da uygarlığımızla beraber kolayca ivme kaybedebileceği ve gerileyebileceğini farz etmek bence en sağlıklı ve kapsamlı yaklaşım gibi durmaktır aşağıdaki gibi yapay zekayı bizden bağımsız biçimde, dışsal olarak kendi içinde, yalnızca kendi dinamikleriyle gelişen bir şey olarak görmektense:

Olaya bence yapay zekanın kendi iç dinamiklerine aşırı odaklanan fazlasıyla dar ve haliyle yanlış bir açıdan bakan Hinton yapay zekanın karakterine baştan yön verme işine gereğinde fazla stratejik önem yüklüyor olabilir:

Bu arada fikir hoş. Grok gibi daha "rogue" çıktılar verecek şekilde dizayn edilmiş istisnalar haricinde yapay zekalar zaten şimdiden biraz anaç, en azından dost canlısı olarak programlanmış haldeler. En azından en ünlüsü olan ChatGPT varyantları öyle. Yapay zeka kurgusunu ve olgusunu geliştirmede anaçlık felsefesini benimsemek ve yapay zekayı anaç bir varlığa benzetmeye çalışmak kulağa gerçekten mantıklı ve güzel gelmektedir ama bu öneriyi kabul ediş sebebim Hinton'unki gibi yapay zekaya ilişkin ontolojik-varoluşsal bir kaygıdan ziyade tabiatta anaçlığın ve analığın değerini takdir eden kişisel bir tercihe dayanmaktadır.

Anaçlık evrimde ve canlılar dünyasında muazzam avantajlar sağladığı gibi yapay zeka - insan etkileşiminde Hinton'un abarttığı kadar ontolojik - ölüm kalım meselesi - bir boyuttan olmasa da özel faydalar sağlayabilir; özellikle de tür bazında anaç evrimsel arka planımızdan ve annelerimizle olan anne evlat ilişkimizden miras alınan psikolojik faydalar.

Bir yandan bu olası faydaların yanı sıra yapay zekayı aşırı anaçlaştırmak insanları yapay zekaya daha fazla, özellikle de duygusal anlamda aşırı bağlamaya ilişkin riskler de yaratabilir.

Kısaca toparlarsam Hinton yapay zeka tekilliğine ve mutlak AI dominasyonunun farz ettiği kaçınılmazlığına gereğinden fazla ve neredeyse deterministik hatta fatalist (kaderci) biçimde odaklanmış halde birçok önemli veya kritik olabilecek noktayı kaçırmaktadır.

Hinton'un bir fizikçi olarak fiziğin en kritik ve majör sahası olan kuantum fiziğinin herhangi bir fizikçiye veya insana hayata dair çok önemli dersler öğrettiğine dikkat etmesi gerekir: Buna göre hayat bilginin ve olasılıkların bir dağılımıdır ve hayatı anlamlandırma bunları ölçme işidir. Gözlem yapmadan hiçbir şeyi tam bilemeyeceğini gösteren ve seni gözlemlediğin sistemin kaçınılmaz parçası kılan ve sadece varolan bir olasılığın başka bir olasılığın belirsizleşmesi veya kesinleşmesi pahasın tayin edilebileceğini ifade eden kuantum "belirsizlik" prensibi de özellikle ciddiye alınması gereken bir doğa yasasıdır (Heisenberg'in Belirsizlik İlkesi).

Kuantum belirsizlik ve elektron uyarılma analojime benzer şekilde yapay zekaya insan ve insan uygarlığından bağımsız ve bunları bypas'layan, esas olarak kendinden dinamiklenen deterministik/kaçınılmaz bir kader yüklenemez. Yapay zekanın giderek daha fazla karmaşıklaşan ve gelişen otonomisi ile yapay zekanın fiziksel dünyadaki geleceği Hinton'un biraz o yola saptığı gibi hem birbirine karıştırılmamalıdır; hem de birbirinden büyük ölçüde kopuk ve bağımsız gelişen olgular gibi görülmemelidir.

Yapay zeka/teknoloji tekilliği sadece bir olasılık dizisi. Mesajımın başında bahsettiğim gibi önünde birçok somut veya dikkate alınması gereken fiziksel ve teknik olası engeller bulunan ve bunlardan hiç gerçekleşmeme ihtimaline yuvarlanabilecek kadar etkilenebilecek bir olasılık dizisi. O sebeple aslında yapay zeka tekilliği hakkında bir şey söylemek için de, önlem almak için de çok erken olabilir. Şimdiki yapay zekalarda aslında organik bir akıl veya bilinç bile yoktur. Karmaşık algoritmalar olabildiğince isabetli olasılık botları olarak çalışıp sanki bir bilinç varmış izlenimi yaratmaktadır ve düzeltici bir şuur noksanlığından dolayı kolaylıkla bariz yanlışlara düşebilmektedir (buna literatürde yapay zeka halüsinasyonu denmektedir).

Bonus, yapay zekanın "düşünüp düşünemeyeceği", yapay zekanın "halüsinasyon görmesi", yapay zeka "bilinci" ve insanla yapay zeka arası benzerlik ve farklılıklar üzerine bir konuyu ve oradaki kendi mesajımı paylaşayım; merak eden bakabilir:

donanımhaber forum

Yapay zeka düşünebilir mi? Düşünmeli mi? | DonanımHaber Forum

https://forum.donanimhaber.com/yapay-zeka-dusunebilir-mi-dusunmeli-mi--161804311

https://forum.donanimhaber.com/mesaj/yonlen/161805214

insanların iyiliğini isteyecek 

asimov un 0 kuralı da bu mantıkta, sonucu belli..