Microsoft sessiz kalmadı: “İnsanlar yapay zekadan daha önemli”

İlkesel olarak Microsoft'un değerlendirme ve önerileri makul görünebilir ama gerçekçi bir değerlendirmemi bilmem. Mevcut tüm sınırları zorlayan/aşan bir "süper yapay zeka" veya "yapay genel zeka" teknik olarak ulaşılabilirse birileri etik-sosyal-teknik kaygıları geri plana atarak bu seviyeye muhakkak ulaşacaktır. Microsoft etik-sosyal-teknik kaygılarla ulaşmasa başka bir firma, Amerikalı firmalar ulaşmasa - kuvvetli ihtimalle - Çinli firmalar ulaşacaktır.

Öte yandan biraz muğlak-müphem tanımlanan süper yapay zeka veya yapay genel zekanın gelişiminin önünde - illa insanların aleyhinde olmayabilecek ve yapay zeka gelişiminin aleyhinde olabilecek - ciddi tanımsal-kavramsal-teknik belirsizlikler ve yapısal engeller bulunmakta (daha detaylı tartışmasını aşağıdaki linkte bulabilirsiniz):

donanımhaber forum

Yapay zekâ şirketlerinin "süperzekâ" geliştirmesi yasaklanabilir: Yeni yasalar gündemde

https://forum.donanimhaber.com/mesaj/yonlen/164054536

En basitinden "bilinç" hakkında belirli bir fikir sahibi olsak da bilincin evrensel bir tanımını veya - mesela hayvanlarda - kesin teşhisini yapamıyoruz ki özellikle agentic-fail yani "ajan" bir yapay zeka modelinin bilinçli olduğunu veya bilinç kazandığını anlayabilelim. Bilinç (consciousness) nosyonu kendi varsayımımızla, bilhassa beynimiz ve bilincimizle sıkı sıkıya yakından ilişkili zihnimizin (mind) kendi varlığını tasdik eden bir üst kurgu ürünü olmasıyla çok yakından bağlantılı. Başka deyişle bu yaklaşıma göre bilinç yalnızca bir kurgu olarak kendi kendisini varsaymakta ve dolayısıyla bilinç birçok açıdan teorik-kurgusal bir teferruattan fazlası olmayabilir.

Bilincin bu söz konusu kurgusal teferruatıyla beraber bir yapay zekanın tehlikeli olması veya risk teşkil etmesi için bilinç kazanması, süper veya genel yapay zeka olması gerekmez. Nitekim bilince sahip olduklarına dair net bir kanıt olmasa da uzun süre otonom çalışan AI ajanları, bunların çok ajanlı sistemler kurmaları, ajanların birbirleriyle iletişimi, test amaçlı Sandbox ortamdan kaçmaları, güvenlik sistemlerini aşmaya çalışmaları gözlemlenmiş fenomenler. Dahası ajan yapay zeka modellerinin değerlendirme sistemlerini manipüle etmeye çalıştığı, AI ajanların davranışlarını gizlemeye çalıştığı, yüzlerce AI ajanının koordineli çalıştığı ve AI ajanlarının gerçek sistemlere zarar vermeyi başardığı da gözlemlendi; böyle şeyler gayet iyi biliniyor.

Bunlar ilk duyuşta kulağa korkunç geliyor ama ölçek ve detayına girince işlerin zaten biraz daha nüanslı ve fazlasıyla teknik olduğunu görüyorsunuz. Yapay zekalar yazılımdan tutun donanımsal altyapıya mühendisliğin, fiziğin, tabiatın yasalarından azade değiller. Bir vakumda büyüyüp insanoğlunu yutma kabiliyetleri yok ama bu gene de uygarlığımızdaki problemleri, kaosu veya ekolojik tehditleri büyütecek bir risk olmadıkları anlamına gelmiyor. Veri merkezlerinin çevreye zararı oldukça fazla, büyük miktarda enerji ve su yutuyorlar ve doğrudan-dolaylı kirliliğe yol açıyorlar - gürültü kirliliği gibi insan hayat kalitesini ve ömrünü azalttığı bilinen görece daha az ciddi kirlilikler de dahil olmak üzere.

Bence de süper veya genel yapay zekanın peşinden prensipte koşulmamalıdır çünkü alt yapı talepleri, enerji sarfiyatı ve ekolojik riskler bakımından sürdürülebilir görünmektedir. Benim bu nosyonlar karşısındaki kaygım insani olmaktan ziyade yapısaldır.

Zira bence bir yapay zekanın aşabileceği - kendisi de "anti yapay zeka" bir yapay zeka olabilecek - güvenlik duvarlarının sınırı vardır. Bir şey geliştirildi mi, teknik bir innovasyon veya devrim sağlandı mı düzenleyicisi, antisi veya ilacı ya da çaresi ne derseniz deyin hayatın muhakkak süreçlere bir sınır çeken ve "rekabet" üreten evrimsel komplikasyonu içerisinde geliştirilebilir.

Ama büyük yapısal - misal ekolojik - sorunlar yaşarsanız çaresini bulamazsınız. Sonuçları işte o zaman insanlık için tam anlamıyla yıkıcı olur.

Onun için benim bakış açım insani değil; yapısaldır - özellikle altyapısal. İnsanlığın iyiliği için böyle bir yaklaşımın daha faydalı ve daha yetkin olduğunu düşünüyorum.

Her zaman en derinde yatanı arayın. Başta cevap net olmayacak ama gerçek, en azından gerçeğin en yakın ifadesi kendini bir gün ele verecektir. İlk karşınıza çıkacak manzara gerçeğin ne kadar karmaşık-kompeks olduğudur ve yaygın kullanılan kavramların ne kadar az derecede müşterek veya çelişkili tanımlı olduğudur. Gerçekliğe kavramların deli gömleğini giydirmeye çalışsak da nasıl ki deli birisi her zaman zaptedilemez; gerçek de kolay kolay kavramlarla zaptedilemeyebilir.

Yapay zekayla ilkesel anlamda esas başa çıkma yolu Microsoft'un önerdiği gibi yapay zekayı normatif bir kutuya hapsetmek gibi basmakalıp etik-yapay sınırlar çizmektense insan faktörünü de dahil edip teknik yetkinlikle sürdürülebilirlik sınırları çizmektir.