Papa, yapay zekâ tehlikesine karşı uyardı: Teknoloji şirketlerinin inisiyatifine bırakılamaz

Papa, Katolik Kilisesi'nin en önemli metinlerinden biri olan ilk enciklik mektubunda, hükümetlere yapay zekâyı daha sıkı şekilde düzenleme çağrısı yaptı. "Magnifica Humanitas" (Muhteşem İnsanlık) adını taşıyan belgede Papa, yapay zekânın insanlığa önemli faydalar sağlayabilecek güçlü bir araç olduğunu kabul etmekle birlikte, bu teknolojinin güç, kâr ve kontrol arayışının hizmetine girmesi hâlinde ciddi sonuçlar doğurabileceği konusunda uyardı.

Papa'ya göre yapay zekâ, birileri üzerinde tahakküm kurmak, birilerini dışlamak ya da birilerini öldürmek için kesinlikle kullanılmaması gereken bir araç. Bu nedenle hükümetlerin ve düzenleyici kurumların bu alandaki ilerlemeyi toplumun ortak yararını gözeterek denetlemesi gerekiyor. Papa'ya göre asıl amaç teknolojiyi ortadan kaldırmak değil, insan hayatı üzerindeki kontrolünü sınırlamak.

Papa: Yapay Zekâ Savaşları Daha Kolay Hâle Getiriyor

Papa'nın en sert eleştirilerinden biri yapay zekânın askeri alandaki kullanımına yönelik oldu. Son yıllarda savunma sanayisinde AI destekli sistemlerin giderek daha fazla kullanılmaya başlanması, otonom silah teknolojileri hakkındaki tartışmaları da beraberinde getirdi. Birçok ülke hedef tespiti, istihbarat analizi ve savaş alanı koordinasyonu gibi görevlerde yapay zekâdan yararlanmaya başladı. Ancak doğrudan ölümcül kararların da tamamen algoritmalara bırakılması artık an meselesi gibi görünüyor. Hatta bunun şimdiden başladığına inananlar da var. Hatta İran'a yönelik saldırıların daha ilk gününde bir ilkokulun vurulmasının arkasında da yanlış analiz yapan bir AI olabileceği iddia ediliyordu. Bu iddialar doğulanmamış olsa da yapay zekânın ölümcül bir silaha dönüşmeye başladığı artık yadsınamaz bir gerçek.

Nitekim Papa XIV. Leo da buna dikkat çekiyor. Enciklikte yer alan ifadelerde, yapay zekâ destekli otonom silah sistemlerinin savaşları daha uygulanabilir ve erişilebilir hâle getirdiği belirtiliyor. Papa'ya göre savaş ortamlarında kullanılan tüm yapay zekâ sistemleri son derece katı etik kurallara tabi olmalı. Özellikle ölümcül güç kullanımına ilişkin kararların yapay zekâ sistemlerine bırakılmasının kabul edilemez olduğu vurgulanıyor.

Ayrıca Bkz.Eski Google CEO'su, yapay zekaya yönelik açıklamaları yüzünden yuhalandı

"Yapay Zekâ Yalnızca Şirketlerin Kararlarına Bırakılmamalı"

Papa ayrıca yapay zekânın yalnızca savaş alanlarında değil, bilgi akışı üzerinde de büyük etkiye sahip olduğuna dikkat çekiyor. Ona göre günümüzde çok küçük ancak son derece etkili gruplar, yapay zekâ sistemleri sayesinde insanların tüketim alışkanlıklarını şekillendirebiliyor, hangi bilgilere erişeceğini belirleyebiliyor ve hatta demokratik süreçleri etkileyebiliyor. Özellikle büyük teknoloji şirketlerinin elinde toplanan veri ve hesaplama gücü, toplum üzerinde benzeri görülmemiş bir etki oluşturuyor. Bu nedenle Papa XIV. Leo, bağımsız denetim mekanizmalarının oluşturulması, kullanıcıların bilinçlendirilmesi ve siyasi otoritelerin sorumluluklarını teknoloji şirketlerine devretmemesi gerektiğini belirtiyor. Papa'ya göre yapay zekânın geleceği yalnızca şirketlerin kararlarına bırakılmamalı; toplumun farklı kesimlerinin katıldığı daha geniş bir tartışma yürütülmeli.

Papa'nın bu manifesto gibi mektubu paylaştığı etkinliğe yapay zekâ dünyasından önemli isimler de katıldı. Bunlar arasında, yapay zeka şirketi Anthropic'in kurucu ortaklarından Chris Olah da yer aldı. Olah, yapay zekâ şirketlerinin faaliyetlerini çoğu zaman ticari baskılar ve teşvikler altında sürdürdüğünü kabul ederek, bu durumun her zaman doğru olanı yapmakla örtüşmeyebileceğini söyledi. Bu nedenle Katolik Kilisesi gibi dış aktörlerin sürece katkı sunmasının teknoloji sektörünü daha olumlu bir yöne yönlendirebileceğini ifade etti.