Google ve Pentagon, gizli yapay zeka anlaşması imzaladı

Google ile ABD Savunma Bakanlığı (Pentagon) arasında imzalandığı belirtilen yeni anlaşma, teknoloji ve güvenlik dünyasında tartışmaları beraberinde getirdi. Şirketin geliştirdiği yapay zeka modellerinin, “yasal olan her türlü amaç” için kullanılmasına izin veren bu anlaşmanın detayları ise gizli tutuluyor.

Pentagon’a geniş yetki verildi

Anlaşmaya yakın bir kaynak, tarafların bazı sınırlar üzerinde uzlaştığını öne sürüyor. Buna göre Google’ın yapay zeka teknolojilerinin, uygun insan denetimi ve kontrolü olmadan kitlesel gözetim veya otonom silah sistemlerinde kullanılmaması gerektiği konusunda mutabakat sağlandı. Ancak Google’ın, hükümetin bu teknolojileri nasıl kullanacağına dair herhangi bir müdahale veya veto hakkı bulunmuyor. Bu da nihai kararın tamamen ABD hükümetine bırakıldığı anlamına geliyor.

Google cephesi, anlaşmayı ulusal güvenliğe destek çerçevesinde savunuyor. Şirket sözcüsü, ticari yapay zeka modellerine API erişimi sağlanmasının ve bunun Google altyapısı üzerinden gerçekleştirilmesinin endüstri standartlarına uygun ve sorumlu bir yaklaşım olduğunu ifade etti. Aynı açıklamada, yapay zekanın kitlesel gözetim ve otonom silahlar gibi alanlarda kullanılmasına ilişkin çekinceler de yinelendi.

Ayrıca Bkz.Nvidia, AI ajanlarına sınıf atlattırabilecek yapay zekâsını tanıttı: Video, ses ve metin bir arada

Buna karşın, söz konusu ilkelerin bağlayıcılığı konusunda netlik bulunmuyor. Özellikle anlaşmanın gizli olması ve Google’ın denetim yetkisinin olmaması, bu etik sınırların pratikte ne kadar uygulanabileceğine dair tartışmaları güçlendiriyor.

Google çalışanları tepkili

Anlaşma şirket içinde de ciddi rahatsızlık yarattı. Yaklaşık 600 Google çalışanı, CEO Sundar Pichai’ye açık mektup göndererek bu tür iş birliklerine karşı çıkılması çağrısında bulundu. Çalışanlar, yapay zeka teknolojilerinin insanlık dışı veya son derece zararlı şekillerde kullanılabileceği endişesini dile getirdi.

Mektupta, yapay zekanın halihazırda hem ülke içinde hem de uluslararası alanda yanlış kullanım nedeniyle insan hayatını riske attığı ve sivil özgürlükleri tehdit ettiği vurgulandı. Ayrıca bu sistemlerin hata yapabileceği ve gücü merkezileştirebileceği uyarısı yapıldı.

OpenAI ve Elon Musk’ın xAI şirketi de benzer şekilde ABD hükümetiyle gizli yapay zeka anlaşmaları yapmış durumda. Öte yandan Anthropic, silah ve gözetimle ilgili güvenlik önlemlerini kaldırmayı reddettiği için federal projelerden dışlandı. Ancak daha güçlü Mythos modeli için görüşmeler sürüyor ve geri dönüş yaşanabilir.