AI ve biyogüvenlik alanında tarihin ilk “zero day” olayı

Bu açıklar ve keşif süreci geçtiğimiz Perşembe gününe kadar gizli tutuldu. Bu sır perdesi, araştırmacıların 72 farklı toksinin yapay zeka destekli binlerce yeni versiyonunu, güvenlik sistemlerine yakalanmayacak şekilde nasıl geliştirdiğini göstermesiyle kalktı. İlgili rapor Science dergisinde yayımlandı.

Microsoft’un öncülüğündeki ekip, dört farklı tarama yönteminde tespit edilen bu açığı gidermek için bir güvenlik yaması tasarladı. Ancak uzmanlar, benzer güvenlik boşluklarının gelecekte de ortaya çıkabileceği konusunda uyarıda bulunuyor.

Microsoft’un baş bilim sorumlusu Eric Horvitz, çalışmayı anlatırken, “Bu, gezegen için bir Windows güncellemesi modeli gibi. Gerekli olduğunda yamalar göndermeye devam edeceğiz ve ileriye dönük en iyi uygulamaları belirleyerek süreci sürekli takip edeceğiz” dedi. Ekip bu olayı, yazılım dünyasında geliştiricilerin farkında olmadığı ve saldırılara açık bırakan güvenlik boşluklarını tanımlamak için kullanılan “zero day” teriminden ödünç alarak AI ve biyogüvenlik alanında ilk “zero day” olayı olarak nitelendirdi.

Son yıllarda araştırmacılar, yapay zekayı kullanarak özel proteinler tasarlamaya başladı. Bu araçlar, plastik kirliliğini parçalamaktan hastalıklarla mücadeleye, tarım ürünlerini daha dayanıklı hale getirmeye kadar bilimsel birçok alanda büyük potansiyel sunuyor. Ancak bu potansiyelin farklı bir yüzü de var. Bu sistemler kötücül amaçlar için de kullanılabilir. Bu nedenle Microsoft ekibi da yapay zekayı kullanarak tespit sistemlerinden kaçabilen proteinler üretmeye çalıştı. Ancak proteinler gerçekten fiziksel olarak üretilmedi.

Yaşamın yapı taşları, proteinler

Ayrıca Bkz.Wi-Fi sinyalleriyle, yapay zeka kullanılarak bir odanın gerçek görüntüleri oluşturuldu

Geçen yılın Nobel Kimya Ödülü sahipleri, bilim insanlarının protein yapısını tahmin edebilmesini ve AI kullanarak farklı şekil ve işlevlere sahip proteinler tasarlamasını sağlayan çalışmalarıyla ödüllendirildi. Bu tasarımlar pozitif amaçlarla kullanılabileceği gibi - örneğin çevresel toksinleri tespit eden biyosensörler ya da hastalık teşhisi - kötü amaçlarla da kullanılabiliyor.

Microsoft ekibi, çalışmada test vakası olarak risin adlı ölümcül zehri seçti. Ekip, AI araçlarıyla risinin genetik kodunu dijital ortamda “yeniden yazdı” ve farklı yazımlara sahip olmasına rağmen muhtemelen halen toksik olan on binlerce yapay protein varyantı oluşturdu.

Bu dijital konseptlerin gerçek proteinlere dönüştürülmesi bu alanda çalışan ve DNA dizileri üreten şirketlere bağlı. Bu şirketler, bilinen toksinleri veya patojen bileşenlerini tespit ederek kötüye kullanımı önleyen biyogüvenlik yazılımlarına sahipler. Bu şirketlere gelen “siparişler” bu tip yazılımlarla taranıyor ve ortada riskli bir durumun olup olmadığı tespit ediliyor.

AI proteinleri tespit edilemedi!

Araştırmacılar, iki büyük şirketin tarama yöntemlerini test ettiğinde AI ile üretilmiş risine benzer proteinlerin tespit edilemediğini gördü. Çünkü bu yeni proteinler artık orijinal risine benzemiyordu. Oysa proteinin işlevi aynıydı.

Bu güvenlik açığı ortaya çıkınca ekip, işbirlikçilerini genişletti ve araştırmayı onlarca toksin ve virüs bileşenine uyguladı. AI teknikleriyle kodları “yeniden yazılan” ve zararlı yapılarını koruyan 70 binden fazla sentetik protein versiyonu oluşturuldu. Mevcut tarama programları orijinal toksinleri ayıklamada başarılı olsa da, bu yeni versiyonların binlercesi tespit edilmeden geçti.

Araştırma, biyogüvenlik düzenlemelerinin evrimleşen yapısına da ışık tutuyor. Federal fon alan araştırmacılar, DNA sentezi siparişlerini biyogüvenlik tarama yazılımı kullanan şirketlerden yapmakla yükümlü. Ancak uzmanlar, sistemin büyük ölçüde gönüllülüğe dayandığını ve AI tasarımı toksinlerin fark edilmeden üretilebileceği birçok boşluk bulunduğunu vurguluyor.

Tüm sentezin büyük şirketlerde yapılmaması da başka bir sorun. Küçük masaüstü cihazlarla kısa DNA dizileri üretilebiliyor ve bunlar birleştirilerek proteinler oluşturulabiliyor. Dahası, bazı toksinler mevcut proteinlere benzediği için tespit edilirken, tamamen yeni toksin tasarımları gözden kaçabiliyor.

Uzmanlar, çözüm yollarından birinin AI yazılımına daha laboratuvara gelmeden önleyici güvenlik önlemleri entegre edilmesi olduğunu belirtiyor. Bazı uzmanlar içinse en net çözüm, DNA sentez kayıt sistemi kurmak.