Sam Altman çok sevinecek: AMD, Flash belleği RAM gibi kullanacak

OpenAI CEO’su Sam Altman, geçtiğimiz günlerde RAM’lerin daha verimli bir şekilde kullanılması hakkında konuşmuştu. Şimdi ise AMD, veri merkezlerinde artan bellek maliyetlerini düşürmek ve mevcut kapasiteyi daha verimli kullanmak için MEXT adlı yeni bellek yönetimi yazılımını duyurdu. Yapay zeka destekli bu teknoloji, geleneksel DRAM belleği SSD'lerde kullanılan Flash depolama ile birleştiriyor. AMD, MEXT sayesinde DRAM kullanımını yüzde 20 ila 75 azaltırken benzer performansın korunabileceğini ve toplam bellek kapasitesinin üç kata kadar çıkarılabileceğini belirtiyor.

DRAM maliyetlerine Flash çözümü

Yapay zeka yatırımlarının hızlanmasıyla birlikte veri merkezlerinde bellek ihtiyacı önemli ölçüde arttı. Özellikle DRAM üretim kapasitesinin büyük bölümünün yapay zeka sunucularına yönelmesi, diğer sistemler için bellek tedarikini zorlaştırırken fiyatları da yükseltiyor. AMD'nin paylaştığı verilere göre DRAM maliyetleri, günümüzde bir sunucunun toplam maliyetinin yüzde 75'ine kadar ulaşabiliyor.

Ancak AMD'ye göre sorun yalnızca bellek fiyatları ve tedarik miktarı değil. Veri merkezlerinde kurulu DRAM kapasitesinin önemli bir bölümü de verimli kullanılmıyor. Microsoft Azure ve Meta'dan verilen örneklere göre, tahsis edilen DRAM'in yüzde 50'si aşırı tahsis edildiği için sanal makineler tarafından hiç kullanılmıyor. Sunucularda kalan belleğin yüzde 25'i ise sistemde atıl kalarak hiçbir sanal makineye atanamıyor.

AMD, MEXT ile bu kapasite kaybını azaltmayı hedefliyor. Şirketin yaklaşımı, daha fazla fiziksel bellek satın almak yerine mevcut DRAM kapasitesini daha verimli kullanmak ve ihtiyaç duyulmayan verileri daha ucuz Flash depolama birimlerine taşımak üzerine kurulu.

Yapay zeka, SSD belleğin yavaşlığını telafi ediyor

AMD, MEXT projesini 2022 yılında başlattı. Teknolojinin temelinde sık kullanılmayan verilerin DRAM yerine Flash depolama alanında tutulması yatıyor. Ancak Flash belleğin DRAM'e kıyasla yaklaşık 500 kat daha yavaş olması bu yaklaşımın önündeki en büyük engel.

MEXT bu sorunu yapay zeka destekli bir bellek yönetimi sistemiyle çözmeye çalışıyor. Sistem, hangi verilerin sık kullanıldığını ve hangilerine yakın zamanda ihtiyaç duyulabileceğini analiz ediyor. Uzun süredir kullanılmayan veriler Flash depolamaya aktarılırken yeniden ihtiyaç duyulması beklenen veriler, kullanılmadan önce DRAM'e taşınıyor. Böylece işlemci, ihtiyaç duyduğu verilere mümkün olduğunca hızlı bellekte erişebiliyor.

Şirket, bu yöntemle Flash belleğin sistemde daha fazla RAM varmış gibi kullanılabilmesini amaçlıyor. AMD'ye göre Flash depolama, DRAM'e kıyasla yaklaşık yüzde 50 daha düşük maliyetli ve 30 kat daha az enerji tüketiyor.

MEXT üç temel bileşenden oluşuyor

AMD MEXT, Linux sürücüsü, yapay zeka motoru ve RAM View adlı izleme aracından oluşuyor. Linux sürücüsü, farklı Linux dağıtımlarıyla çalışabilen ve düşük kaynak tüketen hafif bir yazılım modülü. Sistemin merkezinde ise bellek kullanımını tahmin eden yapay zeka motoru bulunuyor. Transformer tabanlı modellerden yararlanan bu motor, hangi verilerin DRAM'de tutulması gerektiğini belirliyor.

Bir saniyeden kısa sürede eğitim yapabilen sistem, yalnızca bir EPYC işlemci çekirdeğini kullanıyor ve GPU gerektirmiyor. RAM View ise sunuculardaki bellek kullanımını gerçek zamanlı göstererek kapasitenin daha verimli planlanmasını sağlıyor.

Ayrıca Bkz.AMD Zen 6 mimarisini tanıttı: Tek işlemcide 256 çekirdek ve tüm detaylar

AMD, MEXT ile fiziksel DRAM ihtiyacının yüzde 20 ila 75 azaltılabileceğini ve buna rağmen benzer performansın korunabileceğini belirtiyor. Böylece mevcut bellek kapasitesiyle daha fazla sanal makine ve uygulama çalıştırılabiliyor. Şirkete göre fiziksel DRAM ve Flash birlikte kullanılarak toplam bellek kapasitesi üç kata kadar çıkarılabiliyor. Teknoloji hem şirket içi veri merkezlerinde hem de AWS, Azure ve Google Cloud gibi bulut platformlarında kullanılabilecek.

Performans kazanımı etkileyici

AMD, MEXT'in farklı iş yüklerindeki etkisini göstermek için çeşitli test sonuçları paylaştı. Özellikle aynı anda birden fazla yapay zeka aracının çalıştığı Agentic AI senaryolarında bellek ihtiyacı önemli bir sınırlama oluşturabiliyor.

AMD'nin testlerinde DRAM kapasitesinin yüzde 50'sinin Flash ile değiştirilmesi, beş yapay zeka aracının aynı anda çalıştığı senaryoda DRAM maliyeti başına performansı yüzde 90 artırıyor. Bellek ihtiyacı yüksek yapay zeka uygulamalarında ise bu artış yüzde 70 oluyor.

DRAM kapasitesinin yüzde 25'e düşürüldüğü senaryoda beş yapay zeka aracının eş zamanlı çalışmasında DRAM maliyeti başına performans 3,4 kata çıkıyor. Bellek yoğun uygulamalarda ise bu oran 3,5 kata ulaşıyor.

AMD, MEXT'i kendi veri merkezlerinde de kullanmaya hazırlanıyor. İlk etapta 145 sunucuda uygulanması ve 2027'de 2.000 sunucuya ölçeklendirilmesi planlanan sistemle yüzde 83 maliyet tasarrufu ve 4,9 milyon dolarlık DRAM harcamasından kaçınma hedefleniyor.

Teknoloji şu anda ilk dağıtım aşamasında. AMD EPYC işlemcili, yeterli çekirdek kapasitesine ve özel NVMe SSD yuvalarına sahip sunuculara kurulabilen MEXT'in ilerleyen aşamada lisanslanabilir hale gelmesi planlanıyor.