Yapay zeka bu belleği çok sevecek: Raptor 3D-DRAM

Raptor’da TSMC’nin N4 üretim süreciyle hazırlanan bir mantık yongası, özel tasarlanmış DRAM’in üzerine yerleştiriliyor. Bu yapı, işlemci ile bellek arasındaki bağlantıyı önemli ölçüde kısaltıyor. d-Matrix, bunun daha yüksek bant genişliği ve daha düşük veri aktarım gücü sağlayabildiğini belirtiyor.

100 TB/s üzerinde bant genişliği sağlıyor

Raptor’un 3D-DRAM tasarımı 32 GB bellek kapasitesi ve 100 TB/s’nin üzerinde bant genişliği sunuyor. d-Matrix’in karşılaştırmasına göre 192 GB HBM4 kullanan bir yapı yaklaşık 18 TB/s bant genişliğine ulaşabiliyor.

Şirket bu mimariyi özellikle oyun ekran kartlarından ziyade yapay zeka iş yükleri için geliştiriyor. Bunun temel nedenlerinden biri, büyük dil modellerinin çözümleme aşamasında belleğe yönelik yoğun erişim ihtiyacı.

Bir dil modeli her yeni tokenı üretirken model verilerine ve KV cache olarak adlandırılan önbelleğe tekrar tekrar erişmek zorunda kalıyor. Bu aşamada performans, işlem gücünden çok bellek bant genişliği tarafından sınırlandırılabiliyor. Yeni çözüm de buradaki darboğazı azaltıyor.

Yeni sorunlar ortaya çıkıyor

Ayrıca Bkz.Trump yönetiminden Apple'a Çinli bellek çipleri için izin sinyali

Ancak Raptor’un ulaştığı 100 TB/s üzerindeki hızın yine de yüksek bir güç maliyeti var. Sistem, yalnızca bellek ile veri alışverişi için yaklaşık 296 W güç harcıyor. d-Matrix ayrıca Raptor’un, Nvidia’nın Rubin R200 HBM4 çözümüne kıyasla aynı alanda yaklaşık 20 kat daha fazla bant genişliği sunduğunu ve bant genişliği başına 13,5 kat daha az güç tükettiğini belirtiyor.

Raptor henüz ticari bir ürün değil

Raptor şu aşamada tamamlanmış ve piyasaya çıkmış bir ürün değil. Hot Chips 2026 sunumunda, planlanan ticari hızlandırıcının özellikleri ve hedeflenen teknik değerler paylaşıldı.

Şirket, teknolojinin temelini oluşturan yapıyı Pavehawk adlı 3D-DRAM test çipiyle çalışır durumda göstermişti. Bu da teknolojinin sadece bir konseptten ibaret olmadığına işaret ediyor.