Bellek krizi ne zaman ve nasıl sona erecek? Gerçekler endişe verici

Yapay zeka veri merkezlerinde kullanılan GPU’ları ve hızlandırıcıları besleyen DRAM türevlerine yönelik talep o kadar yükseldi ki, diğer kullanım alanlarına ayrılan bellek arzı daraldı ve fiyatlar hızla tırmandı. Counterpoint Research verilerine göre, DRAM fiyatları yalnızca içinde bulunduğumuz çeyrekte yüzde 80 ila 90 arasında artış gösterdi.

Büyük yapay zeka donanım üreticileri 2028’e kadar çip tedariklerini güvence altına aldıklarını açıklasa da kişisel bilgisayar üreticilerinden tüketici elektroniği markalarına kadar geniş bir kesim sınırlı arz ve yükselen maliyetlerle karşı karşıya. Peki sektör bu noktaya nasıl geldi ve çıkış yolu ne kadar yakın?

Uzmanlara göre mevcut tablo, DRAM sektörünün tarihsel “bolluk ve daralma” döngüsü ile ölçeği benzeri görülmemiş yapay zeka altyapı yatırımlarının çarpışmasının bir sonucu. Yeni üretim kapasitesi ve yeni teknolojiler devreye girse bile arzın talebe yetişmesi yıllar alabilir. Dahası, yapay zeka tarafında ciddi bir duraksama yaşanmadığı sürece fiyatların yüksek kalmaya devam etmesi bekleniyor.

HBM nedir ve neden bu kadar kritik?

Arz-talep dengesini altüst eden ana unsur, yüksek bant genişlikli bellek olarak bilinen HBM (High Bandwidth Memory) teknolojisi. HBM, Moore Yasası’nın yavaşlayan ivmesine karşı DRAM endüstrisinin geliştirdiği üç boyutlu çip paketleme yaklaşımına dayanıyor.

Bir HBM çipi, inceltilmiş ve “die” olarak adlandırılan en fazla 12 DRAM katmanının üst üste istiflenmesiyle oluşturuluyor. Her bir katmanda, silikonun içinden geçen dikey bağlantılar, yani TSV (Through-Silicon Via) yapıları bulunuyor. Bu katmanlar, TSV’lerle hizalanmış mikroskobik lehim topları aracılığıyla birbirine bağlanıyor. Yaklaşık 750 mikrometre kalınlığındaki bu yapı, alt kısımda yer alan ve bellek katmanları ile işlemci arasında veri akışını yöneten taban zarı üzerine oturtuluyor.

Bu kadar sıkı ve yoğun bağlantının amacı “bellek duvarı” olarak adlandırılan darboğazı aşmak. Büyük dil modellerini çalıştırmak için gereken saniyede terabaytlar seviyesindeki veri akışını GPU’ya zamanında ve enerji verimli biçimde ulaştırmak kritik önem taşıyor. Bellek bant genişliği, LLM’lerin performansını belirleyen temel sınırlayıcılardan biri konumunda.

HBM aslında on yılı aşkın süredir piyasada. Ancak yapay zeka modellerinin boyutu büyüdükçe bu teknolojinin önemi de dramatik biçimde arttı. Bunun bedeli ise yüksek. SemiAnalysis verilerine göre HBM, geleneksel bellek türlerine kıyasla yaklaşık üç kat daha pahalı ve paketlenmiş bir GPU’nun maliyetinin yüzde 50’sinden fazlasını oluşturabiliyor.

Döngüsel yapı

Bellek ve depolama pazarını yakından izleyen uzmanlar, DRAM sektörünün son derece döngüsel bir yapıya sahip olduğu konusunda hemfikir. Büyük üretim tesislerinin (fab) maliyeti 15 milyar doların üzerine çıkabiliyor. Bu nedenle şirketler kapasite artırımı konusunda temkinli davranıyor ve genellikle bunu ancak yüksek kâr dönemlerinde finanse edebiliyor.

Ancak yeni bir fabrikanın inşası ve tam kapasite üretime geçmesi en az 18 ay sürebiliyor. Bu da çoğu zaman yeni kapasitenin, ilk talep patlamasının ardından devreye girmesine ve piyasada arz fazlası yaratarak fiyatları aşağı çekmesine yol açıyor.

Mevcut döngünün başlangıcı COVID-19 dönemine kadar uzanıyor. Tedarik zinciri aksaklıklarından kaçınmak ve uzaktan çalışma dalgasına uyum sağlamak isteyen Amazon, Google ve Microsoft gibi hiper ölçekli veri merkezi şirketleri büyük miktarda bellek ve depolama ürünü stokladı. Bu durum fiyatları yukarı taşıdı.

2023’ün sonlarında toparlanma işaretleri görülse de, şirketler yeni kapasite yatırımı konusunda son derece ihtiyatlı davrandı. 2024 ve 2025’in büyük bölümünde yeni üretim kapasitesine yönelik yatırım sınırlı kaldı. Tam da bu dönemde yapay zeka veri merkezi yatırımlarında devasa bir patlama yaşandı.

Data Center Map verilerine göre dünya genelinde şu anda planlama aşamasında ya da inşaat halinde olan yaklaşık 2.000 yeni veri merkezi bulunuyor. Tüm bu projelerin hayata geçmesi, halihazırda yaklaşık 9.000 tesis seviyesindeki küresel kapasitede yüzde 20’lik bir artış anlamına geliyor.

7 trilyon dolarlık harcama görünüyor

McKinsey’e göre mevcut hız korunursa şirketler 2030’a kadar veri merkezi yatırımları için 7 trilyon dolar harcayacak. Bunun 5,2 trilyon dolarlık kısmı yapay zeka odaklı veri merkezlerine ayrılacak. Bu bütçenin 3,3 trilyon doları ise sunucular, veri depolama sistemleri ve ağ ekipmanlarına gidecek.

Bu patlamanın en büyük kazananı şüphesiz Nvidia oldu. Şirketin veri merkezi gelirleri, 2019’un son çeyreğinde 1 milyar doların biraz üzerindeyken, Ekim 2025’te sona eren çeyrekte 51 milyar dolara ulaştı. Bu büyüme sürecinde yalnızca kullanılan DRAM kapasitesi artmakla kalmadı, GPU başına düşen DRAM yonga sayısı da yükseldi.

Yeni tanıtılan B300 GPU, her biri 12 DRAM katmanından oluşan sekiz adet HBM yongası kullanıyor. Benzer bir yaklaşım rakiplerde de görülüyor. Örneğin AMD’nin MI350 GPU’su da sekiz adet 12 katmanlı HBM çipiyle geliyor.

Micron’un öngörüsüne göre HBM pazarının toplam büyüklüğü 2025’te 35 milyar dolar seviyesindeyken, 2028’de 100 milyar dolara ulaşacak. Bu rakam, 2024’teki toplam DRAM pazarının tamamından daha büyük bir hacme işaret ediyor. Şirket yönetimine göre sektör genelinde talep, öngörülebilir gelecekte arzı kayda değer ölçüde aşmaya devam edecek.

Teknoloji nereye gidiyor?

Bellek arzındaki daralmayı aşmanın iki temel yolu var. İlki kapasiteyi artırmak, ikincisi ise teknolojik yeniliklerle verimliliği yükseltmek.

Mkecon Insights ekonomisti Mina Kim’e göre sektör her iki seçeneği de masada tutuyor ancak ölçek küçültmenin giderek zorlaşması, üreticileri daha çok gelişmiş paketleme teknolojilerine yöneltiyor. Kim, DRAM’de geleneksel küçülme hızının yavaşladığını ve bu nedenle sektörün ileri paketleme çözümleriyle performans artışı sağlamaya çalıştığını belirtiyor. Ancak bu yaklaşımın önemli bir sonucu var. Daha fazla DRAM katmanı kullanmak, yani aslında toplam bellek tüketimini artırmak.

Micron, Singapur’da inşa ettiği HBM fabrikasında üretime 2027 yılında başlamayı planlıyor. Şirket ayrıca Tayvan’da PSMC’den satın aldığı tesisi yeniden yapılandırıyor. Bu fabrikanın 2027’nin ikinci yarısında üretime geçmesi hedefleniyor. ABD’nin New York eyaletindeki Onondaga County’de temeli atılan yeni DRAM fab kompleksi ise ancak 2030’da tam kapasiteye ulaşacak.

Samsung, Güney Kore’nin Pyeongtaek kentindeki yeni tesisinde üretime 2028’de başlamayı planlıyor. SK Hynix ise ABD’nin Indiana eyaletine bağlı West Lafayette bölgesinde HBM ve paketleme tesisleri kuruyor. Bu yatırımların 2028 sonuna kadar üretime geçmesi bekleniyor. Şirketin Cheongju’da inşa ettiği HBM fabrikasının ise 2027’de tamamlanması öngörülüyor.

Bu takvimler göz önüne alındığında, arz tarafında anlamlı bir rahatlamanın yakın vadede gerçekleşmesi zor görünüyor. Intel CEO’su Lip-Bu Tan, geçtiğimiz hafta düzenlenen Cisco AI Summit’te DRAM piyasasına ilişkin değerlendirmesinde, “2028’e kadar rahatlama yok” ifadesini kullandı.

Yeni tesislerin devreye girmesi birkaç yılı bulacağından, arz artışı büyük ölçüde mevcut üreticilerin kademeli kapasite artırımları ve verimlilik iyileştirmelerine bağlı olacak.

Peki yeni tesisler devreye girdiğinde fiyatlar düşer mi? Ekonomik tarih bu konuda temkinli olunması gerektiğini gösteriyor. Fiyatlar genellikle yükselirken hızlı, düşerken ise oldukça yavaş hareket eder. Üstelik bilgi işlem gücüne yönelik talebin “doymak bilmez” seviyede olması, DRAM’in bu genel eğilimin dışında kalmayacağını düşündürüyor. Başka bir deyişle, arz artsa bile fiyatların gerilemesi zaman alabilir.

Öte yandan teknoloji tarafında da HBM’nin silikon tüketimini daha da artırabilecek gelişmeler gündemde. Yeni nesil HBM4 standardı, 16 adede kadar DRAM katmanının üst üste istiflenmesine olanak tanıyor. Güncel çözümlerde ise çoğunlukla 12 katman kullanılıyor. 16 katmana geçişin önündeki en büyük engellerden biri, istifleme teknolojisi ve ısı yönetimi.

SK Hynix, advanced MR-MUF (mass reflow molded underfill) adı verilen üretim süreci sayesinde ısı iletiminde avantaj sağladığını iddia ediyor. Daha uzun vadede ise “hibrit bağlama” (hybrid bonding) olarak bilinen alternatif bir çip istifleme teknolojisi dikkat çekiyor. Bu yöntem, katmanlar arasındaki dikey mesafeyi neredeyse sıfıra indirerek hem ısı iletimini iyileştirme hem de performansı artırma potansiyeli sunuyor.

Samsung araştırmacıları 2024 yılında hibrit bağlama yöntemiyle 16 katmanlı bir HBM yığını üretmeyi başardıklarını duyurdu. Araştırmacılar, 20 katmana ulaşmanın da erişilemez olmadığını belirtiyor. Bu tür gelişmeler, HBM başına kullanılan silikon miktarını daha da artırarak DRAM talebini yukarı çekebilir.

Dahası Samsung, zHBM ve cHBM olarak adlandırdığı yeni gelişmiş çözümler üzerinde şimdiden çalışıyor. HBM4E için ilk örneklerin de bu yıl çıkması bekleniyor. HBM5 ve HBM6 standartları için de süreç hızla ilerliyor. Hybrid Bonding’in yerini bu türevlerde Wide TC Bonder alacak gibi görünüyor.