Yapay zeka avuç içinde: İşte dünyanın en küçük “süper bilgisayarı”

AI için cep herkülü

Cihazın kalbinde yer alan ARMv9.2 mimarisine sahip 12 çekirdekli işlemci, yapay zeka yüklerini hızlandırmak üzere tasarlanmış özel heterojen yapıyla (SoC + ayrık dNPU) destekleniyor. Bu yapı toplamda 190 TOPS seviyesinde bir hesaplama gücü sunuyor. Tiiny AI'ın hedefi yalnızca güçlü bir cihaz üretmek değil, yüksek maliyetli donanımlara olan ihtiyacı ortadan kaldırarak açık kaynaklı modelleri yerel olarak çalıştırmak isteyen kullanıcılara erişilebilir bir alternatif sunmak. Zira benzer amaçla kullanılan donanımlar, örneğin Nvidia DGX Spark, 4.000 dolar seviyesine varan fiyatlarla geniş kitlelere hitap etmiyor.

Ayrıca Bkz.Dünyanın ilk 10.000 kübitlik işlemcisi kuantumda sınırları yıkıyor

Tiiny AI, bu küçük cihazın 120B parametreli bir modeli taşınabilir formda çalıştırabilmesini iki temel teknolojiye bağlıyor. TurboSparse, nöron seviyesinde seyrekleştirilmiş aktivasyon yöntemiyle verimi yükseltirken modelin zeka seviyesinde herhangi bir kayıp yaşanmamasını sağlıyor. PowerInfer ise CPU ve NPU arasında iş yükünü dinamik olarak dağıtarak ağır LLM görevlerini optimize eden açık kaynaklı bir heterojen çıkarım motoru olarak öne çıkıyor.

Yaklaşık 30W TDP değerine ve tipik kullanımda 65W civarı sistem tüketimine sahip olan Pocket Lab, CES 2026’da boy gösterecek. Bu bağlamda şirket henüz çıkış tarihi ve satış fiyatına dair bilgi paylaşmadı.