Tiiny AI, kompakt yapay zeka cihazlarının hızla yaygınlaştığı bir dönemde dikkatleri üzerine çeken son derece iddialı bir ürünü gün yüzüne çıkardı. Şirket, dünyanın en küçük yapay zeka süper bilgisayarı olarak tanımladığı Tiiny AI Pocket Lab’i tanıttı. Sadece 14,2 × 8 × 2,53 cm boyutlarında ve yaklaşık 300 gram ağırlığında olan cihaz, bu kadar küçük bir gövde içinde 120 milyar parametreli LLM modellerini tamamen yerelde çalıştırabildiğini öne sürüyor.
AI için cep herkülü
Cihazın kalbinde yer alan ARMv9.2 mimarisine sahip 12 çekirdekli işlemci, yapay zeka yüklerini hızlandırmak üzere tasarlanmış özel heterojen yapıyla (SoC + ayrık dNPU) destekleniyor. Bu yapı toplamda 190 TOPS seviyesinde bir hesaplama gücü sunuyor. Tiiny AI’ın hedefi yalnızca güçlü bir cihaz üretmek değil, yüksek maliyetli donanımlara olan ihtiyacı ortadan kaldırarak açık kaynaklı modelleri yerel olarak çalıştırmak isteyen kullanıcılara erişilebilir bir alternatif sunmak. Zira benzer amaçla kullanılan donanımlar, örneğin Nvidia DGX Spark, 4.000 dolar seviyesine varan fiyatlarla geniş kitlelere hitap etmiyor.
Cihazın performansındaki en kritik unsurlardan biri olan 80 GB LPDDR5X bellek ve 1 TB SSD depolama da dikkat çekici. Bu kapasite, agresif kuantizasyon teknikleri sayesinde devasa modelleri sorunsuz biçimde çalıştırmayı mümkün kılıyor. Şirket, cihazın hem tamamen internetsiz, izole bir ortamda çalışabildiğini, hem de onlarca açık kaynaklı LLM ve ajan çerçevesini tek tıkla yükleyebilen bir ekosistem sunduğunu belirtiyor. Desteklenen modeller arasında GPT-OSS, Llama, Qwen, DeepSeek, Mistral ve Phi gibi yaygın çözümler bulunuyor. Tiiny AI, bu küçük cihazın 120B parametreli bir modeli taşınabilir formda çalıştırabilmesini iki temel teknolojiye bağlıyor. TurboSparse, nöron seviyesinde seyrekleştirilmiş aktivasyon yöntemiyle verimi yükseltirken modelin zeka seviyesinde herhangi bir kayıp yaşanmamasını sağlıyor. PowerInfer ise CPU ve NPU arasında iş yükünü dinamik olarak dağıtarak ağır LLM görevlerini optimize eden açık kaynaklı bir heterojen çıkarım motoru olarak öne çıkıyor.
Yaklaşık 30W TDP değerine ve tipik kullanımda 65W civarı sistem tüketimine sahip olan Pocket Lab, CES 2026’da boy gösterecek. Bu bağlamda şirket henüz çıkış tarihi ve satış fiyatına dair bilgi paylaşmadı.
Kaynak : https://www.donanimhaber.com/yapay-zeka-avuc-icinde-iste-dunyanin-en-kucuk-super-bilgisayari–199582
