Nvidia’nın gelecek nesil Feynman GPU mimarisiyle birlikte çıkarım odaklı önemli bir değişime gidebileceği konuşuluyor. Aktarılan bilgilere göre şirket, 3D yapıya ek olarak Groq’a ait LPU (Language Processing Unit) birimlerini mimariye entegre etmeyi hedefliyor. Bu yaklaşımın 2028 sonrası ürünlerde hayata geçirilmesi bekleniyor.
2028 yılından sonra geliyor
GPU uzmanı AGF’ye göre Nvidia, LPU entegrasyonu için AMD’nin X3D işlemcilerde kullandığı yaklaşıma benzer bir yol izleyebilir. Buna göre LPU birimleri, ana hesaplama kalıbından ayrı birer yonga olarak tasarlanacak ve TSMC’nin SoIC hibrit bağlama teknolojisiyle Feynman GPU’ların üzerine istiflenecek. Bu sayede, yüksek bant genişliği ve paket dışı belleğe kıyasla daha düşük enerji tüketimi hedefleniyor.
Şu an için SRAM’i doğrudan monolitik bir kalıp olarak ana GPU’ya entegre etmek, ölçeklenebilirlik açısından verimli bulunmuyor. SRAM’in ileri üretim düğümlerinde yer kaplaması, hem maliyetleri artırıyor hem de üst seviye silikon alanının verimsiz kullanılmasına yol açıyor. Bu nedenle Nvidia’nın, hesaplama birimlerini barındıran ana Feynman kalıbını 1.6 nm A16 sürecinde üretirken, geniş SRAM’e sahip LPU kalıplarını ayrı olarak konumlandırması daha olası. TSMC’nin hibrit bağlama teknolojisi burada kritik bir rol üstleniyor. A16 sürecinin sunduğu arka yüz güç dağıtımı sayesinde, ön yüzey dikey SRAM bağlantıları için kullanılabiliyor. Bu yapı, düşük gecikmeli veri erişimi ve çıkarım senaryolarında daha hızlı yanıt süreleri sunabilir. Ancak bu yaklaşımın ciddi mühendislik zorlukları da bulunuyor.
LPU, X3D ve dahası
Yüksek hesaplama yoğunluğuna sahip bir GPU’nun üzerine ek yongalar istiflemek, termal sınırların yönetimini zorlaştırabilir. Özellikle sürekli yüksek iş hacmiyle çalışan LPU’ların, ısı ve darboğaz risklerini artırabileceği belirtiliyor. Ayrıca LPU’ların sabit yürütme düzenine sahip olması, GPU’ların esnek ve paralel yapısıyla çelişen bir yapı oluşturuyor.
Yazılım tarafında ise CUDA ekosistemi önemli bir soru işareti. LPU tarzı yürütme, açık bellek yerleşimi gerektirirken CUDA çekirdekleri donanım soyutlaması üzerine inşa ediliyor. Bu iki yaklaşımın uyumlu hâle getirilmesi, Nvidia açısından yalnızca donanım değil, yazılım tarafında da optimizasyon gerektirecek. Ancak LPU entegrasyonu gerçekleşirse, yalnızca ham performans değil, yapay zekâ çıkarım iş yüklerinde mimari düzeyde yeni bir sayfa açabilir.
Kaynak : https://www.donanimhaber.com/nvidia-feynman-mimarisi-geliyor-lpu-x3d-ve-dahasi–200242
