Nvidia’nın Groq’u 20 milyar dolara satın aldığı iddiası, bildiğiniz gibi kısa sürede büyük yankı buldu. Ancak ortaya çıkan tablo, klasik bir satın almadan çok daha farklı. Jensen Huang’ın tercih ettiği model, hem düzenleyici risklerden kaçınıyor hem de Nvidia’ya çıkarım tarafında yeni bir alan açıyor.
Groq’un yetenekleri Nvidia’ya geçiyor
Nvidia ile Groq arasında yapılan anlaşma, resmî olarak bir satın alma içermiyor. Taraflar, münhasır olmayan bir lisans modeli üzerinde uzlaşırken Groq’un düşük gecikmeli çıkarım işlemcileri Nvidia’nın AI Factory mimarisine entegre edilecek. Groq şirket olarak faaliyetini sürdürürken, hukuken bağımsız kalacak ancak kurucu Jonathan Ross başta olmak üzere kritik mühendislik kadrosu Nvidia bünyesine katılıyor.
Peki Nvidia’nın buradaki kazancı ne? Şirket, bu hamle ile FTC ve Hart-Scott-Rodino yani antitröst kapsamına girmeden hareket etmiş olacak. Son dönemde teknoloji devleri arasında bu yaklaşımın sıkça tercih edildiğini görüyoruz. Nvidia, tüm şirketi almak yerine yetenek ve IP’ye doğrudan erişim elde etmiş durumda.
Nvidia için oyunun kuralları değişti
Anlaşmanın Nvidia açısından asıl değeri donanım tarafında ortaya çıkıyor. Groq’un LPU mimarisi, SRAM tabanlı yapısı sayesinde HBM’e kıyasla çok daha düşük gecikme ve daha öngörülebilir performansa sahip. Groq’un LPU’su, token üretiminde gecikme dalgalanmalarını ortadan kaldıran derleme zamanı zamanlama yaklaşımıyla çalışıyor. Bu da özellikle büyük ölçekli servislerde yanıt sürelerinin tutarlılığını artırıyor.
Nvidia açısından bu teknoloji, mevcut GPU tabanlı çıkarım çözümlerini tamamlayıcı bir rol üstlenebilir. Şirketin GPU’ları uzun bağlam ve yüksek hesaplama gerektiren aşamalarda konumlanırken, LPU’lar decode tarafında devreye girebilir. Bu yaklaşım, raf ölçekli çıkarım sistemlerinde GPU ve LPU’ların birlikte sunulmasının önünü açıyor.
Kaynak : https://www.donanimhaber.com/nvidia-nin-groq-plani-netlesti-kagit-uzerinde-satin-alma-yok–200147
