Dünyanın önde gelen teknoloji şirketlerinden Intel, yapay zeka piyasasında Nvidia ile doğrudan rekabet etmeme stratejisini benimseyerek farklı bir yola giriyor. Şirket, Gaudi 3 hızlandırıcı çipleriyle yüksek talep gören büyük yapay zeka modellerinin eğitim pazarına girmeyecek. Bunun yerine, daha küçük ve spesifik modellerin eğitimi ve çalıştırılması için daha uygun maliyetli yapay zeka çözümlerine odaklanarak, açık kaynaklı seçeneklerle işletmelere destek olmayı hedefliyor.
Intel’in hedefi maliyet etkinliği
Intel, Gaudi 3’ün fiyat-performans avantajına dikkat çekerek, Nvidia’nın H100 GPU’suna göre bazı senaryolarda daha hızlı ve ekonomik olduğunu savunuyor. Özellikle Llama 2 ve Llama 3 gibi farklı boyutlardaki modellerin çıkarım görevlerinde Gaudi 3’ün öne çıktığını belirtiyor. Ayrıca şirket, Gaudi 3’ün, küçük token çıktıları için büyük dil modelleri (LLM) çıkarımında H100 kadar enerji verimli olduğunu ve büyük token çıktılarında daha da iyi performans gösterdiğini iddia ediyor.
Intel’e göre Gaudi 3, H100 ile karşılaştırıldığında dolar başına yüzde 80 daha iyi performans değeri sağlıyor. Bahsettiğimiz gibi Llama 2’de kıyaslama yapıldığında dolar başına performans farkı 2 katına çıkıyor. Bunlar etkileyici değerler. Ancak, Gaudi 3’ün genel olarak 16-bit ve 8-bit formatlarındaki kayan nokta işlemlerinde H100’e yetişemediği de kabul ediliyor. Intel’in açıklamalarına göre, Gaudi 3, bfloat16 ve 8-bit kayan nokta hassasiyetinde 1.835 TFLOPS seviyesine ulaşırken, H100 bu değerleri BF16 için 1.979 TFLOPS ve FP8 için 3.958 TFLOPS ile aşıyor.
Intel neden rekabet etmeyecek?
Intel’in bu stratejisinin mantıklı da bir açıklaması bulunuyor. Intel’in AI donanımlarından sorumlu ofis başkanı Anil Nanduri, performans yerine maliyetin öne çıktığı bir dünyaya doğru kaymanın başladığını belirtiyor. Nanduri, büyük bir model yerine daha küçük, görev odaklı modellerin tercih edileceğini savunarak, Gaudi 3 çiplerinin bu alanda uygun çözümler sunduğunu dile getiriyor. Nanduri’ye göre, birçok işletme için devasa bir modelin her şeyi bilmesinden ziyade, daha küçük ve daha az performans gerektiren modeller tercih edilecek.
Kaynak : https://www.donanimhaber.com/intel-nvidia-ile-girdigi-yapay-zeka-yarisinda-havlu-atti–183218
