Asus, “dünyanın ilk USB tabanlı edge AI hızlandırıcısı” olarak tanımladığı UGen300 modelini resmen tanıttı. USB 3.1 Gen 2 üzerinden bağlanan cihaz, herhangi bir PCIe yuvasına ihtiyaç duymadan hem klasik hem de üretken yapay zekâ uygulamalarına donanımsal hızlandırma sağlamayı amaçlıyor.
Dünyanın ilk USB temelli AI hızlandırıcısını duyurdu
UGen300’ün merkezinde Hailo-10H NPU yer alıyor. Asus’un paylaştığı bilgilere göre bu yonga, INT4 hassasiyetinde 40 TOPS seviyesinde işlem gücü sunuyor. Tipik güç tüketimi ise yalnızca 2,5 watt. Bu da ürünü sürekli çalışan, düşük enerji tüketimi gerektiren senaryolar için uygun hale getiriyor. Cihaz üzerinde 8GB LPDDR4 bellek bulunuyor, bu kapasite büyük dil modelleri için sınırlı olsa da görüntü tanıma ve çıkarım odaklı iş yükleri için yeterli görülüyor.
Asus, UGen300’ün x86 ve ARM tabanlı sistemlerle uyumlu olduğunu belirtiyor. Windows, Linux ve Android desteği sunan ürün, TensorFlow, PyTorch ve ONNX gibi yaygın yapay zekâ çerçeveleriyle çalışabiliyor. Ayrıca geliştiriciler için 100’den fazla önceden eğitilmiş modele erişim sağlandığı ifade ediliyor. Bu da cihazın daha çok “tak-çalıştır” tarzı edge AI uygulamalarını hedeflediğini gösteriyor.
Genel tabloya bakıldığında UGen300, modern APU’larda yer alan NPU’ların yerini almaktan ziyade, mevcut sistemlerin yapay zekâ kapasitesini düşük maliyet ve zahmetsiz kurulumla artırmayı hedefliyor. Asus henüz fiyat ve çıkış tarihi paylaşmış değil, ancak ürün, özellikle kurumsal edge AI ve hafif geliştirici senaryolarında alternatif olabilir.
Kaynak : https://www.donanimhaber.com/asus-dunyanin-ilk-usb-ai-hizlandiricisini-duyurdu–200769
