Merkezi ABD’de bulunan ve Bill Gates tarafından desteklenen Neurophos, silikon fotonik tabanlı yeni bir optik işlem birimi (OPU) geliştirdiğini duyurdu. Şirket, bu çipin özellikle FP4 ve INT4 hesaplama iş yüklerinde Nvidia’nın en yeni Vera Rubin NVL72 yapay zeka süper bilgisayarından yaklaşık 10 kat daha yüksek performans sunduğunu bildiriyor. Üstelik bunu benzer güç tüketimiyle yaptığını iddia ediyor.
Radikal mimari değişim
Neurophos’un fark yarattığı nokta, optik hesaplamayı kullandığı matris boyutunda yatıyor. Şirketin CEO’su Patrick Bowen’a göre çip üzerinde 1.000 x 1.000 boyutunda tek bir fotonik sensör yer alıyor. Bu yapı, günümüzde çoğu yapay zeka GPU’sunda kullanılan 256 x 256 matrislere kıyasla yaklaşık 15 kat daha büyük bir hesaplama alanı sunuyor. Daha büyük matris sayesinde aynı anda çok daha fazla çarpma ve toplama işlemi yapılabiliyor.
Bu mimarinin önündeki en büyük engel, optik transistörlerin fiziksel boyutlarıydı. Bowen’ın aktardığına göre, günümüzde silikon fotonik fabrikalarında üretilen optik transistörlerin uzunluğu yaklaşık 2 milimetre seviyesinde bulunuyor. Bu da bir çip üzerine yeterli sayıda transistör yerleştirmeyi neredeyse imkansız hale getiriyor. Neurophos ise bu sorunu aşarak mevcut çözümlere kıyasla yaklaşık 10.000 kat daha küçük optik transistörler geliştirmeyi başardı. Bu küçülme, optik hesaplamanın dijital CMOS teknolojileriyle rekabet edebilecek bir yoğunluğa ulaşmasının önünü açıyor.
Neurophos’un ilk nesil hızlandırıcısı, “optik eşdeğer” olarak tanımlanan tek bir tensör çekirdeğini barındırıyor ve bu yapı yaklaşık 25 milimetrekarelik bir alan kaplıyor. Kağıt üzerinde bakıldığında bu, 576 tensör çekirdeği içeren Nvidia Vera Rubin çipinin oldukça gerisinde görünüyor. Ancak fark, Neurophos’un fotonik yongayı nasıl kullandığında yatıyor. Şirketin Tulkas T100 adını verdiği ilk OPU’su, 56 GHz gibi son derece yüksek bir saat hızında çalışıyor. Yüksek saat hızı ve büyük matris yapısı birleştiğinde kağıt üzerinde zayıf görünen donanımın Nvidia’nın güçlü yapay zeka GPU’larını geride bırakabildiği belirtiliyor. Şirket, çipinin saniyede 235 Peta Operasyon (POPS) zirve performansı sağlayabileceğini ve 675 watt güç tüketeceğini belirtiyor. Buna karşılık, B200 çipi 1.000 watt güçte 9 POPS performans sağlayabiliyor.
Mevcut üretim teknolojileriyle uyumlu
Neurophos’un bir diğer kritik iddiası ise üretim tarafında geliyor. Bowen’a göre şirket, optik transistörlerini mevcut yarı iletken üretim teknolojileriyle geliştirdi. Bu da teoride Intel veya TSMC gibi büyük yarı iletken üreticilerinin devreye alınarak seri üretime geçilebileceği anlamına geliyor. Ancak çipler şu anda test aşamasında ve hacimli üretimin 2028 yılından önce başlaması beklenmiyor. Bununla birlikte, çözülmesi gereken önemli teknik zorluklar da bulunuyor. Özellikle çok sayıda vektör işlem birimi ihtiyacı ve statik bellek (SRAM) gereksinimleri, şirketin önündeki başlıca mühendislik sorunları arasında yer alıyor. Öte yandan silikon fotonik, son dönemde yarı iletken dünyasının en çok ilgi gören alanlarından biri haline gelmiş durumda. Nvidia, Rubin platformunda Spectrum-X Ethernet fotonik anahtar sistemlerini halihazırda kullanırken AMD’nin de silikon fotonik araştırmalarına odaklanan 280 milyon dolarlık bir merkez kurmaya hazırlandığı biliniyor. Neurophos’un bu son hamlesi, fotonik tabanlı hesaplamanın artık teoriden çıkıp pratik uygulamalara yaklaşmaya başladığını gösteriyor.
Fotonik hesaplama nedir, nasıl çalışır?
Fotonik hesaplama, geleneksel yarı iletkenlerde olduğu gibi elektronlar yerine ışık (fotonlar) kullanılarak veri işlenmesine dayanıyor. Klasik dijital çiplerde bilgi, transistörler üzerinden geçen elektrik akımıyla temsil edilirken fotonik tabanlı sistemlerde bu görev lazer kaynakları, dalga kılavuzları ve optik modülatörler aracılığıyla gerçekleştiriliyor. Hesaplama işlemleri, ışığın genliği, fazı veya dalga boyu gibi fiziksel özellikleri kullanılarak yapılıyor.
Bu yaklaşım özellikle matris çarpımları gibi yapay zekanın temelini oluşturan işlemlerde avantaj sağlıyor. Işık, bir optik yapıdan geçerken aynı anda çok sayıda veriyi paralel biçimde işleyebildiği için fotonik devreler teoride son derece yüksek paralellik ve düşük gecikme sunabiliyor. Neurophos’un 1.000 x 1.000 boyutundaki optik matris yapısı da tam olarak bu prensip üzerine kuruluyor.
Geleneksel CMOS tabanlı çipler, transistör ölçekleri küçüldükçe ısı, güç tüketimi ve veri aktarım hızları gibi fiziksel sınırlara giderek daha fazla takılmaya başladı. Özellikle büyük dil modelleri ve yapay zeka sistemleri, devasa matris işlemleri nedeniyle hem yüksek enerji tüketiyor hem de veri merkezlerinde ciddi soğutma sorunlarına yol açıyor.
Fotonik hesaplama ise bu noktada öne çıkıyor. Işıkla çalışan sistemler, elektriksel direnç kaynaklı ısı üretimini büyük ölçüde ortadan kaldırıyor ve veri iletiminde bakır bağlantılara kıyasla çok daha yüksek bant genişliği sunuyor. Bu da aynı güç zarfı içinde daha fazla hesaplama yapılabilmesini mümkün kılıyor.
Kaynak : https://www.donanimhaber.com/nvidia-ya-optik-rakip-neurophos-tan-ilginc-fotonik-ai-cipi–201329
