Yapay zeka veri merkezleri, son yıllarda teknolojik ilerlemenin görünmez motoru olarak konumlanıyor. Büyük dil modellerinden görsel üretim araçlarına kadar pek çok sistem, devasa sunucu çiftliklerinde çalışan altyapılara dayanıyor. Ancak bu yapı, yüksek enerji tüketimi, su kullanımı, karbon ayak izi ve veri egemenliği gibi ciddi sorunları da beraberinde getiriyor. İsviçre’de geliştirilen yeni bir yazılım yaklaşımı ise yapay zeka veri merkezlerine olan bu zorunlu bağımlılığı sorgulamaya açıyor.
İlk bakışta yapay zeka veri merkezleri vazgeçilmez gibi görünüyor. Çünkü bugün kullanılan üretken yapay zeka sistemlerinin büyük bölümü, çıkarım olarak adlandırılan ve modelin tahmin üretmesini sağlayan işlem yükünü uzaktaki sunuculara gönderiyor. Bu süreç, küresel ölçekte yapay zeka hesaplama gücünün yaklaşık yüzde 80–90’ını tüketiyor. Sonuç olarak hem maliyetler artıyor hem de veriler kullanıcıların kontrolü dışına çıkıyor.
EPFL ve Anyway Systems, yapay zeka dengelerini nasıl değiştiriyor?
İsviçre’nin önde gelen araştırma kurumlarından École Polytechnique Fédérale de Lausanne (EPFL), bu tabloya farklı bir yaklaşım getiriyor. EPFL Bilgisayar ve İletişim Bilimleri Okulu’ndan araştırmacılar tarafından geliştirilen Anyway Systems adlı yazılım, yapay zekanın uzaktaki veri merkezleri yerine yerel ağlar üzerinde çalışmasını mümkün kılıyor.
Anyway Systems’in temel farkı, ChatGPT gibi açık kaynaklı büyük dil modellerinin kısa sürede indirilebilmesi ve sorguların yerel donanımda işlenebilmesi. Kullanıcılar, küresel bir modele erişmeye devam ederken verilerini uzak sunuculara göndermek zorunda kalmıyor. İşlemler masaüstü bilgisayarlar arasında dağıtılıyor ve sistem, mevcut donanımı en verimli şekilde kullanacak biçimde kendini dengeliyor. Örneğin yüz milyarlarca parametreye sahip bir model, yalnızca birkaç GPU’nun yer aldığı küçük bir yerel ağda çalıştırılabiliyor.
Elbette bu yaklaşımın bazı teknik sınırlamaları da var. Yerel ve dağıtık işlem, yanıt sürelerinde merkezi veri merkezlerine kıyasla bir miktar yavaşlığa neden olabiliyor. Ancak geliştiriciler, elde edilen sonuçların doğruluk açısından eşdeğer olduğunu belirtiyor. Ayrıca kurulum süresinin yaklaşık 30 dakika gibi kısa bir zaman alması, sistemin pratik kullanımını destekliyor. Büyük ve güçlü yapay zeka modellerinin, birden fazla kullanıcı tarafından paylaşılan dağıtık bir yapı içinde çalıştırılması halen önemli bir teknik engel. Ayrıca yapay zeka veri merkezleri tamamen ortadan kalkacak mı sorusunun ise net bir yanıtı henüz yok. Ancak Anyway Systems örneği, merkezi yapılara güçlü bir alternatifin mümkün olduğunu gösteriyor. Donanım kapasitelerinin artması ve maliyetlerin düşmesiyle birlikte, yerel yapay zeka çözümlerinin daha geniş kitlelere ulaşması bekleniyor.
Kaynak : https://www.donanimhaber.com/yapay-zeka-veri-merkezleri-yerine-yerel-cozumler-mumkun-mu–200441
