Yapay zeka teknolojilerinin giderek yaygınlaşması, bu yeni çağa ayak uydurabilecek yeni nesil donanımların ortaya çıkışını da hızlandırmış durumda. Son dönemde gerek ABD, gerekse Çin’de yaşanan gelişmeler, gelişmiş yapay zeka modellerini eğitme ve çalıştırma kapasitesine sahip süper bilgisayarların giderek daha küçük ve daha verimli bir hâle geleceğini gösteriyor. Nvidia’nın süper bilgisayar konseptini alıp bir masaüstü cihaza dönüştüren DGX Spark‘ı bu alandaki en dikkat çekici örnek. Ancak Nvidia bu konuda yalnız değil. Çinli araştırmacılar da süper bilgisayarları çok daha küçük, çok daha verimli ve erişilebilir hâle getirmek için önemli adımlar atıyor.
Guangdong Bilim ve Teknoloji Enstitüsü (GDIIST), bu hafta düzenlenen bir forumda BIE-1 adını verdiği yapay zeka süper bilgisayarını tanıttı. “Tek kapılı mini buzdolabı” boyutlarında olduğu belirtilen cihaz, geleneksel süper bilgisayarlara kıyasla yüzde 90 daha az enerji tüketiyor. Buna rağmen, ileri seviye yapay zeka eğitimi ve çıkarım görevlerinde bir süper bilgisayarın sunduğu performansa yaklaşabildiği ifade ediliyor. Araştırmacılar bu başarıyı, insan beynini andıran bir yapay zeka algoritması ve yüksek verimlilik odaklı nöral ağ mimarisi sayesinde elde ettiklerini söylüyor.
BIE-1, Yapay Zekanın İçin Çok Daha Enerji Dostu Bir Çözüm Sunuyor
BIE-1, 1152 CPU çekirdeği, 4,8 TB DDR5 bellek ve 204 TB depolama alanını kompakt bir gövdede bir araya getiriyor. Sistem; metin, konuşma ve görüntü verilerini aynı anda işleyebiliyor ve karmaşık modelleri son derece yüksek hızlarda eğitebiliyor. Cihazın saniyede 100.000 token eğitim, 500.000 token çıkarım hızına ulaşabildiği belirtiliyor. Bu performans, normalde birden fazla üst düzey GPU’dan oluşan küme mimarilerini gerektiren iş yüklerinin, kompakt bir cihazda çalıştırılmasına imkân tanıyor. Üstelik cihazın CPU sıcaklığının ağır yük altında bile 70°C’nin üzerinde seyretmediği, düşük gürültüyle çalıştığı ve basit bir ev tipi prizden çalıştırılabildiği ifade ediliyor.
BIE-1’i farklı kılan en önemli unsurlardan biri, yapay zeka hesaplamalarını geleneksel veri merkezlerinden bağımsız hâle getirme hedefi. Cihazın, evler, küçük ofisler, laboratuvarlar ve mobil araştırma ortamları gibi geniş bir kullanım yelpazesine hitap ettiği belirtiliyor. Ayrıca sistemin, mevcut veri merkezlerine yardımcı bir enerji verimliliği düğümü olarak da konumlandırılabileceği vurgulanıyor. Ancak Guangdong Bilim ve Teknoloji Enstitüsü’nin de dikkat çektiği üzere BIE-1, sadece veri merkezleri için geliştirilmiş bir AI bilisayarı değil .Araştırmacılar, BIE-1’in hem evlerde hem de ofislerde pek çok görevi kolaylaştırabileceğini düşünüyor.
Nvidia DGX Spark ve BIE-1 gibi yapay zekaya yönelik yeni nesil cihazların ortaya çıkışı, büyük yapay zeka modellerinin sadece veri merkezleri üzerinden değil, lokal olarak da çalıştırılabildiği bir döneme adım attığımızı gösteriyor.
Kaynak : https://www.donanimhaber.com/cin-mini-buzdolabi-boyutundaki-yeni-super-bilgisayarini-tanitti–197831
