Yapay zeka çiplerindeki bellek darboğazını Z2RAM teknolojisi çözebilir
Eski Intel CEO’su Pat Gelsinger’ın desteklediği Z2RAM, SRAM hızını DRAM yoğunluğuyla birleştirmeyi hedefliyor. Yeni teknoloji, yapay zekanın oluşturduğu bellek kıtlığına çözüm sunabilir.
Yapay zeka sistemlerinin artan bellek gereksinimleri, yarı iletken endüstrisinde yeni çözümlere yönelik ilgiyi yükseltiyor. Eski Intel CEO’su Pat Gelsinger’ın desteklediği Nagare Labs tarafından geliştirilen Z2RAM, mevcut bellek teknolojilerinin sınırlarını aşmayı amaçlayan seçeneklerden biri olarak dikkat çekiyor.
Georgia Institute of Technology’de profesörler Suman Datta ve Shimeng Yu’nun yürüttüğü araştırmalardan çıkan teknoloji, SRAM’in yüksek hızını DRAM’in yoğunluğuna yaklaştırmayı ve NAND Flash benzeri katmanlı üretim yönteminden yararlanmayı hedefliyor.
Gelsinger, SRAM, DRAM ve Flash teknolojilerinin yaklaşık 30 yıldır bellek pazarının temelini oluşturduğunu ifade ediyor. Gelsinger’e göre Z2RAM, yapay zeka hızlandırıcılarında karşılaşılan kapasite, bant genişliği ve güç tüketimi sorunlarına farklı bir yaklaşım getirebilir.
Z2RAM, SRAM’den 5 kat daha yüksek yoğunluk sunmayı hedefliyor
Z2RAM’in öne çıkan özelliklerinden biri, SRAM’e göre çok daha yüksek bit yoğunluğu sağlaması. Nagare Labs, teknolojinin ilk sürümünde aynı fiziksel alanda SRAM’in 5 katından fazla bellek kapasitesi elde etmeyi amaçlıyor. Örneğin 64 MB kapasiteli bir SRAM yongasının kapladığı alanda Z2RAM ile yaklaşık 320 MB bellek yerleştirilebileceği belirtiliyor. Ayrıca hedeflenen bant genişliğinin SRAM seviyelerine yakın olması planlanıyor.
Bu yaklaşım, büyük dil modellerinin çalıştırıldığı yapay zeka hızlandırıcıları için önem taşıyor. Günümüzde yüksek hızlı SRAM kullanan sistemler, sınırlı kapasite nedeniyle çok sayıda işlemciye ihtiyaç duyabiliyor. Z2RAM’in vaat ettiği performans gerçekleşirse aynı iş yükünü çalıştırmak için gereken hızlandırıcı sayısının önemli ölçüde azalması mümkün olabilir.
Nvidia’nın Groq 3 LPU çözümlerinde yonga başına yaklaşık 500 MB SRAM bulunduğu belirtiliyor. Z2RAM’in 5 kat veya daha yüksek yoğunluk sağlaması, benzer SRAM tabanlı mimarilerde bellek kapasitesini artırarak sistemlerin ölçeklenmesini kolaylaştırabilir. Ancak bu kazancın gerçek sistemlerde ne ölçüde sağlanacağı henüz doğrulanmadı.
Kondansatör yerine transistör kullanan bellek mimarisi
Z2RAM’i geleneksel DRAM’den ayıran temel özellik, veriyi depolama biçimi. DRAM hücreleri bir transistör, bir kondansatör ve bir pasif fiziksel kapasitör kullanırken Z2RAM, iki transistörden oluşan bir yapıdan yararlanıyor. İkinci transistörün kapı kapasitansı, elektrik yükünü depolamak için kullanılıyor.
Bu tasarımın önemli avantajlarından biri, okuma işleminin bellekteki veriyi bozmayacak şekilde gerçekleştirilmesi. Geleneksel DRAM’de okuma sırasında kapasitör boşaltıldığından, okuma işleminin ardından verinin yeniden yazılması gerekiyor. Z2RAM’in yaklaşımı ise bu gereksinimi ortadan kaldırarak erişim gecikmesini azaltıyor.
Teknolojinin bir diğer önemli özelliği, hücrelerin dikey olarak üst üste yerleştirilebilmesi. Nagare Labs, oksit yarı iletkenleri ve üç boyutlu hibrit bağlama teknolojilerini kullanarak belleği doğrudan işlemci veya hızlandırıcı mantık devrelerinin üzerine entegre etmeyi planlıyor.
Bu açıdan Z2RAM, AMD’nin işlemci yongacıklarının üzerine ek SRAM önbelleği yerleştirdiği 3D V-Cache teknolojisine benzer bir entegrasyon yaklaşımı izliyor. Ancak Nagare’nin hedefi yalnızca önbellek kapasitesini artırmak değil, daha yoğun ve farklı katmanlara ölçeklenebilen yeni bir bellek sınıfı oluşturmak.
Şirket, üretim yaklaşımının NAND Flash belleğin katmanlı yapısına daha yakın olması sayesinde HBM ve LPDDR gibi teknolojilere kıyasla daha kolay ve düşük maliyetli üretim yapılabileceğini öngörüyor.
Nagare Labs’in önünde önemli engeller bulunuyor. Z2RAM’e yönelik beklentilere rağmen teknolojinin ticarileşmesi için aşılması gereken ciddi engeller var. Nagare Labs, ilk yatırım turunda 5 milyon dolar finansman sağladı. Şirket, geliştirme çalışmalarını üniversite laboratuvarının dışına taşımak için bir araştırma ve geliştirme üretim ortağı arıyor.
Kurucu ortak Suman Datta, teknolojinin henüz laboratuvar prototipi aşamasında olduğunu belirtiyor. Şirketin hedefi, önümüzdeki dört yıl içinde çalışan Z2RAM bellek modüllerinden örnekler sunmak ve on yıl içinde ticari sevkiyatlara başlamak.
Entegrasyon standartlarının eksikliği de önemli sorunlardan biri. Z2RAM’in yüksek kapasite ve hız avantajlarından yararlanabilmek için üç boyutlu hibrit bağlama teknolojilerinin kullanılması gerekiyor. Ancak bu yeni bellek türünü hızlandırıcılara entegre etmek için sektör genelinde kabul edilmiş bir standart bulunmuyor.
AMD’nin 3D V-Cache çözümü kendi mimarisine özgü bir teknoloji olduğundan Nagare Labs’in geniş çaplı benimsenme için kendi arayüzünü geliştirmesi gerekebilir. Bu da ek mühendislik çalışmaları ve sektör iş birlikleri anlamına geliyor.
Oksit yarı iletkenlerin güvenilirliği de araştırılması gereken konular arasında. Bu malzemeler sıcaklık ve radyasyon performansı açısından avantajlar sunabilse de atomik boşluklar ve elektron düzeyindeki küçük değişimler, transistörlerin eşik gerilimlerini etkileyerek bellek hücrelerinde hatalara yol açabiliyor. Bu nedenle hücrelerin uzun vadeli kararlılığını ve güvenilirliğini doğrulamak, ticari kullanıma geçişin temel koşullarından biri olacak.