Groq, yeni yapay zeka yongalarında daha büyük bellek için 3DS’i değerlendiriyor

Nvidia ile lisans anlaşması yapan Groq, gelecek nesil yapay zeka yongalarında bellek kapasitesini artırmak için üst üste yerleştirilen DRAM katmanlarını değerlendiriyor. Yarı iletken sektöründeki kaynaklara dayanan bilgiler, şirketin mevcut SRAM ağırlıklı yaklaşıma alternatif olarak 3DS paketleme üzerinde çalıştığını gösteriyor. Groq henüz bu belleği kullanan yeni bir ürünü teknik özellikleri ve çıkış tarihiyle birlikte duyurmadı.

Buradaki temel ayrım, yalnızca belleğin hızını yükseltmek değil, aynı alanda daha fazla veri tutabilmek. SRAM yüksek hız sunmasına rağmen kapasite açısından sınırlarla karşılaşıyor. DRAM ise daha büyük kapasiteye izin veriyor, buna karşılık erişim ve veri aktarımı özellikleri SRAM ile aynı değil.

3DS yaklaşımı, birden fazla DRAM yongasını düz bir yüzeye yaymak yerine dikey olarak bir araya getiriyor. Silikon içinden geçen bağlantılar, katmanlar arasındaki iletişimi sağlıyor. Böylece paketleme, kapasiteyi artırırken kaplanan alanı sınırlandırmayı hedefliyor, ancak yeni Groq yongası için henüz kesin kapasite veya tüketim verisi bulunmuyor.

Haberin bir başka önemli noktası, 3DS ile HBM’nin aynı kavram olmaması. Her iki yaklaşım da dikey bağlantılardan yararlanabiliyor. Bununla birlikte burada aktarılan 3DS planı mevcut DRAM arayüzünü koruyarak kapasiteye odaklanıyor, HBM ise yüksek veri aktarım hızını önceliklendiriyor.

Groq, mevcut bulut planında Nvidia ve Dell ile çalışıyor

Gelecek nesle ilişkin bellek iddiasının yanında şirketin doğruladığı ayrı bir altyapı planı da var. 24 Ağustos tarihli açıklama, Groq’un Nvidia Groq 3 LPX ve Vera Rubin NVL72 sistemlerini kendi çıkarım bulutuna taşımayı hedeflediğini söylüyor. Dell Technologies de bu kurulum çalışmasının ortakları arasında yer alıyor.

Groq bu sistemleri, büyük bağlam pencereleriyle çalışan ve hızlı yanıt gerektiren yapay zeka görevleri için konumlandırıyor. Şirketin verdiği performans örneği, Gemma 4 31B modelinin 100 bin belirteçlik bağlamla çalıştığı ölçümde saniyede 3.400 çıkış belirtecini içeriyor. Bu değer mevcut platformun belirtilen koşullardaki sonucunu anlatıyor, gelecekteki DRAM tasarımının performansını kanıtlamıyor.

Öte yandan yeni bellek planını GroqCloud’un bugün kullandığı bütün donanımın hemen değişeceği şeklinde okumamak gerekiyor. İddia geliştirme yönünü gösteriyor ve şirketin resmî bulut açıklaması farklı bir ürün takvimini anlatıyor. Yeni yonganın kapasitesi, üretim süreci ve müşterilere ne zaman ulaşacağı için daha ayrıntılı bir duyuru gerekiyor.