Teknoloji

Nvidia’dan 3000 dolarlık AI süper bilgisayarı: Digits

nvidia digits

Nvidia, CES 2025 etkinliğinde “Project Digits” adını verdiği yeni kişisel AI süper bilgisayarını mayıs ayında kullanıma sunacağını duyurdu. 3000 dolar başlangıç fiyatıyla sunulacak bu cihaz, masaüstü boyutunda kompakt bir yapıya sahip ve standart bir prizden çalışabiliyor. Eski nesil sistemlerin gerektirdiği devasa alan ve yüksek enerji ihtiyacını ortadan kaldıran Project Digits, yeni GB10 Grace Blackwell Superchip ile güçlendirilmiş. Bu sistem, 200 milyar parametreye kadar yapay zeka modellerini çalıştırabilecek kapasitede ve görünüşü bir Mac Mini’yi andırıyor.

Nvidia CEO’su Jensen Huang, “Yapay zeka her sektörde ve her uygulamada ana akım olacak. Project Digits ile Grace Blackwell Superchip, milyonlarca geliştiriciye ulaşıyor” diyerek bu cihazın, veri bilimcilerden araştırmacılara kadar geniş bir kullanıcı kitlesine yapay zekayı geliştirme ve şekillendirme imkanı sunduğunu belirtti.

Her Project Digits sistemi, 128 GB birleşik ve tutarlı belleğe sahip. Bu, standart bir dizüstü bilgisayarın sunduğu 16 GB veya 32 GB RAM kapasitesini çok geride bırakıyor. Ek olarak, 4 TB’a kadar NVMe depolama alanı sunuyor. Daha yüksek performans gerektiren uygulamalar için iki Project Digits cihazı birleştirilerek 405 milyar parametreye kadar modelleri çalıştırabilecek bir yapı elde edilebiliyor. Meta’nın son modeli Llama 3.1 de bu büyüklükte bir parametreye sahip.

GB10 çipi, FP4 hassasiyetiyle saniyede 1 katrilyon yapay zeka işlemi gerçekleştirebiliyor. Nvidia’nın en yeni nesil CUDA çekirdekleri ve beşinci nesil Tensor Çekirdekleriyle donatılan sistem, 20 çekirdekli, enerji verimli Arm tabanlı Grace işlemciye NVLink-C2C bağlantısıyla bağlanıyor. MediaTek’in iş birliğiyle geliştirilen GB10 çipi, performans ve enerji verimliliği açısından optimize edilmiş.

Cihazın yazılım tarafında Nvidia, kullanıcılarına geniş bir araç ve model kütüphanesi sunuyor. Nvidia NGC kataloğundan erişilebilen önceden eğitilmiş modeller, geliştirme kitleri ve orkestrasyon araçları sistemle birlikte geliyor. Cihaz, Nvidia DGX OS ile çalışan bir Linux tabanlı işletim sistemi kullanıyor ve PyTorch, Python, Jupyter gibi popüler framework’leri destekliyor. Ayrıca Nvidia NeMo çerçevesi ile modeller üzerinde ince ayar yapılabilirken, Nvidia RAPIDS kütüphaneleriyle veri bilimi iş akışları hızlandırılabiliyor.

Geliştiriciler, AI modellerini yerel olarak Project Digits üzerinde geliştirebilir ve test edebilir. Daha sonra aynı Grace Blackwell mimarisi ve Nvidia AI Enterprise yazılım platformunu kullanarak modellerini bulut servislerine veya veri merkezlerine kolayca taşıyabilirler.

Nvidia Digits dışında alternatifler de sunuyor

Nvidia, daha küçük ölçekli projeler için de uygun fiyatlı alternatifler sunuyor. Aralık ayında, Jetson Orin Nano Super adlı 249 dolarlık bir cihazı tanıtmıştı. Bu cihaz, 8 milyar parametreye kadar yapay zeka modellerini çalıştırabilen bir seçenek olarak hobiler ve girişimciler için tasarlanmıştı.