Geçtiğimiz hafta, Bloomberg’den öğrendiğimize göre, Microsoft Bing’in AI chatbot ve ChatGPT’nin arkasındaki büyük dil modellerini (LLM) eğitmek amacıyla, ortak OpenAI için yüz milyonlarca dolar harcayarak Nvidia A100 grafik yongalarından on binlercesini satın aldı. Peki, kendi LLM projeniz için bu kadar sermayeye ve donanım alanına sahip değilseniz ne yapmalısınız? Nvidia’nın DGX Cloud hizmeti, tam da bu ihtiyaca yönelik olarak aynı şeyi uzaktan web erişimiyle sunmayı amaçlıyor.
Salı günü, 2023 GPU Teknoloji Konferansı’nda duyurulan hizmet, her biri sekiz Nvidia H100 veya A100 GPU ve 640 GB belleğe sahip olan sanal DGX Sunucu kutularını kiralıyor. Hizmet, 32.000 GPU civarında ölçeklendirilebilir bağlantıları, depolama alanını, yazılımı ve “kodunuzu optimize eden Nvidia AI uzmanlarına doğrudan erişimi” içeriyor. A100 seviyesi için aylık başlangıç fiyatı 36.999 dolar olarak belirlendi.
Nvidia’nın kendi donanımını size kiralamak için Microsoft’a ne kadar ödediğini merak ediyor olabilirsiniz. Fiziksel bir DGX Sunucu kutusu, aynı donanımı doğrudan satın almak istediğinizde 200 bin dolardan fazlaya mal olabilir. Bu, Microsoft gibi şirketlerin bu teknoloji etrafında çalışan veri merkezleri kurmak için yaptıkları çabaları da içermiyor.
Microsoft’un OpenAI’nin modellerini eğitmek için kullandığı GPU’lardan bazılarını ödünç almak da mümkün. Microsoft Azure, DGX Cloud’u barındıracak gruplardan biridir. Ancak Nvidia, müşterilere kiraladıkları GPU’lara “tam zamanlı rezerve erişim” sunacaklarını ve başka kimseyle paylaşmaya gerek olmadığını belirtiyor. Ayrıca Oracle ilk iş ortağı olacak, Microsoft “gelecek çeyrek” dönemde gelecek ve Google Cloud da “yakında” platforma ev sahipliği yapacak.
Nvidia, Amgen’in DGX Cloud’u yeni ilaçları daha hızlı keşfetmek ümidiyle kullanacağını belirtiyor. Sigorta şirketi bulut hizmetleri sağlayıcısı CCC ve BT sağlayıcısı ServiceNow’un ise DGX Cloud’u, sırasıyla iddia süreçlerini işlemek ve kod oluşturmak için kendi AI modellerini eğitmek amacıyla kullanacağını söylüyor.
İlginizi çekebilir
DGX Cloud hizmeti sayesinde, şirketler ve araştırmacılar yüksek maliyetli GPU donanımlarını satın almak zorunda kalmadan büyük dil modelleri ve yapay zeka projeleri üzerinde çalışabilecekler. Nvidia, bu hizmetin işletmelere ve kullanıcılara daha önce erişemedikleri seviyede güçlü GPU donanımlarına kolay ve uygun maliyetli erişim sağlayarak yapay zeka ve makine öğrenimi alanında önemli ilerlemeler kaydetmelerine yardımcı olmayı hedefliyor.
Özetle, Nvidia’nın DGX Cloud hizmeti, yapay zeka ve büyük dil modelleri için güçlü ve esnek bir çözüm sunarak, kullanıcılara daha düşük maliyetle yüksek performanslı GPU’ların kapısını aralıyor. Bu hizmetin ileri teknoloji alanında çalışan şirketler ve araştırmacılar için büyük faydalar sağlayacağı düşünülüyor.
