Nvidia, yapay zeka çip sektöründe önemli bir yenilikle karşımıza çıkıyor. Şirketin daha önce duyurduğu H100 AI çipi zaten piyasada büyük bir başarı yakalamışken, şimdi de Blackwell B200 GPU ve GB200 “süper çipler” ile liderliğini daha da ileri taşımayı amaçlıyor. Bu yeni teknolojiler, Nvidia’yı çok trilyon dolarlık bir şirket yapma potansiyeline sahip.
Nvidia B200 ve GB200 süper çiplerin özellikleri
Nvidia’nın B200 GPU’su, 208 milyar transistör kullanarak 20 petaflop FP4 gücü sunuyor. GB200 ise, iki B200 GPU’sunu tek bir Grace CPU ile birleştirerek, özellikle büyük dil modelleri (LLM) için 30 kat daha fazla performans vaat ediyor. Bu kombinasyon, H100’e kıyasla maliyeti ve enerji tüketimini 25 kata kadar azaltıyor.
Eğitim sürecinde, 1.8 trilyon parametreli bir modelin eğitimi daha önce 8,000 Hopper GPU ve 15 megavat güç kullanarak gerçekleştiriliyordu. Nvidia’nın CEO’suna göre, bugün 2,000 Blackwell GPU ile bu işlem sadece dört megavat tüketerek yapılabilir.
GPT-3 LLM benchmark’ında, 175 milyar parametre ile, GB200, H100’e göre yedi kat daha fazla performans sunarken, dört kat daha hızlı eğitim imkanı sağlıyor.
Nvidia, bu büyük atılımın ardında yatan birkaç önemli iyileştirmeye dikkat çekiyor. İkinci nesil bir transformer motoru, hesaplama kapasitesini, bant genişliğini ve model boyutunu iki katına çıkararak önemli bir gelişme sağlıyor. Bu gelişme, her nöron için sekiz yerine dört bit kullanılarak elde ediliyor. Ayrıca, bu GPU’ların büyük miktarlarda bağlanması durumunda, yeni nesil NVLink anahtarı sayesinde, 576 GPU’nun birbirleriyle 1.8 terabit/saniye çift yönlü bant genişliği ile iletişim kurmasına olanak tanıyor.
Bu, Nvidia’nın 50 milyar transistör içeren ve kendi başına 3.6 teraflop FP8 hesaplama gücüne sahip yeni bir ağ anahtarı çipi geliştirmesini gerektirdi. Daha önce, sadece 16 GPU’dan oluşan bir küme, zamanının yüzde 60’ını birbirleriyle iletişim kurarak, yüzde 40’ını ise asıl hesaplama işlemleriyle geçiriyordu.
Nvidia, bu GPU’ların büyük miktarlarda satın alınmasını hedefliyor ve onları daha büyük tasarımlar, örneğin tek bir sıvı soğutmalı raf içinde 36 CPU ve 72 GPU barındıran GB200 NVL72 gibi paketler halinde sunuyor. Bu tasarım, AI eğitim performansında toplam 720 petaflop veya çıkarım için 1.440 petaflop (yani 1.4 exaflop) sunuyor.
Amazon, Google, Microsoft ve Oracle gibi şirketlerin bu raf sistemlerini bulut hizmetlerinde sunmayı planladıkları belirtiliyor. Nvidia, bu sistemlerin on binlerce GB200 superchip ile ölçeklenebileceğini ve yeni Quantum-X800 InfiniBand veya Spectrum-X800 ethernet ile 800Gbps ağ bağlantısı sunabileceğini vurguluyor.
Bu duyurular, Nvidia’nın sadece yapay zekâ ve GPU işlemlerine odaklanan GPU Teknoloji Konferansı’ndan geldi. Bu nedenle oyun GPU’ları hakkında herhangi bir haber beklenmiyor. Ancak, Blackwell GPU mimarisi gelecekte masaüstü grafik kartları için RTX 50 serisini de güçlendirebilir.
