2023 yılı, yapay zeka (AI) teknolojilerinde önemli ilerlemelerin yaşandığı bir yıl olarak tarihe geçti. Google, yılın sonunda yapay zeka alanındaki yeniliklerine bir yenisini daha ekleyerek Cloud TPU v5p ve AI Hypercomputer’ı duyurdu. Google’ın Mühendislik Üyesi ve Makine Öğrenmesi, Sistemler ve Cloud AI ekibinin Başkan Yardımcısı Amin Vahdat, yaptığı açıklamada, “Son beş yılda yılda on kat artan parametrelerle [üretken] AI modellerindeki büyüme, eğitim, ayarlama ve çıkarım için artan ihtiyaçlar getiriyor” dedi.
Cloud TPU v5p, AI hızlandırıcı olarak tanımlanıyor ve modellerin eğitimi ve hizmete sunulmasında kullanılıyor. Google, Cloud TPUs’yi, büyük boyutlara sahip, uzun eğitim süreleri gerektiren, çoğunlukla matris hesaplamalarından oluşan ve ana eğitim döngüsü içinde özel işlemler içermeyen modellerle çalışacak şekilde tasarladı. TensorFlow veya JAX gibi. Her TPU v5p kapsülü, Google’ın en yüksek bant genişliğine sahip çiparası bağlantısını kullanarak 8,960 çip getiriyor.
Cloud TPU v5p, v5e ve v4 gibi önceki sürümlerin izinden gidiyor. Google’a göre, TPU v5p, TPU v4’e kıyasla iki kat daha fazla FLOP kapasitesine sahip ve kapsül başına FLOP’lar açısından dört kat daha ölçeklenebilir. Ayrıca, LLM modellerini TPU v4’e göre 2.8 kat daha hızlı eğitebilir ve yoğun modelleri 1.9 kat daha hızlı yerleştirebilir.
AI Hypercomputer, açık yazılım, performans optimize edilmiş donanım, makine öğrenme çerçeveleri ve esnek tüketim modelleri içeren entegre bir sistemden oluşuyor. Bu birleşimin, her bir parça ayrı ayrı incelenseydi elde edilecek verimlilik ve üretkenlikten daha iyi sonuçlar sunması hedefleniyor. AI Hypercomputer’ın performans optimize edilmiş donanımı, Google’ın Jupiter veri merkezi ağı teknolojisini kullanıyor.
Google, JAX, PyTorch ve TensorFlow gibi makine öğrenme çerçeveleri için “kapsamlı destek” sunan açık yazılımı geliştiricilere sağlıyor. Bu duyuru, Meta ve IBM’in açık kaynak kodunu önceliklendiren AI Alliance’ının başlatılmasının ardından geldi ve Google bu ittifakta belirgin bir şekilde yer almıyor. AI Hypercomputer, Flex Start Modu ve Takvim Modu adlı iki modeli de tanıtıyor.
Google, bu haberleri, şirketin “en büyük ve en yetenekli” olarak nitelendirdiği yeni bir AI modeli olan Gemini’ın tanıtımı ve Bard ve Pixel 8 Pro’ya uygulanmasıyla birlikte paylaştı. Gemini, Gemini Pro, Gemini Ultra ve Gemini Nano olmak üzere üç farklı boyutta sunulacak.
