Qualcomm, 22 Eylül’de düzenleyeceği yıllık Snapdragon Summit etkinliği öncesinde yeni nesil mobil işlemcilerinin yapay zekâ yetenekleriyle ilgili ilk ayrıntıları paylaşmaya başladı. Şirketin etkinlikte Snapdragon 8 Elite Gen 6 ve Snapdragon 8 Elite Gen 6 Pro olmak üzere iki üst sınıf yonga setini tanıtması bekleniyor. Qualcomm’un şimdiden öne çıkardığı yeniliklerin merkezinde ise yeni Hexagon NPU bulunuyor. Şirket hangi modelden söz ettiğini açık biçimde belirtmese de paylaşılan özelliklerin Snapdragon 8 Elite Gen 6 Pro’da kullanılacak NPU’ya ait olduğu değerlendiriliyor. Yeni tasarım özellikle cihaz üzerinde çalışan üretken yapay zekâ modelleri ve kullanıcı adına birden fazla görevi yerine getirebilen yapay zekâ ajanları için daha yüksek performans sağlamaya odaklanıyor.
Qualcomm’un verdiği bilgilere göre Hexagon NPU’nun paylaşımlı belleği önceki tasarıma kıyasla yüzde 50 oranında büyütüldü. Daha geniş bellek alanı, yapay zekâ modellerinin sık kullandığı verilerin NPU’ya daha yakın tutulmasını sağlıyor. Böylelikle modelin ihtiyaç duyduğu verilerin farklı bellek katmanları arasında sürekli taşınmasından kaynaklanan darboğazların azaltılması hedefleniyor. Bu değişiklik özellikle uzun bağlam pencereleriyle çalışan, aynı anda farklı araçlardan yararlanan veya birden fazla görevi paralel biçimde yürüten yapay zekâ ajanlarında etkisini gösterebilir. Mobil cihazlarda yerel olarak çalışan modeller büyüdükçe bellek kapasitesi ve bant genişliği de ham hesaplama performansı kadar belirleyici hâle geldiği için Qualcomm’un yaptığı değişiklik günlük kullanımda yanıt sürelerinin kısalmasına katkıda bulunabilir.
Snapdragon 8 Elite Gen 6 Pro NPU transformer modellerine odaklanıyor
Yeni Hexagon NPU’daki dikkat çekici değişikliklerden biri de Qualcomm’un Element Accelerator adını verdiği hızlandırıcı oluyor. Bu birim, günümüzde üretken yapay zekâ uygulamalarının temelini oluşturan transformer mimarisindeki iş yükleri göz önünde bulundurularak tasarlanmış durumda. Element Accelerator; NPU’nun skaler, vektör ve matris uzantılarıyla birlikte çalışarak büyük modellerin yoğun biçimde kullandığı işlemleri hızlandırıyor. Qualcomm, bu düzenlemenin yapay zekâ ajanlarının daha hızlı yanıt vermesine ve çıkarım işlemlerini daha verimli gerçekleştirmesine yardımcı olacağını belirtiyor. Bunun yanında şirket, performans artışını mobil cihazların sınırlı güç bütçesini göz ardı etmeden sağlamayı amaçlıyor; dolayısıyla yeni mimarinin gerçek kullanım koşullarındaki başarısını yalnızca hız değil, enerji tüketimi ve sürdürülebilir performans da belirleyecek.
İLGİNİZİ ÇEKEBİLİR
NASA ve IBM’in yeni yapay zekâsı Ay’daki buzun izini sürecek
iPhone 18 Pro 15 dakikada yüzde 50 şarj için 60 W adaptör istiyor
Muse yıllardır kullandığı kullanıcı adını Meta’nın yapay zekâsına kaptırdı
iPhone 18 Pro fotoğrafın yapay zekâ ürünü olmadığını kanıtlayabilecek
Honor MagicOS 11 geliyor, yapay zekâ 100 adımlık görevleri yapabilecek
Qualcomm’un açıkladığı bir başka ölçülebilir gelişme INT4 modellerinde görülüyor. Yeni Hexagon NPU’nun bu modellerde prefill işlemini yüzde 50’ye kadar daha hızlı gerçekleştirebildiği belirtiliyor. Prefill aşaması, modelin kullanıcıdan aldığı giriş verisini işleyerek yanıt üretmeye hazırlanmasını kapsadığı için buradaki hız artışı özellikle uzun istemlerde ilk yanıtın daha kısa sürede gelmesine yardımcı olabilir. INT4 gibi düşük hassasiyetli veri biçimleri ise bellek kullanımını ve hesaplama gereksinimini azaltarak büyük modellerin telefon gibi güç ve bellek açısından daha sınırlı cihazlarda çalıştırılmasını kolaylaştırıyor. Ne var ki Qualcomm’un verdiği yüzde 50’lik değerin farklı model boyutları ve gerçek uygulamalarda ne ölçüde korunacağı, Snapdragon 8 Elite Gen 6 Pro kullanan cihazların test edilmesiyle daha net anlaşılacak.
Yeni NPU aynı zamanda Mixture-of-Experts, kısaca MoE olarak adlandırılan yapay zekâ modellerine uygun biçimde hazırlanmış. Bu mimaride modelin bütün parametreleri her işlem sırasında kullanılmıyor; bunun yerine her token için yalnızca gerekli uzman bölümler etkinleştiriliyor. Bu yaklaşım, çok büyük modellerin hesaplama yükünü kontrol altında tutarken yüksek kapasiteden yararlanmasına imkân verebiliyor. Qualcomm’un NPU mimarisini bu tür modeller için optimize etmesi, gelecekte daha gelişmiş yerel yapay zekâ modellerinin akıllı telefonlarda çalıştırılabilmesinin önünü açabilir. Bununla birlikte kullanılabilecek modelin büyüklüğü yine cihazdaki RAM miktarı, bellek bant genişliği, yazılım optimizasyonları ve uzun süreli kullanımda oluşan ısı gibi başka donanım sınırlarına bağlı olacak.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
Qualcomm yeni Hexagon NPU’yu sürekli çalışan yapay zekâ görevleri, uzun bağlam üzerinde çıkarım, çok modlu modeller, eş zamanlı çalışan birden fazla ajan ve düşük gecikmeli işlem döngüleri için tasarladığını belirtiyor. Bu özellikler, mobil yapay zekânın yalnızca metin veya görüntü üreten bağımsız uygulamalardan çıkıp telefonun farklı işlevleriyle etkileşim kurduğu senaryolara doğru ilerlediğini gösteriyor. Daha büyük paylaşımlı bellek ile transformer odaklı Element Accelerator bu tür iş yüklerinde belirgin teknik avantajlar sağlayabilir. Buna rağmen Qualcomm’un paylaştığı rakamlar şimdilik şirketin kendi açıklamalarına dayanıyor ve yeni NPU’nun performansı bağımsız testlerle henüz doğrulanmış değil. Snapdragon 8 Elite Gen 6 ve Snapdragon 8 Elite Gen 6 Pro’nun 22 Eylül’de ayrıntılı biçimde tanıtılmasıyla birlikte CPU, GPU, NPU ve enerji verimliliği tarafındaki değişikliklerin bütünü daha açık biçimde görülebilecek.
