Apple araştırmacıları, boşta kalan Apple Silicon işlemcili Mac’leri ortak bir yapay zeka hesaplama havuzuna bağlayan Minions sistemini tanıttı. Mac üzerinde yerel yapay zeka çalışmalarına farklı bir yaklaşım getiren Minions araştırması, mevcut bilgisayarlarla model çıkarımı yapmayı hedefliyor. Bununla birlikte çalışma, bütün Mac kullanıcılarına açılan yeni bir macOS özelliği oluşturmuyor.
Araştırmacılar, sistemi merkezî GPU kapasitesinin sınırlı kaldığı ekiplerde kullandıklarını belirtiyor. Bazı işlerin başlangıç öncesinde on saati aşan kuyruklarda beklediğini, Minions ile dakikalar içinde başlayabildiğini bildiriyorlar. Ancak bu karşılaştırma, aynı hesaplamanın on saat yerine birkaç dakikada tamamlandığı anlamına gelmiyor. Makale, işe başlama süresindeki değişimi anlatıyor.
Sistem, büyük görevleri küçük parçalara ayırıyor ve katılımcı Mac’ler uygun işleri sunucudan çekiyor. Bilgisayar uykuya geçtiğinde veya sahibi işlemi durdurduğunda ise izleme bileşeni tamamlanmamış işi yeniden kuyruğa alıyor. Böylece başka bir bilgisayar görevi üstlenebiliyor. Bunlara ek olarak ekipler, veri yönetimi için ayrı veritabanları ve kendilerine özel bilgisayar havuzları kullanabiliyor.
Google’da Teknoblog’u daha sık görün
İLGİNİZİ ÇEKEBİLİR
Eiliko araştırması, robot sohbetlerine erişim açığını belgeledi
Apple, iPhone Duo’ya talebi “olağanüstü” olarak nitelendirdi
Bloomberg, Apple’ın dava ekibi için Scott Tucker’ı seçtiğini bildirdi
Apple rıza dışı cinsel görüntüler için App Store kurallarını netleştirdi
Sosyal medyaya yaş sınırı, Apple’ın yeni ürünleri ve yapay zeka yatırımları
- Google Arama’da Teknoblog haberleri sizin için daha sık öne çıkar.
- Tek dokunuşla eklenir, istediğiniz zaman kaldırabilirsiniz.
Google hesabınızdan istediğiniz zaman değiştirebilirsiniz.
Minions, metinleri sayısal vektörlere dönüştüren modellerin yanında büyük dil modeli yanıtlarını da destekliyor. Araştırmacılar ikinci iş türünde Ollama’dan yararlanıyor ve modeli katılımcı Mac üzerinde çalıştırıyor. Öte yandan model eğitimi, mevcut sistemin sunduğu işlevler arasında yer almıyor. Ekip, dağıtık eğitim desteğini ileride geliştirmeyi planlıyor.
Ollama dil modellerini Apple Silicon üzerinde yerel olarak çalıştırıyor
Ollama’nın macOS gereksinimleri, Sonoma 14 veya daha yeni bir işletim sistemi istiyor. Uygulama, Apple’ın M serisinde hem işlemciden hem grafik biriminden yararlanıyor. Buna karşılık Intel tabanlı x86 Mac’lerde yalnızca işlemci desteği sunuyor. Dolayısıyla Ollama’nın Intel Mac üzerinde çalışması, Minions araştırmasının Apple Silicon GPU havuzuyla aynı donanım kapsamını taşımıyor.
Bunun yanında yerel model kullanımı, bilgisayarda önemli miktarda depolama alanı gerektirebiliyor. Ollama belgeleri, büyük dil modeli dosyalarının onlarca, hatta yüzlerce gigabayta ulaşabileceğini belirtiyor. Uygulama modelleri ve yapılandırmayı kullanıcı klasöründe saklıyor, ayrıca model dizinini farklı bir konuma taşıma imkânı veriyor. Modeli indirip yerel olarak çalıştırmak, uzaktaki bir sohbet hizmetine yalnızca tarayıcıdan bağlanmaktan farklı bir kurulum gerektiriyor.
Apple, ayrı bir MLX değerlendirmesinde birden fazla Mac Studio arasında Thunderbolt üzerinden düşük gecikmeli iletişimi de anlatıyor. Bu çalışmada bilgisayarlar aynı büyük modelin farklı parçalarını birlikte hesaplıyor, Minions ise görev parçalarını uygun durumdaki Mac’lere dağıtıyor. Böylece iki çalışma, Mac donanımını bir araya getirirken farklı iş paylaşımı yöntemlerini ele alıyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir. Satış ortaklığı açıklaması
