Nvidia, ChatRTX isimli deneysel chatbot’unu, RTX GPU sahipleri için yeni yapay zeka modelleriyle güncelledi. Windows bilgisayarlarda yerel olarak çalışabilen bu chatbot, Mistral veya Llama 2 ile kişisel dokümanları sorgulayabiliyor. Artık bu liste, Google’ın Gemma, ChatGLM3 ve OpenAI’nin CLIP modeliyle genişliyor, bu da fotoğraflar üzerinde daha kolay arama yapmayı sağlıyor.
Şubat ayında “Chat with RTX” olarak tanıtılan ChatRTX, 8 GB veya daha fazla VRAM’e sahip RTX 30 ya da 40 serisi bir GPU gerektiriyor. Uygulama, yerel belgelerinizi ve YouTube videolarınızı analiz ederek tarayıcıdan erişilebilen güçlü bir arama aracı sunuyor. Kendi verilerinizden sorulara yanıtlar ve özetler sunabiliyor.
Google’ın Gemma modeli, güçlü dizüstü bilgisayarlar veya masaüstü bilgisayarlarda çalışacak şekilde tasarlandı ve bu yüzden ChatRTX’teki yeri oldukça uygun. Nvidia’nın uygulaması, bu modellerin yerel olarak çalıştırılmasındaki karmaşıklığı azaltıyor. Böylelikle analiz veya arama yapmak istediğiniz kendi verilerinize en uygun modeli seçmek için chatbot arayüzü kullanılıyor.
ChatRTX, Nvidia’nın web sitesinden 36 GB’lık bir indirme olarak sunuluyor. Ayrıca artık genel dil modeli çerçevesine dayalı, iki dilli (İngilizce ve Çince) büyük dil modeli ChatGLM3’ü destekliyor. Eklenen OpenAI’nin Karşıt Dil-Görüntü Önceden Eğitim (CLIP) modeli, yerel fotoğraf verilerini aramayı ve etkileşimde bulunmayı mümkün kılıyor. Modelleri görüntüleri tanımaya eğitmek için etkili bir araç haline geliyor.
Son olarak, Nvidia ChatRTX’i sesli sorgulama desteği ile güncelledi. Şirket, sesle veri aramayı sağlayan bir AI konuşma tanıma sistemi olan Whisper’ı entegre etti.
