Nvidia, salı günü itibarıyla RTX GPU sahipleri için özel bir yenilik sunuyor: Chat with RTX. Bu uygulama, kullanıcıların kendi bilgisayarlarında kişisel bir yapay zeka chatbotu çalıştırmalarına olanak tanıyor. YouTube videolarından belgelere kadar geniş bir içerik yelpazesini besleyebileceğiniz bu chatbot, verilerinize dayalı olarak özetler çıkarıyor ve ilgili yanıtlar sunuyor. En önemlisi, tüm bu işlemler yerel bir PC üzerinde gerçekleşiyor ve tek gereksiniminiz en az 8GB VRAM’e sahip bir RTX 30 veya 40 serisi GPU.
Nvidia Chat with RTX ile veri araştırmalarında yeni bir dönem
Chat with RTX, YouTube videoları üzerinde de etkili bir şekilde çalışıyor. Bir URL girdiğinizde, belirli bahseden kısımları aramanıza veya tüm bir videoyu özetlemenize olanak tanıyor. Chat with RTX, yerel belgelerinizde arama yapma konusunda da oldukça başarılı.
Chat with RTX’in büyük bir dezavantajı, gerçekten erken bir geliştirici demosu gibi hissettirmesi. Chat with RTX, PC’nize bir web sunucusu ve Python örneği kuruyor ve sonra verilerinizi sorgulamak için Mistral veya Llama 2 modellerini kullanıyor. Daha sonra sorgularınızı hızlandırmak için Nvidia’nın Tensor çekirdeklerini kullanıyor.
Nvidia, bu uygulamayı tüm RTX sahiplerinin hemen indirip kurmaları gereken göz alıcı bir uygulama olarak sunmuyor. Kaynak atıfının her zaman doğru olmaması gibi bilinen birkaç sorun ve sınırlama var. Ancak Nvidia, kişisel dosyalarınızı analiz etmek için Copilot Pro veya ChatGPT Plus gibi bir aboneliğe ihtiyaç duymadan PC’nizde yerel olarak bir AI chatbotunun gelecekte ne yapabileceğini gösteren iyi bir teknoloji demosu sunmuş oluyor.
