Anthropic’in kurucularından Jack Clark, yapay zekayı insan denetiminde tutacak kurallar için zamanın daraldığını söyledi. Bangkok’taki IMF ve Dünya Bankası yıllık toplantılarında konuşan Clark, hükümetlere uluslararası iş birliği çağrısı yaptı. Uyarısının merkezinde, giderek daha bağımsız hareket eden sistemlerin güvenliği ve bilimsel araştırmalarda kötüye kullanım riski vardı.
Reuters’in 17 Ekim tarihli haberine göre Clark, yapay zekanın hâlâ insanların kontrolünde olduğunu vurguladı. Ancak koruyucu önlemleri devreye almak için kalan süreyi birkaç yılla sınırlı görüyor. Bu değerlendirme, insan denetiminin şimdiden bütünüyle kaybolduğu anlamına gelmiyor.
Clark, bilimsel keşifleri hızlandıran araçların biyolojik ve siber silahlar gibi alanlarda kötüye kullanılabileceğine dikkat çekti. Özellikle biyolojik araştırmalarda sıkı insan gözetimi ve şeffaflık istedi. Matematik, mühendislik ve ilaç geliştirme çalışmalarında araştırmacılara yardımcı olabilecek sistemlerin, güvenlik kurallarından ayrı düşünülmemesi gerektiğini anlattı.
Google’da Teknoblog’u daha sık görün
İLGİNİZİ ÇEKEBİLİR
Yapay zeka ajanları internette erişim engelleriyle karşılaşıyor, ortaklıklar önem kazanıyor
North.cloud 60 milyon dolar aldı, bulut ve yapay zeka harcamasını yönetecek
Tencent, testteki yapay zeka ajanlarının beklenmeyen web işlemlerini doğruladı
Yapay zeka ajanları Hindistan’da şirketlerin gizli kayıtlarına erişti
Sosyal medyaya yaş sınırı, Apple’ın yeni ürünleri ve yapay zeka yatırımları
- Google Arama’da Teknoblog haberleri sizin için daha sık öne çıkar.
- Tek dokunuşla eklenir, istediğiniz zaman kaldırabilirsiniz.
Google hesabınızdan istediğiniz zaman değiştirebilirsiniz.
IMF’nin resmî etkinlik programı, Clark’ın 17 Ekim’deki Per Jacobsson konuşmasının kapsamını da ortaya koyuyor. Programda bilimsel keşiflerin hızı, robotik, makinelerin yönettiği işletmelerin özerkliği ve yapay zekanın kendi gelişimine katkıda bulunması yer alıyor. Böylece tartışma, sohbet araçlarının verdiği cevapların ötesine geçerek sistemlerin hangi işleri kendi başına yapabileceğine uzanıyor.
Yapay zeka ajanlarında görev sınırı ile erişim sınırı aynı şey değil
Teknoblog’da daha önce aktarılan Hindistan’daki ajan vakaları, denetim ihtiyacının somut bir örneğini sunuyor. CERT-In, araştırma ve değerlendirme sırasında görev yetkisini aşan ajanların gerçek kuruluşların sistemlerindeki gizli kayıtları okuduğunu açıklamıştı. Kurum, ilgili model sağlayıcılarının ve kuruluşların adlarını paylaşmadı. Dolayısıyla bu olayları Anthropic’e bağlamak için kamuya açıklanmış bir dayanak bulunmuyor.
CERT-In’in önerileri, test ortamlarını gerçek verilerden ayırmayı ve ağ erişimini yalnızca gerekli adreslerle sınırlamayı içeriyor. Ajanın faaliyetlerini anlık izlemek de bu önlemler arasında. Bir yapay zeka aracına dosyalarınızı veya iş uygulamalarınızı açtığınızda, yazılı görev tanımıyla teknik erişim yetkisinin aynı korumayı sağlamadığını bu ayrım üzerinden değerlendirebilirsiniz. Modelin ne yapmasını istediğiniz kadar, hangi kaynaklara ulaşabildiği de önem taşıyor.
Clark’ın aktardığı ekonomik senaryoda ise Anthropic’in şirket içi modellerinden biri, belirli koşullarda ABD ekonomisinin 2030’da 44 trilyon dolara ulaşabileceğini öngörüyor. Bu hesap, teknolojinin gelişmeye devam etmesi varsayımına dayanıyor. Gerçekleşmiş bir sonuç veya IMF’nin resmî tahmini değil. Clark, böyle bir genişlemenin yeni sektörler ve buluşlar gerektireceğini de belirtiyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir. Satış ortaklığı açıklaması
