OpenAI, ChatGPT ve Codex tarafından oluşturulan metinlerde makine tarafından okunabilen görünmez bir filigran sistemini kullanıma sunmaya hazırlanıyor. Şirketin textGrain adını verdiği teknoloji ilk aşamada yalnızca Avrupa Birliği’ndeki uygun kullanıcılara uygulanacak ve önümüzdeki haftalarda tüm ChatGPT ile Codex planlarını kapsayacak. OpenAI, başlangıçta sistemi dünya çapında varsayılan hâle getirmeyi planlamadığını özellikle belirtiyor. Bölgesel uygulama sayesinde teknolojinin gerçek kullanım koşullarındaki performansı ve kullanıcılardan gelecek geri bildirimler değerlendirilebilecek. Düzenlemenin Avrupa Birliği ile sınırlı başlamasında, yapay zekâ ile oluşturulan içeriklerin daha kolay tanımlanmasını hedefleyen AB Yapay Zekâ Yasası kapsamındaki şeffaflık yükümlülükleri etkili oluyor.
textGrain, oluşturulan metnin görünümünü değiştirmeden çıktının içine daha sonra otomatik sistemler tarafından tespit edilebilecek belirli işaretler yerleştiriyor. OpenAI’nin paylaştığı değerlendirmelere göre sistemin performansı, Google DeepMind tarafından geliştirilen SynthID for Text gibi diğer filigran yöntemleriyle benzer seviyede veya bazı testlerde daha yüksek sonuçlar veriyor. Anthropic de ağustos ayında benzer bir yöntemi benimsemiş ve bu yaklaşımın temelinde SynthID teknolojisini kullanmıştı. Her iki şirketin de bu tür sistemlere yönelmesinde Avrupa Birliği’nin yapay zekâ alanındaki düzenlemelerinin etkisi bulunuyor. Bununla birlikte metin filigranlarının kullanımına yönelik tepkiler tamamen olumlu değil ve özellikle sistemlerin güvenilirliği, yanlış tespit ihtimali ve üretilen içeriğin daha sonra değiştirilmesi durumunda filigranın korunup korunamayacağı tartışılmaya devam ediyor.
İLGİNİZİ ÇEKEBİLİR
OpenAI textGrain sisteminin sınırlarını da kabul ediyor
OpenAI, textGrain’in yapay zekâ tarafından üretilen içeriğin kaynağını belirlemeye yardımcı olabileceğini söylese de teknolojinin kesin bir doğrulama aracı olarak değerlendirilmemesi gerektiğinin altını çiziyor. Şirkete göre sistem her durumda güvenilir tespit garantisi vermiyor ve hem gözden kaçan filigranlar hem de yanlış pozitif sonuçlar ortaya çıkabiliyor. Bunun yanı sıra bir metinde filigran bulunması, metindeki bilgilerin doğru olduğunu göstermiyor veya içeriğin hukuki sahibinin kim olduğunu belirlemiyor. Sistem bir metnin ne kadarının insan tarafından yazıldığını da ölçemediği gibi, filigran bulunmaması içeriğin tamamen insan tarafından üretildiğini kanıtlamıyor. OpenAI’nin paylaştığı yapay zekâ kıyaslama testlerinde ise filigranlı ve filigransız çıktılar arasında genel model performansı bakımından belirgin bir fark görülmediği belirtiliyor.
Şirket bireysel ChatGPT ve Codex kullanıcılarının yanı sıra API müşterileri için de farklı bir uygulama sunuyor. Dünya genelindeki OpenAI API müşterileri, belirli modellerde bugünden itibaren filigranlı metin çıktısını isteğe bağlı olarak etkinleştirebilecek. Böylelikle geliştiriciler ve şirketler, kendi şeffaflık yükümlülüklerine veya sundukları ürünlerin çalışma biçimine göre bu özelliği kullanıp kullanmayacaklarına karar verebilecek. OpenAI bunun yanında bulut hizmeti sağlayan iş ortaklarıyla da çalıştığını ve bu platformlar üzerinden erişilen OpenAI modellerinin çıktılarında filigran seçeneğinin önümüzdeki haftalarda sunulmasının planlandığını belirtiyor. Bu yapı, son kullanıcı tarafındaki zorunlu Avrupa Birliği uygulamasından farklı olarak API kullanan kuruluşlara daha fazla tercih alanı bırakıyor.
OpenAI aynı zamanda textGrain filigranlarını tespit eden aracı belirli araştırmacıların ve uzman kuruluşların kullanımına açıyor. Başvurular bugünden itibaren yapılabilecek, fakat erişim ilk aşamada herkese açık olmayacak ve talepler tek tek değerlendirilecek. Dedektör, incelenen bir metinde OpenAI filigranı tespit edip etmediğini bildirecek; buna karşılık metni oluşturan kullanıcının kimliğini göstermeyecek ve kullanıcının istemlerini ya da ChatGPT konuşmalarını açığa çıkarmayacak. Şirket, yanlış pozitiflerin ve tespit edilemeyen filigranların mümkün olması nedeniyle bu aracı başlangıçta kamuya açık biçimde sunmayı uygun görmüyor. Bu sınırlamalar göz önünde bulundurulduğunda textGrain, bir metnin kaynağı konusunda ek bir teknik sinyal sağlayabilecek olsa da tek başına içerik doğrulama veya yazarlık tespiti için kesin bir yöntem niteliği taşımıyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
