OpenAI, yaklaşık bir yıl önce ChatGPT tarafından oluşturulan metinler için bir filigranlama sistemi ve bu sistemi tespit edebilecek bir araç geliştirdi. Ancak, bu sistemin herkese sunulup sunulmaması konusunda şirket içinde ciddi tartışmalar yaşanıyor. Bir yandan bu filigranlama sistemi, yapay zekâ (AI) ile üretilen metinlerin tespit edilmesini sağladığından sorumluluk yaratan bir adım olarak görülüyor, diğer yandan ise bu adımın şirketin kârını olumsuz etkileyebileceği endişesi var.
OpenAI filigranlama sisteminin çalışma prensibi
Filigranlama sistemi, modelin önceki kelimeleri ve ifadeleri tahmin etme şeklini ayarlayarak tespit edilebilir bir desen oluşturuyor. Bu teknik, metin kalitesini düşürmeden yapay zekâ tarafından oluşturulan metinlerin tanınmasını sağlıyor. Dünya genelinde yapılan bir ankette, katılımcıların büyük bir çoğunluğu AI metin tespit aracını desteklediklerini ifade etti. Ancak, kullanıcıların yaklaşık yüzde 30’u, filigranlama uygulanması durumunda ChatGPT’yi daha az kullanacaklarını belirtti.
OpenAI, sistemin yüzde 99,9 oranında etkili olduğunu ve manipülasyonlara karşı dirençli olduğunu açıkladı. Buna rağmen, kötü niyetli kullanıcıların farklı bir modelle yeniden kelime düzenlemesi yaparak bu sistemi kolayca aşabileceği belirtildi. Bu durum, filigranlama sisteminin etkinliği konusundaki soru işaretlerini artırıyor.
Filigranlama sisteminin özellikle eğitim sektörü için büyük bir öneme sahip olduğu düşünülüyor. Öğretmenler, öğrencilerin yapay zekâ destekli araçlarla hazırladıkları ödevleri tespit etmekte zorlanıyor. Bu sistem, öğretmenlerin öğrencilerin gerçek performanslarını değerlendirmelerine yardımcı olabilir. Bunun yanı sıra, akademik dürüstlük ve özgünlük konusunda önemli bir adım olarak görülüyor.
Ne var ki, OpenAI’nin endişeleri arasında, yapay zekâ araçlarının ana dili İngilizce olmayan kullanıcılar için yararlılığı konusundaki olumsuz algı da yer alıyor. Filigranlama sisteminin bu kullanıcılar arasında damgalamaya neden olabileceği ve AI araçlarının kullanımını azaltabileceği belirtiliyor.
OpenAI içinde bazı çalışanlar, filigranlama sisteminin etkili olduğuna inansa da, kullanıcı duyarlılıklarını göz önünde bulundurarak daha az tartışmalı ve henüz kanıtlanmamış alternatif yöntemlerin denenmesini öneriyor. Şirket, bugün yayınladığı bir blog güncellemesinde, meta verileri gömmenin erken aşamalarında olduklarını belirtti. Bu teknik, kriptografik olarak imzalandığı için yanlış pozitiflerin olmayacağı ifade ediliyor, fakat ne kadar başarılı olacağı henüz belirsiz.
Filigranlama sisteminin nihai olarak kullanıma sunulup sunulmayacağı ve bu sistemin yapay zeka destekli araçların geleceğinde nasıl bir rol oynayacağı belirsizliğini koruyor. OpenAI’ın bu konuda nasıl bir yol izleyeceği ve kullanıcıların tepkileri, şirketin alacağı kararları doğrudan etkileyecek. Teknolojik yeniliklerin etik ve kullanıcı deneyimi açısından dengelenmesi, bu süreçte en önemli unsurlar arasında yer alıyor.
OpenAI’nin gelecekte atacağı adımlar, yapay zeka teknolojilerinin kullanım alanlarını ve bu teknolojilere olan güveni büyük ölçüde şekillendirebilir. Bu süreç, sadece OpenAI için değil, genel olarak yapay zeka sektörünün gelişimi için de kritik öneme sahip olacaktır.
