OpenAI, yapay zekâ (AI) tarafından üretilen görselleri tespit edebilen yeni bir araç eklediğini duyurdu. Şirket, konuyla ilgili blog gönderisinde AI tarafından oluşturulan içeriği izlemek ve onaylamak için yeni köken yöntemleri geliştirmeye başladığını belirtti. Bu yöntemler arasında, bir fotoğrafın AI tarafından üretilip üretilmediğini belirleyebilen yeni bir görüntü tespit sınıflandırıcısı ve içerikleri görünmez işaretlerle etiketleyebilen dayanıklı bir su işareti yer alıyor.
OpenAI’ın yapay zekâ ile oluşturulan görüntü tespitindeki yenilikleri
Sınıflandırıcı, bir resmin DALL-E 3 tarafından oluşturulma olasılığını tahmin ediyor. OpenAI, sınıflandırıcının, görüntü kırpılmış, sıkıştırılmış veya doygunluğu değiştirilmiş olsa bile çalıştığını iddia ediyor. Araç, DALL-E 3 ile oluşturulan görüntüleri yaklaşık %98 doğrulukla tespit edebilirken, diğer AI modellerinden gelen içerikleri sadece %5 ile %10 arasında bir oranda doğru olarak işaretleyebiliyor.
OpenAI daha önce, İçerik Köken ve Yetki Koalisyonu’ndan (C2PA) görüntü meta verilerine içerik kimlik bilgileri eklemişti. İçerik kimlik bilgileri temel olarak, görüntünün kim tarafından sahiplendiği ve nasıl oluşturulduğu hakkında bilgiler içeren bir filigrandır. OpenAI, Microsoft ve Adobe gibi şirketlerle birlikte C2PA’nın bir üyesidir. Bu ay OpenAI, C2PA’nın yönlendirme komitesine de katıldı.
Şirket, halen sınırlı seviyede ön izlemede olan metinden konuşmaya dönüştürme platformu Voice Engine’den alınan kliplere de filigranlar eklemeye başladı. Hem görüntü sınıflandırıcısı hem de ses su işareti sinyali hâlâ geliştirilmeye devam ediyor. OpenAI, etkinliğini test etmek için kullanıcılardan geri bildirim alması gerektiğini belirtiyor.
Araştırmacılar ve kâr amacı gütmeyen gazetecilik grupları, OpenAI’nin araştırma erişim platformunda görüntü tespit sınıflandırıcısını uygulayarak test edebilir. OpenAI, yıllardır AI tarafından üretilen içeriği tespit etmek üzerine çalışıyor. Ancak, 2023 yılında, AI metin sınıflandırıcısının sürekli düşük doğruluk oranı göstermesi nedeniyle bir programı sonlandırmak zorunda kalmıştı. Bu yeni gelişmeler, yapay zeka içeriklerinin doğrulanması ve yönetilmesi alanında önemli adımlar olarak görülebilir.
