Google’ın DeepMind takımı, yıllardır yaratıcı yapay zekâ (AI) araçları geliştirirken aynı zamanda bu araçlarla oluşturulan içerikleri tespit etmek için de araçlar geliştirmenin önemli olduğuna inanıyor. Özellikle derin sahte (deepfake) görsellerin bir sorun olmaya devam ettiği bu dönemde, DeepMind CEO’su Demis Hassabis ve ekibi SynthID adlı yeni bir araç üzerinde çalışıyorlar.
SynthID, yapay zekâ tarafından oluşturulan bir görseli insan gözü için fark edilemez bir şekilde damgalamayı amaçlayan bir sistem. Bu damga, görselin piksellerine gömülüyor fakat görselin kalitesini ya da görünümünü etkilemiyor. Hassabis, bu damganın sıradan damgaların aksine, görsel üzerinde yapılabilecek dönüşümlere (örneğin, boyutlandırma veya kırpma) dayanıklı olduğunu belirtiyor.
Google, bu aracı ilk olarak kendi bulut platformu olan Google Cloud ve Imagen görüntü oluşturucu kullanıcıları için sunacak. Sistem daha fazla gerçek dünya testi gördükçe, performansının artacağına inanılıyor. Hassabis, SynthID’nin zamanla internet genelinde bir standart olabileceğini ve temel fikirlerin video ve metin gibi diğer mecralarda da kullanılabileceğini dile getiriyor.
SynthID benzeri diğer araçlar
Bu arada, Google bu konuda yalnız değil. Meta, OpenAI ve diğer yapay zeka şirketleri de içerik güvenliği için protokoller geliştiriyor. Özellikle C2PA adlı bir protokol, kriptografik meta veri kullanarak yapay zekâ ürünü içerikleri etiketlemek için kullanılıyor.
Ayrıca Google Cloud’un CEO’su Thomas Kurian, Vertex AI platformunun kullanımının hızla arttığını ve bu nedenle SynthID’nin piyasaya sürülmesinin zamanının geldiğini belirtiyor. Yapay zekâ tarafından üretilen görselleri tespit etmek, yalnızca deepfake görsellerle sınırlı değil. Örneğin, bazı perakende şirketleri ürün açıklamalarını yapay zekâ araçları ile oluşturuyor ve ürün fotoğraflarının, yaratıcı süreçler için kullanılan yapay zekâ ürünü görsellerle karışmamasını sağlamak istiyorlar.
Kurian, SynthID’nin Google Dokümanlar ve Slaytlar gibi diğer uygulamalara da entegre edilebileceğini belirtiyor. Hassabis, aracın bir Chrome eklentisi olarak veya doğrudan tarayıcıya yerleştirilerek internet üzerindeki yapay zeka ürünü görselleri tespit edebileceğini ifade ediyor.
