Google, yeni yapay zekâ modelleri ve araçları arasında, içerik filigranlama ve tespit teknolojisini iki yeni ortama genişlettiğini duyurdu. Bu teknoloji, yapay zekâ ile üretilen metin ve video içeriklerini işaretleyebiliyor. Google’ın DeepMind CEO’su Demis Hassabis, Google I/O geliştirici konferansında bu yenilikleri tanıttı.
SynthID ile yenilikçi içerik güvenliği
SynthID sistemi, özellikle yapay zeka kötüye kullanıldığında önemli hale gelen yapay zekâ üretimi içeriklerin filigranlanmasını sağlıyor. Bu teknoloji, politik yanıltmaca, kişilerin söylemediği şeylerin iddia edilmesi ve rızası olmayan cinsel içeriklerin üretilmesi gibi durumlarla mücadele etmek için kullanılıyor. SynthID, bu içeriklerin sistem tarafından tespit edilmesine olanak tanıyan, görsel olarak algılanamayan bir filigran basma yöntemi kullanıyor.
SynthID ilk olarak geçen ağustos ayında duyuruldu ve yapay zekâ ile oluşturulan görsellere insanların görsel olarak ayırt edemeyeceği, ancak sistem tarafından algılanabilen filigranlar eklemek üzere geliştirildi. Bu yaklaşım, yapay zekâ üretilen içeriğe kriptografik meta veri ekleyen C2PA gibi diğer filigranlama protokol standartlarından farklı. Google, bu teknolojiyi DeepMind’ın Lyria modeli kullanılarak yapılan yapay zeka üretimi müziklere duyulamayan filigranlar eklemek için de kullanmıştı.
SynthID, teknolojinin kötüye kullanımıyla mücadele etmek için geliştirilen birkaç yapay zekâ güvenlik önleminden biri. ABD’de Başkan Biden yönetimi, federal kurumların bu tür teknolojilerin kötüye kullanımını önlemek için yönergeler geliştirmesini istiyor. Bu, hem devlet düzeyinde hem de özel sektörde yapay zeka içeriği güvenliğinin artırılmasını sağlayacak.
Google’ın bu yeni geliştirdiği filigran sistemi, yapay zekâ ile üretilen içeriklerin güvenliğini sağlamak ve kötüye kullanımını önlemek amacıyla önemli bir adım olarak görülebilir. SynthID, dijital dünyada içeriklerin güvenliğini artırmak ve güvenilir bir medya ortamı oluşturmak için kritik bir role sahip. Bu teknolojiyi, kullanıcıların yapay zeka ile üretilmiş içeriklere karşı daha bilinçli olmalarını ve medya güvenilirliğini korumalarını sağlayacak bir yenilik olarak nitelendirebiliriz.
