Son aylarda Google aramalarında yapay zeka ile oluşturulan görsellerin sayısı hızla artış gösterdi. Bu durum, kullanıcıların aradıkları gerçek sonuçları bulmalarını zorlaştırıyor. Google, bu soruna yanıt olarak, yapay zeka ile üretilen ve düzenlenen görsel arama sonuçlarını işaretlemeye başlayacağını duyurdu. Yeni özellik, önümüzdeki aylarda kullanıma sunulacak.
Google, bu tür içerikleri “Bu görsel hakkında” penceresi aracılığıyla işaretleyecek ve bu özellik, Google Arama, Google Lens ve Android’in Circle to Search gibi özelliklerinde de yer alacak.
Ayrıca bu teknoloji reklam hizmetlerine de entegre edilecek. Şirket, YouTube videolarına benzer bir işaretleme sistemini eklemeyi de değerlendiriyor, ancak bu konuda daha fazla güncellemenin yıl sonuna doğru yapılması bekleniyor.
Google yapay zeka görsellerini C2PA sistemiyle tanıyacak
Google, yapay zeka ile oluşturulan görselleri tespit etmek için İçerik Kökeni ve Doğruluk Koalisyonu (C2PA) metadata sistemine güvenecek. Google, bu yılın başlarında bu endüstri grubuna yönlendirme komitesi üyesi olarak katıldı. C2PA metadata, bir görselin nerede ve ne zaman oluşturulduğunu, kullanılan ekipman ve yazılımları takip ederek görselin kaynağını belirleyecek.
C2PA’ya şimdiden Amazon, Microsoft, OpenAI ve Adobe gibi birçok büyük isim katıldı. Ancak bu standart, donanım üreticileri arasında henüz yaygınlaşmadı ve şu anda yalnızca birkaç Sony ve Leica kamera modelinde bulunuyor. Bununla birlikte, bazı yapay zeka görüntü oluşturma araçlarının geliştiricileri bu standardı kabul etmemiş durumda. Örneğin, Grok’un görüntü oluşturma modeli Flux’u üreten Black Forrest Labs, bu standardı benimsemeyen firmalar arasında.
Son iki yılda yapay zeka ile oluşturulan sahte görüntüler kullanılarak gerçekleştirilen dolandırıcılık vakalarında büyük bir artış yaşandı. Örneğin, Şubat ayında Hong Kong merkezli bir finansçı, şirketin CFO’su gibi davranan dolandırıcılara bir video konferans sırasında 25 milyon dolar aktardı. Mayıs ayında yapılan bir araştırmada, doğrulama sağlayıcısı Sumsub, 2023 ve 2024 yılları arasında yapay zeka ile üretilen sahte görüntü kullanılarak yapılan dolandırıcılıkların küresel çapta %245 arttığını tespit etti. ABD’de ise bu oran %303’e kadar çıktı.
Netskope’un Asya-Pasifik bölgesi bilgi ve güvenlik sorumlusu David Fairman, bu durumun yapay zeka hizmetlerinin halka açık hale gelmesiyle daha da yaygınlaştığını belirtti. CNBC’ye yaptığı açıklamada Fairman, “Bu hizmetlerin kamuya açık hale gelmesi, siber suçlular için giriş engellerini azalttı. Artık özel teknik becerilere sahip olmalarına gerek yok,” ifadelerini kullandı.
