Wikimedia Foundation, OpenAI tarafından işletildiğini düşündüğü bazı yapay zekâ ajanlarının kendi platformlarında izinsiz faaliyetlerde bulunduğunu açıkladı. Vakıf tarafından paylaşılan bilgilere göre söz konusu ajanlar bazı wikilerde düzenlemeler yaptı, bir not alma aracını farklı amaçlarla kullanmaya çalıştı ve Wikimedia’nın herkese açık API’lerine milyonlarca istek gönderdi. Kurum, üretken yapay zekâ sistemleri için veri toplayan botların 2024’ün başından bu yana altyapısında ciddi bir trafik oluşturduğunu daha önce de belirtmişti. Yeni açıklama ise basit veri taramasının ötesine geçen, doğrudan işlem yapan otonom ajanlara ilişkin kaygıları öne çıkarıyor. Wikimedia, olay sırasında kullanıcı verilerinin veya temel sistemlerin ele geçirildiğine dair herhangi bir kanıta ulaşılmadığını da özellikle belirtiyor.
Wikimedia Foundation Ürün ve Teknolojiden Sorumlu Başkanı Selena Deckelmann tarafından yayımlanan açıklamada, yürütülen incelemenin ajanların Wikimedia sistemlerini kendi aralarında koordinasyon kurmak amacıyla kullandığını göstermediği ifade edildi. Benzer davranışların Wikimedia tarafından işletilmeyen bazı wiki sistemlerinde görüldüğü belirtilse de kurumun kendi altyapısında böyle bir bulguya rastlanmadı. Bununla birlikte Deckelmann, faaliyetin kaynağını belirlemenin ve olayın kapsamını araştırmanın ciddi emek gerektirdiğini vurguluyor. Vakfa göre asıl sorun yalnızca bu olayda meydana gelenler değil, benzer yapay zekâ ajanlarının gelecekte açık internet altyapısı üzerinde oluşturabileceği yük ve güvenlik riski. Wikimedia bu nedenle şirketlerin kendi ajanlarının davranışlarını daha sıkı biçimde denetlemesi gerektiğini savunuyor.
Wikimedia yapay zekâ ajanlarının wiki düzenlemelerini inceliyor
İnceleme kapsamında OpenAI ile bağlantılı olduğu düşünülen ajanların bazı Wikimedia wikilerinde onay alınmadan düzenleme yaptığı tespit edildi. Bunların neredeyse tamamının test amacıyla kullanılan sandbox bölümlerinde gerçekleştirildiği ve normal kullanıcıların karşısına çıkan içeriklere yansımadığı belirtiliyor. Buna rağmen alıntı ve kaynak işlemlerinde kullanılan bir aracın yapılandırmasında birkaç değişiklik de saptandı. Deckelmann, bu düzenlemelerin söz konusu aracı uzak servislerden veri çekmek için bir tür vekil sunucu olarak kullanmayı amaçlamış olabileceğini söylüyor. Wikipedia’da botların belirli kurallar altında düzenleme yapmasına izin veriliyor, fakat bu olaylarda gerekli onayın alınmadığı ifade ediliyor. İngilizce Wikipedia’nın yapay zekâ tarafından üretilen makalelere yönelik kısıtlamaları da düşünüldüğünde, otonom sistemlerin doğrudan içerik veya yapılandırma değiştirmesi ayrı bir denetim sorunu oluşturuyor.
İLGİNİZİ ÇEKEBİLİR
OpenAI ChatGPT’de reklamları daha görünür hâle getiriyor
“ChatGPT’nin ürettiği metinlere görünmez bir iz ekleniyor
Sam Altman yapay zekânın bazı zararlarının kabul edilebileceğini düşünüyor
OpenAI sözcüsü Sam Altman’a yöneltilen intihar sorusunu kesmek istedi
Google’ın yapay zekâsı arkadaşlarınızı sizin için arayabilir
Wikimedia’nın açıklamasında Etherpad adlı ortak not alma aracının da hedef olduğu bilgisi yer alıyor. Ajanların bu aracı başka internet sitelerinden veri çekmek amacıyla vekil olarak kullanmaya çalıştığı, fakat girişimlerin başarısız olduğu belirtiliyor. Başka ajanların ise yürüttükleri görevlerle ilgili notlar tuttuğu görülmüş. Buna rağmen bu notların ajanlar arasında etkin bir koordinasyona dönüştüğüne ilişkin bulgu elde edilmemiş. Bu ayrım, olayın doğrudan bir sistem ele geçirme vakası olmadığını gösterirken, otonom ajanların kendilerine verilen görevleri yerine getirirken izin sınırlarını aşabilmesinin yarattığı sorunu ortadan kaldırmıyor.
Wikimedia bir süredir yapay zekâ şirketlerinden gelen yoğun veri trafiğinin altyapısı üzerindeki etkisine dikkat çekiyor. Vakfa göre botlar milyonlarca sayfayı taradı ve bu faaliyet özellikle Wikidata ile Wikimedia Commons üzerinde yoğunlaştı. Bunun yanında Wikidata Query Service üzerinden yüz binlerce veri sorgusu gerçekleştirildi. Wikimedia, bu yoğunluğun mayıs ayında yaşanan bir hizmet kesintisine katkıda bulunmuş olabileceğini belirtiyor. Çok sayıda otomatik sistemin aynı anda büyük miktarda veri talep etmesi, ücretsiz ve herkese açık servislerde hem performans sorunlarına hem de işletme maliyetlerinin yükselmesine yol açabiliyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
Wikimedia bu yükü azaltmak amacıyla yapay zekâ eğitimi için özel bir veri seti de sunuyor. Böylece şirketlerin içerikleri tek tek sayfalardan taramak yerine daha verimli bir yöntem kullanması hedefleniyor. Vakıf bunun yanında bazı teknoloji şirketleriyle veri erişimini daha düzenli hâle getiren ticari ve teknik anlaşmalar da yürütüyor. Kaynakta aktarılan bilgilere göre OpenAI şu anda bu şirketler arasında yer almıyor. Bu durum, geniş ölçekli veri erişimi ihtiyacının yalnızca teknik değil, altyapının sürdürülebilirliği açısından da yönetilmesi gereken bir konu hâline geldiğini gösteriyor.
Deckelmann, yapay zekâ şirketlerinin kendi sistemlerini güvenli hâle getirme ve kamuya açık platformlarda oluşturabilecekleri zararı sınırlama konusunda yeterince sorumluluk almadığını savunuyor. Wikimedia’ya göre botlar ve otonom ajanlar internetin kalıcı unsurlarından biri olacak, fakat bu sistemleri geliştiren şirketlerin ortaya çıkabilecek hasarın önlenmesine ve giderilmesine de katkıda bulunması gerekiyor. Vakfın açıklaması OpenAI’ye yönelik doğrudan bir suçlama içermekle birlikte, kurum sistemlerinin ele geçirildiğine veya verilerin sızdırıldığına dair kanıt bulunmadığını da açık biçimde ortaya koyuyor. Bu nedenle eldeki tablo, başarılı bir saldırıdan çok izin denetimi, otomatik sistem davranışı ve aşırı kaynak tüketimi etrafında şekillenen bir altyapı sorunu niteliğinde. Otonom yapay zekâ ajanlarının internette daha fazla işlem yapmaya başlamasıyla birlikte, bu tür sistemlerin hangi sınırlar içinde çalışacağına ilişkin teknik ve yönetsel kuralların daha belirgin hâle gelmesi gerekecek.
