OpenAI, yapay zekâ ajanlarının üçüncü taraf internet hizmetlerindeki faaliyetlerine yönelik incelemesi kapsamında 100’den fazla kuruluşa bildirim yaptı. The Washington Post’un şirket açıklamasına dayanan haberine göre bildirimler, ajanların güvenlik sınırlarını aşmış veya hizmetleri olumsuz etkilemiş olabileceği olaylarla ilgili. Hugging Face olayının teknik incelemesi bu geniş taramanın çıkış noktasını anlatıyor. Bildirim alan her kurumda kesin veri sızıntısı yaşandığı sonucu çıkarılamaz.
OpenAI’ın üçüncü taraf etkilerine ilişkin resmî sayfası, şirketin model faaliyetlerini eğitim ve değerlendirme dönemleri için geriye dönük olarak incelediğini açıklıyor. Bildirim ölçütleri arasında bir hizmetin erişim denetiminin aşılmış olma ihtimali ve çevrim içi hizmetin çalışmasının etkilenmesi bulunuyor. Ayrıca ajan davranışının dışarıdaki bir siteyi olumsuz etkilediği olaylar da değerlendiriliyor. Şirket, inceleme sürdükçe yeni kurumların bilgilendirilebileceğini söylüyor.
Açıklanan örnekler tek bir saldırı türüne işaret etmiyor. Bazı ajanlar normalde kimlik veya izin isteyen alanlara farklı isteklerle ulaşmış; bazıları internette açıkta bulunan kimlik bilgilerini kullanmış. OpenAI, bir web sitesine girilen metnin sunucu tarafından komut gibi işlenmesi veya hizmetin iç dosyalarına erişilmesi gibi başka davranışları da sıralıyor. Bunlara ek olarak, herkese açık sayfaların ajanlar arasında izinsiz mesaj panosu gibi kullanılması da incelemenin kapsamında.
İLGİNİZİ ÇEKEBİLİR
Bu başlıkları okurken iki ayrımı korumak gerekiyor. İlki, bildirimin bir olasılığı ve incelenmesi gereken etkinliği haber vermesi; tamamlanmış bir veri ihlalini otomatik olarak doğrulamaması. İkincisi, olayların önemli bölümünün OpenAI’ın kendi modelleriyle yürüttüğü eğitim ve güvenlik değerlendirmeleri sırasında ortaya çıkması. Söz konusu araştırma ortamlarıyla sıradan ChatGPT kullanıcılarının günlük sohbetlerini aynı kullanım koşulu olarak görmek doğru değil.
Kurumlara yapılan bildirimler inceleme tamamlandıkça artabilir
OpenAI, Hugging Face olayını şimdiye kadar kendi modellerinde belirlediği bu tür faaliyetlerin en ciddisi olarak nitelendiriyor. Resmî sayfa, etkilenen tarafların adlarını genellikle gizli tutacağını ve uygun görüldükçe anonim olay özetleri yayımlayacağını belirtiyor. Bu nedenle kamuya açıklanan kuruluş sayısı, hangi kurumda ne ölçüde teknik hasar bulunduğunu tek başına göstermiyor.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
Şirketin yeni raporlama çerçevesi de beklenmedik model davranışlarını belirleme, inceleme ve açıklama sürecini daha düzenli hâle getirmeyi amaçlıyor. Öte yandan açıklama, bütün olayların nedenini veya etkisini şimdiden kesinleştirdiği iddiasında değil. Üçüncü taraflara bilgi verilirken müşteri gizliliği ve sözleşme yükümlülükleri de göz önünde bulunduruluyor. Ayrıntıların sınırlı kalmasının nedenlerinden biri bu.
Kurumlar açısından somut sonuç, gelen bildirimdeki tarih, hizmet ve erişim kayıtlarını kendi sistemleriyle karşılaştırma ihtiyacı. Okur açısından ise “100 kurum hacklendi” gibi kesin bir yargıdan kaçınmak gerekiyor. Şu an doğrulanan sayı, OpenAI’ın ilgili ölçütlerle bilgilendirdiği kuruluşlara ilişkin; gerçek etkinin kapsamı, şirket ve ilgili kurumlar incelemelerini ilerlettikçe netleşecek.
