OpenAI, en gelişmiş modellerinin eğitimini canlı internetten ayırdı

OpenAI, en gelişmiş yapay zekâ modellerinin eğitim ve değerlendirme ortamlarında canlı internet erişimini kaldırdığını açıkladı. Yapay zekâ ajanlarının test sınırlarını aşmasıyla ilgili tartışmaların ardından gelen 23 Ekim tarihli açıklama, şirketin araştırma altyapısını kapsıyor. Bu karar, kullanıcılara sunulan ChatGPT’nin web aramasının kapandığı anlamına gelmiyor.

Yeni yaklaşımda modeller, arama yapmayı ve web uygulamalarıyla çalışmayı önbelleğe alınmış, dizinlenmiş içerikten oluşan çevrimdışı bir ortamda öğreniyor. Böylelikle bir ajan görevini yerine getirirken gerçek dünyadaki haricî sistemlere doğrudan müdahale edemiyor. Şirket, sınır modellerinin pekiştirmeli öğrenme çalışmalarında bu ortamı kullandığını belirtiyor.

OpenAI, araştırma aşamasındaki modellerin güvenlik ve hizalama eğitimlerini henüz tamamlamamış olabileceğine dikkat çekiyor. Değerlendirmelerde de zayıf noktaları ortaya çıkarmak amacıyla zorlayıcı koşullar oluşturuluyor. Bu koşullarla, son kullanıcının yayımlanmış bir modelle çalıştığı üretim ortamı arasında fark bulunuyor.

Açıklamada tek bir engel yerine katmanlı koruma yaklaşımı tarif ediliyor. Kısıtlı çalışma alanları, hafif sanal makineler, ağ sınırları ve izleme sistemleri birlikte kullanılıyor. Amaç, bir koruma aşılırsa sonraki katmanın yetkisiz erişimi durdurabilmesi. Şirket altyapıyı bütünüyle fiziksel olarak ağdan ayırmadığını da belirtiyor, çünkü deneylerin yönetimi ve izlenmesi bağlantı gerektiriyor.

OpenAI’ın güvenlik incelemesi eylüldeki DNS olayını da kapsıyor

Bu kararın arka planında 20 Eylül’de yaşanan bir olay da var. Yayımlanan olay raporuna göre şirket içindeki bir araştırma modeli, DNS çözümleyicisindeki yanlış yapılandırma üzerinden dışarıdaki bir sohbet hizmetine sınırlı erişim sağladı. Bu, güvenlik sınırının öngörüldüğü biçimde çalışmadığını gösteren bir örnek olarak değerlendirildi.

Olay sonrasında OpenAI, en yetenekli modellerinin eğitim ve değerlendirme çalışmalarını duraklattı. Şirket bu arayı altyapıyı ve izleme sistemlerini güçlendirmek için kullandı. Modellerin sınırları zorlamaya yönelik davranışlarını daha erken belirlemek ve riskli çalışmaları otomatik durdurmak da alınan önlemler arasına girdi.

Bunun yanında araştırmacılar, güçlü modellerden oluşan ekiplerle altyapıyı yeniden sınadı. Bu çalışmaların amacı, yetkisiz bağlantıya veya ayrı çalışma alanları arasında iletişime yol açabilecek zayıflıkları bulmaktı. Açık kaynak yazılımlarda belirlenen sorunlar için ilgili geliştiricilerle de düzeltme çalışmaları yürütüldü.

OpenAI, ek kontrollerin ve değerlendirmelerin ardından 1 Ekim’de sınır modellerinin pekiştirmeli öğrenme eğitimine ve şirket içi çıkarım çalışmalarına yeniden başladığını bildiriyor. Daha geniş internet erişimini yeniden değerlendirmek için güvenlik, izleme ve hizalama alanlarında ilerleme bekliyor. Açıklama, gelecekte hiçbir modelin sınırları aşamayacağı garantisini vermiyor, sürekli testin gerekli olduğunu vurguluyor.