OpenAI, güvenlik ve emniyet uygulamalarında önemli değişikliklere giderek yeni bir bağımsız denetim komitesi kurduğunu duyurdu. Bu hamleyle dikkat çeken bir değişiklik de, CEO Sam Altman‘ın artık bu güvenlik komitesinde yer almaması oldu.
Yeni kurulan Güvenlik ve Emniyet Komitesi’ne (SSC), Carnegie Mellon Üniversitesi Makine Öğrenimi Bölümü Direktörü Zico Kolter başkanlık edecek. Komitenin diğer önemli üyeleri arasında Quora CEO’su Adam D’Angelo, emekli ABD Ordusu Generali Paul Nakasone ve Sony Corporation’ın eski Genel Danışmanı Nicole Seligman bulunuyor.
Bu komite, Haziran 2024’te kurulan ve Altman’ın da yer aldığı önceki Güvenlik ve Emniyet Komitesi’nin yerini alıyor. İlk komite, OpenAI’nin projeleri ve operasyonları için kritik güvenlik ve emniyet kararlarına yönelik tavsiyeler sunma görevini üstlenmişti.
Yeni SSC, yalnızca tavsiye vermekle sınırlı olmayacak; büyük model sürümleri için güvenlik değerlendirmelerini denetleme yetkisine sahip olacak ve model lansmanları üzerinde gözetim yapacak. Ayrıca, güvenlik endişeleri yeterince ele alınana kadar bir sürümü erteleme yetkisi de bulunacak.
Bu yeniden yapılandırma, OpenAI’ın yapay zeka güvenliğine yönelik taahhüdü konusunda artan eleştirilerin ardından gerçekleşti. Şirket, Superalignment ekibini dağıtması ve güvenliğe odaklanan kilit personelin ayrılması nedeniyle daha önce eleştirilmişti. Altman’ın güvenlik komitesinden çıkarılması, şirketin güvenlik denetiminde çıkar çatışması olasılıklarını gidermeye yönelik bir adım olarak görülüyor.
OpenAI’ın son güvenlik girişimleri ayrıca güvenlik önlemlerini artırma, çalışmalarında daha fazla şeffaflık sağlama ve dış kuruluşlarla işbirliği yapma planlarını da içeriyor. Şirket, ABD ve Birleşik Krallık Yapay Zeka Güvenliği Enstitüleri ile, yapay zeka güvenliği risklerini ve güvenilir yapay zeka standartlarını araştırmak üzere işbirliği anlaşmalarına imza attı.
OpenAI güvenlik stratejilerini genişletiyor
Bu son adımlar, OpenAI’ın yapay zekanın güvenli ve şeffaf şekilde geliştirilmesine yönelik uzun vadeli hedeflerinin bir parçası olarak değerlendiriliyor. Güvenlik komitesinin daha fazla yetkiye sahip olması, yapay zeka modellerinin sorumlu bir şekilde piyasaya sürülmesini sağlamayı amaçlıyor.
