Önemli bir OpenAI araştırmacısı olan Jan Leike, bu ayın ortalarında “güvenlik endişeleri” nedeniyle istifa etti ve rakip AI araştırma şirketi Anthropic’e katıldı. Leike, X platformunda yaptığı paylaşımda, “ölçeklenebilir denetim, zayıftan güçlüye genelleme ve otomatik hizalama araştırmaları” üzerine çalışacağını belirtti.
Anthropic, kendisini OpenAI’ın karşıtı olarak konumlandıran ve kamu yararına faaliyet gösterdiğini belirten bir şirket. Financial Times’a göre, OpenAI’ın kurucu üyelerinden bazılarının OpenAI’dan ayrılarak kurduğu Anthropic, daha güvenli ve etik yapay zekâ geliştirme misyonunu benimsedi. Microsoft ile yapılan 1 milyar dolarlık anlaşmanın ardından OpenAI’ın ticari çıkarlara daha fazla odaklanmaya başlaması, bu ayrılışın temel sebeplerinden biri olarak gösteriliyor.
Jan Leike’nin Anthropic’e katılması, AI alanında yaşanan dramatik gelişmelerden sadece biridir. Leike, istifasının ardından yaptığı açıklamalarda, “Genel yapay zeka (AGI) ile ilgili ciddi sonuçlara varmakta geciktik. Bunlara en iyi şekilde hazırlanmaya öncelik vermeliyiz,” ifadelerini kullanmıştır. Leike, sadece bu şekilde AGI’nin tüm insanlık için fayda sağlayabileceğini belirtmiştir.
Leike, OpenAI’da “Süper Uyumlaştırma” takımında çalışıyordu ve bu rolü, Anthropic’teki yeni görevleriyle paralellik gösteriyor. İstifasının ardından yaptığı paylaşımlarda, OpenAI’ın yeterli hesaplama kaynakları sağlamadığını ve bu durumun başarılı sonuçlar alınmasını engellediğini eleştirmişti. Leike’nin yeni görevinde, zeki sistemlerin insan değerlerine uygun şekilde tasarlanması üzerinde duracağı belirtilmişti.
Anthropic, etik ilkeleri AI modellerinin eğitimine entegre eden “bir anayasaya dayalı AI” yaklaşımını benimsiyor. Bu model, Birleşmiş Milletler Evrensel İnsan Hakları Beyannamesi gibi kaynaklardan alınan kavramları içeriyor. Kamuoyunun görüşlerini toplayarak etik ilkeleri AI sistemlerine dahil etme çabaları, Anthropic’in misyonunun temel taşlarından sayılıyor.
OpenAI’ın kurucu ortaklarından Ilya Sutskever de bu ay içinde görevinden ayrılan bir diğer önemli isim olmuştu. Geçtiğimiz kasım ayında CEO Sam Altman’a karşı başarısız bir darbe girişiminde bulunduktan sonra ofise geri dönmediği bildirilen Sutskever’in henüz gelecekteki planları belirsizdir. Ancak değerlerinin Anthropic ile uyumlu olduğu göz önüne alındığında, Leike’nin ardından Sutskever’in de Anthropic’e katılması olası bir senaryo olarak değerlendirilmektedir.
Yapay zeka dünyasında yaşanan bu önemli hareketlilik, güvenlik ve etik konularının giderek daha fazla ön plana çıktığını göstermektedir. Leike’nin ve muhtemelen Sutskever’in de katılımıyla Anthropic, güvenli ve insan odaklı yapay zeka geliştirme misyonunu daha güçlü bir şekilde sürdürecektir. Bu değişimler, yapay zekanın geleceği konusunda kritik bir dönemin habercisi olarak değerlendirilebilir.
Teknoblog’u X, Flipboard, Google Haberler ve Instagram‘da takip et!
