Yapay zekâ alanında çalışan bir grup tanınmış araştırmacı ve Elon Musk’ın da aralarında bulunduğu teknolojik dünyasının bazı tanınmış simaları, yapay zekâ laboratuvarlarına büyük ölçekli yapay zekâ sistemi geliştirme çalışmalarını durdurma çağrısı yaptı. Bir “açık mektup” aracılığıyla gerçekleştirilen çağrıda yapay zekânın “toplum ve insanlık için derin riskler” getirdiğine dair korkulara dikkat çekildi.
Future of Life Institute (Yaşamın Geleceği Enstitüsü) tarafından yayınlanan mektupta; yapay zekâ laboratuvarlarının hâlihazırda “kimsenin – hatta yaratıcılarının bile – anlayamadığı, tahmin edemediği ve emin şekilde kontrol edemediği” makine öğrenmesi sistemleri geliştirmek ve kullanmak için “kontrol dışı bir yarış” içinde olduğu belirtildi.
Mektupta şu ifadeler yer alıyor: “Bu nedenle, tüm yapay zeka laboratuvarlarını GPT-4’ten daha güçlü yapay zeka sistemlerinin eğitimine en az 6 ay ara vermeye çağırıyoruz. Bu duraklama herkese açık ve doğrulanabilir olmalı ve tüm kilit aktörleri içermelidir. Böyle bir duraklama hızlı bir şekilde yasalaştırılamazsa, hükümetler devreye girmeli ve bir moratoryum başlatmalıdır.”
Mektubun imzacıları arasında Elon Musk dışında yazar Yuval Noah Harari, Apple kurucusu Steve Wozniak, Skype kurucusu Jaan Tallinn, politikacı Andrew Yang bulunuyor. Yapay zekâ alanında çalışan ve içlerinde Stuart Russell, Yoshua Bengio, Gary Marcus ile Emad Mostaque’nin de olduğu araştırmacı ve CEO’lar da mektuba imza koydu. Bazı imzacıların isminin mektuba şaka amacıyla ve iradeleri dışında eklenmiş olabileceği de konuşulanlar arasında yer alıyor.
Hâlihazırda Google ve Microsoft gibi büyük şirketler yapay zekâ odaklı yeni ürünlerini sunmak için bir hayli aceleci davranıyor. Bu ortamda güvenlik ve etikle ilgili endişeler de kenara bırakılmış gibi görünüyor. Dolayısıyla yapılan çağrının mevcut iklim üstünde bir etki yapmasına pek ihtimal verilmiyor.
Yine de, mektubun “Şimdi kullanıma sun ve daha sonra düzelt” şeklinde özetlenebilecek yaklaşıma karşı artan tepkinin bir göstergesi olduğu rahatlıkla söylenebilir. Bu itirazlar önümüzdeki dönemde konunun siyasi erkler tarafından gündeme alınmasını da sağlayabilir.
Elon Musk ve arkadaşları bağımsız denetim çağrısı yaptı
Elon Musk ve arkadaşları tarafından kaleme alınan mektupta denetim çağrısı da ön plana çıkıyor: “Yapay zekâ laboratuvarları ve uzmanlar, bu arayı bağımsız kuruluşlar tarafından titizlikle denetlenen gelişmiş bir protokol oluşturmak için kullanmalıdır. Bu protokoller, bunlara bağlı sistemlerin makul bir şüphenin ötesinde güvenli olmasını sağlamalıdır.”
