Facebook Yeni Zelanda katliamının görüntülerinin platforma yeniden yüklenmesini engelleme konusunda kayda değer bir çaba göstermişti. Ancak şirketin şiddet görüntülerinin yayılmasını engelleme konusundaki çalışması ancak canlı yayın sona erdikten sonra başlayabilmişti. Facebook terör eylemlerinin etkisinin artmasında kullanılan canlı yayın özelliğinin istismarını engelleyecek değişiklikler yapmaya hazırlanıyor.
Facebook, başkan yardımcısı Guy Rosen’in imzasını taşıyan bir blog yazısıyla Yeni Zelanda katliamının ardından yaşanan sürecin yönetimindeki başarılarını ve eksiklerini değerlendirdi. Rosen yazısında gelecekte bu tarz videoların yayılmasını engellemek adına atılacak adımlar konusunda da bilgi verdi.
Facebook’un yapay zekâsının intihar veya başka kişisel zararlar içeren videoları tespit edebildiğini belirten Rosen, Yeni Zelanda’daki katliamın yayını sırasında ise yapay zekânın devreye girmediğini dile getirdi. Yapay zekânın bu konuda harekete geçmek için daha fazla eğitim verisine ihtiyacı olduğunu söyleyen Facebook yöneticisi, “Şükürler olsun ki bu olaylar nadir görüldüğü için veri toplamak zorlaşıyor” ifadesini kullandı.
Sosyal ağdan kısa süre önce yapılan açıklamada, saldırı sırasında yapılan canlı yayının 200 kişi tarafından izlendiği, bu yayının tekrarına ise 4 bin kişinin ulaştığı belirtilmişti.
Facebook’un sistemi yeniden yüklenmeye çalışılan katliam videosunu 1.2 milyon kez engellemeyi başarsa da, 300 bin video bir şekilde platforma sızmıştı. Rosen, kötü niyetli kullanıcıların videoyu birden fazla kez düzenleyerek engelin etrafından dolaşabildiğini ve videonun 800 farklı versiyonunun tespit edildiğini belirtti.
Facebook terör videolarının yeniden aynı hızda yayılmasını engellemek adına yapay zekâdan daha etkin biçimde yararlanmayı planlıyor. Bunun için yapay zekâyı ses tespit özelliğiyle güçlendirecek olan şirket, canlı yayınlanan video oyunlarıyla benzer içerikler arasındaki farkların da daha net biçimde anlaşılabilmesini amaçlıyor. Sosyal ağ, yapay zekânın canlı yayınlardaki sorunların tespiti konusunda da hızlanmasını hedefliyor.
