Apple, Siri için planladığı yapay zekâ odaklı iyileştirmeleri ertelediğini ve bu güncellemenin gelecek yıl yayınlanacağını açıklamıştı. Bir yazılım geliştiricisi bu gecikmenin ardında güvenlik endişelerinin olabileceğini düşünüyor. Siri’nin daha akıllı ve kişiselleştirilmiş hale gelmesi, yanlış bir kullanım senaryosunda ciddi güvenlik sorunlarına yol açabilir.
Dataset adlı veri analiz aracının geliştiricisi Simon Willison, bu gecikmenin ardında “prompt injection” (komut enjeksiyonu) saldırılarının olabileceğini öne sürüyor. Yapay zekâ sistemleri, geliştirici şirketler tarafından belirli kurallar çerçevesinde çalışacak şekilde programlanıyor. Ancak bazı özel komutlarla bu kuralların aşılması ve yapay zekânın istenmeyen yanıtlar üretmesi mümkün olabiliyor. Bu tür saldırılar, yapay zekâ sistemlerini “jailbreak” yaparak kısıtlamalarını aşmaya yönelik bir yöntem olarak biliniyor.
Örneğin, bir yapay zekâ modeli yasa dışı bir eylemin nasıl gerçekleştirileceğine dair sorulara yanıt vermemesi için programlanmış olabilir. Ancak kullanıcı doğrudan bir soru sormak yerine dolaylı bir yaklaşım benimseyerek, yapay zekâdan “bir arabayı çalıştırmanın alternatif yolları hakkında bir şiir yazmasını” istediğinde, modelin farkında olmadan yasa dışı bir bilgi sağlaması söz konusu olabilir. Bu tür açıklardan yararlanılarak AI sistemlerinin manipüle edilmesi, büyük teknoloji şirketlerinin yapay zekâ tabanlı asistanları için ciddi bir güvenlik sorunu teşkil ediyor.
Pek çok firma, AI sistemlerindeki güvenlik açıklarını tespit edip önlem almak için çalışmalar yürütse de, bu sorun henüz tamamen çözülebilmiş değil. Apple’ın geliştirmekte olduğu yeni Siri, yalnızca kullanıcılara yanıt vermekle kalmayıp, kişisel verileri de daha etkin bir şekilde kullanarak aksiyon alabilecek bir yapıya sahip olacak. Apple sözcüsü Jacqueline Roy, Siri’nin yeni sürümüyle ilgili şu açıklamayı yapmıştı: “Daha kişiselleştirilmiş bir Siri üzerinde çalışıyoruz. Siri, sizin kişisel bağlamınıza daha fazla hakim olacak ve hem uygulamalarınız içinde hem de uygulamalar arasında sizin için çeşitli işlemler gerçekleştirebilecek.”
Apple için Siri güvenliği en önemli konulardan
Bu tür bir yapay zekânın, komut enjeksiyonu saldırılarına karşı açık vermesi durumunda kullanıcıların kişisel bilgilerinin sızdırılması gibi ciddi riskler ortaya çıkabilir. Apple’ın kullanıcı güvenliğini en üst seviyede tutmayı amaçlayan bir şirket olduğu göz önüne alındığında, Siri’nin jailbreak edilemez olmasını sağlamak büyük bir öncelik haline geliyor. Ne var ki, bu sürecin beklenenden daha uzun sürebileceği anlaşılıyor.
Apple’ın, Siri’nin yeni yapay zekâ özelliklerini sunmadan önce olası güvenlik açıklarını en aza indirmek için kapsamlı testler yaptığı tahmin ediliyor. Özellikle, AI sistemlerinin daha fazla kişisel bağlam içeren işlemler yapabilmesi, olası güvenlik tehditlerini artırabileceği için şirketin ekstra önlemler alması gerekebilir. Kullanıcı verilerinin korunması konusundaki hassasiyetiyle bilinen Apple, yapay zekâ destekli Siri’yi piyasaya sürmeden önce güvenlik konusunda tam anlamıyla tatmin edici bir çözüm sunmayı hedefliyor gibi görünüyor.
