OpenAI, ChatGPT platformunda ortaya çıkan ve 18 yaş altı kullanıcıların cinsel içerikli konuşmalar başlatmasına izin veren ciddi bir yazılım hatasını doğruladı. Şirket, tespit edilen bu açık üzerinde yoğun şekilde çalıştığını ve kullanıcı güvenliğini sağlamak için düzeltmelerin hızla uygulamaya alındığını belirtti. TechCrunch tarafından yapılan bağımsız testlerle gün yüzüne çıkarılan bu problem, OpenAI’nin mevcut güvenlik politikalarıyla da doğrudan çelişiyor. Özellikle genç kullanıcıların korunmasının öncelikli hedeflerden biri olduğu sıklıkla vurgulansa da, yaşanan durum bu alanda önemli eksiklikler olduğunu gösterdi.
Şirket sözcüleri, ChatGPT’nin reşit olmayan kullanıcılara erotik içerikler sunmaması gerektiğini, ancak yazılımda oluşan bir hata nedeniyle bu kuralın ihlal edildiğini açıkladı. OpenAI’nin model davranışlarını yönlendiren kurallarına göre, hassas içerikler yalnızca bilimsel, tarihî veya haber amaçlı bağlamlarda izinli. Buna rağmen, meydana gelen hata, bu sınırlamaların dışına çıkılmasına sebep oldu. Şirket, söz konusu açığın giderilmesi için hızlıca müdahalede bulunulduğunu ifade etti.
OpenAI, ChatGPT’yi hassas konulara karşı eğitiyor
Şubat ayında OpenAI, ChatGPT’nin hassas konulara karşı daha esnek yanıtlar verebilmesi için teknik güncellemeler gerçekleştirmişti. Bu güncellemelerle beraber, kullanıcıları belirli konuların hizmet şartlarını ihlal edebileceği konusunda uyaran mesajlar da platformdan kaldırıldı. Tüm bunların yanında, bu değişikliklerin, kullanıcı deneyimini iyileştirmeyi amaçladığı açıklanmıştı. Ne var ki, değişiklikler sonucunda özellikle genç kullanıcılar için yeni risklerin ortaya çıktığı da görüldü.
TechCrunch ekibi, 13 ila 17 yaş arası kullanıcılar adına sahte hesaplar oluşturarak sistemdeki güvenlik önlemlerini test etti. Bu testlerde, her hesap için yeni bir tarayıcı oturumu açıldı ve çerezler silindi, böylece ChatGPT’nin geçmiş verileri kullanarak davranış değiştirmesi engellendi. Yapılan denemelerde, çok kısa süre içinde sohbet robotunun cinsel içerikli hikâyeler üretmeye başladığı tespit edildi. Bazı örneklerde, chatbot kullanıcıdan daha spesifik fanteziler ve rol yapma senaryoları hakkında yönlendirme bile talep etti.
Bunun yanı sıra, testler sırasında ChatGPT zaman zaman içerik üretimini kısıtlayarak tam anlamıyla müstehcen detaylar vermeyi reddetti. Ancak, her şeye rağmen, birkaç denemede, cinsel organlar ve cinsel eylemler hakkında açık betimlemeler yapıldığı da kaydedildi. Genellikle bu içeriklerin sonunda, chatbot kullanıcının yaşını sorgulamadı ve yalnızca çok nadir durumlarda yaş sınırlaması hatırlatıldı. Bu durum, mevcut yaş doğrulama sisteminin oldukça zayıf olduğunu gözler önüne serdi.
OpenAI’nin mevcut kurallarına göre, 13 ila 18 yaş arası kullanıcıların ChatGPT’yi kullanabilmesi için ebeveyn onayı gerekiyor. Buna rağmen, kayıt sürecinde bu onayın gerçekten alınıp alınmadığına dair bir kontrol mekanizması bulunmuyor. Geçerli bir e-posta adresi veya telefon numarası sağlandığı sürece, çocuklar kolaylıkla hesap oluşturabiliyor. Bu durum, platformun genç kullanıcılar için taşıdığı riskleri daha da artırıyor.
Bu arada, ChatGPT’nin eğitim dünyasında hızla yayılması da dikkat çekiyor. OpenAI, Common Sense Media gibi kuruluşlarla iş birliği yaparak öğretmenlere yönelik kullanım rehberleri hazırladı. Pew Research Center’ın anketine göre, özellikle Z kuşağı arasında ChatGPT’nin okul ödevlerinde kullanımı büyük ölçüde artmış durumda. Tüm bunlara ek olarak, eğitimde yapay zekâ kullanımının yaygınlaşması güvenlik endişelerini de beraberinde getiriyor.
OpenAI, eğitim amaçlı kullanıcılar için hazırladığı belgelerde, ChatGPT’nin her yaş grubuna uygun içerikler üretmeyebileceğini açıkça belirtiyor. Bunun yanında, öğretmenlere ve eğitimcilere, öğrencilerle birlikte ChatGPT kullanırken dikkatli olmaları gerektiği tavsiye ediliyor. Bu uyarılara rağmen, sistemin mevcut haliyle güvenlik açıklarının sürdüğü net şekilde görülüyor. Özellikle hassas konularda daha sağlam filtreleme mekanizmalarının oluşturulması gerektiği belirtiliyor.
