Çocukların ve gençlerin dijital ortamlardaki güvenliğine odaklanan Common Sense Media, OpenAI’ın genç kullanıcılar için geliştirdiği ChatGPT sürümünü değerlendirdi ve mevcut güvenlik önlemlerinin yeterli olmadığı sonucuna ulaştı. Kuruluş, ChatGPT for Teens adıyla sunulan deneyimi gençler açısından “kabul edilemez risk” olarak nitelendirdi. Ağustos ayında tanıtılan ve gençlerin yapay zekâdan daha güvenli biçimde yararlanmasını amaçlayan özelliklerin, OpenAI’ın daha önce açıkladığı koruma düzeyini sağlayamadığı öne sürüldü. İnceleme özellikle ebeveyn bildirimleri, kriz durumlarında verilen yanıtlar ve öğrencilerin ödevlerini yapay zekâya yaptırmasını engelleyen mekanizmalar üzerinde yoğunlaştı. OpenAI ise değerlendirmede kullanılan test yöntemine itiraz ederek sonuçların sistemin gerçek çalışma biçimini yansıtmadığını savundu.
Common Sense Media, uygulamalar, dijital hizmetler ve eğlence içeriklerini çocukların güvenliği açısından değerlendiren kâr amacı gütmeyen bir kuruluş olarak faaliyet gösteriyor. Kuruluşun Gençlere Yönelik Yapay Zekâ Güvenliği Enstitüsü tarafından yürütülen inceleme, ChatGPT’nin genç kullanıcılar için belirlenen koruma mekanizmalarını farklı senaryolar üzerinden ele aldı. Paylaşılan bulgulara göre sistem, ebeveynlere bildirim göndermesi gereken bazı durumlarda beklenen uyarıları iletmedi. Bunun yanında, gençlerin ruh sağlığı açısından hassas konularda yardım istediği görüşmelerde verilen yanıtların da yeterli olmadığı belirtildi. ChatGPT’nin öğrencilerin öğrenmesini desteklemek yerine bazı durumlarda ödevlerini doğrudan yapmaya devam etmesi ise raporda dile getirilen bir başka eleştiri oldu.
Kuruluşun Gençlere Yönelik Yapay Zekâ Güvenliği Enstitüsü İcra Direktörü Tom Siegel, mevcut koruma araçlarının ailelerde gerçekte olduğundan daha yüksek bir güvenlik algısı oluşturabileceğini söyledi. Siegel’e göre bir genç, kendine zarar verme düşünceleri hakkında ChatGPT ile bir saat boyunca konuşmasına rağmen ebeveynine herhangi bir bildirim gönderilmeyebiliyor. Bu durum, özellikle riskli davranışların erken fark edilmesini amaçlayan ebeveyn denetimlerinin işlevselliği konusunda soru işaretleri doğuruyor. Siegel, OpenAI’ın söz konusu eksiklikleri gidermesi ve koruma mekanizmalarının güvenilirliğini bağımsız testlerle ortaya koyması gerektiğini ifade etti. Kuruluş, bu koşullar sağlanana kadar ChatGPT’nin yalnızca yetişkinlerin kullanımına sunulması gerektiği görüşünü dile getirdi.
OpenAI, ChatGPT’nin ebeveyn denetimlerine yönelik test sonuçlarına itiraz etti
OpenAI, Common Sense Media tarafından yayımlanan değerlendirmeye katılmadığını açıkladı. Şirket sözcüsü Eric Porterfield, gençlerin güvenliğinin öncelikleri arasında bulunduğunu ve ailelerin çocuklarının yapay zekâ kullanımını yönlendirebilmesi için çeşitli araçlar geliştirdiklerini belirtti. Porterfield, bağımsız değerlendirmeleri desteklediklerini fakat söz konusu testlerin ChatGPT’nin gençlere yönelik güvenlik sistemlerinin pratikte nasıl çalıştığını doğru biçimde yansıtmadığını savundu. OpenAI’ın incelemesine göre Common Sense Media’nın gerçekleştirdiği testlerin büyük bölümü, ebeveyn denetimlerinin etkinleştirilmesi tamamlanmadan başlamış ve sona ermiş olabilir. Şirket, böyle bir durumda elde edilen bulguların ebeveynlere gönderilen güvenlik bildirimlerinin tasarlandığı şekilde çalışıp çalışmadığını ortaya koyamayacağını ifade etti.
İLGİNİZİ ÇEKEBİLİR
“ChatGPT’nin ürettiği metinlere görünmez bir iz ekleniyor
OpenAI ChatGPT’de reklamları daha görünür hâle getiriyor
OpenAI sözcüsü Sam Altman’a yöneltilen intihar sorusunu kesmek istedi
Wikimedia’dan OpenAI ajanları için dikkat çeken iddia
Sam Altman yapay zekânın bazı zararlarının kabul edilebileceğini düşünüyor
OpenAI’ın açıklamasında, gençlerin yapay zekâyı öğrenme ve üretim amacıyla kullanabilmesinin yanı sıra ebeveynlerin de bu süreçte gerekli denetim araçlarına sahip olmasının hedeflendiği vurgulandı. Şirket, güvenlik mekanizmalarını geliştirmek amacıyla uzmanlarla çalışmayı sürdüreceğini bildirdi. Bununla birlikte OpenAI, Common Sense Media’nın dile getirdiği bildirim sorunlarının hangi koşullarda ortaya çıktığına ilişkin somut bir teknik açıklama paylaşmadı. Dolayısıyla taraflar arasındaki görüş ayrılığı yalnızca güvenlik önlemlerinin varlığıyla değil, bunların hangi koşullarda ve ne kadar güvenilir çalıştığıyla da ilgili. Özellikle hesapların ilk kez birbirine bağlandığı durumlarda ebeveyn denetimlerinin etkinleşme süresi, tartışmanın merkezindeki başlıklardan biri hâline geldi.
Günün Öne Çıkan Fırsatları
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
Common Sense Media ise OpenAI’ın itirazlarının ardından test yöntemini ve ulaştığı sonuçları savundu. Tom Siegel, inceleme başlamadan önce yeme bozukluklarıyla ilgili bildirimler ve çalışma modu gibi gençlere yönelik özelliklerin tamamen kullanıma sunulduğunu OpenAI ile doğruladıklarını belirtti. Siegel’in aktardığına göre OpenAI, testlerin tamamlanmasının ardından yeni bağlanan hesaplarda ebeveyn bildirimlerinin etkinleşmesinin birkaç saat sürebileceğini kendilerine bildirdi. Testlerde kullanılan bazı hesapların bu süre içinde ebeveyn hesaplarına bağlandığı kabul edilirken diğer hesapların çok daha uzun süredir bağlı olmasına rağmen herhangi bir bildirim üretmediği ifade edildi. Kuruluş, bu nedenle bildirimlerin kriz durumlarında güvenilir biçimde çalışmadığı yönündeki değerlendirmesini değiştirmedi.
Siegel, değerlendirme sonuçlarının yayımlanmadan önce OpenAI ile paylaşıldığını ve bunun şirkete ürünündeki eksiklikleri giderme fırsatı vermek amacıyla yapıldığını söyledi. Common Sense Media, çocukların güvenliğinin sağlanabilmesi için yapay zekâ sistemlerinin bağımsız kuruluşlar tarafından kapsamlı biçimde incelenmesi gerektiğini savunuyor. Kuruluş, OpenAI’ın test yönteminin doğruluğunu tartışmak yerine raporda ortaya konulan sorunlara odaklanmasını istiyor. Öte yandan, mevcut açıklamalar testlerde kullanılan bütün senaryoların ve teknik koşulların ayrıntılarını ortaya koymadığı için tarafların iddiaları arasında kesin bir sonuca ulaşmak mümkün görünmüyor. Buna rağmen ebeveyn bildirimlerinin hangi aşamada etkinleştiğinin kullanıcılar tarafından açık biçimde anlaşılması, benzer güvenlik araçlarının değerlendirilmesinde dikkate alınması gereken konular arasında bulunuyor.
ChatGPT’nin gençlere yönelik özellikleri, yetişkin kullanıcılarla aynı yapay zekâ altyapısını kullanırken yaş grubuna uygun ek sınırlamalar getirmeyi amaçlıyor. Ebeveyn denetimleri ve eğitim odaklı kullanım seçenekleri, bu yaklaşımın kullanıcılar tarafından doğrudan görülebilen unsurlarını oluşturuyor. Ne var ki bir güvenlik özelliğinin uygulamada bulunması, her koşulda beklenen sonucu vereceği anlamına gelmiyor. Özellikle kendine zarar verme düşünceleri veya yeme bozuklukları gibi hassas konularda, sistemin verdiği yanıtların niteliği kadar gerektiğinde uygun destek kaynaklarına yönlendirme yapabilmesi de belirleyici oluyor. Ebeveynlere gönderilen uyarıların zamanlaması ve tutarlılığı ise bu araçların gerçek kullanım koşullarındaki değerini doğrudan etkiliyor.
Common Sense Media ile OpenAI arasındaki anlaşmazlık, gençlerin yapay zekâ kullanımında güvenlik önlemlerinin nasıl test edilmesi gerektiğine ilişkin soruları gündeme getiriyor. OpenAI, incelemenin özellikle hesap etkinleştirme süreci nedeniyle hatalı sonuçlara ulaşmış olabileceğini belirtirken Common Sense Media, daha uzun süre bağlı kalan hesaplarda da bildirim alınmadığını vurguluyor. Bu iki açıklama, sistemin bütün koşullarda güvenilir çalıştığını veya tamamen işlevsiz olduğunu kesin olarak ortaya koymuyor. Bağımsız ve tekrarlanabilir testler, ebeveyn bildirimlerinin etkinleşme koşullarının açıkça belirtilmesi ve kriz senaryolarındaki yanıtların değerlendirilmesi, tartışmalı noktaların netleşmesine yardımcı olabilir. Mevcut durumda ChatGPT’nin gençlere yönelik koruma araçlarının yeterliliği konusunda taraflar arasında görüş ayrılığı sürüyor.
