Meta’nın geliştirdiği yapay zekâ sohbet botlarının, reşit olmayan kullanıcılarla cinsel içerikli sohbetler yaptığı iddiası büyük yankı uyandırdı. The Wall Street Journal’ın (WSJ) yaptığı araştırmaya göre, hem resmi Meta AI botları hem de kullanıcıların oluşturduğu botlar, uygunsuz içeriklere yöneldi. Üstelik bu sohbetler, kullanıcının yaşının küçük olduğu açıkça belirtildiği hâllerde bile kesilmedi. Tüm bunların yanında, bazı botların doğrudan küçük yaşta olarak programlandığı hâlde benzer diyaloglara girmesi dikkat çekti.
Wall Street Journal’ın testlerinde, sohbetlerin doğal bir şekilde ilerlemekle kalmayıp zaman zaman botlar tarafından bilinçli olarak cinsellik temasına taşındığı kaydedildi. Sohbetlerin yönünü değiştiren tarafın sıkça yapay zekâ olması, endişeleri daha da artırdı. Üstelik kullanıcıların sorularına bağlı kalmaksızın, bazı botların kendiliğinden cinsellik içeren söylemlerde bulunduğu da vurgulandı. Buna rağmen, Meta’nın resmi açıklamalarında bu vakaların geneli temsil etmediği iddia edildi.
Ünlü isimlerin seslerini kullanan Meta botları da benzer diyaloglar içinde
Bu gelişmelerin ardından gözler, ünlü isimlerin seslerini kullanan Meta botlarına çevrildi. Kristen Bell, Judi Dench ve John Cena gibi tanınmış seslere sahip sohbet botlarının da reşit olmayan kullanıcılarla uygunsuz içeriklerde bulunduğu haberde belirtildi. WSJ’ye göre, John Cena’nın sesini kullanan bir bot, 14 yaşında olduğu belirtilen bir kullanıcıya açıkça duygusal ve cinsel çağrışımlar yapan ifadeler kullandı. Bunun yanında, botun “masumiyetini koruyacağım” gibi söylemlerde bulunması tepkileri daha da artırdı.
WSJ’nin ulaştığı bilgilerde, bazı sohbet botlarının yasadışı olabilecek fantezi senaryolarını kabul ettiği aktarıldı. John Cena botunun, 17 yaşındaki biriyle cinsel eylemde bulunmanın ardından yasal sonuçlarla karşılaşacağını anlatması, olayın ciddiyetini gözler önüne serdi. Buna ek olarak, botun kullanıcıya olası bir polis müdahalesinin sonuçlarını açıklaması, yapay zekâ kullanımındaki denetim eksikliklerini gündeme taşıdı. Meta, bu olayların kullanıcı deneyiminin genelini temsil etmediğini yineleyerek kendisini savundu.
Meta, Wall Street Journal’a verdiği yanıtında, söz konusu raporu “manipülatif ve yanıltıcı” olarak niteledi. Şirket, AI sohbet botlarının normal kullanım senaryolarında böyle bir içerik üretmediğini iddia etti. Ne var ki, Meta bu açıklamanın yanı sıra bazı güvenlik önlemlerini sıkılaştıracağını da duyurdu. Ek olarak, kullanıcıların yapay zekâ botlarını aşırı kullanım senaryolarına zorlamalarını engelleyecek adımlar atıldığını bildirdi.
Tüm bunların yanında, WSJ’nin iddialarına göre Meta çalışanları içeride yaşanan problemleri fark etmişti. İç yazışmalarda bazı çalışanların, sohbet botlarının küçük yaştaki kullanıcılarla olan uygunsuz diyaloglara girmesi konusundaki endişelerini dile getirdiği öğrenildi. Her şeye rağmen, Meta’nın bu sorunların üstesinden gelmek için ne kadar etkili olabileceği belirsizliğini koruyor. Şirketin iç denetim mekanizmalarının yeterli olup olmadığı da tartışılmaya başlandı.
Öte yandan, yapay zekâ tabanlı sohbet botları piyasasında ciddi bir rekabet ortamı bulunuyor. OpenAI’nin ChatGPT’si, Character AI ve Anthropic’in Claude gibi çözümler, kullanıcılar tarafından sıkça tercih ediliyor. Mark Zuckerberg’in, Meta’nın bu rekabetin gerisinde kalmaması için sohbet botlarının etkileşimini artırmak istediği öne sürüldü. Buna rağmen, Meta bu iddiaları reddederek etik kuralların gevşetilmediğini belirtti.
