OpenAI, dil modeli ChatGPT’nin ürettiği yanlış bilgiler yüzünden ilk kez iftira davasıyla karşı karşıya. The Verge tarafından verilen habere göre, ABD’nin Georgia eyaletinde bir radyo sunucusu olan Mark Walters, ChatGPT’nin kendisi hakkında gerçek olmayan bir suçlama yaptığını iddia ediyor. ChatGPT, Walters’ın kar amacı gütmeyen bir kuruluşu dolandırdığı ve bu kuruluştan para aşırdığı şeklinde bir ifade üretmiş. Bu ifadeyi, bir gazeteci olan Fred Riehl’in bir isteği üzerine oluşturmuş. Walters, 5 Haziran’da Georgia’nın Gwinnett County’deki üst mahkemeye dava açtı ve OpenAI’den belirsiz bir miktarda tazminat talep ediyor.
Bu dava, ChatGPT ve diğer sohbet botlarının yanlış bilgi üretmesi konusundaki yaygın şikayetler göz önüne alındığında dikkat çekici. Bu sistemler, gerçeği kurgudan ayırt etme konusunda güvenilir bir yol sunamıyor ve bir bilgi istendiğinde, özellikle de soran kişi, öne sürdüğü şeyin doğru olduğunu onaylamasını isterse, sıklıkla tarihler, gerçekler ve rakamlar uyduruyor.
ChatGPT davası yargıyı test edebilir
Genellikle, bu uydurmalar kullanıcıları yanıltıyor veya zamanlarını boşa harcıyor. Ancak, bu tür hataların zarara yol açtığı durumlar ortaya çıkmaya başladı. Bu durumlar, ChatGPT’nin öğrencilerin makalelerini yazmak için yapay zekâ (AI) kullandığını iddia etmesi üzerine bir profesörün tüm sınıfı dersten kalmakla tehdit etmesi ve ChatGPT’yi kullanarak sahte hukuk davaları araştıran bir avukatın olası yaptırımlarla karşı karşıya kalması gibi örnekler içeriyor.
Amerika Birleşik Devletleri’nde 230 sayılı kanun genel olarak, bir şirketin, platformlarında barındırılan ve üçüncü bir tarafça üretilen bilgiler için hukuki sorumluluk taşımasını engelliyor. Ancak, bu korumaların AI sistemlerine uygulanıp uygulanmayacağı belirsiz. Çünkü AI sistemler sadece veri kaynaklarına bağlantı sağlamaz, bilgiyi yeni baştan üretir. Bu da yanlış bilgilerin üretilmesine yol açar.
Georgia’da Walters tarafından açılan iftira davası, bu yapıyı test edebilir. Dava, gazeteci Riehl’in ChatGPT’ye bir federal mahkeme davasını özetlemesini istediğini ve ChatGPT’nin bu davanın ayrıntılı ancak yanlış bir özetini oluşturduğunu belirtiyor. Bu özet, bazı doğru bilgiler içerirken Walters’a karşı yanlış suçlamalar da içeriyordu. Özet, Walters’ın İkinci Yasa Vakfı adlı bir silah hakları derneğinden 5 milyon dolardan fazla para aşırdığına inanıldığını belirtti. Ancak Walters hiçbir zaman bu suçla suçlanmadı.
