Midjourney adlı yapay zekâ tabanlı görsel üretme platformu, son zamanlarda Trump’ın tutuklandığı ve Papa’nın şık bir ceket giydiği gibi sahte fotoğrafların viral olması üzerine, ücretsiz deneme hizmetlerini durdurdu. Şirketin CEO’su ve kurucusu David Holz, bu değişikliği, “olağanüstü talep ve deneme sürümünün kötüye kullanımı” nedeniyle aldıklarını belirtti.
Daha önce Midjourney, kullanıcıların Discord üzerinden kayıt olup, aylık 10 dolarlık abonelik ücreti ödemeden önce 25 ücretsiz görsel üretme hizmeti sunuyordu. Yapay zekânın yanlış bilgi yayma potansiyeli hakkında uzmanlar yıllardır uyarıyor olsa da, şimdiye kadar sahte görsellerin kolayca tespit edilebilmesi nedeniyle bu, büyük bir sorun teşkil etmemekteydi.
Ancak, 15 Mart’ta Midjourney’in yazılımının 5. sürümünü yayınlamasıyla, insanları gösteren görsellerin kalitesi önemli ölçüde arttı. Önceleri yapay zekâ üretimi görsellerin belirgin özellikleri arasında olan şekilsiz eller artık daha az problem teşkil ediyor. Aydınlatma ve kumaş dokusu da daha gerçekçi hale geldi ve sistem, sayısız ünlü ve kamuoyu figürünün görsellerini üretebiliyor.
Bu gelişmeler, Trump’ın tutuklanışı, şık giyinen Papa, Paris’teki protestoların arasında yürüyen Fransa Cumhurbaşkanı Emmanuel Macron ve Elon Musk ile Alexandria Ocasio-Cortez’in el ele tutuştuğu gibi sahte fotoğrafların viral olmasına yol açtı.
İlginizi çekebilir
Midjourney, sahte görsellerin siyasi hassasiyet içeren tehdidine karşı şimdilik hata düzeltme işlemi uygulamış gibi görünüyor, ancak moderasyon politikalarında önemli bir değişiklik yapmamıştır. Şirketin içerik kısıtlamaları, OpenAI’in DALL-E’si gibi bazı rakip hizmetlere göre daha hoşgörülü, ancak Stable Diffusion gibi diğerlerinden daha kısıtlayıcıdır.
Midjourney, kullanıcı şikayetleri doğrultusunda farklı ülkelerdeki konularla ilgili yasaklı kelimeler listesi bulunduruyor. CEO David Holz, geçen yıl bu konuda bir açıklama yaparak, listeyi tamamen paylaşmamayı tercih ettiklerini ve bunun “drama”yı en aza indirmek için yapıldığını ifade etti. Holz, “Yasaklı kelimeler listesini, özellikle drama yaratmak için uğraşanlar dışında neredeyse kimse fark etmiyor. Bu, hizmet şartlarımızda ‘araçlarımızı drama yaratmak için kullanmayın’ kuralına aykırıdır.” dedi.
Ancak, Midjourney’in viral olan sahte görselleri sebebiyle yasaklı kelimeler listesini genişlettiği görülüyor. Örneğin, son zamanlarda “tutuklandı” kelimesi yasaklandı. Bu yasaklama, Trump’ın tutuklandığını gösteren Midjourney görselleriyle popüler bir Twitter başlığı oluşturan araştırmacı gazeteci Eliot Higgins’e verilen bir yanıt gibi görünüyor. Higgins, Midjourney’i kullanmaktan men edildiğini belirtiyor.
Şu anda Midjourney, ücretsiz kullanıcıların görsel üretmesine izin vermiyor. Gelecekte bu durum değişebilir. Salı günü, Holz hizmetin yavaş olduğunu ve bunun “GPU eksikliği”nden kaynaklandığını söyledi. Yapay zeka tabanlı görsel üretme, yoğun bilişim süreci gerektiren bir süreçtir ve Midjourney görselleri bulut ortamında üretip kullanıcılarla paylaşıyor. Ancak çarşamba günü, Holz yazılımın kötüye kullanılmasının ücretsiz denemelerin durdurulmasındaki ana neden olduğunu belirtti. Holz, “Denemeleri, kötüye kullanım için yeni güvenlik önlemleriyle tekrar açmayı denedik, ancak yeterli olmadığı için herkesin yararına olacak şekilde tekrar kapattık.” dedi.
