Yapay zeka modelleri heyecan verici olsa da bazı aksiliklere neden olabiliyor. Birkaç gün önce, Papa kirpi ceket giyiyor Bir görüntü ortaya çıktı ve kısa sürede sosyal medyada tanındı. Birçok kişi tarafından gerçek zannedilen bu görüntü aslında bir yapay zeka aracıdır. yolculuk ortasıtarafından oluşturuldu.
Son zamanlarda viral olan tek yapay zeka görüntüsü bu değildi. Eski ABD Lideri Donald Trump’ın tutuklanması gösteriliyor ve yine Midjourney’in yarattığı görüntüler sosyal medyada hızla yayıldı. Gerçek gibi görünen bu görüntüler doğal olarak büyük endişelere yol açtı ve internette gördüğümüz görüntülerin gerçek olup olmadığını gelecekte anlayabileceğimizi ortaya çıkardı. Tartışmalar sürerken Midjourney’den bu konuda bir atak geldi.
Midjourney’nin ücretsiz deneme hakları kötüye kullanım nedeniyle askıya alındı
Midjourney’in kurucusu ve CEO’su David Holz, geçtiğimiz günlerde yaptığı bir duyuru ile yapay zekanın ücretsiz denemesini durdurduklarını açıklamıştı. Holz, bunun nedeni olarak olağanüstü talep ve berbat kullanımıgösterdi.
Midjourney daha önce herkesin 25 ücretsiz görüntüleme oluşturmasına izin veriyordu. Bu deneme süresi bittiğinde aylık 10 dolarlık aboneliğe geçmek gerekiyordu. Ancak son zamanlarda dezenformasyona yol açan uydurma görüntüler nedeniyle bu haklar ortadan kalktı.
Holz daha önce Midjourney’in derin sahte görüntüler yapmak için kullanılamayacağını söylemişti. Ancak 15 Mart’ta gelen 5. versiyon, fotoğrafların kalitesinin muazzam bir şekilde artmasına ve gerçekten de ayırt edilemez insan tasvirlerinin yaratılmasına izin verdi. Bunun ardından sosyal medyada gerçek zannedilen sahte görüntüler ortaya çıkmaya başladı.
Alınan tedbirler bu sahte görüntüleri engellemeye yetmiyor.
İçeriği konusunda çok kısıtlayıcı politikalara sahip olmayan Midjourney’de “farklı ülkelerden gelen şikayetlere göre” belirlenmiş bazı kelimeler bulunuyor. yasaklayıcıydı . Ancak bu kelimelerin tamamını içeren liste hiç paylaşılmadı. Geçersiz görüntülerin yayılmasının ardından “tutuklandı” (Donald Trump görüntüsü) gibi kelimeler eklenerek bu liste genişletildi.
Ancak bunun çok fazla bir değişikliğe neden olduğu söylenemez. The Verge tarafından yapılan denemeler, “tutuklandı” yerine “kelepçeli” gibi ifadeler kullanıldığında yine örnek sonuçlar verdi. Bu da daha sıkı kısıtlamalara ihtiyaç olabileceğini ortaya çıkardı.
Kısacası yapay zeka araçları her ne kadar büyüleyici olsa da büyük sorunları da beraberinde getiriyor. Bu stilistik teknolojiler çok hızlı bir şekilde gelişmeye devam ederken şirketlerin nasıl adımlar atacağını hep birlikte göreceğiz.