Kullanıcıların yüzlerini film ve TV karakterlerinin yerine yerleştirmelerini sağlayan yapay zeka uygulaması Çin’de tartışmalara neden oldu.
Zao gizlilik endişesi ve yüz tanıma sistemlerini aldatmak için kullanılabilecek sorunlara yol açtı.
29 Ağustos’ta Çin’de ortaya çıktı ve çılgınca popüler oldu.
Ancak, geliştiricilerin Momo’yu, görüntüleri üzerindeki haklardan mahrum bırakan son kullanıcı sözleşmesi için özür diledi.
Ve uygulama viral hale geldikçe, Zao’nun sahipleri, kullanıcıların pahalı bir şekilde satın alınan sunucu kapasitelerini yutmakta olduklarını yayınladı.
Popülerliği, Çin’in web devi Alibaba’ın bir parçası olan Alipay’in güvence altına alınmasına neden olarak, uygulamanın yarattığı sözde derin videoların Yüz Tanıma Ödemesi Ödülünü aldatmak için kullanılmasının imkansız olduğunu söyledi.
Zao nedir ve neden bu kadar tartışmalı?
Zao, filmlerden ve TV şovlarından klipler kullanan ve kullanıcının telefonundan özçekimler kullanarak bir karakterin yüzünü şaşırtıcı bir şekilde değiştiren yüz takası eden bir uygulamadır.
Ancak bazı kullanıcılar, uygulamanın şart ve koşulları içerisinde yer alan “geliştiricilere kalıcı ücretsiz uygulaması üzerinde oluşturulan herhangi bir resmi kullanmak için küresel hakkı verdi” koşulunu Hong Kong’un South China Morning Post gazetesine bildirdi .
Makalede, “geliştiricilerin, bu izni, kullanıcının izinsiz olarak üçüncü taraflara devretme hakkı vardı”, dedi.
Shanghai merkezli The Paper , Momo daha sonra tartışmalı maddeyi silmiş ve bir uygulamanın kullanıcıların biyometrik bilgilerini saklamayacağını ya da “aşırı kullanıcı bilgisi toplamayacağını” söyleyerek bir özür diledi .
Ancak popüler sosyal medya platformu WeChat, “güvenlik riskleri” gerekçesiyle kullanıcıların platformları aracılığıyla Zao videoları yüklemelerini hızla yasakladı.
Uygulama ayrıca , Zao’nun Sina Weibo sosyal medya hesabında, ilk gecesinde 7 milyon yuan (805.000 £) bütçesinde yer alan aylık sunucu kapasitesinin üçte birini kullandığını söyleyerek kendi başarısının kurbanı olabilir .
Ertesi gün, kullanıcılar yavaş bir servisten şikayet ederken, sunucular tam kapasite kullanıyordu.
Zao bankaları dolandırmak için kullanılabilir mi?
870 milyondan fazla kullanıcısı olan dünyanın en büyük mobil ödeme platformu olan Alipay, kullanıcılarının Zao’da oluşturulan videolarının sistemlerini dolandırmak için kullanılamayacağına dair güvence verdi.
Birçok Alipay kullanıcısı , bir dükkanda veya restoranın satış noktasında bir kameraya bakarak kullanıcının ödeme doğrulamasını sağlayan Smile to Pay sisteminden yararlanıyor .
Alipay’in sahibi olan Alibaba, fotoğraf veya derin sahtekar videolar tarafından kandırılmadığından emin olmak için gelişmiş sahtekarlığa karşı koruma algoritmaları kullandığını söyledi.
Şirket , Weibo hesabında , “Çok sayıda çevrimiçi yüz değiştirme yazılımı var – ancak ne kadar gerçekçi olursa olsun, yüz ödeme sistemini kırmak imkansız” .
Sistem yüzle eşleşmeye çalışmadan önce bile, sunulan görüntünün sabit mi, video mu yoksa yazılım simülasyonu mu olduğunu tespit ediyor.
Alibaba, “Bu, yüz değiştiren teknolojiden kaynaklanan sahtekarlığı önler” dedi.