Bilim insanlarının, yanlış bilgilendirme kampanyaları ve farklı kötü amaçlar için kullanılabilen "deepfake" teknolojisinin her geçen gün daha da zorlaşan tespit problemine bir çözüm ürettiği öğrenildi.
TNW tarafından yapılan habere göre yeni bulunan analiz sistemiyle, deepfake videosundaki kişinin gözlerinden yansıyan ışıklarla videonun sahte veya gerçek olduğunu anlamak mümkün oluyor.
Bahsedilen tespit sistemi, ABD'nin New York bölgesinde bulunan Buffalo Üniversitesi'ndeki bilim insanları tarafından üretildi. Araç, portre tarzı fotoğraflar üzerinde yapılan testlerde deepfake görüntülerini tespit etme noktasında yüzde 94 başarı gösterdi.
Sistemin, ışıkla aydınlatıldığında yansıtıcı desenler oluşturan aynaya benzer bir yüzeye sahip korneaların analiz edilmesiyle sahtelikleri tespit ettiği aktarıldı.
Gerçek bir fotoğraf üzerinde test edildiğinde aynı yansıma gözükürken deepfake teknolojisiyle oluşturulan görsellerde durumun farklı olduğu belirtildi. Öyle ki, GAN'lar (Generative Adversarial Networks) tarafından sentezlenen deepfake görüntülerinin, tipik olarak bahsedilen benzerliği yakalayamadığı görüldü.
Yeni yapay zeka sistemiyle, deepfake ile elde edildiğinden şüphelenilen herhangi bir görseldeki yüzün, yüz haritası çıkarılıyor ve her bir göz küresine yansıyan ışıklar analiz ediliyor. Sistemde, benzerliğe göre oluşturulan bir puan sistemi belirlendi. Buna göre, puan düştükçe görseldeki yüzün deepfake olma olasılığının o kadar yüksek olduğuna karar veriliyor.
Bütün deepfake görüntüleri için yeterli değil
Üretilen yapay zeka aracının, gözlere yansıyan ışık kaynağına dayanarak gerçekliği tespit etmesinin bariz bir eksiklik olduğu düşünülüyor. Sistemin yalnızca portre fotoğraflarda çalışıyor olması da ayrıca bir eksiklik olarak nitelendirildi. Nitekim, görseldeki yüzün kameraya bakmaması halinde tespit edilmesinin pek mümkün olmadığı da görülüyor. Ancak en azından bu sistemin, deepfake ürünlerinin hepsini olmasa da bir kısmını tespit edebilmesinden dolayı değerli olduğu belirtiliyor.