Düzmece görüntüler oluşturulmasını sağlayan Deepfake teknolojisinin berbata kullanım yolları açık bir formda görülebilse de, her gün yeni ve bazen de garip sayılabilecek örnekler ortaya çıkmaya devam ediyor. Philadelphia Inquirer ve Harrisburg’den Patriot News’in bildirdiği üzere polis, Pennsylvania, Chalfont sakini Raffaela Spone‘u, kızının amigo ekibi Victory Vipers‘tan rakiplerini kovdurmak için deepfake kullanmak cürmüyle tutukladı. Kanun güçlerinin söylediğine nazaran Spone, AI tarafından değiştirilerek gençlerin içki, sigara içerken yahut çıplak bir halde görüldükleri fotoğrafları koçlara gönderdi.
- Deepfake Nasıl Anlaşılır? Yeni Prosedür Bulundu!
Polis bu durumdan birinci olarak Temmuz ayında, kurbanlardan birinin anonim bir numaradan iletiler alması ile haberdar oldu ve daha sonra benzeri öyküleri olan başkaları de ortaya çıktı. Polis memurları, bu numaraları bir tele-pazarlama merkezli siteye ve daha sonra da Spone’un konutunda kullanılan IP adresine takip ederek iletileri Spone’a bağladılar. Bayanın akıllı telefonunda yapılan bir araştırma ile de kendisini bahsi geçen numaralarla ilişkilendiren ispatlar bulundu.
Spone, bir çocuğu siber taciz etme ve ilgili hatalarla suçlanmakta. Polis, kızının annesinin davranışlarından haberi olduğuna yönelik rastgele bir ispat bulunmamasından ötürü kıza karşı dava açmış değil.
Facebook, TikTok ve Twitter üzere toplumsal ağlar şimdiden deepfake’leri yasaklayarak yayılma ihtimallerini azalmaya çalışıyor. Lakin bu durum, direkt taciz davranışlarını etkilemiyor ve yaşanan bu olay da uydurma görsellerin oluşturulmasının kolaylığını ortaya çıkarıyor. İnandırıcı gözüken bir manzara yaratmak için bir uzman olmanız gerekmiyor. Her ne kadar deepfake’leri belirlemek için pek çok araştırma bulunuyor olsa da, bu belirleme sistemleri anca fotoğraflardan şüphelenirseniz ve önemli bir hasar yaratmadan yakalayabilirseniz işe yarıyor…