Wajah sejumlah artis digunakan untuk video porno
Situs penyedia gambar bergerak atau graphic interchange format (GIF), Gfycat, mengatakan pihaknya menghapus konten video porno yang menggunakan perangkat untuk mengganti wajah pemerannya dengan para selebritas.
Emma Watson berada di antara jajaran aktris yang wajahnya ditempelkan dalam salah satu film porno. Perusahaan Gfycat, yang berbasis di San Francisco itu menyebutkan bahwa video tersebut "tidak pantas". Pembuatan video seperti itu menjadi hal biasa setelah perangkat gratis itu diluncurkan bulan ini yang membuat prosesnya menjadi relatif sederhana. Pihak pengembang mengatakan aplikasi FakeApp telah diunduh lebih dari 100.000 kali. Aplikasi tersebut bekerja dengan menggunakan algoritma mesin untuk menciptakan subjek wajah yang dihasilkan komputer. Untuk melakukan ini, dibutuhkan beberapa ratus foto selebriti yang dipertanyakan untuk analisis dan klip video dari orang yang wajahnya harus diganti. Hasilnya - yang dikenal sebagai deepfakes - berbeda kualitasnya. Pencipta FakeApp mengatakan untuk menghasilkan video cukup dengan menekan satu tombol, sesaat setelah mendapat data dari komputer. Tapi dalam beberapa kasus, jika ada dua orang sama wajahnya, hasilnya bisa sangat meyakinkan. Beberapa orang menggunakan teknologi ini untuk membuat konten nonpornografi. Contohnya seperti sebuah video yang menampilkan wajah Kanselir Jerman Angela Merkel yang diganti dengan Presiden Amerika Serikat Donald Trump, dan beberapa di antaranya ada salah satu wajah bintang film yang wajahnya ditukar dengan yang lain. Namun baru-baru ini perangkat tersebut paling banyak digunakan untuk mengganti pemeran film-film porno dengan wajah para aktris dan penyanyi perempuan terkenal. Banyak dari video-video tersebut dibagikan secara online dan mendapat kritikan dari pihak lain. Para pembuat konten mengunggah video mereka ke situs Gfycat. Layanan ini biasanya digunakan untuk mengunduh video singkat yang kemudian di unggah ke situs sosial seperti Reddit dan situs-situs lainnya. Gfycat sendiri menyediakan konten dewasa, namun mulai menghapus beberapa video porno yang wajahnya diganti dengan para selebriti awal minggu ini. Kasus ini pertama kali dilaporkan oleh situs berita Motherboard. "Kami memiliki ketentuan yang mengizinkan untuk menghapus konten-konten yang kami anggap tidak pantas. Kami secara aktif menghapus konten ini," kata Gfycat dalam sebuah pernyataan singkat. Foto-foto penyanyi Ariana Grande juga pernah digunakan untuk mengganti wajah pemeran salah satu film porno. Situs Reddit belum mengomentari masalah ini. Mereka masih memberikan akses kepada klip-klip yang belum dihapus Gfycat dan juga video-video lain yang difasilitasi situs berbeda. Kebijakan kontennya melarang "pornografi yang tak disengaja". Tapi tidak jelas apakah mereka bisa mengidentifikasi klip-klip deepfakes. Lebih jauh mereka membutuhkan aturan yang berisi tentang pengaduan. Namun, Gfycat bukanlah satu-satunya pihak yang menghapus paksa sejumlah konten yang dianggap tidak pantas. Pemilik hak atas beberapa konten eksplisit menuntut agar klip-klip diblokir berdasarkan hak cipta. Selain itu, layanan obrolan Discord menutup sebuah kelompok yang didedikasikan untuk membagikan klip tersebut, mengatakan bahwa mereka telah melanggar peraturan tentang pornografi nonkonsensual.