Deretan Fakta Soal Deepfake dan Cara Video Palsu ini Dibuat

Pengertian Lebih Dalam Soal Deepfake

Istilah deepfake pertama kali ramai dibicarakan awal 2018 silam, di mana jurnalis Josh Brandon dari Fox News menyebut bahwa istilah deepfake adalah kependekan dari deep learning (pembelajaran mendalam, merujuk pada kecerdasan buatan) dan fake (palsu).

Ini adalah teknik untuk membuat sintesis citra manusia berdasarkan kecerdasan buatan, di mana sebuah gambar atau video bisa digabungkan ke sumber video menggunakan teknik pembelajaran mesin yang diberi nama "generative adversarial network."

Dikembangkan di Ranah Akademis

Berbicara soal sejarah, pengembangan awal dari deepfake sebenarnya terjadi di ranah akademis melalui deretan penelitian dan riset. Bahkan, di sebuah sub bidang dari Ilmu Informatika yakni computer vision, penelitian soal deepfake sudah dilakukan.

Yang jadi praktik paling awal dari deepfake, diduga adalah proyek Video Rewrite di tahun 1997, oleh Christoph Bregler, Michele Covell, dan Malcolm Slaney. Proyek ini diunggah di ACM Digital Library. Proyek ini berupa modifikasi rekaman video seseorang yang sedang berbicara, untuk menggambarkan orang tersebut mengucapkan kata-kata dari trek audio berbeda.

Hal ini dilakukan dengan menggunakan pembelajaran mesin yang secara otomatis melakukan animasi ulang terhadap struktur wajah yang mengikuti trek audio yang diucap.

Proyek serupa, namun lebih canggih, diulang pada 2017 oleh Supasorn Suwajanakorn, Steven M. Seitz, serta Ira Kemelmacher-Shlizerman. Ketiganya membuat program bernama "Synthesizing Obama" yang memodifikasi video presiden Barack Obama untuk berbicara pernyataan sang presiden di momen lainnya. Proyek ini berkontribusi besar terkait teknologi fotorealistik ang mensintesis bentuk mulut mengikuti audio.

Berikut contoh videonya:

Juga Dikembangkan Secara Amatir

Deepfake meraih kepopulerannya secara amatir, yakni lewat platfrom Reddit. Kebetulan, yang memopulerkan adalah sebuah akun yang bernama deepfakes. Deepfakes dan para pengguna Reddit lainnya pun mengkreasi deepfake secara amatir, dan akhirnya saling mengunggah video deepfake editan mereka ke Reddit.

Salah satu yang paling viral adalah disematkannya wajah Nicolas Cage ke berbagai film-film Hollywood. Media mainstream yang memberitakan soal deepfake pertama kali adalah Vice, di mana pembahasannya mengerucut soal deepfake di komunitas online seperti Reddit. Artikel tersebut diikuti dengan artikel serupa yang menyoroti ramainya pornografi berbasis deepfake, yang juga ramai saling ditukar di Reddit.

Reddit sendiri akhirnya ambil tindakan untuk memblokir thread yang membahas deepfake atas dasar maraknya pembagian pornografi berbasis deepfake di sana. Melansir laporan dari The Daily Dot, tak cuma Reddit, Twitter juga melakukan hal serupa. Bahkan platform pornografi online PornHub juga memblokir pornografi palsu berbasis deepfake di websitenya.

Deepfake di Pornografi

Seperti yang telah dijelaskan di atas, pornografi deepfake populer dari platform Reddit. Sebuah akun bernama deepfake ini berhasil memviralkan sebuah video yang kini telah diblokir, berupa video porno dengan wajah bintang Star Wars Daisy Ridley (gambar di atas).

Selain itu, ia juga memposting beberapa video porno palsu dengan wajah selebriti lainnya di antaranya Gal Gadot, Emma Watson, Katy Perry, Taylor Swift, dan Scarlett Johansson. Tentu, semuanya tidak nyata. Semuanya adalah video yang dibuat dengan AI.

2019 Merdeka.com

Vice menyebut di 2017 bahwa konten pornografi deepfake ini makin lama kualitasnya makin baik, sehingga makin sulit untuk dibedakan dengan video yang asli.

Yang terbaru, menurut sebuah perusahaan keamanan siber bernama Deeptrace, lebih dari 90 persen konten deepfake adalah pornografi. Hal ini berdasarkan studi dari hampir 15.000 konten deepfake.

Disebut, semua konten deepfake ini menarget kaum wanita, di mana ini adalah bentuk pelecehan online dan platform baru "revenge porn", sebuah istilah yang merujuk kepada penyebaran konten pribadi ke publik tanpa konsensus.

Oleh karena itu, regulasi deepfake terkait pornografi dibuat. Undang-undang ini menyebut bahwa warga California bisa menyeret pembuat deepfake pornografi tanpa persetujuan ke meja hijau.

Deepfake di Politik

Deepfake di ranah politik adalah aspek yang panas belakangan ini, menjelang pemilu presiden AS pada 2020 mendatang. Video deepfake di ranah politik digunakan untuk menyebar informasi palsu dari sumber yang terlihat benar. Hal ini bahkan sudah membuat parlemen ambil tindakan.

Pasalnya, sebuah video deepfake berisi informasi palsu berujung viral. Video tersebut berisi Nancy Pelosi yang merupakan ketua DPR di AS, diedit untuk mengucapkan kata-kata kasar.

Akhirnya gubernur negara bagian California menandatangani rancangan undang-undang soal deepfake khusus untuk negara bagian di pesisir barat AS tersebut.

"Dalam konteks pemilihan umum, kemampuan untuk memanipulasi pidato atau perilaku kandidat yang salah dan tak pernah terjadi, membuat teknologi deepfake jadi alat baru yang kuat dan berbahaya, dan jadi senjata bagi mereka yang ingin mengkampanyekan misinformasi untuk membingungkan calon pemilih," tulis salah satu anggota parlemen dari Demokrat yakni Marc Bergman, yang merupakan pengusul RUU ini.

Hal ini ia anggap sebagai pengancam demokrasi jika deretan penyalahgunaan tetap tidak diregulasi undang-undang.

Undang-undang ini akan berlaku tahun depan, dengan pengecualian untuk outlet berita, acara atau konten satir dan parodi, serta video deepfake yang memiliki disclaimer yang jelas.

Bagaimana Deepfake Dibuat

Video pornografi deepfake makin bertambah jumlahnya karena alat yang digunakan untuk membuatnya memang mudah ditemukan, ungkap para peneliti Deeptrace.

Laporan tersebut mencatat bahwa sebuah aplikasi komputer bernama DeepNude, bisa dengan mudah membuat video wanita yang berbusana jadi tidak menggunakan sehelai benang pun.

Aplikasi ini sendiri telah dibuat offline oleh foundernya sendiri, melansir laporan dari Quartz, sehingga tak bisa diakses lagi. Meski demikian, dari laporan yang sama, aplikasi ini masih dapat dengan mudah ditemukan di situs torrent dan repositori bersifat open source seperti GitHub.

Bahkan, ada akun anonim yang menawarkan aplikasi DeepNude yang lebih "canggih", sekaligus akses tanpa batas, dengan membayar sebesar USD 20. Para peneliti dari Deeptrace akhirnya berkesimpulan bawa software ini kemungkinan akan terus menyebar, dan bermutasi seperti virus. Bahkan, kemampuan DeepNude akan makin mudah diakses dan sulit dilawan.

Tak cuma DeepNude, terdapat beberapa portal lain dengan kemampuan deepfake serupa. Menurut laporan, salah satu software mengharuskan membayar USD 2,99 per video, dan membutuhkan 250 gambar subjek yang akan disematkan ke video porno. Dalam dua hari, sebuah video porno berbasis deepfake sudah jadi.

Menggunakan Software

Salah satu software yang digunakan untuk mengkreasi konten deepfake adalah FakeApp. Aplikasi ini menggunakan artificial neural network, GPU, dan tiga hingga empat gigabit storage untuk membuat video deepfake.

Untuk informasi detil, software ini butuh materi visual dari objek yang akan disematkan ke video. Dari sini pembelajaran mesin akan menggunakan algoritma untuk membuatnya semirip mungkin.

FakeApp sendiri akan membutuhkan ratusan foto wajah untuk dipelajari berbagai fitur wajah hingga ekspresinya. Jika tidak ada, Anda cukup mengunggah sebuah video yang berisi wajah seseorang tersebut, nantinya FakeApp akan melakukan ekstraksi lewat tiap bingkai video tersebut.

Selanjutnya, prosesnya berupa Training yang berupa mengkonversi wajah A ke Wajah B. Ini adalah tugas dari neural network, dengan bantuan dari GPU atau kartu grafis dari komputer Anda. Setelah proses ini selesai, setiap bingkai dari video akan diproses yang dimulai dari pemotongan wajah dari proses Training, lalu menggabungkan wajah tersebut ke video asli, lalu semuanya digabungkan jadi satu video.

Berikut hasil video deepfake yang dibagikan oleh seorang developer independen bernama Alan Zucconi.