Context.id, JAKARTA - Meningkatnya kasus deepfake pornografi telah mendorong kepanikan banyak wanita di Korea Selatan pada awal bulan September 2024.

Mereka berlomba-lomba menghapus foto-foto diri mereka dari media sosial, khawatir wajah mereka disalahgunakan secara seksual. Polisi Korea Selatan menduga Telegram menjadi platform utama penyebaran konten palsu ini.

Apa itu deepfake?

Deepfake adalah teknologi kecerdasan buatan (AI) yang dapat mengedit atau memanipulasi video atau audio untuk membuat konten palsu yang terlihat realistis.

Teknologi in  dapat mengganti wajah seseorang dalam video dengan wajah orang lain atau bahkan menciptakan wajah yang tidak nyata.

Meskipun deepfake dapat digunakan untuk tujuan kreatif dan edukasi, penggunaannya yang tidak bertanggung jawab dapat menimbulkan masalah serius seperti penyebaran informasi palsu dan pelanggaran privasi.

Contoh-contoh penyalahgunaan teknologi deepfake adalah membuat video palsu untuk manipulasi politik yang menampilkan politisi melakukan tindakan atau mengatakan hal-hal yang tidak pernah mereka lakukan atau katakan.

Menciptakan konten pornografi yang melibatkan orang tanpa persetujuan mereka, dan yang terakhir, memalsukan video atau audio untuk menipu orang lain atau biasa disebut juga sebagai penipuan identitas.

Bagaimana kronologi kasus deepfake di Korea Selatan?

Menurut laporan New York Times di Seoul, kasus ini dimulai ketika pihak berwenang di Korea Selatan menyelidiki lonjakan gambar dan klip video eksplisit seksual yang telah menyebar secara online.

Hal ini dilakukan setelah media lokal melaporkan penyebaran konten-konten yang dibuat menggunakan aplikasi deepfake. 

Ada sekitar 118 laporan video deepfake menyebabkan polisi akhirnya menahan tujuh tersangka laki-laki, enam di antaranya remaja.

Para pemuda dikatakan mencuri gambar media sosial dari teman sekelas perempuan, guru, dan tetangga, dan kemudian menggunakannya untuk membuat materi seksual eksplisit sebelum mengedarkannya di ruang obrolan di aplikasi pesan instan Telegram.

Kejahatan tersebut memicu kepanikan di antara banyak wanita di Korea Selatan, dan Presiden Yoon Suk Yeol mendesak pihak berwenang untuk memberantas pelecehan seksual digital.

“Banyak korban adalah anak di bawah umur dan sebagian besar pelakunya adalah remaja,” kata Presiden Yoon selama rapat kabinet.

Yoon juga mengatakan banyak dari mereka yang menganggap ini sebagai ‘lelucon’, namun sebenarnya ini adalah tindakan kriminal dengan menggunakan teknologi.

Peningkatan tajam penggunaan teknologi deepfake di Korea Selatan menjadi berita utama di negara itu setelah media menemukan saluran Telegram di mana siswi sekolah menengah dan mahasiswi universitas banyak yang menjadi korban.

Bukan hanya warga biasa?

Laporan Security Hero 2023 mengungkapkan sekitar 53% korban deepfake global berasal dari Korsel, dengan penyanyi dan aktris sebagai target utama.

Beberapa agensi aktris terkenal seperti BLACKPINK dan (G)-IDLE ikut buka suara soal kasus kejahatan pornografi dengan teknologi deepfake.

Melansir Korea JoongAng Daily, YG Entertainment, agensi yang menaungi BLACKPINK hingga BabyMonster, menyatakan akan mengambil langkah hukum terhadap video deepfake dengan wajah idol mereka. 

“Kami akan mengambil tindakan terus menerus dan tegas terhadap semua pelanggaran hukum yang terjadi terhadap hak artis kami,” ujar YG Entertainment.

Agensi (G)-IDLE, Cube Entertainment, kemudian merilis pernyataan serupa. 

“Video deepfake jahat yang menyebar secara online sangat merusak reputasi artis kami dan berdampak kepada mental yang parah. Kami mengumpulkan semua data terkait serta akan mengambil tindakan hukum yang tegas tanpa keringanan.”

Beberapa agensi lain yang telah menyatakan sikap, yakni JYP Entertainment selaku agensi TWICE, ITZY dan NMIXX; ADOR selaku agensi NewJeans; serta Woollim Entertainment yang merupakan agensi Kwon Eun-bi.

Mengutip BBC, di Korea Selatan, mereka yang dinyatakan bersalah membuat deepfake seksual eksplisit dapat dipenjara hingga lima tahun dan didenda hingga 50 juta won (US$37.500) atau setara dengan Rp580,50 juta.

Lalu, investigasi di Korea Selatan pun akhirnya sampai kepada Pavel Durov, pria kelahiran Rusia dan pendiri Telegram yang ditangkap oleh otoritas Prancis pada bulan Agustus 2024 kemarin.

Siapakah Pavel Durov dan apa saja kontroversinya?

Mengutip Bisnis, Pavel Valeryevich Durov adalah orang terkaya ke-120 di dunia yang total kekayaannya mencapai Rp241,08 triliun. Dia merupakan pendiri sekaligus CEO Telegram yang memiliki lebih dari 900 juta pengguna.

Telegram merupakan aplikasi pesan instan yang bebas dan mempunyai pengawasan terbatas. Hal ini membuat banyak pemimpin negara menjadi gusar karena mudahnya penyebaran konten-konten disinformasi, kebencian, aktivitas kriminal, hingga teori konspirasi.

Durov memiliki status kewarganegaraan di beberapa negara seperti Uni Emirat Arab, St. Kitts dan Nevis, dan Kepulauan Karibia. Banyaknya status kewarganegaraan yang dimilikinya imbas dari seringnya dia berbuat masalah di beberapa negara. Hingga pada 2021, dia menjadi warga negara Prancis.

Belakangan, pada Agustus 2024, Durov menjadi tahanan kota di Paris karena didakwa dengan berbagai kejahatan, termasuk keterlibatan dalam kejahatan seperti memungkinkan distribusi materi pelecehan seksual anak.

Bagaimana respon Telegram terhadap Korea Selatan?