Bacaan 9 Menit
Seiring dengan teknologi yang berkembang pesat, teknologi deepfake sering digunakan untuk membuat pornografi ilegal. Lalu, jika AI jadi alat kejahatan seksual, bagaimana hukumnya di Indonesia? Apa jerat pidana bagi pelaku yang membuat deepfake porn?
Terima kasih atas pertanyaan Anda.
Artikel di bawah ini adalah pemutakhiran kedua dari artikel dengan judul sama yang dibuat oleh Renata Christha Auli, S.H. yang pertama kali dipublikasikan pada 19 Oktober 2023, dan pertama kali dimutakhirkan pada 19 Januari 2024.
Seluruh informasi hukum dalam Klinik Hukumonline disediakan semata-mata untuk tujuan pendidikan dan bersifat umum. Silakan mempelajari Pernyataan Penyangkalan untuk informasi selengkapnya. Untuk memperoleh nasihat hukum yang sesuai dengan kasus Anda, silakan berkonsultasi langsung dengan Konsultan Mitra Justika.
Sebelum menjawab pertanyaan Anda, sebaiknya kita pahami terlebih dahulu apa yang dimaksud dengan deepfake. Deepfake adalah teknologi rekayasa atau teknik sintetis citra manusia yang didasari pada kecerdasan buatan atau artificial intelligence (“AI”).[1] Kemudian, Marissa Koopman (et.al) menjelaskan deepfake sebagai berikut:[2]
The deepfake algorithm allows a user to switch the face of one actor in a video with the face of a different actor in a photorealistic manner.
Artinya, deepfake adalah istilah yang diberikan pada algoritma, dimana algoritma tersebut memungkinkan penggunanya untuk mengubah wajah dari satu aktor menjadi wajah dari aktor lain dalam video yang berbentuk photorealistic[3] yakni meniru objek visual yang nyata.[4] Selain dalam bentuk video, teknologi deepfake juga dapat digunakan untuk merekayasa gambar.[5]
Kemudian, teknologi deepfake seringkali disalahgunakan sehingga dapat menimbulkan kejahatan seperti penggunaan teknologi deepfake dalam menyebarkan konten pornografi. Hal ini dikenal dengan deepfake porn.[6]
Pada dasarnya, deepfake porn termasuk dalam Kekerasan Gender Berbasis Online (“KGBO”). Menurut Ellen Kusuma dan Nenden Sekar Arum, berikut adalah dampak yang mungkin dialami para korban dan penyintas KBGO, dalam hal ini deepfake porn, antara lain:[7]
Lebih lanjut, pelaku deepfake porn dalam melakukan aksinya akan mencuri otoritas tubuh korban dengan merekayasa korban melakukan sesuatu yang pelaku inginkan tanpa izin dan bahkan sepengetahuan korban. Pelaku bertindak seolah ia memiliki kuasa sepenuhnya akan korban yang berada dalam dunia maya. Hal ini termasuk dalam perbuatan kriminal, dimana pelakunya melakukan beberapa kejahatan sekaligus ketika membuat deepfake porn,[8] sebagai contoh mencuri data pribadi, menyebarkan informasi dengan muatan yang melanggar kesusilaan, dan juga manipulasi/pemalsuan data.
Berdasarkan jenis-jenis kejahatan tersebut, maka kami akan merujuk pada ketentuan dalam UU PDP, UU Pornografi, atau UU 1/2023 tentang KUHP baru yang berlaku sejak 2 Januari 2026.[9] Berikut masing-masing ulasannya.
Sebagaimana telah kami uraikan, teknologi deepfake digunakan untuk merekayasa gambar atau video menggunakan wajah orang lain dalam pembuatannya. Wajah sendiri masuk pada kategori data yang bersifat spesifik berjenis data biometrik,[10] yang dilindungi oleh UU PDP dan peraturan pelaksananya, yaitu PP 33/2026.
Menurut Penjelasan Pasal 4 ayat (2) huruf b UU PDP, data biometrik adalah data yang berkaitan dengan fisik, fisiologis, atau karakteristik perilaku individu yang memungkinkan identifikasi unik terhadap individu, seperti gambar wajah atau data daktiloskopi. Data biometrik juga menjelaskan pada sifat keunikan dan/atau karakteristik seseorang yang harus dijaga dan dirawat, termasuk namun tidak terbatas pada rekam sidik jari, retina mata, dan sampel DNA.
Sebagaimana dijelaskan sebelumnya bahwa tindakan pembuatan deepfake porn dilakukan tanpa izin bahkan pengetahuan dari korban. Jika dihubungkan dengan aturan pelindungan data pribadi, perbuatan seperti itu harus berdasar pada persetujuan dari korban, sebagai dasar pemrosesan data pribadi.[11]
Atas dasar tersebut, perbuatan membuat deepfake porn sudah jelas merupakan perbautan yang melawan hukum. Pelaku deepfake porn menurut hemat kami telah melanggar ketentuan Pasal 66 UU PDP, yang berbunyi:
Setiap orang dilarang membuat data pribadi palsu atau memalsukan data pribadi dengan maksud untuk menguntungkan diri sendiri atau orang lain yang dapat mengakibatkan kerugian bagi orang lain.
Pelanggaran atas pasal tersebut dapat dikenai sanksi pidana berupa pidana penjara paling lama 6 tahun dan/atau pidana denda paling banyak kategori V,[12] yaitu sebesar Rp500 juta.[13]
Apabila mengacu pada UU Pornografi, penyalahgunaan deepfake porn termasuk dalam unsur-unsur yang diatur di Pasal 1 angka 1 UU Pornografi sebagai berikut:
Pornografi adalah gambar, sketsa, ilustrasi, foto, tulisan, suara, bunyi, gambar bergerak, animasi, kartun, percakapan, gerak tubuh, atau bentuk pesan lainnya melalui berbagai bentuk media komunikasi dan/atau pertunjukan di muka umum, yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan dalam masyarakat.
Di dalam Pasal 4 ayat (1) UU Pornografi melarang setiap orang memproduksi, membuat, memperbanyak, menggandakan, menyebarluaskan, menyiarkan, mengimpor, mengekspor, menawarkan, memperjualbelikan, menyewakan, atau menyediakan pornografi yang secara eksplisit memuat:
Berhubungan dengan sanksi pidana terhadap pelanggaran pasal di atas dapat merujuk pada ketentuan Pasal VII angka 38 UU 1/2026 yang mengubah Pasal 407 UU 1/2023, yang berbunyi:
Kesimpulannya, saat ini di Indonesia belum terdapat aturan yang secara spesifik dan komprehensif mengatur mengenai penyalahgunaan AI berupa deepfake porn. Akan tetapi, karena kejahatan deepfake porn dilakukan melalui kecerdasan buatan, memiliki muatan pornografi, dan pelaku menggunakan wajah orang lain dalam pembuatan deepfake porn, maka kita dapat merujuk pada UU PDP, UU Pornografi, atau UU 1/2023.
Demikian jawaban dari kami, semoga bermanfaat.
Dasar Hukum:
Referensi:
[1] Itsna Hidayatul Khusna dan Sri Pangestuti. Deepfake, Tantangan Baru Untuk Netizen. Jurnal Promedia, Vol. 5, No. 2, 2019, hal. 2
[2] Marissa Koopman (et.al). Detection of Deepfake Video Manipulation. Proceedings of the 20th Irish Machine Vision and Image Processing Conference, University of Amsterdam & Netherlands Forensic Institute, 2018, hal. 133
[3] Ivana Dewi Kasita. Deepfake Pornografi: Tren Kekerasan Gender Berbasis Online (KGBO) Di Era Pandemi Covid-19. Jurnal Wanita dan Keluarga, Vol. 3, No. 1, 2022, hal. 18
[4] Lysy C. Moleong (et.al). Implementasi Cluster Computing Untuk Render Animasi. E-Jurnal Teknik Elektro dan Komputer, Vol. 2, No. 3, 2013, hal. 4
[5] Eva Istia Utawi dan Neni Ruhaeni. Penegakan Hukum Terhadap Tindak Pidana Pornografi Menurut Peraturan Perundang-Undangan Tentang Pornografi Melalui Media Sosial. Bandung Conference Studies: Law Studies, Vol. 3, No. 1, 2023, hal. 368
[6] Ivana Dewi Kasita. Deepfake Pornografi: Tren Kekerasan Gender Berbasis Online (KGBO) Di Era Pandemi Covid-19. Jurnal Wanita dan Keluarga, Vol. 3, No. 1, 2022, hal. 17
[7] Ellen Kusuma dan Nenden Sekar Arum. Memahami dan Menyikapi Kekerasan Gender Berbasis Online: Sebuah Panduan. Southeast Asia Freedom of Expression Network, 2019, hal. 10
[8] Ivana Dewi Kasita. Deepfake Pornografi: Tren Kekerasan Gender Berbasis Online (KGBO) Di Era Pandemi Covid-19. Jurnal Wanita dan Keluarga, Vol. 3, No. 1, 2022, hal. 22
[9] Pasal 624 Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (“UU 1/2023”)
[10] Pasal 4 ayat (2) huruf b Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi (“UU PDP”)
[11] Pasal 16 ayat (1) jo. Pasal 20 ayat (1) dan (2) huruf a UU PDP
[12] Pasal 68 UU PDP jo. Pasal II ayat (5) huruf e Undang-Undang Nomor 1 Tahun 2026 tentang Penyesuaian Pidana (“UU 1/2026”)
[13] Pasal 79 ayat (1) huruf e UU 1/2023
[14] Pasal 79 ayat (1) huruf f UU 1/2023
