“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum; ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” imbau Alexander.
Bagi masyarakat yang menjadi korban manipulasi foto, deepfake asusila, maupun pelanggaran hak citra diri, diingatkan dapat menempuh jalur hukum dengan mekanisme yang telah tersedia dalam peraturan perundang-undangan. Termasuk melakukan pelaporan kepada aparat penegak hukum maupun mengirimkan pengaduan melalui Kemkomdigi.
Sebagai informasi, aturan pidana mengenai konten pornografi telah diatur dalam Pasal 172 dan Pasal 407 Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) yang resmi berlaku sejak 2 Januari 2026 lalu.
Adapun Pasal 172 telah menafsirkan pornografi sebagai gambar, sketsa, ilustrasi, foto, suara, bunyi, gambar bergerak, animasi, kartun, percakapan, gerak tubuh, atau bunyi pesan lainnya melalui berbagai bentuk media komunikasi dan/atau pertunjukan di muka umum, yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan dalam masyarakat.
Lebih lanjut, pada Pasal 407 ayat (1) KUHP baru telah mengatur ancaman pidana penjara paling singkat 6 bulan dan paling lama 10 tahun atau pidana denda sesuai ketentuan bagi orang yang di antaranya memproduksi, membuat, memperbanyak, menggandakan, menyebarluaskan, serta menyiarkan konten pornografi.
Untuk diketahui, X akun resmi keamanannya keamanannya telah menegaskan bahwa pihak mereka mengambil tindakan terhadap konten ilegal di X, termasuk Materi Pelecehan Seksual Anak dengan menghapusnya, menangguhkan akun secara permanen, dan bekerja sama denganpemerintah daerah dan penegak hukum jika diperlukan.
“Siapa pun yang menggunakan atau mendorong Grok untuk membuat konten ilegal akan menanggung konsekuensi yang sama seperti jika mereka mengunggah konten ilegal. Untuk informasi lebih lanjut tentang kebijakan kami, silakan lihat halaman bantuan kami untuk Aturan X lengkap dan berbagai opsi penegakan hukum,” cuit X pada Minggu (4/1) lalu.
Hal tersebut sejalan dengan pernyataan tegas dari pemilik platform X, Elon Musk, yang melalui akun pribadinya memperingatkan penyalahgunaan Grok AI akan menerima konsekuensi. “Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menanggung konsekuensi yang sama seperti jika mereka mengunggah konten illegal,” kata dia.
