Dunia media sosial tengah ramai dengan tren penyalahgunaan fitur Artificial Intelligence (AI) Grok kembangan platform X yang dimanfaatkan oknum-oknum tidak bertanggung jawab untuk memproduksi dan menyebarkan konten asusila. Hal ini termasuk melakukan manipulasi terhadap foto-foto pribadi menjadi konten sensitif tanpa persetujuan dari yang bersangkutan.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi,” ujar Direktur Jenderal Pengawasan Ruang Digital Kementerian Komunikasi dan Digital RI (Kemkomdigi), Alexander Sabar, seperti dilansir dari siaran pers resmi, Rabu (7/1).
Hal yang terjadi menimbulkan potensi pelanggaran serius terhadap hak privasi dan hak atas citra diri (right to one’s image). Khususnya ketika foto seseorang dimanipulasi—dalam hal ini menggunakan AI—atau bahkan berujung dengan disebarluaskan tanpa adanya persetujuan yang sah oleh pemiliknya.
Baca Juga:
- Komdigi Tegur Ketiga Platform X atas Denda Konten Pornografi, Pakar: Langkah Tegas, tapi Tidak Represif
- AKBP Fajar Divonis 19 Tahun Penjara dalam Kasus Kekerasan Seksual Pada Anak
Maka dari itu, polemik yang muncul ini bukan lagi sebatas persoalan kesusilaan semata, tetapi juga menjadi bentuk perampasan kendali individu atas identitas visual yang bisa menimbulkan kerugian psikologis, sosial, dan reputasi. “Setiap PSE (Penyelenggara Sistem Elektronik) wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” kata dia.
Saat ini, Kemkomdigi tengah menjalankan koordinasi dengan pihak-pihak PSE untuk memastikan adanya mekanisme perlindungan pengguna yang efektif untuk mencegah kejadian seperti ini. Langkah yang diambil termasuk menguatkan sistem moderasi konten, pencegahan pembuatan deepfake asusila, dan prosedur penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.
Penyedia layanan kecerdasan buatan dan pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak—ditegaskan kembali oleh Kemkomdigi—akan dapat dikenakan sanksi administratif dan/atau pidana sesuai ketentuan hukum yang berlaku. Sehingga, PSE patut lebih berhati-hati.
