Pemanfaatan artificial intelligence (AI) dalam proses peradilan membuka persoalan baru terkait pertanggungjawaban hukum. Ketika rekomendasi yang dihasilkan AI keliru dan kemudian digunakan dalam proses penanganan perkara, mekanisme pertanggungjawaban atas kesalahan tersebut perlu dipastikan sejak awal.
Guru Besar Fakultas Hukum Universitas Padjadjaran (FH Unpad) Prof Efa Laela Fakhriah mengatakan AI tidak dapat dijadikan pihak yang bertanggung jawab secara hukum. Karena itu, perlu ada mekanisme yang jelas untuk menentukan pihak yang bertanggung jawab apabila penggunaan AI menimbulkan kesalahan dalam proses peradilan.
“AI memang tidak dapat dijadikan pihak yang bertanggung jawab secara hukum. Karena kita sudah yakini sama sekali dia tidak bisa jadi subjek hukum karena dia tidak punya rasa,” kata Prof Efa dalam seminar Badan Perhimpunan Hakim Perempuan Indonesia (BPHPI) bertajuk “Hakim Perempuan dalam Transformasi Peradilan Digital - Pemanfaatan Teknologi dan Kecerdasan Artifisial Secara Etis dan Inklusif”, Jum’at (2/10/2026).
Baca Juga:
Era AI, Tantangan Hakim Perempuan Bukan Lagi Sekadar Persoalan Jumlah
BPHPI Soroti Tantangan Karier Hakim Perempuan Menuju Posisi Kepemimpinan
Ia berpendapat penggunaan AI dalam proses peradilan tetap membutuhkan pengawasan manusia. Mekanisme pertanggungjawaban juga perlu dipastikan ketika melihat bagaimana suatu kesalahan terjadi, apakah sistem telah digunakan sesuai prosedur, apakah hasil yang diberikan AI telah diverifikasi, serta siapa yang melakukan verifikasi tersebut.
Persoalan tersebut dianggap penting karena keluaran AI tidak selalu dapat dianggap sebagai informasi yang benar. Prof Efa menyebut AI dapat memberikan informasi yang keliru, menggunakan sumber yang tidak tepat, hingga gagal memahami konteks suatu perkara.
Selain akurasi, penggunaan AI juga menghadapi risiko bias algoritmik. Data yang digunakan untuk melatih AI dapat mengandung bias, sehingga hasil yang diberikan sistem berpotensi membawa atau bahkan memperkuat bias tersebut.
“Data yang digunakan untuk melatih AI dapat saja mengandung bias. Bagaimana kita tahu kalau tidak punya kemampuan untuk menilai adanya bias algoritmik tersebut?” ungkapnya.
Menurutnya, hakim juga harus mampu memahami tujuan penggunaan AI, mengetahui keterbatasan sistem, memeriksa sumber data, memverifikasi hasil, serta menolak keluaran AI apabila tidak tepat. Setelah itu, penalaran hukum tetap harus dilakukan oleh hakim.
Untuk itu, kata dia, diperlukan pedoman/panduan yang memberikan batasan mengenai sejauh mana AI dapat digunakan dalam proses peradilan. Pedoman tersebut juga perlu memperhatikan prinsip independensi hakim, pengawasan manusia, transparansi, akuntabilitas, perlindungan data, dan privasi.
“Jadi, AI itu boleh saja memberikan rekomendasi, tetapi keputusan judicial decision merupakan keputusan hakim,” tegasnya.
Sementara itu, Ketua Asosiasi Psikologi Forensik Indonesia (Apsifor) Nathanael Elnadus J. Sumampouw mengungkapkan bahwa penggunaan AI perlu diikuti kesadaran terhadap berbagai bias yang dapat mempengaruhi proses pengambilan keputusan.
Hakim dinilai perlu memiliki kemampuan untuk mengenali faktor-faktor yang dapat mempengaruhi dirinya ketika memutus suatu perkara. Selain itu, keputusan yang telah diambil perlu terus diuji dan ditinjau kembali.
Ia pun menawarkan pendekatan recognize, structure, challenge, dan review. Hakim perlu mengenali potensi bias, menggunakan struktur atau pedoman yang tersedia, tetap melakukan challenge terhadap keputusan, dan melakukan review terhadap putusan yang telah dibuat.
“Kami melihat bahwa pada akhirnya dalam memutus instrumen kuncinya mungkin bisa jadi bukan KUHP (Kitab Undang-Undang Hukum Pidana). Bukan juga etikanya, tapi instrumen utamanya adalah diri kita sendiri,” sebutnya.
Lingkungan kerja yang memberikan rasa aman juga penting bagi hakim, khususnya hakim perempuan untuk bisa menyampaikan perbedaan pandangan maupun kekhawatiran. Kondisi tersebut dinilai menjadi bagian dari psychological safety di lingkungan peradilan.
“Setiap orang apalagi hakim perempuan dia merasa aman. Perasaan aman untuk berbeda, untuk menyampaikan ide, mengungkapkan kekhawatiran, termasuk juga bebas dari berbagai macam intimidasi, perlakuan salah dan sebagainya.”
