Pertama, Primacy of Human Agency. Keputusan final atas hak fundamental wajib di tangan manusia. Ini melibatkan doktrin "meaningful human control", yaitu manusia harus mampu memonitor, mengintervensi, dan memahami konteks sistem AI secara utuh.
Kedua, transparansi dan eksplainbilitas. Intinya harus ada "right to explanation". Merujuk pada General Data Protection Regulation Uni Eropa Article 22 dan AI Act Uni Eropa Article 86, pengembang wajib menjelaskan logika dasar di balik keputusan otomatis yang berdampak signifikan pada individu. “Hak ini harus diadopsi dan diperkuat dalam Hukum AI Indonesia,” katanya.
Ketiga, nondiskriminasi dan keadilan algoritma. Harus ada kewajiban audit terhadap "data training" untuk mencegah bias. Hukum harus mampu mendeteksi ancaman dari generative adversarial networks yang mampu menciptakan deepfakes—realitas palsu—yang merusak martabat manusia.
Keempat, akuntabilitas berbasis manajemen risiko. Hukum AI harus dengan jelas mengatur distribusi tanggung jawab di sepanjang rantai nilai AI. Berawal dari pengumpul data, pengembang algoritma, penyedia platform, hingga pengguna akhir. Keseluruhannya mencakup tanggung jawab perdata, tanggung jawab pidana, dan tanggung jawab administratif. Hukum AI harus menggunakan konsep legal fluidity yang mengelompokkan AI ke dalam stratifikasi risiko, mulai dari risiko minimal hingga unacceptable risk ‘risiko yang tidak dapat diterima’ yang harus dilarang karena mengancam eksistensi manusia.
Kelima, partisipasi publik. Perlu jaminan tata kelola inklusif agar hukum AI tidak menjadi monopoli teknokrat atau korporasi raksasa. Masyarakat yang akan terdampak oleh AI harus dilibatkan dalam proses perumusan kebijakan. Ini sejalan dengan amanat konstitusi tentang kedaulatan rakyat dan prinsip good governance.
Akhirnya, hukum AI harus dirancang sebagai organisme hidup berbasis pada manajemen risiko alih-alih sekadar larangan kaku yang akan usang esok pagi.
Teori hybrid liability: siapa yang salah jika algoritma menabrak?
“Salah satu perdebatan paling krusial dalam pembentukan hukum AI adalah ‘Siapa yang bertanggung jawab saat algoritma melakukan kesalahan?’,” kata Danrivanto dalam orasinya. Ketika mobil pintar otomatis yang dikemudikan berbasis AI menabrak pejalan kaki, mekanisme hukum seolah lumpuh. Dalam sistem "black box", rantai kausalitas digital terputus karena proses internal AI tidak dapat dijelaskan secara linear. Prinsip penyebab terdekat (causa proxima) yang menjadi fondasi hukum kita pun runtuh. Setidaknya Pasal 1365 KUHPerdata terbukti tidak lagi memadai untuk menjawab kegagalan sistem otonom.
