Kecenderungan mengklasifikasikan seluruh pemrosesan berbasis AI sebagai “pelaksanaan perjanjian” dapat membuat Pengendali mengabaikan kewajiban melakukan uji keseimbangan secara mendalam. Padahal justru dalam konteks AI, tes keseimbangan ini menjadi krusial.
Kepentingan yang Sah dan Asimetri Kekuasaan
Kepentingan yang sah (legitimate interest) kadang dianggap sebagai dasar pemrosesan yang fleksibel untuk memanfaatkan sistem AI komersial. Sekalipun dalam prakteknya banyak kegiatan analitik dan pengembangan model bergantung pada dasar ini, legitimate interest bukanlah pilihan yang aman.
Pasal 20 ayat (2) huruf f UU PDP mensyaratkan beberapa hal untuk menggunakan kepentingan yang sah sebagai dasar pemrosesan. Hal tersebut berupa adanya tujuan, kebutuhan, dan keseimbangan kepentingan Pengendali Data Pribadi dan hak Subjek Data Pribadi.
Khusus mengenai unsur keseimbangan kepentingan pengendali dan subyek data tersebut, dalam konteks AI, isu asimetri kekuasaan menjadi relevan. Subjek data seringkali tidak memiliki posisi tawar yang setara untuk memahami bagaimana algoritma bekerja, bagaimana profil dibentuk, dan bagaimana keputusan dihasilkan.
Dalam situasi demikian, uji keseimbangan tidak dapat berhenti pada kepentingan bisnis semata. Ia harus mempertimbangkan risiko diskriminasi, bias algoritmik, dan dampak jangka panjang terhadap akses individu terhadap layanan.
Keputusan Otomatis dan Hak Subjek Data
Dimensi lain yang sering terabaikan adalah pengambilan keputusan otomatis yang berdampak signifikan. Ketika AI digunakan untuk menentukan hasil yang mempengaruhi hak ekonomi atau sosial seseorang, isu yang muncul tidak hanya berkaitan dengan dasar pemrosesan, tetapi juga hak atas transparansi dan keadilan.
Subjek data berhak mengetahui bahwa keputusan tertentu diambil secara otomatis, memahami logika dasar yang digunakan, serta memiliki kesempatan untuk mengajukan keberatan atau meminta peninjauan ulang.
