Diskursus mengenai Artificial Intelligence (AI) dan pelindungan data pribadi saat ini kerap dimulai dari premis yang kurang tepat: “Apa legal basis untuk AI?” Pertanyaan ini terdengar wajar, tetapi secara konseptual ia keliru sejak awal. Dalam rezim Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi (UU PDP), yang menjadi objek pengaturan bukanlah teknologi, melainkan pemrosesan data pribadi.

AI bukanlah suatu tindakan hukum dan bukan merupakan subjek hukum yang dapat dibebani pertanggunjawaban. Sementara itu AI tidak termasuk dalam aktivitas pemrosesan dalam UU PDP. AI adalah alat, sebuah instrumen teknologi yang dapat digunakan dalam berbagai tahapan pemrosesan data. Dengan demikian, yang membutuhkan dasar hukum bukanlah “AI” itu sendiri, melainkan setiap tindakan pemrosesan data pribadi yang dilakukan dengan bantuan AI.
Perbedaan ini bukan semantik. Ia menentukan arah diskursus, kerangka analisis, dan pada akhirnya, kualitas kepatuhan.
Legal Basis Melekat pada Aktivitas, Bukan Sistem
UU PDP mengenal sejumlah dasar pemrosesan data pribadi. Dasar tersebut berupa persetujuan, pelaksanaan perjanjian, kewajiban hukum, kepentingan vital, tugas kepentingan umum, dan kepentingan yang sah. Masing-masing dirancang untuk memvalidasi atau membenarkan suatu kegiatan pemrosesan dalam konteks tertentu.
Masalah muncul ketika legal basis atau dasar pemrosesan tersebut dilekatkan pada “sistem AI” secara keseluruhan. Dalam praktik, satu sistem AI dapat melibatkan berbagai jenis aktivitas pemrosesan yang secara hukum tidak dapat dipersamakan satu dengan yang lainnya.
Ambil contoh sistem credit scoring berbasis machine learning di sektor keuangan. Dalam siklus hidupnya, setidaknya terdapat beberapa tahapan:
- Pengumpulan data awal nasabah;
- Pelatihan model menggunakan data historis;
- Pengujian dan validasi model;
- Implementasi model untuk menghasilkan skor risiko;
- Monitoring dan perbaikan model secara berkala;
- Penyimpanan dan pengarsipan data serta log keputusan yang diambil.
Setiap tahapan tersebut melibatkan pemrosesan data pribadi yang berpotensi memiliki dasar pemrosesan yang berbeda. Perbedaan tersebut dapat membawa perbedaan pada prinsip pelindungan data yang berbeda pula.
Misalnya, pengumpulan data dapat didasarkan pada pelaksanaan perjanjian atau kewajiban hukum. Pelatihan model mungkin memerlukan analisis kompatibilitas tujuan. Implementasi model untuk menghasilkan keputusan otomatis memunculkan isu hak subjek data. Monitoring sistem bisa masuk dalam kerangka kepentingan yang sah atau kewajiban tata kelola risiko. Dengan demikian, diskursus pelindungan data pribadi mengenai “legal basis untuk AI” secara umum cenderung menyederhanakan realitas normatif yang kompleks.
Prinsip Pembatasan Tujuan dan Risiko Function Creep
Salah satu aspek penting dalam pemanfaatan AI adalah prinsip pembatasan tujuan (purpose limitation). UU PDP menegaskan bahwa pemrosesan data pribadi harus dilakukan untuk tujuan tertentu dan sah. Data tersebut tidak boleh diproses secara tidak sesuai dengan tujuan tersebut.
Dalam konteks AI, tantangan utama muncul pada tahap pelatihan model (model training). Data yang dikumpulkan untuk menyediakan layanan tertentu seringkali digunakan kembali untuk meningkatkan model atau mengembangkan fitur baru. Di sinilah muncul risiko terjadinya pergeseran atau perluasan penggunaan data yang melampaui tujuan awal.
Pertanyaan hukumnya kini bukan lagi apakah data diperoleh secara sah, melainkan apakah penggunaan lanjutan tersebut kompatibel atau masih sejalan dengan tujuan awal pengumpulan.
GDPR mengatur isu kompatibilitas secara eksplisit dalam Article 6(4). Jika pengendali data ingin memproses data pribadi untuk tujuan yang berbeda dari tujuan awal pengumpulan, maka ia wajib melakukan compatibility assessment.
Dalam asesmen kompatibilitas tersebut Pengendali wajib mempertimbangkan:
- Hubungan antara tujuan awal dan tujuan baru
- Konteks pengumpulan data, termasuk relasi antara subjek data dan pengendali
- Sifat data pribadi, terutama apakah termasuk kategori khusus (sensitive data)
- Kemungkinan konsekuensi bagi subjek data
- Adanya safeguard yang memadai, seperti enkripsi atau pseudonimisasi
Tanpa analisis ini, penggunaan data untuk pelatihan model berisiko melanggar prinsip pembatasan tujuan, meskipun dikumpulkan diperoleh dengan persetujuan atau dalam rangka pelaksanaan perjanjian. Prinsip ini merupakan elaborasi dari prinsip pembatasan tujuan dalam Article 5(1)(b) GDPR.
Sementara itu, UU PDP juga mengenal prinsip pembatasan tujuan namun tidak mengatur mekanisme compatibility assessment dalam hal data akan diproses untuk tujuan selanjutnya. Yang ada adalah kewajiban melakukan pemrosesan sesuai dengan tujuan awal dan kewajiban memperoleh persetujuan baru jika tujuan berubah.
Akibatnya, terdapat beragam interpretasi. Jika prinsip tersebut diartikan secara sempit, maka pemrosesan selanjutnya memerlukan persetujuan baru. Sementara jika ditafsirkan secara luas maka pendekatan kompatibilitas dapat diterapkan dengan memperhatikan berbagai prinsip lainnya. Contohnya prinsip itikad baik, akuntabilitas, perlindungan kepentingan subjek data dan kewajiban pengendali untuk memastikan pemrosesan tidak merugikan subjek data.
Namun agak tidak menimbulkan kerancuan dan penerapan yang kebablasan, penerapan ini sebaiknya memperolah pedoman lebih lanjut dari regulator atau standar industri.
Uji Necessity dan Proporsionalitas dalam Konteks AI
Dasar pemrosesan seperti pelaksanaan perjanjian dan kepentingan yang sah mensyaratkan adanya unsur kebutuhan (necessity). Dalam hukum pelindungan data modern, necessity tidak diartikan sebagai “berguna” atau “efisien”, melainkan benar-benar diperlukan untuk mencapai tujuan yang sah.
AI sering digadang-gadang sebagai alat untuk mencapai efisiensi, akurasi, dan kecepatan. Namun efisiensi tidak selalu identik dengan kebutuhan dalam mencapai tujuan yang sah. Pertanyaan yang perlu diajukan adalah: bisakah tujuan tersebut dicapai dengan cara yang dampaknya lebih kecil terhadap hak-hak subjek data?
Selain necessity, terdapat prinsip proporsionalitas. Pemrosesan harus seimbang dengan risiko yang ditimbulkan terhadap hak dan kebebasan individu. Sistem AI yang melakukan profiling atau pengambilan keputusan otomatis atas permohonan kredit, misalnya, akan berdampak signifikan bagi subyek data. Oleh karena itu, uji proporsionalitas harus dilakukan secara substansial, bukan hanya formal.
Kecenderungan mengklasifikasikan seluruh pemrosesan berbasis AI sebagai “pelaksanaan perjanjian” dapat membuat Pengendali mengabaikan kewajiban melakukan uji keseimbangan secara mendalam. Padahal justru dalam konteks AI, tes keseimbangan ini menjadi krusial.
Kepentingan yang Sah dan Asimetri Kekuasaan
Kepentingan yang sah (legitimate interest) kadang dianggap sebagai dasar pemrosesan yang fleksibel untuk memanfaatkan sistem AI komersial. Sekalipun dalam prakteknya banyak kegiatan analitik dan pengembangan model bergantung pada dasar ini, legitimate interest bukanlah pilihan yang aman.
Pasal 20 ayat (2) huruf f UU PDP mensyaratkan beberapa hal untuk menggunakan kepentingan yang sah sebagai dasar pemrosesan. Hal tersebut berupa adanya tujuan, kebutuhan, dan keseimbangan kepentingan Pengendali Data Pribadi dan hak Subjek Data Pribadi.
Khusus mengenai unsur keseimbangan kepentingan pengendali dan subyek data tersebut, dalam konteks AI, isu asimetri kekuasaan menjadi relevan. Subjek data seringkali tidak memiliki posisi tawar yang setara untuk memahami bagaimana algoritma bekerja, bagaimana profil dibentuk, dan bagaimana keputusan dihasilkan.
Dalam situasi demikian, uji keseimbangan tidak dapat berhenti pada kepentingan bisnis semata. Ia harus mempertimbangkan risiko diskriminasi, bias algoritmik, dan dampak jangka panjang terhadap akses individu terhadap layanan.
Keputusan Otomatis dan Hak Subjek Data
Dimensi lain yang sering terabaikan adalah pengambilan keputusan otomatis yang berdampak signifikan. Ketika AI digunakan untuk menentukan hasil yang mempengaruhi hak ekonomi atau sosial seseorang, isu yang muncul tidak hanya berkaitan dengan dasar pemrosesan, tetapi juga hak atas transparansi dan keadilan.
Subjek data berhak mengetahui bahwa keputusan tertentu diambil secara otomatis, memahami logika dasar yang digunakan, serta memiliki kesempatan untuk mengajukan keberatan atau meminta peninjauan ulang.
Dalam konteks ini, kepatuhan terhadap UU PDP tidak cukup diukur dari ada atau tidaknya dasar pemrosesan. Ia juga harus dilihat dari bagaimana Pengendali menjamin akuntabilitas keputusan yang dihasilkan oleh sistem algoritmik.
Data Pribadi Spesifik dan Tingkat Risiko yang Lebih Tinggi
UU PDP membedakan antara data pribadi umum dan data pribadi spesifik. AI dapat digunakan untuk memproses data yang sensitif, seperti data biometrik, data kesehatan, atau data finansial tertentu. Pemrosesan jenis data ini membawa implikasi hukum yang lebih serius karena potensi dampaknya terhadap privasi dan martabat individu lebih besar.
Menyamaratakan seluruh pemrosesan AI tanpa membedakan jenis data yang diproses berisiko mengaburkan tingkat kewaspadaan yang seharusnya diterapkan. Pendekatan berbasis risiko (risk-based approach) menjadi relevan untuk memastikan bahwa pengamanan teknis dan organisasi sebanding dengan sensitivitas data yang diproses.
Dari Kepatuhan Formal ke Tata Kelola Substantif
Diskursus mengenai AI dan pelindungan data tidak boleh berhenti pada kepatuhan administratif. Tantangan sesungguhnya adalah membangun tata kelola yang substantif dengan mengintegrasikan aspek hukum, teknis, dan etis.
Kehadiran AI tidak membutuhkan adanya dasar hukum baru. Tetapi pemanfaatannya menuntut perhatian lebih dalam menerapkan dasar pemrosesan yang sudah ada. Termasuk penilaian dampak yang lebih mendalam dan tingkat transparansi yang lebih tinggi.
Dengan meluruskan arah diskursus ini, kita tidak sedang memperlambat inovasi. Kita justru memastikan bahwa inovasi berlangsung dalam koridor hukum yang menjaga keseimbangan antara efisiensi dan martabat manusia.
AI adalah alat. Tetapi tanggung jawab tetap berada pada manusia dan institusi yang memanfaatkannya. Dan di situlah hukum harus berdiri: bukan untuk menghakimi teknologinya, melainkan untuk mengatur perilaku dan akuntabilitas penggunanya.
*) Yosea Iskandar, Praktisi Hukum Perbankan
Artikel Opini ini adalah tulisan pribadi Penulis, isinya tidak mewakili pandangan Redaksi Hukumonline
















