Tanpa analisis ini, penggunaan data untuk pelatihan model berisiko melanggar prinsip pembatasan tujuan, meskipun dikumpulkan diperoleh dengan persetujuan atau dalam rangka pelaksanaan perjanjian. Prinsip ini merupakan elaborasi dari prinsip pembatasan tujuan dalam Article 5(1)(b) GDPR.
Sementara itu, UU PDP juga mengenal prinsip pembatasan tujuan namun tidak mengatur mekanisme compatibility assessment dalam hal data akan diproses untuk tujuan selanjutnya. Yang ada adalah kewajiban melakukan pemrosesan sesuai dengan tujuan awal dan kewajiban memperoleh persetujuan baru jika tujuan berubah.
Akibatnya, terdapat beragam interpretasi. Jika prinsip tersebut diartikan secara sempit, maka pemrosesan selanjutnya memerlukan persetujuan baru. Sementara jika ditafsirkan secara luas maka pendekatan kompatibilitas dapat diterapkan dengan memperhatikan berbagai prinsip lainnya. Contohnya prinsip itikad baik, akuntabilitas, perlindungan kepentingan subjek data dan kewajiban pengendali untuk memastikan pemrosesan tidak merugikan subjek data.
Namun agak tidak menimbulkan kerancuan dan penerapan yang kebablasan, penerapan ini sebaiknya memperolah pedoman lebih lanjut dari regulator atau standar industri.
Uji Necessity dan Proporsionalitas dalam Konteks AI
Dasar pemrosesan seperti pelaksanaan perjanjian dan kepentingan yang sah mensyaratkan adanya unsur kebutuhan (necessity). Dalam hukum pelindungan data modern, necessity tidak diartikan sebagai “berguna” atau “efisien”, melainkan benar-benar diperlukan untuk mencapai tujuan yang sah.
AI sering digadang-gadang sebagai alat untuk mencapai efisiensi, akurasi, dan kecepatan. Namun efisiensi tidak selalu identik dengan kebutuhan dalam mencapai tujuan yang sah. Pertanyaan yang perlu diajukan adalah: bisakah tujuan tersebut dicapai dengan cara yang dampaknya lebih kecil terhadap hak-hak subjek data?
Selain necessity, terdapat prinsip proporsionalitas. Pemrosesan harus seimbang dengan risiko yang ditimbulkan terhadap hak dan kebebasan individu. Sistem AI yang melakukan profiling atau pengambilan keputusan otomatis atas permohonan kredit, misalnya, akan berdampak signifikan bagi subyek data. Oleh karena itu, uji proporsionalitas harus dilakukan secara substansial, bukan hanya formal.
