Kondisi ini sangat memprihatinkan mengingat permasalahan penggunaan kecerdasan buatan telah menyentuh ranah potensi terjadinya pelanggaran HAM dengan segala kecanggihan teknologi yang mampu menembus ruang privasi dan mempengaruhi cara kerja otak manusia. HAM dalam konteks negara hukum bukan suatu hal yang sifatnya konseptual belaka karena terdapat pengaturan yang menguraikan bentuk-bentuknya dan menjamin pelaksanaannya dalam konstitusi sebagai hukum tertinggi suatu negara (Bisariyadi, 2023). Pemahaman ini membuat HAM telah bertransformasi menjadi hak konstitusional yang akan dikaitkan terhadap penggunaan kecerdasan buatan dalam tulisan ini.
Dalam rangka memahami hak asasi manusia mana saja yang bisa tercederai karena penggunaan kecerdasan buatan, diperlukan pemahaman mendasar mengenai konsep kecerdasan buatan itu sendiri. Secara sederhana, kecerdasan buatan merupakan teknologi yang mengolah informasi. Keunikannya, kecerdasan buatan dapat belajar dan memperbarui dirinya sendiri dari informasi yang telah dikonsumsi dan diolahnya (machine learning) (Kuhl, Schemmer, Goutier, Satzger, 2022). Inilah yang membuat kenapa kecerdasan buatan dianggap sebagai sebuah tiruan dari kecerdasan manusia yang bisa belajar dan berkembang sendiri.
Mengetahui dari ruang lingkup kecerdasan buatan, maka yang harus digarisbawahi adalah hak-hak asasi terkait dengan informasi. Terutama yang terkait mengenai pengumpulan, pemrosesan, dan juga hasil dari pemrosesan informasi yang dilakukan oleh AI dan implikasinya terhadap kehidupan manusia. Contoh nyata afirmasi hak-hak asasi tersebut tercermin dalam EU AI Act.
EU AI Act mengklasifikasikan beberapa tingkatan risiko dari penggunaan kecerdasan buatan terhadap kehidupan manusia, dari yang paling tinggi yaitu: Unacceptable Risk, High Risk, Limited Risk, dan Minimal Risk. Salah satu hal yang dianggap sebagai “Unnacceptable Risk” dalam EU AI Act adalah “Emotion recognition in workplace and education institution.” Penggunaan kecerdasan buatan dapat digunakan sedemikian rupa untuk dapat mengumpulkan dan mengolah data, sehingga dapat melakukan profiling dari emosi seseorang. Tentu tempat dengan sensor seperti kamera, microphone, atau sensor gerak yang ada di kantor ataupun sekolah menjadi tempat yang kaya dengan data untuk dapat melakukan hal tersebut. Walaupun kegiatan tersebut mungkin memiliki manfaat tertentu, kegiatan profiling tersebut merupakan pelanggaran dari hak privasi sebagai salah satu bentuk HAM.
Hak privasi tidak hanya sebatas termasuk ke dalam HAM secara konseptual semata, terdapat pengaturan dalam konstitusi mengenai permasalahan tersebut sebagaimana disebutkan Pasal 28G UUD 1945 yang menjadi landasan transformasi hak privasi menjadi hak konstitusional. Keberadaan Pasal ini menggambarkan adanya jaminan kepada setiap orang yang ada di wilayah Indonesia tanpa membedakan kedudukannya sebagai warga negara Indonesia atau bukan atas privasi diri sebagai upaya untuk menghadirkan rasa aman dan menghindari ketakutan.
Terdapat contoh lain yang dapat digunakan dalam tindakan yang termasuk klasifikasi “High Risk”. EU AI Act mengatur bahwa “AI solutions used in education institutions, that may determine the access to education and course of someone’s professional life (e.g. scoring of exams)” sebagai penggunaan kecerdasan buatan dengan risiko tinggi. Hal ini karena kecerdasan buatan dapat menentukan pemilihan jurusan kuliah dari seorang individu berdasarkan data yang diolahnya. Bagaimana ketika ada seorang calon mahasiswa yang secara hati ingin menjadi seorang seniman, akan tetapi menurut metrik dan analisa data kecerdasan buatan dinyatakan tepat untuk masuk jurusan kedokteran? Situasi tersebut memungkinkan hasil analisis kecerdasan buatan tersebut dijadikan patokan utama yang membuat seseorang untuk memilih masuk ke fakultas kedokteran tanpa memikirkan keinginan dan kebebasan memilih dari dirinya sendiri.
Hal ini tentu berpotensi melanggar hak konstitusional seseorang untuk dapat mendapatkan pendidikan dan pekerjaan yang layak berdasarkan preferensinya, seperti yang tertera dalam Pasal 27 ayat (2) dan Pasal 28C UUD Tahun 1945. Kedua pasal tersebut saling berkelindan dalam permasalahan ini karena pendidikan tinggi tidak hanya berurusan dengan permasalahan edukasi semata, melainkan berurusan pula dengan pekerjaan yang dapat diperoleh seseorang karena terdapat syarat pendidikan untuk dapat memenuhi kualifikasi suatu pekerjaan.
