Selain itu, terdapat risiko lain berupa penggunaan data untuk tujuan komersial, seperti dijual kepada pihak ketiga atau digunakan untuk pelacakan perilaku digital. Tanpa regulasi ketat dan audit yang jelas, praktik semacam ini dapat menjadi bentuk eksploitasi data anak di bawah umur yang sangat berbahaya.
Etika Penggunaan AI di Lingkungan Pendidikan
Selain aspek hukum, integrasi AI juga menimbulkan pertanyaan etis yang serius. Bagaimana jika algoritma AI memunculkan bias dalam menilai kemampuan siswa? Bagaimana memastikan bahwa sistem pembelajaran otomatis tidak mengekang kebebasan berpikir atau kreativitas peserta didik?
AI bekerja berdasarkan data masa lalu; jika data itu bias — misalnya karena faktor sosial, ekonomi, atau gender — maka keputusan yang dihasilkan pun dapat mencerminkan bias yang sama. Dalam konteks pendidikan, hal ini bisa berujung pada perlakuan tidak adil, seperti menilai siswa dari data statistik semata tanpa mempertimbangkan potensi manusiawi mereka.
Selain itu, penggunaan AI dalam memantau kehadiran atau perilaku siswa juga menimbulkan dilema antara efisiensi dan hak atas privasi. Kamera dan sensor yang terus aktif dapat menimbulkan rasa tidak nyaman serta menciptakan lingkungan belajar yang terlalu diawasi.
Kebutuhan Regulasi dan Tata Kelola yang Tegas
Meski UU PDP telah menjadi dasar hukum penting, hingga kini Indonesia belum memiliki regulasi spesifik yang mengatur penggunaan AI di sektor pendidikan. Padahal, karakteristik data anak dan remaja berbeda dari orang dewasa — mereka membutuhkan perlindungan ekstra.
Pemerintah perlu segera menyusun peraturan turunan atau peraturan pelaksanaan dan pedoman teknis yang mencakup: 1) Kewajiban lembaga pendidikan melakukan audit keamanan data secara berkala. 2) Standar minimal data minimization — pengumpulan data hanya sebatas yang relevan untuk tujuan pendidikan. 3) Mekanisme persetujuan orang tua atau wali dalam pemrosesan data siswa di bawah umur. 4) Transparansi algoritma dan hak siswa untuk mengetahui bagaimana data mereka digunakan.
Langkah ini penting agar pemanfaatan AI tidak melanggar prinsip dasar pendidikan: membangun manusia berintegritas, berpikir kritis, dan bebas dari diskriminasi.
