Menurutnya, keputusan administratif yang menyangkut hak masyarakat tidak boleh sepenuhnya diserahkan kepada sistem otomatis. Ia juga mendorong pemisahan tegas antara data pribadi warga dan proses pengambilan keputusan pemerintah, terutama dalam penyaluran bantuan sosial dan penentuan kelayakan penerima layanan negara.
“Pemisahan ini perlu diatur secara eksplisit dalam peraturan perundang-undangan untuk mencegah penyalahgunaan data,” ujarnya.
Sementara itu, mantan Direktur Jakarta Smart City, Yudhistira Nugraha, mengatakan berdasarkan pengalamannya di Jakarta Smart City dan berbagai instansi pemerintah, AI bukan sekadar teknologi, melainkan proses yang mencakup tiga tahap. Yakni sensing, understanding, dan acting.
Menurutnya AI dibangun atas tiga komponen utama. Yakni data, algoritma, dan kapasitas komputasi. Karena itu, data yang digunakan harus akurat, dapat dipertukarkan antar instansi, serta terlindungi. Sementara algoritma perlu diawasi secara berkala untuk meminimalkan bias dalam proses pengambilan keputusan.
“Tidak ada AI yang andal tanpa data yang andal,” tutupnya.
