Pengalaman selama ini membuktikan bahwa pengawasan internal dalam suatu institusi tidak pernah efektif di negeri ini. Pengalaman juga membuktikan bahwa ikatan korps yang sangat kuat dalam profesi hakim menjadi salah satu penyebab sulitnya pengawasan yang dilakukan oleh hakim terhadap hakim.
Sebagai ilustrasi, ketika Tim Gabungan Pemberantasan Tindak Pidana Korupsi (TGPTPK) berniat untuk meminta keterangan dari hakim agung dan mantan hakim agung yang diduga melakukan korupsi, Ketua Mahkamah Agung (MA) tersebut membuat surat yang menyatakan tidak memberikan izin.
Berdasarkan hal itulah, timbul ide adanya suatu komisi independen yang bertugas mengawasi para hakim. Ide ini pertama kali dipopulerkan oleh Lembaga Kajian dan Advokasi untuk Indepedensi Peradilan (LeIP). Dalam RUU tentang Mahkamah Agung yang disusun oleh Leip, terdapat bab khusus mengenai komisi yudisial.
Dalam konsep LeIP, komisi yudisial adalah komisi yang yang mandiri di lingkungan MA. Komisi ini mempunyai fungsi untuk memberikan usul pada DPR mengenai pengangkatan dan pemberhentian serta melakukan pengawasan terhadap hakim agung.
Anggota komisi ini berjumlah sembilan orang dengan komposisi 3 orang mantan hakim agung, dua orang dari unsur profesi advokat, 2 orang tokoh masyarakat dan atau agama serta 2 orang unsur dari akademisi.
Anggota komisi ini diangkat oleh DPR melalui dengar pendapat publik. Tugas dan kewenangan komisi adalah memberi rekomendasi nama calon hakim agung pada DPR setelah sebelumnya diumumkan pada masyarakat. Selain itu, tugas dan kewenangannya, melakukan pengawasan terhadap perilaku hakim agung, melakukan pengawasan terhadap pelaksanaan tugas dan kewenangan MA.
Komisi juga melakukan pengawasan terhadap hakim agung yang berindikasi tidak independen dan memihak dalam menjatuhkan putusan dan menerima serta memeriksa laporan dan pengaduan masyarakat. Komisi juga dapat memanggil dan meminta keterangan dari pihak yang dianggap perlu.