Akan halnya mahkamah kejahatan perang mulai dikenal sejak 1474, yaitu dengan timbulnya peradilan atas Peter von Hagenbach di Breisach Austria. Ia adalah seorang gubernur/hulubalang Pangeran Charles dari Burgundy yang bertugas di Breisach. Dalam rangka melaksanakan tugas Pangeran, Hagenbach telah melakukan kekejaman luar biasa terhadap penduduk Breisach berupa pembunuhan, pemerkosaan, dan penganiayaan. Akhirnya, persekutuan negara-negara Austria, Berne, dan Perancis sepakat untuk mengadili dan menjatuhinya hukuman mati (Sondakh, 2002).
Lalu, pada perang dunia ke II, kejahatan perang NAZI yang membantai jutaan warga Yahudi (holocaust) dan kejahatan perang Jepang terhadap warga negara-negara lawannya membuahkan dua mahkamah, yaitu Mahkamah Nurnberg dan Mahkamah Tokyo. Mahkamah Nurnberg dibentuk oleh sebuah persetujuan multilateral yang ditandatangani di London antara pemerintah-pemerintah Amerika Serikat, Uni Sovyet, Inggris, serta pemerintahan sementara Perancis (sekutu/allies). Sedangkan, mahkamah Tokyo dibentuk melalui proklamasi khusus dari Jenderal Mc Arthur selaku komandan tertinggi sekutu di Timur Jauh, yang kemudian mendapat limpahan kewenangan dari Amerika Serikat, Uni Sovyet, Inggris, dan Cina (Sondakh, 2002).
Mahkamah Nurnberg dan Tokyo adalah mahkamah militer yang sifatnya ad hoc. Hanya mengadili kejahatan perang kaum militer di Eropa dan Asia Timur-Pasifik, yang terutama dilakukan oleh Jerman dan Jepang pada perang dunia II. Ia pun mempunyai sifat internasional karena dibentuk melalui perjanjian antar-negara, kendati sponsor utamanya tetap Amerika Serikat. Kedua mahkamah ini sering disebut juga sebagai victorious justice, karena dibentuk oleh negara-negara pemenang perang. Walhasil, negara-negara sekutu yang juga melakukan kejahatan perang--termasuk pemboman Hiroshima-Nagasaki--tak sekalipun diadili.
Setelah era Mahkamah Nurnberg dan Tokyo, terjadi kesenjangan yang cukup lama dalam peradilan penjahat HAM berat sampai lahirnya mahkamah untuk mantan Yugoslavia (ICTY) dan Rwanda (ICTR) di dekade 90-an.
Mahkamah Kriminal Internasional untuk mantan Yugoslavia (ICTY) dibentuk oleh Dewan Keamanan PBB melalui Resolusi No.687 tahun 1991. Mandatnya adalah mengadili pelanggaran terhadap hukum humaniter yang terjadi dalam konflik Balkan (mantan negara Yugoslavia: Serbia-Bosnia-Kroasia, dan lain-lain) sejak 1 Januari 1991. Seperti kita ketahui, konflik Balkan telah mengakibatkan tewasnya ribuan nyawa, pemerkosaan massal, dan penganiayaan berat yang utamanya terjadi pada rakyat Bosnia. Tak kurang dari Slobodan Milosevic (mantan Presiden Yugoslavia), Radovan Karadzic, dan Ratko Mladic, dihadapkan ke Mahkamah yang berbasis di Den Haag atas tuduhan manjadi 'jagal' rakyat Bosnia.
Sedangkan, Mahkamah Kriminal Internasional untuk Rwanda (ICTR) dibentuk oleh Dewan Keamanan PBB melalui Resolusi 955 tanggal 8 November 1994. Yurisdiksinya adalah kejahatan genosida, kejahatan terhadap kemanusiaan, dan pelanggaran Konvensi Geneva (hukum humaniter), yang terjadi di Rwanda dan negara-negara tetangganya, antara 1 Januari sampai dengan 31 Desember 1994.
Berbeda dengan Mahkamah Nurnberg dan Tokyo, kedua mahkamah di atas dibentuk oleh Dewan Keamanan PBB. Persamaannya, keduanya dapat mengadili individu-individu dan bersifat ad hoc.