Kembali terjadi, kali ini di Kanada, seorang pengacara mengajukan legal brief yang menyertakan kasus palsu/fiktif yang dihasilkan oleh ‘halusinasi’ ChatGPT. Pengacara Vancouver, Chong Ke, diduga menggunakan AI untuk mengembangkan pengajuan hukum mengenai kasus hak asuh anak di Mahkamah Agung British Columbia.
Chong beracara mewakili seorang ayah yang ingin membawa anak-anaknya dalam perjalanan ke luar negeri, namun dia terjebak dalam perselisihan perpisahan dengan ibu dari anak-anak tersebut. Dalam kasus ini, Chong diduga menggunakan ChatGPT dalam menelusuri contoh kasus hukum sebelumnya yang mungkin berlaku dalam keadaan kliennya. Di antara tiga hasil yang diberikan, ia mengajukan dua diantaranya ke Mahkamah.
“Saya tidak menyangka kedua kasus ini bisa saja salah. Setelah kolega saya menunjukkan fakta bahwa masalah ini tidak dapat ditemukan, saya melakukan penelitian sendiri dan tidak dapat mendeteksi masalahnya juga. Saya tidak punya niat untuk menyesatkan pengacara lawan atau Mahkamah dan dengan tulus meminta maaf atas kesalahan yang saya buat,” kata Chong dalam email ke Mahkamah seperti dikutip dari The Guardians, Kamis (29/2/2024).
Baca Juga:
- Pentingnya Meng-upgrade Skill Melalui Pemanfaatan AI
- Merambahnya AI ke Industri Jasa Hukum Jadi Isu Sorotan Advokat Asia Tenggara
- Law Firm Ini Klaim Jadi yang Pertama Gunakan Generative AI
Dia dikonfrontasi oleh tim pengacara ibu dari anak-anak (yang menjadi lawan kliennya) karena tidak menemukan catatan kasus yang disertakan. Menyadari hal tersebut, mereka menyebut tindakan Chong tercela dan patut ditegur karena telah memakan waktu dan biaya dalam menelusuri apakah kasus yang disebutkannya benar atau tidak.
“Yang menakutkan dari halusinasi AI (membuat kasus-kasus fiktif) ini adalah mereka tidak membuat kutipan dan ringkasan yang ambigu, namun terlihat 100 persen nyata. Itu sebabnya penting bagi hakim dan pengacara untuk waspada dalam memeriksa ulang hal-hal ini,” ungkap lead counsel yang mengungkap termuatnya kasus palsu tersebut, Fraser MacLean, seperti diberitakan oleh Global News.
Atas ketegasan dan kebijaksanaan Mahkamah dalam menyikapi kasus penggunaan AI yang menyandung pengacara di Kanada untuk kali pertamanya ini, Fraser menyebutkan keputusan yang diberikan Mahkamah sudah beralasan dan berimbang. Sehingga dapat memberi nasehat kritis dan bijak baik bagi masyarakat maupun profesi mengenai penggunaan AI dalam profesi hukum.