BANGKOK - Sejunmlah kasus membuat seorang pengacara Malaysia, Hamid Ismail terkejut, ketika seorang pria yang dia bela dijatuhi hukuman dengan bantuan perangkatkecerdasan buatan (AI) di negara bagian Sabah.
Meskipun pria yang telah berkarir hampir dua dekade itutahu pengadilan di Sabah dan Sarawak sedang menguji perangkatAI yang merekomendasikan hukuman sebagai bagian dari percontohan nasional, tetapi ia merasa tidak nyaman jika teknologi itu digunakan sebelum pengacara, hakim, dan masyarakat memahami sepenuhnyanya.
Seperti dikutip dari straitstimes, menurut Ismail, tidak ada konsultasi yang memadai tentang penggunaan teknologi, dan itu tidak termasuk dalam hukum pidana negara.
"KUHAP kami tidak mengatur penggunaan AI di pengadilan. Saya pikir itu tidak konstitusional," kata Ismail, menambahkan hukuman yang direkomendasikan AI untuk kliennya untuk tuduhan kepemilikan narkoba ringan, terlalu keras.
Pengadilan Sabah dan Sarawak menguji coba perangkat lunak yang dikembangkan oleh Sarawak Information Systems, sebuah perusahaan pemerintah negara bagian, yang mengatakan pada saat itu bahwa pihaknya telah mengadakan konsultasi selama proses tersebut, dan mengambil langkah-langkah untuk mengatasi beberapa masalah yang diangkat.
Di seluruh dunia, penggunaan AI dalam sistem peradilan pidana berkembang pesat, dari aplikasi seluler pengacara chatbot DoNotPay yang populer, hingga hakim robot di Estonia yang mengadili gugatan ringan, hingga mediator robot di Kanada, dan hakim AI di pengadilan Tiongkok.
Pihak berwenang mengatakan, sistem berbasis AI membuat hukuman lebih konsisten dan dapat menghapus file kasus dengan cepat dan murah, membantu semua pihak dalam proses hukum menghindari litigasi yang panjang, mahal, dan penuh tekanan.
Lebih dari sepertiga responden pemerintah dalam survei global tahun lalu oleh firma riset Gartner mengindikasikan bahwa mereka berencana untuk meningkatkan investasi dalam sistem yang didukung AI termasuk "chatbots", pengenalan wajah, dan penambangan data lintas sektor.
Bulan ini, otoritas federal Malaysia menargetkan untuk menyelesaikan uji coba nasional perangkat pengadilan AI, yang mereka katakan "dapat meningkatkan kualitas penilaian", meskipun tidak sepenuhnya jelas bagaimana mereka akan digunakan di pengadilan.
"Penggunaan AI di pengadilan masih dalam tahap persidangan," kata seorang juru bicara Ketua Mahkamah Agung Malaysia.
Kritikus memperingatkan, risiko penggunaan AI mengakar dan memperkuat bias terhadap minoritas dan kelompok yang terpinggirkan, dengan mengatakan teknologi tersebut tidak memiliki kemampuan hakim untuk mempertimbangkan keadaan individu, atau beradaptasi dengan perubahan adat istiadat sosial.
"Dalam menjatuhkan hukuman, hakim tidak hanya melihat fakta dari kasus tersebut, mereka juga mempertimbangkan faktor-faktor yang meringankan, dan menggunakan kebijaksanaan mereka. Tetapi AI tidak dapat menggunakan kebijaksanaan," kata Ismail kepada Thomson Reuters Foundation.
Pengacara hak asasi manusia Malaysia, Charles Hector Fernandez, menambahkan, dalam mempertimbangkan faktor-faktor yang memberatkan dan meringankan "membutuhkan pikiran manusia".
"Hukuman juga bervariasi dengan perubahan waktu dan perubahan opini publik. Kita membutuhkan lebih banyak hakim dan jaksa untuk menangani beban kasus yang meningkat; AI tidak dapat menggantikan hakim manusia," ujar dia.
Berusaha mengatasi kekhawatiran bahwa perangkat lunak AI dapat menyebabkan bias dalam hukuman, Sistem Informasi Sarawak mengatakan telah menghapus variabel "ras" dari algoritma.
"Langkah-langkah mitigasi semacam itu berharga, mereka tidak membuat sistem menjadi sempurna," kata sebuah laporan tahun 2020 tentang alat dari Khazanah Research Institute (KRI), sebuah think tank kebijakan.
KRI mencatat perusahaan hanya menggunakan kumpulan data lima tahun dari 2014-2019 untuk melatih algoritme, "yang tampaknya agak terbatas dibandingkan dengan basis data ekstensif yang digunakan dalam upaya global".
Sistem Informasi Sarawak tidak dapat dihubungi untuk dimintai komentar apakah sejak itu memperluas basis datanya.
Analisis oleh KRI atas kasus-kasus di Sabah dan Sarawak menunjukkan para hakim mengikuti rekomendasi hukuman AI di sepertiga kasus, yang semuanya melibatkan pemerkosaan atau kepemilikan narkoba di bawah ketentuan pilot kedua negara bagian.
Beberapa hakim mengurangi hukuman yang diajukan dengan mempertimbangkan hal-hal yang meringankan. Yang lain dikuatkan atas dasar bahwa mereka tidak akan berfungsi sebagai "pencegah yang cukup kuat".
Menurut pakar hukum dari National University of Singapore, Simon Chesterman, teknologi memang memiliki potensi untuk meningkatkan efisiensi dalam sistem peradilan pidana. Tetapi legitimasinya tidak hanya bergantung pada keakuratan keputusan yang dibuat, tetapi juga cara pengambilannya.
"Banyak keputusan yang mungkin diserahkan ke mesin. (Tetapi) seorang hakim tidak boleh mengalihdayakan kebijaksanaan ke algoritme buram," kata Chesterman, yang juga adalah direktur senior AI di Singapura, sebuah program pemerintah.
Dewan Pengacara Malayasia, yang mewakili pengacara, juga telah menyuarakan keprihatinan tentang percontohan pengadilan AI.
Ketika pengadilan di Kuala Lumpur, mulai menggunakannya pada pertengahan 2021 untuk menjatuhkan hukuman dalam 20 jenis kejahatan, dewan mengatakan itu "tidak diberikan pedoman sama sekali, dan kami tidak memiliki kesempatan untuk mendapatkan umpan balik dari praktisi hukum pidana".
Di Sabah, Ismail mengajukan banding atas rekomendasi hukuman kliennya dengan alat AI, yang diikuti oleh hakim. Namun dia mengatakan banyak pengacara tidak akan mengajukan keberatan, berpotensi menghukum klien mereka dengan hukuman yang terlalu keras.
"AI bertindak seperti hakim senior. Hakim muda mungkin berpikir itu keputusan terbaik, dan menerimanya tanpa pertanyaan," kata Ismail.
