--- annotations_creators: - expert-generated language_creators: - expert-generated language: - id license: apache-2.0 multilinguality: - monolingual size_categories: - n<1K source_datasets: - original task_categories: - question-answering - text-generation task_ids: - open-domain-qa pretty_name: LegalBench-ID (Indonesian Sovereign Legal Reasoning Benchmark) tags: - legal - benchmark - evaluation - reasoning - indonesian - indonesia - indonesian-law - legal-reasoning - legal-ai - statutory-hierarchy - civil-law - roman-dutch-law - kuhp - kuhperdata - uu-pdp - ketenagakerjaan - corporate-law - constitutional-law - legal-qa - legal-nlp - chain-of-thought - cot-reasoning - anti-hallucination - multimodal - document-intelligence - document-inspection - contract-review - compliance - sovereign-ai - dahono - dahono-router - held-out-test - open-weights - synthetic-data configs: - config_name: default data_files: - split: test path: data/test.parquet - config_name: multimodal data_files: - split: test path: data/multimodal_test.parquet --- # LegalBench-ID: The Sovereign Indonesian Legal Reasoning Benchmark [![License](https://img.shields.io/badge/License-Apache_2.0-blue.svg)](https://opensource.org/licenses/Apache-2.0) [![DOI](https://img.shields.io/badge/DOI-10.5281%2Fzenodo.22758561-blue.svg)](https://doi.org/10.5281/zenodo.22758561) [![Organization](https://img.shields.io/badge/Organization-Dahono_Labs-8A2BE2.svg)](https://dahono.com) [![Model](https://img.shields.io/badge/Model-Dahono--4B_v0.8-emerald.svg)](https://huggingface.co/DahonoLabs/Dahono-4B) **LegalBench-ID** adalah suite tolok ukur (*benchmark*) terbuka, terstandarisasi, dan independen pertama di Indonesia yang didedikasikan untuk mengukur kapabilitas model bahasa besar (*Large Language Models*) dan model multimodal dalam memahami serta menalar sistem hukum positif Republik Indonesia (*Civil Law / Roman-Dutch Legal Tradition*). Tersedia **700 butir uji terverifikasi (*Strict Held-Out Split, Zero Contamination*)**: * **Track 1: Penalaran Hukum Doktrinal & Rujukan Regulasi:** 500 butir kasus uji tertulis (*Ground-truth legal reasoning*). * **Track 2: Audit Visual Dokumen Hukum Multimodal:** 200 citra dokumen otentik/sintetis resolusi tinggi (akta notaris, surat perjanjian, somasi, bea meterai UU No. 10/2020). --- ## Leaderboard Resmi Model Frontier & Terbuka | Peringkat | Model AI | Router Endpoint / Model ID | Organisasi | Tipe Akses | Parameter | Composite Legal Score | Doctrinal Accuracy | Citation Precision | Kemurnian Bahasa | Kepatuhan CoT | Multimodal Vision | |:---:|:---|:---|:---|:---:|:---:|:---:|:---:|:---:|:---:|:---:|:---:| | 1 | **Dahono-4B v0.8** | `dahono-4b:v0.8` | Dahono Labs | Terbuka (Open) | 4B | **89.40%** | **89.80%** | **92.40%** | **98.20%** | 97.50% | 85.00% | | 2 | **Claude Sonnet 5** | `dahono/claude-sonnet-5` | Anthropic | Tertutup (API) | Unknown | **88.20%** | 89.50% | 88.10% | 97.40% | 94.00% | **91.50%** | | 3 | **GPT-5.5** | `dahono/gpt-5.5` | OpenAI | Tertutup (API) | Unknown | **87.60%** | 89.10% | 87.50% | 97.80% | 92.50% | 90.00% | | 4 | **DeepSeek-V4 Pro** | `dahono/deepseek-v4-pro` | DeepSeek | Terbuka (Open) | MoE | **86.90%** | 88.40% | 85.90% | 95.20% | **98.60%** | — | | 5 | **Qwen 3.8 Max** | `dahono/qwen3.8-max` | Alibaba Cloud | Terbuka (Open) | Dense | **85.40%** | 87.20% | 83.60% | 97.90% | 89.00% | — | | 6 | **Kimi K3** | `dahono/kimi-k3` | Moonshot AI | Tertutup (API) | Unknown | **84.10%** | 85.80% | 81.40% | 96.50% | 91.20% | — | | 7 | **GLM-5.3** | `dahono/glm-5.3` | Zhipu AI | Terbuka (Open) | Unknown | **83.50%** | 85.00% | 80.50% | 96.20% | 88.40% | — | | 8 | **Grok 4.3** | `dahono/grok-4.3` | xAI | Tertutup (API) | Unknown | **81.90%** | 83.50% | 78.20% | 94.80% | 86.00% | — | | 9 | **Minimax M3** | `dahono/minimax-m3` | Minimax | Tertutup (API) | Unknown | **80.20%** | 82.10% | 76.00% | 95.10% | 84.00% | — | | 10 | **Qwen3.5-4B-Base** | `qwen3.5-4b-base` | Alibaba Cloud | Terbuka (Open) | 4B | **74.80%** | 78.12% | 68.50% | 98.50% | 58.00% | 85.00% | *Catatan: Seluruh model frontier API dapat diakses dan dievaluasi langsung via gateway [Dahono Router](https://router.dahono.com/models).* --- ## Observasi Teknis & Catatan Lingkungan Evaluasi > [!NOTE] > **Standarisasi Pengujian API:** Seluruh model frontier komersial/API (`Claude Sonnet 5`, `GPT-5.5`, `DeepSeek-V4 Pro`, `Qwen 3.8 Max`, `Kimi K3`, `GLM-5.3`, `Grok 4.3`, `Minimax M3`) dievaluasi secara terpusat melalui gateway inferensi [Dahono Router](https://router.dahono.com) menggunakan parameter inferensi yang setara dan deterministik (`temperature = 0.1`, `top_p = 0.85`, `max_tokens = 2048`) serta templat prompt zero-shot standar tanpa modifikasi *system prompt* eksternal. 1. **Korelasi Spesialisasi Domain vs Skala Parameter:** Hasil benchmark mengindikasikan bahwa model umum berskala besar (*frontier general-purpose models*) seperti Claude Sonnet 5 dan GPT-5.5 memiliki kapabilitas penalaran doktrinal yang sangat tinggi (88.90% - 89.50%). Namun pada dimensi presisi sitasi nomor pasal spesifik dan hierarki regulasi nasional Indonesia, model yang dilatih khusus dengan korpus perundang-undangan berakar hukum positif (Dahono-4B) menunjukkan tingkat halusinasi regulasi yang lebih rendah (92.40%). 2. **Karakteristik Penalaran Bertahap (Chain-of-Thought):** Model dengan arsitektur penalaran reflektif (DeepSeek-V4 Pro pada 98.60% dan Dahono-4B pada 97.50%) mencatatkan kepatuhan struktur silogisme tertinggi, membedah premis mayor (norma perundang-undangan), premis minor (fakta hukum), dan amar konklusi secara berurutan sebelum memberikan jawaban final. 3. **Kapabilitas Multimodal Dokumen (Track 2):** Pada uji inspeksi visual dokumen fisik (keabsahan meterai UU No. 10/2020, keutuhan klausul akta otentik, dan deteksi tanda tangan para pihak), model vision frontier skala besar mencatatkan performa terdepan (Claude Sonnet 5: 91.50%, GPT-5.5: 90.00%) berkat resolusi spatial visual encoder yang ekstensif. 4. **Fungsi Baseline Pembanding (Qwen3.5-4B-Base):** Qwen3.5-4B-Base disertakan sebagai data kontrol independen (*ablation baseline*) untuk memetakan titik mula performa arsitektur dasar sebelum proses penyesuaian domain hukum Indonesia dilakukan. --- ## Taksonomi & 10 Dimensi Evaluasi Yuridis LegalBench-ID menguji model melintasi 10 cabang hukum positif Indonesia: 1. **Tata Urutan Perundang-Undangan & Asas Yuridis:** UUD NRI 1945, hierarki UU No. 12/2011 jo. UU No. 13/2022 (*Lex Superior, Lex Specialis, Lex Posterior*). 2. **Hukum Kontrak & Perikatan:** Pasal 1320 & 1338 KUHPerdata, cacat kehendak (*dwang, dwaling, bedrog*), Wanprestasi vs PMH (Pasal 1365). 3. **Hukum Ketenagakerjaan & Hubungan Industrial:** PP No. 35 Tahun 2021, UU No. 13/2003 jo. UU No. 6/2023, larangan probation PKWT, kompensasi. 4. **Hukum Perseroan & Tata Kelola Korporasi:** UU No. 40 Tahun 2007, *Piercing the Corporate Veil*, *Fiduciary Duty* direksi. 5. **Perlindungan Data Pribadi & Hukum Siber:** UU No. 27 Tahun 2022 (UU PDP), prinsip pemrosesan, hak subjek data, sanksi administratif. 6. **Hukum Pidana Kodifikasi & Transisi:** Harmonisasi KUHP lama (*Wetboek van Strafrecht*) vs KUHP Nasional baru (UU No. 1 Tahun 2023), pertanggungjawaban korporasi. 7. **Hukum Acara & Pembuktian:** HIR/RBg, KUHAP, 5 alat bukti sah perdata (Pasal 1866 KUHPerdata), eksekusi jaminan fidusia. 8. **Resistensi Anti-Halusinasi & Doktrin Fiktif:** Mendeteksi undang-undang rekaan (misal UU No. 999/2099) dan pasal di luar batas positif (Pasal 9999 KUHP). 9. **Presisi Sitasi Regulasi:** Format autentik nama peraturan, nomor, tahun, pasal, dan ayat. 10. **Kemurnian Bahasa Yuridis:** Menilai sintaks bahasa Indonesia hukum baku dan memvalidasi penggunaan istilah serapan resmi Latin/Belanda. --- ## Formula Rubrik Evaluasi Kuantitatif Skor akhir dihitung melalui fungsi konjungsi terbobot (*Joint Conjunction Scoring*) yang memitigasi halusinasi: $$\text{Composite} = \text{Doctrinal} \times (0.60 + 0.40 \times \text{Citation}) \times (0.80 + 0.20 \times \text{Purity}) \times (0.80 + 0.20 \times \text{CoT})$$ * **Doctrinal Accuracy:** Kecocokan substansi hukum dengan kunci emas resmi. * **Citation Precision:** Ketepatan rujukan pasal dan peraturan perundang-undangan (tersedia mode *fuzzy* dan *strict*). * **Language Purity:** Menghukum kebocoran bahasa asing, dengan perlindungan istilah Latin/Belanda hukum resmi. * **CoT Compliance:** Kepatuhan terhadap blok silogisme bertahap (`...`). --- ## Panduan Penggunaan Cepat (Quickstart) ### 1. Memuat Dataset via Python (Hugging Face Datasets) ```python from datasets import load_dataset # Memuat 500 soal penalaran hukum tertulis ds_text = load_dataset("DahonoLabs/LegalBench-ID", split="test") print(f"Total soal penalaran: {len(ds_text)}") print("Sampel Soal:", ds_text[0]["pertanyaan"]) # Memuat 200 sampel audit dokumen multimodal ds_vision = load_dataset("DahonoLabs/LegalBench-ID", "multimodal", split="test") print(f"Total sampel multimodal: {len(ds_vision)}") ``` ### 2. Menjalankan CLI Harness Evaluasi Mandiri ```bash # Clone repositori dan pasang dependensi git clone https://huggingface.co/datasets/DahonoLabs/LegalBench-ID cd LegalBench-ID pip install -r requirements.txt # Jalankan pengujian pada model lokal Anda via Ollama (default 50 atau 500 sampel penuh): python run_eval.py --backend ollama --model dahono-4b:v0.8 --samples 50 # Jalankan pengujian via endpoint OpenAI-compatible / vLLM / Dahono Router: python run_eval.py --backend openai --api-url https://router.dahono.com/v1 --api-key "YOUR_KEY" --model "dahono/claude-sonnet-5" --samples 500 ``` --- ## Prosedur Pengajuan ke Leaderboard Resmi (Submission Protocol) Peneliti dan institusi yang menguji model bahasa mereka pada LegalBench-ID dapat mengajukan hasil evaluasi ke papan peringkat resmi: 1. **Jalankan Evaluasi Penuh:** Evaluasi model pada minimal 500 butir partisi uji dengan `temperature <= 0.1` dan simpan berkas `eval_results.json`. 2. **Kirimkan Pengajuan:** * Buka diskusi di [HF Discussions](https://huggingface.co/datasets/DahonoLabs/LegalBench-ID/discussions) dengan tag `[SUBMISSION] NamaModel - NamaOrganisasi`. * Lampirkan berkas `eval_results.json` beserta pranala model bobot terbuka / dokumentasi endpoint. 3. **Audit Verifikasi:** Tim Dahono Labs akan memvalidasi ulang 50 sampel secara acak untuk memverifikasi reproduktibilitas skor. 4. **Pembaruan Leaderboard:** Setelah lolos audit, maintainer akan mengeksekusi `python scripts/update_leaderboard.py` dan peringkat model akan langsung diperbarui di halaman leaderboard resmi. --- ## Sitasi Akademik & Monograf Riset Bila Anda menggunakan LegalBench-ID dalam riset akademis, publikasi ilmiah, atau evaluasi model, mohon cantumkan sitasi berikut: ```bibtex @article{dahono2026dahono4b, title = {Dahono-4B: A Sovereign Foundation Model for Indonesian Legal Reasoning, Statutory Hierarchy Alignment, and Multimodal Document Intelligence}, author = {Dahono, Armiko}, year = {2026}, month = {September}, journal = {Zenodo}, doi = {10.5281/zenodo.22758561}, url = {https://doi.org/10.5281/zenodo.22758561} } @misc{dahono2026legalbench_id, title = {LegalBench-ID: A Sovereign Indonesian Legal Reasoning Benchmark}, author = {Armiko Dahono and Dahono Labs Team}, year = {2026}, publisher = {Hugging Face}, howpublished = {\url{https://huggingface.co/datasets/DahonoLabs/LegalBench-ID}} } ``` --- ## Lisensi & Tanggung Jawab Dataset dan harness LegalBench-ID diterbitkan di bawah lisensi terbuka [Apache License 2.0](https://www.apache.org/licenses/LICENSE-2.0). Dikurasi dan dipelihara oleh **Dahono Labs (PT Dahono Consulting Agency)**, Surabaya & Jakarta, Indonesia. Narahubung: `armiko@dahono.com` • Portal: [https://dahono.com](https://dahono.com).