---
license: other
license_name: mixed-sources
language:
- th
task_categories:
- text-generation
tags:
- rtaf
- royal-thai-air-force
- thai
- legal
- continued-pretraining
pretty_name: RTAF CPT
size_categories:
- 1K<n<10K
configs:
- config_name: default
  data_files:
  - split: train
    path: data/train.parquet
  - split: validation
    path: data/validation.parquet
---

# Rtaf-CPT

ข้อความสำหรับ continued pre-training (CPT) ของโมเดลงานเอกสารกองทัพอากาศ (ทอ.) —
ระเบียบ ทอ. กฎหมายกลาโหม กฎหมายการบิน และกฎหมายที่ระเบียบ ทอ. อ้างถึง ภาษาไทยทั้งหมด

> **ชุดข้อมูลนี้ตั้งเป็น private** มีเนื้อหาระเบียบกองทัพอากาศ 39 ฉบับ
> ก่อนเปลี่ยนเป็น public ต้องได้รับอนุญาตจากเจ้าของเอกสาร และตรวจสัญญาอนุญาตของแหล่งสาธารณะในตารางท้ายการ์ด

## ชุดข้อมูล

| split | แถว | ใช้ทำอะไร |
|---|---:|---|
| `train` | 9,584 | ข้อความที่ใช้เทรน CPT ตามลำดับและจำนวนซ้ำจริง |
| `validation` | 180 | validation loss ระหว่าง CPT (`defence` 120, `inhouse` 44, `cited` 16) |

ไฟล์ `train` ตรงกับ `corpus/cpt_train.jsonl` (sha256 `51dd695ec49f`) ที่เทรน `qwen9b_final_cpt` ทุกแถว เพิ่มคอลัมน์ `copy` คอลัมน์เดียว
รวมประมาณ **4.3 ล้าน tokens** (tokenizer ของ Qwen3.5)

## เนื้อหาตาม band

| band | เนื้อหา | แถว | ไม่ซ้ำ | วนซ้ำ | ตัวอักษร |
|---|---|---:|---:|---|---:|
| `inhouse` | ระเบียบ ทอ. + พ.ร.บ. ที่เกี่ยวข้อง | 3,810 | 1,270 | ×3 | 3,462,291 |
| `defence` | กฎหมายกลาโหม | 2,709 | 2,709 | ×1 | 2,178,452 |
| `air` | กฎหมายการบิน | 1,866 | 933 | ×2 | 1,670,488 |
| `cited` | กฎหมายที่ระเบียบ ทอ. อ้างถึง | 1,128 | 1,128 | ×1 | 716,160 |
| `glossary` | ตารางคำย่อ/ศัพท์ทหาร | 71 | 71 | ×1 | 134,660 |
| **รวม** |  | **9,584** | **6,111** |  | **8,162,051** |

**ระเบียบ ทอ. ถูกวนซ้ำ 3 รอบ และกฎหมายการบิน 2 รอบ โดยตั้งใจ** (`build_datasets.py --inhouse-repeat 3 --air-repeat 2`)
เพื่อให้โมเดลเห็นข้อความในบ้านบ่อยกว่ากฎหมายทั่วไป ถ้าต้องการแถวไม่ซ้ำ ให้กรอง `copy == 1`:

```python
from datasets import load_dataset

ds = load_dataset("montg1/Rtaf-CPT")                      # private: ต้อง login (hf auth login) หรือส่ง token=
unique = ds["train"].filter(lambda r: r["copy"] == 1)     # 6,111 แถว
```

ระเบียบงานสารบรรณ พ.ศ.๒๕๖๘ ฉบับเดียวคิดเป็นราว 31% ของข้อความระเบียบ ทอ. ที่ใช้เทรน

## คอลัมน์

| คอลัมน์ | ความหมาย |
|---|---|
| `text` | ข้อความหนึ่งท่อน (มาตรา/ข้อ หรือกลุ่มคำย่อ) |
| `band` | กลุ่มเนื้อหา ดูตารางข้างบน |
| `source` | `rtaf` ระเบียบ ทอ., `local` พ.ร.บ. ที่เตรียมเอง, `thailaw` pythainlp/thailaw, `glossary` ตารางคำย่อ |
| `doc_id`, `title` | เอกสารต้นทาง |
| `kind`, `label`, `number`, `part`, `order` | ชนิดท่อน (มาตรา/ข้อ/เหตุผล), เลขข้อ และลำดับในเอกสาร |
| `is_partial`, `title_reliable`, `extraction` | สถานะการแตกข้อความจาก PDF/Markdown (`extract_rtaf.py`) |
| `tier`, `domain` | ระดับความเกี่ยวข้องที่ใช้จัด band |
| `copy` | ลำดับสำเนาของแถวที่ซ้ำ (1 = สำเนาแรก) |

## การกันข้อสอบ

ระเบียบ ทอ. ทั้งหมด 44 ฉบับ แบ่งเป็นรายฉบับ (`corpus/rtaf_split.json`, `make_rtaf_test.py`):
**เทรน 36 ฉบับ**, **validation 3 ฉบับ** (อยู่ใน split `validation` เท่านั้น), **ข้อสอบ 5 ฉบับ** (ไม่อยู่ในชุดนี้เลย)

ข้อสอบ (5 ฉบับ — ใช้ใน `rtaf_test.jsonl` 377 ข้อ ไม่ได้อัปโหลด):
- ระเบียบกองทัพอากาศ ว่าด้วยการพิจารณาบำเหน็จประจำปีของข้าราชการทหาร พ.ศ.๒๕๖๗
- ระเบียบสำนักงานการบินกองทัพอากาศ ว่าด้วยใบอนุญาตนักบินทหาร พ.ศ.๒๕๖๖
- ระเบียบกองทัพอากาศ ว่าด้วยทุนการศึกษาของกองทัพอากาศ พ.ศ.๒๕๖๖
- ระเบียบกองทัพอากาศว่าด้วยการอุปสมบทหมู่กองทัพอากาศ พ.ศ.๒๕๖๘
- ระเบียบกองทัพอากาศว่าด้วยการดำเนินการเรื่องร้องทุกข์ร้องเรียน พ.ศ. ๒๕๖๖

validation (3 ฉบับ):
- ระเบียบทอ.ว่าด้วยการจราจรทางบก พ.ศ. ๒๕๓๙
- ระเบียบกองทัพอากาศ ว่าด้วยโรงเรียนนายทหารชั้นผู้บังคับหมวด พ.ศ.๒๕๖๗
- ระเบียบกองทัพอากาศ ว่าด้วยเครื่องหมายความสามารถกิจการพลเรือนและการประชาสัมพันธ์กองทัพอากาศ พ.ศ.๒๕๖๙

ข้อควรระวัง: ในชุดเทรนมี *ระเบียบกองทัพอากาศ ว่าด้วยทุนการศึกษาของกองทัพอากาศ พ.ศ.๒๕๕๙* ซึ่งเป็นฉบับก่อนหน้าของฉบับ พ.ศ.๒๕๖๖ ที่ใช้เป็นข้อสอบ
ฉบับใหม่ยกข้อเดิมมาหลายข้อ คะแนนข้อสอบแบบไม่แนบเอกสารของฉบับนี้จึงอาจสูงกว่าความจริง

## ที่มาและการเตรียม

- PDF/Markdown ระเบียบ ทอ. → `extract_rtaf.py` (แตกข้อความ, แก้ช่องว่างผิดจาก OCR) → `build_sections.py` → `corpus/sections.jsonl`
- `thai_clean.py` ทำความสะอาดข้อความไทย (รวมสระอำแบบแยก ํ + า เป็น ำ)
- `build_datasets.py` จัด band, วนซ้ำ, แบ่ง train/validation ตามเอกสาร

## โมเดลที่เทรนด้วยชุดนี้

`qwen9b_final_cpt` — `unsloth/Qwen3.5-9B` + LoRA r=32 (ไม่เทรน embed/lm_head) 1 epoch, 526 steps, LR 5e-5
validation loss 1.3813 (step 100) → **1.1317** (step 526)

ผลวัดหลัง CPT อย่างเดียว (ก่อน SFT) เทียบตัวฐาน: งานทั่วไปบางงานลดลงอย่างมีนัยสำคัญ (จำแนกอารมณ์ −13.0, จำแนกข่าว −9.9,
ข้อสอบ thai_exam −6.4, แปล EN→TH −21.3) ขณะที่ QA ดีขึ้น (thaiqa +18.5, wiki +12.1) — ข้อมูลชุดนี้เป็นภาษากฎหมายล้วน
ไม่มีข้อความทั่วไปหรือภาษาอังกฤษผสม ถ้าจะใช้ CPT อีก ควรผสมข้อมูลทั่วไป/คู่แปลเพื่อกันลืม

## สัญญาอนุญาต

ชุดนี้รวมหลายแหล่ง จึงไม่มีสัญญาอนุญาตเดียวครอบทั้งหมด

| แหล่ง | ใช้ใน | สัญญาอนุญาต (ตามการ์ดของแหล่ง) |
|---|---|---|
| ระเบียบกองทัพอากาศ (`rtaf`) | CPT, SFT | เอกสารของกองทัพอากาศ — ตรวจสิทธิ์ก่อนเผยแพร่ |
| พระราชบัญญัติ/พระราชกฤษฎีกาที่เกี่ยวข้อง (`local`) | CPT, SFT | กฎหมาย |
| [pythainlp/thailaw](https://huggingface.co/datasets/pythainlp/thailaw) (`thailaw`) | CPT, SFT | CC0-1.0 |
| ระเบียบกระทรวงกลาโหมว่าด้วยคำย่อ พ.ศ. 2555, วิชาศัพท์เฉพาะในวงการทหาร | CPT, SFT | เอกสารราชการ / เอกสารประกอบการสอน — ตรวจสิทธิ์ |
| [pythainlp/scb_mt_enth_2020](https://huggingface.co/datasets/pythainlp/scb_mt_enth_2020) | SFT | CC-BY-SA-4.0 |
| [pythainlp/thainer-corpus-v2](https://huggingface.co/datasets/pythainlp/thainer-corpus-v2) | SFT | CC-BY-3.0 |
| [pythainlp/wisesight_sentiment](https://huggingface.co/datasets/pythainlp/wisesight_sentiment) | SFT | CC0-1.0 |
| [iapp/iapp_wiki_qa_squad](https://huggingface.co/datasets/iapp/iapp_wiki_qa_squad) | SFT | MIT |
| [pythainlp/thaisum](https://huggingface.co/datasets/pythainlp/thaisum) | SFT | MIT |
| [Wongnai/wongnai_reviews](https://huggingface.co/datasets/Wongnai/wongnai_reviews) | SFT | LGPL-3.0 |
| [typhoon-ai/thai_exam](https://huggingface.co/datasets/typhoon-ai/thai_exam) | SFT | Apache-2.0 |
| [wannaphong/prachathai67k](https://huggingface.co/datasets/wannaphong/prachathai67k) | SFT | ไม่ระบุในการ์ด |
| [lighteval/thaiqa_squad_fixed](https://huggingface.co/datasets/lighteval/thaiqa_squad_fixed) | SFT | ไม่ระบุในการ์ด |