Rtaf-CPT

ข้อความสำหรับ continued pre-training (CPT) ของโมเดลงานเอกสารกองทัพอากาศ (ทอ.) — ระเบียบ ทอ. กฎหมายกลาโหม กฎหมายการบิน และกฎหมายที่ระเบียบ ทอ. อ้างถึง ภาษาไทยทั้งหมด

ชุดข้อมูลนี้ตั้งเป็น private มีเนื้อหาระเบียบกองทัพอากาศ 39 ฉบับ ก่อนเปลี่ยนเป็น public ต้องได้รับอนุญาตจากเจ้าของเอกสาร และตรวจสัญญาอนุญาตของแหล่งสาธารณะในตารางท้ายการ์ด

ชุดข้อมูล

split	แถว	ใช้ทำอะไร
train	9,584	ข้อความที่ใช้เทรน CPT ตามลำดับและจำนวนซ้ำจริง
validation	180	validation loss ระหว่าง CPT (defence 120, inhouse 44, cited 16)

ไฟล์ train ตรงกับ corpus/cpt_train.jsonl (sha256 51dd695ec49f) ที่เทรน qwen9b_final_cpt ทุกแถว เพิ่มคอลัมน์ copy คอลัมน์เดียว รวมประมาณ 4.3 ล้าน tokens (tokenizer ของ Qwen3.5)

เนื้อหาตาม band

band	เนื้อหา	แถว	ไม่ซ้ำ	วนซ้ำ	ตัวอักษร
inhouse	ระเบียบ ทอ. + พ.ร.บ. ที่เกี่ยวข้อง	3,810	1,270	×3	3,462,291
defence	กฎหมายกลาโหม	2,709	2,709	×1	2,178,452
air	กฎหมายการบิน	1,866	933	×2	1,670,488
cited	กฎหมายที่ระเบียบ ทอ. อ้างถึง	1,128	1,128	×1	716,160
glossary	ตารางคำย่อ/ศัพท์ทหาร	71	71	×1	134,660
รวม		9,584	6,111		8,162,051

ระเบียบ ทอ. ถูกวนซ้ำ 3 รอบ และกฎหมายการบิน 2 รอบ โดยตั้งใจ (build_datasets.py --inhouse-repeat 3 --air-repeat 2) เพื่อให้โมเดลเห็นข้อความในบ้านบ่อยกว่ากฎหมายทั่วไป ถ้าต้องการแถวไม่ซ้ำ ให้กรอง copy == 1:

from datasets import load_dataset

ds = load_dataset("montg1/Rtaf-CPT")                      # private: ต้อง login (hf auth login) หรือส่ง token=
unique = ds["train"].filter(lambda r: r["copy"] == 1)     # 6,111 แถว

ระเบียบงานสารบรรณ พ.ศ.๒๕๖๘ ฉบับเดียวคิดเป็นราว 31% ของข้อความระเบียบ ทอ. ที่ใช้เทรน

คอลัมน์

คอลัมน์	ความหมาย
text	ข้อความหนึ่งท่อน (มาตรา/ข้อ หรือกลุ่มคำย่อ)
band	กลุ่มเนื้อหา ดูตารางข้างบน
source	rtaf ระเบียบ ทอ., local พ.ร.บ. ที่เตรียมเอง, thailaw pythainlp/thailaw, glossary ตารางคำย่อ
doc_id, title	เอกสารต้นทาง
kind, label, number, part, order	ชนิดท่อน (มาตรา/ข้อ/เหตุผล), เลขข้อ และลำดับในเอกสาร
is_partial, title_reliable, extraction	สถานะการแตกข้อความจาก PDF/Markdown (extract_rtaf.py)
tier, domain	ระดับความเกี่ยวข้องที่ใช้จัด band
copy	ลำดับสำเนาของแถวที่ซ้ำ (1 = สำเนาแรก)

การกันข้อสอบ

ระเบียบ ทอ. ทั้งหมด 44 ฉบับ แบ่งเป็นรายฉบับ (corpus/rtaf_split.json, make_rtaf_test.py): เทรน 36 ฉบับ, validation 3 ฉบับ (อยู่ใน split validation เท่านั้น), ข้อสอบ 5 ฉบับ (ไม่อยู่ในชุดนี้เลย)

ข้อสอบ (5 ฉบับ — ใช้ใน rtaf_test.jsonl 377 ข้อ ไม่ได้อัปโหลด):

• ระเบียบกองทัพอากาศ ว่าด้วยการพิจารณาบำเหน็จประจำปีของข้าราชการทหาร พ.ศ.๒๕๖๗
• ระเบียบสำนักงานการบินกองทัพอากาศ ว่าด้วยใบอนุญาตนักบินทหาร พ.ศ.๒๕๖๖
• ระเบียบกองทัพอากาศ ว่าด้วยทุนการศึกษาของกองทัพอากาศ พ.ศ.๒๕๖๖
• ระเบียบกองทัพอากาศว่าด้วยการอุปสมบทหมู่กองทัพอากาศ พ.ศ.๒๕๖๘
• ระเบียบกองทัพอากาศว่าด้วยการดำเนินการเรื่องร้องทุกข์ร้องเรียน พ.ศ. ๒๕๖๖

validation (3 ฉบับ):

• ระเบียบทอ.ว่าด้วยการจราจรทางบก พ.ศ. ๒๕๓๙
• ระเบียบกองทัพอากาศ ว่าด้วยโรงเรียนนายทหารชั้นผู้บังคับหมวด พ.ศ.๒๕๖๗
• ระเบียบกองทัพอากาศ ว่าด้วยเครื่องหมายความสามารถกิจการพลเรือนและการประชาสัมพันธ์กองทัพอากาศ พ.ศ.๒๕๖๙

ข้อควรระวัง: ในชุดเทรนมี ระเบียบกองทัพอากาศ ว่าด้วยทุนการศึกษาของกองทัพอากาศ พ.ศ.๒๕๕๙ ซึ่งเป็นฉบับก่อนหน้าของฉบับ พ.ศ.๒๕๖๖ ที่ใช้เป็นข้อสอบ ฉบับใหม่ยกข้อเดิมมาหลายข้อ คะแนนข้อสอบแบบไม่แนบเอกสารของฉบับนี้จึงอาจสูงกว่าความจริง

ที่มาและการเตรียม

• PDF/Markdown ระเบียบ ทอ. → extract_rtaf.py (แตกข้อความ, แก้ช่องว่างผิดจาก OCR) → build_sections.py → corpus/sections.jsonl
• thai_clean.py ทำความสะอาดข้อความไทย (รวมสระอำแบบแยก ํ + า เป็น ำ)
• build_datasets.py จัด band, วนซ้ำ, แบ่ง train/validation ตามเอกสาร

โมเดลที่เทรนด้วยชุดนี้

qwen9b_final_cpt — unsloth/Qwen3.5-9B + LoRA r=32 (ไม่เทรน embed/lm_head) 1 epoch, 526 steps, LR 5e-5 validation loss 1.3813 (step 100) → 1.1317 (step 526)

ผลวัดหลัง CPT อย่างเดียว (ก่อน SFT) เทียบตัวฐาน: งานทั่วไปบางงานลดลงอย่างมีนัยสำคัญ (จำแนกอารมณ์ −13.0, จำแนกข่าว −9.9, ข้อสอบ thai_exam −6.4, แปล EN→TH −21.3) ขณะที่ QA ดีขึ้น (thaiqa +18.5, wiki +12.1) — ข้อมูลชุดนี้เป็นภาษากฎหมายล้วน ไม่มีข้อความทั่วไปหรือภาษาอังกฤษผสม ถ้าจะใช้ CPT อีก ควรผสมข้อมูลทั่วไป/คู่แปลเพื่อกันลืม

สัญญาอนุญาต

ชุดนี้รวมหลายแหล่ง จึงไม่มีสัญญาอนุญาตเดียวครอบทั้งหมด

แหล่ง	ใช้ใน	สัญญาอนุญาต (ตามการ์ดของแหล่ง)
ระเบียบกองทัพอากาศ (rtaf)	CPT, SFT	เอกสารของกองทัพอากาศ — ตรวจสิทธิ์ก่อนเผยแพร่
พระราชบัญญัติ/พระราชกฤษฎีกาที่เกี่ยวข้อง (local)	CPT, SFT	กฎหมาย
pythainlp/thailaw (thailaw)	CPT, SFT	CC0-1.0
ระเบียบกระทรวงกลาโหมว่าด้วยคำย่อ พ.ศ. 2555, วิชาศัพท์เฉพาะในวงการทหาร	CPT, SFT	เอกสารราชการ / เอกสารประกอบการสอน — ตรวจสิทธิ์
pythainlp/scb_mt_enth_2020	SFT	CC-BY-SA-4.0
pythainlp/thainer-corpus-v2	SFT	CC-BY-3.0
pythainlp/wisesight_sentiment	SFT	CC0-1.0
iapp/iapp_wiki_qa_squad	SFT	MIT
pythainlp/thaisum	SFT	MIT
Wongnai/wongnai_reviews	SFT	LGPL-3.0
typhoon-ai/thai_exam	SFT	Apache-2.0
wannaphong/prachathai67k	SFT	ไม่ระบุในการ์ด
lighteval/thaiqa_squad_fixed	SFT	ไม่ระบุในการ์ด