vosldtgbj/project-llm-dataset-cpt-frozen-3aef2778

SF-CPT-v1：冻结且已分词的 CPT/SFT 混合 token cache

一句话定位

这是 2026 年 9 月两轮 CPT 实验实际读取的 Arrow 数据包，身份为 3aef2778afe52f04c786ef2469465b4c5ae448f4db5a5dc08f6ec70254a2febf。它已经完成来源选择、train/eval 隔离、Gemma 4 chat-template 渲染、tokenization、label/mask 制作和最长 8,192 token 的窗口化。它不是原始文本仓库，也不能仅凭 Arrow 反推出所有上游原始记录。

config 与 split

唯一 config 是 token_cache：

split	Arrow shard	序列行数	输入 token	监督 token	用途
train	17	6,573	23,190,334	19,448,100	参数更新
eval	5	1,675	6,060,470	4,955,519	loss/困惑度式评测，不更新参数
合计	22	8,248	29,250,804	24,403,619	—

“一行”是一个 tokenized sequence/window，不是一个原始文档或一条对话。序列长度范围为 3–8,192；大文档和长对话可能产生多个 window。

客户白书按文档组隔离为 96 个 train 文档组和 8 个 eval 文档组；考虑全部来源与近重复桥接后，manifest 记录 3,689 个 train group、916 个 eval group、跨 split overlap 为 0。算法包含显式身份键以及 bottom-256 character-13-shingle 近重复检测，阈值 0.85、seed 42。

Arrow schema

字段	Arrow 类型	含义
input_ids	list<int32>	Gemma 4 tokenizer 产生的输入 token
labels	list<int32>	与输入对齐的未右移 label；不计 loss 的位置由 ignore 值屏蔽
source_id	string	规范化来源，如 customer、fineweb2_ja、nemotron_agentic_v2
variant_id	string	上游 subset/任务变体
group_id	string	用于防止相同/近重复样本跨 split 的分组 ID
record_id	string	规范化记录身份
task_type	string	cpt 或 sft；决定监督 mask 的语义
window_id	int32	同一记录窗口编号
supervised_token_count	int64	本序列中实际参与 loss 的 token 数

label 约定为 unshifted_input_aligned_first_label_ignored：训练代码负责常规 causal shift，不能再次在数据加载器里手工错移一位。CPT 行通常监督连续文本；SFT replay 行只监督 assistant/目标区域，因此输入 token 总数与监督 token 总数不同。

三部分混合及口径

设计比例按监督 token计算，而不是按行数：

大类	train 监督 token	eval 监督 token	设计占比	目的
项目域连续文本	15,531,030	3,938,529	80%	学习白书领域语言、事实和文体
通用 CPT	1,943,138	488,107	10%	降低通用语言建模能力遗忘
通用 SFT replay	1,973,932	528,883	10%	保持指令、Agent、代码、数学、安全等后训练能力

完整记录不会为了精确配额被截断，因此个别来源有 WHOLE_RECORD_OVERSHOOT warning；这是保留样本完整性的预期结果，不表示数据损坏。

通用 CPT 的五个 route

source_id	上游 subset	train 监督 token	eval 监督 token
fineweb2_ja	HuggingFaceFW/fineweb-2 / jpn_Jpan / train	970,839	244,306
nemotron_cc21_hq	nvidia/Nemotron-CC-v2.1 / High-Quality	388,462	97,625
nemotron_cc21_mhq	nvidia/Nemotron-CC-v2.1 / Medium-High-Quality	194,239	48,586
nemotron_cc2_hq	nvidia/Nemotron-CC-v2 / High-Quality	291,622	73,278
nemotron_cc2_mhq	nvidia/Nemotron-CC-v2 / Medium-High-Quality	97,976	24,312

通用 SFT replay route

来自 Nemotron Instruction-Following Chat v2/v3、Agentic v2、Multilingual v2、Safety v2、Math v4、Competitive-Programming v2 和 Science v2。覆盖普通/非思考指令遵循、工具和搜索、交互式 Agent、日语代码/数学/STEM、安全、数学推理、Python/C++、Exercism、Text-to-SQL 与科学问答。

其中部分 Chat-v3 样本依赖 WildChat-1M 与 LMSYS-Chat-1M 的 prompt 索引来重建完整 user prompt。dataset_manifest.json 固定了索引哈希、上游文件哈希、tokenizer、chat template 和抽样账本；这些依赖不是额外训练 route，不能把它们的全部行数加入本数据包规模。

dataset_manifest.json 应如何读

• dataset_identity：整个冻结包身份；变化意味着不是同一数据集。
• sources：每个上游 repo、subset/variant、选中记录及 token 配额。
• customer：104 份原始文档、SHA-256 和 train/eval 文档组信息。
• grouping：近重复/显式身份分组算法、阈值与 overlap 检查。
• template_binding、tokenizer_files：token 语义的必要组成。
• sampling_ledger：抽样账本的位置与哈希；账本本身未作为训练 split 暴露。
• warnings：不可恢复 prompt 替换和完整记录 overshoot；errors 为空且 formal_eligible=true。

正确使用与常见错误

1. 直接读取 Arrow，不要再套第二次 chat template 或再次 tokenization。
2. 训练只读取 train，周期 loss 只读取 eval；不要合并两个 split 后重新随机切。
3. 数据已经包含 CPT 与 SFT 两种 task_type，batch sampler 应遵守原训练设计；不要把所有 label 都改成 input IDs。
4. 0.5 epoch 的 20 个模型与 1.0 epoch 的 10 个模型使用同一冻结包；它们是训练长度/参数实验，不是两个数据版本。
5. 若使用不同 tokenizer、chat template 或 ignore-index 约定，应从 SF-RAW-v1 与锁定的通用来源重建，不能声称仍是同一 identity。

使用方法

推荐先使用 streaming 检查 schema，确认无误后再完整下载：

from datasets import load_dataset
token_cache_train = load_dataset("vosldtgbj/project-llm-dataset-cpt-frozen-3aef2778", "token_cache", split="train", streaming=True)
print(next(iter(token_cache_train)))
token_cache_eval = load_dataset("vosldtgbj/project-llm-dataset-cpt-frozen-3aef2778", "token_cache", split="eval", streaming=True)
print(next(iter(token_cache_eval)))

固定 revision：

ds = load_dataset(
    "vosldtgbj/project-llm-dataset-cpt-frozen-3aef2778",
    "token_cache",
    split="train",
    revision="<commit SHA>",
)

全系列血缘图

公开日文白书 SF-RAW-v1
├── 分词、分组切分、按 token 混入通用 CPT/SFT ──> SF-CPT-v1
├── 教师生成九类 SFT + 自动/语义质检 ──> SF-SFT-v1
│   └── 客户任务清理 + 多语言多能力通用池 ──> SF-SFT-v2
│       └── 确定性引用净化 + 重新冻结 90/10 ──> SF-SFT-v3
└── 事实预索引 + 资格过滤 + 教师生成 + verifier fixture ──> SF-RLVR-Domain-v1
    └── 加入八个 NVIDIA 通用 RL 数据源 ──> SF-RLVR-Unified-v2

这里有两类不同的“关系”：

1. 数据血缘：箭头表示下游数据由上游内容经过明确转换或抽样得到。
2. 模型训练顺序：CPT checkpoint 可作为 SFT 起点，SFT checkpoint 可作为 RLVR 起点；这是权重关系，不表示 CPT Arrow 会转换成 SFT/RLVR JSONL。

七个仓库的职责：

别名	仓库	角色	当前建议
SF-RAW-v1	project-llm-dataset-jp-whitepapers-v1	104 份项目域原始资料	重建数据时使用
SF-CPT-v1	project-llm-dataset-cpt-frozen-3aef2778	已分词的 CPT 冻结包	复现 CPT 时使用
SF-SFT-v1	project-llm-dataset-sft-generated-v1	第一轮完整生成审计集	仅审计/历史比较
SF-SFT-v2	project-llm-dataset-sft-canonical-v2	90/10 多语言 canonical	复现 v2 实验
SF-SFT-v3	project-llm-dataset-sft-citation-optimized-v3	引用净化后的正式 SFT	新 SFT 首选 official_90_10
SF-RLVR-Domain-v1	project-llm-dataset-rlvr-domain-v1	由白书构造的领域可验证题库	领域 RLVR/审计
SF-RLVR-Unified-v2	project-llm-dataset-rlvr-unified-v2-37500	领域 + 通用的统一多环境题库	当前 RLVR 首选 execution config

完整性、版本固定与复现

仓库根目录提供以下控制文件：

文件	作用
FILES.json	每个发布文件的上传前本地路径、仓库路径、字节数、mtime 与 SHA-256；适合程序审计
SHA256SUMS	可直接交给 sha256sum -c 的内容校验表
LINEAGE.json	本仓库的父版本、子版本、身份和关键数量
UPLOAD_MANIFEST.json	发布操作、目标 repo、文件数和总字节数
SOURCE_PATHS.md	制作时 canonical 本地位置；仅用于解释原始工作区，不是跨机器加载接口

下载后校验：

sha256sum -c SHA256SUMS

应把 repo commit、数据 config、split、manifest identity、代码版本、tokenizer/chat template 和训练配置一起记录。只写仓库名而不写 commit，无法严格复现实验。

公开性、评测污染与许可

本仓库公开发布用于研究、审计和实验复现。凡是这里公开的 eval、locked_eval 或参考答案，都已经失去“对未来模型保密”的属性：它们可以复现既有结果，也可以做开发集或公开 benchmark，但不能继续充当未来模型的私有盲测。未来正式报告应另建未公开、未参与 prompt 调整和人工挑选的评测集。

根卡使用 license: other，因为仓库可能同时包含日本政府公开材料、项目生成派生数据以及具有不同许可证的第三方数据。other 不会覆盖或重新许可上游内容。使用者必须逐一遵守上游条款、署名要求、可接受用途、隐私与再分发限制；尤其不能仅依据本仓库的可下载性推断所有上游材料均属于同一种许可证。

已知限制

• 时间截面固定在 2026-10-08 前后的项目归档状态；它不是持续更新的数据服务。
• 数据主要围绕日文防卫/警察白书及所选通用能力，不能代表所有日语领域、国家、文化或任务。
• 生成数据与规则验证能降低错误率，不能证明每个自然语言陈述都绝对正确。
• 行数、字节数、输入 token、监督 token 和 RLVR rollout 数是不同口径；比较数据量时必须注明口径。
• 发布目录中的 manifest 与审计字段可能包含内部实现名称。训练时应显式选择需要的字段，避免让模型学习 provenance 元数据。