---
pretty_name: SF-CPT-v1：冻结且已分词的 CPT/SFT 混合 token cache
license: other
language: [ja, en]
task_categories:
  - text-generation
tags:
  - continued-pretraining
  - supervised-fine-tuning
  - reinforcement-learning
  - rlvr
  - japanese
  - searchforge
configs:
  - config_name: token_cache
    data_files:
      - split: train
        path: data/cpt_frozen/token_cache/train/*.arrow
      - split: eval
        path: data/cpt_frozen/token_cache/eval/*.arrow
---


# SF-CPT-v1：冻结且已分词的 CPT/SFT 混合 token cache

## 一句话定位

这是 2026 年 9 月两轮 CPT 实验实际读取的 Arrow 数据包，身份为 `3aef2778afe52f04c786ef2469465b4c5ae448f4db5a5dc08f6ec70254a2febf`。它已经完成来源选择、train/eval 隔离、Gemma 4 chat-template 渲染、tokenization、label/mask 制作和最长 8,192 token 的窗口化。它不是原始文本仓库，也不能仅凭 Arrow 反推出所有上游原始记录。

## config 与 split

唯一 config 是 `token_cache`：

| split | Arrow shard | 序列行数 | 输入 token | 监督 token | 用途 |
|---|---:|---:|---:|---:|---|
| `train` | 17 | 6,573 | 23,190,334 | 19,448,100 | 参数更新 |
| `eval` | 5 | 1,675 | 6,060,470 | 4,955,519 | loss/困惑度式评测，不更新参数 |
| **合计** | **22** | **8,248** | **29,250,804** | **24,403,619** | — |

“一行”是一个 tokenized sequence/window，不是一个原始文档或一条对话。序列长度范围为 3–8,192；大文档和长对话可能产生多个 window。

客户白书按文档组隔离为 96 个 train 文档组和 8 个 eval 文档组；考虑全部来源与近重复桥接后，manifest 记录 3,689 个 train group、916 个 eval group、跨 split overlap 为 0。算法包含显式身份键以及 bottom-256 character-13-shingle 近重复检测，阈值 0.85、seed 42。

## Arrow schema

| 字段 | Arrow 类型 | 含义 |
|---|---|---|
| `input_ids` | `list<int32>` | Gemma 4 tokenizer 产生的输入 token |
| `labels` | `list<int32>` | 与输入对齐的未右移 label；不计 loss 的位置由 ignore 值屏蔽 |
| `source_id` | string | 规范化来源，如 `customer`、`fineweb2_ja`、`nemotron_agentic_v2` |
| `variant_id` | string | 上游 subset/任务变体 |
| `group_id` | string | 用于防止相同/近重复样本跨 split 的分组 ID |
| `record_id` | string | 规范化记录身份 |
| `task_type` | string | `cpt` 或 `sft`；决定监督 mask 的语义 |
| `window_id` | int32 | 同一记录窗口编号 |
| `supervised_token_count` | int64 | 本序列中实际参与 loss 的 token 数 |

label 约定为 `unshifted_input_aligned_first_label_ignored`：训练代码负责常规 causal shift，不能再次在数据加载器里手工错移一位。CPT 行通常监督连续文本；SFT replay 行只监督 assistant/目标区域，因此输入 token 总数与监督 token 总数不同。

## 三部分混合及口径

设计比例按**监督 token**计算，而不是按行数：

| 大类 | train 监督 token | eval 监督 token | 设计占比 | 目的 |
|---|---:|---:|---:|---|
| 项目域连续文本 | 15,531,030 | 3,938,529 | 80% | 学习白书领域语言、事实和文体 |
| 通用 CPT | 1,943,138 | 488,107 | 10% | 降低通用语言建模能力遗忘 |
| 通用 SFT replay | 1,973,932 | 528,883 | 10% | 保持指令、Agent、代码、数学、安全等后训练能力 |

完整记录不会为了精确配额被截断，因此个别来源有 `WHOLE_RECORD_OVERSHOOT` warning；这是保留样本完整性的预期结果，不表示数据损坏。

### 通用 CPT 的五个 route

| source_id | 上游 subset | train 监督 token | eval 监督 token |
|---|---|---:|---:|
| `fineweb2_ja` | `HuggingFaceFW/fineweb-2 / jpn_Jpan / train` | 970,839 | 244,306 |
| `nemotron_cc21_hq` | `nvidia/Nemotron-CC-v2.1 / High-Quality` | 388,462 | 97,625 |
| `nemotron_cc21_mhq` | `nvidia/Nemotron-CC-v2.1 / Medium-High-Quality` | 194,239 | 48,586 |
| `nemotron_cc2_hq` | `nvidia/Nemotron-CC-v2 / High-Quality` | 291,622 | 73,278 |
| `nemotron_cc2_mhq` | `nvidia/Nemotron-CC-v2 / Medium-High-Quality` | 97,976 | 24,312 |

### 通用 SFT replay route

来自 Nemotron Instruction-Following Chat v2/v3、Agentic v2、Multilingual v2、Safety v2、Math v4、Competitive-Programming v2 和 Science v2。覆盖普通/非思考指令遵循、工具和搜索、交互式 Agent、日语代码/数学/STEM、安全、数学推理、Python/C++、Exercism、Text-to-SQL 与科学问答。

其中部分 Chat-v3 样本依赖 WildChat-1M 与 LMSYS-Chat-1M 的 prompt 索引来重建完整 user prompt。`dataset_manifest.json` 固定了索引哈希、上游文件哈希、tokenizer、chat template 和抽样账本；这些依赖不是额外训练 route，不能把它们的全部行数加入本数据包规模。

## `dataset_manifest.json` 应如何读

- `dataset_identity`：整个冻结包身份；变化意味着不是同一数据集。
- `sources`：每个上游 repo、subset/variant、选中记录及 token 配额。
- `customer`：104 份原始文档、SHA-256 和 train/eval 文档组信息。
- `grouping`：近重复/显式身份分组算法、阈值与 overlap 检查。
- `template_binding`、`tokenizer_files`：token 语义的必要组成。
- `sampling_ledger`：抽样账本的位置与哈希；账本本身未作为训练 split 暴露。
- `warnings`：不可恢复 prompt 替换和完整记录 overshoot；`errors` 为空且 `formal_eligible=true`。

## 正确使用与常见错误

1. 直接读取 Arrow，不要再套第二次 chat template 或再次 tokenization。
2. 训练只读取 `train`，周期 loss 只读取 `eval`；不要合并两个 split 后重新随机切。
3. 数据已经包含 CPT 与 SFT 两种 `task_type`，batch sampler 应遵守原训练设计；不要把所有 label 都改成 input IDs。
4. 0.5 epoch 的 20 个模型与 1.0 epoch 的 10 个模型使用同一冻结包；它们是训练长度/参数实验，不是两个数据版本。
5. 若使用不同 tokenizer、chat template 或 ignore-index 约定，应从 SF-RAW-v1 与锁定的通用来源重建，不能声称仍是同一 identity。
## 使用方法

推荐先使用 streaming 检查 schema，确认无误后再完整下载：

```python
from datasets import load_dataset
token_cache_train = load_dataset("vosldtgbj/project-llm-dataset-cpt-frozen-3aef2778", "token_cache", split="train", streaming=True)
print(next(iter(token_cache_train)))
token_cache_eval = load_dataset("vosldtgbj/project-llm-dataset-cpt-frozen-3aef2778", "token_cache", split="eval", streaming=True)
print(next(iter(token_cache_eval)))
```

固定 revision：

```python
ds = load_dataset(
    "vosldtgbj/project-llm-dataset-cpt-frozen-3aef2778",
    "token_cache",
    split="train",
    revision="<commit SHA>",
)
```

## 全系列血缘图

```text
公开日文白书 SF-RAW-v1
├── 分词、分组切分、按 token 混入通用 CPT/SFT ──> SF-CPT-v1
├── 教师生成九类 SFT + 自动/语义质检 ──> SF-SFT-v1
│   └── 客户任务清理 + 多语言多能力通用池 ──> SF-SFT-v2
│       └── 确定性引用净化 + 重新冻结 90/10 ──> SF-SFT-v3
└── 事实预索引 + 资格过滤 + 教师生成 + verifier fixture ──> SF-RLVR-Domain-v1
    └── 加入八个 NVIDIA 通用 RL 数据源 ──> SF-RLVR-Unified-v2
```

这里有两类不同的“关系”：

1. **数据血缘**：箭头表示下游数据由上游内容经过明确转换或抽样得到。
2. **模型训练顺序**：CPT checkpoint 可作为 SFT 起点，SFT checkpoint 可作为 RLVR 起点；这是权重关系，不表示 CPT Arrow 会转换成 SFT/RLVR JSONL。

七个仓库的职责：

| 别名 | 仓库 | 角色 | 当前建议 |
|---|---|---|---|
| SF-RAW-v1 | `project-llm-dataset-jp-whitepapers-v1` | 104 份项目域原始资料 | 重建数据时使用 |
| SF-CPT-v1 | `project-llm-dataset-cpt-frozen-3aef2778` | 已分词的 CPT 冻结包 | 复现 CPT 时使用 |
| SF-SFT-v1 | `project-llm-dataset-sft-generated-v1` | 第一轮完整生成审计集 | 仅审计/历史比较 |
| SF-SFT-v2 | `project-llm-dataset-sft-canonical-v2` | 90/10 多语言 canonical | 复现 v2 实验 |
| SF-SFT-v3 | `project-llm-dataset-sft-citation-optimized-v3` | 引用净化后的正式 SFT | 新 SFT 首选 `official_90_10` |
| SF-RLVR-Domain-v1 | `project-llm-dataset-rlvr-domain-v1` | 由白书构造的领域可验证题库 | 领域 RLVR/审计 |
| SF-RLVR-Unified-v2 | `project-llm-dataset-rlvr-unified-v2-37500` | 领域 + 通用的统一多环境题库 | 当前 RLVR 首选 execution config |

## 完整性、版本固定与复现

仓库根目录提供以下控制文件：

| 文件 | 作用 |
|---|---|
| `FILES.json` | 每个发布文件的上传前本地路径、仓库路径、字节数、mtime 与 SHA-256；适合程序审计 |
| `SHA256SUMS` | 可直接交给 `sha256sum -c` 的内容校验表 |
| `LINEAGE.json` | 本仓库的父版本、子版本、身份和关键数量 |
| `UPLOAD_MANIFEST.json` | 发布操作、目标 repo、文件数和总字节数 |
| `SOURCE_PATHS.md` | 制作时 canonical 本地位置；仅用于解释原始工作区，不是跨机器加载接口 |

下载后校验：

```bash
sha256sum -c SHA256SUMS
```

应把 repo commit、数据 config、split、manifest identity、代码版本、tokenizer/chat template 和训练配置一起记录。只写仓库名而不写 commit，无法严格复现实验。

## 公开性、评测污染与许可

本仓库公开发布用于研究、审计和实验复现。凡是这里公开的 `eval`、`locked_eval` 或参考答案，都已经失去“对未来模型保密”的属性：它们可以复现既有结果，也可以做开发集或公开 benchmark，但不能继续充当未来模型的私有盲测。未来正式报告应另建未公开、未参与 prompt 调整和人工挑选的评测集。

根卡使用 `license: other`，因为仓库可能同时包含日本政府公开材料、项目生成派生数据以及具有不同许可证的第三方数据。`other` 不会覆盖或重新许可上游内容。使用者必须逐一遵守上游条款、署名要求、可接受用途、隐私与再分发限制；尤其不能仅依据本仓库的可下载性推断所有上游材料均属于同一种许可证。

## 已知限制

- 时间截面固定在 2026-10-08 前后的项目归档状态；它不是持续更新的数据服务。
- 数据主要围绕日文防卫/警察白书及所选通用能力，不能代表所有日语领域、国家、文化或任务。
- 生成数据与规则验证能降低错误率，不能证明每个自然语言陈述都绝对正确。
- 行数、字节数、输入 token、监督 token 和 RLVR rollout 数是不同口径；比较数据量时必须注明口径。
- 发布目录中的 manifest 与审计字段可能包含内部实现名称。训练时应显式选择需要的字段，避免让模型学习 provenance 元数据。