nanochat-jp
Collection
9 items • Updated
Dataset Viewer
The dataset viewer is not available for this split.
Cannot extract the features (columns) for the split 'train' of the config 'default' of the dataset.
Error code: FeaturesError
Exception: ValueError
Message: Trailing data
Traceback: Traceback (most recent call last):
File "/src/services/worker/src/worker/job_runners/split/first_rows.py", line 244, in compute_first_rows_from_streaming_response
iterable_dataset = iterable_dataset._resolve_features()
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 4408, in _resolve_features
features = _infer_features_from_batch(self.with_format(None)._head())
~~~~~~~~~~~~~~~~~~~~~~~~~~~~^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2679, in _head
return next(iter(self.iter(batch_size=n)))
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2861, in iter
for key, pa_table in ex_iterable.iter_arrow():
~~~~~~~~~~~~~~~~~~~~~~^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2395, in _iter_arrow
yield from self.ex_iterable._iter_arrow()
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 536, in _iter_arrow
for key, pa_table in iterator:
^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 419, in _iter_arrow
for key, pa_table in self.generate_tables_fn(**gen_kwags):
~~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 251, in _generate_tables
batch = "\n".join(ujson_dumps(x) for x in ujson_loads(full_data)).encode()
~~~~~~~~~~~^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/utils/json.py", line 20, in ujson_loads
return pd.io.json.ujson_loads(*args, **kwargs)
~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^
ValueError: Trailing dataNeed help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
nanochat-jp-sft
nanochat の日本語フォーク nanochat-jp で使用する SFT（教師ありファインチューニング）用日本語データ です． 公開されている日本語指示データと，ペルソナ条件付きで生成した日本語マルチターン対話（self-chat）を，nanochat の SFT データローダがそのまま読める JSONL 形式で配布しています．
フォーマット
1行が1会話で，各行は messages の JSON 配列です．user から始まり assistant で終わる交互の並びになっています．
[{"role": "user", "content": "..."}, {"role": "assistant", "content": "..."}]
v1/ 以下のファイル群を $NANOCHAT_BASE_DIR/datasets/nanochat-jp-sft/v1/ に配置すると，nanochat-jp の scripts/chat_sft.py が既定の混合として読み込みます．学習に用いるファイルの組み合わせは同スクリプトを参照してください．
構成
公開データ由来
llm-jp/llm-jp-4-thinking-sft-data のコーディングや数学関連のデータを取り除いたサブセットです．
self-chat
self_chat_*.nanochat_sft.chat_filtered.jsonl は，以下の手順で新規に生成した日本語マルチターン対話です．
- ペルソナの条件付け: nvidia/Nemotron-Personas-Japan の各ペルソナ（文化的背景・スキル・趣味・キャリア・性別・婚姻状況・学歴・職業・都道府県）と，会話の切り出し方（相談・質問・雑談・自由）・口調をプロンプトに埋め込む
- self-chat の生成: 同一のモデルにユーザ役（ペルソナ本人になりきる）とアシスタント役の双方を演じさせ，最大4ターンの対話を生成
- nanochat SFT 形式への変換: user/assistant の交互性が崩れた時点で会話を打ち切り，assistant で終わる接頭辞のみを残す
- チャット品質フィルタ: n-gram 反復・ターンをまたいだ反復・メッセージの重複・表の行の重複・圧縮率によるルールベースフィルタ
教師モデルは以下の通りです．
| ファイル | 教師モデル |
|---|---|
self_chat_gpt_oss.* |
openai/gpt-oss-120b |
self_chat_gemma4.* |
google/gemma-4-31B-it（NVFP4 量子化版を使用） |
self_chat_nemotron.* |
nvidia/NVIDIA-Nemotron-3-Super-120B-A12B（NVFP4 量子化版を使用） |
self_chat_qwen3.*，self_chat_qwen3_v0.* |
Qwen/Qwen3.5-122B-A10B（NVFP4 量子化版を使用．サンプリング設定の異なる2バッチ） |
self_chat_llm_jp_v4.* |
llm-jp/llm-jp-4-32b-a3b-thinking |
ライセンス
ライセンスの異なる複数のデータを混合しているため，本データセット全体に単一のライセンスは設定していません（other）．各ファイルは元データのライセンスおよび利用条件を引き継ぎます．
| 構成要素 | ライセンス |
|---|---|
| 公開データ由来の部分 | llm-jp/llm-jp-4-thinking-sft-data のライセンスに従います |
self-chat（self_chat_*.jsonl） |
ペルソナは CC BY 4.0（nvidia/Nemotron-Personas-Japan）．対話本文は上表の教師モデルによる生成物であり，利用にあたっては各モデルのライセンス・利用規約（gpt-oss-120b，gemma-4-31B-it，Qwen3.5-122B-A10B，llm-jp-4-32b-a3b-thinking は Apache-2.0，NVIDIA-Nemotron-3-Super は NVIDIA Open Model License）に従ってください |
注意
- self-chat の対話はすべて LLM による生成物であり，事実性は保証されません．また，教師モデルの応答傾向・言い回しの癖をそのまま引き継ぎます．
- ペルソナは実在の人物ではなく，合成データです．
- フィルタを経てもなお，不適切な内容や誤情報が含まれる可能性があります．
謝辞
本データセットの構築にあたり，指示データを公開されている LLM-jp の皆様に感謝申し上げます． また，本プロジェクトの推進にあたり，多方面でご協力を賜りましたTohoku NLP Groupの皆様に心より御礼申し上げます．
- Downloads last month
- 78