Dataset Card for tw-novel-1.1B

本資料集收錄繁體中文小說語料，總 token 數約 1.1B（11 億），可作為繁中模型在「長篇敘事／創作寫作」語境下的補充預訓練資料。文體涵蓋現代愛情、古裝、奇幻、穿越等網路與華文小說常見類型。

Dataset Details

Dataset Description

資料以 meta-llama/Llama-3.2-3B 之 tokenizer 統計，全集約 1.1B tokens。本資料集對小說語料的單筆樣本不一定切到「整本書」尺度，而是以段落／章節級切片儲存於 text 欄位，方便直接做 next-token prediction。

可用於：

• 繁中模型在敘事連貫性、人物對話、情境描寫上的能力補強。
• 創作寫作、續寫、摘要等任務之 SFT 起點語料。

⚠️ 部分文本繁簡轉換後仍保留中國大陸網路小說常見的用詞與場景；下游若需要嚴格的「臺灣本土敘事」場景，建議再做主題篩選。

• Curated by: Huang Liang Hsun
• Language(s) (NLP): Traditional Chinese
• License: cc-by-nc-sa-4.0

Dataset Sources

• Repository: lianghsun/tw-novel-1.1B
• Filtered subset: TBA
• Paper: TBA

Uses

Direct Use

• 繁中模型的持續預訓練語料，特別是在敘事文體、長篇上下文、對話描寫的能力補強。
• 作為續寫／創作模型的種子語料。

Out-of-Scope Use

• 不應作為事實型問答的來源；小說屬虛構作品。
• 商用前請評估原作著作權；本資料集 license 為 cc-by-nc-sa-4.0，但個別小說之原始著作權仍歸作者所有。

Dataset Structure

{
  "text": "然而麵上還是要關切地走上前去給楚老夫人順氣，溫聲勸解：「姑母消消氣，楚窈她就是……」 話沒說完就被楚老夫人抓住了手腕..."
}

僅含單一 text 欄位，內容為小說段落／章節文字。

Dataset Creation

Curation Rationale

通用網頁語料中，長篇敘事、人物對話、心理描寫的覆蓋密度不足，模型在生成創作型文本時容易斷裂、轉折生硬。本資料集集中蒐集小說文本，提升模型在敘事性內容上的表現。

Source Data

Data Collection and Processing

1. 蒐集公開可取得之繁體中文小說文本。
2. 簡單清理（移除頁碼、章節標號等版面雜訊）。
3. 切分為段落／章節級樣本，輸出為 JSONL。

Who are the source data producers?

原始小說由各作者撰寫；本資料集僅做語料整理，不主張對小說內容的著作權。

Annotations

Annotation process

無人工標註。

Who are the annotators?

無標註者。

Personal and Sensitive Information

小說內容為虛構，所提及之人物、地名為作品設定，不對應真實個人。

Bias, Risks, and Limitations

• 部分小說內容涉及刻板印象、性別／階級偏見、暴力或情慾描寫；訓練前應依目標應用做敏感內容過濾。
• 部分樣本繁簡轉換後仍含中國大陸網路小說的用詞／場景特徵，並非全部為臺灣本土敘事。
• 著作權：本資料集 license 為 cc-by-nc-sa-4.0，但個別作品之原始著作權仍歸作者所有；下游使用前請評估。

Recommendations

• 訓練前再做一次敏感內容／簡體用語過濾。
• 商用前請主動向小說平台或作者取得相應授權。

Citation

@misc{tw_novel_1_1b,
  title        = {tw-novel-1.1B: Traditional Chinese Novel Corpus (1.1B tokens)},
  author       = {Huang, Liang Hsun},
  year         = {2024},
  howpublished = {\url{https://huggingface.co/datasets/lianghsun/tw-novel-1.1B}}
}

Dataset Card Authors

Huang Liang Hsun

Dataset Card Contact

Huang Liang Hsun