metadata
license: apache-2.0
language:
- zh
size_categories:
- 1M<n<10M
pretty_name: wiki-pretrain-zh
configs:
- config_name: default
data_files:
- split: train
path:
- wiki_pretrain_part1.json
- wiki_pretrain_part2.json
- wiki_pretrain_part3.json
- wiki_pretrain_part4.json
- wiki_pretrain_part5.json
- wiki_pretrain_part6.json
cn 簡體中文維基百科 (zh Wikipedia)
📅 2025 年 10 月更新！
於 2025 年 10 月 1 日取自維基百科dump，經OpenCC轉換成簡體中文後沒有繁簡體混雜的問題。
📦 資料集結構
{
"title": "农业-定义",
"text": " 根据东汉时期《说文解字》和清康熙时期《康熙字典》的解释，「农」字都是「耕种」的意思，这表示在中国古代就只有种植业才会被称作「农业」。但现代对农业的定义更加广泛，包括利用自然资源生产维持生命所需的物品，如食物、纤维、林业产品、园艺作物，以及与之相关的服务。因此，广义的农业包括种植业、园艺、动物养殖（畜牧业、水产养殖等）和林业，但有时园艺和林业也被排除在外。此外，农业可因管理对象不同而分为两类：植物农业，主要涉及作物的培育；动物农业，主要关注农业动物产品。"
}
🔖 欄位說明
title: (string) 段落標題（如有，通常為「主題 - 章節」格式）text: (string) 維基百科文本內容
🚀 使用方法
from datasets import load_dataset
dataset = load_dataset("yuhuanstudio/wikipedia-pretrain-zh", split="train")
⚠️ 注意事項
*僅保留有意義的知識性段落，去除圖片、表格、infobox、外部連結、註釋等非知識內容
*每筆資料為一個段落，非整篇文章
*內容經過長度與質量篩選，部分過短或雜訊段落已被排除
*內容經過長度篩選過濾，文章區塊只抓取有意義的內容，圖片、詳細資訊可能不被納入其中，並且可能不包含所有文章。
📄 授權資訊
[apache-2.0]
📌 如果你在其他專案中引用了這個資料集，歡迎順手標註一下作者或專案連結，讓我也能看到它的應用！😊