|
|
--- |
|
|
license: apache-2.0 |
|
|
language: |
|
|
- zh |
|
|
size_categories: |
|
|
- 1M<n<10M |
|
|
pretty_name: wiki-pretrain-zh |
|
|
configs: |
|
|
- config_name: default |
|
|
data_files: |
|
|
- split: train |
|
|
path: |
|
|
- "wiki_pretrain_part1.json" |
|
|
- "wiki_pretrain_part2.json" |
|
|
- "wiki_pretrain_part3.json" |
|
|
- "wiki_pretrain_part4.json" |
|
|
- "wiki_pretrain_part5.json" |
|
|
- "wiki_pretrain_part6.json" |
|
|
|
|
|
--- |
|
|
# cn 簡體中文維基百科 (zh Wikipedia) |
|
|
|
|
|
## 📅 2025 年 10 月更新！ |
|
|
|
|
|
於 2025 年 10 月 1 日取自維基百科dump，經OpenCC轉換成簡體中文後沒有繁簡體混雜的問題。 |
|
|
|
|
|
## 📦 資料集結構 |
|
|
|
|
|
```json |
|
|
{ |
|
|
"title": "农业-定义", |
|
|
"text": " 根据东汉时期《说文解字》和清康熙时期《康熙字典》的解释，「农」字都是「耕种」的意思，这表示在中国古代就只有种植业才会被称作「农业」。但现代对农业的定义更加广泛，包括利用自然资源生产维持生命所需的物品，如食物、纤维、林业产品、园艺作物，以及与之相关的服务。因此，广义的农业包括种植业、园艺、动物养殖（畜牧业、水产养殖等）和林业，但有时园艺和林业也被排除在外。此外，农业可因管理对象不同而分为两类：植物农业，主要涉及作物的培育；动物农业，主要关注农业动物产品。" |
|
|
} |
|
|
``` |
|
|
|
|
|
## 🔖 欄位說明 |
|
|
- `title`: (string) 段落標題（如有，通常為「主題 - 章節」格式） |
|
|
- `text`: (string) 維基百科文本內容 |
|
|
|
|
|
## 🚀 使用方法 |
|
|
|
|
|
```python |
|
|
from datasets import load_dataset |
|
|
dataset = load_dataset("yuhuanstudio/wikipedia-pretrain-zh", split="train") |
|
|
``` |
|
|
|
|
|
## ⚠️ 注意事項 |
|
|
|
|
|
*僅保留有意義的知識性段落，去除圖片、表格、infobox、外部連結、註釋等非知識內容 |
|
|
|
|
|
*每筆資料為一個段落，非整篇文章 |
|
|
|
|
|
*內容經過長度與質量篩選，部分過短或雜訊段落已被排除 |
|
|
|
|
|
*內容經過長度篩選過濾，文章區塊只抓取有意義的內容，圖片、詳細資訊可能不被納入其中，並且可能不包含所有文章。 |
|
|
|
|
|
|
|
|
## 📄 授權資訊 |
|
|
|
|
|
[apache-2.0] |
|
|
|
|
|
📌 如果你在其他專案中引用了這個資料集，歡迎順手標註一下作者或專案連結，讓我也能看到它的應用！😊 |
