yuhuanowo commited on
Commit
647d137
·
verified ·
1 Parent(s): 77035b0

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +5 -16
README.md CHANGED
@@ -15,32 +15,21 @@ configs:
15
  - "wiki_pretrain_part3.json"
16
  - "wiki_pretrain_part4.json"
17
  - "wiki_pretrain_part5.json"
 
18
 
19
  ---
20
  # cn 簡體中文維基百科 (zh Wikipedia)
21
 
22
- ## 📅 2025 年 8 月更新! (尚有官方繁體混入)
23
 
24
- **新版**截至 2025 年 8 月,中文維基百科 1,504,099 篇條目的簡體中文文字內容。每篇內文為text內容,且內容皆刪除引入、參考等不涉及知識方面之不必要內容。
25
-
26
- **New Version** As of August 2025, the Simplified Chinese content of the 1,504,099 articles on Chinese Wikipedia. Each article contains only text content, with introductory sections, references, and other non-knowledge-related elements removed.
27
-
28
- > 本次版本相較於先前版本(2507),條目數有所擴充,並進行深度清理與分段,將單一條目猜分成多個詞條,將數據保持為純文本並不包含文章格式。
29
- >
30
- > *由於深度清理與分段並修改最小詞條長度,原本長文中的小段落將被清除,因此資料量大幅縮小!
31
- >
32
- > *2508版本已解決先前版本中,內文有少數詞語消失的問題!
33
-
34
- 於 2025 年 8 月 22 日取自維基百科dump。
35
-
36
- Retrieved on August 22, 2025, from the Wikipedia dump.
37
 
38
  ## 📦 資料集結構
39
 
40
  ```json
41
  {
42
- "title": "農業 - 定義",
43
- "text": " 根據東漢時期《說文解字》和清康熙時期《康熙字典》的解釋,農字都是耕種的意思,這表示在中國古代就只有種植業才會被稱作農業。但现代对农业的定义更加广泛,包括利用自然资源生产维持生命所需的物品,如食物、纤维、林业产品、园艺作物,以及与之相关的服务。因此,广义的农业包括种植业、园艺、动物养殖畜牧业、水产养殖等和林业,但有时园艺和林业也被排除在外。"
44
  }
45
  ```
46
 
 
15
  - "wiki_pretrain_part3.json"
16
  - "wiki_pretrain_part4.json"
17
  - "wiki_pretrain_part5.json"
18
+ - "wiki_pretrain_part6.json"
19
 
20
  ---
21
  # cn 簡體中文維基百科 (zh Wikipedia)
22
 
23
+ ## 📅 2025 年 9 月更新!
24
 
25
+ 2025 年 9 2 日取自維基百科dump,經OpenCC轉換成簡體中文後沒有繁簡體混雜的問題。
 
 
 
 
 
 
 
 
 
 
 
 
26
 
27
  ## 📦 資料集結構
28
 
29
  ```json
30
  {
31
+ "title": "农业-定义",
32
+ "text": " 根据东汉时期《说文解字》和清康熙时期《康熙字典》的解释,「农」字都是「耕种」的意思,这表示在中国古代就只有种植业才会被称作「农业」。但现代对农业的定义更加广泛,包括利用自然资源生产维持生命所需的物品,如食物、纤维、林业产品、园艺作物,以及与之相关的服务。因此,广义的农业包括种植业、园艺、动物养殖(畜牧业、水产养殖等)和林业,但有时园艺和林业也被排除在外。此外,农业可因管理对象不同而分为两类:植物农业,主要涉及作物的培育;动物农业,主要关注农业动物产品。"
33
  }
34
  ```
35