Datasets:

Modalities:
Text
Formats:
json
Languages:
Japanese
ArXiv:
Libraries:
Datasets
pandas
License:
retarfi commited on
Commit
3f50712
1 Parent(s): 45e9ee6

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +3 -0
README.md CHANGED
@@ -20,6 +20,8 @@ v1.0.1にて,ドロップ後のデータセットをご利用いただけま
20
 
21
  2024/1/4にWikipedia summaryに空白文字のみで構成される出力を削除することに対応し,Wikipediaのバージョンアップデート(20240101)をしました(v1.0.2).
22
 
 
 
23
 
24
  ## データの詳細
25
 
@@ -56,6 +58,7 @@ dataset = load_dataset("izumi-lab/llm-japanese-dataset", revision="a.b.c") # for
56
  - version `1.0.0` contains 9,097,388 data (added jqac, wikipedia ja typo corpus)
57
  - version `1.0.1` contains 9,045,386 data (dropped alpaca dataset)
58
  - version `1.0.2` contains 9,074,350 data (removed samples of blank output and updated version of Wikipedia to 20240101 in Wikipedia summary)
 
59
 
60
  For more details, see: https://github.com/masanorihirano/llm-japanese-dataset
61
 
 
20
 
21
  2024/1/4にWikipedia summaryに空白文字のみで構成される出力を削除することに対応し,Wikipediaのバージョンアップデート(20240101)をしました(v1.0.2).
22
 
23
+ 2024/1/18にAsian Language Treebank (ALT)データセットの欠損した出力を削除しました(v1.0.3).
24
+
25
 
26
  ## データの詳細
27
 
 
58
  - version `1.0.0` contains 9,097,388 data (added jqac, wikipedia ja typo corpus)
59
  - version `1.0.1` contains 9,045,386 data (dropped alpaca dataset)
60
  - version `1.0.2` contains 9,074,350 data (removed samples of blank output and updated version of Wikipedia to 20240101 in Wikipedia summary)
61
+ - version `1.0.3` contains 9,074,340 data (removed samples of blank output in alt)
62
 
63
  For more details, see: https://github.com/masanorihirano/llm-japanese-dataset
64