Silviase commited on
Commit
304ac34
·
verified ·
1 Parent(s): 88fe391

Update dataset card (README.md)

Browse files
Files changed (1) hide show
  1. README.md +94 -33
README.md CHANGED
@@ -1,35 +1,96 @@
 
1
  ---
2
- dataset_info:
3
- features:
4
- - name: image
5
- dtype: image
6
- - name: character
7
- dtype: string
8
- - name: unicode_hex
9
- dtype: string
10
- - name: char_type
11
- dtype: string
12
- - name: font_family
13
- dtype: string
14
- - name: font_weight
15
- dtype: string
16
- - name: font_px
17
- dtype: int32
18
- - name: effect
19
- dtype: string
20
- - name: writing
21
- dtype: string
22
- - name: id
23
- dtype: string
24
- splits:
25
- - name: test
26
- num_bytes: 37950947.0
27
- num_examples: 18000
28
- download_size: 33230090
29
- dataset_size: 37950947.0
30
- configs:
31
- - config_name: default
32
- data_files:
33
- - split: test
34
- path: data/test-*
35
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+
2
  ---
3
+ language:
4
+ - ja
5
+ multilinguality: monolingual
6
+ task_categories:
7
+ - optical-character-recognition
8
+ task_ids:
9
+ - character-recognition
10
+ license: apache-2.0
11
+ pretty_name: JPCharRecog_v1.1
12
+ size_categories:
13
+ - 10K<n<100K
14
+ tags:
15
+ - ocr
16
+ - japanese
17
+ - cjk
18
+ - synthetic
19
+ - font
20
+ - rendered
21
+ - single-character
22
+ - document-ai
 
 
 
 
 
 
 
 
 
 
 
 
 
23
  ---
24
+
25
+ # JPCharRecog_v1.1
26
+
27
+ JPCharRecog v1.1 は、日本語の単文字(CJK を含む)認識を目的とした、合成レンダリング画像のデータセットです。純視覚要因(フォントファミリ/ウェイト/文字サイズ/劣化)を操作可能な設計で、辞書や文脈の寄与を切り分けるためのベンチマーク用途を想定しています。
28
+
29
+ - Task: Single-character recognition (JPCharRecog-like)
30
+ - Language: Japanese (CJK)
31
+ - Families: NotoSansJP, NotoSerifJP
32
+ - Weights: ExtraLight, Regular, Black
33
+ - Sizes(px): 12, 64, 96
34
+ - Effects: none (PNG)
35
+
36
+ ## Purpose
37
+ - 語彙や文脈による補正を排し、モデルの純粋な「読取り」能力を単文字で測るための基礎ベンチです。
38
+ - フォント設計や最小線幅、エイリアシングの影響を、ウェイトやサイズの系統操作で定量化します。
39
+ - OCR 系の上限線と、多モーダル生成モデルなどの一般モデルの読み取り限界を同一条件で比較可能にします。
40
+
41
+ ## Expected Experiments
42
+ - 閾値カーブ: 正答率や ANLS をサイズやウェイト、ファミリに対して描き、視覚的限界を同定。
43
+ - モデルスケール比較: 小中大の多モーダルモデルや OCR ベースラインと並走比較。
44
+ - フォント交差一般化: ファミリ間での頑健性(例: Sans で調整したプロンプトが Serif に転移するか)。
45
+ - 文字種分析: ひらがな/カタカナ/漢字/英数/記号での難易度差、出力正規化の影響(半角全角、類似字形)。
46
+ - 劣化耐性(将来拡張): blur や jpeg 劣化条件の段階化と用量–反応関係の確認。
47
+
48
+ 推奨プロトコル例(生成モデルの評価):
49
+ 1. プロンプトは「画像に写っている1文字のみを出力。説明や記号は付けない。」のように拘束を明記。
50
+ 2. 出力を正規化(前後空白除去、全角半角の統一、大小統一など)後に比較。
51
+ 3. 指標は Exact Match に加えて ANLS を併記(単文字では二値に近いが、将来の劣化条件で頑健)。
52
+
53
+ ## Structure
54
+ - Split: test
55
+ - Features: image(HFImage), character, unicode_hex, char_type, font_family, font_weight, font_px, writing, effect, id
56
+
57
+ ## Generation
58
+ - Canvas: 224×224, white background, black glyphs, centered
59
+ - Fonts: Noto Sans JP / Noto Serif JP(Google Noto; OFL)
60
+ - Deterministic seed=42; per-character split; stable ids
61
+
62
+ ## Statistics
63
+ - Total samples: 18,000(Sans/Serif 各 9,000)
64
+ - Families: NotoSansJP, NotoSerifJP × Weights: ExtraLight, Regular, Black × Sizes(px): 12, 64, 96
65
+ - Split: test
66
+
67
+ ## Usage
68
+ ```python
69
+ from datasets import load_dataset
70
+ ds = load_dataset("Silviase/JPCharRecog_v1.1")
71
+ test = ds["test"]
72
+ row = test[0]
73
+ img = row["image"] # PIL.Image
74
+ label_char = row["character"]
75
+ ```
76
+
77
+ ## License
78
+ - Dataset: Apache-2.0(本データセットの配布ライセンス)
79
+ - Fonts: Google Noto (OFL-1.1)。フォントの著作権表示とライセンスに従ってご利用ください。
80
+
81
+ ## Limitations
82
+ - 合成画像のため、実世界スキャン/撮影画像とは分布が異なります。
83
+ - 劣化効果(blur/jpeg)は v1.1 では未使用(将来拡張)。
84
+
85
+ ## Citation
86
+ If you use this dataset, please cite this repository and Google Noto fonts:
87
+
88
+ ```
89
+ @misc{JPCharRecog_v11,
90
+ title = {JPCharRecog v1.1: Synthetic Japanese Single-Character Recognition Dataset},
91
+ author = {Silviase},
92
+ year = {2025},
93
+ howpublished = {Hugging Face Datasets},
94
+ note = {Families: NotoSansJP/NotoSerifJP; Weights: ExtraLight/Regular/Black; Sizes: 12/64/96}
95
+ }
96
+ ```