zh_mix_en_symbols = [ | |
"_", | |
"AA", | |
"E", | |
"EE", | |
"En", | |
"N", | |
"OO", | |
"V", | |
"a", | |
"a:", | |
"aa", | |
"ae", | |
"ah", | |
"ai", | |
"an", | |
"ang", | |
"ao", | |
"aw", | |
"ay", | |
"b", | |
"by", | |
"c", | |
"ch", | |
"d", | |
"dh", | |
"dy", | |
"e", | |
"e:", | |
"eh", | |
"ei", | |
"en", | |
"eng", | |
"er", | |
"ey", | |
"f", | |
"g", | |
"gy", | |
"h", | |
"hh", | |
"hy", | |
"i", | |
"i0", | |
"i:", | |
"ia", | |
"ian", | |
"iang", | |
"iao", | |
"ie", | |
"ih", | |
"in", | |
"ing", | |
"iong", | |
"ir", | |
"iu", | |
"iy", | |
"j", | |
"jh", | |
"k", | |
"ky", | |
"l", | |
"m", | |
"my", | |
"n", | |
"ng", | |
"ny", | |
"o", | |
"o:", | |
"ong", | |
"ou", | |
"ow", | |
"oy", | |
"p", | |
"py", | |
"q", | |
"r", | |
"ry", | |
"s", | |
"sh", | |
"t", | |
"th", | |
"ts", | |
"ty", | |
"u", | |
"u:", | |
"ua", | |
"uai", | |
"uan", | |
"uang", | |
"uh", | |
"ui", | |
"un", | |
"uo", | |
"uw", | |
"v", | |
"van", | |
"ve", | |
"vn", | |
"w", | |
"x", | |
"y", | |
"z", | |
"zh", | |
"zy", | |
"!", | |
"?", | |
"…", | |
",", | |
".", | |
"'", | |
"-", | |
"SP", | |
"UNK" | |
] | |
jp_symbols = [ | |
"_", | |
"\"", | |
"(", | |
")", | |
"*", | |
"/", | |
":", | |
"AA", | |
"E", | |
"EE", | |
"En", | |
"N", | |
"OO", | |
"Q", | |
"V", | |
"[", | |
"\\", | |
"]", | |
"^", | |
"a", | |
"a:", | |
"aa", | |
"ae", | |
"ah", | |
"ai", | |
"an", | |
"ang", | |
"ao", | |
"aw", | |
"ay", | |
"b", | |
"by", | |
"c", | |
"ch", | |
"d", | |
"dh", | |
"dy", | |
"e", | |
"e:", | |
"eh", | |
"ei", | |
"en", | |
"eng", | |
"er", | |
"ey", | |
"f", | |
"g", | |
"gy", | |
"h", | |
"hh", | |
"hy", | |
"i", | |
"i0", | |
"i:", | |
"ia", | |
"ian", | |
"iang", | |
"iao", | |
"ie", | |
"ih", | |
"in", | |
"ing", | |
"iong", | |
"ir", | |
"iu", | |
"iy", | |
"j", | |
"jh", | |
"k", | |
"ky", | |
"l", | |
"m", | |
"my", | |
"n", | |
"ng", | |
"ny", | |
"o", | |
"o:", | |
"ong", | |
"ou", | |
"ow", | |
"oy", | |
"p", | |
"py", | |
"q", | |
"r", | |
"ry", | |
"s", | |
"sh", | |
"t", | |
"th", | |
"ts", | |
"ty", | |
"u", | |
"u:", | |
"ua", | |
"uai", | |
"uan", | |
"uang", | |
"uh", | |
"ui", | |
"un", | |
"uo", | |
"uw", | |
"v", | |
"van", | |
"ve", | |
"vn", | |
"w", | |
"x", | |
"y", | |
"z", | |
"zh", | |
"zy", | |
"~", | |
"æ", | |
"ç", | |
"ð", | |
"ø", | |
"ŋ", | |
"œ", | |
"ɐ", | |
"ɑ", | |
"ɒ", | |
"ɔ", | |
"ɕ", | |
"ə", | |
"ɛ", | |
"ɜ", | |
"ɡ", | |
"ɣ", | |
"ɥ", | |
"ɦ", | |
"ɪ", | |
"ɫ", | |
"ɬ", | |
"ɭ", | |
"ɯ", | |
"ɲ", | |
"ɵ", | |
"ɸ", | |
"ɹ", | |
"ɾ", | |
"ʁ", | |
"ʃ", | |
"ʊ", | |
"ʌ", | |
"ʎ", | |
"ʏ", | |
"ʑ", | |
"ʒ", | |
"ʝ", | |
"ʲ", | |
"ˈ", | |
"ˌ", | |
"ː", | |
"̃", | |
"̩", | |
"β", | |
"θ", | |
"ᄀ", | |
"ᄁ", | |
"ᄂ", | |
"ᄃ", | |
"ᄄ", | |
"ᄅ", | |
"ᄆ", | |
"ᄇ", | |
"ᄈ", | |
"ᄉ", | |
"ᄊ", | |
"ᄋ", | |
"ᄌ", | |
"ᄍ", | |
"ᄎ", | |
"ᄏ", | |
"ᄐ", | |
"ᄑ", | |
"ᄒ", | |
"ᅡ", | |
"ᅢ", | |
"ᅣ", | |
"ᅤ", | |
"ᅥ", | |
"ᅦ", | |
"ᅧ", | |
"ᅨ", | |
"ᅩ", | |
"ᅪ", | |
"ᅫ", | |
"ᅬ", | |
"ᅭ", | |
"ᅮ", | |
"ᅯ", | |
"ᅰ", | |
"ᅱ", | |
"ᅲ", | |
"ᅳ", | |
"ᅴ", | |
"ᅵ", | |
"ᆨ", | |
"ᆫ", | |
"ᆮ", | |
"ᆯ", | |
"ᆷ", | |
"ᆸ", | |
"ᆼ", | |
"ㄸ", | |
"!", | |
"?", | |
"…", | |
",", | |
".", | |
"'", | |
"-", | |
"¿", | |
"¡", | |
"SP", | |
"UNK" | |
] | |
en_symbols = [ | |
"_", | |
"\"", | |
"(", | |
")", | |
"*", | |
"/", | |
":", | |
"AA", | |
"E", | |
"EE", | |
"En", | |
"N", | |
"OO", | |
"Q", | |
"V", | |
"[", | |
"\\", | |
"]", | |
"^", | |
"a", | |
"a:", | |
"aa", | |
"ae", | |
"ah", | |
"ai", | |
"an", | |
"ang", | |
"ao", | |
"aw", | |
"ay", | |
"b", | |
"by", | |
"c", | |
"ch", | |
"d", | |
"dh", | |
"dy", | |
"e", | |
"e:", | |
"eh", | |
"ei", | |
"en", | |
"eng", | |
"er", | |
"ey", | |
"f", | |
"g", | |
"gy", | |
"h", | |
"hh", | |
"hy", | |
"i", | |
"i0", | |
"i:", | |
"ia", | |
"ian", | |
"iang", | |
"iao", | |
"ie", | |
"ih", | |
"in", | |
"ing", | |
"iong", | |
"ir", | |
"iu", | |
"iy", | |
"j", | |
"jh", | |
"k", | |
"ky", | |
"l", | |
"m", | |
"my", | |
"n", | |
"ng", | |
"ny", | |
"o", | |
"o:", | |
"ong", | |
"ou", | |
"ow", | |
"oy", | |
"p", | |
"py", | |
"q", | |
"r", | |
"ry", | |
"s", | |
"sh", | |
"t", | |
"th", | |
"ts", | |
"ty", | |
"u", | |
"u:", | |
"ua", | |
"uai", | |
"uan", | |
"uang", | |
"uh", | |
"ui", | |
"un", | |
"uo", | |
"uw", | |
"v", | |
"van", | |
"ve", | |
"vn", | |
"w", | |
"x", | |
"y", | |
"z", | |
"zh", | |
"zy", | |
"~", | |
"¡", | |
"¿", | |
"æ", | |
"ç", | |
"ð", | |
"ø", | |
"ŋ", | |
"œ", | |
"ɐ", | |
"ɑ", | |
"ɒ", | |
"ɔ", | |
"ɕ", | |
"ə", | |
"ɛ", | |
"ɜ", | |
"ɡ", | |
"ɣ", | |
"ɥ", | |
"ɦ", | |
"ɪ", | |
"ɫ", | |
"ɬ", | |
"ɭ", | |
"ɯ", | |
"ɲ", | |
"ɵ", | |
"ɸ", | |
"ɹ", | |
"ɾ", | |
"ʁ", | |
"ʃ", | |
"ʊ", | |
"ʌ", | |
"ʎ", | |
"ʏ", | |
"ʑ", | |
"ʒ", | |
"ʝ", | |
"ʲ", | |
"ˈ", | |
"ˌ", | |
"ː", | |
"̃", | |
"̩", | |
"β", | |
"θ", | |
"ᄀ", | |
"ᄁ", | |
"ᄂ", | |
"ᄃ", | |
"ᄄ", | |
"ᄅ", | |
"ᄆ", | |
"ᄇ", | |
"ᄈ", | |
"ᄉ", | |
"ᄊ", | |
"ᄋ", | |
"ᄌ", | |
"ᄍ", | |
"ᄎ", | |
"ᄏ", | |
"ᄐ", | |
"ᄑ", | |
"ᄒ", | |
"ᅡ", | |
"ᅢ", | |
"ᅣ", | |
"ᅤ", | |
"ᅥ", | |
"ᅦ", | |
"ᅧ", | |
"ᅨ", | |
"ᅩ", | |
"ᅪ", | |
"ᅫ", | |
"ᅬ", | |
"ᅭ", | |
"ᅮ", | |
"ᅯ", | |
"ᅰ", | |
"ᅱ", | |
"ᅲ", | |
"ᅳ", | |
"ᅴ", | |
"ᅵ", | |
"ᆨ", | |
"ᆫ", | |
"ᆮ", | |
"ᆯ", | |
"ᆷ", | |
"ᆸ", | |
"ᆼ", | |
"ㄸ", | |
"!", | |
"?", | |
"…", | |
",", | |
".", | |
"'", | |
"-", | |
"SP", | |
"UNK" | |
] | |
kr_symbols = [ | |
"_", | |
"\"", | |
"(", | |
")", | |
"*", | |
"/", | |
":", | |
"AA", | |
"E", | |
"EE", | |
"En", | |
"N", | |
"OO", | |
"Q", | |
"V", | |
"[", | |
"\\", | |
"]", | |
"^", | |
"a", | |
"a:", | |
"aa", | |
"ae", | |
"ah", | |
"ai", | |
"an", | |
"ang", | |
"ao", | |
"aw", | |
"ay", | |
"b", | |
"by", | |
"c", | |
"ch", | |
"d", | |
"dh", | |
"dy", | |
"e", | |
"e:", | |
"eh", | |
"ei", | |
"en", | |
"eng", | |
"er", | |
"ey", | |
"f", | |
"g", | |
"gy", | |
"h", | |
"hh", | |
"hy", | |
"i", | |
"i0", | |
"i:", | |
"ia", | |
"ian", | |
"iang", | |
"iao", | |
"ie", | |
"ih", | |
"in", | |
"ing", | |
"iong", | |
"ir", | |
"iu", | |
"iy", | |
"j", | |
"jh", | |
"k", | |
"ky", | |
"l", | |
"m", | |
"my", | |
"n", | |
"ng", | |
"ny", | |
"o", | |
"o:", | |
"ong", | |
"ou", | |
"ow", | |
"oy", | |
"p", | |
"py", | |
"q", | |
"r", | |
"ry", | |
"s", | |
"sh", | |
"t", | |
"th", | |
"ts", | |
"ty", | |
"u", | |
"u:", | |
"ua", | |
"uai", | |
"uan", | |
"uang", | |
"uh", | |
"ui", | |
"un", | |
"uo", | |
"uw", | |
"v", | |
"van", | |
"ve", | |
"vn", | |
"w", | |
"x", | |
"y", | |
"z", | |
"zh", | |
"zy", | |
"~", | |
"¡", | |
"¿", | |
"æ", | |
"ç", | |
"ð", | |
"ø", | |
"ŋ", | |
"œ", | |
"ɐ", | |
"ɑ", | |
"ɒ", | |
"ɔ", | |
"ɕ", | |
"ə", | |
"ɛ", | |
"ɜ", | |
"ɡ", | |
"ɣ", | |
"ɥ", | |
"ɦ", | |
"ɪ", | |
"ɫ", | |
"ɬ", | |
"ɭ", | |
"ɯ", | |
"ɲ", | |
"ɵ", | |
"ɸ", | |
"ɹ", | |
"ɾ", | |
"ʁ", | |
"ʃ", | |
"ʊ", | |
"ʌ", | |
"ʎ", | |
"ʏ", | |
"ʑ", | |
"ʒ", | |
"ʝ", | |
"ʲ", | |
"ˈ", | |
"ˌ", | |
"ː", | |
"̃", | |
"̩", | |
"β", | |
"θ", | |
"ᄀ", | |
"ᄁ", | |
"ᄂ", | |
"ᄃ", | |
"ᄄ", | |
"ᄅ", | |
"ᄆ", | |
"ᄇ", | |
"ᄈ", | |
"ᄉ", | |
"ᄊ", | |
"ᄋ", | |
"ᄌ", | |
"ᄍ", | |
"ᄎ", | |
"ᄏ", | |
"ᄐ", | |
"ᄑ", | |
"ᄒ", | |
"ᅡ", | |
"ᅢ", | |
"ᅣ", | |
"ᅤ", | |
"ᅥ", | |
"ᅦ", | |
"ᅧ", | |
"ᅨ", | |
"ᅩ", | |
"ᅪ", | |
"ᅫ", | |
"ᅬ", | |
"ᅭ", | |
"ᅮ", | |
"ᅯ", | |
"ᅰ", | |
"ᅱ", | |
"ᅲ", | |
"ᅳ", | |
"ᅴ", | |
"ᅵ", | |
"ᆨ", | |
"ᆫ", | |
"ᆮ", | |
"ᆯ", | |
"ᆷ", | |
"ᆸ", | |
"ᆼ", | |
"ㄸ", | |
"!", | |
"?", | |
"…", | |
",", | |
".", | |
"'", | |
"-", | |
"SP", | |
"UNK" | |
] | |
es_symbols = [ | |
"_", | |
"\"", | |
"(", | |
")", | |
"*", | |
"/", | |
":", | |
"AA", | |
"E", | |
"EE", | |
"En", | |
"N", | |
"OO", | |
"Q", | |
"V", | |
"[", | |
"\\", | |
"]", | |
"^", | |
"a", | |
"a:", | |
"aa", | |
"ae", | |
"ah", | |
"ai", | |
"an", | |
"ang", | |
"ao", | |
"aw", | |
"ay", | |
"b", | |
"by", | |
"c", | |
"ch", | |
"d", | |
"dh", | |
"dy", | |
"e", | |
"e:", | |
"eh", | |
"ei", | |
"en", | |
"eng", | |
"er", | |
"ey", | |
"f", | |
"g", | |
"gy", | |
"h", | |
"hh", | |
"hy", | |
"i", | |
"i0", | |
"i:", | |
"ia", | |
"ian", | |
"iang", | |
"iao", | |
"ie", | |
"ih", | |
"in", | |
"ing", | |
"iong", | |
"ir", | |
"iu", | |
"iy", | |
"j", | |
"jh", | |
"k", | |
"ky", | |
"l", | |
"m", | |
"my", | |
"n", | |
"ng", | |
"ny", | |
"o", | |
"o:", | |
"ong", | |
"ou", | |
"ow", | |
"oy", | |
"p", | |
"py", | |
"q", | |
"r", | |
"ry", | |
"s", | |
"sh", | |
"t", | |
"th", | |
"ts", | |
"ty", | |
"u", | |
"u:", | |
"ua", | |
"uai", | |
"uan", | |
"uang", | |
"uh", | |
"ui", | |
"un", | |
"uo", | |
"uw", | |
"v", | |
"van", | |
"ve", | |
"vn", | |
"w", | |
"x", | |
"y", | |
"z", | |
"zh", | |
"zy", | |
"~", | |
"¡", | |
"¿", | |
"æ", | |
"ç", | |
"ð", | |
"ø", | |
"ŋ", | |
"œ", | |
"ɐ", | |
"ɑ", | |
"ɒ", | |
"ɔ", | |
"ɕ", | |
"ə", | |
"ɛ", | |
"ɜ", | |
"ɡ", | |
"ɣ", | |
"ɥ", | |
"ɦ", | |
"ɪ", | |
"ɫ", | |
"ɬ", | |
"ɭ", | |
"ɯ", | |
"ɲ", | |
"ɵ", | |
"ɸ", | |
"ɹ", | |
"ɾ", | |
"ʁ", | |
"ʃ", | |
"ʊ", | |
"ʌ", | |
"ʎ", | |
"ʏ", | |
"ʑ", | |
"ʒ", | |
"ʝ", | |
"ʲ", | |
"ˈ", | |
"ˌ", | |
"ː", | |
"̃", | |
"̩", | |
"β", | |
"θ", | |
"ᄀ", | |
"ᄁ", | |
"ᄂ", | |
"ᄃ", | |
"ᄄ", | |
"ᄅ", | |
"ᄆ", | |
"ᄇ", | |
"ᄈ", | |
"ᄉ", | |
"ᄊ", | |
"ᄋ", | |
"ᄌ", | |
"ᄍ", | |
"ᄎ", | |
"ᄏ", | |
"ᄐ", | |
"ᄑ", | |
"ᄒ", | |
"ᅡ", | |
"ᅢ", | |
"ᅣ", | |
"ᅤ", | |
"ᅥ", | |
"ᅦ", | |
"ᅧ", | |
"ᅨ", | |
"ᅩ", | |
"ᅪ", | |
"ᅫ", | |
"ᅬ", | |
"ᅭ", | |
"ᅮ", | |
"ᅯ", | |
"ᅰ", | |
"ᅱ", | |
"ᅲ", | |
"ᅳ", | |
"ᅴ", | |
"ᅵ", | |
"ᆨ", | |
"ᆫ", | |
"ᆮ", | |
"ᆯ", | |
"ᆷ", | |
"ᆸ", | |
"ᆼ", | |
"ㄸ", | |
"!", | |
"?", | |
"…", | |
",", | |
".", | |
"'", | |
"-", | |
"SP", | |
"UNK" | |
] | |
fr_symbols = [ | |
"_", | |
"\"", | |
"(", | |
")", | |
"*", | |
"/", | |
":", | |
"AA", | |
"E", | |
"EE", | |
"En", | |
"N", | |
"OO", | |
"Q", | |
"V", | |
"[", | |
"\\", | |
"]", | |
"^", | |
"a", | |
"a:", | |
"aa", | |
"ae", | |
"ah", | |
"ai", | |
"an", | |
"ang", | |
"ao", | |
"aw", | |
"ay", | |
"b", | |
"by", | |
"c", | |
"ch", | |
"d", | |
"dh", | |
"dy", | |
"e", | |
"e:", | |
"eh", | |
"ei", | |
"en", | |
"eng", | |
"er", | |
"ey", | |
"f", | |
"g", | |
"gy", | |
"h", | |
"hh", | |
"hy", | |
"i", | |
"i0", | |
"i:", | |
"ia", | |
"ian", | |
"iang", | |
"iao", | |
"ie", | |
"ih", | |
"in", | |
"ing", | |
"iong", | |
"ir", | |
"iu", | |
"iy", | |
"j", | |
"jh", | |
"k", | |
"ky", | |
"l", | |
"m", | |
"my", | |
"n", | |
"ng", | |
"ny", | |
"o", | |
"o:", | |
"ong", | |
"ou", | |
"ow", | |
"oy", | |
"p", | |
"py", | |
"q", | |
"r", | |
"ry", | |
"s", | |
"sh", | |
"t", | |
"th", | |
"ts", | |
"ty", | |
"u", | |
"u:", | |
"ua", | |
"uai", | |
"uan", | |
"uang", | |
"uh", | |
"ui", | |
"un", | |
"uo", | |
"uw", | |
"v", | |
"van", | |
"ve", | |
"vn", | |
"w", | |
"x", | |
"y", | |
"z", | |
"zh", | |
"zy", | |
"~", | |
"¡", | |
"¿", | |
"æ", | |
"ç", | |
"ð", | |
"ø", | |
"ŋ", | |
"œ", | |
"ɐ", | |
"ɑ", | |
"ɒ", | |
"ɔ", | |
"ɕ", | |
"ə", | |
"ɛ", | |
"ɜ", | |
"ɡ", | |
"ɣ", | |
"ɥ", | |
"ɦ", | |
"ɪ", | |
"ɫ", | |
"ɬ", | |
"ɭ", | |
"ɯ", | |
"ɲ", | |
"ɵ", | |
"ɸ", | |
"ɹ", | |
"ɾ", | |
"ʁ", | |
"ʃ", | |
"ʊ", | |
"ʌ", | |
"ʎ", | |
"ʏ", | |
"ʑ", | |
"ʒ", | |
"ʝ", | |
"ʲ", | |
"ˈ", | |
"ˌ", | |
"ː", | |
"̃", | |
"̩", | |
"β", | |
"θ", | |
"ᄀ", | |
"ᄁ", | |
"ᄂ", | |
"ᄃ", | |
"ᄄ", | |
"ᄅ", | |
"ᄆ", | |
"ᄇ", | |
"ᄈ", | |
"ᄉ", | |
"ᄊ", | |
"ᄋ", | |
"ᄌ", | |
"ᄍ", | |
"ᄎ", | |
"ᄏ", | |
"ᄐ", | |
"ᄑ", | |
"ᄒ", | |
"ᅡ", | |
"ᅢ", | |
"ᅣ", | |
"ᅤ", | |
"ᅥ", | |
"ᅦ", | |
"ᅧ", | |
"ᅨ", | |
"ᅩ", | |
"ᅪ", | |
"ᅫ", | |
"ᅬ", | |
"ᅭ", | |
"ᅮ", | |
"ᅯ", | |
"ᅰ", | |
"ᅱ", | |
"ᅲ", | |
"ᅳ", | |
"ᅴ", | |
"ᅵ", | |
"ᆨ", | |
"ᆫ", | |
"ᆮ", | |
"ᆯ", | |
"ᆷ", | |
"ᆸ", | |
"ᆼ", | |
"ㄸ", | |
"!", | |
"?", | |
"…", | |
",", | |
".", | |
"'", | |
"-", | |
"SP", | |
"UNK" | |
] | |
LANG_TO_SYMBOL_MAP = { | |
"ZH": zh_mix_en_symbols, | |
"ZH_MIX_EN": zh_mix_en_symbols, | |
"JP": jp_symbols, | |
"EN": en_symbols, | |
"KR": kr_symbols, | |
"ES": es_symbols, | |
"SP": es_symbols, | |
"FR": fr_symbols | |
} |