Datasets:
Yuyeong
/
rw_roman-empire_mdlr_2_mask_public

Dataset card Data Studio Files Community
text
stringlengths
650
1.88k
label
class label
18 classes
group_idx
int64
0
99
node_idx
int64
0
22.7k
[CLS] [MASK] 5 [MASK] 7 5 7 4 7 4 3 7 3 4 5 7 5 [MASK] 5 [MASK] 7 4 3 4 7 4 5 7 5 7 3 7 3 7 4 3 4 3 4 3 2 3 4 5 [MASK] 7 5 [MASK] 5 [MASK] 7 8 7 5 7 [MASK] 5 4 7 8 10 11 13 14 15 16 17 18 17 18 23 22 21 22 20 22 23 24 26 24 26 27 26 24 23 22 21 20 19 22 20 21 22 20 22 19 20 22 21 22 19 20 21 20 19 20 21 22 19 20 22 21 20 19 18 30 29 28 29 28 27 28 29 28 29 28 29 26 25 26 27 28 27 28 29 30 18 17 16 17 16 18 23 22 20 19 20 21 22 20 [SEP] [MASK] 7 5 [MASK] 7 4 5 4 3 4 7 8 9 10 8 9 10 11 10 8 10 9 8 9 8 10 11 15 18 15 14 13 12 13 12 11 12 13 11 13 12 11 10 11 13 12 11 12 13 11 12 11 13 12 13 11 15 18 15 14 13 12 13 12 13 11 10 8 7 4 7 [MASK] 7 5 7 8 9 10 9 10 9 10 9 8 9 10 11 13 11 12 13 14 15 14 13 14 13 14 15 18 17 16 18 17 16 17 16 17 16 17 16 17 18 15 14 15 11 12 11 10 8 7 5 7 8 7 [MASK] 7 [MASK] 5 [MASK] 5 [MASK] 5 4 7 8 9 8 7 8 7 4 7 4 3 4 7 5
44
0
6
[CLS] [MASK] 5 [MASK] 7 5 7 8 9 10 9 8 10 9 10 8 9 10 11 12 13 11 13 12 13 12 11 12 11 12 11 10 8 7 5 4 3 4 5 4 5 [MASK] 5 7 4 3 2 0 1 0 2 0 2 1 0 1 2 0 2 0 1 0 1 2 0 2 0 1 2 0 2 0 2 0 2 1 0 1 2 3 4 7 3 7 [MASK] 5 7 5 4 7 [MASK] 5 7 8 7 4 3 2 3 4 7 3 4 7 8 9 8 9 10 9 10 9 8 7 4 7 4 3 7 8 7 [MASK] 5 4 7 8 7 3 4 7 8 7 4 7 4 3 7 8 9 8 7 [MASK] 5 [MASK] 7 3 4 7 5 4 [SEP] [MASK] 7 4 7 3 2 0 2 0 2 1 2 1 2 1 0 2 1 2 1 0 1 0 2 1 0 1 2 3 2 1 0 1 2 1 2 1 2 3 7 4 7 5 [MASK] 5 7 5 4 5 4 3 2 3 4 7 [MASK] 5 [MASK] 7 4 5 4 7 5 [MASK] 5 4 5 7 5 4 7 4 3 4 3 2 1 2 3 4 5 7 [MASK] 7 4 5 7 [MASK] 5 7 8 7 5 [MASK] 5 [MASK] 5 4 3 7 [MASK] 5 [MASK] 5 [MASK] 5 7 [MASK] 5 [MASK] 5 [MASK] 7 [MASK] 5 7 3 4 5 7 8 9 10 11 15 16 15 14 13 14 13 12 13 14 15 14 13 12 11 13 12 11 15 14 15 14 15 11
44
1
6
[CLS] [MASK] 7 [MASK] 7 4 5 [MASK] 7 4 7 4 7 [MASK] 7 5 [MASK] 7 [MASK] 5 7 [MASK] 7 [MASK] 5 [MASK] 7 [MASK] 7 [MASK] 7 4 5 4 5 [MASK] 5 4 5 [MASK] 5 [MASK] 5 [MASK] 5 7 3 7 3 7 3 4 7 [MASK] 5 7 4 3 7 8 9 8 7 5 7 [MASK] 7 3 4 7 [MASK] 7 5 7 4 3 2 0 1 2 1 2 1 0 2 1 0 1 0 1 2 0 1 0 2 1 2 3 4 7 8 9 8 9 10 11 10 9 8 10 8 9 10 11 10 8 7 3 4 7 [MASK] 5 7 [MASK] 7 3 4 5 [MASK] 5 [MASK] 5 4 7 3 2 1 0 2 0 2 3 7 5 4 3 2 0 1 2 [SEP] [MASK] 5 [MASK] 7 [MASK] 7 8 10 11 13 12 13 12 11 12 11 13 11 10 8 10 9 10 8 9 8 9 8 7 3 2 0 1 0 2 1 2 3 4 7 5 4 5 4 3 2 0 1 0 1 2 0 2 0 2 0 2 3 7 5 7 5 4 7 8 9 8 7 5 7 4 7 8 10 9 8 9 10 8 10 11 12 13 11 12 11 10 11 12 13 11 10 9 8 9 8 7 3 7 [MASK] 5 7 [MASK] 7 4 3 2 0 2 1 0 2 3 4 7 8 9 8 10 11 12 13 14 13 12 11 12 13 11 13 12 11 12 11 10 8 9 10 8 9 10 9 10 11 12 13 12 13 11
44
2
6
[CLS] [MASK] 7 [MASK] 7 5 7 [MASK] 7 5 [MASK] 7 5 4 5 4 5 7 [MASK] 5 [MASK] 7 4 7 8 9 10 8 7 3 7 3 7 3 4 3 7 4 5 4 7 4 5 [MASK] 5 [MASK] 5 [MASK] 7 8 7 5 [MASK] 7 [MASK] 7 5 7 3 4 5 [MASK] 7 8 10 11 13 11 12 11 15 16 18 17 18 19 20 22 21 20 22 19 22 21 22 21 22 23 24 26 24 25 24 25 24 26 27 28 27 28 27 28 27 28 27 26 25 26 27 28 29 28 29 28 29 28 27 28 27 28 27 28 27 26 29 26 24 25 24 26 27 28 27 26 27 28 27 28 29 26 27 28 27 26 27 26 25 26 27 28 [SEP] [MASK] 5 7 [MASK] 7 5 7 3 4 7 4 5 [MASK] 7 4 5 7 3 7 3 4 5 4 7 4 7 4 3 7 5 [MASK] 7 3 4 3 7 3 2 0 1 0 2 3 2 1 0 2 0 2 1 0 1 2 0 1 2 1 2 0 1 2 0 1 0 2 1 0 1 0 1 2 0 2 1 0 2 0 1 0 1 2 1 0 2 3 7 8 7 3 7 5 [MASK] 5 [MASK] 7 [MASK] 7 4 5 7 3 4 5 [MASK] 7 [MASK] 7 4 5 [MASK] 7 4 3 2 3 4 5 7 4 7 4 3 7 5 4 7 5 [MASK] 5 7 3 4 5 [MASK] 5 [MASK] 5 [MASK] 5 [MASK] 5 [MASK] 7 8 9 8 7 4 5
44
3
6
[CLS] [MASK] 7 [MASK] 5 7 3 7 5 7 8 10 8 7 [MASK] 5 [MASK] 7 8 9 8 7 3 7 3 4 5 4 7 [MASK] 7 4 3 2 1 2 1 0 2 3 7 [MASK] 5 4 3 4 5 4 7 8 7 5 4 5 [MASK] 7 4 7 5 4 3 7 3 4 7 5 [MASK] 7 4 3 2 0 1 2 3 7 [MASK] 7 8 7 8 9 8 7 3 4 7 [MASK] 5 7 [MASK] 7 5 7 4 5 7 3 4 3 7 5 7 4 5 [MASK] 7 5 [MASK] 7 [MASK] 5 [MASK] 7 [MASK] 7 3 4 3 7 5 [MASK] 5 7 4 3 7 5 [MASK] 7 [MASK] 7 [MASK] 5 [MASK] 5 [MASK] 5 7 5 4 3 7 8 9 10 8 7 4 3 [SEP] [MASK] 5 7 [MASK] 5 [MASK] 5 [MASK] 5 [MASK] 5 4 7 4 3 2 0 2 1 2 0 2 0 2 0 2 1 0 2 1 0 1 0 1 2 0 1 0 2 1 2 1 0 2 0 2 1 2 1 2 0 1 2 0 1 0 1 0 2 3 4 7 3 7 [MASK] 7 4 7 4 5 4 5 7 [MASK] 5 [MASK] 5 [MASK] 5 [MASK] 7 3 7 3 4 5 [MASK] 7 3 2 3 7 5 7 5 [MASK] 5 7 4 5 [MASK] 7 3 4 3 4 3 7 [MASK] 7 8 9 10 11 12 13 14 15 14 13 14 13 12 13 12 11 13 11 12 13 14 15 11 12 13 12 13 11 10 9 10 8 9 10 9 10 9 10 11
44
4
6
[CLS] [MASK] 5 7 3 2 1 2 1 0 1 2 1 0 2 0 1 0 1 0 2 1 0 2 0 2 0 1 0 2 3 7 3 7 3 4 5 7 5 [MASK] 5 4 5 4 3 7 8 7 4 3 4 5 7 5 4 3 7 5 [MASK] 5 [MASK] 5 [MASK] 5 4 3 7 3 7 8 9 8 9 10 9 8 7 4 3 4 5 4 5 [MASK] 5 7 8 10 9 8 9 10 9 8 9 8 10 9 8 9 10 9 8 9 10 9 8 9 8 7 [MASK] 5 [MASK] 7 5 4 3 4 3 2 0 2 1 0 1 0 1 0 1 2 0 2 3 2 3 4 5 [MASK] 7 3 7 3 2 0 1 2 3 2 3 2 [SEP] [MASK] 7 8 10 9 10 8 10 8 7 [MASK] 7 3 2 1 2 0 2 0 1 0 1 2 0 2 1 2 1 2 0 2 0 2 0 1 2 0 1 2 3 4 5 [MASK] 7 [MASK] 7 8 10 11 12 11 15 14 15 11 13 14 15 18 16 15 16 15 18 16 18 19 18 17 18 17 18 15 14 15 11 15 16 17 18 16 17 18 17 18 17 16 15 18 15 16 17 18 19 22 19 20 19 18 30 31 30 18 19 20 19 20 19 22 23 18 23 24 26 27 26 25 26 24 25 24 26 29 28 27 28 29 28 29 28 27 28 29 28 27 26 25 24 26 27 28 27 28 29 30 31 30 31 30
44
5
6
[CLS] [MASK] 5 7 4 3 7 3 4 7 8 10 9 10 11 12 13 12 13 12 13 11 13 14 15 16 15 16 15 16 17 18 19 22 21 20 21 20 19 18 19 22 19 18 17 18 19 18 15 16 18 23 18 17 16 18 16 18 17 18 19 20 21 22 19 20 22 21 20 19 20 21 20 22 19 20 22 19 18 30 18 16 15 14 13 11 10 8 10 8 10 8 7 3 2 3 2 0 1 0 2 1 0 1 0 2 0 2 0 2 3 2 0 2 3 2 1 2 1 2 1 0 2 1 2 3 7 [MASK] 5 4 3 4 7 8 9 8 9 8 10 8 9 8 9 10 8 7 3 2 1 2 [SEP] [MASK] 5 [MASK] 5 7 4 7 5 [MASK] 7 3 2 1 2 1 2 3 2 1 2 1 0 1 0 2 0 2 1 0 1 2 0 2 1 0 1 2 0 2 1 0 2 1 2 0 2 1 2 0 1 2 0 1 0 1 2 0 1 0 2 1 2 0 1 0 2 0 2 3 4 3 4 5 [MASK] 7 3 4 5 [MASK] 5 4 5 [MASK] 5 7 4 5 7 4 3 7 4 5 4 7 [MASK] 5 4 5 [MASK] 5 4 3 2 0 2 0 2 0 1 0 1 2 0 2 1 0 2 1 0 2 3 4 3 4 5 4 7 3 7 4 3 2 1 2 3 4 7 3 2 0 1 2 1 0 2 0 2 1
44
6
6
[CLS] [MASK] 7 4 7 [MASK] 5 [MASK] 7 5 7 8 10 8 7 5 7 4 3 4 5 4 7 [MASK] 7 4 7 [MASK] 5 [MASK] 7 8 7 4 5 7 [MASK] 5 [MASK] 7 4 3 7 3 2 1 2 0 1 0 1 2 0 2 3 2 1 0 2 0 1 0 1 0 1 0 1 2 0 1 2 0 2 1 2 1 2 3 7 4 3 2 1 0 2 1 2 1 2 3 4 7 8 9 8 9 8 10 9 10 11 13 12 13 14 13 12 13 11 13 11 13 14 13 14 13 12 11 12 11 10 9 8 9 10 11 10 8 10 11 12 13 12 11 12 11 10 11 13 14 13 12 13 12 11 13 14 13 11 15 [SEP] [MASK] 5 7 [MASK] 7 5 4 3 7 3 2 0 1 2 3 4 3 4 7 5 7 5 4 3 4 7 [MASK] 5 [MASK] 5 4 5 4 7 4 5 4 3 4 7 4 5 4 3 7 8 10 11 12 13 11 12 13 11 10 11 10 11 12 13 12 13 14 13 12 11 13 12 11 15 14 15 16 18 15 16 17 16 15 11 12 11 12 13 12 11 12 13 11 10 11 10 8 9 8 10 11 12 13 11 10 8 10 11 15 16 17 18 17 18 16 17 18 15 14 15 11 10 8 9 8 7 3 2 0 1 0 2 0 1 0 2 3 2 3 7 [MASK] 7 5 4 7 [MASK] 5 [MASK] 5 [MASK] 5 4 5
44
7
6
[CLS] [MASK] 7 3 7 3 4 7 3 7 3 4 5 [MASK] 7 4 3 7 5 [MASK] 5 [MASK] 7 4 5 [MASK] 7 3 4 5 4 7 8 9 10 11 12 11 10 9 10 9 10 8 10 11 12 11 12 13 11 10 9 10 9 10 8 7 3 4 5 [MASK] 7 [MASK] 7 [MASK] 7 [MASK] 5 7 5 4 3 4 7 4 5 4 7 [MASK] 5 [MASK] 5 4 5 [MASK] 5 [MASK] 5 [MASK] 7 [MASK] 7 8 7 3 4 3 4 3 7 5 7 4 5 [MASK] 7 8 10 8 7 3 7 5 [MASK] 5 [MASK] 5 [MASK] 5 [MASK] 5 [MASK] 5 4 5 [MASK] 7 [MASK] 7 4 3 2 0 1 0 1 2 0 1 0 2 0 1 2 1 2 3 7 5 [SEP] [MASK] 5 4 7 5 7 4 3 2 0 1 0 2 1 2 0 1 2 3 2 1 2 0 2 1 0 1 0 2 0 2 0 1 2 0 1 2 0 2 0 1 0 1 0 1 0 1 2 0 1 0 2 1 2 1 2 0 2 0 1 0 1 2 3 7 [MASK] 7 8 9 10 11 10 9 8 7 3 4 5 4 3 2 3 2 3 4 5 7 4 5 4 3 7 3 7 8 9 8 10 11 10 9 10 9 8 7 3 2 0 1 0 1 0 2 3 7 4 3 7 [MASK] 5 4 5 7 [MASK] 7 [MASK] 7 5 [MASK] 5 4 5 4 7 8 9 8 7 3 2 3 2 1 0 2 1 0 1 0
44
8
6
[CLS] [MASK] 5 7 3 7 3 2 1 2 1 2 1 2 3 7 [MASK] 7 3 4 3 7 5 7 5 7 3 2 0 1 2 3 4 3 7 4 5 [MASK] 5 [MASK] 7 8 10 8 9 8 10 8 9 8 7 5 [MASK] 5 [MASK] 5 [MASK] 7 5 7 [MASK] 7 3 2 0 2 3 7 5 4 3 4 3 7 [MASK] 7 8 9 8 7 5 7 5 4 5 7 [MASK] 7 [MASK] 5 [MASK] 7 [MASK] 7 [MASK] 5 4 5 [MASK] 7 [MASK] 7 8 7 [MASK] 5 [MASK] 5 4 7 5 4 3 7 3 7 3 7 [MASK] 5 [MASK] 5 7 3 2 3 7 [MASK] 5 4 3 2 0 1 2 0 2 0 1 2 3 4 7 5 7 [MASK] 7 3 4 5 [SEP] [MASK] 5 [MASK] 7 [MASK] 5 [MASK] 7 3 7 4 5 7 [MASK] 5 7 [MASK] 7 [MASK] 5 [MASK] 5 [MASK] 5 7 8 10 8 9 10 11 15 11 13 12 13 12 13 12 11 12 13 12 13 14 13 14 13 14 13 14 13 12 13 12 11 15 11 12 13 14 13 12 11 15 16 17 16 17 18 19 22 20 22 20 22 21 22 23 24 23 22 23 18 17 18 30 29 28 27 28 27 28 27 26 24 26 27 26 25 26 29 30 31 32 33 53 52 53 54 53 54 55 56 58 59 58 59 58 59 60 59 58 57 56 55 53 54 55 54 53 52 51 49 51 49 50 51 48 47 44 43 41 43 44 33 32 33 32
44
9
6
[CLS] [MASK] 7 8 9 8 9 10 9 10 8 9 10 11 10 11 12 13 12 11 12 13 12 11 12 11 12 13 12 13 12 11 15 14 15 14 13 11 12 13 14 15 14 15 14 15 14 15 14 15 11 12 11 15 18 19 22 20 21 22 23 24 25 24 26 25 24 25 26 25 26 24 26 27 26 29 30 29 30 29 28 27 28 27 28 29 30 31 32 31 30 18 16 17 18 19 22 19 22 19 22 21 20 22 23 18 30 18 16 17 18 16 18 16 15 14 15 11 12 13 12 13 11 15 14 13 12 11 12 13 14 13 11 13 14 15 14 13 12 13 14 13 11 12 13 14 15 16 15 14 [SEP] [MASK] 7 [MASK] 5 7 4 5 4 3 4 3 2 3 7 8 7 4 7 8 10 9 10 9 10 8 7 [MASK] 7 [MASK] 5 [MASK] 7 [MASK] 7 8 9 8 9 10 9 10 8 7 3 4 5 4 5 4 3 7 3 7 5 4 7 5 [MASK] 7 4 3 4 3 2 0 1 2 0 2 0 2 3 4 3 2 3 7 [MASK] 7 4 3 2 3 7 [MASK] 5 4 3 4 5 4 3 7 8 9 10 11 12 13 12 11 12 11 10 8 9 8 9 8 7 4 5 7 5 [MASK] 5 7 4 7 8 7 8 7 [MASK] 7 8 7 4 7 3 2 0 2 1 0 1 2 0 2 0 1 2 1 2 0 2 3 4 7
44
10
6
[CLS] [MASK] 7 8 9 8 10 11 12 13 14 15 14 15 14 13 14 13 12 11 13 11 12 11 12 13 12 13 12 11 10 11 12 13 11 12 11 10 8 9 8 9 8 7 [MASK] 7 5 [MASK] 7 [MASK] 7 [MASK] 5 [MASK] 7 3 7 4 5 7 8 7 5 4 7 5 7 4 7 5 7 3 2 1 2 3 4 3 7 8 7 5 7 8 10 11 12 11 12 11 15 18 15 14 15 11 13 12 13 12 11 15 14 13 12 11 10 9 10 11 12 13 11 10 9 8 10 11 10 9 10 9 8 9 10 8 10 9 10 11 15 11 13 12 13 11 15 11 12 13 14 13 12 13 11 12 13 14 15 14 [SEP] [MASK] 7 8 9 10 9 8 10 8 9 10 8 9 8 9 10 11 12 13 12 11 13 14 15 14 15 14 15 14 13 12 11 12 11 13 14 15 14 15 16 18 16 18 17 18 17 18 23 24 26 29 28 29 26 27 28 27 26 27 28 29 30 18 19 22 19 18 30 31 32 33 53 52 53 54 53 52 53 33 32 31 32 31 30 29 28 29 30 29 28 29 28 29 30 31 32 33 32 31 30 31 30 31 30 29 28 27 28 27 28 29 26 27 28 29 30 31 30 18 15 14 13 14 13 11 10 8 9 10 8 10 11 10 9 10 11 13 14 13 11 12 13 14 13 14 15 14 15 11
44
11
6
[CLS] [MASK] 5 [MASK] 5 [MASK] 7 [MASK] 5 4 3 2 0 1 2 1 2 1 2 1 0 2 1 0 1 2 1 2 1 0 2 0 1 0 1 0 2 1 2 0 1 0 1 0 2 1 0 2 0 1 2 1 2 0 2 0 2 1 0 1 0 1 0 2 1 0 1 2 3 4 3 2 0 2 3 2 0 2 3 2 3 4 7 4 7 [MASK] 5 [MASK] 7 4 3 2 0 1 0 2 1 2 1 2 0 1 2 1 2 1 0 1 0 1 2 1 0 1 0 1 0 1 2 1 2 0 1 2 0 1 0 1 2 0 1 2 1 2 0 1 0 2 1 0 2 0 1 0 1 0 1 2 1 2 [SEP] [MASK] 7 4 3 4 7 4 3 7 [MASK] 5 4 3 7 [MASK] 5 [MASK] 5 7 8 10 11 12 13 11 13 11 13 12 11 15 14 15 11 10 11 15 11 10 8 10 9 8 9 10 9 8 10 11 13 14 15 14 13 14 15 14 13 14 13 14 15 16 18 16 18 23 18 17 18 17 16 17 18 19 22 21 20 19 20 21 20 19 20 22 21 22 23 18 19 18 15 16 17 18 17 18 30 31 30 31 30 31 30 29 26 27 28 29 30 31 30 31 30 18 23 24 23 18 19 22 20 19 18 19 22 20 19 22 21 22 23 24 25 24 23 24 25 24 25 26 27 28 29 30 18 17 18 16
44
12
6
[CLS] [MASK] 5 4 3 7 5 [MASK] 7 4 3 7 3 4 3 7 [MASK] 7 [MASK] 5 7 8 7 [MASK] 7 5 4 5 7 [MASK] 7 3 2 1 2 0 1 2 0 2 1 0 2 0 1 2 1 2 0 2 1 2 1 0 2 3 2 0 1 0 1 2 0 2 1 2 0 1 0 2 3 2 1 2 0 1 0 2 3 7 5 4 3 7 [MASK] 7 4 5 [MASK] 5 4 5 [MASK] 7 [MASK] 7 3 7 5 7 [MASK] 5 4 5 [MASK] 5 7 [MASK] 5 [MASK] 7 3 4 5 [MASK] 5 4 5 7 4 3 2 1 0 2 0 2 0 2 3 4 3 4 3 7 [MASK] 5 [MASK] 5 4 5 [MASK] 5 [MASK] 5 4 7 5 4 7 [SEP] [MASK] 5 [MASK] 5 4 3 7 3 7 4 7 3 7 8 9 8 10 8 7 4 3 4 5 7 3 7 4 7 4 3 4 3 4 7 5 7 8 9 8 10 11 10 8 9 8 9 10 8 7 4 3 2 3 7 4 3 2 3 7 [MASK] 7 [MASK] 7 [MASK] 7 5 [MASK] 5 7 4 7 4 5 7 [MASK] 5 7 [MASK] 5 [MASK] 7 5 4 5 4 3 7 [MASK] 5 [MASK] 7 5 [MASK] 5 7 8 9 10 11 10 11 13 11 10 8 9 10 9 10 8 9 10 11 10 9 10 8 9 10 9 10 9 8 10 11 12 13 12 13 12 11 12 11 13 14 13 12 11 13 14 13 14 15 14 13 12 13 11 15
44
13
6
[CLS] [MASK] 5 [MASK] 7 8 10 11 10 11 13 11 13 11 15 11 15 14 15 14 13 11 13 11 12 11 13 14 15 16 18 17 18 16 15 14 15 16 15 11 12 11 15 11 10 11 15 18 30 18 15 14 13 11 13 12 11 10 8 9 10 8 7 8 9 10 11 12 13 11 12 11 12 11 12 11 10 9 10 8 10 9 10 8 10 11 12 13 14 15 16 15 18 23 22 20 19 22 23 18 15 16 18 16 17 16 18 30 31 30 31 32 31 30 31 32 31 32 31 30 18 23 24 25 26 29 28 29 28 29 28 27 28 27 28 27 28 29 28 29 26 25 24 23 22 19 22 19 20 21 [SEP] [MASK] 5 [MASK] 5 7 5 7 5 [MASK] 7 3 4 7 4 3 2 3 4 3 7 4 5 [MASK] 5 4 7 3 2 1 2 0 2 3 2 0 1 2 0 1 2 0 2 0 2 3 2 0 2 3 2 0 1 2 3 2 0 2 3 7 3 7 3 7 3 2 0 2 0 2 3 2 0 1 0 1 0 1 2 1 0 1 2 1 0 2 1 0 2 1 2 0 2 3 7 5 [MASK] 7 4 7 3 7 3 4 3 2 0 1 0 1 0 1 0 2 1 2 1 2 0 2 1 0 2 1 2 3 4 3 4 7 8 9 10 8 9 8 9 8 9 8 7 5 4 5 7 5 4 7 [MASK] 7
44
14
6
[CLS] [MASK] 7 5 [MASK] 5 4 3 4 5 [MASK] 7 [MASK] 7 [MASK] 7 [MASK] 7 8 7 4 5 [MASK] 5 [MASK] 7 8 7 5 [MASK] 5 4 7 4 5 4 5 [MASK] 5 7 4 7 3 7 [MASK] 5 4 7 4 7 4 5 [MASK] 5 7 3 2 0 2 1 0 1 0 2 0 1 2 3 7 [MASK] 5 7 [MASK] 5 7 5 7 [MASK] 7 [MASK] 7 [MASK] 7 [MASK] 7 [MASK] 5 [MASK] 5 [MASK] 5 4 7 4 5 [MASK] 5 [MASK] 5 4 3 4 5 4 7 [MASK] 5 4 3 7 [MASK] 7 5 4 3 2 0 1 0 1 2 0 1 2 3 2 1 0 2 0 2 0 2 1 0 1 2 3 2 1 2 1 2 0 1 0 1 2 0 2 [SEP] [MASK] 7 3 7 8 9 10 11 13 14 15 18 17 18 19 22 21 22 19 20 19 20 21 22 21 20 22 20 22 23 18 23 18 15 11 13 14 13 12 11 12 13 11 12 11 12 13 12 13 12 13 12 13 12 11 12 11 12 11 15 18 16 15 16 18 30 31 30 18 23 24 25 24 26 29 28 29 28 29 28 29 28 27 28 27 28 29 30 29 26 25 24 25 24 23 18 19 22 23 22 23 22 23 22 21 20 21 20 19 20 21 20 21 22 23 22 23 24 26 29 26 25 24 25 24 23 18 19 18 17 16 17 18 16 17 18 17 16 17 16 17 16 18 16 17 16 17 16 18
44
15
6
[CLS] [MASK] 5 [MASK] 7 [MASK] 5 4 7 [MASK] 5 7 5 7 4 3 4 3 7 [MASK] 7 [MASK] 7 8 9 8 7 4 5 7 8 9 10 9 8 9 10 9 10 11 12 13 14 13 14 15 16 17 16 17 16 18 16 18 23 18 16 18 30 29 30 18 30 31 32 31 32 33 53 54 55 53 52 53 33 35 36 38 39 43 44 43 42 41 40 41 40 39 35 36 35 36 38 39 35 36 37 38 36 38 39 35 34 35 33 32 31 30 29 30 31 30 29 26 29 26 27 26 25 24 25 24 25 26 25 26 25 26 25 24 25 26 25 26 27 28 29 28 27 26 24 25 24 23 22 21 20 21 20 21 [SEP] [MASK] 5 [MASK] 7 8 9 10 9 8 10 11 13 14 15 14 13 14 15 16 18 15 11 15 11 12 11 10 11 13 12 13 11 10 11 12 11 12 11 10 9 10 8 7 [MASK] 5 [MASK] 7 3 4 5 [MASK] 5 [MASK] 7 5 7 4 5 7 8 7 8 9 10 9 10 9 10 9 10 8 7 [MASK] 7 4 3 7 [MASK] 7 [MASK] 5 [MASK] 5 4 5 [MASK] 5 4 7 [MASK] 5 7 5 7 4 5 [MASK] 7 4 7 5 [MASK] 7 5 [MASK] 7 5 4 5 4 7 8 9 8 9 10 9 8 10 11 10 9 10 11 13 14 13 12 13 12 11 15 16 17 16 15 16 17 16 15 16 17 18 17 16 17 16 17 16
44
16
6
[CLS] [MASK] 5 [MASK] 5 [MASK] 7 3 4 7 [MASK] 7 5 [MASK] 7 3 2 0 1 0 1 2 0 1 2 1 2 0 2 0 1 0 1 2 1 2 3 4 3 7 [MASK] 7 8 9 8 9 8 7 4 5 7 [MASK] 5 [MASK] 5 [MASK] 7 4 7 3 7 8 7 [MASK] 5 7 [MASK] 7 [MASK] 5 4 3 4 7 [MASK] 5 [MASK] 5 [MASK] 7 5 [MASK] 7 [MASK] 5 7 [MASK] 7 3 4 3 4 7 5 7 4 5 7 [MASK] 7 [MASK] 5 [MASK] 7 [MASK] 5 7 3 4 5 [MASK] 5 [MASK] 5 [MASK] 5 7 [MASK] 5 4 5 7 [MASK] 7 [MASK] 5 7 [MASK] 7 8 10 11 13 11 15 14 13 14 13 14 13 12 13 12 13 11 13 14 13 11 [SEP] [MASK] 7 8 10 9 8 7 5 [MASK] 7 5 [MASK] 7 3 4 5 [MASK] 5 4 7 4 3 2 0 2 1 0 1 0 1 2 3 2 1 2 0 2 0 1 0 2 1 2 0 2 3 4 7 3 2 0 1 0 2 0 1 0 2 3 7 4 5 7 3 7 5 7 [MASK] 7 5 7 8 9 8 7 4 7 3 2 3 2 3 2 3 2 0 2 3 4 5 [MASK] 5 [MASK] 7 4 5 7 [MASK] 7 [MASK] 7 3 4 5 [MASK] 7 3 7 [MASK] 5 [MASK] 5 7 8 7 5 4 7 [MASK] 7 5 [MASK] 5 [MASK] 5 [MASK] 7 5 4 7 8 7 [MASK] 5 7 5 4 7 4 3 2 0 1 0 1 0 1 0 2
44
17
6
[CLS] [MASK] 5 7 3 4 3 4 7 [MASK] 7 8 9 10 9 8 7 4 3 7 8 7 [MASK] 7 3 4 7 [MASK] 5 [MASK] 5 7 3 4 5 4 7 3 2 3 7 [MASK] 5 [MASK] 5 7 4 5 7 5 7 [MASK] 5 [MASK] 7 5 [MASK] 7 8 10 11 10 9 10 9 8 7 [MASK] 5 [MASK] 5 7 3 2 0 1 0 2 3 4 3 2 0 1 0 1 0 1 0 1 2 0 2 0 1 2 1 0 2 0 1 2 0 1 2 0 1 2 1 0 2 3 7 4 3 4 5 7 [MASK] 5 7 5 [MASK] 5 4 3 4 7 3 7 3 2 1 0 2 0 1 0 1 0 2 1 2 1 0 2 0 2 1 0 [SEP] [MASK] 5 7 8 10 9 10 8 9 10 8 9 8 10 9 10 9 8 9 8 7 5 7 [MASK] 5 [MASK] 7 4 7 5 [MASK] 5 [MASK] 7 5 [MASK] 7 8 7 5 [MASK] 7 3 2 3 4 3 4 3 4 3 4 7 5 4 5 7 4 5 [MASK] 5 7 4 3 2 0 1 2 3 2 1 0 1 2 0 1 0 1 2 0 2 0 1 2 1 0 2 3 7 4 7 8 9 8 9 10 9 8 10 9 8 7 4 5 4 5 [MASK] 5 7 [MASK] 7 5 7 5 [MASK] 5 7 8 9 8 9 8 9 10 11 10 8 9 10 11 13 12 13 12 11 13 11 13 12 13 14 13 12 13 12 11 12 11 15
44
18
6
[CLS] [MASK] 5 4 3 7 3 4 3 4 7 4 3 7 4 5 [MASK] 7 [MASK] 7 [MASK] 7 4 5 4 5 [MASK] 5 7 5 [MASK] 5 [MASK] 7 4 5 7 [MASK] 7 4 3 4 3 4 3 2 0 2 1 0 1 2 0 2 0 2 0 1 2 0 1 2 1 2 0 1 0 2 1 2 0 2 0 2 1 0 2 0 2 0 1 2 3 4 7 3 2 0 2 1 2 1 0 1 0 1 0 1 0 2 1 2 3 7 5 7 [MASK] 5 4 7 [MASK] 7 3 7 3 2 3 4 3 7 8 10 8 9 10 11 12 13 12 11 10 9 8 9 10 8 9 10 9 8 9 10 11 13 14 15 14 15 18 17 [SEP] [MASK] 7 [MASK] 7 8 10 9 8 10 9 8 9 8 9 10 11 13 12 11 13 12 11 12 11 13 11 10 11 13 11 13 14 13 14 13 12 13 12 13 14 13 14 15 14 13 11 13 11 13 14 15 16 17 16 17 16 15 14 13 14 13 11 13 12 13 11 10 8 10 9 10 9 8 9 8 10 8 9 10 9 8 9 8 9 10 9 8 9 8 7 3 4 7 8 7 4 5 7 [MASK] 5 7 8 7 5 7 [MASK] 5 7 [MASK] 5 4 7 4 3 7 8 7 [MASK] 7 4 5 4 5 [MASK] 7 8 7 8 9 10 8 10 11 10 8 7 5 [MASK] 7 [MASK] 5 [MASK] 5 4 7 [MASK] 7 4 3
44
19
6
[CLS] [MASK] 7 3 7 5 [MASK] 5 [MASK] 5 4 5 [MASK] 7 5 [MASK] 7 3 2 0 1 2 3 4 7 8 10 8 7 [MASK] 5 [MASK] 5 [MASK] 7 3 2 3 7 4 7 4 5 4 5 4 5 [MASK] 5 [MASK] 5 4 7 [MASK] 5 [MASK] 7 8 7 [MASK] 7 4 3 2 1 0 1 0 1 0 2 1 2 1 0 2 3 4 5 [MASK] 7 3 2 0 1 2 3 7 5 7 [MASK] 5 4 5 [MASK] 5 [MASK] 5 [MASK] 7 8 7 8 9 8 9 8 9 8 10 9 8 9 10 8 9 10 9 10 11 13 11 10 11 10 11 15 11 12 11 12 13 12 11 15 16 17 18 15 18 19 22 23 24 26 25 24 25 26 25 [SEP] [MASK] 7 3 2 3 7 5 4 5 7 5 7 3 7 4 3 7 8 10 9 8 9 10 8 7 4 7 3 7 8 9 10 9 10 9 10 9 10 9 8 9 10 9 10 11 13 12 11 12 11 15 18 16 18 15 14 15 18 23 24 26 25 24 26 25 24 25 24 26 25 24 26 25 24 23 24 26 25 24 23 24 25 24 25 26 27 28 27 26 25 24 23 22 23 18 23 24 23 18 19 20 21 20 19 18 19 20 19 20 19 22 23 24 25 26 29 28 27 28 29 30 29 28 29 28 29 28 27 26 27 28 27 28 27 28 27 28 29 30 31 32 33 32 31 32 33 34 33 35
44
20
6
[CLS] [MASK] 7 4 3 7 8 10 8 9 8 10 8 7 [MASK] 7 8 7 5 7 4 5 [MASK] 5 [MASK] 5 [MASK] 5 [MASK] 5 [MASK] 5 [MASK] 7 5 [MASK] 7 [MASK] 7 8 9 8 7 8 9 8 10 9 8 9 10 8 7 [MASK] 5 [MASK] 5 7 4 5 4 5 [MASK] 5 4 5 4 3 7 [MASK] 5 7 4 3 4 3 7 5 7 4 7 4 5 [MASK] 7 [MASK] 5 [MASK] 5 [MASK] 5 4 3 7 [MASK] 7 5 7 4 3 4 3 4 3 4 5 [MASK] 7 3 7 [MASK] 5 4 5 4 5 4 7 3 2 0 1 0 1 0 1 2 3 4 3 2 1 0 2 0 2 1 2 1 2 0 2 0 2 0 1 2 0 1 0 [SEP] [MASK] 7 3 4 5 7 8 7 4 7 5 4 3 7 3 4 7 [MASK] 5 7 [MASK] 7 [MASK] 7 4 7 8 9 10 9 8 7 4 5 [MASK] 7 8 7 3 4 5 4 3 2 1 0 2 1 0 2 0 1 0 2 0 1 2 3 2 0 1 0 2 3 4 3 2 0 2 0 2 3 7 [MASK] 7 [MASK] 7 4 3 2 1 0 1 0 1 0 2 0 2 1 2 1 2 0 1 0 2 1 0 1 0 2 3 7 [MASK] 7 [MASK] 5 4 3 2 1 2 0 2 0 1 0 1 0 1 2 3 4 3 2 0 1 2 0 1 0 2 3 4 3 7 [MASK] 5 4 3 7 [MASK] 7 3 7 [MASK] 7 [MASK]
44
21
6
[CLS] [MASK] 7 [MASK] 5 [MASK] 5 [MASK] 7 5 [MASK] 7 3 2 0 1 2 0 2 3 7 5 7 5 [MASK] 5 [MASK] 5 [MASK] 5 [MASK] 7 5 7 3 2 3 4 5 7 [MASK] 7 4 3 4 7 4 5 [MASK] 7 8 9 10 9 10 8 10 11 10 9 10 11 13 14 15 11 10 9 8 7 8 7 [MASK] 5 [MASK] 5 [MASK] 5 7 8 10 8 9 8 10 11 12 13 14 15 14 15 16 15 11 15 16 17 18 19 20 22 21 20 22 20 21 22 19 22 21 20 22 21 20 21 20 19 20 21 22 20 22 21 20 22 20 19 20 19 22 21 22 19 18 19 18 17 16 18 30 31 32 33 35 33 32 31 32 31 [SEP] [MASK] 5 [MASK] 5 [MASK] 7 3 7 8 9 10 9 8 10 9 8 7 [MASK] 7 5 [MASK] 5 7 5 [MASK] 7 5 [MASK] 5 [MASK] 5 4 5 [MASK] 5 [MASK] 5 [MASK] 5 7 5 4 7 5 7 4 3 4 3 4 5 [MASK] 5 4 7 5 [MASK] 5 [MASK] 5 7 [MASK] 5 7 4 5 7 3 7 8 9 10 11 12 13 14 15 14 15 16 18 23 24 23 18 19 18 17 16 15 11 13 14 15 11 12 11 10 9 10 11 13 11 15 18 16 17 18 30 18 15 18 16 17 18 17 18 16 17 16 15 14 15 14 13 12 11 13 11 13 11 12 11 10 8 9 10 9 10 9 8 9 10 8 9 8 7 3 2
44
22
6
[CLS] [MASK] 7 5 [MASK] 5 7 4 7 4 3 2 1 2 0 2 3 2 1 2 1 2 0 1 0 1 2 0 1 0 2 0 1 2 3 4 7 4 3 2 3 2 0 2 1 2 1 2 1 2 1 2 0 1 0 2 0 2 1 2 3 4 7 4 7 4 5 [MASK] 5 [MASK] 5 4 3 4 5 4 7 [MASK] 5 [MASK] 7 8 9 8 9 8 9 8 7 [MASK] 5 [MASK] 7 4 3 7 [MASK] 5 7 4 5 4 7 5 7 5 [MASK] 5 [MASK] 7 3 4 5 [MASK] 5 4 7 8 9 8 7 [MASK] 7 [MASK] 5 7 4 5 7 5 7 5 4 7 4 5 7 8 9 8 9 8 7 4 3 2 0 2 3 7 [SEP] [MASK] 5 [MASK] 7 4 3 2 3 2 1 2 0 1 0 2 0 2 3 4 3 7 5 7 3 4 7 3 7 4 7 5 [MASK] 5 4 3 7 [MASK] 7 4 3 7 3 4 7 8 9 8 10 9 10 11 12 11 10 9 8 10 9 8 7 [MASK] 7 4 5 [MASK] 7 8 9 8 10 8 9 8 7 [MASK] 7 [MASK] 5 4 5 7 3 7 3 2 1 2 1 2 0 2 3 7 5 7 [MASK] 5 7 3 4 5 [MASK] 5 7 8 7 3 2 0 1 0 1 0 1 2 1 0 2 1 0 1 2 1 2 0 1 0 2 3 2 0 1 2 1 0 2 3 2 1 2 1 2 3 4 7 5 4 3 7
44
23
6
[CLS] [MASK] 5 7 5 4 7 [MASK] 5 4 7 5 [MASK] 7 [MASK] 7 [MASK] 5 7 5 4 3 4 3 7 3 2 1 2 0 1 2 0 2 0 2 0 2 0 2 0 2 3 7 3 7 5 7 4 7 3 4 3 2 0 2 3 7 5 7 3 7 4 5 7 4 7 3 7 [MASK] 7 8 10 11 12 11 13 12 13 11 13 14 13 12 11 15 18 23 18 16 15 16 17 18 15 11 13 14 15 16 15 16 15 14 13 12 11 10 9 10 9 8 10 9 10 11 12 13 14 15 14 13 11 10 9 10 9 8 10 9 8 10 9 10 8 9 8 9 8 7 [MASK] 7 8 7 3 4 3 7 5 [MASK] [SEP] [MASK] 7 8 10 11 12 11 10 11 10 9 8 9 8 7 4 5 [MASK] 5 7 [MASK] 7 [MASK] 5 [MASK] 7 5 4 7 5 7 3 2 0 1 2 1 0 1 2 1 2 0 2 3 2 1 2 3 4 7 [MASK] 5 4 3 2 0 2 1 0 2 0 1 2 1 0 1 0 2 1 2 0 1 0 1 2 0 2 1 2 1 0 2 3 4 7 [MASK] 5 4 3 7 5 [MASK] 5 7 4 5 7 5 4 5 7 [MASK] 5 4 5 4 3 4 7 [MASK] 7 [MASK] 5 [MASK] 7 3 4 7 8 7 5 [MASK] 5 [MASK] 7 8 9 8 10 9 8 10 8 9 8 9 8 9 8 10 8 9 10 8 9 10 9 8
44
24
6
[CLS] [MASK] 7 4 5 [MASK] 7 3 7 5 [MASK] 5 [MASK] 7 4 3 2 1 0 2 0 2 0 1 0 2 0 2 0 1 2 3 7 5 4 5 4 5 [MASK] 7 3 2 1 2 0 1 0 2 1 0 1 2 0 2 0 2 0 1 2 3 2 3 7 4 3 2 3 2 0 1 0 1 0 1 2 0 2 0 2 1 0 2 0 1 0 2 1 0 1 2 1 2 0 2 1 0 1 0 2 0 1 0 1 2 3 7 8 9 8 9 10 8 7 3 7 [MASK] 7 [MASK] 7 [MASK] 5 [MASK] 7 3 4 3 2 0 2 3 7 4 3 7 8 9 8 9 10 8 9 8 9 10 9 8 9 10 11 12 [SEP] [MASK] 5 4 5 7 [MASK] 5 [MASK] 5 [MASK] 7 5 [MASK] 5 [MASK] 5 7 3 7 3 2 1 0 1 2 1 0 1 0 2 3 2 0 2 1 0 1 0 1 0 1 0 2 1 0 2 3 2 0 2 1 0 1 0 1 0 1 2 0 2 3 2 1 2 0 2 1 2 0 2 3 4 7 5 4 3 4 5 7 8 9 8 9 8 7 5 4 5 4 5 [MASK] 5 4 5 [MASK] 7 4 3 2 0 1 2 3 2 0 2 0 1 0 2 1 2 1 0 1 0 2 0 2 1 2 0 2 1 0 1 0 1 0 1 0 2 1 0 2 1 0 1 0 1 2 3 2 1 0 2 0 2 0
44
25
6
[CLS] [MASK] 7 8 9 8 9 8 7 5 [MASK] 7 8 10 9 10 11 10 9 8 9 10 11 10 8 10 11 12 13 14 15 16 15 16 18 15 11 12 11 12 11 12 13 12 13 12 13 14 15 14 13 12 13 14 15 18 19 22 19 20 22 20 21 22 21 20 21 20 22 23 18 15 14 13 14 13 12 11 10 11 12 11 12 13 12 11 12 11 13 12 13 14 15 16 17 18 15 14 15 18 17 16 17 16 15 16 17 18 30 29 26 27 26 29 26 27 26 24 25 24 26 25 26 29 26 29 28 29 28 29 28 27 26 27 26 27 26 25 26 25 26 27 26 25 26 25 26 25 24 26 [SEP] [MASK] 5 7 [MASK] 5 4 3 4 5 7 5 4 3 4 3 4 5 4 3 4 5 7 4 7 8 9 8 9 8 9 8 10 11 10 11 10 8 9 10 11 12 11 10 8 9 10 9 10 9 8 9 10 11 13 12 13 14 13 12 11 12 13 12 11 12 11 10 9 10 9 10 9 8 10 9 10 8 7 5 7 [MASK] 7 4 3 4 3 2 1 0 1 0 2 0 2 3 7 [MASK] 7 8 9 8 9 10 11 12 11 12 11 10 9 10 9 8 9 10 9 8 9 8 7 8 7 4 3 7 [MASK] 5 7 4 7 8 9 10 11 12 11 12 13 11 10 8 10 8 9 10 11 15 18 30
44
26
6
[CLS] [MASK] 7 3 4 5 4 7 8 10 9 8 9 10 9 10 9 8 10 9 10 11 12 13 14 13 12 13 12 13 14 13 12 13 12 13 12 11 12 13 12 13 11 12 11 13 14 13 12 13 14 13 11 10 11 13 14 13 11 15 16 17 16 15 14 15 18 16 18 23 18 17 16 17 18 17 18 19 20 21 20 19 20 22 23 22 20 19 22 19 20 21 20 19 20 21 22 21 20 21 22 19 20 21 20 22 21 22 20 22 23 24 25 24 26 29 28 29 28 29 30 18 19 18 15 14 15 18 19 22 20 19 22 20 19 22 21 20 19 20 22 21 22 23 22 20 19 20 19 22 [SEP] [MASK] 7 [MASK] 5 [MASK] 7 3 7 [MASK] 7 3 4 5 [MASK] 7 [MASK] 7 3 7 8 7 8 10 9 10 9 10 11 10 8 9 8 9 10 8 10 8 7 [MASK] 5 4 7 4 7 [MASK] 5 [MASK] 5 [MASK] 7 3 7 8 9 10 8 9 10 9 8 10 9 10 11 15 18 17 16 15 14 15 16 15 11 13 11 12 11 10 8 9 10 9 10 8 9 8 9 10 8 9 10 8 9 10 9 8 7 5 7 3 4 3 4 7 8 9 8 10 9 8 9 10 11 13 12 13 12 13 14 15 18 30 29 26 25 24 23 22 23 22 19 20 21 22 19 18 16 18 30 18 23 18 30 29 26 25 24 25
44
27
6
[CLS] [MASK] 5 7 4 3 4 3 4 5 [MASK] 5 [MASK] 7 5 7 [MASK] 7 8 7 5 [MASK] 7 [MASK] 5 4 7 5 4 5 4 5 4 3 4 7 [MASK] 5 7 3 4 3 2 3 4 5 [MASK] 5 [MASK] 5 [MASK] 7 4 5 7 3 7 8 9 8 7 5 [MASK] 7 [MASK] 7 [MASK] 5 4 5 4 5 4 5 [MASK] 7 8 9 10 11 12 11 12 11 12 13 14 13 12 11 13 14 13 12 13 12 11 12 13 12 13 12 13 12 11 15 16 18 30 31 30 31 32 31 30 31 30 31 30 18 17 18 23 18 16 18 23 24 26 27 26 25 24 25 26 24 25 26 25 26 25 26 24 25 26 27 26 27 28 27 [SEP] [MASK] 7 3 2 1 2 1 0 2 3 2 1 2 0 1 0 2 1 2 3 2 0 1 0 1 2 3 4 3 4 5 4 5 4 5 4 5 [MASK] 7 [MASK] 7 8 7 5 4 7 3 4 5 4 5 7 [MASK] 7 8 9 10 9 8 10 9 8 7 8 9 10 9 8 7 8 9 10 11 10 11 13 11 12 11 13 11 12 13 11 13 12 11 10 11 12 11 12 11 15 14 15 18 17 18 16 18 23 18 15 14 15 14 15 16 15 16 17 16 17 18 19 20 21 22 23 22 23 22 23 22 21 22 21 20 19 18 17 16 18 16 15 14 15 16 17 16 15 11 10 11 15 14 13 14
44
28
6
[CLS] [MASK] 5 7 5 [MASK] 5 7 4 3 4 3 4 7 [MASK] 7 8 9 8 7 3 4 5 4 5 4 5 4 3 7 [MASK] 5 [MASK] 7 5 [MASK] 5 4 5 7 [MASK] 5 4 7 4 3 2 1 2 3 4 5 [MASK] 7 4 3 2 0 1 2 0 1 2 0 1 2 3 2 0 2 1 2 1 2 0 2 0 1 2 0 1 0 2 1 0 2 0 1 2 0 1 0 2 1 0 1 2 3 7 [MASK] 5 [MASK] 5 [MASK] 7 8 9 8 7 3 4 7 3 7 3 7 8 10 8 9 10 11 13 12 13 14 15 16 18 19 18 19 20 22 19 20 19 22 23 24 25 24 23 24 25 24 23 18 16 17 [SEP] [MASK] 5 [MASK] 7 4 3 4 7 4 7 [MASK] 5 7 [MASK] 7 4 3 4 5 [MASK] 7 8 7 [MASK] 5 [MASK] 7 5 [MASK] 7 5 7 3 2 3 4 7 3 7 8 7 5 [MASK] 5 7 3 4 5 4 7 4 5 [MASK] 5 4 5 [MASK] 7 [MASK] 7 3 2 3 4 7 8 9 10 11 13 14 13 12 13 14 15 14 15 16 15 16 18 16 15 14 15 14 15 11 13 11 10 8 9 8 10 9 8 9 8 9 10 8 7 3 4 5 4 3 2 1 2 0 1 0 1 0 2 1 2 0 1 2 0 1 2 1 2 0 1 2 0 2 0 2 1 0 2 1 2 1 0 2 0 1 2 1 2 1
44
29
6
[CLS] [MASK] 5 4 7 8 7 3 2 0 2 1 0 2 3 7 8 9 8 7 4 5 [MASK] 5 [MASK] 7 3 4 5 7 8 7 8 9 10 11 12 13 14 13 14 13 14 15 11 12 13 14 13 11 10 9 10 8 10 8 10 9 8 7 5 7 3 7 5 [MASK] 5 4 5 [MASK] 5 7 8 10 11 10 11 10 9 10 9 8 9 10 11 10 9 10 8 9 10 9 8 10 9 10 9 10 9 10 8 9 10 11 12 13 14 15 18 23 24 25 26 24 23 24 26 27 26 27 28 27 28 27 26 25 26 24 26 25 26 29 26 27 28 27 26 27 28 29 28 27 26 29 26 29 28 29 28 27 [SEP] [MASK] 5 7 8 7 [MASK] 5 [MASK] 7 5 [MASK] 7 [MASK] 5 [MASK] 5 7 [MASK] 5 7 8 9 10 11 12 13 12 11 10 11 10 11 12 11 10 9 8 9 10 8 9 8 7 4 5 [MASK] 5 4 5 [MASK] 7 [MASK] 5 4 5 4 5 [MASK] 5 4 5 7 8 9 10 8 9 10 11 10 11 12 13 14 13 14 13 12 13 11 12 11 10 11 15 11 13 14 15 16 17 18 16 18 17 18 30 31 30 31 32 33 53 52 51 52 51 52 53 54 55 54 55 54 53 52 51 52 51 49 48 51 50 49 50 49 50 51 48 47 46 45 46 47 48 51 48 47 46 47 48 47 46 45 47 45 47 44 33
44
30
6
[CLS] [MASK] 7 3 4 5 4 3 4 5 4 7 [MASK] 5 7 [MASK] 5 [MASK] 5 4 7 3 2 0 2 3 7 4 5 [MASK] 7 5 7 3 2 0 2 3 7 3 7 [MASK] 7 4 7 5 4 5 [MASK] 7 4 7 3 4 3 4 7 5 7 3 7 5 [MASK] 5 [MASK] 7 4 3 7 3 2 0 2 0 1 2 3 7 [MASK] 5 [MASK] 7 [MASK] 7 5 7 4 7 [MASK] 5 [MASK] 7 4 3 7 4 5 7 4 5 7 [MASK] 5 7 [MASK] 5 [MASK] 7 3 7 8 9 10 11 10 9 8 10 8 10 11 10 9 10 11 12 11 13 12 11 12 11 12 11 12 13 11 10 11 10 8 9 10 9 8 7 4 7 4 7 [SEP] [MASK] 5 7 [MASK] 5 [MASK] 7 3 7 4 5 [MASK] 7 3 2 3 4 5 [MASK] 5 [MASK] 5 [MASK] 5 4 7 4 3 4 3 4 5 7 8 9 8 9 10 11 13 14 15 16 17 18 16 17 16 17 18 23 22 19 22 23 24 25 24 26 25 26 29 30 31 30 29 30 29 26 27 28 27 26 25 26 29 28 29 28 27 26 24 25 26 24 26 24 25 24 26 25 24 25 24 25 26 27 28 27 26 27 26 25 24 25 26 25 24 25 24 25 24 26 27 26 25 24 25 24 23 18 16 17 18 30 29 28 27 28 27 28 27 28 29 30 31 30 29 28 27 28 27 28 29 30 31 32 31 30
44
31
6
[CLS] [MASK] 7 5 4 5 7 5 7 [MASK] 7 8 7 8 9 8 10 9 10 11 12 11 12 13 12 13 14 15 14 15 16 17 18 16 15 14 15 18 30 18 30 31 32 31 32 33 35 34 33 44 45 46 47 45 47 46 45 46 47 45 44 43 42 41 42 41 43 42 43 44 47 45 46 47 46 47 46 47 45 47 44 33 32 31 32 33 34 33 34 33 34 33 32 33 34 35 39 40 39 38 39 38 39 38 36 37 36 38 37 36 37 36 37 36 35 33 34 35 39 43 44 33 53 33 35 34 33 35 34 35 34 33 32 33 34 35 36 38 37 36 37 38 37 36 37 36 35 39 38 37 [SEP] [MASK] 5 [MASK] 5 7 [MASK] 5 4 7 [MASK] 7 [MASK] 7 [MASK] 5 4 5 [MASK] 7 3 4 7 3 7 5 [MASK] 5 7 8 10 9 8 9 8 9 8 9 8 7 [MASK] 7 [MASK] 5 [MASK] 7 [MASK] 5 [MASK] 7 [MASK] 5 [MASK] 7 [MASK] 5 7 8 10 8 9 10 9 8 7 5 7 8 10 11 10 8 10 9 10 8 10 11 15 14 13 12 11 13 11 12 13 11 12 11 13 14 15 14 13 12 11 12 11 12 11 12 11 12 13 11 15 16 15 11 12 11 13 12 11 15 14 13 14 13 14 13 11 12 11 10 9 8 9 10 11 10 11 10 9 10 8 9 10 9 10 9 10 9 10 9 8 9 10 9
44
32
6
[CLS] [MASK] 7 8 9 8 10 8 9 10 11 12 13 14 13 12 13 12 13 11 12 13 11 12 13 11 12 13 12 11 12 11 15 18 15 14 15 16 15 16 15 11 10 11 10 9 10 9 10 9 10 9 10 11 10 8 9 8 7 8 7 5 7 5 7 [MASK] 7 5 [MASK] 5 [MASK] 5 4 3 2 1 0 1 0 1 0 1 0 1 2 1 0 2 0 1 0 2 1 2 1 2 1 2 0 1 2 0 2 1 0 2 0 2 0 1 2 1 2 1 2 0 1 0 2 1 2 1 2 0 1 2 1 0 2 1 0 1 0 2 0 2 0 2 0 1 2 3 4 3 2 0 1 2 0 1 [SEP] [MASK] 7 8 10 9 10 9 8 7 3 7 [MASK] 7 8 9 8 9 10 8 9 10 8 7 [MASK] 5 7 5 4 7 [MASK] 7 [MASK] 7 5 7 [MASK] 7 5 [MASK] 7 4 3 4 3 4 3 4 7 5 4 3 4 7 [MASK] 5 4 5 4 5 [MASK] 5 [MASK] 7 8 9 8 7 8 9 8 10 11 12 11 10 8 10 9 8 9 10 8 10 8 7 [MASK] 7 [MASK] 7 3 2 1 2 3 4 5 [MASK] 5 4 3 2 0 2 0 1 2 3 7 5 [MASK] 7 [MASK] 7 5 [MASK] 7 4 7 8 7 5 7 5 7 [MASK] 7 4 7 3 7 [MASK] 5 7 8 9 10 11 10 8 9 8 9 10 8 10 8 10 8 7
44
33
6
[CLS] [MASK] 7 4 5 7 5 4 3 4 7 5 7 8 10 11 12 13 14 13 14 13 11 15 14 15 16 18 15 11 13 14 13 12 13 12 13 12 13 12 13 14 15 16 18 16 18 30 29 30 29 30 31 30 31 30 31 32 31 30 29 26 29 28 29 28 27 28 29 30 18 17 18 16 18 19 22 23 22 21 22 21 22 23 18 23 22 23 22 19 18 19 22 21 22 21 22 19 20 21 20 21 20 19 18 17 18 15 14 15 16 15 11 12 11 10 8 9 8 9 10 11 15 18 16 15 14 15 14 13 12 13 11 10 9 8 9 8 9 8 9 10 8 7 3 7 8 9 8 9 [SEP] [MASK] 5 [MASK] 7 8 7 5 7 [MASK] 5 4 3 4 3 7 4 3 2 1 2 3 2 1 0 2 3 2 0 2 0 1 2 3 2 1 0 2 0 1 2 0 2 3 4 5 [MASK] 7 [MASK] 7 [MASK] 7 5 [MASK] 5 4 3 7 4 5 [MASK] 5 4 5 [MASK] 5 [MASK] 5 7 [MASK] 7 5 7 4 3 7 4 7 4 3 4 7 [MASK] 5 7 4 5 [MASK] 5 [MASK] 7 3 4 5 4 7 8 7 5 7 [MASK] 7 5 [MASK] 7 5 [MASK] 7 8 7 3 7 [MASK] 5 7 3 4 7 4 3 4 5 [MASK] 7 4 3 4 3 4 7 8 7 4 7 4 7 8 7 3 4 3 2 1 0 1 2 1 0 1 0
44
34
6
[CLS] [MASK] 5 7 [MASK] 5 [MASK] 5 [MASK] 5 7 8 10 8 9 10 9 10 8 9 8 9 8 9 10 8 7 4 5 4 3 4 3 4 3 7 8 10 11 12 11 10 8 9 10 9 8 9 10 8 9 8 7 3 7 3 7 [MASK] 7 5 [MASK] 7 5 [MASK] 5 7 5 4 7 [MASK] 5 4 5 4 7 [MASK] 7 3 2 1 0 2 3 4 3 4 3 7 8 10 11 13 14 13 14 13 12 13 12 13 11 15 18 17 16 17 16 17 18 30 18 17 18 16 17 18 17 16 18 23 24 25 24 25 24 26 29 26 27 26 24 25 26 27 26 27 28 29 26 24 26 24 23 22 21 22 23 22 20 21 [SEP] [MASK] 5 4 7 4 5 7 8 10 8 10 8 7 [MASK] 7 8 7 5 [MASK] 5 4 7 8 7 4 7 4 7 8 7 4 3 7 4 3 4 7 5 [MASK] 7 5 [MASK] 5 7 5 7 4 3 7 [MASK] 7 [MASK] 5 4 7 [MASK] 7 3 4 7 4 3 7 4 7 5 [MASK] 7 4 5 4 5 [MASK] 7 3 2 3 2 1 0 1 0 2 0 1 0 2 1 2 1 0 2 3 7 3 4 7 5 [MASK] 5 4 7 [MASK] 5 4 3 4 5 7 5 [MASK] 5 [MASK] 5 [MASK] 7 [MASK] 7 3 4 3 4 7 8 10 8 9 8 10 11 12 11 12 11 15 18 30 29 26 27 28 27 28 27 26 25 24 25 24
44
35
6
[CLS] [MASK] 5 4 7 3 4 7 5 4 5 4 5 4 3 7 3 2 3 7 [MASK] 5 [MASK] 7 3 4 5 [MASK] 5 [MASK] 5 4 7 5 4 7 [MASK] 5 [MASK] 7 [MASK] 5 7 8 9 10 9 8 9 8 9 8 9 10 11 15 14 15 11 15 16 17 16 15 14 13 14 13 12 13 12 11 13 11 12 11 12 13 14 15 18 30 31 30 31 32 33 34 33 32 33 44 33 32 33 34 35 34 33 53 52 51 49 50 49 50 49 48 51 49 48 47 46 47 48 51 50 49 51 49 50 49 48 51 50 51 49 50 51 50 49 50 49 51 52 53 55 54 53 54 55 54 53 33 32 33 44 43 42 41 [SEP] [MASK] 5 [MASK] 7 3 4 5 [MASK] 5 4 5 4 3 4 3 4 5 [MASK] 7 [MASK] 7 [MASK] 7 4 7 [MASK] 5 7 8 9 10 9 8 7 4 7 5 [MASK] 7 8 9 10 9 8 9 10 11 12 11 13 11 13 14 15 14 13 12 11 12 13 12 11 15 11 10 11 13 12 13 14 15 16 18 30 31 32 33 32 33 32 33 32 33 35 36 35 33 53 52 53 54 53 52 53 52 51 50 49 50 49 50 49 48 49 50 49 48 49 51 52 51 50 49 48 51 50 51 49 48 49 48 49 50 51 49 51 49 50 51 48 47 46 47 44 45 44 45 46 45 47 48 51 52 51 50 49 48 49 48
44
36
6
[CLS] [MASK] 5 [MASK] 7 [MASK] 7 [MASK] 7 [MASK] 5 4 7 [MASK] 5 4 7 4 5 7 8 9 10 11 10 8 9 8 7 [MASK] 5 4 3 4 5 7 [MASK] 7 3 4 7 4 7 [MASK] 7 [MASK] 5 [MASK] 7 3 4 3 2 1 2 3 2 3 7 [MASK] 5 4 7 3 2 1 2 0 1 0 2 3 2 1 0 1 0 2 0 2 0 1 0 2 3 4 5 [MASK] 7 5 [MASK] 5 [MASK] 5 [MASK] 5 7 [MASK] 7 5 [MASK] 7 8 10 9 8 7 3 4 7 4 3 7 5 7 5 7 [MASK] 5 [MASK] 5 [MASK] 7 [MASK] 5 4 3 2 1 2 0 1 2 0 2 3 4 3 4 7 4 5 4 3 2 0 2 0 1 0 [SEP] [MASK] 7 [MASK] 5 [MASK] 7 8 10 11 10 9 8 10 9 10 11 15 16 17 18 19 18 30 31 30 31 30 18 19 18 15 18 17 16 15 14 15 14 13 12 13 14 13 14 13 12 13 14 13 14 13 14 13 12 11 13 11 10 9 10 9 8 9 8 10 9 8 7 [MASK] 7 5 [MASK] 7 4 7 5 [MASK] 5 7 4 5 7 4 7 5 4 3 7 [MASK] 7 [MASK] 5 7 8 7 8 9 10 9 8 7 5 [MASK] 5 7 8 7 [MASK] 7 5 [MASK] 7 [MASK] 5 4 7 [MASK] 5 4 3 7 [MASK] 5 [MASK] 7 3 7 5 [MASK] 7 5 [MASK] 7 3 4 5 [MASK] 5 [MASK] 7 5 [MASK] 7 3 4 5 7 [MASK] 7
44
37
6
[CLS] [MASK] 5 4 3 7 8 7 [MASK] 7 [MASK] 7 8 9 10 8 9 8 9 8 7 [MASK] 7 3 7 4 3 4 3 4 5 [MASK] 7 3 2 0 2 3 7 5 [MASK] 5 7 [MASK] 5 7 3 7 4 3 2 0 2 1 2 1 2 3 2 1 0 2 0 1 0 2 0 1 0 1 2 1 0 2 0 1 2 1 2 3 4 3 4 5 7 [MASK] 5 [MASK] 7 [MASK] 5 4 3 2 0 1 2 3 7 [MASK] 5 7 [MASK] 7 3 2 0 1 2 1 0 1 2 1 0 1 2 0 1 0 2 0 2 1 0 2 0 1 2 0 2 3 2 0 1 2 3 7 [MASK] 5 [MASK] 5 [MASK] 5 7 4 3 2 3 4 [SEP] [MASK] 7 8 9 10 9 10 9 10 11 13 11 15 16 17 16 15 11 13 12 13 11 12 13 11 12 13 14 15 14 13 12 13 14 13 14 13 12 13 14 15 11 15 14 13 14 15 14 15 18 23 18 15 14 13 12 13 11 10 8 10 9 10 9 8 10 9 8 10 8 9 8 10 9 10 9 8 7 5 [MASK] 5 4 5 7 3 4 3 2 0 2 3 2 3 2 0 2 0 1 2 3 7 3 7 3 7 [MASK] 7 3 7 [MASK] 7 [MASK] 5 4 5 [MASK] 5 [MASK] 7 4 7 3 7 3 2 0 2 0 2 1 0 2 1 0 1 2 1 0 1 2 1 2 1 2 1 2 3 2 3
44
38
6
[CLS] [MASK] 5 7 8 7 4 7 4 3 2 1 0 2 1 2 1 2 1 2 0 1 0 2 1 0 1 2 0 2 1 2 0 2 0 2 3 4 5 4 3 2 1 2 3 4 5 4 7 4 7 4 5 [MASK] 5 [MASK] 7 4 7 [MASK] 7 5 4 5 [MASK] 5 4 5 4 5 [MASK] 5 [MASK] 7 3 4 7 3 4 7 8 7 5 7 3 4 7 8 9 10 9 10 9 8 9 10 9 8 9 10 9 8 9 8 7 3 2 0 2 3 7 3 2 1 0 1 2 1 2 0 1 2 1 0 1 0 1 0 2 1 2 3 2 1 0 2 0 1 2 3 2 1 0 1 2 1 2 0 2 3 [SEP] [MASK] 5 [MASK] 7 8 7 [MASK] 5 7 3 7 4 5 [MASK] 5 7 4 7 [MASK] 5 4 7 4 5 [MASK] 7 [MASK] 5 7 3 7 [MASK] 5 [MASK] 7 4 7 3 4 5 4 5 7 [MASK] 7 [MASK] 7 5 [MASK] 7 3 7 3 4 5 [MASK] 5 4 7 [MASK] 7 3 7 [MASK] 5 4 3 7 [MASK] 7 [MASK] 5 7 8 10 9 10 8 9 8 9 10 11 13 14 13 12 11 12 13 11 12 13 12 13 14 13 11 12 11 13 11 10 11 13 11 10 9 10 9 10 11 13 12 11 13 14 13 12 13 14 13 11 13 11 13 14 13 12 11 13 11 12 13 12 11 15 14 13 14 13 11 12 11 12 11 15 11 12
44
39
6
[CLS] [MASK] 7 3 2 3 4 3 4 3 2 0 1 2 1 2 0 1 2 1 2 3 7 [MASK] 7 4 7 5 4 7 3 7 8 9 10 9 8 9 8 7 [MASK] 7 5 7 4 5 [MASK] 5 [MASK] 5 4 7 5 [MASK] 7 5 7 4 7 [MASK] 5 7 5 [MASK] 7 [MASK] 5 [MASK] 5 4 5 [MASK] 7 [MASK] 7 [MASK] 5 [MASK] 5 7 8 10 8 7 8 9 8 10 9 8 7 4 5 7 8 7 [MASK] 7 [MASK] 5 4 5 [MASK] 5 4 5 4 3 7 3 7 5 4 3 4 5 7 5 4 3 7 8 9 8 10 11 10 11 13 12 11 12 11 15 11 10 11 12 13 12 13 12 11 12 13 12 11 13 12 13 [SEP] [MASK] 5 [MASK] 7 5 4 3 4 5 4 7 4 7 5 7 3 2 3 2 1 0 2 0 2 1 2 0 1 2 3 4 3 7 4 7 8 10 9 10 8 10 8 10 8 10 8 7 8 9 8 9 8 10 9 8 9 10 11 13 12 13 12 11 15 14 15 16 15 18 16 17 16 18 16 17 18 30 31 30 29 28 27 26 29 30 31 32 33 35 34 35 34 35 36 37 36 35 33 44 33 44 45 46 45 46 45 46 45 44 45 46 47 45 46 45 44 33 53 52 53 55 54 53 54 53 55 54 53 54 53 52 51 52 51 48 47 45 46 47 45 46 47 46 45 46 45 46 45 46
44
40
6
[CLS] [MASK] 5 7 8 7 8 9 10 8 7 8 9 8 7 [MASK] 5 4 7 5 4 3 7 4 3 2 0 1 2 0 2 3 7 3 7 5 [MASK] 7 [MASK] 7 3 7 3 4 3 4 5 4 5 4 3 7 [MASK] 5 [MASK] 5 [MASK] 5 7 [MASK] 7 4 7 3 4 3 2 1 2 0 2 1 0 1 0 1 2 1 2 3 7 [MASK] 7 3 7 3 4 5 4 3 4 5 4 3 2 1 2 1 0 2 1 2 1 2 1 2 0 2 3 2 1 0 1 2 3 2 3 2 0 1 0 2 0 1 2 3 4 5 4 7 [MASK] 5 [MASK] 5 [MASK] 7 8 9 10 11 13 11 12 11 10 9 8 7 4 7 [SEP] [MASK] 5 7 3 7 4 5 7 5 7 [MASK] 5 7 3 2 0 1 0 2 0 1 2 3 2 1 0 2 0 2 0 1 2 1 0 1 0 2 1 2 1 0 2 3 2 0 2 0 1 2 3 7 [MASK] 5 7 4 5 4 5 4 7 5 7 4 5 [MASK] 7 [MASK] 7 8 7 8 9 8 9 8 7 [MASK] 7 8 7 [MASK] 5 4 3 2 3 4 7 3 7 5 4 3 4 3 2 0 1 2 0 2 0 2 3 2 3 4 3 4 7 [MASK] 7 [MASK] 5 [MASK] 5 7 8 9 10 9 8 9 10 11 15 14 15 16 15 14 13 12 13 14 13 12 13 14 13 12 11 12 11 12 13 14 13 14
44
41
6
[CLS] [MASK] 5 [MASK] 5 [MASK] 5 [MASK] 5 4 5 4 3 2 1 2 0 1 2 0 2 3 4 7 8 7 8 10 11 10 11 15 14 15 18 23 24 23 22 19 18 17 18 30 31 32 33 32 33 34 35 39 38 37 36 35 36 35 34 35 33 35 33 53 55 53 55 54 53 55 56 55 54 53 54 55 56 58 56 55 56 57 56 57 56 55 54 53 55 56 55 54 53 52 51 50 49 51 48 47 48 51 52 53 52 51 50 49 50 51 50 49 48 51 50 49 50 49 51 52 51 52 53 52 51 50 51 50 51 48 49 50 51 49 48 51 48 49 51 48 47 44 33 53 33 34 33 34 33 34 [SEP] [MASK] 7 4 5 4 5 7 4 3 7 3 2 1 0 1 2 0 1 0 2 3 7 5 [MASK] 5 4 3 7 4 7 [MASK] 7 5 4 7 4 7 3 7 5 [MASK] 5 [MASK] 7 5 [MASK] 7 3 7 5 7 4 3 4 5 [MASK] 5 [MASK] 7 [MASK] 5 4 3 4 5 [MASK] 7 8 7 3 7 8 7 [MASK] 7 3 7 3 4 3 4 5 [MASK] 5 4 7 4 7 5 7 [MASK] 5 7 4 3 7 4 5 7 5 [MASK] 5 4 7 5 [MASK] 5 7 3 4 7 5 7 [MASK] 5 [MASK] 7 [MASK] 7 [MASK] 7 [MASK] 5 7 4 7 [MASK] 7 [MASK] 5 [MASK] 5 [MASK] 7 3 7 4 7 4 3 4 3 2 3 7 3 4 3 2
44
42
6
[CLS] [MASK] 5 7 4 5 7 4 5 7 [MASK] 7 [MASK] 5 4 3 7 3 4 7 3 7 5 4 5 7 4 7 [MASK] 7 4 5 4 5 7 5 7 [MASK] 5 [MASK] 7 8 7 4 5 4 3 7 4 5 4 5 7 [MASK] 7 4 3 7 [MASK] 5 [MASK] 5 [MASK] 7 5 4 7 8 9 10 11 12 11 13 14 15 11 15 16 15 11 12 11 12 11 13 11 13 14 13 11 10 8 9 10 9 10 11 12 13 14 15 16 17 16 17 16 17 18 30 29 30 31 32 31 30 29 30 31 30 31 30 18 17 18 30 31 32 33 44 45 46 45 47 45 44 43 42 41 40 41 43 44 47 48 51 50 49 48 51 [SEP] [MASK] 7 [MASK] 7 4 5 [MASK] 7 [MASK] 5 7 8 9 10 11 10 9 8 9 8 9 8 9 8 7 4 3 4 5 [MASK] 5 7 8 7 4 5 7 5 4 5 [MASK] 7 4 5 4 3 7 3 2 0 2 0 1 2 1 2 1 2 3 2 1 2 1 0 1 0 1 2 0 1 0 2 1 0 2 1 0 1 0 1 0 2 0 1 2 0 2 0 2 1 2 1 2 1 2 3 7 [MASK] 5 [MASK] 7 [MASK] 5 4 3 2 3 7 8 9 8 10 11 10 11 12 13 12 11 13 14 13 14 15 14 13 12 11 13 12 11 12 11 10 11 12 11 12 11 12 11 12 13 14 15 14 15 11 13
44
43
6
[CLS] [MASK] 7 8 10 11 13 14 15 16 18 23 18 16 17 18 15 14 13 12 11 15 14 13 12 11 10 11 15 18 16 17 16 17 16 18 15 16 15 16 17 18 19 18 17 16 18 19 18 23 18 17 18 17 18 17 16 17 18 23 18 17 16 15 18 23 18 16 18 15 11 15 11 13 14 13 14 15 16 15 14 13 14 13 11 13 14 15 18 16 18 19 22 20 19 20 21 20 21 20 19 18 17 18 17 18 15 18 19 18 30 31 32 31 30 29 26 24 26 25 26 25 24 23 22 21 22 19 20 19 18 17 18 30 29 28 27 26 25 24 25 26 24 26 25 24 25 26 24 23 [SEP] [MASK] 7 4 7 [MASK] 5 [MASK] 5 7 5 7 5 [MASK] 7 3 4 3 4 7 8 9 10 11 12 13 14 13 14 15 16 15 14 13 12 11 10 11 15 14 13 14 13 14 13 12 11 12 13 12 13 14 15 18 30 18 30 29 28 27 28 27 26 25 24 23 18 15 16 17 16 15 11 13 14 13 14 13 11 13 12 13 12 11 15 14 13 12 13 14 13 11 12 13 11 15 18 30 18 17 16 18 17 18 23 22 21 20 21 20 19 18 16 15 14 15 18 19 22 21 22 20 19 18 19 18 15 18 15 16 15 14 13 12 11 13 12 11 15 11 12 11 12 13 12 13 11 12 11 10
44
44
6
[CLS] [MASK] 7 8 10 8 10 9 10 9 8 10 11 10 11 13 14 15 14 15 14 13 12 11 13 12 11 12 13 11 13 12 11 15 11 10 9 10 8 10 11 12 11 13 14 13 12 13 11 12 11 12 13 12 13 12 11 12 11 12 11 13 11 13 14 15 14 15 14 13 12 11 15 11 10 11 10 9 8 7 [MASK] 5 7 4 7 4 7 [MASK] 7 4 3 4 3 7 [MASK] 7 4 5 [MASK] 7 8 7 4 7 3 2 1 2 0 2 1 0 2 1 2 3 2 0 2 1 2 1 0 1 0 2 3 7 [MASK] 5 [MASK] 5 7 [MASK] 5 4 7 8 9 10 9 8 9 10 9 8 9 10 11 12 [SEP] [MASK] 7 5 7 [MASK] 5 7 8 9 10 9 8 7 [MASK] 5 7 8 9 10 8 10 11 13 14 15 18 17 18 17 16 18 30 18 23 18 17 18 17 18 17 16 15 16 15 16 18 23 22 21 22 23 24 26 27 28 29 26 25 24 25 24 26 24 23 22 20 22 19 20 22 20 22 23 18 30 31 32 33 44 45 44 47 44 45 46 45 46 47 48 51 48 49 48 49 48 47 46 47 44 33 53 54 53 55 53 33 32 33 35 39 35 36 38 39 35 33 34 35 36 37 38 39 38 36 37 38 39 38 37 38 39 40 41 42 43 40 41 42 43 42 41 42 41 43 44 33 32 33 34
44
45
6
[CLS] [MASK] 5 7 4 7 3 2 0 2 1 2 3 2 0 1 2 3 4 3 2 3 7 [MASK] 5 7 8 9 10 9 10 9 10 9 10 9 10 8 10 11 10 9 10 8 9 8 9 10 11 10 8 9 10 9 10 9 10 11 10 11 15 16 17 16 18 19 22 21 20 21 22 23 24 26 25 24 26 25 26 27 28 29 28 29 26 29 26 27 26 27 26 25 24 25 24 23 24 23 22 20 22 23 18 16 18 17 18 17 18 17 18 16 15 11 13 11 13 12 13 14 13 11 12 11 15 14 13 12 11 12 11 12 11 13 12 13 12 11 13 14 13 11 10 8 7 5 4 5 [MASK] 7 [SEP] [MASK] 7 [MASK] 7 8 9 10 11 13 11 10 9 8 7 [MASK] 5 [MASK] 7 4 7 8 7 3 7 5 4 7 8 10 9 8 10 11 10 11 13 12 11 10 9 8 7 5 4 5 [MASK] 7 3 4 3 2 1 2 3 4 7 4 5 [MASK] 7 3 4 7 5 4 3 4 7 [MASK] 5 [MASK] 7 4 3 7 [MASK] 5 7 3 2 0 1 0 2 0 2 0 2 3 2 0 1 0 1 2 3 4 3 4 7 [MASK] 7 5 [MASK] 5 4 7 8 9 10 9 10 9 8 7 5 [MASK] 7 [MASK] 5 4 3 7 3 2 0 2 3 7 5 7 3 4 3 7 [MASK] 7 [MASK] 5 4 7 [MASK] 5 [MASK] 7 4 3 2 1
44
46
6
[CLS] [MASK] 5 7 4 3 2 3 2 0 1 2 0 2 0 1 0 2 0 1 2 0 1 0 1 0 2 1 0 1 0 1 0 2 1 0 1 0 2 3 7 [MASK] 7 4 7 8 10 8 9 10 11 15 14 15 14 15 14 15 16 15 14 15 14 15 14 13 12 11 12 11 10 9 8 10 8 10 8 9 8 9 8 9 8 9 8 10 9 10 9 8 10 11 13 11 13 11 12 13 11 10 9 8 9 8 9 8 10 11 15 14 15 11 13 11 15 18 19 20 21 22 21 22 21 20 19 18 23 24 26 24 25 26 29 28 27 26 27 26 25 24 25 24 25 24 23 22 21 22 23 22 [SEP] [MASK] 5 [MASK] 7 [MASK] 5 [MASK] 5 [MASK] 7 3 4 5 4 5 7 8 9 10 9 10 9 8 9 8 7 [MASK] 7 5 4 5 7 5 7 4 5 7 4 7 4 7 8 10 11 13 14 13 12 11 12 11 15 11 12 13 14 13 14 15 11 13 14 13 11 13 12 11 15 11 10 8 10 9 10 9 8 9 8 9 8 7 [MASK] 7 8 9 10 11 10 9 8 9 8 10 9 10 11 12 11 10 8 10 9 10 11 15 14 15 14 13 12 11 10 8 9 10 9 10 9 8 7 5 7 [MASK] 5 7 [MASK] 5 7 5 4 3 2 0 2 0 2 0 1 0 2 1 2 0 1 0 2 0 2 1
44
47
6
[CLS] [MASK] 5 4 5 [MASK] 5 4 7 3 2 3 4 3 7 8 7 [MASK] 5 4 5 7 [MASK] 5 7 4 5 7 4 3 4 7 [MASK] 7 4 3 4 3 4 5 [MASK] 7 5 7 [MASK] 7 4 7 8 9 8 7 4 5 7 5 7 3 2 1 0 2 3 4 3 7 8 7 [MASK] 7 [MASK] 5 7 8 10 8 7 5 7 8 9 8 9 8 9 10 11 10 11 12 13 14 15 11 12 11 13 14 13 14 13 11 13 12 11 12 11 13 14 15 18 17 18 17 18 17 18 16 15 11 12 13 14 13 14 15 14 13 14 13 12 11 13 12 11 15 14 13 12 13 11 12 13 11 12 11 10 9 8 7 [SEP] [MASK] 7 [MASK] 5 [MASK] 7 3 2 3 4 5 7 3 2 1 2 1 2 0 2 1 0 2 3 7 4 7 8 9 10 8 10 11 12 11 13 12 11 13 12 13 11 12 13 14 13 12 13 14 13 11 15 14 15 11 12 13 12 13 12 13 11 10 11 12 11 12 11 12 11 13 14 13 14 15 11 15 16 18 19 18 15 14 13 14 15 14 15 14 15 18 15 16 17 18 16 18 30 31 32 33 32 33 53 33 34 33 44 45 46 45 46 45 44 45 46 45 46 47 45 44 45 46 45 46 45 46 47 46 47 46 47 45 46 45 44 45 46 45 46 47 48 47 45 47 46 47 45 46
44
48
6
[CLS] [MASK] 5 7 4 5 [MASK] 7 4 5 [MASK] 5 [MASK] 7 4 7 [MASK] 7 5 [MASK] 5 7 [MASK] 5 7 3 7 4 3 7 8 7 3 2 1 0 2 1 0 2 3 2 1 2 3 7 8 10 8 9 10 8 10 8 9 8 9 10 8 9 10 11 13 11 12 13 12 11 10 8 9 10 11 15 11 12 11 15 16 18 23 24 26 27 26 27 26 27 28 29 30 18 30 29 30 31 30 18 15 18 17 16 15 16 15 11 12 11 12 13 12 11 10 11 10 8 9 8 9 8 9 8 9 10 8 10 11 15 16 18 23 24 25 26 29 26 25 24 26 29 28 29 28 29 30 18 19 22 19 22 [SEP] [MASK] 7 5 [MASK] 5 [MASK] 7 3 2 0 2 3 4 5 7 8 10 9 8 9 8 9 10 9 10 11 15 14 15 18 19 18 15 14 15 18 30 18 17 18 30 18 19 22 23 18 23 24 25 26 29 26 27 28 27 28 27 28 27 26 24 25 24 23 22 20 21 22 21 22 20 22 20 21 22 23 18 15 11 15 14 15 14 13 11 10 11 12 13 14 15 14 13 14 13 11 12 13 12 13 14 13 12 11 15 18 30 29 28 27 28 29 28 27 26 27 28 27 28 29 28 29 30 31 30 31 30 29 28 27 26 24 25 26 24 25 26 25 26 27 26 27 26 27 28 29 26 29 26
44
49
6
[CLS] [MASK] 5 4 5 [MASK] 7 8 9 8 7 5 7 [MASK] 5 [MASK] 5 [MASK] 5 4 7 3 7 [MASK] 5 [MASK] 7 5 [MASK] 7 4 5 7 5 [MASK] 5 [MASK] 7 4 5 [MASK] 7 4 7 5 [MASK] 7 [MASK] 5 7 3 2 1 2 0 2 0 2 1 2 1 0 1 0 1 2 1 0 2 1 0 1 2 0 1 2 1 0 1 0 2 0 1 2 0 1 2 1 2 1 2 0 1 0 1 2 0 2 0 1 2 1 0 1 0 2 0 1 2 3 7 8 9 10 8 7 3 2 3 7 3 2 0 1 2 0 2 0 2 1 2 1 0 1 0 2 3 2 1 0 2 3 2 1 0 2 0 2 1 0 [SEP] [MASK] 5 7 5 [MASK] 5 [MASK] 7 8 9 8 10 11 10 8 10 8 7 4 7 5 4 5 [MASK] 5 7 4 3 2 0 1 0 1 0 2 1 0 1 2 3 4 5 4 7 5 [MASK] 7 3 2 0 2 1 0 1 0 2 0 2 0 2 1 2 1 2 1 0 2 3 2 0 1 0 2 0 2 0 2 3 7 5 [MASK] 5 7 [MASK] 5 [MASK] 7 5 4 7 5 [MASK] 5 [MASK] 5 [MASK] 5 7 3 2 3 4 7 [MASK] 5 [MASK] 5 7 5 4 5 [MASK] 5 [MASK] 5 [MASK] 5 [MASK] 7 5 7 [MASK] 5 [MASK] 5 7 4 5 7 8 10 9 8 7 [MASK] 5 7 8 9 10 11 12 11 12 11 10 9 8 7
44
50
6
[CLS] [MASK] 7 3 7 3 4 7 8 10 8 9 8 9 10 8 10 8 10 11 13 12 11 10 8 9 8 9 8 10 9 10 11 10 9 10 11 10 9 10 8 9 10 11 12 13 12 11 12 13 11 12 11 12 13 12 13 12 11 15 16 18 30 29 26 29 28 29 28 27 26 24 26 29 26 27 26 24 25 26 27 26 27 26 27 28 29 26 25 26 25 26 25 26 27 28 29 26 24 25 24 23 22 20 22 21 20 19 20 21 22 20 21 20 21 20 19 18 17 18 23 18 23 18 16 17 18 17 18 19 20 22 19 18 19 18 17 16 15 11 10 8 7 3 7 [MASK] 7 3 4 3 [SEP] [MASK] 5 4 5 4 5 7 5 [MASK] 7 3 2 0 1 2 0 2 1 2 1 2 0 2 1 0 2 0 1 2 1 2 1 2 0 1 0 1 0 1 0 1 2 1 0 1 2 3 4 3 4 7 [MASK] 5 7 8 7 [MASK] 5 7 8 9 8 7 8 9 8 7 8 10 8 10 11 12 11 12 11 12 13 11 12 13 12 11 10 9 10 9 10 11 10 9 8 7 [MASK] 5 4 5 4 5 7 3 2 0 2 1 2 1 0 2 1 0 1 0 1 0 1 0 1 0 1 2 0 2 3 4 5 [MASK] 7 [MASK] 7 8 9 10 9 8 7 4 3 4 3 7 5 7 8 9 8 10 8 7
44
51
6
[CLS] [MASK] 7 4 7 3 7 [MASK] 5 4 7 3 2 1 0 2 3 2 0 2 1 2 0 2 0 1 2 1 0 2 1 2 0 2 0 1 0 1 2 1 0 2 0 2 1 0 1 0 2 0 1 0 1 2 0 1 0 2 0 2 1 0 1 0 2 0 1 0 2 0 2 0 1 0 1 2 3 2 0 2 1 2 0 2 3 7 [MASK] 7 [MASK] 7 4 3 7 3 4 3 7 [MASK] 5 [MASK] 7 8 9 10 11 15 18 23 18 23 22 21 20 19 20 19 20 21 22 21 22 20 21 22 20 19 18 15 16 18 30 29 28 29 28 27 26 24 26 24 25 24 26 27 28 27 26 27 26 27 [SEP] [MASK] 5 7 5 7 3 4 3 2 1 2 1 2 3 7 5 7 [MASK] 7 5 4 3 2 0 2 0 1 0 1 0 1 2 0 1 2 0 2 0 1 0 2 0 1 2 3 2 0 2 1 0 1 2 1 2 0 1 2 1 2 3 7 [MASK] 7 4 5 [MASK] 5 7 [MASK] 7 8 9 10 9 8 7 [MASK] 5 [MASK] 5 4 5 4 5 7 4 7 5 4 3 7 3 2 3 7 8 10 9 8 9 8 10 11 12 11 13 14 15 16 18 23 22 21 20 22 21 22 23 24 26 25 24 26 27 26 29 30 29 26 29 26 29 26 24 23 18 30 18 23 22 21 22 21 20 21 22 20 21 22
44
52
6
[CLS] [MASK] 5 7 4 7 4 7 3 4 3 7 8 7 [MASK] 5 7 [MASK] 7 3 7 8 9 10 11 12 11 12 13 14 13 12 13 14 15 16 17 18 15 11 15 11 12 13 11 10 8 9 8 7 3 2 1 2 3 7 [MASK] 7 8 7 5 [MASK] 7 3 7 [MASK] 7 3 7 4 7 3 7 5 4 5 [MASK] 5 7 [MASK] 5 [MASK] 7 [MASK] 7 [MASK] 7 4 5 7 4 7 3 7 8 10 11 10 9 8 9 8 7 8 7 4 7 4 5 7 [MASK] 5 [MASK] 5 4 3 7 4 7 4 3 4 7 3 7 3 4 5 7 5 [MASK] 5 4 3 7 4 3 4 7 4 3 4 5 4 7 3 4 7 8 10 [SEP] [MASK] 5 7 8 10 9 10 9 10 9 10 9 10 11 13 12 13 12 13 12 11 12 11 10 9 8 9 10 11 15 11 15 11 12 11 12 13 12 11 12 11 12 13 14 15 14 15 14 13 14 15 14 13 11 15 14 13 12 13 14 15 11 10 9 8 9 8 9 10 8 9 10 8 7 5 [MASK] 7 4 3 4 5 7 [MASK] 7 [MASK] 5 4 3 4 7 4 5 4 3 7 5 4 3 4 5 [MASK] 7 8 7 [MASK] 5 [MASK] 7 [MASK] 5 4 5 7 8 9 10 11 13 14 13 12 13 12 11 13 14 15 14 13 12 13 12 11 12 13 14 13 14 15 11 13 14 15 14 13 11 10 8 7
44
53
6
[CLS] [MASK] 7 5 4 3 7 4 5 7 [MASK] 7 4 5 4 7 [MASK] 5 [MASK] 7 4 7 5 7 [MASK] 5 [MASK] 7 8 9 8 10 9 10 8 10 11 12 13 14 15 11 12 13 14 13 12 13 14 13 12 11 13 12 13 12 13 14 13 11 13 12 13 11 10 11 15 14 13 12 13 12 13 11 13 14 15 11 13 12 13 12 11 15 14 15 14 15 11 13 14 15 14 15 16 17 18 17 16 15 16 17 16 17 16 18 17 18 30 31 32 33 32 33 32 31 32 31 30 18 30 18 17 16 15 11 10 11 13 11 15 16 18 19 20 19 22 19 22 20 19 22 21 20 22 19 20 22 20 22 [SEP] [MASK] 7 [MASK] 7 4 7 5 7 4 7 3 7 8 10 11 10 9 10 9 10 8 10 11 12 11 10 9 10 8 9 10 9 10 9 10 9 8 9 8 9 8 9 10 11 12 11 13 14 15 11 12 13 12 13 14 15 18 15 16 17 16 17 18 15 16 18 16 18 17 16 15 16 15 16 18 17 16 17 18 16 15 14 15 14 13 14 13 14 13 14 15 14 15 18 23 22 21 22 20 22 21 20 22 19 18 15 14 13 12 13 11 10 11 10 9 8 7 [MASK] 7 8 10 11 13 12 13 11 15 16 15 14 15 14 13 11 12 13 14 15 16 15 14 15 18 15 16 18 16 18 23
44
54
6
[CLS] [MASK] 5 [MASK] 5 [MASK] 5 [MASK] 5 [MASK] 7 8 9 8 7 4 7 8 9 8 9 10 9 10 9 8 7 8 9 10 9 8 9 8 10 9 10 9 10 8 7 8 9 10 11 15 16 17 16 18 17 16 15 14 15 16 15 11 10 11 10 9 8 9 8 9 8 9 10 9 10 9 8 10 9 8 9 10 11 15 11 12 13 12 13 11 10 8 9 8 9 8 7 4 5 7 [MASK] 5 [MASK] 5 [MASK] 7 5 [MASK] 7 5 4 3 7 [MASK] 5 [MASK] 7 3 7 3 7 5 4 3 7 [MASK] 7 5 4 3 7 4 7 [MASK] 7 3 7 [MASK] 7 5 [MASK] 5 7 5 4 7 8 9 10 9 8 9 10 8 [SEP] [MASK] 7 5 4 3 2 0 2 3 4 7 [MASK] 7 3 2 1 0 2 1 0 1 0 1 2 0 1 0 2 1 2 3 7 3 7 5 [MASK] 5 7 [MASK] 7 4 3 7 [MASK] 7 5 7 3 4 7 8 9 10 11 15 14 13 14 15 18 15 14 13 11 13 12 11 10 11 12 11 12 13 12 13 11 12 11 15 18 15 16 18 19 18 16 17 16 15 14 15 14 13 12 11 12 11 12 11 13 12 11 10 11 10 8 9 10 11 13 14 15 11 10 8 9 10 8 7 4 7 5 [MASK] 7 5 7 4 3 4 7 5 7 [MASK] 5 [MASK] 5 7 5 [MASK] 7 8 10 11 15 14 13 12 11 13
44
55
6
[CLS] [MASK] 5 7 5 [MASK] 5 4 7 8 7 [MASK] 7 [MASK] 7 8 9 10 11 15 18 17 16 18 17 16 18 30 18 15 14 13 14 13 14 15 18 19 18 23 22 23 18 15 16 15 16 17 18 19 20 22 23 18 19 20 19 20 21 20 21 20 19 22 20 21 22 23 18 30 31 30 18 19 18 19 18 17 18 17 18 15 18 30 31 30 18 15 16 17 16 18 16 15 16 17 18 17 18 15 18 15 11 12 11 10 11 12 13 14 13 12 13 12 11 10 11 13 14 13 12 13 11 13 14 13 12 13 14 15 16 18 19 22 21 22 21 22 21 20 22 19 20 22 20 22 19 18 23 24 [SEP] [MASK] 5 7 8 7 [MASK] 5 4 7 4 3 2 1 0 1 0 1 2 3 4 7 8 10 11 12 11 12 11 12 11 12 11 15 18 23 22 21 22 23 24 25 26 24 25 26 27 26 25 24 25 24 26 27 26 24 25 26 24 26 25 24 25 26 29 26 24 25 26 29 28 29 28 27 28 27 26 27 26 27 28 27 28 29 26 27 28 27 28 29 28 29 26 29 30 31 30 18 16 18 23 22 23 22 21 22 23 24 23 18 16 15 14 15 14 13 12 13 11 12 13 11 15 16 18 19 20 19 22 20 19 18 17 18 23 18 15 14 13 12 11 13 12 11 12 11 12 13 11 15
44
56
6
[CLS] [MASK] 5 4 7 [MASK] 7 4 5 [MASK] 5 4 7 8 9 10 11 13 12 13 14 13 14 13 14 15 16 15 11 13 14 15 16 17 18 30 29 26 27 28 29 26 27 26 29 28 27 28 29 26 24 23 22 19 22 23 22 23 24 26 25 24 23 24 26 27 28 27 28 27 28 29 28 27 28 29 30 29 30 18 17 16 18 23 18 23 24 26 24 25 26 27 26 24 25 24 23 24 26 29 30 18 17 18 23 18 17 18 16 18 17 18 19 18 17 16 18 23 24 26 24 23 22 21 20 22 23 18 23 24 25 26 27 26 25 24 25 26 25 24 26 27 28 29 30 29 26 27 26 29 [SEP] [MASK] 5 [MASK] 7 [MASK] 5 7 3 7 8 9 10 9 8 7 4 7 4 7 [MASK] 5 [MASK] 7 [MASK] 5 [MASK] 5 7 4 3 4 5 [MASK] 7 [MASK] 7 [MASK] 7 8 7 8 9 10 11 12 13 12 11 13 11 15 14 13 11 15 14 15 14 15 16 15 14 13 14 13 12 11 12 13 12 13 12 13 11 15 16 18 16 17 18 19 18 17 18 17 18 17 18 30 18 17 16 18 23 24 26 27 28 27 26 27 28 27 26 27 26 29 26 27 26 27 28 27 28 27 26 25 26 25 26 27 26 24 26 25 24 23 24 23 24 26 25 24 26 27 26 27 26 24 25 24 25 26 27 26 27 26 24 25
44
57
6
[CLS] [MASK] 5 4 5 [MASK] 7 4 5 4 5 7 4 3 4 5 [MASK] 7 5 [MASK] 7 8 10 9 8 9 8 7 [MASK] 5 7 4 7 8 9 10 8 7 [MASK] 5 7 5 4 5 7 5 7 [MASK] 5 7 5 4 5 7 5 [MASK] 7 5 4 5 7 3 4 7 3 7 8 7 [MASK] 5 [MASK] 5 4 7 5 4 7 5 7 [MASK] 5 [MASK] 5 [MASK] 5 7 4 3 2 0 1 2 1 0 2 1 0 1 0 1 2 3 7 8 10 9 10 9 10 9 8 9 10 9 8 9 8 9 10 9 10 8 10 9 10 8 9 8 10 9 8 9 10 9 8 7 4 5 4 3 4 5 7 3 2 0 1 0 2 0 [SEP] [MASK] 5 [MASK] 7 8 7 [MASK] 7 4 5 [MASK] 5 [MASK] 7 [MASK] 5 [MASK] 5 4 7 5 4 7 5 [MASK] 5 [MASK] 7 [MASK] 5 4 7 4 3 7 [MASK] 5 7 5 7 3 4 5 [MASK] 7 8 9 10 9 10 9 10 8 7 3 7 5 [MASK] 7 5 7 4 5 4 7 4 5 7 3 2 1 2 1 2 1 0 2 0 1 0 1 0 2 1 2 3 7 [MASK] 7 [MASK] 5 [MASK] 7 [MASK] 5 4 5 [MASK] 5 7 3 7 [MASK] 7 5 4 5 4 5 4 7 8 7 5 [MASK] 5 7 8 10 11 13 12 11 13 11 10 9 10 9 10 9 8 9 8 10 9 8 9 8 10 9 10 8 9 10 9 10 8 9
44
58
6
[CLS] [MASK] 7 4 5 7 [MASK] 5 4 5 [MASK] 7 8 9 10 9 10 9 8 9 10 8 9 8 7 8 7 8 9 10 9 8 7 3 2 1 0 2 3 2 0 2 1 2 1 2 0 2 1 2 3 4 7 [MASK] 5 [MASK] 7 8 10 9 8 7 4 3 2 0 1 2 1 2 0 2 3 2 0 2 0 2 0 2 1 2 0 2 1 0 2 0 2 3 2 3 7 8 9 10 11 13 14 13 11 12 11 15 14 15 18 17 16 17 18 19 22 23 18 19 22 23 24 25 26 27 26 27 26 24 26 27 26 27 26 27 28 29 28 27 26 25 26 25 24 26 25 26 29 26 25 26 27 26 [SEP] [MASK] 5 [MASK] 5 [MASK] 5 [MASK] 7 [MASK] 7 5 [MASK] 5 4 5 4 5 4 3 4 3 7 8 9 10 8 9 8 7 [MASK] 7 8 7 8 10 9 10 9 10 8 7 5 4 7 [MASK] 5 7 5 7 [MASK] 5 4 5 7 [MASK] 5 4 7 [MASK] 7 8 9 10 9 10 9 10 9 8 9 8 7 8 10 9 10 9 10 11 12 11 10 9 10 11 10 9 10 11 15 18 17 18 23 18 17 16 18 16 18 17 18 19 22 21 20 21 22 21 22 19 22 19 22 19 18 15 14 15 14 13 14 13 12 11 10 8 10 11 12 13 14 15 16 15 14 15 11 10 11 10 11 15 16 15 16 15 11 12
44
59
6
[CLS] [MASK] 7 [MASK] 7 [MASK] 7 3 7 4 7 5 [MASK] 5 4 3 2 1 0 1 0 2 3 7 8 10 9 8 7 [MASK] 7 5 [MASK] 7 4 3 4 5 [MASK] 5 [MASK] 5 4 3 4 5 [MASK] 7 8 9 8 7 8 10 11 15 11 13 12 11 10 9 8 9 8 7 3 4 5 7 5 7 5 7 [MASK] 7 4 7 5 [MASK] 7 3 7 5 7 4 7 5 4 5 4 7 3 2 0 2 0 2 1 0 2 0 2 1 2 0 2 1 0 2 0 2 0 2 1 2 1 2 1 2 1 0 2 0 1 0 1 0 2 0 2 0 1 0 2 1 2 3 4 7 5 [MASK] 7 [MASK] 7 [MASK] 5 [MASK] 7 4 [SEP] [MASK] 5 [MASK] 7 [MASK] 7 8 7 3 4 5 [MASK] 5 4 7 [MASK] 5 4 7 8 10 9 10 8 7 8 9 10 9 10 8 9 10 9 10 9 10 8 7 3 2 0 2 1 0 2 0 2 1 0 1 2 3 2 0 1 2 1 0 2 1 2 3 4 3 4 5 [MASK] 5 7 [MASK] 7 [MASK] 5 7 4 5 [MASK] 5 [MASK] 7 3 4 3 2 3 4 3 7 8 9 8 7 8 9 10 8 9 10 9 8 10 9 10 8 7 4 3 7 4 5 [MASK] 5 4 7 8 10 11 10 11 10 11 12 11 13 11 10 11 15 18 17 16 18 23 24 25 24 23 18 15 18 30 31 32 33 53 55 54 55
44
60
6
[CLS] [MASK] 5 7 8 7 8 7 [MASK] 5 7 8 7 8 9 8 10 8 7 4 7 3 7 [MASK] 7 3 4 5 [MASK] 7 3 2 0 1 0 2 0 2 1 2 1 2 0 1 0 1 2 3 2 3 7 8 7 [MASK] 7 4 3 7 3 4 7 4 7 4 3 7 [MASK] 7 5 4 3 7 5 4 7 4 3 7 4 3 4 7 3 4 7 [MASK] 7 5 7 [MASK] 5 [MASK] 5 [MASK] 5 [MASK] 7 3 4 5 [MASK] 5 7 5 7 3 2 1 2 3 2 0 2 3 2 3 7 [MASK] 7 5 4 3 2 3 7 [MASK] 5 [MASK] 7 [MASK] 7 8 7 4 7 4 5 7 [MASK] 7 4 7 5 7 8 9 8 9 10 8 [SEP] [MASK] 5 [MASK] 7 [MASK] 5 7 [MASK] 5 7 3 4 3 7 5 4 3 7 3 7 [MASK] 5 7 [MASK] 7 3 2 3 7 8 7 4 7 [MASK] 5 4 3 2 1 0 1 2 3 2 1 0 1 2 1 0 2 3 2 1 2 1 0 1 0 2 3 2 0 2 1 2 0 2 0 1 2 1 0 2 0 2 0 1 0 1 0 2 0 1 2 3 4 3 4 5 [MASK] 5 7 8 7 8 9 8 7 [MASK] 7 4 3 7 4 5 7 5 4 7 [MASK] 7 8 9 8 9 8 9 10 11 12 11 12 13 12 11 10 9 8 9 10 8 7 [MASK] 7 8 10 8 10 9 8 10 8 9 8 9 8 10 8
44
61
6
[CLS] [MASK] 7 [MASK] 5 7 8 7 4 7 5 [MASK] 7 3 2 1 0 2 0 2 0 1 0 1 2 1 0 2 0 2 1 2 0 1 2 0 1 0 1 0 1 0 1 2 0 1 2 1 0 2 1 0 2 0 1 2 3 2 1 0 1 0 2 3 4 3 4 3 2 0 2 1 0 1 0 2 3 7 3 4 3 4 5 [MASK] 7 5 [MASK] 5 [MASK] 5 4 3 4 7 3 2 1 2 0 2 0 2 1 2 1 0 1 2 1 2 0 1 0 2 0 2 0 1 2 1 2 0 1 2 0 2 1 0 1 0 1 0 1 2 0 1 0 1 0 1 2 0 2 3 7 4 5 4 3 7 [SEP] [MASK] 5 [MASK] 5 [MASK] 5 4 5 4 5 4 7 8 9 10 11 10 8 10 9 8 10 11 15 11 10 8 9 10 8 10 9 8 7 [MASK] 7 8 9 8 9 10 9 8 9 10 11 13 14 13 12 13 12 11 10 11 15 14 13 14 15 16 18 15 14 13 11 12 13 12 11 13 14 13 12 11 12 11 12 13 12 11 13 14 13 14 15 14 13 14 15 14 13 11 12 11 12 13 14 15 11 12 11 12 13 12 13 12 11 10 11 12 13 12 13 11 10 9 10 11 10 8 9 8 10 11 15 11 10 9 8 10 8 10 9 10 11 15 14 13 12 13 12 13 12 11 15 14 13 12
44
62
6
[CLS] [MASK] 7 [MASK] 5 4 7 3 2 1 0 2 3 4 5 4 5 [MASK] 5 [MASK] 7 [MASK] 7 3 7 8 9 8 9 10 11 10 9 10 9 8 9 8 7 5 [MASK] 5 [MASK] 7 3 7 [MASK] 5 [MASK] 7 5 [MASK] 7 5 7 3 4 5 [MASK] 7 8 10 11 10 9 8 9 8 9 8 9 10 11 10 8 9 10 9 10 8 9 8 9 10 8 7 3 2 0 2 1 0 1 0 2 1 2 3 4 5 4 7 5 [MASK] 5 4 7 3 7 3 7 8 10 8 7 [MASK] 7 3 7 3 2 1 2 1 0 2 3 7 [MASK] 5 4 7 5 [MASK] 7 [MASK] 7 [MASK] 5 4 3 4 7 8 9 8 7 8 10 9 [SEP] [MASK] 7 8 9 8 10 11 15 18 15 16 15 18 15 16 17 16 18 23 24 23 24 25 24 25 26 27 26 25 24 23 22 21 22 21 20 22 19 20 21 22 20 22 21 20 22 21 20 22 20 22 20 22 20 21 20 19 22 20 21 20 19 22 19 22 23 18 30 29 26 27 28 29 26 27 26 29 28 29 28 29 30 29 28 27 26 27 28 27 28 27 28 29 28 27 28 29 30 18 16 18 30 31 30 31 32 33 53 33 34 33 35 33 35 36 38 37 36 37 36 37 36 37 36 37 38 36 37 36 37 38 36 37 38 39 35 33 32 33 35 34 35 36 37 36 38 39 38 36
44
63
6
[CLS] [MASK] 5 7 5 7 4 5 [MASK] 5 7 5 [MASK] 5 4 7 5 7 5 7 3 7 5 7 4 7 [MASK] 7 3 7 3 7 4 5 7 5 [MASK] 5 [MASK] 7 3 4 5 4 3 7 [MASK] 5 4 7 8 7 8 10 9 8 10 8 10 8 9 10 9 8 7 4 7 5 4 3 4 5 [MASK] 7 [MASK] 7 3 7 [MASK] 7 3 2 3 2 3 4 7 8 7 [MASK] 5 [MASK] 7 3 4 3 4 5 7 4 3 7 5 4 3 2 0 2 3 7 8 9 10 9 10 8 9 10 11 15 18 17 18 30 31 32 31 30 31 32 31 32 31 32 33 34 35 33 32 31 30 29 28 29 28 29 26 29 30 31 [SEP] [MASK] 7 [MASK] 5 7 8 10 11 12 13 14 15 14 15 14 13 12 13 12 11 12 13 12 13 12 11 13 12 11 13 12 11 15 14 15 14 15 11 13 14 15 14 15 11 13 11 13 14 15 16 17 16 15 18 17 18 15 16 17 18 15 11 12 11 12 13 14 13 12 11 13 14 13 11 10 11 12 13 12 13 11 12 11 12 11 13 14 15 14 15 18 19 22 19 18 17 18 23 24 23 22 21 22 20 22 20 22 23 18 15 14 15 18 23 24 25 26 27 26 29 28 27 28 29 28 27 26 27 26 25 26 25 24 25 26 24 23 22 19 22 20 22 21 20 21 20 21 22 19
44
64
6
[CLS] [MASK] 5 [MASK] 7 [MASK] 7 5 7 [MASK] 5 4 5 7 5 4 7 [MASK] 7 [MASK] 7 3 2 3 2 3 2 0 1 0 2 1 0 2 3 7 8 7 [MASK] 7 5 [MASK] 5 [MASK] 7 5 [MASK] 7 3 4 5 4 7 [MASK] 5 4 3 7 4 7 4 7 5 7 [MASK] 7 [MASK] 5 [MASK] 7 [MASK] 7 8 9 10 8 9 10 8 9 8 7 8 9 8 9 10 8 9 10 9 8 7 [MASK] 5 [MASK] 7 4 3 7 8 10 8 10 8 9 8 9 10 8 10 11 13 12 11 12 11 15 14 15 14 13 11 10 8 9 10 9 10 9 10 11 10 8 9 8 9 10 9 10 9 10 9 8 10 9 10 8 7 [MASK] [SEP] [MASK] 7 5 7 3 4 7 3 4 7 3 4 3 7 3 7 [MASK] 7 8 10 11 12 11 12 11 10 8 10 9 8 7 8 7 3 2 0 2 0 2 0 1 0 1 2 1 2 0 1 0 1 0 2 1 2 1 0 1 2 0 2 0 1 2 0 2 0 1 2 0 1 2 0 2 3 4 7 3 4 7 [MASK] 7 5 [MASK] 7 3 2 1 2 1 0 1 2 0 2 0 2 3 4 7 8 9 10 9 10 11 13 12 13 12 13 14 13 12 13 14 15 14 13 11 12 11 12 13 12 11 10 11 10 11 10 8 7 [MASK] 5 4 3 7 [MASK] 5 [MASK] 7 3 2 1 2 0 1 2 1
44
65
6
[CLS] [MASK] 5 4 7 8 10 8 10 9 8 9 10 11 10 9 8 10 11 12 13 14 13 14 13 12 13 12 13 14 15 14 13 14 15 18 19 18 15 16 17 18 19 20 21 20 19 18 19 18 19 18 17 18 30 31 30 31 32 33 44 33 44 47 45 47 45 47 45 44 47 46 45 44 47 44 47 45 47 46 47 46 47 45 44 47 45 47 44 43 39 40 39 38 37 38 36 37 38 37 38 37 38 39 40 41 40 43 42 43 42 43 42 41 43 42 43 42 43 44 43 42 43 40 43 39 43 40 43 44 45 46 47 45 46 45 47 44 33 44 33 32 33 35 39 35 34 33 34 33 [SEP] [MASK] 7 8 7 3 4 3 2 1 0 1 0 1 0 1 2 0 2 3 4 5 4 3 4 7 [MASK] 7 8 9 8 9 8 9 8 9 8 10 11 15 14 13 14 15 16 17 18 19 20 19 18 17 16 17 16 17 18 17 16 18 19 18 17 16 18 15 11 13 14 15 16 17 18 23 22 21 22 21 20 21 22 21 20 22 23 22 21 22 20 22 20 19 18 16 15 11 10 8 9 10 9 8 7 8 9 10 11 12 11 12 13 14 13 12 13 14 13 12 11 12 13 12 11 13 12 11 12 13 12 13 14 13 12 11 13 14 13 14 13 12 11 10 9 10 11 12 13 12 11 12
44
66
6
[CLS] [MASK] 7 [MASK] 5 [MASK] 5 7 4 3 4 5 [MASK] 7 [MASK] 5 [MASK] 7 8 10 11 12 13 12 13 11 10 11 15 11 15 16 18 16 15 11 12 13 12 13 11 12 11 12 13 11 15 16 17 16 15 18 15 16 15 18 30 18 16 17 16 15 18 16 17 18 15 18 16 17 16 15 14 15 16 17 16 15 14 15 16 18 23 22 21 20 22 21 22 19 18 15 14 15 16 18 19 20 19 22 23 24 25 24 23 24 26 27 26 25 26 29 26 27 26 27 26 24 23 18 30 18 17 16 17 16 17 16 17 18 19 22 20 21 20 19 18 30 18 30 18 30 29 26 24 23 18 23 24 26 [SEP] [MASK] 7 [MASK] 5 [MASK] 7 4 5 7 5 7 [MASK] 7 5 [MASK] 5 [MASK] 7 4 7 [MASK] 7 3 2 3 7 4 3 7 [MASK] 5 [MASK] 7 8 10 9 10 11 10 8 9 10 9 8 7 5 [MASK] 5 [MASK] 7 3 2 0 1 0 2 3 7 3 4 7 8 9 10 8 10 8 9 8 10 8 7 8 10 8 10 8 7 [MASK] 5 [MASK] 5 [MASK] 5 [MASK] 5 [MASK] 7 [MASK] 7 3 7 5 [MASK] 7 3 4 5 7 8 7 3 4 7 [MASK] 5 7 8 10 11 12 13 12 13 11 13 12 13 12 11 10 9 10 9 10 11 15 18 16 15 14 15 11 10 8 10 9 8 9 8 7 3 4 5 7 [MASK] 5 [MASK] 5
44
67
6
[CLS] [MASK] 5 4 3 4 5 [MASK] 7 4 3 4 3 2 0 2 3 4 3 4 5 7 [MASK] 7 4 5 [MASK] 5 [MASK] 7 8 9 10 9 10 9 10 11 13 14 13 12 11 13 12 13 14 13 14 15 14 15 14 15 11 10 9 10 11 12 13 14 13 14 13 12 13 12 13 11 13 11 13 14 13 12 13 12 11 12 13 14 15 18 17 16 17 16 17 18 15 16 17 18 17 18 19 22 21 20 19 20 22 20 22 21 20 22 20 21 20 22 21 22 23 22 20 21 20 21 20 22 21 22 19 20 19 18 17 18 17 16 18 23 24 25 26 25 24 26 25 24 23 22 20 19 20 22 21 20 [SEP] [MASK] 5 [MASK] 7 [MASK] 7 5 4 7 5 [MASK] 5 [MASK] 5 4 7 3 7 8 9 8 9 10 9 8 7 5 7 [MASK] 7 3 2 3 4 3 7 5 [MASK] 5 [MASK] 5 [MASK] 7 [MASK] 5 7 3 7 3 4 5 4 7 5 4 5 4 5 7 5 7 [MASK] 7 5 [MASK] 5 7 8 9 10 9 8 9 10 9 10 8 9 10 11 15 14 15 16 17 18 19 18 30 31 32 31 30 31 30 29 26 27 28 29 28 27 26 27 28 27 26 27 28 27 26 29 30 31 32 31 32 33 44 47 44 43 44 43 41 42 43 44 47 48 47 46 47 48 49 50 49 50 51 52 53 54 55 53 54 53 52 51 48
44
68
6
[CLS] [MASK] 7 4 3 7 5 [MASK] 5 [MASK] 5 [MASK] 5 7 4 5 4 3 2 0 1 0 2 3 2 1 0 2 0 1 0 1 2 0 1 2 3 7 4 3 2 0 2 3 2 1 2 0 1 2 3 4 7 [MASK] 7 3 4 5 4 3 2 0 2 0 2 0 1 2 3 2 0 2 1 0 2 1 2 0 2 1 0 1 2 0 2 0 1 2 0 2 0 2 1 0 1 0 2 1 0 1 0 2 3 2 3 7 [MASK] 7 4 3 7 8 10 9 8 10 11 15 11 10 9 8 9 10 9 8 10 8 9 8 10 8 7 5 7 4 3 2 0 2 0 2 0 2 1 0 1 0 1 2 [SEP] [MASK] 7 8 10 11 10 11 15 14 15 18 19 20 21 22 23 24 25 24 25 26 27 26 29 26 27 26 27 28 27 28 27 28 29 30 29 28 27 26 25 26 25 26 25 24 23 18 19 20 21 22 20 22 19 18 16 18 19 20 22 23 22 21 22 20 21 20 21 22 19 20 19 22 21 20 21 22 21 22 23 18 17 16 15 16 18 23 18 17 18 15 11 12 13 14 13 12 11 12 13 14 15 11 12 13 12 11 13 11 12 11 13 14 15 14 15 18 23 24 26 29 30 29 26 29 28 27 26 25 24 25 26 25 26 29 26 27 28 27 28 27 28 27 28 29 30 29 30 31
44
69
6
[CLS] [MASK] 7 3 4 3 2 1 2 3 7 [MASK] 7 8 10 9 8 7 5 4 7 4 7 3 2 0 2 0 2 3 2 1 0 2 1 2 1 2 0 2 1 2 1 0 1 0 2 1 0 1 2 0 1 0 1 0 1 0 2 1 0 1 2 0 2 3 7 4 3 4 5 7 [MASK] 5 4 7 4 7 [MASK] 7 [MASK] 7 [MASK] 5 7 4 3 2 1 2 3 2 0 2 0 2 0 2 1 2 1 2 3 7 3 4 5 7 4 5 [MASK] 5 7 8 7 5 4 7 3 4 5 7 8 7 3 4 3 2 1 0 1 2 1 2 1 2 1 2 1 0 2 0 2 0 1 2 0 2 3 4 [SEP] [MASK] 7 4 7 5 7 3 4 3 4 5 7 8 9 10 8 10 11 10 11 13 12 13 12 13 12 13 12 11 15 14 15 18 17 18 23 24 26 24 25 24 25 24 25 24 25 26 25 24 26 27 28 29 28 27 26 29 30 29 26 25 26 24 23 18 30 18 17 18 17 18 15 14 15 11 15 18 30 18 19 20 22 19 22 20 22 20 22 23 24 25 26 25 26 25 24 26 27 28 29 30 18 16 15 14 15 18 19 18 15 14 13 12 11 10 9 8 7 [MASK] 7 8 7 4 7 [MASK] 7 4 5 4 7 8 9 10 8 9 8 10 8 9 10 11 10 11 12 11 10 8 7 8
44
70
6
[CLS] [MASK] 7 8 9 8 10 11 10 9 8 7 8 9 8 9 8 9 8 10 11 13 14 13 12 13 14 15 14 15 14 15 16 18 23 24 23 24 26 27 28 29 26 25 24 25 24 25 24 23 18 17 18 23 24 26 29 28 29 30 31 30 29 30 29 26 25 24 23 24 26 27 26 27 26 27 28 27 26 27 26 29 30 29 30 18 15 14 15 14 13 12 13 12 13 12 11 13 12 11 12 13 11 12 13 14 13 14 13 11 13 14 15 18 16 18 15 14 15 11 15 16 15 11 13 11 15 11 10 9 8 9 10 9 8 7 4 7 [MASK] 5 [MASK] 7 5 [MASK] 5 [MASK] 7 3 2 0 [SEP] [MASK] 7 [MASK] 5 [MASK] 5 [MASK] 7 8 9 8 9 10 11 10 8 9 8 7 4 5 7 3 2 1 2 1 0 1 0 2 0 2 3 7 [MASK] 7 8 7 5 [MASK] 5 [MASK] 7 5 4 3 7 5 [MASK] 7 5 4 5 7 4 3 7 5 [MASK] 5 7 3 2 3 2 3 7 [MASK] 5 [MASK] 5 [MASK] 7 5 [MASK] 5 4 5 [MASK] 5 [MASK] 7 [MASK] 5 [MASK] 7 8 10 9 8 9 10 11 12 13 12 11 12 11 12 13 12 13 11 15 14 13 14 13 14 15 14 13 12 13 11 15 14 13 11 13 14 13 12 13 12 13 14 13 14 13 12 13 11 13 14 13 12 13 14 13 12 11 10 9 10 11 12
44
71
6
[CLS] [MASK] 7 3 7 4 5 4 3 2 3 7 [MASK] 7 8 10 9 10 11 13 12 11 13 11 13 12 13 14 13 12 13 11 12 11 15 16 15 18 30 31 30 31 30 18 19 18 16 15 11 15 14 13 11 15 16 15 14 13 14 13 11 12 13 14 15 14 13 12 13 12 11 15 16 17 18 15 14 15 18 17 18 16 18 17 16 15 16 18 17 16 17 16 18 16 18 30 29 28 27 28 27 26 24 23 18 30 18 16 18 17 16 18 17 16 18 17 18 19 22 23 24 26 24 25 26 25 24 25 26 29 30 31 32 31 30 18 15 11 15 11 10 9 8 9 10 9 8 9 8 10 [SEP] [MASK] 7 4 5 7 [MASK] 5 7 5 [MASK] 5 4 7 [MASK] 5 [MASK] 5 [MASK] 5 4 5 7 5 [MASK] 7 4 5 7 5 7 8 9 10 9 10 9 10 11 12 13 12 13 11 12 13 14 13 11 13 11 10 8 7 4 5 7 4 7 4 5 [MASK] 5 4 5 [MASK] 7 8 9 10 9 10 11 15 16 17 16 17 18 19 22 19 20 19 22 21 22 20 21 22 21 20 19 20 21 22 23 22 20 21 22 21 20 21 22 20 21 22 21 22 23 24 26 27 28 27 26 25 24 23 22 23 18 23 18 16 17 16 18 16 18 19 20 21 22 19 22 19 22 21 22 23 18 17 16 17 18 19 18 17
44
72
6
[CLS] [MASK] 7 8 9 8 9 10 11 13 14 15 14 15 18 17 18 16 18 19 20 21 22 20 19 20 21 20 22 20 21 22 19 22 23 24 26 25 24 26 25 26 27 26 25 24 25 26 27 28 27 28 27 28 27 26 25 24 23 22 21 20 21 22 21 22 23 24 26 27 26 25 26 27 26 27 28 27 26 25 26 27 28 29 28 27 28 29 28 27 26 29 30 31 32 31 30 31 30 29 28 27 28 27 26 27 28 29 30 29 26 25 24 26 24 25 24 23 24 23 22 23 18 17 16 17 18 30 31 30 31 32 33 44 43 42 41 42 41 43 40 39 38 39 38 39 38 39 43 44 [SEP] [MASK] 7 3 2 1 0 1 2 0 1 2 3 2 0 1 0 1 0 1 0 2 0 1 2 0 1 0 1 0 1 0 1 0 1 2 1 2 0 1 0 1 2 0 2 3 7 5 [MASK] 7 3 2 0 2 0 1 0 2 0 1 2 1 0 2 1 0 2 1 0 1 0 1 0 2 1 0 1 2 0 1 2 0 1 2 0 2 0 1 2 0 1 2 1 0 1 2 1 2 1 2 1 0 2 1 2 1 2 3 7 [MASK] 7 8 10 8 10 11 12 11 12 13 12 11 12 13 12 11 10 11 10 9 8 9 8 10 9 10 9 8 9 8 10 9 10 8 9 10 11 12 13 14
44
73
6
[CLS] [MASK] 5 4 7 4 7 [MASK] 7 4 3 2 0 1 0 1 0 1 2 0 2 3 2 0 1 0 2 3 4 3 4 7 3 2 3 4 7 8 7 4 3 2 0 2 1 0 1 0 2 3 7 [MASK] 5 4 7 5 4 3 2 0 2 1 2 3 7 [MASK] 7 3 2 0 1 2 1 2 0 2 3 7 3 2 1 2 0 1 0 1 0 1 0 1 0 1 0 1 0 2 0 2 1 2 1 2 0 1 2 0 2 3 2 3 7 [MASK] 5 [MASK] 5 4 3 4 7 5 [MASK] 5 7 3 2 3 7 8 7 4 7 4 7 5 4 3 2 1 0 2 0 1 0 2 3 4 7 3 7 4 [SEP] [MASK] 7 5 4 7 [MASK] 5 4 7 [MASK] 7 5 7 4 5 7 [MASK] 7 3 7 [MASK] 5 [MASK] 5 7 8 7 4 5 7 [MASK] 5 4 7 [MASK] 5 [MASK] 7 [MASK] 7 [MASK] 7 8 9 10 9 8 9 10 11 13 11 10 8 9 8 7 [MASK] 7 4 3 4 3 7 4 7 8 7 [MASK] 5 [MASK] 7 8 10 9 10 8 7 3 4 5 7 [MASK] 5 4 3 4 7 4 7 4 7 4 7 [MASK] 7 4 5 7 3 2 0 1 2 3 7 [MASK] 5 [MASK] 7 3 4 5 [MASK] 5 4 7 3 7 8 9 10 9 8 9 8 10 11 15 16 18 17 16 15 16 15 14 15 11 12 13 12 11 13 14 13 11 10 8
44
74
6
[CLS] [MASK] 7 4 7 4 5 7 8 10 9 10 8 10 9 10 11 12 13 11 10 8 7 8 9 8 7 8 10 9 8 9 10 11 12 11 13 12 13 14 15 14 15 14 15 18 23 18 19 18 30 18 30 29 28 29 28 29 28 27 26 27 26 29 30 31 30 18 30 18 17 16 17 16 18 19 22 19 18 17 16 15 14 15 14 15 14 13 11 13 11 10 8 7 4 7 4 3 2 0 2 1 0 1 0 1 0 2 1 2 1 0 2 0 2 0 1 2 1 2 1 2 3 2 3 4 5 [MASK] 7 4 5 7 [MASK] 5 [MASK] 5 4 5 [MASK] 7 [MASK] 5 4 7 8 9 8 10 9 10 [SEP] [MASK] 5 [MASK] 7 3 2 1 2 1 2 1 2 1 0 2 0 1 2 0 1 2 0 2 0 1 2 0 1 0 1 0 1 2 1 2 3 4 5 7 [MASK] 5 7 3 2 1 0 1 2 3 4 5 [MASK] 7 8 9 8 9 8 9 10 8 7 3 7 [MASK] 7 3 7 5 [MASK] 7 4 5 4 3 4 7 8 10 9 8 7 3 4 5 [MASK] 5 [MASK] 7 3 2 1 0 1 2 0 1 2 1 0 2 0 1 2 0 1 0 1 0 2 3 4 3 7 [MASK] 7 4 3 7 [MASK] 7 8 9 8 7 [MASK] 5 [MASK] 5 4 5 [MASK] 7 3 2 3 4 5 [MASK] 5 [MASK] 5 4 7 3 4 7 5 4
44
75
6
[CLS] [MASK] 5 [MASK] 5 4 3 7 8 9 8 9 8 9 10 9 8 10 9 10 9 10 11 12 11 12 13 12 13 12 11 12 11 13 14 13 14 13 12 13 14 13 14 13 12 11 15 18 16 17 18 17 16 15 11 13 12 11 10 8 7 3 7 [MASK] 7 8 10 11 13 14 15 14 13 11 10 8 10 9 8 10 9 8 10 11 10 11 10 11 13 11 10 8 7 4 7 3 2 1 2 1 0 2 3 4 3 2 3 4 7 [MASK] 7 5 4 5 7 8 7 3 4 5 4 3 7 4 7 8 7 [MASK] 7 [MASK] 5 [MASK] 5 [MASK] 5 7 3 4 7 4 5 [MASK] 7 [MASK] 7 4 7 4 3 4 [SEP] [MASK] 7 8 9 10 9 8 7 3 4 7 5 7 [MASK] 5 4 5 4 3 4 3 2 0 2 1 2 3 4 5 [MASK] 7 5 4 3 2 1 0 2 1 2 0 2 3 7 [MASK] 7 8 9 8 9 10 9 8 9 10 9 10 8 10 9 8 10 9 8 7 8 9 8 9 8 7 3 2 3 2 1 0 1 2 0 1 0 1 2 3 7 [MASK] 5 7 3 2 0 2 0 1 2 0 1 2 0 2 3 4 5 [MASK] 7 [MASK] 5 7 8 9 8 9 8 9 10 11 13 14 13 14 15 11 13 11 12 13 12 11 10 8 7 [MASK] 5 7 [MASK] 5 7 8 9 8 9 10 9 10 8 10 9 8
44
76
6
[CLS] [MASK] 5 [MASK] 5 [MASK] 5 4 5 [MASK] 7 5 4 3 2 1 0 2 0 2 0 1 0 1 2 1 0 2 3 7 5 [MASK] 7 4 5 [MASK] 5 7 3 4 7 5 7 8 9 10 11 12 13 14 15 18 15 14 13 12 13 12 11 13 12 11 13 12 13 12 11 10 9 10 11 13 12 13 11 12 13 12 11 13 12 13 14 15 14 15 14 15 18 17 16 17 16 18 23 22 21 20 21 20 19 20 21 22 21 22 23 24 26 24 26 27 28 27 28 27 26 25 26 29 26 27 26 27 26 25 24 25 26 25 24 25 26 27 28 27 26 25 24 26 29 30 29 28 27 28 29 28 29 30 [SEP] [MASK] 7 [MASK] 7 5 7 3 4 3 4 3 2 0 1 0 1 0 1 2 1 0 1 0 1 0 1 2 0 2 3 4 3 4 3 2 0 1 2 1 2 3 7 [MASK] 5 7 4 7 5 [MASK] 5 4 3 2 0 1 2 3 7 [MASK] 5 4 5 4 3 7 [MASK] 7 3 7 8 9 8 9 8 10 11 12 13 11 15 11 12 11 13 11 12 13 12 11 12 11 13 11 10 8 7 3 7 3 2 0 1 0 2 3 7 4 7 [MASK] 7 [MASK] 5 4 7 8 7 5 4 3 7 [MASK] 7 3 2 0 1 2 0 2 0 2 0 2 1 0 1 2 0 1 2 0 1 2 0 2 0 1 0 2
44
77
6
[CLS] [MASK] 5 4 7 3 2 0 2 1 2 3 4 3 7 5 [MASK] 7 5 [MASK] 7 3 4 5 [MASK] 7 3 4 3 4 3 7 [MASK] 7 4 3 2 0 2 0 2 1 2 0 1 2 3 2 0 1 0 2 0 2 0 2 1 2 3 7 3 2 0 2 1 0 1 2 0 2 0 1 0 2 1 0 1 0 2 1 2 0 2 1 0 2 1 0 2 1 0 1 0 2 0 1 0 2 1 0 2 0 2 1 2 0 2 0 2 1 2 3 7 8 9 8 9 8 9 10 9 10 8 9 10 9 8 9 8 9 10 9 8 10 8 9 10 11 12 13 14 13 12 13 12 11 15 11 12 11 [SEP] [MASK] 7 [MASK] 5 4 3 4 3 7 [MASK] 5 [MASK] 5 7 [MASK] 7 [MASK] 5 [MASK] 5 [MASK] 7 [MASK] 5 4 5 4 3 7 4 3 7 8 9 8 10 8 9 10 9 8 10 9 10 11 15 14 15 14 15 16 17 16 17 18 30 18 19 20 19 20 22 20 22 20 19 18 23 18 16 18 19 20 19 22 21 22 23 18 15 16 18 17 18 19 18 17 18 23 18 17 16 17 16 17 18 23 18 30 31 30 18 15 11 10 8 10 11 12 13 14 15 11 13 11 12 11 15 16 17 16 17 16 17 16 15 18 23 24 25 26 24 26 27 26 25 24 25 26 25 24 23 18 19 22 20 22 19 18
44
78
6
[CLS] [MASK] 7 5 4 5 4 7 4 3 7 [MASK] 5 7 4 5 4 3 4 7 [MASK] 7 4 3 7 5 4 7 8 7 [MASK] 7 4 5 [MASK] 5 7 4 3 7 [MASK] 5 7 [MASK] 5 4 3 4 3 4 5 7 5 7 3 4 7 [MASK] 7 3 4 5 7 8 7 [MASK] 5 [MASK] 5 [MASK] 5 4 5 4 7 5 [MASK] 7 5 4 5 4 3 4 3 4 3 7 [MASK] 5 [MASK] 5 7 8 7 8 10 9 8 10 9 8 9 10 8 9 8 10 11 13 14 13 12 11 15 18 23 24 25 26 25 24 25 24 26 25 24 23 22 23 22 20 21 22 21 22 20 19 18 17 16 17 16 15 16 17 18 17 18 19 [SEP] [MASK] 5 [MASK] 7 5 7 3 7 4 7 8 10 9 10 8 7 4 3 2 3 4 3 2 1 0 1 2 1 0 2 0 1 0 2 1 2 1 0 2 0 1 0 2 0 1 2 0 1 0 2 3 2 3 7 [MASK] 7 4 5 7 [MASK] 5 4 7 [MASK] 5 7 4 3 7 [MASK] 5 7 [MASK] 5 [MASK] 7 [MASK] 5 7 4 7 [MASK] 5 4 5 7 4 7 3 2 0 1 0 2 3 7 5 4 7 [MASK] 5 [MASK] 7 [MASK] 5 4 3 7 [MASK] 7 [MASK] 5 4 7 [MASK] 5 [MASK] 5 7 3 7 5 7 3 7 5 7 [MASK] 5 [MASK] 7 [MASK] 5 [MASK] 7 5 4 5 [MASK] 5 7 8 7 [MASK] 7 [MASK] 7 [MASK] 5
44
79
6
[CLS] [MASK] 7 [MASK] 5 7 4 7 5 4 7 5 7 8 9 10 9 8 7 8 10 11 12 13 11 13 12 13 14 15 14 13 11 10 11 12 11 13 12 11 10 9 8 10 11 12 13 12 11 12 13 12 11 12 11 15 14 15 14 15 16 18 23 24 26 25 26 29 28 27 28 29 28 29 26 25 24 25 26 25 26 27 28 29 30 18 17 16 18 19 22 20 19 22 23 24 26 25 26 24 23 24 26 25 24 26 29 28 27 28 27 26 24 25 26 25 26 24 25 26 27 28 27 28 29 28 27 26 29 28 29 26 24 25 24 26 29 28 27 28 27 28 27 28 27 28 27 26 24 25 [SEP] [MASK] 5 4 3 7 4 3 4 5 7 3 2 0 1 2 1 0 1 0 2 3 7 [MASK] 7 4 7 5 [MASK] 5 [MASK] 7 3 2 1 2 3 2 1 0 2 1 2 1 2 0 1 0 1 2 0 1 0 2 0 2 0 2 0 1 0 1 2 0 1 0 1 2 3 4 5 [MASK] 7 4 7 [MASK] 5 7 3 2 0 1 0 2 1 2 0 2 1 2 1 0 2 1 0 2 3 7 8 9 10 9 8 7 5 [MASK] 7 [MASK] 7 3 4 7 3 7 5 7 3 2 1 0 1 0 1 0 1 0 1 2 1 2 1 2 1 2 0 1 0 1 0 2 0 2 0 1 2 0 2 0 1 0
44
80
6
[CLS] [MASK] 7 3 4 7 3 4 7 8 9 8 7 3 7 8 10 9 10 8 10 11 12 13 14 13 14 13 14 13 11 15 16 18 15 16 17 16 17 18 17 16 15 14 13 11 13 11 13 12 13 11 15 11 12 13 12 13 11 13 12 11 13 12 13 11 13 12 11 12 11 13 14 15 14 15 14 13 12 11 15 14 13 14 15 14 13 14 15 16 17 18 17 18 23 24 23 22 21 20 19 18 23 18 15 14 15 14 13 11 12 13 11 12 13 14 13 11 12 13 12 11 12 11 10 11 12 11 12 13 12 13 11 12 13 12 13 11 13 11 13 12 11 15 14 15 18 16 17 16 [SEP] [MASK] 7 [MASK] 7 3 7 5 4 7 5 [MASK] 5 [MASK] 5 [MASK] 7 [MASK] 5 4 7 3 4 7 3 7 4 5 [MASK] 7 8 10 8 9 10 9 8 9 8 10 9 10 8 9 8 9 8 7 [MASK] 7 4 5 7 3 4 3 7 3 2 0 1 0 1 0 2 0 1 0 2 1 0 1 2 0 1 0 1 2 1 2 1 2 0 1 2 0 2 0 2 3 2 0 1 2 3 2 0 1 2 3 4 7 8 10 11 15 18 23 18 23 24 26 27 26 27 26 25 26 27 28 29 26 25 26 29 30 31 32 33 35 34 33 53 54 55 54 53 55 54 53 55 53 54 55 56 57 58 56 57 58
44
81
6
[CLS] [MASK] 5 4 3 4 7 5 7 4 5 4 3 4 7 4 3 7 8 7 8 7 4 5 4 5 4 5 [MASK] 5 [MASK] 7 3 4 7 5 4 3 7 8 9 10 8 7 5 4 5 [MASK] 7 4 3 4 5 7 3 2 3 7 3 7 8 7 3 2 1 0 1 2 0 1 0 2 1 0 1 0 1 2 0 1 2 0 1 2 1 2 0 1 2 3 7 8 10 11 10 8 10 11 10 8 10 8 7 4 7 3 2 1 0 1 2 1 2 1 0 2 3 2 1 0 2 1 0 1 0 1 0 2 3 4 5 [MASK] 7 4 7 5 4 7 8 9 8 9 10 8 9 8 10 9 10 9 [SEP] [MASK] 7 3 2 1 0 2 1 0 1 0 2 3 2 0 2 3 2 1 0 2 0 1 0 1 2 3 4 3 4 7 4 3 2 3 2 1 0 2 1 2 1 2 1 0 2 1 0 2 1 0 2 1 2 1 0 2 0 1 2 1 0 1 0 2 1 2 1 2 1 0 2 0 1 2 1 0 2 1 0 1 0 1 2 0 1 0 2 3 7 3 2 0 1 2 3 4 7 8 7 8 9 10 11 15 11 12 11 10 9 10 8 7 [MASK] 5 7 8 9 8 7 5 [MASK] 5 [MASK] 7 5 [MASK] 7 3 4 5 [MASK] 5 [MASK] 7 [MASK] 7 [MASK] 7 5 [MASK] 7 5 4 5 [MASK] 7 4 3
44
82
6
[CLS] [MASK] 7 3 4 5 [MASK] 5 7 3 7 3 4 7 8 10 9 10 11 12 11 12 11 15 16 17 18 30 29 26 25 26 24 25 26 27 26 24 26 27 26 25 26 29 28 27 28 27 26 24 25 26 29 30 29 26 29 28 29 26 29 26 25 26 29 28 27 26 29 30 18 16 18 17 16 17 16 17 18 30 31 32 31 30 31 30 31 32 31 32 31 32 31 32 33 32 31 32 31 30 18 15 16 18 15 18 17 16 18 30 31 30 29 26 29 30 31 30 29 28 29 28 29 28 27 26 27 28 27 26 27 26 27 28 27 28 27 28 27 28 29 26 25 24 26 24 23 24 25 26 [SEP] [MASK] 7 8 10 11 15 14 15 14 13 12 11 10 9 10 8 10 11 13 14 15 11 13 12 13 12 13 12 11 12 13 12 11 10 8 9 10 9 10 8 9 10 11 12 13 12 11 13 14 13 11 15 14 13 11 15 11 15 11 10 11 13 14 13 14 15 18 19 22 19 22 20 19 22 20 19 18 19 20 22 20 19 22 23 24 23 18 23 24 25 26 24 23 18 17 16 17 18 15 14 13 14 15 18 17 18 23 22 23 18 15 16 18 19 22 21 22 23 18 15 18 30 18 17 18 19 18 17 18 15 16 18 15 14 15 14 15 18 17 18 17 18 30 29 28 29 28 27 26
44
83
6
[CLS] [MASK] 7 3 2 3 2 0 2 3 7 5 4 5 7 5 7 5 7 8 9 10 11 12 11 15 18 17 18 19 20 22 20 21 22 23 24 23 24 25 26 24 25 26 25 26 27 28 29 26 29 28 29 28 29 28 29 26 27 28 27 28 27 28 27 26 29 26 24 25 26 24 23 24 25 24 23 18 19 18 16 17 16 15 18 17 16 15 11 12 13 12 13 14 15 14 15 16 15 14 15 14 13 14 13 11 10 11 12 11 13 14 13 14 13 14 13 12 13 14 13 11 12 13 14 15 14 15 16 15 14 13 12 13 14 15 14 13 14 13 14 13 14 15 14 15 18 16 18 30 [SEP] [MASK] 5 7 [MASK] 5 [MASK] 7 5 4 5 4 5 4 3 7 3 2 0 1 2 3 2 3 4 3 2 3 4 7 [MASK] 7 3 2 0 2 0 2 1 2 1 2 1 0 2 3 4 7 8 9 10 11 10 8 10 11 13 14 13 11 15 18 17 16 18 17 18 23 22 21 20 19 22 23 22 20 21 20 21 22 19 22 20 19 18 17 18 17 18 19 18 17 16 18 23 24 26 24 25 24 25 26 24 25 26 25 24 23 18 17 16 15 18 17 16 17 16 15 14 13 14 15 11 10 8 7 8 7 5 [MASK] 7 4 7 [MASK] 5 [MASK] 7 [MASK] 7 [MASK] 7 8 9 10 11 10 11 12 11 10
44
84
6
[CLS] [MASK] 7 5 7 [MASK] 7 5 4 3 2 0 1 0 1 0 2 0 1 2 0 2 1 0 1 2 3 2 0 1 0 2 1 0 2 3 2 0 1 2 1 0 1 0 2 0 2 0 2 1 2 1 2 3 4 5 7 [MASK] 7 [MASK] 7 3 2 1 2 0 1 2 1 2 0 2 3 7 [MASK] 7 5 [MASK] 7 4 5 [MASK] 5 [MASK] 5 4 5 4 7 [MASK] 5 7 3 4 3 2 1 0 2 1 0 2 1 2 0 1 0 2 1 2 1 0 2 3 7 5 7 3 2 0 1 2 1 2 3 2 1 2 3 2 3 4 3 4 5 7 8 9 10 8 9 10 11 13 14 15 18 30 29 26 [SEP] [MASK] 5 [MASK] 5 [MASK] 5 [MASK] 7 8 9 10 9 10 9 8 9 8 10 11 15 14 13 14 13 14 15 16 15 16 15 11 10 8 9 10 9 10 8 10 11 15 11 15 16 17 18 16 18 15 11 12 13 12 11 12 13 14 15 14 15 11 10 9 8 7 5 [MASK] 5 7 8 7 4 5 [MASK] 5 [MASK] 7 8 10 11 10 8 9 8 10 11 12 13 11 13 14 15 14 15 14 13 12 13 12 11 12 11 15 16 18 17 18 17 16 18 17 18 30 31 30 29 30 18 23 22 20 21 22 23 22 21 20 21 22 23 22 19 22 19 20 21 22 20 22 21 20 19 22 21 20 21 22 20 19
44
85
6
[CLS] [MASK] 7 3 2 3 4 3 2 1 2 1 2 0 2 0 1 2 1 0 1 2 3 4 7 3 4 5 4 7 8 7 8 10 11 10 8 9 8 9 8 9 10 9 8 7 4 7 [MASK] 7 [MASK] 7 4 5 4 5 7 3 7 [MASK] 5 4 3 7 5 4 3 2 1 0 2 3 7 4 5 4 5 7 [MASK] 7 3 2 0 1 2 1 2 1 0 2 0 1 2 0 1 0 1 2 0 2 0 1 0 2 3 7 3 4 3 4 5 7 5 [MASK] 7 8 7 [MASK] 7 8 7 [MASK] 7 8 7 8 10 9 10 11 13 12 13 14 13 11 15 11 13 14 15 11 10 11 13 11 13 14 13 14 [SEP] [MASK] 5 [MASK] 5 7 3 4 5 7 4 7 5 [MASK] 7 [MASK] 5 [MASK] 7 3 4 3 7 [MASK] 7 8 9 10 11 15 16 18 15 16 15 16 15 18 19 22 21 20 22 19 20 22 19 22 19 18 15 18 23 22 21 20 22 21 20 21 20 21 22 21 22 23 24 25 26 25 26 24 25 26 25 26 29 26 25 26 27 26 24 26 29 28 27 28 29 26 25 26 24 26 27 28 29 28 27 26 25 26 25 26 24 26 29 26 25 26 27 26 27 26 25 26 24 26 25 26 29 26 27 28 29 30 29 30 18 17 18 17 18 16 17 18 17 18 23 22 21 22 21 22 21 20 21 20 22 19
44
86
6
[CLS] [MASK] 5 7 [MASK] 7 [MASK] 7 8 7 8 7 5 [MASK] 7 4 7 8 10 9 10 8 7 5 7 5 4 3 4 7 8 7 3 2 1 2 3 7 [MASK] 5 [MASK] 5 [MASK] 7 5 [MASK] 7 3 4 7 [MASK] 7 3 7 4 3 7 [MASK] 5 7 [MASK] 7 5 [MASK] 7 [MASK] 7 3 7 3 4 5 4 5 [MASK] 7 4 3 7 5 [MASK] 7 4 3 4 7 [MASK] 7 [MASK] 5 4 3 2 1 2 1 0 2 3 4 7 3 4 3 7 3 4 5 7 [MASK] 5 4 3 7 8 10 8 10 8 9 10 11 12 13 12 13 14 13 12 13 14 15 16 15 16 15 14 15 11 13 12 13 12 11 12 11 10 11 12 13 [SEP] [MASK] 5 [MASK] 5 7 5 [MASK] 5 7 4 3 4 5 7 3 4 7 5 4 7 [MASK] 5 [MASK] 5 [MASK] 7 5 [MASK] 5 7 [MASK] 7 8 7 8 9 8 10 11 12 13 12 11 10 9 10 8 10 11 10 9 8 10 9 8 9 8 9 8 9 10 8 10 9 8 9 8 7 3 7 [MASK] 5 4 7 [MASK] 5 [MASK] 5 7 5 [MASK] 7 8 7 5 [MASK] 7 8 10 9 8 9 8 7 4 5 7 5 7 4 7 4 7 3 7 [MASK] 5 4 7 [MASK] 5 [MASK] 5 [MASK] 7 [MASK] 5 7 8 9 10 9 10 9 10 9 8 10 8 9 10 8 9 8 7 5 4 5 4 7 4 3 7 4 5 7 4 7 4
44
87
6
[CLS] [MASK] 5 7 5 7 8 7 5 [MASK] 5 [MASK] 7 [MASK] 7 [MASK] 5 [MASK] 7 5 7 8 10 8 9 8 9 8 9 8 7 3 2 3 7 4 7 [MASK] 5 7 3 2 1 2 1 0 2 0 2 0 2 1 0 1 0 2 3 7 5 7 [MASK] 7 3 4 3 7 3 2 1 2 1 0 1 2 0 2 3 7 5 [MASK] 7 8 10 9 10 9 10 8 9 10 11 15 14 13 12 11 12 11 12 11 12 11 10 8 9 10 11 13 14 15 18 23 18 23 18 16 15 18 30 29 28 27 26 25 24 23 18 16 15 11 10 11 12 11 15 14 15 18 19 18 16 15 11 13 12 11 10 9 8 9 [SEP] [MASK] 7 5 4 3 2 0 1 0 2 3 7 [MASK] 5 [MASK] 5 7 8 10 9 10 9 8 7 5 4 7 8 7 [MASK] 5 [MASK] 5 [MASK] 7 5 [MASK] 5 7 3 2 3 7 4 7 8 7 5 4 5 [MASK] 7 4 7 5 7 8 9 8 7 5 [MASK] 7 [MASK] 7 [MASK] 5 [MASK] 7 3 4 3 7 3 2 1 2 0 1 2 3 7 3 7 4 7 4 3 7 4 7 5 4 3 2 3 2 3 2 0 1 0 2 1 0 2 1 0 1 2 1 2 3 7 5 7 4 5 4 3 4 5 [MASK] 7 5 4 7 4 3 7 3 4 3 7 5 7 [MASK] 5 [MASK] 7 5 7 4 3 7 [MASK] 7 4 3
44
88
6
[CLS] [MASK] 7 3 4 7 3 7 8 10 9 8 10 9 10 11 13 11 10 9 10 9 8 10 9 8 7 [MASK] 5 4 7 4 3 7 5 7 4 7 5 [MASK] 7 5 7 [MASK] 7 8 7 4 3 7 [MASK] 7 [MASK] 5 4 5 [MASK] 7 5 [MASK] 5 7 4 7 5 4 5 4 7 [MASK] 7 5 4 5 4 7 5 4 5 7 8 7 3 7 4 7 [MASK] 7 3 4 7 3 2 1 0 1 2 1 0 2 3 2 3 4 7 5 [MASK] 5 7 4 5 4 3 4 3 7 3 7 5 7 8 10 11 12 13 12 11 12 11 12 11 10 11 10 8 9 8 9 8 9 8 9 8 10 8 7 4 5 4 7 [SEP] [MASK] 5 7 3 7 8 10 8 10 8 9 8 10 8 10 11 12 11 10 11 15 11 10 8 9 10 9 8 9 8 9 8 9 10 8 7 8 10 9 8 9 10 11 12 13 11 10 8 10 8 10 9 10 9 10 8 10 9 8 9 10 8 10 9 8 9 10 9 10 9 10 9 10 11 10 9 10 9 8 7 8 9 10 11 15 18 23 18 23 18 15 18 23 22 21 20 21 22 21 20 21 22 19 20 19 22 23 18 30 29 28 29 30 18 23 18 23 22 23 18 30 31 30 29 30 31 30 18 15 14 13 14 15 14 15 18 17 18 16 17 16 17 16 17 16 15 16 17 16
44
89
6
[CLS] [MASK] 5 4 5 [MASK] 5 7 4 5 4 5 [MASK] 5 [MASK] 5 4 5 [MASK] 7 4 3 4 3 2 0 2 1 2 3 7 8 9 10 9 10 9 8 9 8 7 3 7 [MASK] 7 4 7 [MASK] 7 4 5 [MASK] 7 4 3 4 7 3 7 5 [MASK] 5 4 7 4 7 8 9 10 9 10 11 10 8 9 8 9 10 8 9 10 9 8 9 8 7 3 7 4 7 5 4 3 2 3 4 7 5 7 5 4 5 4 3 7 8 9 10 8 7 [MASK] 7 [MASK] 7 [MASK] 5 [MASK] 7 5 [MASK] 5 4 3 2 1 0 1 2 1 0 2 1 0 1 0 2 3 2 1 0 2 0 1 2 3 2 1 2 0 2 [SEP] [MASK] 5 4 5 [MASK] 7 [MASK] 5 [MASK] 5 [MASK] 7 3 2 0 1 2 0 1 0 2 1 2 1 0 1 2 1 2 1 0 2 1 2 0 1 0 1 2 1 0 2 1 2 0 2 3 2 1 0 2 0 1 2 0 2 1 2 0 2 1 0 2 3 2 0 2 1 2 0 1 2 1 0 2 0 1 2 1 2 1 0 1 2 1 2 1 2 3 7 3 2 0 1 2 3 7 [MASK] 7 3 7 5 7 8 10 9 10 9 10 11 15 18 23 24 26 25 26 24 23 18 17 18 16 17 18 17 16 15 14 13 14 15 18 15 18 17 18 23 18 15 11 10 9 10 9 8 10 11 12
44
90
6
[CLS] [MASK] 7 3 4 7 8 10 9 8 9 10 11 10 11 13 14 15 11 13 12 13 12 13 11 10 11 12 11 10 11 15 14 15 11 10 8 10 8 9 8 7 [MASK] 7 [MASK] 7 4 7 4 5 4 7 [MASK] 5 [MASK] 5 7 5 [MASK] 7 5 4 5 [MASK] 5 4 7 [MASK] 5 7 [MASK] 7 4 5 7 5 4 3 7 8 10 9 10 11 12 11 12 11 10 9 10 9 8 9 8 7 3 4 5 7 4 3 7 5 7 [MASK] 5 4 5 7 3 2 0 1 0 2 3 7 4 7 8 7 [MASK] 7 [MASK] 5 7 [MASK] 7 4 5 4 7 [MASK] 5 7 3 7 [MASK] 5 7 3 2 1 0 2 1 0 2 3 [SEP] [MASK] 7 5 7 3 4 7 3 7 [MASK] 7 8 9 10 9 10 9 10 8 9 10 11 15 18 23 24 25 24 26 29 26 27 26 24 25 24 26 27 26 27 26 25 26 25 26 25 24 25 26 24 25 24 26 29 26 29 30 31 32 31 32 31 32 33 34 33 34 35 39 38 37 36 37 38 37 36 37 36 37 38 37 38 39 35 36 38 39 40 43 40 39 43 40 43 41 40 41 42 43 41 43 41 42 43 41 40 39 43 39 38 37 36 38 36 35 33 44 43 42 43 41 43 39 43 42 43 39 35 33 53 33 34 35 36 37 38 37 36 37 36 35 39 35 34 35 36 38 37 38
44
91
6
[CLS] [MASK] 5 [MASK] 5 [MASK] 7 5 [MASK] 5 7 8 7 [MASK] 5 [MASK] 7 3 7 [MASK] 7 5 [MASK] 7 [MASK] 7 [MASK] 5 4 5 4 7 [MASK] 7 8 9 8 7 4 3 2 1 2 0 1 2 1 2 1 0 2 3 7 3 7 5 [MASK] 7 4 7 3 7 4 3 4 7 8 10 9 10 9 10 9 10 11 10 8 9 8 7 4 3 2 3 2 1 2 0 1 0 2 3 2 3 2 0 2 1 0 1 2 1 2 0 1 2 3 4 3 2 0 2 1 0 2 0 2 1 0 1 2 3 2 1 0 2 1 0 1 0 1 2 1 2 3 7 5 [MASK] 7 5 [MASK] 7 5 7 4 7 3 2 3 7 [SEP] [MASK] 7 4 5 7 8 9 10 8 10 11 13 14 13 14 15 14 13 14 15 11 15 16 15 11 15 18 23 24 25 26 24 23 22 20 21 20 19 18 16 17 16 15 14 15 18 17 16 15 16 17 16 15 14 13 14 15 14 15 18 30 31 32 33 53 54 53 33 34 35 36 37 36 38 36 38 39 40 43 42 43 42 43 42 43 40 41 40 39 38 37 38 37 36 35 34 35 34 33 34 33 53 52 51 49 48 51 50 49 48 49 50 51 49 50 51 50 51 48 51 49 51 52 53 52 53 54 53 52 53 54 55 54 53 52 51 48 47 44 47 46 47 46 47 44 47 48 49 50
44
92
6
[CLS] [MASK] 7 [MASK] 5 7 [MASK] 7 3 2 3 7 8 10 8 9 10 9 8 9 10 9 10 9 8 9 8 10 11 12 13 14 13 12 13 12 13 12 11 13 12 11 10 9 8 9 10 9 8 9 8 10 11 10 11 12 13 12 13 14 15 11 12 13 14 13 12 13 14 13 12 11 15 14 15 14 13 12 13 14 15 14 13 14 15 14 15 16 17 16 17 18 30 31 32 33 34 35 39 38 37 36 37 36 37 38 36 37 38 37 38 36 37 38 39 38 37 38 36 35 39 35 34 35 34 33 34 33 32 31 32 33 32 31 32 33 34 35 36 35 34 35 33 32 31 30 18 30 18 19 [SEP] [MASK] 7 4 7 3 4 3 4 7 8 9 8 9 8 9 10 11 12 11 10 8 10 8 10 8 10 8 7 5 4 3 2 0 2 1 0 2 1 2 3 2 3 4 7 [MASK] 5 [MASK] 7 4 5 [MASK] 7 [MASK] 7 8 7 [MASK] 7 [MASK] 5 7 [MASK] 5 [MASK] 5 4 7 3 2 1 0 1 2 3 2 0 1 0 1 2 0 1 2 3 2 1 2 0 2 1 2 0 2 0 1 0 1 0 2 0 1 0 1 0 1 0 2 3 2 1 0 1 2 1 2 1 0 2 3 7 8 7 [MASK] 5 [MASK] 5 7 5 7 [MASK] 5 7 [MASK] 5 [MASK] 5 4 3 4 5 [MASK] 7 4 5 [MASK] 7 3 7 8
44
93
6
[CLS] [MASK] 5 [MASK] 7 4 7 3 7 3 4 7 [MASK] 5 [MASK] 7 3 2 0 2 0 2 1 0 1 0 1 0 2 3 7 8 7 5 4 5 4 5 [MASK] 5 4 3 7 3 7 4 3 4 5 [MASK] 7 4 5 [MASK] 5 [MASK] 7 [MASK] 5 4 7 3 4 7 3 2 1 2 3 4 3 2 1 0 1 0 2 0 2 3 4 5 [MASK] 7 [MASK] 5 7 [MASK] 7 8 9 8 7 5 4 3 4 5 [MASK] 5 [MASK] 5 [MASK] 5 [MASK] 5 7 5 [MASK] 7 8 7 [MASK] 5 4 3 7 3 7 [MASK] 5 4 5 4 3 2 1 2 3 4 3 4 7 [MASK] 5 7 4 5 4 7 [MASK] 7 3 4 3 4 5 4 5 [MASK] [SEP] [MASK] 7 5 7 4 5 4 5 [MASK] 5 [MASK] 5 [MASK] 7 5 7 8 9 10 9 10 9 10 9 10 9 8 7 5 7 8 7 3 7 8 10 11 10 11 13 14 15 11 13 14 13 12 13 11 10 8 7 8 7 [MASK] 7 3 7 4 7 4 3 4 3 7 3 4 7 [MASK] 5 [MASK] 5 7 [MASK] 7 8 10 9 8 9 10 8 7 3 4 5 4 3 4 5 4 5 7 [MASK] 5 7 5 7 5 [MASK] 7 [MASK] 7 3 4 3 7 8 7 8 9 10 9 10 8 7 3 4 7 5 [MASK] 7 3 4 3 7 5 7 [MASK] 7 3 7 4 3 4 7 [MASK] 7 5 4 5 [MASK] 5 [MASK] 7 [MASK] 7 5 4
44
94
6
[CLS] [MASK] 5 4 7 5 4 5 7 [MASK] 7 8 9 8 7 8 7 4 7 [MASK] 5 [MASK] 5 4 7 5 [MASK] 5 [MASK] 7 5 4 7 3 7 3 7 3 2 3 2 1 2 3 4 3 7 3 7 4 3 2 0 2 3 2 1 0 2 3 2 1 2 3 2 1 2 1 0 2 0 1 0 2 1 0 2 1 0 2 0 2 3 7 3 4 5 4 7 4 7 4 7 8 10 9 8 7 [MASK] 5 4 7 [MASK] 7 3 4 3 7 [MASK] 5 4 7 8 9 10 9 8 9 10 9 8 9 10 9 8 10 8 7 8 9 10 8 7 5 [MASK] 5 4 7 5 [MASK] 5 [MASK] 5 7 3 4 7 3 2 0 [SEP] [MASK] 7 5 [MASK] 5 [MASK] 5 [MASK] 5 7 4 5 7 3 2 0 2 1 2 0 2 1 2 0 2 3 2 1 0 2 1 0 2 3 2 0 2 1 0 1 0 2 3 4 7 3 4 5 4 3 4 5 [MASK] 7 [MASK] 5 4 7 5 [MASK] 5 4 5 [MASK] 5 7 [MASK] 7 [MASK] 5 4 5 [MASK] 7 5 7 4 7 [MASK] 5 [MASK] 7 4 7 8 9 8 10 9 8 7 3 4 3 4 3 2 3 7 8 9 8 9 8 9 10 11 10 9 10 9 10 9 10 11 10 9 8 7 [MASK] 5 [MASK] 7 [MASK] 7 8 9 10 9 8 9 10 9 10 8 9 10 9 8 7 4 3 2 0 1 2 0 1 2
44
95
6
[CLS] [MASK] 5 [MASK] 5 4 5 [MASK] 5 [MASK] 5 [MASK] 5 4 7 4 7 [MASK] 7 3 7 [MASK] 5 4 7 [MASK] 7 4 3 2 0 1 2 0 2 0 1 2 0 1 0 2 1 0 1 0 2 1 0 2 3 2 0 2 3 2 3 2 0 2 0 1 0 1 2 1 2 1 2 1 0 1 2 1 2 0 1 0 1 2 1 0 2 0 2 3 4 5 7 [MASK] 7 5 4 3 2 0 1 0 2 0 1 2 0 2 1 2 1 2 1 0 2 3 2 1 0 1 2 1 2 0 2 3 2 0 1 0 2 1 0 1 2 3 4 7 [MASK] 5 4 3 2 1 2 3 4 7 5 [MASK] 7 [MASK] 7 [MASK] [SEP] [MASK] 7 4 5 4 3 7 4 7 3 4 3 4 5 7 3 2 1 0 1 2 0 1 2 3 7 5 7 4 5 [MASK] 5 4 5 4 5 [MASK] 7 4 5 4 5 4 7 8 7 [MASK] 7 3 2 3 4 7 [MASK] 5 4 5 4 3 7 [MASK] 5 [MASK] 5 [MASK] 5 [MASK] 7 4 5 [MASK] 7 [MASK] 7 3 2 0 2 1 2 1 2 3 2 1 0 2 1 2 0 2 1 0 2 1 0 1 2 3 7 8 10 8 10 8 9 10 9 10 8 9 8 9 10 9 10 11 13 12 11 10 8 9 10 8 10 11 13 14 13 12 11 15 14 13 11 12 13 14 15 16 18 30 31 32 33 34 35 34
44
96
6
[CLS] [MASK] 5 4 7 4 7 5 7 [MASK] 5 [MASK] 7 5 4 3 2 1 2 0 1 2 0 1 2 0 1 0 2 0 2 0 2 3 4 7 [MASK] 7 [MASK] 7 8 9 8 9 8 10 9 8 9 8 9 10 11 13 12 13 12 11 12 11 10 11 15 18 23 24 26 27 26 25 24 25 26 25 26 25 24 25 24 25 26 25 24 25 26 27 28 29 30 29 30 31 30 18 15 16 17 18 16 15 14 15 18 17 18 23 22 23 18 17 16 15 16 17 18 19 20 21 20 19 22 23 22 23 22 19 20 22 23 22 21 22 20 21 22 19 18 16 15 16 17 16 15 16 17 16 17 18 19 20 [SEP] [MASK] 7 8 9 8 7 4 7 8 7 3 2 0 2 1 0 2 1 0 1 0 1 2 0 2 3 2 0 2 0 1 0 1 2 1 2 1 0 2 3 4 5 4 3 4 7 5 [MASK] 7 [MASK] 5 7 5 4 7 [MASK] 5 7 5 [MASK] 7 8 7 [MASK] 7 8 7 5 [MASK] 5 4 7 [MASK] 7 5 4 3 2 3 2 3 7 4 3 7 8 10 9 10 9 8 10 8 9 8 9 10 9 8 7 3 4 3 4 7 8 7 3 4 3 7 5 7 5 [MASK] 5 [MASK] 5 7 5 [MASK] 7 [MASK] 5 [MASK] 7 [MASK] 5 4 5 4 5 [MASK] 7 5 [MASK] 5 4 5 7 3 2 1 2 3 2 3 7 3
44
97
6
[CLS] [MASK] 7 8 7 8 10 9 10 11 12 13 12 11 12 11 13 14 15 11 12 13 11 12 13 14 15 14 15 16 17 16 17 16 18 30 29 28 29 26 25 26 25 26 27 26 25 24 25 24 25 24 25 24 25 24 26 27 26 25 24 25 26 27 28 29 28 27 28 27 26 29 26 27 28 27 28 29 28 27 28 27 28 27 26 24 25 26 25 24 23 22 21 22 21 20 19 22 19 20 22 19 18 19 22 23 24 23 18 30 18 23 18 17 16 18 15 16 17 16 17 16 15 16 15 11 10 9 10 8 9 8 9 10 8 7 8 7 5 [MASK] 7 5 4 5 4 3 4 5 4 3 [SEP] [MASK] 5 [MASK] 7 3 4 7 4 7 [MASK] 7 8 9 10 11 12 13 12 11 12 13 11 12 11 10 8 7 [MASK] 5 [MASK] 5 [MASK] 7 4 3 4 5 7 5 [MASK] 5 4 7 [MASK] 5 [MASK] 5 7 [MASK] 5 [MASK] 5 4 3 4 5 [MASK] 5 [MASK] 5 7 5 7 4 3 2 3 2 0 1 0 2 1 2 0 2 0 1 2 1 0 1 0 1 0 2 3 7 [MASK] 5 [MASK] 5 7 4 7 [MASK] 7 [MASK] 7 3 2 1 2 1 2 1 2 0 2 1 2 0 1 0 2 1 2 3 7 5 4 7 [MASK] 7 3 2 1 0 2 0 1 2 1 2 0 1 0 2 0 1 2 1 2 0 1 0 1 0 2
44
98
6
[CLS] [MASK] 7 [MASK] 5 7 [MASK] 7 [MASK] 7 3 2 1 2 3 4 5 4 5 7 4 3 4 7 [MASK] 7 3 7 8 10 11 12 11 15 18 23 24 25 24 25 26 29 28 27 28 29 30 31 30 31 32 33 32 33 34 35 34 35 36 35 39 40 41 42 41 43 42 43 41 43 39 38 36 35 34 35 33 35 33 32 31 30 29 26 27 28 27 26 27 28 27 28 27 26 27 26 24 26 29 28 27 26 24 25 24 25 26 29 30 31 32 31 30 29 26 25 24 23 22 20 19 18 17 16 17 16 18 17 16 18 16 15 14 13 12 11 12 11 12 11 15 18 17 16 18 19 18 19 22 21 [SEP] [MASK] 5 7 5 [MASK] 5 [MASK] 7 4 5 [MASK] 7 8 9 8 9 10 9 8 7 3 7 8 9 10 11 15 16 17 16 18 16 17 18 23 18 19 18 30 18 19 22 19 20 22 21 20 21 22 21 20 19 22 20 21 22 20 22 21 22 20 19 18 17 16 17 16 18 16 18 23 18 16 17 18 19 18 23 18 17 18 16 18 30 31 30 29 28 27 28 29 26 25 24 26 27 28 27 26 29 26 25 24 25 24 25 26 25 24 25 24 26 27 26 24 23 24 23 24 25 26 25 26 29 28 29 26 25 26 29 26 25 24 25 24 25 24 25 24 25 24 26 24 23 18 19 20 21 20
44
99
6