Datasets:
Yuyeong
/
rw_roman-empire_mdlr_6_mask_public

Dataset card Data Studio Files Community
1
text
stringlengths
739
1.89k
label
class label
18 classes
group_idx
int64
0
99
node_idx
int64
0
22.7k
[CLS] [MASK] 18 17 16 15 14 13 12 13 12 11 10 11 12 13 11 13 12 11 13 14 15 11 12 11 13 12 11 13 14 13 12 13 12 13 14 13 12 11 13 14 13 14 15 16 15 16 15 16 [SEP] [MASK] 18 30 18 [MASK] 18 23 24 23 24 26 25 24 23 22 20 [MASK] 22 [MASK] 22 20 21 22 [MASK] 22 21 22 20 22 21 20 21 20 21 22 [MASK] 18 16 17 16 15 14 13 12 11 10 8 7 4 [SEP] [MASK] 20 22 20 21 20 [MASK] 22 21 22 23 24 26 29 26 24 23 18 17 16 17 16 17 16 18 17 18 17 16 17 18 15 11 13 12 11 12 13 12 11 10 9 8 7 6 5 7 6 7 [SEP] [MASK] 22 [MASK] 22 23 18 17 16 15 14 13 14 13 11 10 11 10 9 10 8 10 8 9 10 9 8 10 8 7 6 7 4 7 6 7 6 5 6 7 4 5 6 7 6 5 7 4 3 4 [SEP] [MASK] 20 21 20 21 20 21 20 22 21 22 [MASK] 18 17 16 17 18 23 22 [MASK] 18 17 18 16 18 23 22 21 20 22 23 24 25 26 25 26 25 24 25 26 29 26 27 28 27 28 29 26 27 [SEP] [MASK] 20 22 21 22 23 24 25 26 24 23 18 23 24 26 25 26 27 26 27 26 27 28 27 28 27 28 27 28 29 28 29 26 25 26 25 24 23 24 25 26 29 30 18 17 18 17 16 17
22
0
19
[CLS] [MASK] 18 17 16 17 18 17 18 23 18 30 29 28 27 28 27 28 29 28 27 26 27 28 27 28 27 28 29 28 29 28 29 28 29 28 29 28 27 26 24 26 27 26 24 23 22 [MASK] 20 [MASK] [SEP] [MASK] 18 15 11 13 12 11 10 9 10 9 8 9 10 9 8 9 10 11 13 11 10 9 8 10 9 10 8 10 11 15 14 13 12 11 12 11 15 18 [MASK] 22 21 20 22 21 22 20 [MASK] 20 [SEP] [MASK] 20 21 22 [MASK] 18 16 17 18 30 29 30 29 28 27 26 25 26 29 26 27 26 27 28 29 26 25 24 26 27 26 25 26 25 26 25 26 25 24 23 22 [MASK] 20 21 22 20 22 20 [MASK] [SEP] [MASK] 18 17 16 17 16 17 18 17 16 18 17 18 23 18 30 29 26 29 28 27 26 27 28 29 30 18 17 16 18 30 31 30 29 30 29 28 27 26 27 26 24 23 24 25 26 27 26 24 [SEP] [MASK] 20 21 22 [MASK] 22 21 22 21 20 21 22 21 22 21 20 21 22 [MASK] 22 23 24 26 29 26 25 26 24 25 24 23 24 26 29 28 27 26 27 26 24 25 26 27 26 29 30 18 17 18 [SEP] [MASK] 20 21 20 [MASK] 22 23 24 26 25 26 29 28 29 26 27 26 29 30 31 32 33 35 36 35 33 44 43 39 40 43 39 38 39 38 36 35 34 33 34 33 44 33 32 33 34 33 32 31
22
1
19
[CLS] [MASK] 20 22 [MASK] 20 21 20 22 [MASK] 20 21 22 20 22 21 20 [MASK] 22 [MASK] 22 21 20 21 22 21 20 21 20 21 20 22 23 22 [MASK] 22 23 18 17 16 15 16 17 18 [MASK] 22 21 20 22 20 [SEP] [MASK] 18 17 18 23 24 23 22 20 [MASK] 18 17 16 17 16 18 30 31 32 31 32 31 30 18 16 17 16 15 18 [MASK] 18 15 11 13 14 15 18 [MASK] 20 [MASK] 18 16 18 17 16 17 18 17 16 [SEP] [MASK] 22 21 20 [MASK] 22 21 22 23 22 20 [MASK] 20 21 20 21 20 22 [MASK] 22 21 22 [MASK] 20 21 20 21 20 [MASK] 22 23 24 26 27 28 27 28 29 30 31 32 31 30 18 16 17 18 30 29 [SEP] [MASK] 20 21 20 21 20 [MASK] 20 22 21 22 [MASK] 20 [MASK] 18 30 18 16 17 16 18 15 18 23 22 23 18 16 15 11 13 14 13 12 13 12 13 14 13 11 12 11 12 13 11 13 12 13 14 [SEP] [MASK] 18 16 17 18 30 29 30 18 30 31 32 31 30 18 15 14 13 14 15 16 18 17 16 17 16 15 16 17 18 16 15 14 15 11 10 11 10 8 10 9 10 11 15 14 13 11 12 11 [SEP] [MASK] 18 15 18 15 16 17 18 15 11 12 11 12 11 10 9 10 11 12 13 14 15 11 13 11 15 16 17 16 18 23 24 25 24 25 26 25 26 29 28 29 30 29 30 18 30 29 26 29
22
2
19
[CLS] [MASK] 22 20 22 20 [MASK] 18 23 22 23 22 23 18 23 22 23 18 17 16 18 16 15 11 13 12 11 12 13 11 12 13 14 13 11 10 9 10 9 10 9 8 7 8 9 8 7 6 7 6 [SEP] [MASK] 22 20 22 21 22 [MASK] 20 21 20 22 23 18 23 18 17 16 17 18 [MASK] 22 21 22 21 20 [MASK] 20 22 21 22 21 20 22 [MASK] 20 21 22 23 18 17 18 17 18 30 31 32 33 44 33 [SEP] [MASK] 18 17 16 15 16 15 14 13 14 13 14 13 11 15 14 15 18 30 29 26 24 23 18 17 16 15 18 15 11 10 8 9 8 7 5 4 7 3 7 3 2 0 1 0 2 0 2 3 [SEP] [MASK] 22 21 22 21 20 21 20 21 22 21 22 23 18 16 18 30 31 32 33 34 33 34 33 34 35 33 32 31 30 29 28 29 26 24 26 29 26 24 26 29 28 29 26 27 28 29 30 29 [SEP] [MASK] 20 21 22 21 22 [MASK] 22 [MASK] 20 21 22 20 21 20 21 20 [MASK] 20 22 [MASK] 18 16 17 18 23 24 25 24 25 24 25 26 25 26 27 28 27 26 24 25 24 25 26 25 24 25 26 27 [SEP] [MASK] 18 17 16 17 16 15 14 15 11 10 11 12 13 11 10 11 15 18 30 29 30 18 15 14 13 14 13 12 13 12 13 12 11 12 13 12 11 12 11 15 16 17 16 18 [MASK] 20 22 [MASK]
22
3
19
[CLS] [MASK] 22 20 [MASK] 18 23 24 23 24 25 24 23 18 23 22 [MASK] 22 23 22 21 22 23 22 21 20 22 21 20 21 22 23 22 [MASK] 20 21 20 22 21 22 23 18 23 24 23 24 26 29 26 27 [SEP] [MASK] 20 22 20 21 20 21 20 22 20 21 22 21 22 21 20 21 20 22 21 20 21 22 21 22 [MASK] 20 [MASK] 22 20 21 20 [MASK] 20 [MASK] 22 20 21 22 21 20 22 21 22 23 18 15 16 17 [SEP] [MASK] 20 [MASK] 20 21 20 [MASK] 18 17 16 18 16 17 18 30 29 30 29 26 25 26 27 26 25 24 25 26 25 24 23 18 23 18 [MASK] 20 21 22 20 21 20 21 20 22 20 21 22 21 20 22 [SEP] [MASK] 20 22 21 20 [MASK] 18 15 16 17 18 30 29 26 25 24 26 29 30 18 17 18 16 18 [MASK] 20 22 20 [MASK] 18 17 18 23 22 [MASK] 18 16 17 16 18 30 31 30 18 30 31 30 31 32 [SEP] [MASK] 22 21 22 21 20 [MASK] 18 23 24 26 24 26 25 24 25 24 23 18 16 18 30 18 15 11 13 12 13 14 15 14 15 18 17 18 17 16 15 14 13 11 12 13 12 11 12 11 10 11 [SEP] [MASK] 18 15 18 30 18 [MASK] 20 21 22 23 24 26 25 26 24 25 26 25 26 29 26 25 24 25 26 27 26 27 26 24 23 22 23 24 23 22 21 22 21 22 23 24 26 29 26 27 26 27
22
4
19
[CLS] [MASK] 22 23 24 26 29 30 29 30 31 30 29 28 27 28 29 28 29 30 31 32 31 30 18 16 17 16 17 18 23 18 23 22 [MASK] 18 30 18 16 15 11 13 12 11 10 8 7 6 5 4 [SEP] [MASK] 22 23 24 23 18 16 15 14 15 14 13 12 13 14 13 12 13 11 12 11 10 9 8 10 8 9 8 10 11 12 11 13 14 15 14 13 14 13 14 13 12 13 14 15 16 18 30 29 [SEP] [MASK] 22 23 24 25 26 24 25 26 25 24 25 26 24 26 24 25 24 23 18 17 18 15 18 17 18 17 16 15 16 15 11 10 11 12 13 14 15 18 [MASK] 20 [MASK] 20 21 22 20 [MASK] 18 30 [SEP] [MASK] 20 [MASK] 22 21 22 21 20 22 23 18 30 18 23 24 25 24 25 24 23 18 17 16 15 11 12 13 14 13 12 13 14 13 11 13 14 15 14 13 11 15 14 15 14 15 11 13 12 11 [SEP] [MASK] 20 21 20 22 21 20 21 20 [MASK] 20 21 22 [MASK] 18 30 18 17 16 15 18 30 29 26 24 26 27 28 27 28 29 30 31 32 33 32 33 53 52 53 54 55 56 57 56 57 56 55 53 [SEP] [MASK] 20 21 20 22 20 22 21 22 23 18 17 18 16 17 18 [MASK] 18 17 16 18 16 17 16 15 14 13 14 13 11 15 11 13 12 13 11 10 8 10 11 12 13 14 13 14 15 16 15 16
22
5
19
[CLS] [MASK] 22 21 20 [MASK] 18 23 18 30 29 28 27 26 27 28 29 30 29 30 18 [MASK] 18 23 24 26 24 25 24 26 29 30 18 16 18 23 24 25 26 25 24 25 26 27 26 24 23 24 25 24 [SEP] [MASK] 18 15 14 13 14 15 18 17 18 16 17 16 15 14 13 14 15 16 17 16 17 16 18 30 29 28 29 30 31 30 31 30 31 30 18 17 18 17 18 30 29 26 29 28 29 30 18 [MASK] [SEP] [MASK] 18 30 18 [MASK] 18 23 22 21 20 21 22 [MASK] 18 [MASK] 22 21 20 21 22 21 20 22 23 24 23 22 21 22 [MASK] 18 16 17 16 18 15 16 17 16 17 16 17 16 18 23 22 20 21 20 [SEP] [MASK] 22 21 20 22 23 18 23 24 26 24 26 25 24 26 29 30 29 28 27 28 29 28 29 26 25 24 26 29 30 31 30 29 26 27 26 25 26 27 28 29 26 24 26 29 28 29 26 25 [SEP] [MASK] 22 [MASK] 20 21 22 20 [MASK] 22 21 22 [MASK] 20 [MASK] 18 15 16 18 [MASK] 20 21 20 [MASK] 18 16 17 16 18 17 16 17 18 30 29 26 25 26 27 28 29 28 27 28 27 28 29 30 31 32 [SEP] [MASK] 20 22 21 20 21 20 21 20 21 20 22 20 22 21 22 [MASK] 22 [MASK] 22 20 21 22 20 [MASK] 18 30 29 28 29 28 27 26 29 26 29 28 29 28 27 26 27 28 29 30 18 17 18 17
22
6
19
[CLS] [MASK] 20 21 22 23 24 23 24 23 22 20 21 20 [MASK] 18 30 29 28 29 28 27 26 27 26 25 24 23 18 16 15 18 17 18 30 18 15 16 17 16 15 11 12 11 15 11 12 11 13 14 [SEP] [MASK] 20 21 20 21 20 21 22 23 24 23 24 26 27 28 27 28 27 26 25 26 27 28 29 26 25 24 23 18 17 18 [MASK] 20 21 20 [MASK] 20 21 20 21 20 [MASK] 22 21 20 22 20 22 20 [SEP] [MASK] 20 [MASK] 18 23 22 21 22 21 22 [MASK] 20 21 22 [MASK] 22 21 22 20 21 20 21 20 [MASK] 20 22 23 24 25 26 29 28 29 28 29 28 29 30 31 30 31 30 29 28 29 28 29 28 27 [SEP] [MASK] 22 21 22 [MASK] 22 21 20 21 20 22 23 22 23 18 16 18 23 24 25 26 27 28 27 26 27 26 27 28 27 26 25 24 26 25 24 23 22 23 24 26 27 26 29 26 29 28 27 28 [SEP] [MASK] 20 21 22 20 22 21 22 23 24 26 27 26 24 25 24 25 24 23 18 30 29 28 29 28 27 28 29 26 27 28 27 26 24 25 26 29 30 31 30 29 28 27 26 25 26 24 25 24 [SEP] [MASK] 18 17 18 [MASK] 18 15 16 17 18 15 16 17 18 15 14 15 16 17 16 18 17 18 17 16 17 16 18 [MASK] 20 21 22 20 21 20 21 20 21 20 [MASK] 22 23 22 20 22 21 20 21 20
22
7
19
[CLS] [MASK] 20 [MASK] 18 15 16 15 16 15 18 30 18 16 17 16 15 14 15 18 [MASK] 20 21 20 [MASK] 20 22 21 22 20 21 20 21 22 21 22 20 22 20 [MASK] 22 20 22 23 24 23 18 17 16 18 [SEP] [MASK] 18 15 11 10 11 13 12 11 12 11 13 14 13 11 10 9 8 9 10 8 9 10 11 10 9 10 9 8 7 5 6 5 7 6 5 6 7 5 6 5 6 7 6 5 7 4 7 6 [SEP] [MASK] 20 [MASK] 22 [MASK] 18 17 18 16 15 14 13 14 15 11 15 16 15 14 13 11 12 13 12 11 15 11 12 11 12 11 13 11 12 11 10 9 8 10 9 8 9 10 9 10 11 12 11 12 [SEP] [MASK] 18 17 18 23 22 23 24 23 22 21 22 20 21 22 21 22 21 22 23 22 21 20 [MASK] 22 [MASK] 20 [MASK] 20 [MASK] 22 21 22 [MASK] 18 [MASK] 18 [MASK] 20 22 [MASK] 22 [MASK] 20 21 20 21 20 21 [SEP] [MASK] 20 22 23 18 16 17 16 18 15 14 15 11 15 11 12 13 14 13 14 15 18 16 18 17 18 [MASK] 22 21 20 21 22 21 22 20 21 22 20 [MASK] 18 30 31 30 31 30 18 16 17 16 [SEP] [MASK] 20 [MASK] 18 [MASK] 18 17 16 18 [MASK] 20 21 22 23 18 16 17 18 [MASK] 18 [MASK] 22 21 20 22 [MASK] 20 [MASK] 20 22 21 20 22 21 20 21 20 22 20 21 22 21 22 23 24 23 24 25 26
22
8
19
[CLS] [MASK] 22 20 21 22 [MASK] 22 [MASK] 18 16 17 18 17 18 [MASK] 20 21 20 21 22 [MASK] 22 21 20 21 22 23 18 [MASK] 20 21 20 21 22 20 21 20 22 [MASK] 20 22 21 20 21 20 [MASK] 18 30 29 [SEP] [MASK] 18 30 31 30 31 32 31 30 18 [MASK] 22 [MASK] 18 15 11 12 13 12 11 15 14 13 14 13 14 13 12 13 11 12 11 12 13 12 11 12 13 14 13 11 15 16 17 16 17 18 17 18 [SEP] [MASK] 22 23 22 21 20 21 20 22 [MASK] 18 30 31 32 31 32 33 34 33 34 33 35 36 38 36 37 38 36 35 36 38 39 40 43 40 43 40 39 40 39 40 43 44 45 44 47 46 47 46 [SEP] [MASK] 22 [MASK] 18 30 29 28 27 26 27 28 29 28 27 26 29 26 27 28 27 26 25 24 26 25 26 24 26 29 26 25 26 29 30 18 30 31 32 31 32 31 30 31 32 33 34 33 35 36 [SEP] [MASK] 18 [MASK] 22 23 24 25 26 24 23 18 30 29 26 27 26 27 28 27 28 29 28 27 26 24 23 24 25 26 24 23 18 15 18 30 18 23 18 23 24 25 26 24 23 24 25 26 24 25 [SEP] [MASK] 18 23 22 20 21 20 22 23 22 21 22 [MASK] 20 21 20 21 20 21 20 [MASK] 20 21 22 23 22 23 18 23 18 17 18 17 18 23 18 15 14 13 11 10 11 15 14 15 16 17 18 30
22
9
19
[CLS] [MASK] 18 16 17 18 23 22 20 [MASK] 20 22 21 20 22 21 22 23 22 20 21 20 21 22 23 18 17 18 17 16 15 14 13 11 13 14 15 18 17 16 17 16 17 18 17 18 30 31 32 31 [SEP] [MASK] 22 21 20 22 21 22 [MASK] 22 23 18 17 18 [MASK] 18 [MASK] 20 22 23 18 17 18 23 24 26 24 25 26 29 30 31 30 29 30 31 30 31 30 29 26 29 28 27 26 24 25 26 29 28 [SEP] [MASK] 18 17 18 17 16 18 15 16 17 18 30 31 30 31 30 29 28 27 28 29 26 29 28 27 28 29 28 29 30 31 30 31 30 29 30 31 32 33 35 33 53 55 53 54 55 54 55 56 [SEP] [MASK] 22 20 21 20 [MASK] 22 21 22 23 24 25 24 23 24 26 24 26 27 26 27 26 24 25 24 25 24 25 26 29 26 27 26 24 26 25 26 27 26 25 24 26 27 28 27 28 29 28 27 [SEP] [MASK] 20 21 22 20 21 22 23 22 23 22 23 18 15 14 13 12 13 14 13 12 11 13 14 13 11 12 11 12 11 13 11 15 16 17 16 15 16 17 16 15 11 15 16 15 18 15 14 15 [SEP] [MASK] 18 16 15 14 15 18 23 18 [MASK] 20 22 20 22 23 18 30 18 23 22 23 18 16 18 16 18 17 16 17 16 18 [MASK] 20 21 22 21 20 22 [MASK] 18 17 18 30 29 26 29 28 27 28
22
10
19
[CLS] [MASK] 22 20 22 21 20 21 22 21 22 20 22 [MASK] 20 [MASK] 20 21 22 [MASK] 18 17 18 30 31 32 33 53 52 51 50 51 50 51 48 51 50 49 50 51 50 51 50 51 48 51 48 51 50 51 [SEP] [MASK] 22 20 22 21 22 20 [MASK] 18 17 18 30 31 30 29 30 18 30 29 28 27 26 27 28 27 28 29 26 27 28 29 28 29 30 31 30 31 30 31 32 33 53 33 44 33 32 31 32 31 [SEP] [MASK] 22 23 22 20 21 22 [MASK] 20 [MASK] 20 22 23 24 23 24 25 24 25 24 26 27 28 27 28 27 26 27 26 24 25 26 27 26 29 28 29 28 27 28 27 26 25 26 25 26 24 25 24 [SEP] [MASK] 20 22 21 22 21 20 21 20 21 22 23 22 [MASK] 22 23 22 20 21 22 23 24 23 24 26 25 24 23 22 20 [MASK] 20 22 21 20 21 20 21 20 22 20 22 20 21 22 23 18 17 18 [SEP] [MASK] 20 22 23 22 20 22 23 18 15 14 15 11 12 11 13 11 10 8 10 11 12 13 14 13 14 15 14 13 12 13 14 13 14 13 14 15 16 17 16 17 16 15 14 13 11 10 9 8 [SEP] [MASK] 20 22 [MASK] 20 [MASK] 22 21 20 22 [MASK] 20 21 22 21 20 21 20 22 21 22 20 [MASK] 22 20 21 22 21 22 20 21 22 20 21 22 [MASK] 20 [MASK] 20 21 22 20 22 [MASK] 22 20 22 [MASK] 20
22
11
19
[CLS] [MASK] 18 30 29 28 27 28 27 28 27 26 24 25 24 26 27 26 24 25 24 26 27 26 25 26 25 26 29 26 29 30 29 26 24 25 26 25 26 27 26 27 26 24 25 26 29 28 29 30 [SEP] [MASK] 20 22 [MASK] 22 20 21 22 21 22 21 22 21 20 21 20 [MASK] 20 21 20 21 22 20 21 22 23 24 25 26 27 28 27 26 29 26 24 26 29 28 27 28 27 28 27 26 24 26 25 26 [SEP] [MASK] 22 21 22 21 22 [MASK] 18 30 31 30 18 30 29 30 29 30 31 32 33 34 35 33 44 45 47 46 45 44 47 44 47 44 47 48 51 49 48 51 49 51 50 49 48 47 48 47 46 45 [SEP] [MASK] 18 15 16 17 16 15 16 15 18 30 18 15 11 12 11 13 14 13 14 13 14 15 18 16 17 18 30 18 16 15 14 15 14 15 18 30 31 32 31 30 29 30 31 32 33 35 33 32 [SEP] [MASK] 22 [MASK] 18 15 11 12 13 11 13 14 15 14 13 11 15 16 17 16 15 14 15 18 15 16 18 15 16 18 [MASK] 20 22 21 22 [MASK] 18 [MASK] 18 17 18 [MASK] 18 [MASK] 22 21 20 22 23 24 [SEP] [MASK] 20 21 22 21 20 22 21 22 21 20 [MASK] 22 23 18 17 18 23 24 23 22 21 22 20 21 20 21 20 22 20 22 20 22 21 20 22 23 22 21 20 21 22 [MASK] 22 20 21 22 21 22
22
12
19
[CLS] [MASK] 22 21 22 21 20 [MASK] 18 15 11 10 9 8 10 9 8 7 6 5 6 5 6 7 6 5 4 5 7 3 4 7 3 4 3 4 5 6 7 5 6 5 6 7 6 7 8 9 10 11 [SEP] [MASK] 20 21 20 21 22 [MASK] 18 17 18 23 18 15 18 16 17 16 15 18 [MASK] 22 [MASK] 18 16 15 11 13 11 15 18 23 18 16 15 14 13 12 11 15 11 12 13 11 12 13 14 15 14 15 [SEP] [MASK] 18 [MASK] 20 21 20 21 20 21 22 20 21 20 22 23 18 15 16 17 16 15 18 30 31 30 18 23 22 20 [MASK] 22 20 [MASK] 22 [MASK] 22 21 20 [MASK] 18 30 31 32 31 32 33 53 55 56 [SEP] [MASK] 18 15 14 13 14 15 14 15 11 15 14 13 14 13 14 15 14 13 12 13 14 15 11 15 11 12 11 12 13 14 13 11 12 13 14 15 14 15 14 13 14 13 12 11 15 18 16 18 [SEP] [MASK] 22 [MASK] 18 15 14 15 11 12 11 10 9 8 9 10 9 10 8 7 6 7 6 5 6 7 3 4 5 4 5 6 7 4 5 7 5 7 8 7 5 6 5 7 5 6 5 7 8 10 [SEP] [MASK] 20 21 20 21 22 23 24 25 24 25 26 25 24 23 24 23 22 [MASK] 18 [MASK] 18 17 18 17 18 17 16 17 16 15 14 15 14 13 11 10 11 10 9 8 9 10 9 8 10 11 13 14
22
13
19
[CLS] [MASK] 18 16 15 11 12 11 15 16 18 [MASK] 22 20 [MASK] 18 [MASK] 22 23 24 25 24 26 27 26 29 28 29 30 29 28 27 28 29 28 29 28 29 28 27 26 24 25 24 23 18 17 18 [MASK] 22 [SEP] [MASK] 18 17 16 15 18 [MASK] 22 20 [MASK] 20 [MASK] 22 21 20 22 21 20 21 22 21 20 21 22 21 22 20 [MASK] 22 21 22 [MASK] 22 21 22 [MASK] 20 [MASK] 20 21 22 20 [MASK] 22 20 22 [MASK] 18 30 [SEP] [MASK] 20 [MASK] 20 21 20 21 20 21 22 23 22 20 21 20 [MASK] 20 21 22 23 22 21 22 20 21 22 23 22 [MASK] 20 [MASK] 22 [MASK] 20 22 23 22 23 24 26 27 26 24 25 24 25 26 27 28 [SEP] [MASK] 18 17 16 18 [MASK] 20 [MASK] 20 22 21 20 [MASK] 22 [MASK] 18 [MASK] 22 20 21 22 20 21 22 [MASK] 22 20 21 22 [MASK] 18 15 18 [MASK] 20 21 22 20 22 21 20 [MASK] 18 [MASK] 18 30 18 15 14 [SEP] [MASK] 22 20 21 22 21 20 21 22 21 22 23 18 23 22 20 21 22 21 22 21 22 20 21 22 23 24 23 18 30 29 26 27 26 25 24 26 27 26 29 30 31 30 18 [MASK] 22 23 22 [MASK] [SEP] [MASK] 20 22 [MASK] 22 20 22 23 24 26 24 23 22 [MASK] 20 21 22 20 22 21 20 22 21 22 21 22 [MASK] 22 23 24 25 24 26 27 26 25 24 26 24 25 24 25 24 26 25 24 23 22 23
22
14
19
[CLS] [MASK] 22 23 24 23 24 23 22 21 22 20 22 20 [MASK] 18 16 18 17 16 15 14 13 12 11 15 14 13 12 11 10 9 8 9 10 9 10 11 12 11 10 9 8 9 10 11 12 13 14 13 [SEP] [MASK] 22 [MASK] 18 30 18 23 24 26 27 26 24 25 26 24 25 26 29 30 31 30 31 30 18 30 31 30 31 32 31 30 31 30 31 32 33 32 33 44 43 40 39 40 41 43 40 39 35 34 [SEP] [MASK] 22 21 22 21 22 [MASK] 18 [MASK] 20 22 23 22 21 20 21 22 [MASK] 22 21 22 [MASK] 18 15 16 17 16 18 [MASK] 20 21 22 20 22 21 22 23 18 15 16 17 18 [MASK] 20 21 20 [MASK] 18 17 [SEP] [MASK] 18 17 18 [MASK] 18 15 16 15 18 17 18 17 18 16 18 23 24 25 26 25 26 29 28 27 28 29 26 24 25 26 24 23 24 26 29 30 31 32 31 30 31 32 33 32 33 35 39 35 [SEP] [MASK] 18 [MASK] 20 21 22 23 22 21 20 21 22 20 22 21 20 21 22 21 22 21 20 [MASK] 20 21 22 [MASK] 20 22 20 [MASK] 18 30 31 32 31 30 18 17 18 23 18 15 11 15 18 16 18 17 [SEP] [MASK] 18 16 18 [MASK] 18 30 31 32 31 30 29 30 31 32 33 32 33 32 33 34 35 34 35 33 44 47 44 47 46 47 45 46 45 46 45 47 46 45 44 45 46 45 46 47 45 47 48 51
22
15
19
[CLS] [MASK] 18 30 18 17 16 15 14 15 14 13 12 13 12 13 12 11 12 13 12 13 14 13 12 13 11 13 11 10 9 8 9 10 9 10 9 10 9 8 7 6 7 8 7 3 2 1 0 1 [SEP] [MASK] 20 [MASK] 18 16 17 16 15 16 15 14 13 11 10 11 10 8 9 10 9 10 9 10 11 13 11 10 11 15 18 16 17 16 18 23 18 16 18 16 17 18 16 17 18 16 17 18 [MASK] 18 [SEP] [MASK] 20 21 22 [MASK] 22 20 [MASK] 22 [MASK] 18 23 22 21 22 21 22 21 22 21 20 22 21 22 21 22 21 22 21 20 [MASK] 22 20 [MASK] 20 21 22 [MASK] 20 21 20 [MASK] 18 23 24 25 24 26 25 [SEP] [MASK] 18 [MASK] 18 17 18 30 31 30 31 30 18 17 18 [MASK] 18 30 18 16 15 14 13 12 13 12 13 14 13 12 13 11 10 8 7 5 6 5 4 7 5 6 5 4 3 2 3 2 0 1 [SEP] [MASK] 20 [MASK] 18 17 18 17 16 17 16 17 18 [MASK] 22 21 20 [MASK] 20 [MASK] 20 [MASK] 20 [MASK] 22 21 22 23 18 17 18 16 15 16 17 16 17 16 17 18 [MASK] 22 [MASK] 18 16 18 16 18 16 18 [SEP] [MASK] 20 21 20 21 22 23 18 23 18 17 18 23 18 23 22 23 18 17 18 30 18 30 18 23 18 30 31 32 31 30 31 30 18 [MASK] 18 23 22 21 22 20 [MASK] 18 15 11 12 13 11 12
22
16
19
[CLS] [MASK] 18 [MASK] 22 [MASK] 18 30 18 16 18 17 16 17 18 [MASK] 18 30 29 28 29 28 27 28 27 26 29 26 27 28 27 26 29 26 29 30 31 32 33 34 33 34 35 33 34 35 33 32 33 53 [SEP] [MASK] 22 23 18 15 11 15 11 10 9 10 9 8 10 8 9 8 9 10 11 10 8 9 8 10 9 10 9 8 7 3 7 6 5 4 7 3 7 6 5 7 5 4 3 4 7 5 6 5 [SEP] [MASK] 20 22 20 22 [MASK] 22 21 22 20 [MASK] 22 20 21 22 [MASK] 18 16 18 17 18 16 18 30 29 26 25 26 29 28 27 28 27 28 27 28 29 30 31 32 33 34 35 34 35 33 34 35 34 [SEP] [MASK] 20 21 22 21 20 21 22 23 22 20 [MASK] 18 16 17 18 23 22 [MASK] 18 30 31 30 31 30 18 16 18 [MASK] 22 23 18 23 24 23 24 25 24 26 25 26 24 25 24 26 24 25 26 29 [SEP] [MASK] 22 20 [MASK] 18 17 18 23 22 21 20 [MASK] 20 21 22 21 22 20 21 22 20 21 22 20 21 22 23 24 26 24 25 26 29 26 25 24 23 18 30 29 28 27 28 29 30 29 28 27 26 [SEP] [MASK] 18 17 18 15 14 15 14 15 14 15 14 15 16 15 16 17 18 [MASK] 22 20 21 20 22 21 20 21 20 [MASK] 22 23 18 23 18 [MASK] 18 [MASK] 18 17 16 17 18 17 18 [MASK] 20 21 22 21
22
17
19
[CLS] [MASK] 22 21 20 21 22 21 20 21 22 21 22 [MASK] 22 21 22 23 22 23 18 30 29 28 29 28 29 30 29 28 27 26 25 26 25 24 23 22 20 21 20 21 20 21 22 23 18 30 31 30 [SEP] [MASK] 18 [MASK] 20 21 22 21 20 [MASK] 22 23 24 25 24 26 29 28 29 30 18 15 11 15 14 13 14 13 14 13 12 13 12 13 14 15 11 13 11 15 18 15 11 15 14 13 12 11 13 14 [SEP] [MASK] 22 [MASK] 20 [MASK] 18 [MASK] 18 15 16 17 18 [MASK] 22 20 21 20 22 [MASK] 20 21 20 21 20 [MASK] 20 22 21 22 23 24 25 24 26 27 28 27 26 25 24 25 24 25 26 29 28 29 30 29 [SEP] [MASK] 22 20 [MASK] 22 20 [MASK] 18 16 15 18 16 18 30 31 30 29 30 18 16 17 16 17 18 15 18 30 31 32 33 32 31 30 18 15 18 17 18 16 18 23 18 30 31 32 31 30 29 26 [SEP] [MASK] 18 23 18 [MASK] 22 [MASK] 20 22 20 [MASK] 22 20 22 21 20 21 20 21 20 22 20 [MASK] 22 20 21 20 [MASK] 18 16 18 23 22 21 22 21 22 23 24 25 26 25 26 24 23 24 26 29 28 [SEP] [MASK] 22 23 18 17 18 17 16 17 16 18 17 18 30 29 28 29 30 29 28 27 28 29 30 31 30 29 26 24 25 26 29 26 29 28 29 30 29 28 29 26 24 23 24 25 26 24 25 26
22
18
19
[CLS] [MASK] 18 17 16 18 17 16 18 30 29 28 29 26 25 24 26 24 26 27 26 25 24 26 29 28 29 28 29 30 18 17 16 17 18 30 18 30 18 16 18 23 18 23 18 15 16 15 14 13 [SEP] [MASK] 18 15 14 13 14 13 11 13 12 11 12 11 12 13 14 15 11 12 13 11 13 14 13 14 15 16 17 18 23 24 23 18 17 16 18 17 16 18 [MASK] 18 15 11 15 14 13 14 15 16 [SEP] [MASK] 22 [MASK] 20 21 22 [MASK] 22 20 22 23 22 21 22 23 18 15 11 15 11 12 13 12 11 10 9 10 9 8 9 10 8 10 9 10 11 10 9 8 7 8 7 3 7 6 7 4 3 7 [SEP] [MASK] 18 16 17 16 15 11 10 11 12 13 14 13 11 12 11 12 13 12 11 12 11 13 12 11 12 11 10 9 10 9 10 11 10 11 13 11 12 11 13 12 11 15 16 18 16 17 16 18 [SEP] [MASK] 18 17 18 16 17 16 17 16 18 30 31 32 33 32 33 32 33 32 31 32 33 32 33 32 33 34 35 33 44 43 44 33 34 35 36 37 38 37 36 35 39 35 33 44 33 32 33 34 [SEP] [MASK] 20 21 20 21 22 [MASK] 18 17 16 15 11 12 13 11 13 14 13 12 11 13 14 15 14 13 12 13 12 11 12 13 12 13 11 12 13 12 11 15 14 15 16 17 18 23 22 [MASK] 18 16
22
19
19
[CLS] [MASK] 18 16 15 11 12 13 14 13 14 15 14 13 14 15 11 15 11 10 9 8 10 8 7 4 3 7 8 10 8 9 8 10 11 15 11 10 11 10 8 9 10 9 10 8 9 10 9 8 [SEP] [MASK] 20 22 20 21 22 21 22 [MASK] 20 22 21 20 21 20 21 22 23 22 21 20 22 21 22 [MASK] 20 21 20 [MASK] 20 22 23 18 17 16 17 18 30 31 32 33 34 33 34 35 34 35 33 34 [SEP] [MASK] 22 23 24 26 27 28 29 28 27 26 29 28 27 28 29 26 27 26 25 26 27 28 27 26 25 26 25 24 25 24 23 22 [MASK] 22 20 21 20 [MASK] 20 21 20 21 22 21 20 21 22 21 [SEP] [MASK] 20 22 21 22 20 21 22 [MASK] 22 21 22 [MASK] 18 23 24 26 24 26 25 26 25 26 25 24 25 26 27 28 27 26 27 28 27 28 27 26 27 26 25 26 25 24 25 26 27 28 29 30 [SEP] [MASK] 18 16 15 16 18 17 16 17 16 18 30 18 17 16 18 17 18 16 18 15 16 17 18 17 18 17 16 18 16 18 16 15 14 13 12 11 12 11 12 11 10 9 10 8 10 9 10 8 [SEP] [MASK] 22 23 18 30 18 16 17 16 17 16 17 16 15 18 30 31 30 31 30 31 32 33 32 31 30 31 30 31 30 29 28 27 26 29 26 25 24 25 26 25 26 27 28 27 28 29 28 29
22
20
19
[CLS] [MASK] 22 20 [MASK] 22 21 20 22 20 [MASK] 20 21 20 [MASK] 22 21 20 21 20 [MASK] 20 22 23 24 23 22 21 22 20 22 20 22 23 24 23 22 21 20 22 21 22 23 22 [MASK] 22 23 24 25 26 [SEP] [MASK] 20 22 21 22 21 20 22 [MASK] 18 16 18 17 16 15 14 13 12 13 11 10 8 10 11 12 11 13 12 11 12 13 11 12 13 14 13 12 13 14 13 14 13 12 13 12 13 11 12 11 [SEP] [MASK] 22 21 22 21 22 20 [MASK] 18 30 18 30 31 30 31 30 18 17 18 17 18 23 24 23 24 26 27 26 27 28 27 28 27 28 29 28 27 26 25 24 26 25 26 27 26 27 28 27 26 [SEP] [MASK] 20 21 22 21 20 22 21 22 21 20 21 20 21 22 23 24 23 22 [MASK] 20 [MASK] 20 [MASK] 20 21 22 20 21 22 20 21 20 [MASK] 18 [MASK] 22 20 [MASK] 22 23 24 25 24 23 18 16 17 18 [SEP] [MASK] 22 23 18 15 16 17 18 [MASK] 18 16 15 14 15 11 12 13 12 11 10 11 12 13 11 10 8 10 9 8 7 8 7 6 5 4 5 6 7 8 7 6 7 4 3 7 8 7 4 5 [SEP] [MASK] 22 21 22 23 22 [MASK] 18 [MASK] 18 23 22 23 18 30 29 26 27 28 29 26 25 26 27 26 27 26 25 26 24 23 22 [MASK] 20 21 20 21 22 21 20 [MASK] 18 23 18 [MASK] 22 21 22 [MASK]
22
21
19
[CLS] [MASK] 22 23 24 26 29 30 31 32 31 32 33 32 31 32 31 30 31 30 18 30 31 32 31 30 18 17 18 16 18 16 17 18 23 18 [MASK] 22 21 20 [MASK] 20 22 21 20 22 23 18 17 16 [SEP] [MASK] 20 22 21 20 21 20 21 22 20 21 20 21 20 22 [MASK] 22 23 22 23 24 23 22 21 22 [MASK] 18 17 18 [MASK] 22 20 21 20 21 22 [MASK] 18 17 18 17 16 15 16 17 16 17 18 17 [SEP] [MASK] 22 21 22 21 20 21 20 [MASK] 22 21 22 20 22 21 20 21 22 [MASK] 22 21 22 23 18 16 15 14 13 11 13 11 13 11 12 11 15 18 23 18 16 17 18 30 29 28 29 28 29 28 [SEP] [MASK] 22 20 21 22 [MASK] 18 23 18 15 14 13 12 13 12 11 10 8 9 10 11 15 14 13 14 15 14 15 14 15 14 13 11 12 13 11 12 11 12 11 12 11 12 13 14 15 11 13 14 [SEP] [MASK] 22 21 22 21 22 21 22 21 20 [MASK] 18 15 16 18 23 18 15 16 17 18 [MASK] 22 [MASK] 18 15 11 13 14 15 16 18 23 18 16 17 18 15 16 18 16 18 16 17 18 30 29 30 31 [SEP] [MASK] 18 15 11 13 12 11 12 11 15 11 12 13 11 12 13 14 15 14 13 12 13 14 13 12 13 14 13 12 13 14 13 11 10 8 9 10 9 8 9 10 8 10 11 12 13 11 15 18
22
22
19
[CLS] [MASK] 22 21 22 21 20 [MASK] 20 21 22 23 18 [MASK] 18 23 22 23 18 30 29 30 31 32 31 32 31 32 33 34 33 32 33 34 35 39 40 39 40 39 38 37 36 37 38 36 38 37 36 35 [SEP] [MASK] 20 22 21 20 21 22 21 20 21 22 20 [MASK] 20 21 22 20 21 20 21 22 [MASK] 20 22 21 22 20 22 23 22 20 21 20 21 22 23 22 20 22 20 21 22 20 21 20 [MASK] 22 20 22 [SEP] [MASK] 20 22 [MASK] 18 15 14 13 12 11 10 8 9 8 7 5 4 3 4 3 2 1 0 2 1 2 1 0 2 0 2 3 7 8 7 4 5 7 6 7 5 7 4 7 8 9 8 7 4 [SEP] [MASK] 22 23 18 23 24 26 25 26 25 26 27 28 29 28 29 26 25 24 26 24 26 24 25 24 25 26 25 24 26 25 24 23 24 25 26 25 26 27 26 27 26 29 30 18 15 16 15 18 [SEP] [MASK] 20 21 22 [MASK] 20 21 20 22 23 22 21 22 [MASK] 22 21 22 [MASK] 22 23 18 17 16 17 16 15 14 15 16 18 23 24 25 26 27 28 27 28 29 28 29 28 29 30 29 30 29 28 27 [SEP] [MASK] 22 21 22 20 [MASK] 20 [MASK] 18 [MASK] 20 22 21 20 21 22 [MASK] 18 23 18 30 29 30 31 32 33 32 31 32 33 34 33 53 54 53 52 51 50 49 48 49 48 47 48 47 48 49 51 48
22
23
19
[CLS] [MASK] 18 [MASK] 22 23 22 21 22 21 20 22 21 22 21 20 21 22 [MASK] 20 21 22 21 20 22 [MASK] 18 [MASK] 22 23 22 20 22 [MASK] 20 22 20 22 23 24 26 29 28 29 28 29 26 27 26 27 [SEP] [MASK] 18 15 11 10 11 15 16 15 11 10 9 10 11 13 12 13 14 15 14 13 12 13 11 13 11 12 13 11 10 9 10 11 15 14 13 11 12 13 11 12 11 13 12 13 14 13 14 15 [SEP] [MASK] 18 15 11 15 16 18 [MASK] 20 [MASK] 18 23 22 23 18 15 18 15 14 15 18 30 18 23 24 23 18 23 18 [MASK] 18 15 16 17 18 30 29 30 31 32 31 30 29 28 29 30 29 28 29 [SEP] [MASK] 20 [MASK] 20 21 22 21 22 20 21 20 22 23 18 23 24 25 24 26 29 28 27 26 29 30 31 30 18 17 18 23 18 30 29 30 18 [MASK] 18 23 18 23 24 25 26 29 28 27 26 25 [SEP] [MASK] 20 21 20 [MASK] 20 21 20 21 20 22 21 22 23 18 17 18 15 16 15 14 15 11 12 11 12 11 13 14 13 14 13 14 13 12 13 14 15 16 15 14 15 16 17 18 17 18 [MASK] 18 [SEP] [MASK] 20 [MASK] 20 22 21 20 21 20 22 21 20 [MASK] 22 21 20 [MASK] 20 [MASK] 18 [MASK] 22 23 18 23 24 26 27 28 29 30 18 15 18 23 24 23 22 20 21 20 22 21 20 [MASK] 22 [MASK] 20 22
22
24
19
[CLS] [MASK] 18 16 17 16 15 14 13 14 15 11 13 11 10 9 10 8 9 10 11 15 11 12 13 14 13 14 13 14 15 14 15 14 13 12 11 15 18 [MASK] 22 21 20 21 20 21 22 23 24 26 [SEP] [MASK] 20 22 [MASK] 20 [MASK] 20 [MASK] 22 23 18 23 22 20 [MASK] 22 23 24 25 26 29 30 31 30 31 30 18 [MASK] 18 17 18 16 17 18 30 31 30 31 32 31 30 18 [MASK] 22 21 22 23 22 [MASK] [SEP] [MASK] 20 21 20 [MASK] 18 30 31 32 31 32 31 32 33 34 35 33 32 33 32 31 30 31 32 31 32 33 34 35 34 35 36 37 38 36 37 38 36 37 36 37 38 36 37 36 35 33 34 35 [SEP] [MASK] 20 21 20 21 20 21 22 23 18 17 18 17 16 18 15 18 16 17 18 30 31 32 31 30 31 32 31 30 31 30 31 30 31 30 31 30 18 16 18 17 18 16 17 16 17 16 18 15 [SEP] [MASK] 20 21 20 [MASK] 18 16 17 18 17 16 15 18 15 14 13 11 15 14 13 14 15 14 15 16 18 [MASK] 22 23 18 [MASK] 18 16 15 14 15 16 17 18 [MASK] 22 20 21 22 23 24 25 26 29 [SEP] [MASK] 22 23 18 17 16 17 16 15 14 13 12 13 12 13 14 13 11 10 9 10 11 10 8 9 8 9 8 7 4 7 4 7 6 7 6 7 6 5 6 7 5 7 6 5 6 7 5 4
22
25
19
[CLS] [MASK] 20 [MASK] 22 23 18 23 24 23 22 23 24 25 26 24 26 27 26 29 30 31 32 33 34 35 36 37 38 37 36 38 39 40 41 43 39 35 34 35 39 35 39 38 39 40 43 42 41 43 [SEP] [MASK] 22 20 22 23 22 20 21 22 23 24 26 25 24 25 24 23 18 17 18 16 18 30 18 [MASK] 20 22 [MASK] 22 23 24 23 18 [MASK] 20 21 22 20 22 21 22 20 21 22 [MASK] 22 [MASK] 20 21 [SEP] [MASK] 22 20 21 20 22 23 22 [MASK] 20 22 20 [MASK] 18 16 18 17 18 23 22 23 22 [MASK] 22 20 22 20 21 22 20 [MASK] 18 23 24 26 29 26 24 25 26 24 25 24 26 29 26 25 24 23 [SEP] [MASK] 20 21 22 21 22 21 22 23 18 30 31 32 31 32 33 35 34 33 53 55 54 53 52 53 55 54 55 54 55 56 58 59 58 59 58 56 57 58 56 57 58 57 56 57 56 58 57 56 [SEP] [MASK] 22 21 20 21 22 21 20 [MASK] 18 23 18 17 18 [MASK] 20 [MASK] 20 21 22 20 [MASK] 22 20 21 20 [MASK] 22 [MASK] 20 22 20 21 20 21 20 [MASK] 20 22 20 [MASK] 22 21 22 23 24 25 24 25 [SEP] [MASK] 20 [MASK] 18 17 18 17 16 17 18 23 24 25 24 23 22 [MASK] 22 23 18 [MASK] 22 21 22 20 21 20 [MASK] 18 16 17 18 30 31 30 31 30 31 32 31 30 31 32 31 32 31 32 31 32
22
26
19
[CLS] [MASK] 22 21 22 21 22 23 18 [MASK] 18 17 16 17 18 16 18 [MASK] 22 21 20 [MASK] 22 23 22 [MASK] 20 [MASK] 18 17 18 16 15 18 30 31 32 31 32 33 32 31 32 31 30 29 28 27 26 27 [SEP] [MASK] 20 [MASK] 22 20 [MASK] 20 22 [MASK] 20 21 22 21 20 22 23 22 23 18 16 15 18 17 16 17 16 15 11 10 9 8 7 6 5 7 5 4 5 4 7 5 6 7 3 4 3 7 6 7 [SEP] [MASK] 22 [MASK] 18 17 18 16 18 [MASK] 22 20 21 22 [MASK] 22 20 [MASK] 22 20 21 22 21 22 21 20 21 20 21 22 [MASK] 18 17 16 15 14 13 14 13 11 10 11 12 11 13 14 15 14 13 14 [SEP] [MASK] 22 21 22 21 22 23 24 25 26 24 26 27 28 27 28 29 28 29 26 24 23 18 23 18 16 18 23 22 20 22 [MASK] 22 21 22 [MASK] 20 [MASK] 18 23 24 23 24 26 27 26 27 28 27 [SEP] [MASK] 18 23 24 26 27 28 27 28 29 30 31 32 33 32 33 44 45 46 45 47 48 51 50 51 48 51 52 53 54 53 55 53 52 51 52 53 33 32 31 32 33 32 33 34 33 35 39 38 [SEP] [MASK] 22 21 20 21 22 [MASK] 18 23 24 25 26 27 26 25 26 25 26 27 26 24 25 26 25 24 26 27 26 25 26 27 28 27 26 27 26 25 24 25 26 24 23 22 23 18 23 22 23 24
22
27
19
[CLS] [MASK] 18 17 16 17 16 18 [MASK] 18 [MASK] 18 [MASK] 18 16 18 17 18 17 16 15 16 15 14 13 11 13 14 13 12 11 15 18 17 16 15 16 18 23 24 26 25 26 25 24 25 24 23 22 21 [SEP] [MASK] 18 23 22 21 22 [MASK] 18 16 18 17 18 17 16 17 16 17 18 23 22 23 22 20 22 23 22 [MASK] 22 23 18 17 18 17 18 17 18 17 16 17 18 30 29 26 29 28 27 26 25 24 [SEP] [MASK] 18 17 18 17 18 [MASK] 22 21 22 [MASK] 18 16 18 16 17 16 17 16 17 18 17 18 [MASK] 18 30 29 30 29 26 27 28 29 30 31 30 29 26 25 26 27 28 27 28 27 28 29 28 27 [SEP] [MASK] 18 16 18 30 31 30 29 28 29 28 29 28 27 28 29 28 29 28 29 26 29 26 29 28 27 28 29 28 29 30 31 30 29 30 18 17 18 16 17 16 17 16 18 23 18 15 16 17 [SEP] [MASK] 22 [MASK] 18 [MASK] 20 21 22 23 24 25 24 25 26 25 24 26 25 24 25 24 25 26 27 28 29 30 29 30 18 17 16 18 30 31 32 33 32 33 53 52 53 33 32 33 44 33 34 33 [SEP] [MASK] 18 17 16 17 16 18 15 16 18 [MASK] 22 21 20 [MASK] 18 16 17 18 30 31 32 31 32 33 32 33 44 47 44 33 34 35 34 35 34 33 35 36 38 36 37 36 37 38 36 38 39 40
22
28
19
[CLS] [MASK] 20 22 [MASK] 20 21 20 22 21 20 21 20 21 22 21 20 21 22 23 18 15 18 [MASK] 22 [MASK] 20 [MASK] 22 21 22 20 22 [MASK] 20 22 21 20 21 22 21 20 21 22 21 22 21 22 23 24 [SEP] [MASK] 18 [MASK] 20 [MASK] 20 22 23 24 26 25 26 24 26 27 26 27 28 27 28 29 28 27 26 25 24 23 24 25 26 25 24 23 24 26 25 26 29 26 24 23 24 26 29 28 27 26 27 28 [SEP] [MASK] 18 [MASK] 20 22 20 [MASK] 22 23 24 23 24 26 25 26 29 30 29 28 29 26 29 28 29 28 29 26 27 28 27 28 29 28 29 28 27 28 29 26 27 28 27 26 27 28 27 28 27 28 [SEP] [MASK] 22 21 22 [MASK] 20 [MASK] 22 23 22 [MASK] 22 [MASK] 20 [MASK] 18 16 15 18 23 24 25 24 25 26 27 28 29 28 27 28 29 26 27 28 27 28 29 26 27 26 29 28 27 28 29 30 18 15 [SEP] [MASK] 20 [MASK] 18 23 22 21 22 20 22 21 22 [MASK] 22 20 21 22 [MASK] 20 [MASK] 18 23 18 17 18 16 15 14 13 11 10 9 8 9 10 11 13 11 13 12 13 14 15 16 15 14 13 11 12 [SEP] [MASK] 18 17 18 17 16 17 16 15 14 13 11 12 13 14 13 12 11 15 18 16 18 23 24 26 25 26 29 28 29 26 25 26 29 28 27 28 27 28 29 30 31 30 29 28 29 28 29 30
22
29
19
[CLS] [MASK] 22 [MASK] 18 16 18 16 17 18 [MASK] 20 [MASK] 18 [MASK] 18 15 16 17 18 30 31 30 31 30 31 30 18 23 24 26 25 24 26 27 26 27 28 27 26 25 26 25 26 24 26 27 26 24 26 [SEP] [MASK] 22 23 22 23 24 23 18 15 14 15 16 15 16 18 17 16 18 16 17 16 15 18 [MASK] 22 20 21 22 21 22 23 18 16 18 17 16 17 18 15 18 15 14 13 11 12 13 12 13 12 [SEP] [MASK] 18 16 17 16 17 16 18 23 22 20 [MASK] 22 21 22 20 21 20 21 22 21 22 [MASK] 18 15 16 17 18 30 18 17 18 [MASK] 20 21 22 21 22 23 24 23 24 23 22 21 22 21 22 21 [SEP] [MASK] 18 30 31 30 18 [MASK] 22 21 22 23 18 16 17 16 18 17 18 [MASK] 22 21 22 21 20 22 21 20 22 [MASK] 18 16 18 16 17 16 15 14 13 11 10 9 8 9 10 9 8 9 10 8 [SEP] [MASK] 22 21 20 21 22 [MASK] 20 21 20 [MASK] 20 [MASK] 22 21 22 20 22 21 22 [MASK] 18 23 24 25 24 23 24 23 22 20 [MASK] 22 23 24 23 18 17 16 17 18 30 31 30 29 26 25 24 25 [SEP] [MASK] 20 22 23 24 23 22 21 22 20 21 22 21 22 21 20 [MASK] 18 [MASK] 18 23 22 23 24 26 25 24 25 26 24 25 24 25 26 25 24 25 24 25 24 26 29 28 29 28 27 28 27 26
22
30
19
[CLS] [MASK] 20 22 20 22 21 22 21 22 21 20 21 22 21 22 [MASK] 20 [MASK] 20 [MASK] 18 16 18 [MASK] 18 17 18 23 18 17 16 17 16 18 16 18 30 18 16 18 17 16 17 18 16 18 23 24 23 [SEP] [MASK] 22 21 20 21 20 [MASK] 20 [MASK] 22 [MASK] 22 20 21 20 22 21 22 23 24 25 24 23 24 25 24 23 24 25 26 24 23 22 21 20 21 22 20 21 22 21 20 21 22 23 18 23 22 20 [SEP] [MASK] 18 30 18 23 18 [MASK] 20 21 20 [MASK] 22 [MASK] 18 15 11 12 11 15 14 15 11 12 11 12 13 11 12 13 12 13 14 15 16 17 16 17 18 15 16 15 14 13 11 12 13 12 13 12 [SEP] [MASK] 22 [MASK] 22 20 21 22 21 22 21 22 21 20 21 22 23 24 26 24 25 26 24 26 27 28 29 26 25 24 26 24 25 26 29 30 31 30 31 30 29 26 29 28 29 26 25 26 25 24 [SEP] [MASK] 18 16 17 18 16 17 18 30 31 32 33 34 35 39 35 39 35 33 35 39 35 33 44 33 34 35 34 33 32 31 32 33 44 47 45 47 48 47 46 47 48 49 50 49 51 52 51 49 [SEP] [MASK] 22 21 20 21 20 [MASK] 22 21 22 21 22 [MASK] 20 22 21 20 22 21 22 21 22 [MASK] 18 30 29 28 29 28 29 28 29 28 27 28 27 28 27 28 29 28 27 26 25 26 27 28 27 28
22
31
19
[CLS] [MASK] 18 17 18 30 31 32 31 30 29 26 25 26 29 28 27 26 27 26 27 28 29 28 27 28 27 28 29 28 27 28 29 28 27 26 27 26 27 28 27 28 27 26 24 25 24 26 29 28 [SEP] [MASK] 22 23 24 25 26 25 26 24 25 26 25 26 24 26 29 30 29 26 29 28 29 30 29 30 31 30 18 23 22 [MASK] 20 22 21 20 [MASK] 22 21 22 23 18 16 18 23 24 25 26 24 23 [SEP] [MASK] 20 [MASK] 18 17 16 18 30 18 16 15 11 15 14 15 16 18 30 31 30 31 30 18 [MASK] 18 23 22 23 18 [MASK] 18 23 24 25 26 29 28 27 28 29 30 31 32 31 30 18 17 18 15 [SEP] [MASK] 18 17 18 [MASK] 20 21 20 [MASK] 20 21 22 [MASK] 20 21 22 23 18 30 31 30 29 28 27 26 29 30 29 26 24 25 26 27 28 27 26 27 28 27 26 29 30 18 [MASK] 20 [MASK] 18 17 16 [SEP] [MASK] 22 23 22 21 20 21 20 21 22 23 22 23 22 21 22 21 20 21 20 [MASK] 18 30 31 32 33 35 36 38 39 40 43 39 38 37 36 38 37 36 37 36 37 36 37 38 39 35 34 33 [SEP] [MASK] 20 22 23 22 20 21 22 23 18 15 16 15 16 18 [MASK] 22 [MASK] 20 21 22 [MASK] 20 21 20 21 20 22 21 22 [MASK] 20 21 20 [MASK] 22 20 22 [MASK] 18 30 18 17 16 18 16 17 16 18
22
32
19
[CLS] [MASK] 22 [MASK] 22 21 20 21 20 21 20 21 20 21 22 21 22 21 22 23 24 25 24 26 25 26 24 26 29 28 27 26 24 25 24 25 26 24 25 24 25 26 29 26 27 26 25 24 26 24 [SEP] [MASK] 18 [MASK] 18 30 31 30 29 30 31 30 18 17 18 23 24 25 26 27 28 29 28 27 26 29 28 29 26 25 26 24 25 24 25 24 25 26 29 28 29 28 27 28 29 26 25 26 27 26 [SEP] [MASK] 20 22 [MASK] 18 17 16 18 17 18 23 22 23 22 23 18 30 29 30 31 30 31 30 31 32 33 53 52 51 48 47 46 45 44 43 40 39 38 37 38 37 36 35 34 33 34 33 44 33 [SEP] [MASK] 18 [MASK] 20 22 [MASK] 22 21 22 21 22 21 20 21 22 21 22 23 24 25 24 23 24 25 24 26 24 25 26 25 24 23 18 17 16 17 16 18 17 18 17 16 15 18 [MASK] 22 [MASK] 18 17 [SEP] [MASK] 20 21 20 [MASK] 18 16 15 14 13 14 15 11 13 11 13 11 12 11 10 9 10 8 9 10 11 12 11 12 11 13 14 13 11 10 9 8 9 10 11 10 11 12 13 12 11 12 11 12 [SEP] [MASK] 22 21 20 21 22 21 20 21 22 20 [MASK] 20 [MASK] 22 21 22 [MASK] 18 17 16 17 18 15 14 15 18 30 29 30 29 28 29 28 27 28 27 28 27 28 27 28 29 30 31 30 31 30 18
22
33
19
[CLS] [MASK] 20 [MASK] 18 17 16 17 18 30 18 17 18 17 16 18 15 11 10 11 13 12 13 12 11 15 18 17 18 30 31 30 31 32 31 32 33 34 35 36 38 37 38 36 38 37 36 37 36 35 [SEP] [MASK] 22 [MASK] 20 21 22 23 18 16 17 16 18 23 18 17 16 17 16 15 16 15 18 [MASK] 22 20 22 21 20 21 20 21 22 21 22 21 22 [MASK] 18 16 18 [MASK] 18 15 11 10 9 10 8 7 [SEP] [MASK] 18 17 16 15 14 13 11 13 14 15 14 13 12 11 13 12 13 12 11 10 11 12 13 14 13 11 15 11 12 13 14 13 12 13 14 13 12 11 13 14 13 11 15 18 30 18 16 17 [SEP] [MASK] 22 [MASK] 20 [MASK] 18 17 18 16 18 30 18 23 18 16 18 30 18 23 22 [MASK] 18 [MASK] 20 21 20 22 21 20 22 21 22 23 18 15 14 13 12 13 14 13 14 13 14 13 12 13 14 13 [SEP] [MASK] 22 21 22 [MASK] 20 [MASK] 18 [MASK] 20 [MASK] 22 20 21 20 21 22 21 22 20 [MASK] 20 [MASK] 18 30 31 30 18 17 18 23 22 21 20 21 22 20 [MASK] 18 23 22 20 [MASK] 18 23 22 23 24 23 [SEP] [MASK] 18 30 18 30 31 30 31 32 33 35 36 38 37 36 37 36 35 36 38 36 37 38 39 43 44 47 45 46 47 48 51 52 51 50 49 50 49 48 49 50 51 48 47 46 45 46 45 46
22
34
19
[CLS] [MASK] 18 30 29 28 27 26 24 25 24 23 22 23 18 17 16 17 18 16 17 16 17 18 23 24 23 18 17 16 15 14 15 18 30 29 30 31 32 33 34 33 32 33 35 39 43 39 40 43 [SEP] [MASK] 20 [MASK] 22 23 18 23 22 [MASK] 20 21 22 23 18 [MASK] 18 [MASK] 20 21 22 21 22 21 22 [MASK] 18 16 18 16 17 16 18 17 18 30 29 26 27 28 29 30 18 [MASK] 20 21 20 22 23 22 [SEP] [MASK] 18 30 31 32 33 35 36 37 38 39 40 43 42 43 40 39 43 42 41 43 42 43 44 43 42 41 43 42 43 41 42 43 42 43 41 42 41 43 42 43 40 41 42 41 40 39 40 43 [SEP] [MASK] 22 21 20 [MASK] 20 [MASK] 18 30 18 15 16 17 18 30 18 30 18 23 22 [MASK] 18 30 31 32 31 30 31 32 33 32 31 30 31 32 33 53 55 54 53 54 55 53 54 55 56 55 56 58 [SEP] [MASK] 18 [MASK] 22 21 20 [MASK] 20 [MASK] 20 22 20 21 20 [MASK] 20 22 21 22 20 21 22 [MASK] 18 17 16 17 18 17 18 17 18 16 17 18 23 24 25 24 23 24 26 27 26 24 23 24 23 24 [SEP] [MASK] 20 21 20 [MASK] 22 23 24 23 24 25 26 25 26 24 23 22 [MASK] 18 17 16 18 17 18 [MASK] 18 16 15 18 30 31 32 31 30 29 28 27 28 27 28 27 26 27 28 27 26 29 28 29
22
35
19
[CLS] [MASK] 18 17 16 17 18 17 16 18 16 18 30 29 28 27 28 29 26 27 26 27 28 29 28 29 30 31 30 29 26 25 26 27 26 25 24 26 25 24 25 24 26 29 30 29 26 25 24 25 [SEP] [MASK] 20 21 22 20 21 20 [MASK] 18 [MASK] 22 [MASK] 18 23 22 21 22 21 22 23 24 25 26 27 26 29 30 18 23 18 17 18 23 24 23 24 26 25 24 26 27 28 29 26 24 23 24 25 24 [SEP] [MASK] 20 [MASK] 20 [MASK] 22 20 [MASK] 22 [MASK] 18 16 18 17 16 17 18 30 29 28 29 28 29 30 31 32 31 32 33 32 31 32 31 32 33 32 33 35 34 33 44 43 40 41 42 43 41 42 41 [SEP] [MASK] 20 22 [MASK] 22 21 22 23 18 23 24 25 24 26 24 26 27 28 29 28 27 26 29 28 29 28 29 30 31 30 29 30 31 30 31 32 33 32 33 32 31 30 31 32 31 32 33 32 33 [SEP] [MASK] 20 21 22 20 21 20 22 [MASK] 22 [MASK] 20 [MASK] 18 23 18 [MASK] 20 22 20 [MASK] 22 21 22 21 20 [MASK] 20 [MASK] 18 17 18 15 14 15 14 15 16 18 17 16 18 16 17 16 17 18 17 16 [SEP] [MASK] 22 21 20 21 20 21 20 21 20 [MASK] 18 16 17 16 17 18 30 18 16 15 16 15 14 13 12 13 12 11 13 12 11 12 11 13 11 10 9 10 8 7 4 7 6 5 7 4 5 4
22
36
19
[CLS] [MASK] 22 21 20 21 22 21 20 22 [MASK] 20 21 20 [MASK] 18 23 22 [MASK] 20 [MASK] 20 21 22 21 20 21 22 20 21 20 21 20 21 22 21 22 21 22 20 [MASK] 20 21 20 [MASK] 18 23 22 20 22 [SEP] [MASK] 22 23 22 23 24 23 24 23 24 23 22 20 [MASK] 18 16 15 14 13 12 13 14 13 12 13 14 15 11 10 8 9 8 7 4 5 4 5 7 3 7 4 3 7 4 7 5 6 5 7 [SEP] [MASK] 18 23 24 26 27 28 27 28 29 28 27 28 27 28 29 30 18 23 24 25 26 29 28 29 28 29 26 25 26 27 26 29 28 29 26 25 24 25 24 25 26 27 26 29 28 27 26 25 [SEP] [MASK] 20 21 20 21 22 21 20 21 22 20 22 21 20 22 21 22 [MASK] 20 21 22 23 18 16 18 23 24 23 22 21 22 21 22 20 21 22 [MASK] 18 17 18 23 22 [MASK] 18 30 31 30 31 30 [SEP] [MASK] 22 20 [MASK] 22 21 20 21 20 [MASK] 18 16 17 18 17 18 17 18 15 16 15 14 13 11 15 18 [MASK] 18 23 18 16 18 15 16 17 18 30 29 26 29 26 25 24 26 27 26 27 28 27 [SEP] [MASK] 18 17 16 18 30 31 30 31 32 31 32 31 30 18 17 16 17 16 15 14 15 14 13 11 12 13 11 12 13 12 13 14 13 12 13 14 13 12 11 12 13 11 12 13 11 12 11 15
22
37
19
[CLS] [MASK] 20 [MASK] 18 17 16 17 18 16 17 16 15 14 15 18 17 16 18 [MASK] 20 22 23 24 26 24 25 26 25 24 25 26 25 24 26 27 26 25 26 25 26 27 28 29 30 18 15 11 13 14 [SEP] [MASK] 22 21 22 [MASK] 18 17 18 [MASK] 18 30 31 30 18 16 18 23 18 23 24 23 22 [MASK] 18 16 18 [MASK] 20 21 22 21 20 21 20 21 22 21 22 20 22 [MASK] 20 21 22 21 20 [MASK] 22 21 [SEP] [MASK] 18 17 16 18 17 16 17 16 18 17 16 18 17 18 15 18 17 16 18 15 11 15 11 10 9 8 10 9 10 9 10 11 10 11 12 11 15 14 15 11 10 9 8 9 8 7 3 2 [SEP] [MASK] 18 16 17 18 15 18 17 18 16 17 16 18 [MASK] 18 23 18 15 16 15 14 15 18 15 14 13 14 15 11 13 11 12 13 11 12 11 13 12 11 12 11 12 11 15 16 15 14 15 14 [SEP] [MASK] 18 17 18 16 17 16 18 17 16 18 17 18 [MASK] 18 30 18 17 18 15 16 18 17 16 18 17 18 23 24 23 24 25 24 23 24 25 26 25 24 23 22 [MASK] 22 23 18 17 18 23 24 [SEP] [MASK] 20 22 21 20 [MASK] 18 17 16 17 16 15 18 [MASK] 22 23 22 20 21 22 23 22 21 22 20 [MASK] 20 22 23 24 26 27 26 29 28 29 28 27 28 29 26 25 26 25 24 25 24 23 24
22
38
19
[CLS] [MASK] 22 20 [MASK] 22 21 22 21 20 21 22 20 21 20 21 22 21 22 [MASK] 18 30 18 15 16 17 18 30 29 26 27 26 29 26 25 24 23 18 30 31 30 31 30 18 15 18 30 31 30 18 [SEP] [MASK] 22 21 20 22 20 21 20 22 20 21 22 [MASK] 22 23 22 [MASK] 18 17 16 17 18 30 29 28 29 30 29 30 18 16 18 17 16 18 15 18 15 16 17 16 15 11 12 13 12 11 12 13 [SEP] [MASK] 22 23 22 23 22 [MASK] 18 30 29 28 29 30 18 17 18 16 18 17 16 15 14 13 12 13 14 13 12 13 12 11 13 14 15 18 23 24 25 26 27 28 27 26 27 28 29 30 18 23 [SEP] [MASK] 22 21 22 [MASK] 18 15 14 13 12 13 14 13 12 13 11 13 12 13 12 11 12 13 14 13 14 15 14 15 11 12 13 11 13 11 13 12 13 11 13 14 13 11 15 14 13 14 15 11 [SEP] [MASK] 18 17 18 17 16 17 16 17 18 15 18 17 16 18 23 24 23 18 16 18 30 29 26 25 24 25 26 25 26 27 26 29 26 25 26 27 26 25 24 23 24 23 18 30 31 32 31 30 [SEP] [MASK] 18 23 22 23 22 [MASK] 22 [MASK] 18 17 16 18 15 16 15 14 13 14 15 11 12 11 15 14 15 18 15 11 12 13 12 13 12 11 10 11 12 11 15 14 13 11 12 11 12 13 12 11
22
39
19
[CLS] [MASK] 18 30 29 26 27 28 29 26 29 28 29 28 27 26 24 25 24 26 29 26 25 24 26 27 26 29 28 27 26 27 28 27 26 24 26 25 26 25 24 26 25 26 25 24 25 26 24 23 [SEP] [MASK] 22 21 20 21 20 [MASK] 22 [MASK] 20 21 20 21 22 20 22 [MASK] 22 [MASK] 22 20 [MASK] 18 17 16 17 18 15 11 12 13 12 13 11 10 11 12 13 12 13 12 13 12 13 14 13 14 13 12 [SEP] [MASK] 22 21 22 [MASK] 20 22 [MASK] 18 [MASK] 20 21 22 21 20 22 23 24 23 24 25 24 23 18 17 16 15 18 17 18 30 31 32 31 30 31 32 33 34 35 39 40 39 40 43 41 43 39 35 [SEP] [MASK] 22 20 21 22 21 20 22 23 18 17 18 23 24 26 25 26 29 28 27 28 29 26 24 23 18 17 16 17 16 18 17 18 [MASK] 22 23 24 23 24 23 22 23 22 20 22 23 22 20 22 [SEP] [MASK] 18 23 18 17 18 15 14 15 16 18 30 31 32 33 34 35 36 37 38 37 38 36 35 34 35 34 33 35 33 53 54 55 56 58 57 56 57 56 55 54 55 56 55 53 52 53 55 53 [SEP] [MASK] 20 [MASK] 18 17 18 30 31 30 29 28 29 28 27 26 27 26 25 26 27 28 27 26 25 24 25 24 26 27 28 29 30 18 [MASK] 18 16 15 14 13 14 13 12 13 12 13 12 11 15 16
22
40
19
[CLS] [MASK] 20 21 22 21 22 20 21 22 23 24 25 24 26 25 26 25 26 27 28 29 30 31 32 33 35 33 44 43 44 43 42 41 40 43 42 43 42 43 39 43 41 42 41 42 43 42 41 40 [SEP] [MASK] 20 [MASK] 22 20 21 20 22 21 20 [MASK] 22 [MASK] 22 [MASK] 20 21 20 [MASK] 22 21 22 [MASK] 20 [MASK] 22 20 21 20 [MASK] 18 16 18 16 17 16 17 18 15 11 12 11 12 11 15 16 17 18 30 [SEP] [MASK] 18 30 31 32 33 32 31 30 31 32 33 34 33 53 33 53 52 51 50 51 48 49 51 50 49 50 51 52 51 48 51 48 51 52 51 49 51 52 53 54 55 53 54 55 54 55 54 53 [SEP] [MASK] 22 20 21 22 [MASK] 18 17 18 17 18 23 18 30 18 30 31 30 29 30 31 32 33 34 35 34 33 34 35 34 35 36 38 37 36 38 37 36 35 33 32 31 32 33 34 35 36 35 33 [SEP] [MASK] 22 [MASK] 20 21 22 20 [MASK] 20 [MASK] 22 21 22 23 22 23 18 15 11 10 8 10 8 9 10 9 10 8 10 9 10 11 13 11 10 11 12 11 10 9 10 8 9 8 7 4 5 6 7 [SEP] [MASK] 22 [MASK] 18 16 15 16 18 17 16 17 16 15 18 16 18 16 18 16 18 23 18 15 16 18 17 16 18 17 16 18 [MASK] 18 16 18 30 29 28 27 26 25 26 24 25 26 25 24 26 24
22
41
19
[CLS] [MASK] 18 16 15 11 10 8 7 8 9 8 9 8 9 8 7 6 5 4 3 7 6 7 8 9 8 10 9 8 10 8 9 10 8 10 9 8 7 8 9 8 9 10 11 10 8 10 8 7 [SEP] [MASK] 22 21 22 23 24 25 26 27 28 27 28 27 26 25 26 25 26 25 26 27 28 27 28 29 30 18 17 16 15 11 12 13 12 11 13 14 13 11 15 16 15 14 15 16 17 18 17 18 [SEP] [MASK] 22 [MASK] 22 20 22 21 22 20 21 22 21 22 20 21 20 22 [MASK] 22 20 21 20 22 20 [MASK] 18 15 14 13 14 15 18 16 18 17 16 17 16 15 14 13 12 13 11 10 8 10 11 15 [SEP] [MASK] 22 21 20 21 22 20 [MASK] 18 23 24 25 26 29 28 27 28 27 26 29 28 27 26 29 28 29 30 31 30 31 32 31 32 33 53 55 54 53 55 53 54 53 55 53 52 51 48 51 49 [SEP] [MASK] 20 21 20 22 21 20 21 22 21 20 21 22 23 18 23 24 26 24 26 24 25 24 25 24 25 26 27 26 29 28 27 28 27 28 27 28 27 26 27 26 24 25 26 25 24 25 26 27 [SEP] [MASK] 22 23 18 15 14 15 18 16 17 16 18 30 29 28 27 26 24 23 22 20 22 20 [MASK] 20 21 20 [MASK] 18 30 31 30 29 26 25 26 27 26 25 26 29 28 29 30 31 32 33 35 34
22
42
19
[CLS] [MASK] 22 [MASK] 22 21 22 20 22 20 22 23 18 17 18 30 31 30 31 30 31 32 33 34 33 44 45 46 47 45 47 46 45 47 44 33 53 52 51 50 49 50 51 52 53 52 53 54 53 55 [SEP] [MASK] 20 [MASK] 20 22 23 24 23 18 17 16 18 17 18 30 29 28 27 28 27 26 27 28 29 28 29 26 25 24 25 26 27 28 29 28 27 28 29 30 31 32 33 32 31 32 33 32 31 30 [SEP] [MASK] 22 20 22 21 22 21 22 20 21 20 21 22 21 22 21 22 [MASK] 20 [MASK] 20 [MASK] 22 21 20 21 20 [MASK] 18 17 16 17 18 16 17 18 30 31 32 31 30 18 16 18 [MASK] 18 16 17 16 [SEP] [MASK] 18 23 18 [MASK] 22 [MASK] 20 [MASK] 22 20 [MASK] 20 [MASK] 22 21 22 21 22 20 22 20 [MASK] 22 23 18 15 18 16 17 16 15 16 17 18 15 14 15 18 [MASK] 18 15 11 13 14 15 14 13 12 [SEP] [MASK] 20 21 22 20 21 20 21 20 [MASK] 20 [MASK] 22 20 22 21 20 22 20 22 20 21 20 [MASK] 20 22 20 [MASK] 22 21 20 [MASK] 22 21 22 [MASK] 20 22 20 21 20 [MASK] 20 [MASK] 18 16 17 16 15 [SEP] [MASK] 22 20 [MASK] 20 [MASK] 22 21 20 21 20 22 21 20 22 21 22 21 22 20 21 22 21 20 [MASK] 20 21 20 22 20 21 22 21 20 21 22 20 [MASK] 22 20 [MASK] 22 21 22 23 22 [MASK] 20 [MASK]
22
43
19
[CLS] [MASK] 18 [MASK] 18 23 18 16 17 16 17 16 15 18 16 18 [MASK] 22 [MASK] 20 21 22 23 24 25 26 29 26 27 28 27 26 25 26 24 26 24 23 24 25 24 26 29 28 29 28 29 30 18 17 [SEP] [MASK] 22 [MASK] 20 21 22 21 20 22 23 24 25 24 26 29 26 25 26 29 28 29 26 27 28 29 28 27 26 24 23 18 17 16 18 23 24 26 25 24 23 22 23 18 23 24 25 24 23 22 [SEP] [MASK] 20 22 20 22 20 21 20 [MASK] 18 17 18 [MASK] 22 20 21 20 [MASK] 18 30 18 17 16 18 [MASK] 22 20 [MASK] 18 30 31 32 31 30 18 17 18 16 17 16 15 14 13 11 13 12 13 14 15 [SEP] [MASK] 20 21 20 [MASK] 18 16 18 30 29 28 29 26 25 26 24 25 26 24 23 24 23 18 17 16 17 18 17 16 17 18 15 18 [MASK] 20 [MASK] 20 21 22 21 20 21 22 21 20 22 21 20 [MASK] [SEP] [MASK] 18 16 15 14 13 11 10 9 10 9 8 7 4 5 6 5 7 8 9 10 11 12 11 15 16 17 16 15 16 17 16 18 30 29 28 27 26 29 28 29 28 29 28 29 30 31 32 33 [SEP] [MASK] 22 20 21 20 21 20 [MASK] 22 21 20 21 22 [MASK] 20 21 20 22 21 22 [MASK] 18 23 22 23 18 17 18 17 16 18 [MASK] 22 21 22 21 20 [MASK] 20 22 [MASK] 20 22 21 22 23 22 20 [MASK]
22
44
19
[CLS] [MASK] 20 21 22 23 22 21 20 22 21 20 21 20 21 22 [MASK] 20 [MASK] 22 23 22 21 22 21 22 23 24 26 29 26 27 26 29 26 27 26 25 24 25 26 25 24 25 24 25 24 25 26 25 [SEP] [MASK] 22 21 20 [MASK] 20 21 20 22 [MASK] 20 21 20 21 22 [MASK] 20 21 22 23 24 25 24 26 27 26 24 25 26 25 24 23 18 [MASK] 22 23 24 23 22 21 20 [MASK] 20 [MASK] 22 [MASK] 18 15 14 [SEP] [MASK] 20 21 22 20 21 20 [MASK] 18 23 22 [MASK] 22 23 18 15 18 16 15 16 15 14 15 18 [MASK] 22 21 20 21 22 20 [MASK] 22 [MASK] 18 [MASK] 18 15 18 23 18 16 17 18 23 18 17 18 30 [SEP] [MASK] 20 22 21 22 [MASK] 18 15 11 12 13 11 13 12 13 12 13 12 13 14 13 11 13 11 12 13 12 11 12 13 12 11 12 11 12 13 14 15 11 13 14 13 11 15 16 17 16 17 18 [SEP] [MASK] 22 [MASK] 20 22 23 24 25 26 25 26 25 24 23 24 23 22 20 [MASK] 20 21 20 22 [MASK] 18 15 18 17 16 18 15 16 17 16 17 18 17 16 18 16 15 16 17 18 17 16 18 17 16 [SEP] [MASK] 20 22 20 21 22 21 20 [MASK] 22 23 22 20 21 22 [MASK] 18 30 29 26 27 26 25 24 26 25 26 27 26 25 24 25 26 29 28 27 26 29 28 29 28 29 28 29 30 29 26 27 26
22
45
19
[CLS] [MASK] 22 20 22 [MASK] 22 23 18 17 18 23 24 25 26 24 25 24 25 24 25 26 27 26 27 26 29 26 24 25 26 27 26 24 23 22 21 20 21 22 20 [MASK] 20 21 20 [MASK] 22 20 21 20 [SEP] [MASK] 20 22 20 [MASK] 20 21 20 22 20 22 23 22 20 22 [MASK] 18 15 16 17 18 16 17 18 17 18 16 18 23 24 23 24 26 25 26 24 23 22 21 22 21 20 21 20 [MASK] 18 17 18 16 [SEP] [MASK] 20 21 22 23 22 20 [MASK] 22 21 22 21 20 21 20 22 [MASK] 22 21 20 22 [MASK] 20 21 22 [MASK] 20 22 [MASK] 18 17 18 15 11 13 14 13 14 13 14 15 11 10 11 15 14 15 18 17 [SEP] [MASK] 20 22 21 22 21 20 [MASK] 22 21 20 22 23 24 25 26 27 26 24 25 26 24 26 25 24 25 24 25 24 25 26 29 26 24 26 24 26 27 26 25 26 24 26 25 24 25 24 25 26 [SEP] [MASK] 18 17 18 15 14 13 14 15 16 17 18 30 29 30 31 32 31 30 29 30 29 28 27 26 25 26 27 28 27 28 27 28 27 28 27 28 27 28 29 30 31 32 31 32 31 32 33 35 [SEP] [MASK] 18 23 22 21 22 21 20 [MASK] 22 [MASK] 20 22 [MASK] 20 22 [MASK] 20 [MASK] 20 [MASK] 22 23 18 [MASK] 20 [MASK] 20 22 [MASK] 22 23 22 23 24 23 24 25 26 24 23 24 26 25 26 27 28 27 26
22
46
19
[CLS] [MASK] 18 [MASK] 20 22 21 22 23 22 23 24 26 25 24 23 18 30 31 30 31 32 31 32 33 44 45 46 47 45 47 48 49 50 49 51 48 47 45 47 44 45 46 47 48 49 50 49 51 52 [SEP] [MASK] 22 [MASK] 18 16 17 18 16 18 23 24 23 18 23 22 20 21 22 23 18 [MASK] 18 17 18 17 18 30 31 32 31 32 31 32 31 32 31 30 29 28 27 26 27 28 29 26 24 25 26 24 [SEP] [MASK] 18 17 18 17 18 17 16 17 16 17 18 17 16 15 14 15 18 17 16 17 18 17 16 18 30 18 16 17 18 30 31 30 29 26 29 28 29 28 29 28 29 26 24 23 22 23 18 17 [SEP] [MASK] 20 [MASK] 20 21 20 [MASK] 22 [MASK] 22 [MASK] 22 23 24 26 25 26 27 28 29 26 25 24 23 22 23 24 26 27 28 27 26 25 26 27 28 27 28 29 28 27 28 29 28 29 26 29 30 29 [SEP] [MASK] 20 [MASK] 22 21 22 20 21 22 23 22 21 22 23 22 23 18 23 24 26 25 24 26 25 24 23 24 26 29 28 29 28 27 26 29 28 27 28 29 28 27 28 27 28 29 28 27 26 27 [SEP] [MASK] 22 [MASK] 22 21 20 21 20 [MASK] 20 22 23 18 [MASK] 22 21 22 23 22 21 20 21 22 21 20 [MASK] 22 [MASK] 20 22 [MASK] 20 21 20 [MASK] 20 22 21 20 22 21 22 23 24 23 24 26 27 28
22
47
19
[CLS] [MASK] 18 16 17 16 17 18 30 29 28 29 30 31 30 29 28 29 26 25 26 27 28 29 26 27 28 29 28 29 30 18 17 18 16 18 23 18 17 18 16 17 18 30 18 16 18 17 16 15 [SEP] [MASK] 20 21 20 21 20 21 22 21 20 21 22 23 24 25 24 25 24 23 22 23 18 15 18 23 24 25 24 26 29 26 25 26 25 26 29 30 18 15 11 10 9 10 8 7 8 7 3 4 [SEP] [MASK] 18 [MASK] 18 15 14 15 11 10 8 7 3 2 1 0 1 0 1 0 2 0 1 2 1 0 1 0 1 2 0 1 2 1 0 2 0 2 1 2 0 1 0 1 2 0 1 2 1 0 [SEP] [MASK] 20 21 22 [MASK] 18 [MASK] 22 20 22 23 22 20 22 21 20 21 22 20 [MASK] 22 [MASK] 18 30 29 28 29 30 18 23 22 [MASK] 18 17 18 17 18 15 14 15 14 15 16 18 30 31 30 18 17 [SEP] [MASK] 22 [MASK] 18 30 31 30 31 30 18 15 18 30 29 30 29 30 31 32 33 34 33 53 52 51 48 47 44 47 44 45 46 45 46 45 46 45 47 44 33 53 55 54 53 52 53 33 53 55 [SEP] [MASK] 22 21 22 20 21 20 21 22 21 20 21 20 21 20 22 23 18 [MASK] 18 17 18 [MASK] 22 23 18 17 16 17 16 18 30 31 32 31 32 31 32 33 34 33 35 33 53 33 32 31 32 31
22
48
19
[CLS] [MASK] 20 21 22 21 20 [MASK] 18 17 18 [MASK] 22 23 22 21 22 20 21 22 21 20 [MASK] 18 15 11 15 14 13 11 12 11 13 11 12 13 14 13 11 12 13 11 12 11 12 11 13 12 11 13 [SEP] [MASK] 22 [MASK] 22 21 22 23 18 17 16 17 18 30 29 26 25 24 25 24 23 22 23 22 23 24 23 18 16 18 23 18 23 22 21 20 21 20 22 20 21 20 [MASK] 20 21 22 20 21 20 22 [SEP] [MASK] 22 23 18 [MASK] 18 [MASK] 22 [MASK] 20 21 22 23 22 21 20 [MASK] 18 30 29 26 29 28 27 26 25 24 25 24 26 24 25 26 25 24 25 24 25 26 25 26 27 26 25 26 24 26 29 26 [SEP] [MASK] 22 21 22 21 20 [MASK] 18 [MASK] 18 30 31 30 29 28 29 26 24 23 22 21 22 [MASK] 20 21 22 23 22 20 [MASK] 20 21 22 21 22 23 18 23 22 21 20 22 21 22 21 20 [MASK] 20 [MASK] [SEP] [MASK] 20 21 20 22 20 22 [MASK] 18 30 18 [MASK] 20 21 22 [MASK] 20 22 21 20 22 21 22 23 18 30 31 32 31 32 33 35 34 33 35 34 35 34 35 36 37 38 36 38 36 35 34 33 53 [SEP] [MASK] 18 17 16 17 18 15 11 15 11 13 12 13 11 15 14 15 14 13 11 10 9 10 9 10 9 10 11 15 14 15 11 13 14 15 11 13 12 13 14 15 18 16 18 17 18 23 18 23
22
49
19
[CLS] [MASK] 20 21 20 21 22 23 22 23 22 20 [MASK] 22 23 24 25 24 23 18 15 14 15 11 10 8 10 11 12 11 10 9 8 10 9 8 10 9 8 7 5 6 7 3 4 3 2 3 7 4 [SEP] [MASK] 22 23 18 15 14 15 14 15 16 17 16 18 [MASK] 22 20 21 20 [MASK] 22 21 20 [MASK] 22 21 22 20 22 23 24 25 26 25 26 29 30 31 32 31 30 18 [MASK] 22 21 20 21 20 21 20 [SEP] [MASK] 18 30 31 30 31 30 18 30 31 32 33 44 47 45 46 45 46 45 46 45 44 43 39 43 44 33 53 33 34 35 39 38 39 35 39 35 34 35 39 40 43 41 42 43 41 42 41 42 [SEP] [MASK] 18 30 29 28 29 28 29 28 29 28 29 26 24 23 24 26 25 24 25 26 25 26 24 26 29 28 27 26 25 26 29 26 27 26 29 30 18 16 15 18 [MASK] 20 21 20 [MASK] 20 [MASK] 22 [SEP] [MASK] 18 15 11 13 14 15 16 17 18 30 29 28 27 28 29 30 18 17 16 18 17 16 17 16 18 16 17 18 30 29 30 31 30 29 26 25 24 23 24 25 24 23 18 16 17 16 17 18 [SEP] [MASK] 18 15 11 13 14 15 18 16 15 18 16 17 18 16 18 23 22 21 20 21 20 21 22 [MASK] 20 [MASK] 20 [MASK] 18 [MASK] 20 21 22 [MASK] 20 [MASK] 20 21 22 23 18 16 17 16 15 14 15 16
22
50
19
[CLS] [MASK] 20 22 20 [MASK] 20 [MASK] 20 22 23 22 23 24 25 24 25 24 25 26 24 26 24 25 24 25 26 24 23 24 26 29 28 29 30 31 30 31 32 31 30 31 32 33 34 35 34 35 34 35 [SEP] [MASK] 18 30 29 30 18 16 18 15 18 [MASK] 20 21 20 21 22 20 21 22 23 24 25 26 27 26 29 26 25 24 25 24 26 27 26 27 28 29 30 31 30 29 28 29 28 29 26 24 25 26 [SEP] [MASK] 18 23 22 21 20 21 20 22 21 20 [MASK] 22 20 [MASK] 20 22 20 22 20 21 20 21 20 21 22 20 21 20 [MASK] 22 20 22 20 [MASK] 18 15 14 13 14 13 14 13 12 11 10 8 9 10 [SEP] [MASK] 20 22 21 22 [MASK] 18 17 18 15 16 18 17 18 15 18 15 14 15 16 17 16 17 18 23 24 26 25 24 25 26 27 28 29 30 29 28 27 26 25 24 25 26 29 26 27 26 24 26 [SEP] [MASK] 18 16 18 [MASK] 18 [MASK] 20 21 22 23 22 21 22 20 21 22 [MASK] 22 21 22 21 22 [MASK] 20 21 22 21 22 23 22 20 [MASK] 22 20 21 22 [MASK] 22 23 18 23 18 15 16 17 18 17 16 [SEP] [MASK] 22 [MASK] 22 [MASK] 22 23 24 25 26 25 24 26 29 28 27 26 27 26 29 26 29 28 29 26 24 25 26 27 26 24 25 26 29 26 29 30 18 [MASK] 20 21 20 21 20 [MASK] 20 [MASK] 18 17
22
51
19
[CLS] [MASK] 18 16 15 16 17 16 17 18 30 31 32 31 30 18 30 29 26 29 26 27 26 24 26 24 26 27 28 29 28 27 28 27 28 29 30 18 30 29 28 27 28 29 28 29 26 29 26 29 [SEP] [MASK] 20 21 22 [MASK] 22 [MASK] 22 [MASK] 22 23 18 30 29 28 29 30 31 30 29 28 27 26 27 28 29 30 18 17 16 18 23 18 17 16 18 [MASK] 18 17 16 18 23 18 15 14 13 11 13 11 [SEP] [MASK] 18 [MASK] 22 21 22 [MASK] 22 23 24 25 26 27 26 24 26 29 28 29 28 29 26 24 23 22 20 21 20 22 21 20 [MASK] 20 21 22 21 22 21 20 22 23 22 [MASK] 22 20 22 [MASK] 22 23 [SEP] [MASK] 18 16 18 17 18 17 18 15 14 13 11 13 11 12 13 11 12 13 12 11 12 11 15 11 12 13 11 15 14 13 14 15 14 13 14 15 11 12 11 15 18 30 29 28 27 26 27 28 [SEP] [MASK] 18 23 24 25 24 23 22 21 22 21 20 [MASK] 18 15 14 13 12 11 10 9 8 7 8 10 9 8 9 10 11 12 11 10 8 10 9 8 10 11 15 18 30 31 32 31 32 33 34 35 [SEP] [MASK] 20 21 22 23 24 25 24 26 25 24 26 27 26 25 24 25 24 26 24 23 22 23 18 17 18 17 16 15 14 15 14 15 16 18 23 24 23 24 25 26 24 26 25 24 26 27 28 27
22
52
19
[CLS] [MASK] 20 [MASK] 20 [MASK] 18 30 18 15 14 13 14 15 16 17 18 16 17 18 30 29 26 25 26 25 24 23 22 [MASK] 18 30 31 32 31 30 31 30 31 32 33 32 31 30 31 30 31 30 29 30 [SEP] [MASK] 20 21 22 [MASK] 22 [MASK] 22 20 [MASK] 20 [MASK] 22 21 22 21 22 21 22 21 22 21 22 21 22 [MASK] 20 [MASK] 22 20 21 20 21 20 21 20 [MASK] 22 [MASK] 20 21 20 21 20 22 23 24 26 29 [SEP] [MASK] 22 23 18 [MASK] 18 17 18 23 24 26 24 25 26 29 30 18 15 14 15 18 30 31 30 18 [MASK] 22 20 [MASK] 18 16 17 16 18 30 31 30 18 30 29 30 18 17 18 17 16 15 18 16 [SEP] [MASK] 20 21 20 21 20 22 23 18 30 29 26 25 26 25 26 27 28 29 26 25 24 25 24 25 26 25 24 25 26 25 26 25 24 25 24 26 25 26 29 28 27 26 24 25 24 23 22 20 [SEP] [MASK] 20 21 20 [MASK] 22 20 21 22 21 20 [MASK] 22 20 22 21 20 21 22 21 22 21 22 21 20 [MASK] 20 [MASK] 18 30 18 17 16 17 18 16 17 18 17 18 30 29 28 29 30 31 32 33 44 [SEP] [MASK] 20 21 22 [MASK] 18 17 16 15 14 15 14 15 18 [MASK] 20 21 20 21 20 [MASK] 18 [MASK] 22 21 22 23 22 21 20 22 23 24 25 26 25 24 25 24 23 18 17 16 17 18 17 16 18 23
22
53
19
[CLS] [MASK] 18 [MASK] 20 21 22 23 18 30 29 30 31 30 18 15 18 17 18 [MASK] 22 21 22 [MASK] 20 [MASK] 22 23 24 23 22 21 22 [MASK] 18 23 24 26 24 26 25 24 26 24 23 24 25 26 24 25 [SEP] [MASK] 22 21 20 [MASK] 22 21 22 [MASK] 22 21 22 21 22 20 21 22 21 22 23 18 30 18 30 31 30 31 30 29 26 25 24 25 24 23 22 23 22 21 20 21 22 21 20 [MASK] 22 21 20 21 [SEP] [MASK] 22 23 22 23 22 21 22 21 22 21 20 [MASK] 22 [MASK] 20 21 20 [MASK] 18 16 18 16 15 16 15 18 23 22 20 21 22 23 22 [MASK] 20 22 21 20 21 20 22 23 24 23 24 26 29 26 [SEP] [MASK] 18 17 16 18 16 17 18 17 16 18 17 16 17 16 18 17 18 30 29 28 29 30 29 28 27 28 29 30 31 32 31 30 31 30 31 32 31 32 31 32 33 32 33 34 33 34 33 32 [SEP] [MASK] 22 21 22 20 [MASK] 22 23 24 25 26 27 28 27 26 29 28 29 28 29 28 29 30 18 23 24 26 24 26 24 25 26 24 23 18 16 15 14 15 16 15 14 13 11 15 14 13 11 10 [SEP] [MASK] 22 21 20 21 20 21 20 22 [MASK] 20 [MASK] 20 21 20 22 23 18 23 18 30 31 30 31 30 29 30 18 30 31 32 31 30 18 30 31 30 31 30 18 [MASK] 22 23 18 [MASK] 20 22 21 20
22
54
19
[CLS] [MASK] 18 23 24 25 26 24 23 24 26 27 26 29 30 18 17 18 30 31 32 31 32 33 32 31 30 29 28 27 28 27 28 27 28 29 30 31 30 29 28 29 26 25 24 26 27 26 27 26 [SEP] [MASK] 22 21 22 [MASK] 18 30 18 23 22 21 22 21 20 21 20 [MASK] 18 [MASK] 18 15 16 15 14 13 12 13 14 13 11 12 13 14 13 11 15 18 23 24 26 25 26 24 23 18 16 17 18 16 [SEP] [MASK] 20 22 20 [MASK] 22 21 20 21 20 21 20 21 20 [MASK] 20 22 23 24 23 24 25 24 25 26 25 26 29 30 29 28 27 26 25 24 23 22 23 24 26 25 24 25 26 24 26 25 24 23 [SEP] [MASK] 22 20 [MASK] 20 [MASK] 22 21 20 21 20 [MASK] 18 [MASK] 20 21 22 20 21 22 23 24 23 22 [MASK] 18 [MASK] 22 23 24 26 27 26 25 26 29 30 29 28 27 26 25 26 25 24 25 26 25 24 [SEP] [MASK] 18 17 18 15 18 17 18 30 31 30 18 15 14 13 12 13 14 15 14 15 14 15 14 15 14 15 18 17 16 18 15 18 16 17 16 15 14 15 18 23 22 21 22 [MASK] 18 17 16 18 [SEP] [MASK] 18 30 29 26 27 28 29 30 31 32 33 53 55 54 55 56 57 58 57 56 57 56 57 58 61 62 63 62 63 62 63 62 61 62 61 63 64 65 66 68 64 65 64 68 67 68 69 71
22
55
19
[CLS] [MASK] 22 20 22 20 21 22 20 21 22 21 20 [MASK] 18 15 16 17 18 30 31 30 31 30 18 23 24 26 25 24 25 24 25 26 24 25 24 23 22 21 22 23 24 26 27 28 29 28 27 28 [SEP] [MASK] 22 21 22 23 24 25 24 26 27 28 29 26 29 30 31 30 31 30 29 26 24 23 18 17 18 [MASK] 22 20 21 22 20 [MASK] 22 21 20 [MASK] 18 30 29 28 29 30 18 17 16 17 16 17 [SEP] [MASK] 22 23 22 23 18 [MASK] 22 [MASK] 20 21 22 21 22 21 20 21 22 [MASK] 18 30 29 28 27 28 29 26 24 23 22 23 22 20 21 22 21 22 23 18 30 18 17 18 23 24 25 26 27 26 [SEP] [MASK] 22 [MASK] 20 21 22 23 22 23 18 16 15 11 10 8 10 11 10 11 15 14 13 14 13 11 12 13 14 13 12 11 13 14 15 14 15 14 15 11 12 11 12 11 12 11 12 13 12 13 [SEP] [MASK] 22 21 22 23 18 30 29 26 29 26 27 26 27 28 29 28 29 26 25 24 25 24 25 24 25 26 25 24 23 18 30 31 32 31 30 31 30 31 30 18 17 16 17 18 [MASK] 22 21 20 [SEP] [MASK] 20 [MASK] 18 30 18 [MASK] 18 23 24 25 24 23 22 20 21 20 22 [MASK] 18 17 18 17 16 18 17 18 16 18 15 18 17 18 [MASK] 22 [MASK] 18 30 31 32 31 32 31 30 31 32 33 44 47
22
56
19
[CLS] [MASK] 22 23 18 30 31 30 31 30 31 30 31 30 31 32 33 34 33 44 33 32 33 35 36 38 37 38 37 36 37 38 37 36 38 37 38 37 36 37 38 37 38 39 40 43 44 47 48 51 [SEP] [MASK] 18 15 16 15 16 15 16 17 16 15 14 13 14 15 14 15 18 16 17 16 15 11 12 13 12 11 12 11 13 12 13 14 13 14 15 18 30 29 26 25 24 23 18 23 22 20 [MASK] 18 [SEP] [MASK] 18 [MASK] 18 23 24 23 18 30 18 15 18 30 29 28 29 26 24 25 26 25 26 29 30 18 17 18 17 18 17 18 17 18 17 16 17 18 [MASK] 18 16 17 16 17 18 23 18 16 18 30 [SEP] [MASK] 18 17 18 23 24 25 26 24 25 24 25 24 26 24 25 24 25 24 25 24 25 24 25 24 26 25 24 25 24 25 26 27 28 27 26 27 26 29 28 29 30 31 32 31 32 31 30 31 [SEP] [MASK] 18 30 31 32 33 34 35 34 33 34 33 34 33 32 33 35 39 38 39 40 43 40 43 40 41 40 43 40 41 43 42 43 40 43 42 43 40 41 40 39 35 34 35 34 35 33 34 33 [SEP] [MASK] 18 16 18 17 16 17 16 15 18 15 14 13 12 13 11 12 13 12 13 14 13 11 10 9 10 11 13 14 15 14 13 12 11 13 14 13 14 15 14 15 11 15 18 17 18 [MASK] 18 23
22
57
19
[CLS] [MASK] 18 17 16 17 16 15 16 17 18 30 18 30 31 30 29 28 27 26 25 24 26 27 28 27 26 27 26 27 26 29 28 27 26 29 26 27 28 27 26 29 30 29 28 27 28 27 28 29 [SEP] [MASK] 20 22 [MASK] 20 22 [MASK] 22 21 20 22 [MASK] 20 21 20 22 [MASK] 22 21 20 22 20 [MASK] 22 [MASK] 22 [MASK] 20 21 20 [MASK] 20 22 21 20 21 20 21 20 21 22 20 [MASK] 18 15 11 10 9 10 [SEP] [MASK] 22 21 20 21 20 21 22 23 24 26 24 26 25 24 25 26 25 26 24 25 26 27 26 24 23 24 23 22 21 22 23 18 17 16 18 23 22 23 22 21 20 21 20 21 20 [MASK] 20 21 [SEP] [MASK] 20 21 22 [MASK] 20 21 20 21 20 21 22 21 22 21 20 [MASK] 20 [MASK] 22 23 22 [MASK] 18 17 18 17 18 17 18 17 16 17 18 30 18 16 15 14 13 12 13 12 13 12 11 15 14 15 [SEP] [MASK] 20 [MASK] 20 21 20 21 20 21 22 20 [MASK] 22 23 24 23 22 21 22 23 24 23 24 25 24 25 24 25 24 25 24 25 24 25 24 25 26 27 26 27 28 29 28 29 28 29 26 25 24 [SEP] [MASK] 22 21 20 22 23 22 23 22 21 22 21 20 21 20 22 [MASK] 22 21 20 [MASK] 22 23 22 21 20 21 20 21 22 21 22 23 24 23 22 [MASK] 22 20 [MASK] 20 21 22 [MASK] 20 [MASK] 20 21 22
22
58
19
[CLS] [MASK] 22 [MASK] 20 [MASK] 20 [MASK] 22 23 18 16 17 16 15 11 15 16 15 18 16 18 17 18 23 22 21 22 23 22 21 22 23 24 26 27 28 27 28 29 26 24 25 26 24 26 25 26 25 24 [SEP] [MASK] 22 20 22 23 22 20 22 23 18 [MASK] 20 21 22 23 22 20 21 20 21 20 22 [MASK] 22 20 21 22 21 20 21 20 22 21 22 20 [MASK] 18 17 16 17 16 17 18 17 18 15 18 16 17 [SEP] [MASK] 20 [MASK] 20 22 [MASK] 20 21 22 23 24 23 22 [MASK] 20 21 22 20 22 21 20 21 20 21 22 [MASK] 20 [MASK] 22 21 20 21 22 20 [MASK] 22 [MASK] 20 22 21 22 21 22 21 22 [MASK] 22 [MASK] 22 [SEP] [MASK] 20 [MASK] 22 23 22 21 20 21 22 20 21 20 [MASK] 20 21 22 20 22 20 22 23 18 23 22 [MASK] 20 [MASK] 20 22 23 18 30 31 32 31 30 29 28 27 28 29 30 18 17 18 17 16 18 [SEP] [MASK] 20 [MASK] 20 22 21 20 [MASK] 20 [MASK] 18 [MASK] 22 21 20 [MASK] 18 15 14 13 14 13 12 13 11 10 8 7 5 4 7 6 5 6 7 3 7 4 3 2 3 4 7 6 7 3 2 1 0 [SEP] [MASK] 18 23 24 26 29 26 29 30 31 30 31 30 18 [MASK] 18 [MASK] 18 23 24 23 18 17 18 23 24 26 27 28 29 30 18 23 22 23 24 26 24 26 25 24 26 29 28 27 26 25 24 23
22
59
19
[CLS] [MASK] 20 21 20 21 22 [MASK] 22 [MASK] 22 21 22 21 22 23 24 26 25 24 26 25 26 27 26 24 25 26 25 24 26 27 26 29 30 31 32 33 34 33 32 31 32 31 30 18 23 18 [MASK] 22 [SEP] [MASK] 22 21 22 [MASK] 20 22 [MASK] 22 23 22 21 20 [MASK] 22 [MASK] 22 23 22 21 20 21 22 [MASK] 22 23 18 17 16 15 11 13 14 13 14 13 11 15 16 18 30 29 26 27 26 27 28 27 28 [SEP] [MASK] 18 16 15 14 13 14 13 11 10 8 9 8 9 10 8 9 8 9 10 9 10 8 10 11 10 8 9 8 10 11 12 11 12 11 10 8 9 10 8 10 8 9 8 7 8 10 9 8 [SEP] [MASK] 20 [MASK] 20 [MASK] 18 23 22 20 22 21 20 21 20 22 20 22 [MASK] 18 30 18 [MASK] 18 [MASK] 18 15 14 15 16 18 15 14 13 11 13 11 13 11 13 12 13 14 13 14 15 14 13 12 13 [SEP] [MASK] 22 23 24 23 24 23 22 23 24 25 26 25 24 25 24 25 26 25 24 25 24 25 26 25 26 27 26 25 26 25 26 24 23 24 26 29 28 27 26 27 26 25 26 24 23 24 23 22 [SEP] [MASK] 20 21 22 21 22 [MASK] 18 17 18 [MASK] 20 [MASK] 22 [MASK] 22 20 22 20 [MASK] 20 22 23 24 23 18 30 31 30 29 26 29 26 24 23 22 [MASK] 20 22 20 22 [MASK] 20 21 22 21 20 [MASK] 18
22
60
19
[CLS] [MASK] 20 21 20 21 22 21 22 [MASK] 18 23 18 15 14 15 11 12 13 12 13 12 11 10 9 10 11 10 8 10 9 10 11 15 18 17 18 23 24 26 27 26 27 26 27 28 27 28 29 26 [SEP] [MASK] 18 17 18 [MASK] 20 21 22 23 24 25 24 25 26 25 24 25 26 25 24 26 27 26 29 28 27 28 29 26 29 30 18 [MASK] 18 17 16 18 30 18 [MASK] 18 16 18 16 15 18 30 18 16 [SEP] [MASK] 20 [MASK] 20 22 23 24 25 26 25 24 23 24 25 26 27 26 29 30 29 28 29 28 27 26 25 24 25 24 25 24 25 26 25 24 25 26 29 28 27 26 29 28 27 28 29 26 24 25 [SEP] [MASK] 22 21 22 21 20 21 22 21 22 21 22 20 22 21 20 22 20 22 21 22 21 22 [MASK] 20 21 22 23 18 [MASK] 18 17 16 15 18 23 22 20 [MASK] 22 [MASK] 20 21 20 [MASK] 20 21 20 21 [SEP] [MASK] 18 17 18 30 31 32 33 53 54 53 54 53 33 35 36 38 39 38 36 37 36 37 38 37 38 36 37 38 37 38 36 37 36 35 39 40 43 42 43 42 43 42 43 40 39 43 42 41 [SEP] [MASK] 18 15 14 15 18 30 29 28 27 28 27 28 29 28 29 28 29 28 27 28 27 28 29 30 29 30 18 16 18 15 14 15 14 13 12 13 14 15 11 10 11 10 11 13 14 13 14 15
22
61
19
[CLS] [MASK] 20 [MASK] 20 [MASK] 18 16 17 18 15 16 17 18 17 16 18 16 17 16 18 17 16 15 14 13 12 13 14 13 14 13 11 12 13 12 11 13 12 11 10 11 12 11 10 9 8 10 11 12 [SEP] [MASK] 20 22 21 22 [MASK] 18 16 15 16 17 16 18 30 29 28 29 26 29 28 27 28 27 28 27 26 27 26 27 26 27 28 27 28 29 28 27 26 24 25 26 29 30 31 32 31 32 33 32 [SEP] [MASK] 22 21 22 21 22 21 20 21 20 21 20 21 22 21 22 23 18 17 16 15 18 30 18 [MASK] 18 15 16 18 [MASK] 18 16 18 17 18 23 18 16 15 16 17 18 [MASK] 20 [MASK] 18 17 16 15 [SEP] [MASK] 18 [MASK] 20 22 [MASK] 22 21 20 21 20 [MASK] 18 15 14 13 11 10 9 8 9 8 9 8 10 11 10 9 8 9 10 9 8 7 6 5 4 3 2 1 2 0 2 1 0 1 2 1 0 [SEP] [MASK] 18 [MASK] 20 22 20 21 20 22 [MASK] 18 17 18 23 24 23 24 26 25 24 26 27 26 29 26 25 26 27 28 27 26 25 26 24 25 24 25 26 25 24 25 26 29 30 31 32 33 53 54 [SEP] [MASK] 18 17 16 18 23 24 25 24 23 22 23 18 23 22 21 22 21 22 23 18 15 18 15 11 15 16 17 16 17 16 15 14 15 18 15 16 15 16 15 14 13 11 13 11 15 16 17 16
22
62
19
[CLS] [MASK] 18 [MASK] 22 23 22 20 21 20 [MASK] 18 15 14 15 14 13 11 13 12 11 10 8 10 9 10 11 10 11 15 16 18 16 15 14 13 11 12 13 14 15 11 13 11 13 14 13 11 12 11 [SEP] [MASK] 18 16 17 16 17 18 15 11 12 13 12 11 12 13 12 13 12 13 14 15 16 17 16 15 14 15 14 15 14 13 12 13 14 13 12 11 13 12 11 10 9 10 8 9 8 7 5 6 [SEP] [MASK] 22 23 18 17 18 30 29 28 27 28 29 28 27 28 29 28 29 26 27 28 27 28 27 28 29 26 24 23 24 26 25 24 25 24 23 18 17 16 18 17 16 17 16 17 16 18 17 16 [SEP] [MASK] 22 23 24 23 22 21 20 [MASK] 20 22 23 18 17 16 15 16 15 14 15 14 13 12 11 12 11 10 11 12 11 12 13 12 11 10 9 8 10 8 9 10 11 12 11 10 8 10 8 7 [SEP] [MASK] 18 15 16 18 16 15 16 17 16 15 16 17 18 23 24 26 25 26 25 26 29 28 27 26 25 24 25 26 24 23 24 25 26 24 26 27 28 27 26 25 26 27 26 29 30 29 26 24 [SEP] [MASK] 18 17 16 17 18 [MASK] 20 [MASK] 18 15 16 15 14 13 12 11 13 14 13 11 10 8 7 5 4 3 7 6 7 3 7 5 6 5 4 7 3 7 4 3 7 8 10 8 9 10 9 10
22
63
19
[CLS] [MASK] 22 20 22 21 20 22 20 [MASK] 18 17 18 30 31 32 31 32 31 30 31 30 29 28 27 26 25 26 27 28 27 26 24 23 18 30 31 32 33 32 33 32 31 30 29 28 27 28 29 28 [SEP] [MASK] 22 21 20 22 21 22 21 22 21 20 22 23 24 25 26 24 26 25 24 25 24 25 24 23 24 23 18 17 16 15 16 15 14 13 12 13 12 13 12 13 14 13 11 13 11 13 12 11 [SEP] [MASK] 18 [MASK] 20 [MASK] 20 22 21 20 21 22 [MASK] 22 [MASK] 20 21 20 22 20 [MASK] 22 [MASK] 18 [MASK] 22 [MASK] 18 16 18 23 18 30 29 28 29 28 27 26 25 24 25 24 25 26 29 26 24 25 26 [SEP] [MASK] 18 16 15 11 13 12 13 14 13 14 13 14 15 11 13 12 13 14 15 11 10 8 9 10 8 7 8 9 10 9 8 9 10 11 10 11 13 14 15 14 13 11 15 11 10 9 10 8 [SEP] [MASK] 20 21 20 [MASK] 22 21 22 21 22 20 [MASK] 22 [MASK] 22 21 22 23 18 17 16 15 16 17 18 17 18 30 18 17 16 17 16 17 16 17 18 15 14 15 18 [MASK] 18 17 16 17 18 17 16 [SEP] [MASK] 22 21 22 20 21 22 20 22 20 [MASK] 22 [MASK] 20 21 22 21 22 23 22 [MASK] 20 [MASK] 18 30 18 15 16 17 16 15 14 13 12 13 12 13 14 15 16 15 14 13 12 11 13 12 13 12
22
64
19
[CLS] [MASK] 22 21 20 22 21 22 23 18 17 16 15 16 17 16 18 15 16 17 16 18 23 22 23 18 23 18 16 17 16 15 16 17 18 16 18 23 24 25 24 23 22 21 20 21 20 [MASK] 18 17 [SEP] [MASK] 18 17 18 17 18 17 18 16 17 18 17 16 17 18 [MASK] 18 30 29 30 31 32 31 32 33 32 31 30 31 32 31 30 29 28 29 26 27 26 25 26 29 26 25 24 23 18 30 31 30 [SEP] [MASK] 22 21 22 [MASK] 20 [MASK] 20 21 22 [MASK] 18 17 18 15 14 13 12 13 11 12 13 11 12 11 10 11 13 14 13 14 15 14 13 12 11 12 13 14 13 12 13 11 13 14 13 11 12 11 [SEP] [MASK] 20 22 21 20 21 20 21 22 20 [MASK] 20 [MASK] 18 17 16 18 [MASK] 22 20 [MASK] 22 21 22 20 21 22 23 18 15 14 13 14 13 12 13 14 15 14 15 16 17 18 [MASK] 18 15 14 13 12 [SEP] [MASK] 22 23 18 [MASK] 20 21 22 21 22 23 18 [MASK] 20 21 20 22 [MASK] 18 30 31 32 31 32 33 32 31 30 18 17 18 30 31 30 31 30 31 32 33 44 43 44 45 44 45 47 46 45 46 [SEP] [MASK] 22 [MASK] 18 23 22 21 20 [MASK] 18 30 29 30 29 30 18 30 18 [MASK] 22 20 [MASK] 20 [MASK] 18 [MASK] 18 [MASK] 22 20 21 20 22 23 22 [MASK] 18 15 14 13 14 13 14 13 11 15 14 13 14
22
65
19
[CLS] [MASK] 20 22 20 22 21 20 21 20 22 [MASK] 20 [MASK] 22 21 22 23 18 23 24 25 26 27 26 24 23 18 30 29 30 18 17 18 17 18 15 14 15 14 15 14 13 11 12 11 12 11 12 11 [SEP] [MASK] 20 21 22 21 22 21 20 22 21 20 [MASK] 18 16 17 18 16 17 18 17 16 17 16 15 18 15 11 13 12 11 12 11 10 11 12 13 14 13 14 13 14 13 14 15 14 13 12 13 11 [SEP] [MASK] 20 [MASK] 18 23 22 23 18 16 17 16 17 16 18 16 15 11 10 8 10 11 10 11 12 13 12 13 14 15 18 17 18 23 18 15 11 13 14 15 16 17 18 16 17 18 16 15 18 17 [SEP] [MASK] 22 21 20 21 20 21 22 [MASK] 18 [MASK] 20 21 20 21 20 21 20 21 20 22 21 20 21 20 22 21 22 [MASK] 22 21 20 21 20 21 22 23 24 26 24 25 26 29 26 25 26 27 28 27 [SEP] [MASK] 18 17 16 17 16 18 17 16 15 14 13 14 15 14 13 14 15 14 15 14 15 18 30 31 32 33 53 33 44 33 44 47 44 33 34 33 34 33 34 35 34 35 39 40 39 38 37 38 [SEP] [MASK] 22 [MASK] 18 23 24 25 24 26 29 30 31 30 29 28 27 28 27 26 27 26 24 26 24 25 26 25 24 25 24 26 25 26 27 26 25 24 23 24 25 26 29 30 31 32 33 44 33 35
22
66
19
[CLS] [MASK] 20 21 22 23 18 16 15 14 13 14 15 14 15 18 17 16 15 18 30 31 32 31 32 31 32 31 32 33 34 33 34 33 34 35 36 38 37 36 37 38 39 40 39 40 43 40 43 44 [SEP] [MASK] 20 21 20 21 20 22 23 22 21 20 22 20 [MASK] 20 21 20 22 20 22 20 22 21 20 22 21 20 22 20 [MASK] 18 16 17 16 18 17 18 23 22 21 20 21 22 23 24 26 29 28 29 [SEP] [MASK] 20 21 20 21 22 21 20 21 22 20 22 [MASK] 22 [MASK] 20 22 [MASK] 18 16 17 16 18 [MASK] 22 20 21 22 20 21 22 21 20 21 20 21 20 [MASK] 20 22 21 22 [MASK] 18 [MASK] 22 21 22 21 [SEP] [MASK] 22 20 21 22 21 20 [MASK] 22 23 18 23 22 [MASK] 18 17 16 15 14 15 16 18 30 31 32 31 32 31 32 31 32 31 32 33 44 43 42 41 42 41 42 41 40 43 42 43 42 41 40 [SEP] [MASK] 22 20 21 22 20 [MASK] 20 22 21 22 [MASK] 18 16 17 16 17 16 15 18 17 18 17 18 30 29 28 29 26 25 24 23 24 25 24 25 24 25 24 23 18 17 16 17 16 17 18 30 29 [SEP] [MASK] 18 17 16 18 23 24 25 26 25 26 25 24 25 24 25 26 27 26 24 26 29 28 29 30 31 32 33 35 34 35 34 35 34 33 53 55 56 57 56 55 54 53 55 56 57 58 57 58
22
67
19
[CLS] [MASK] 22 23 18 [MASK] 22 23 18 17 16 18 23 18 15 14 15 11 10 9 8 7 5 4 7 6 7 6 5 6 5 4 3 7 6 7 8 10 11 10 8 9 8 10 9 8 10 11 12 11 [SEP] [MASK] 22 21 22 20 [MASK] 18 23 22 [MASK] 20 [MASK] 18 [MASK] 20 [MASK] 18 23 18 23 24 26 29 26 27 28 27 28 29 30 31 30 31 30 29 26 27 26 24 23 24 25 26 24 23 24 23 24 25 [SEP] [MASK] 20 21 22 [MASK] 22 21 22 23 22 21 20 [MASK] 18 17 16 15 16 18 15 11 12 13 12 11 10 8 9 10 11 15 16 18 17 18 17 16 17 16 15 18 15 18 17 18 16 15 16 18 [SEP] [MASK] 22 23 18 23 18 23 18 15 18 17 18 17 18 16 15 18 16 17 18 17 18 16 15 14 13 12 13 14 13 12 11 12 13 12 13 14 15 16 17 18 23 18 [MASK] 20 [MASK] 22 [MASK] 22 [SEP] [MASK] 20 22 [MASK] 18 [MASK] 22 20 21 22 21 20 [MASK] 18 15 18 15 18 [MASK] 18 23 18 17 16 17 16 17 16 18 17 16 15 14 15 11 15 11 12 13 11 12 11 12 11 12 11 13 12 13 [SEP] [MASK] 18 15 14 13 11 12 11 13 12 13 14 15 14 15 14 13 14 15 11 13 12 11 15 14 15 11 12 11 15 18 17 16 17 18 16 17 16 18 17 16 18 16 18 15 16 17 16 17
22
68
19
[CLS] [MASK] 18 16 17 18 [MASK] 22 20 22 [MASK] 18 17 18 17 18 23 22 [MASK] 18 17 18 16 17 16 17 18 17 16 17 16 17 18 [MASK] 20 21 20 [MASK] 18 17 16 17 16 17 16 17 18 [MASK] 20 22 [SEP] [MASK] 18 [MASK] 22 21 22 23 24 25 24 25 24 25 26 27 28 27 28 27 28 29 30 18 16 15 11 12 13 12 11 10 8 9 8 10 11 12 11 12 11 13 14 13 14 15 14 13 11 12 [SEP] [MASK] 22 [MASK] 22 21 22 20 [MASK] 20 21 22 [MASK] 20 [MASK] 22 23 18 17 16 17 16 18 16 17 16 15 14 15 14 15 14 13 11 12 11 12 13 14 13 14 15 14 15 16 15 14 15 11 12 [SEP] [MASK] 18 [MASK] 22 21 20 22 21 22 [MASK] 20 21 20 21 22 23 24 26 29 28 29 26 24 26 25 26 25 26 25 24 25 26 29 26 27 28 29 28 27 28 29 26 29 28 29 26 24 25 26 [SEP] [MASK] 20 [MASK] 22 23 22 21 20 21 22 23 18 16 17 16 15 16 17 18 15 18 [MASK] 22 21 22 20 21 20 [MASK] 22 21 22 21 20 22 23 22 20 [MASK] 18 23 22 21 20 22 20 [MASK] 20 21 [SEP] [MASK] 20 [MASK] 20 21 20 21 22 23 22 23 24 25 26 24 25 26 29 26 27 26 29 28 29 28 29 26 25 24 23 24 26 24 25 26 25 26 25 24 25 24 23 22 23 24 25 24 23 24
22
69
19
[CLS] [MASK] 22 21 22 21 22 23 24 25 26 25 24 25 24 23 18 17 16 17 16 17 16 15 11 10 8 7 3 4 5 7 8 10 8 7 5 4 5 6 7 4 3 7 6 5 6 5 4 7 [SEP] [MASK] 18 30 31 32 31 30 31 30 31 32 33 32 33 44 33 34 35 39 40 39 40 39 38 36 35 36 35 34 33 44 47 46 45 44 45 46 45 46 45 44 33 32 33 35 34 33 34 35 [SEP] [MASK] 18 15 18 17 18 23 24 25 24 25 24 25 24 23 18 17 18 17 18 [MASK] 20 21 22 20 22 23 24 25 26 27 26 24 26 24 25 26 29 30 31 30 31 30 18 23 18 15 14 13 [SEP] [MASK] 22 20 21 22 21 22 21 20 21 22 21 20 21 22 20 [MASK] 18 23 18 17 18 16 15 14 13 12 13 11 15 18 15 16 18 17 18 23 18 [MASK] 22 23 24 25 24 25 26 24 23 24 [SEP] [MASK] 20 [MASK] 18 23 24 26 27 26 25 26 24 26 24 25 26 27 26 25 24 25 26 27 28 27 26 25 24 25 26 27 26 25 24 26 29 30 18 17 18 23 18 [MASK] 18 15 16 18 23 24 [SEP] [MASK] 22 21 22 [MASK] 18 16 15 11 13 14 13 11 13 12 11 12 13 11 13 12 11 12 13 12 13 14 13 12 13 12 11 13 14 15 14 13 14 13 12 11 13 14 13 14 15 11 15 16
22
70
19
[CLS] [MASK] 20 21 20 22 [MASK] 18 17 18 17 16 15 18 [MASK] 18 17 18 23 22 [MASK] 22 21 22 21 22 [MASK] 18 30 31 30 31 32 31 32 33 32 31 30 29 30 31 32 31 30 18 23 22 23 22 [SEP] [MASK] 22 [MASK] 18 30 29 28 29 30 31 32 31 32 33 34 33 32 31 32 31 30 18 [MASK] 22 [MASK] 22 [MASK] 20 21 20 22 [MASK] 20 [MASK] 20 [MASK] 18 16 18 16 17 16 15 18 15 16 15 18 15 [SEP] [MASK] 20 21 22 21 22 21 22 21 22 [MASK] 18 [MASK] 22 21 20 22 21 22 20 [MASK] 22 [MASK] 22 21 20 22 21 22 21 22 20 22 21 22 20 21 22 23 24 23 18 23 24 23 18 30 31 30 [SEP] [MASK] 18 15 14 15 16 18 23 22 20 22 21 22 21 22 [MASK] 18 16 17 18 17 18 17 18 17 18 23 24 23 18 [MASK] 22 20 21 20 21 22 [MASK] 20 21 22 23 24 26 24 23 22 21 20 [SEP] [MASK] 22 21 20 [MASK] 22 23 24 26 25 26 24 25 24 26 24 25 26 25 24 25 24 23 22 20 [MASK] 22 21 22 20 [MASK] 18 17 16 18 23 18 17 16 15 18 15 18 [MASK] 18 15 14 15 18 [SEP] [MASK] 22 [MASK] 18 [MASK] 18 17 18 16 15 11 12 11 15 18 30 18 17 16 17 18 [MASK] 22 20 21 20 21 22 20 [MASK] 18 17 18 30 31 30 31 32 31 30 29 26 27 28 29 30 31 32 31
22
71
19
[CLS] [MASK] 22 20 21 22 23 24 23 22 21 22 21 20 22 20 21 20 21 22 20 [MASK] 18 16 18 16 15 11 13 12 13 11 10 9 8 9 10 8 7 6 5 6 5 6 7 3 2 1 2 0 [SEP] [MASK] 18 16 17 16 17 18 [MASK] 20 [MASK] 18 16 17 18 30 18 [MASK] 22 23 22 20 21 22 21 20 [MASK] 18 [MASK] 22 20 22 21 20 22 21 20 22 20 22 [MASK] 20 22 20 21 20 [MASK] 22 [MASK] 22 [SEP] [MASK] 18 30 31 30 31 30 31 32 31 32 33 44 43 42 43 41 42 41 40 39 40 43 42 41 40 43 41 42 43 39 35 39 35 36 35 34 33 34 35 33 53 54 53 52 51 52 53 55 [SEP] [MASK] 20 [MASK] 22 21 20 [MASK] 20 21 22 23 22 [MASK] 22 [MASK] 22 21 22 [MASK] 20 [MASK] 18 17 16 15 18 16 18 16 18 17 16 18 17 18 17 18 [MASK] 20 [MASK] 20 22 20 [MASK] 22 21 22 23 18 [SEP] [MASK] 18 [MASK] 18 [MASK] 22 [MASK] 18 15 14 15 18 17 18 [MASK] 18 30 31 32 33 53 52 51 50 49 50 49 50 51 52 53 54 53 52 53 52 53 33 32 33 44 47 48 49 51 49 50 49 48 [SEP] [MASK] 20 [MASK] 20 22 23 24 25 24 25 26 25 24 26 27 26 25 26 25 26 27 26 27 26 24 25 26 25 26 27 28 29 26 29 28 27 26 27 28 29 28 27 28 27 26 27 28 29 28
22
72
19
[CLS] [MASK] 18 30 29 30 18 30 18 17 18 [MASK] 20 22 [MASK] 22 23 24 23 18 17 16 18 16 15 14 13 14 13 14 15 18 17 18 17 18 [MASK] 18 17 16 15 14 13 12 11 12 11 12 13 12 [SEP] [MASK] 22 [MASK] 22 21 20 21 22 [MASK] 20 22 21 20 22 21 20 21 22 [MASK] 18 30 18 17 16 15 16 18 15 11 10 9 8 7 8 9 8 10 9 8 7 4 5 7 4 3 7 8 10 9 [SEP] [MASK] 18 [MASK] 22 21 20 [MASK] 18 17 18 16 18 17 16 17 16 15 14 15 11 12 11 15 14 13 14 13 12 11 15 18 16 15 14 13 12 11 13 12 11 12 13 14 13 14 15 18 17 16 [SEP] [MASK] 18 [MASK] 20 21 22 21 20 [MASK] 18 23 18 30 18 16 18 17 16 15 18 23 18 [MASK] 18 15 14 15 16 17 18 17 16 18 23 18 [MASK] 20 21 22 21 22 21 22 [MASK] 18 23 24 23 24 [SEP] [MASK] 22 20 21 20 21 20 21 22 20 [MASK] 22 [MASK] 20 22 21 20 [MASK] 22 21 22 21 22 23 24 25 24 25 26 29 30 31 32 31 32 33 34 35 33 32 31 30 18 30 31 32 31 30 18 [SEP] [MASK] 20 [MASK] 18 30 29 28 27 28 29 26 27 26 24 25 24 25 24 25 26 29 30 31 32 33 53 52 53 54 53 52 53 52 51 49 48 49 50 51 50 51 50 49 48 49 48 51 50 49
22
73
19
[CLS] [MASK] 18 15 16 15 16 15 16 18 17 18 23 24 26 24 26 29 28 27 28 27 28 27 28 29 28 29 28 27 28 29 28 29 28 29 28 27 28 29 26 29 30 18 16 18 15 11 13 11 [SEP] [MASK] 22 21 22 23 24 23 22 [MASK] 22 20 22 20 21 20 22 21 20 21 20 21 20 22 23 22 20 22 23 24 23 18 [MASK] 18 17 18 23 22 20 [MASK] 18 23 22 21 22 21 22 23 18 17 [SEP] [MASK] 18 17 16 17 16 18 17 16 17 18 17 18 17 16 18 17 16 15 14 15 16 17 18 23 18 [MASK] 18 17 16 18 16 17 16 17 18 17 18 17 16 15 18 17 18 23 24 26 27 26 [SEP] [MASK] 20 21 22 [MASK] 18 30 29 28 27 26 27 28 29 28 29 28 27 28 29 28 29 28 29 30 18 15 14 13 11 15 16 18 23 24 25 24 26 27 28 27 26 29 26 25 24 25 24 26 [SEP] [MASK] 18 15 14 13 14 15 16 18 16 15 14 15 14 13 12 11 12 11 10 9 10 9 8 9 8 10 11 15 18 17 16 15 18 15 11 13 14 13 11 12 11 12 13 12 13 12 11 12 [SEP] [MASK] 22 [MASK] 18 30 31 32 31 32 31 32 31 30 31 30 29 30 18 [MASK] 22 21 20 21 20 22 21 20 [MASK] 20 22 21 22 21 20 [MASK] 22 21 20 21 20 22 21 20 [MASK] 22 21 22 21 22
22
74
19
[CLS] [MASK] 20 22 [MASK] 22 20 22 20 21 22 21 22 20 [MASK] 20 21 22 21 22 21 22 21 20 [MASK] 20 22 23 24 26 24 26 25 24 25 24 25 26 25 26 29 26 25 24 25 26 29 30 18 17 [SEP] [MASK] 20 22 [MASK] 22 [MASK] 18 16 17 16 18 30 18 17 16 17 16 15 18 23 18 23 18 17 16 17 16 18 [MASK] 18 17 18 30 29 26 25 26 24 26 24 25 24 26 29 30 29 28 29 26 [SEP] [MASK] 20 [MASK] 22 21 20 22 [MASK] 18 16 15 16 17 18 23 18 [MASK] 18 30 29 26 27 26 27 26 24 23 22 23 18 17 16 15 14 15 16 17 16 17 18 16 17 18 15 16 18 17 18 17 [SEP] [MASK] 20 [MASK] 22 23 24 25 26 24 26 25 26 25 24 25 24 23 24 25 24 23 18 17 18 16 15 18 16 17 18 [MASK] 20 21 22 23 24 23 18 16 17 18 15 16 17 16 17 18 17 18 [SEP] [MASK] 22 23 24 23 18 30 29 26 29 26 27 26 25 26 29 30 31 32 31 30 31 30 18 16 15 14 13 12 11 12 11 13 11 10 9 8 9 8 9 8 7 6 5 7 8 10 8 10 [SEP] [MASK] 22 21 22 20 21 20 22 20 21 22 [MASK] 18 17 18 [MASK] 20 22 23 22 23 24 25 24 25 24 23 22 21 20 [MASK] 18 23 22 21 20 [MASK] 18 30 18 15 14 15 16 17 16 17 18 17
22
75
19
[CLS] [MASK] 22 20 [MASK] 22 20 22 20 22 21 22 20 [MASK] 22 20 21 20 [MASK] 18 16 15 14 15 11 10 8 7 6 5 6 5 6 7 8 7 6 5 6 5 7 4 5 6 5 6 7 3 4 7 [SEP] [MASK] 18 30 31 30 18 30 18 30 29 26 25 26 24 26 27 28 29 26 27 26 25 24 25 24 25 26 27 26 25 26 24 25 24 23 24 23 22 20 21 22 20 21 20 22 20 [MASK] 20 21 [SEP] [MASK] 20 21 20 [MASK] 22 21 20 22 21 22 20 22 21 20 21 22 23 24 25 24 23 24 25 26 27 26 24 25 24 26 25 24 26 24 26 25 24 25 24 25 24 26 24 25 26 27 28 27 [SEP] [MASK] 18 [MASK] 22 [MASK] 20 21 22 23 18 30 31 30 31 32 31 32 33 32 31 30 18 16 17 18 [MASK] 20 22 [MASK] 22 21 20 21 20 22 23 18 30 18 23 24 25 26 25 24 26 24 25 24 [SEP] [MASK] 18 23 24 25 26 24 26 29 26 27 28 27 28 29 30 31 32 31 30 18 16 15 14 15 14 15 14 13 11 10 11 13 14 13 12 11 13 12 13 14 13 14 13 14 15 16 17 18 [SEP] [MASK] 22 20 22 [MASK] 22 23 18 30 29 28 29 30 29 28 27 28 27 26 25 26 24 26 25 24 23 18 23 22 21 22 23 22 21 20 [MASK] 20 21 20 [MASK] 22 [MASK] 20 22 [MASK] 20 22 21 20
22
76
19
[CLS] [MASK] 18 30 29 28 27 28 27 26 29 26 24 25 24 25 26 27 28 27 26 27 26 24 23 24 25 26 27 28 29 28 29 26 27 28 27 26 27 26 27 28 27 28 27 26 25 24 25 24 [SEP] [MASK] 22 21 20 [MASK] 22 23 18 17 16 17 16 17 18 16 17 18 23 22 21 20 [MASK] 20 21 20 22 21 22 23 22 20 [MASK] 22 20 [MASK] 18 15 14 13 14 15 16 18 17 18 16 15 18 23 [SEP] [MASK] 22 23 22 20 21 20 [MASK] 18 23 22 23 24 25 26 24 23 22 23 24 23 24 25 26 27 28 29 30 18 30 31 30 31 32 33 53 54 55 54 53 52 51 52 51 50 51 50 51 48 [SEP] [MASK] 18 17 16 15 14 13 12 11 13 11 13 11 10 9 10 11 12 11 12 11 10 9 8 9 8 10 11 12 13 12 13 12 13 14 13 12 11 13 12 13 11 12 13 14 13 12 11 12 [SEP] [MASK] 20 21 22 21 22 21 20 21 20 21 22 [MASK] 22 20 21 20 21 22 20 22 20 22 [MASK] 20 21 20 21 22 [MASK] 20 [MASK] 20 [MASK] 18 17 16 18 16 18 17 16 15 11 10 11 10 9 8 [SEP] [MASK] 20 22 21 20 21 22 [MASK] 20 22 21 20 22 [MASK] 18 23 22 21 20 [MASK] 18 16 18 23 18 17 18 30 31 30 18 [MASK] 18 17 16 15 14 15 16 17 18 15 16 18 16 15 14 13 11
22
77
19
[CLS] [MASK] 22 20 22 [MASK] 20 21 20 21 20 22 [MASK] 18 16 17 18 16 18 17 16 17 16 15 16 17 18 16 18 23 24 25 26 27 26 27 28 27 28 29 30 29 26 24 25 26 25 24 26 25 [SEP] [MASK] 20 [MASK] 18 17 16 18 [MASK] 18 [MASK] 18 17 18 17 18 17 16 17 18 17 16 18 [MASK] 22 [MASK] 20 21 22 [MASK] 22 21 20 22 20 22 21 20 21 20 22 23 24 25 26 27 26 25 24 23 [SEP] [MASK] 18 30 31 30 29 26 24 26 24 26 25 26 27 26 25 26 27 26 27 26 25 26 25 24 25 26 27 26 27 26 25 24 25 26 24 26 24 23 24 25 24 25 26 24 23 22 20 21 [SEP] [MASK] 18 30 31 32 31 30 31 30 29 28 29 28 29 30 29 28 29 28 29 30 31 30 31 32 31 30 18 30 31 32 33 32 33 32 31 30 31 32 33 34 33 44 33 32 33 44 33 32 [SEP] [MASK] 22 20 22 20 22 20 22 23 24 23 22 20 21 20 21 22 20 21 20 [MASK] 22 [MASK] 18 30 31 30 18 16 15 18 30 31 30 18 15 18 23 18 [MASK] 20 21 22 21 22 23 22 [MASK] 18 [SEP] [MASK] 18 30 18 [MASK] 22 [MASK] 18 16 18 [MASK] 18 30 29 26 24 25 24 25 24 25 24 26 27 28 27 26 25 24 25 26 24 23 24 25 24 23 24 23 22 20 [MASK] 18 23 22 21 22 [MASK] 20
22
78
19
[CLS] [MASK] 20 22 20 22 23 24 25 26 27 28 29 28 29 28 29 30 29 26 25 26 29 28 29 26 29 28 27 28 29 26 24 26 27 28 29 30 31 32 33 32 31 32 33 53 54 55 53 54 [SEP] [MASK] 20 22 [MASK] 22 20 21 22 21 22 23 24 25 26 27 28 27 28 27 26 25 26 29 28 29 30 29 30 18 17 16 18 17 16 17 18 17 16 17 16 17 16 15 18 16 15 11 12 11 [SEP] [MASK] 22 [MASK] 22 20 22 23 18 30 31 30 18 30 31 32 33 53 54 53 33 34 35 39 40 39 43 40 41 40 43 42 41 42 43 40 41 42 41 40 39 38 37 36 38 36 35 39 35 34 [SEP] [MASK] 20 21 22 21 20 22 21 20 [MASK] 20 21 20 22 21 20 [MASK] 22 [MASK] 20 [MASK] 18 [MASK] 18 17 16 18 23 18 15 14 15 18 30 29 28 27 28 27 28 27 26 27 26 27 26 27 26 25 [SEP] [MASK] 20 [MASK] 22 21 20 [MASK] 18 17 16 18 17 16 17 18 30 31 30 31 32 33 34 35 36 38 37 38 39 40 39 43 42 41 40 41 43 41 40 39 35 34 35 34 35 36 38 39 38 39 [SEP] [MASK] 18 15 14 15 16 17 16 15 18 17 18 30 31 32 33 53 33 32 31 32 33 34 35 34 33 34 33 34 33 34 35 34 33 34 35 33 44 33 53 52 53 55 54 53 54 53 52 51
22
79
19
[CLS] [MASK] 18 30 29 30 31 32 33 34 35 33 44 33 44 47 45 46 47 46 45 46 45 46 47 46 47 46 45 47 46 47 44 45 46 45 44 33 34 33 34 33 53 54 55 54 55 56 55 54 [SEP] [MASK] 18 16 17 16 15 16 17 18 [MASK] 22 20 [MASK] 22 20 21 20 21 20 21 20 [MASK] 20 21 20 [MASK] 18 17 16 18 23 22 21 22 23 18 15 14 13 12 13 12 13 11 15 11 13 12 13 [SEP] [MASK] 18 [MASK] 18 16 17 16 18 17 16 18 15 18 16 17 16 17 18 16 17 16 18 16 18 [MASK] 22 23 24 26 27 28 29 28 27 28 27 26 27 28 27 28 29 26 24 26 25 26 25 24 [SEP] [MASK] 20 22 [MASK] 20 21 20 [MASK] 20 [MASK] 18 17 16 18 17 18 17 18 17 18 30 18 17 18 30 18 15 11 10 8 9 8 10 11 10 9 10 9 8 10 11 13 14 13 14 13 12 11 10 [SEP] [MASK] 22 [MASK] 20 21 20 21 20 22 [MASK] 20 21 22 21 22 23 18 [MASK] 18 16 17 18 16 18 15 16 17 18 16 18 23 18 30 18 23 24 23 24 23 24 25 24 23 24 23 18 17 18 [MASK] [SEP] [MASK] 22 20 21 20 21 22 20 22 23 24 23 22 21 20 21 22 23 18 17 16 17 16 15 16 17 16 18 15 16 17 16 17 16 17 18 [MASK] 20 21 20 [MASK] 20 21 20 22 20 21 22 21
22
80
19
[CLS] [MASK] 18 16 18 23 22 [MASK] 22 [MASK] 22 20 [MASK] 18 15 14 15 16 17 16 15 11 10 9 10 9 8 7 4 5 4 3 2 0 2 1 0 2 0 2 0 2 3 4 5 7 4 5 6 7 [SEP] [MASK] 18 23 24 25 26 25 26 25 24 25 24 25 24 26 27 28 29 26 25 26 29 28 29 30 31 30 29 28 29 30 29 28 29 28 27 26 29 28 29 30 31 32 31 32 31 32 33 32 [SEP] [MASK] 22 21 22 23 18 15 16 18 17 18 [MASK] 22 20 [MASK] 20 22 20 [MASK] 22 23 24 25 26 27 28 27 28 29 28 27 26 25 24 26 24 23 22 20 22 21 20 21 20 22 23 18 30 31 [SEP] [MASK] 22 20 [MASK] 22 [MASK] 18 17 18 [MASK] 22 20 21 22 [MASK] 18 16 15 18 23 18 17 18 [MASK] 22 21 20 21 20 22 21 20 21 20 21 22 23 22 21 22 21 20 21 22 23 24 25 26 25 [SEP] [MASK] 22 21 22 20 [MASK] 20 22 20 22 20 21 20 22 23 22 21 20 21 20 [MASK] 22 23 24 25 24 26 27 28 27 26 27 28 29 26 29 30 18 17 18 16 15 18 15 18 23 22 21 22 [SEP] [MASK] 22 [MASK] 18 17 16 18 23 24 25 24 25 24 26 24 25 26 25 24 26 27 26 27 26 25 26 29 28 27 28 29 28 29 28 27 28 29 30 18 17 18 15 14 13 12 13 14 15 18
22
81
19
[CLS] [MASK] 22 [MASK] 22 [MASK] 22 21 22 21 22 20 21 20 22 23 24 25 26 25 24 25 26 27 28 27 26 27 28 29 26 29 26 27 28 27 28 27 28 27 28 29 28 29 28 29 28 29 26 25 [SEP] [MASK] 20 22 [MASK] 20 [MASK] 18 30 18 30 31 30 31 32 31 32 33 34 35 36 37 36 37 36 37 38 39 35 34 33 34 35 34 33 32 31 30 31 30 31 30 29 30 18 16 15 11 12 11 [SEP] [MASK] 22 20 21 22 23 18 16 15 14 15 11 12 11 15 14 15 14 13 12 13 11 12 13 11 10 9 10 9 10 9 8 10 9 8 10 11 13 12 13 14 13 14 13 12 11 12 13 14 [SEP] [MASK] 20 21 22 21 22 [MASK] 20 22 20 21 22 21 22 20 [MASK] 20 21 22 [MASK] 18 16 15 14 13 14 13 14 13 11 13 12 13 12 11 15 11 12 11 12 11 12 11 12 13 12 11 12 11 [SEP] [MASK] 18 [MASK] 18 23 18 30 18 [MASK] 20 [MASK] 20 21 22 20 [MASK] 22 [MASK] 20 [MASK] 22 21 22 21 22 21 22 23 18 17 16 18 17 16 17 18 23 18 30 31 32 31 30 18 30 29 28 27 26 [SEP] [MASK] 18 30 29 26 24 23 24 26 29 28 29 28 27 26 29 30 31 30 31 30 29 28 29 30 31 32 31 30 31 30 18 17 18 23 24 23 18 [MASK] 18 23 18 17 18 23 18 30 31 32
22
82
19
[CLS] [MASK] 18 23 22 20 [MASK] 20 21 22 20 [MASK] 22 21 20 22 [MASK] 20 22 20 21 22 23 22 [MASK] 22 [MASK] 20 21 20 21 22 20 21 22 23 18 17 16 18 30 18 23 22 [MASK] 18 15 14 13 14 [SEP] [MASK] 22 23 18 16 17 18 17 18 [MASK] 20 21 22 23 24 26 24 26 25 24 26 29 26 25 24 26 27 28 27 26 25 26 25 26 25 24 25 24 23 18 30 29 28 29 28 27 28 29 26 [SEP] [MASK] 18 30 31 32 33 32 33 35 39 35 33 32 31 30 18 30 18 23 24 25 24 25 26 25 24 25 24 26 24 26 24 25 26 25 24 26 27 26 27 28 29 30 31 30 31 30 31 32 [SEP] [MASK] 22 23 22 23 24 25 26 24 25 24 26 25 24 25 24 26 25 24 25 26 27 26 29 26 24 25 26 24 23 22 [MASK] 18 30 31 30 29 28 29 30 18 15 14 15 14 15 14 13 14 [SEP] [MASK] 18 16 18 17 16 15 14 15 16 17 18 17 16 15 18 [MASK] 18 [MASK] 18 15 16 15 14 13 11 13 14 13 11 15 11 15 16 18 [MASK] 18 15 11 12 13 14 15 18 15 14 13 12 13 [SEP] [MASK] 18 [MASK] 20 21 22 20 21 22 [MASK] 18 [MASK] 20 [MASK] 22 23 24 26 27 26 25 24 23 22 [MASK] 18 15 18 [MASK] 22 20 [MASK] 20 [MASK] 20 21 22 21 20 21 20 [MASK] 22 23 24 23 22 21 22
22
83
19
[CLS] [MASK] 18 16 17 18 23 18 15 18 [MASK] 20 21 20 22 20 21 20 [MASK] 22 21 22 21 22 21 22 21 20 21 20 22 21 22 [MASK] 18 23 24 25 26 25 26 25 24 25 24 23 24 23 22 23 [SEP] [MASK] 18 17 16 18 30 31 32 31 30 31 30 29 26 27 28 27 28 29 30 31 32 33 34 35 36 37 36 37 36 37 38 36 37 36 37 38 36 37 38 37 38 39 43 39 40 41 42 43 [SEP] [MASK] 20 22 20 21 20 [MASK] 18 16 17 16 18 15 16 15 11 12 11 15 14 15 18 [MASK] 22 21 20 [MASK] 22 20 22 21 22 20 21 20 21 20 22 [MASK] 18 15 11 13 14 15 11 13 12 13 [SEP] [MASK] 18 23 24 26 24 26 29 30 18 30 31 30 29 28 29 26 25 26 25 26 27 28 27 26 27 28 27 28 29 28 29 26 25 24 26 29 28 27 26 29 26 29 26 25 26 25 24 25 [SEP] [MASK] 18 15 16 15 11 12 11 15 14 13 14 13 14 15 11 10 11 10 9 10 11 12 11 12 13 12 13 11 12 13 14 15 16 15 14 15 14 13 12 11 12 13 14 13 11 13 12 13 [SEP] [MASK] 22 [MASK] 20 22 23 18 17 16 18 30 31 30 18 16 17 16 15 14 13 11 13 14 15 14 13 11 12 11 13 12 13 12 11 13 11 12 11 10 9 10 8 7 6 7 6 7 5 7
22
84
19
[CLS] [MASK] 22 23 24 25 26 24 25 24 26 27 28 27 28 29 30 18 [MASK] 18 30 18 17 16 18 30 29 28 29 30 31 30 18 16 17 18 17 18 17 16 15 11 10 8 10 8 9 8 9 10 [SEP] [MASK] 20 21 20 [MASK] 18 16 17 16 15 14 15 14 13 14 13 12 13 12 13 11 13 11 12 11 13 12 13 11 12 13 14 13 11 15 18 15 14 15 14 15 14 13 14 15 16 18 23 22 [SEP] [MASK] 18 15 18 [MASK] 18 [MASK] 18 30 18 16 17 16 18 30 18 16 15 11 13 14 13 14 13 12 13 14 15 11 10 9 8 7 4 3 4 5 4 5 4 7 5 6 7 8 7 6 5 7 [SEP] [MASK] 18 23 24 26 29 28 29 26 29 26 25 24 25 26 24 25 26 29 26 29 30 31 32 33 32 33 32 33 34 33 35 34 33 44 43 44 47 45 44 43 41 43 41 40 43 41 43 40 [SEP] [MASK] 22 23 22 20 [MASK] 18 17 18 17 16 17 18 30 31 30 29 26 25 26 24 25 24 25 24 25 26 25 24 25 26 25 26 24 23 22 21 20 21 20 22 [MASK] 18 30 29 26 29 30 18 [SEP] [MASK] 18 16 15 16 17 16 17 18 [MASK] 18 15 11 13 14 15 16 17 16 18 30 29 28 27 26 27 26 27 26 25 26 29 28 27 28 29 30 29 28 27 28 27 28 27 26 27 26 25 24
22
85
19
[CLS] [MASK] 20 21 20 22 21 22 21 20 22 20 22 20 21 20 [MASK] 18 30 31 32 31 32 31 32 31 30 31 32 33 34 35 33 53 52 53 54 53 54 55 53 55 56 58 59 58 59 58 59 58 [SEP] [MASK] 18 16 15 14 13 12 13 12 11 13 14 15 16 17 16 18 15 14 15 14 13 14 13 14 15 11 10 9 8 9 10 9 10 9 8 7 5 7 4 3 2 1 0 1 2 3 2 1 [SEP] [MASK] 20 21 22 20 21 22 23 22 [MASK] 18 17 18 17 16 18 [MASK] 20 22 21 22 23 22 20 22 21 22 20 [MASK] 22 23 22 [MASK] 20 22 23 22 23 24 26 24 25 24 23 22 21 20 [MASK] 20 [SEP] [MASK] 22 20 21 20 21 20 22 23 22 21 20 21 20 [MASK] 20 [MASK] 20 [MASK] 18 30 18 15 16 17 18 [MASK] 18 16 15 18 17 16 17 18 30 29 30 31 30 29 28 27 26 25 26 27 26 25 [SEP] [MASK] 20 21 20 22 [MASK] 22 [MASK] 22 21 22 23 24 26 29 26 27 28 27 26 29 26 29 30 31 30 31 30 29 28 29 30 31 30 29 28 27 26 27 28 29 30 29 26 25 24 25 26 27 [SEP] [MASK] 18 30 29 30 31 30 29 26 25 26 25 24 23 18 23 18 15 18 17 18 23 18 [MASK] 18 17 16 17 18 17 18 23 18 15 11 13 11 15 11 12 13 14 15 14 13 11 10 9 8
22
86
19
[CLS] [MASK] 20 22 [MASK] 18 [MASK] 20 21 20 21 20 22 [MASK] 22 21 20 [MASK] 22 21 20 21 22 20 22 20 [MASK] 20 22 23 24 23 22 21 20 21 20 21 22 20 22 23 24 23 22 23 22 [MASK] 22 20 [SEP] [MASK] 22 23 18 30 31 32 33 34 33 32 31 32 31 30 18 16 17 18 30 31 32 31 30 31 32 33 34 35 39 35 36 38 39 43 41 43 41 43 39 35 34 35 34 35 36 38 36 38 [SEP] [MASK] 22 21 22 23 22 21 22 21 22 21 22 [MASK] 18 17 18 30 29 26 29 26 25 26 25 26 27 26 25 26 27 26 25 26 27 28 27 28 29 30 18 30 29 28 29 30 29 26 29 30 [SEP] [MASK] 18 [MASK] 18 30 31 32 31 32 31 30 31 30 18 15 16 17 18 30 31 32 31 30 31 32 33 32 33 34 35 34 35 34 33 35 39 40 43 44 47 46 47 44 33 32 31 30 29 30 [SEP] [MASK] 22 23 22 21 20 22 23 24 26 27 26 29 28 29 28 29 28 29 30 18 15 18 [MASK] 20 22 20 21 22 21 20 21 20 [MASK] 18 15 11 10 11 15 14 13 12 11 12 13 11 12 11 [SEP] [MASK] 18 [MASK] 20 21 20 22 21 20 22 20 22 21 22 23 18 23 24 23 22 21 22 [MASK] 22 [MASK] 22 21 20 22 [MASK] 22 [MASK] 22 20 21 22 21 22 20 [MASK] 18 16 17 16 15 11 12 13 14
22
87
19
[CLS] [MASK] 18 15 11 13 12 13 11 10 9 8 10 8 9 10 8 10 8 7 4 5 6 5 4 5 6 7 8 10 8 9 10 8 9 8 9 8 10 9 10 9 8 7 4 3 2 1 2 0 [SEP] [MASK] 18 17 16 17 16 17 16 15 16 17 16 15 16 15 16 17 16 17 16 17 16 18 15 16 18 17 16 15 18 23 24 25 26 25 24 26 25 24 26 25 24 25 26 25 26 25 24 26 [SEP] [MASK] 22 [MASK] 20 21 22 [MASK] 20 21 20 21 20 [MASK] 18 30 29 28 29 30 29 28 27 28 29 30 29 26 29 28 29 28 29 28 29 26 27 26 24 23 24 26 25 26 29 28 27 26 29 30 [SEP] [MASK] 18 16 15 16 17 16 15 16 15 14 15 11 12 13 12 13 11 15 14 13 14 13 12 13 11 10 11 15 16 17 18 16 18 17 18 23 22 20 [MASK] 20 22 20 21 20 21 22 20 [MASK] [SEP] [MASK] 18 17 18 30 18 16 17 16 15 14 13 12 11 12 11 10 11 13 12 11 13 14 15 16 17 18 15 16 15 11 13 12 13 12 11 13 14 13 12 13 12 11 15 14 15 16 18 17 [SEP] [MASK] 18 30 18 16 15 16 18 17 16 15 14 15 18 30 18 [MASK] 20 21 20 [MASK] 18 23 22 21 22 21 22 20 22 21 20 21 20 21 22 21 22 23 18 16 15 14 15 14 13 14 15 18
22
88
19
[CLS] [MASK] 20 22 [MASK] 18 17 16 18 23 22 21 22 20 [MASK] 18 30 31 32 31 32 31 30 31 32 33 34 33 32 33 35 34 35 36 35 36 35 34 33 34 35 34 33 32 31 32 33 35 34 33 [SEP] [MASK] 20 [MASK] 22 23 24 23 22 21 22 20 22 21 22 23 24 25 26 29 28 29 26 27 26 25 26 27 28 27 28 27 26 24 26 24 26 25 24 25 26 24 25 26 29 26 24 23 24 23 [SEP] [MASK] 22 23 24 26 27 28 27 26 24 25 24 25 26 27 28 29 28 27 28 27 28 27 26 25 26 27 28 29 28 29 28 27 28 27 26 25 26 25 24 23 18 [MASK] 20 22 21 22 21 22 [SEP] [MASK] 22 21 22 21 22 20 22 [MASK] 22 [MASK] 22 23 22 [MASK] 18 [MASK] 22 [MASK] 22 21 22 21 20 [MASK] 22 21 20 [MASK] 18 17 16 17 16 18 16 15 14 15 18 17 18 [MASK] 18 15 18 17 18 30 [SEP] [MASK] 20 21 22 [MASK] 20 [MASK] 18 30 31 32 33 53 54 55 54 55 56 58 56 58 59 60 61 63 61 60 59 58 61 60 61 62 61 60 59 58 56 58 59 60 59 60 59 60 61 62 61 62 [SEP] [MASK] 18 [MASK] 22 21 22 23 22 [MASK] 20 21 22 21 20 21 22 23 18 15 18 30 31 32 33 35 36 38 36 37 36 37 38 39 40 41 40 39 38 37 36 37 36 37 36 38 39 40 43 44
22
89
19
[CLS] [MASK] 20 22 [MASK] 22 20 21 22 23 22 21 22 21 20 21 22 23 24 23 22 20 [MASK] 20 21 22 21 20 21 22 21 22 20 21 20 22 [MASK] 22 21 20 [MASK] 20 21 22 20 21 22 21 22 21 [SEP] [MASK] 22 20 [MASK] 22 21 20 22 [MASK] 20 22 20 [MASK] 22 20 21 20 22 21 20 21 22 20 21 20 [MASK] 20 21 20 [MASK] 20 21 22 20 [MASK] 18 16 18 30 29 30 18 30 18 23 22 21 20 [MASK] [SEP] [MASK] 18 30 29 30 29 26 27 28 29 26 25 26 24 26 29 30 31 30 31 32 33 53 33 44 33 32 31 30 29 26 25 26 27 26 25 26 27 26 27 26 29 26 27 26 25 26 29 30 [SEP] [MASK] 18 16 17 16 17 18 17 18 30 31 30 29 30 31 32 33 34 35 34 33 34 35 34 35 36 37 36 38 37 38 37 36 35 39 40 39 35 34 35 34 33 34 35 36 37 38 37 36 [SEP] [MASK] 22 [MASK] 22 21 22 21 20 22 [MASK] 20 21 22 21 22 [MASK] 22 [MASK] 20 [MASK] 20 22 23 18 17 16 17 16 15 14 13 14 13 14 15 14 13 11 12 11 10 9 10 9 10 9 8 9 8 [SEP] [MASK] 20 21 20 [MASK] 18 [MASK] 18 30 31 32 31 30 18 17 16 17 18 15 18 23 24 26 24 26 25 26 25 26 25 24 26 24 26 27 28 29 28 29 30 18 17 18 16 17 18 16 15 18
22
90
19
[CLS] [MASK] 20 21 22 21 20 22 23 18 23 22 21 22 21 22 20 [MASK] 18 16 17 18 30 29 26 27 28 27 26 27 28 27 26 27 28 27 26 25 24 23 22 23 24 26 25 26 24 25 24 25 [SEP] [MASK] 22 23 24 26 25 26 27 26 24 25 24 26 25 24 23 22 [MASK] 20 22 21 20 21 20 21 22 20 22 23 22 20 [MASK] 18 16 18 [MASK] 20 21 22 [MASK] 22 [MASK] 20 [MASK] 22 23 22 [MASK] 18 [SEP] [MASK] 20 21 22 23 22 21 22 [MASK] 20 21 22 21 22 20 21 22 [MASK] 22 [MASK] 18 16 18 15 18 17 16 17 18 16 17 18 16 17 16 17 16 17 18 [MASK] 22 20 [MASK] 22 20 [MASK] 18 15 14 [SEP] [MASK] 18 15 11 12 11 13 12 13 12 13 14 13 11 15 14 13 14 15 14 15 14 15 11 12 13 12 11 12 11 15 18 16 18 17 16 17 18 [MASK] 20 [MASK] 22 [MASK] 20 [MASK] 20 21 22 20 [SEP] [MASK] 18 15 16 17 18 17 18 [MASK] 20 21 20 21 20 21 20 21 22 23 22 23 18 23 22 21 22 20 21 22 23 22 20 [MASK] 18 30 29 26 25 26 25 24 26 27 28 29 26 29 30 18 [SEP] [MASK] 20 [MASK] 22 20 21 22 23 22 [MASK] 22 23 18 23 18 17 16 15 18 17 16 15 14 15 16 17 18 17 16 17 16 17 18 30 18 30 31 32 31 32 31 30 31 32 33 35 36 35 36
22
91
19
[CLS] [MASK] 18 30 18 16 17 18 17 16 17 16 18 16 18 [MASK] 20 22 [MASK] 18 [MASK] 22 21 20 [MASK] 20 21 20 22 21 20 [MASK] 22 20 21 20 22 20 21 20 21 22 21 20 [MASK] 18 17 16 18 30 [SEP] [MASK] 22 [MASK] 22 23 18 23 24 25 26 24 23 18 30 31 32 31 30 31 32 33 35 34 35 33 53 55 54 55 56 55 54 53 33 34 33 34 33 34 33 32 33 44 43 41 40 43 42 41 [SEP] [MASK] 22 21 20 21 20 [MASK] 20 21 20 [MASK] 22 21 22 21 22 21 20 [MASK] 18 17 16 15 18 17 16 17 18 17 18 [MASK] 18 17 16 18 [MASK] 20 21 22 21 22 21 20 [MASK] 22 21 22 21 20 [SEP] [MASK] 22 20 22 20 [MASK] 18 17 16 18 23 22 23 24 23 22 23 18 [MASK] 20 [MASK] 22 20 22 21 20 [MASK] 20 [MASK] 18 17 18 30 18 17 18 15 14 13 14 13 14 15 14 15 16 15 16 17 [SEP] [MASK] 20 21 22 20 [MASK] 20 21 20 [MASK] 20 21 22 20 21 22 20 [MASK] 20 [MASK] 22 23 24 23 22 21 20 21 20 22 20 22 20 21 20 21 20 22 [MASK] 22 [MASK] 22 21 22 20 22 20 22 [MASK] [SEP] [MASK] 20 [MASK] 20 21 22 21 20 22 [MASK] 22 20 21 20 21 20 22 21 20 21 22 [MASK] 20 22 23 24 26 27 28 27 28 27 28 27 26 27 26 27 28 29 28 27 26 25 26 29 30 31 30
22
92
19
[CLS] [MASK] 22 [MASK] 18 17 18 16 18 17 16 18 23 22 21 22 21 22 [MASK] 20 22 21 20 [MASK] 20 [MASK] 18 23 22 23 24 23 18 [MASK] 22 [MASK] 20 21 22 [MASK] 20 21 20 22 21 20 21 22 21 20 [SEP] [MASK] 20 [MASK] 18 23 24 25 26 29 26 27 26 25 26 25 26 24 25 24 25 26 24 25 26 24 25 26 25 24 25 26 29 26 27 26 29 30 18 17 18 17 18 30 29 26 27 26 29 26 [SEP] [MASK] 22 [MASK] 18 15 18 15 14 13 14 15 11 13 11 12 11 10 9 10 9 8 9 10 8 10 9 8 9 10 8 9 8 10 11 10 8 7 5 6 5 6 7 6 7 6 7 3 4 3 [SEP] [MASK] 22 21 20 22 21 22 [MASK] 20 [MASK] 18 17 16 17 16 15 11 13 12 11 15 16 15 18 23 22 [MASK] 18 23 24 25 26 24 25 26 25 26 24 25 26 25 24 26 27 26 25 26 27 26 [SEP] [MASK] 20 21 20 22 23 22 20 22 21 22 20 21 22 21 20 [MASK] 18 [MASK] 20 [MASK] 22 21 22 [MASK] 20 21 22 23 22 20 21 22 20 21 22 [MASK] 20 21 20 22 [MASK] 22 21 20 [MASK] 18 23 22 [SEP] [MASK] 20 21 20 22 21 22 20 21 22 21 22 21 22 [MASK] 20 21 22 21 20 22 [MASK] 20 [MASK] 22 [MASK] 18 23 24 25 24 25 24 25 26 27 26 24 26 29 30 29 30 31 30 31 32 31 30
22
93
19
[CLS] [MASK] 22 23 22 [MASK] 20 [MASK] 18 [MASK] 22 20 22 20 22 [MASK] 20 22 20 21 22 23 24 25 26 24 25 26 29 26 27 26 24 25 24 26 27 26 25 26 25 26 24 26 25 24 26 27 28 29 [SEP] [MASK] 20 [MASK] 22 [MASK] 20 [MASK] 20 [MASK] 22 21 20 [MASK] 20 21 20 22 20 [MASK] 22 23 18 [MASK] 20 22 21 22 23 18 30 31 32 31 32 33 35 34 35 39 40 41 42 43 39 38 37 36 37 38 [SEP] [MASK] 18 [MASK] 20 [MASK] 22 21 22 21 22 21 22 [MASK] 18 23 18 17 16 17 18 23 18 23 22 21 20 22 21 20 21 22 21 22 21 22 [MASK] 20 22 23 18 16 18 17 16 15 14 13 11 12 [SEP] [MASK] 18 30 31 32 31 32 31 32 33 34 33 32 33 32 31 30 31 32 33 53 52 53 54 53 54 53 52 51 48 49 50 49 50 49 48 47 46 47 46 47 48 49 50 51 48 47 48 49 [SEP] [MASK] 18 16 17 16 17 16 17 16 17 16 15 14 13 14 13 12 13 14 13 14 15 18 30 29 28 27 26 27 26 27 28 29 28 29 30 18 30 18 17 16 15 14 15 11 15 14 15 14 [SEP] [MASK] 20 21 20 21 20 21 20 22 20 21 20 21 20 [MASK] 20 22 [MASK] 18 [MASK] 20 21 22 20 [MASK] 22 21 20 [MASK] 22 20 [MASK] 22 [MASK] 22 23 24 23 24 25 24 26 29 30 31 30 29 28 27
22
94
19
[CLS] [MASK] 18 15 14 13 14 13 11 13 11 13 12 11 13 12 11 15 14 13 12 11 15 16 17 16 18 17 18 23 18 17 18 17 18 23 18 [MASK] 22 21 20 21 20 [MASK] 18 17 16 15 14 13 [SEP] [MASK] 20 [MASK] 22 20 [MASK] 20 [MASK] 20 21 20 21 20 21 20 21 22 20 22 21 20 21 20 21 20 21 22 21 22 23 22 21 22 [MASK] 18 16 17 16 15 14 15 16 17 16 15 11 12 13 12 [SEP] [MASK] 20 [MASK] 22 21 20 [MASK] 18 17 18 16 17 16 17 18 15 14 15 16 18 [MASK] 18 30 29 30 18 16 18 17 16 17 18 16 17 18 23 18 15 14 15 14 13 12 13 12 11 10 9 8 [SEP] [MASK] 22 [MASK] 20 [MASK] 20 [MASK] 22 21 22 [MASK] 18 23 18 23 24 26 29 30 29 28 29 26 25 26 27 28 27 26 24 25 24 26 27 28 29 28 27 28 27 26 27 26 25 24 26 27 26 29 [SEP] [MASK] 18 16 17 18 23 24 25 24 26 27 28 29 30 29 28 27 26 27 28 29 30 29 30 31 32 33 44 47 48 51 52 53 54 55 53 52 51 50 49 50 51 50 49 51 50 49 50 49 [SEP] [MASK] 22 [MASK] 22 20 22 [MASK] 20 21 22 [MASK] 18 16 15 14 15 14 13 12 13 12 11 12 13 12 13 11 10 11 15 16 18 16 15 16 18 17 18 17 16 15 14 15 14 13 14 15 16 17
22
95
19
[CLS] [MASK] 22 21 20 21 20 21 20 22 21 20 22 [MASK] 22 [MASK] 22 21 20 21 20 22 21 22 [MASK] 18 [MASK] 20 21 22 21 20 21 22 [MASK] 22 [MASK] 20 21 20 22 [MASK] 18 17 18 17 16 15 16 17 [SEP] [MASK] 22 21 22 20 22 21 20 22 [MASK] 20 21 20 22 21 22 20 21 22 21 22 23 18 30 18 23 24 25 24 26 27 28 27 26 27 28 29 30 18 17 16 17 18 15 14 15 14 15 18 [SEP] [MASK] 22 [MASK] 18 17 18 23 24 25 24 26 24 26 25 26 25 26 29 30 29 30 18 30 18 [MASK] 18 30 18 17 16 15 18 23 18 30 18 30 31 32 33 32 33 44 45 46 47 44 33 32 [SEP] [MASK] 18 23 22 [MASK] 18 16 18 16 18 23 22 [MASK] 22 20 21 22 21 20 21 20 [MASK] 22 [MASK] 20 21 20 21 20 [MASK] 18 15 18 17 18 [MASK] 18 23 18 15 11 12 13 14 15 18 23 22 20 [SEP] [MASK] 18 15 18 16 17 16 17 16 17 16 18 23 18 17 16 18 17 18 30 31 30 31 30 18 30 29 28 29 28 27 26 24 25 24 25 24 25 24 23 24 23 22 [MASK] 20 [MASK] 22 20 22 [SEP] [MASK] 22 21 22 21 22 20 22 20 21 22 20 21 20 21 22 [MASK] 18 30 29 30 31 32 33 32 33 34 35 34 35 33 34 33 34 33 32 33 53 52 53 55 56 57 56 55 53 54 55 56
22
96
19
[CLS] [MASK] 22 21 22 21 22 21 22 [MASK] 18 23 24 26 29 30 31 32 31 30 29 26 24 23 22 [MASK] 22 21 22 [MASK] 20 21 22 20 21 20 21 20 [MASK] 20 22 20 21 22 23 22 21 20 22 20 [SEP] [MASK] 20 [MASK] 22 [MASK] 22 21 20 22 20 21 22 [MASK] 18 [MASK] 18 16 18 15 14 13 11 12 13 12 13 12 13 14 13 14 13 11 13 14 13 11 13 12 11 12 13 12 13 12 11 10 9 8 [SEP] [MASK] 22 23 22 21 22 21 20 21 20 22 20 22 [MASK] 18 17 16 18 23 18 17 18 17 18 23 24 25 26 25 26 25 26 25 26 25 24 26 25 24 23 18 30 31 30 31 30 18 23 18 [SEP] [MASK] 20 21 22 20 21 22 20 21 22 [MASK] 22 [MASK] 22 23 24 23 22 20 21 22 [MASK] 18 17 16 18 17 18 17 18 23 22 21 22 20 21 20 [MASK] 20 [MASK] 20 21 20 [MASK] 22 20 21 22 21 [SEP] [MASK] 22 [MASK] 22 20 21 22 [MASK] 20 22 23 22 21 20 22 21 22 20 21 20 [MASK] 22 21 20 [MASK] 20 [MASK] 22 21 22 20 [MASK] 22 20 [MASK] 18 23 22 20 [MASK] 20 22 23 18 17 18 17 18 16 [SEP] [MASK] 20 21 22 23 22 20 [MASK] 22 21 20 21 20 [MASK] 22 23 22 21 22 23 22 [MASK] 18 16 15 14 15 16 17 16 18 17 18 16 15 18 15 16 17 16 17 18 17 16 18 30 31 30 18
22
97
19
[CLS] [MASK] 22 20 21 20 22 23 22 21 22 23 18 30 18 17 16 18 17 18 16 15 11 10 9 8 10 11 13 12 11 12 11 12 13 12 11 13 11 12 13 12 11 13 14 13 11 10 9 10 [SEP] [MASK] 22 20 [MASK] 18 [MASK] 18 17 16 18 30 31 32 31 30 18 30 18 17 16 17 16 17 16 15 14 15 16 18 [MASK] 20 [MASK] 18 17 16 17 18 16 18 [MASK] 18 23 24 26 27 28 29 28 29 [SEP] [MASK] 22 20 21 22 20 21 22 23 24 23 18 16 18 [MASK] 22 23 22 23 24 23 22 21 20 21 22 [MASK] 20 [MASK] 20 21 20 21 20 [MASK] 20 21 20 22 [MASK] 22 21 22 23 22 21 20 21 20 [SEP] [MASK] 18 30 31 30 31 30 18 30 29 26 25 26 24 23 24 25 26 27 28 29 26 25 26 27 26 27 28 27 26 27 28 29 28 29 28 29 28 29 28 27 28 29 28 27 26 27 26 29 [SEP] [MASK] 22 23 22 21 20 22 21 22 20 21 22 20 22 21 22 23 22 23 18 17 16 17 18 15 14 15 14 15 18 23 22 20 21 20 [MASK] 22 21 22 23 24 25 24 25 26 25 26 29 26 [SEP] [MASK] 22 23 18 23 22 23 18 30 31 30 18 15 16 18 23 24 26 29 28 27 26 25 26 29 30 18 23 24 25 26 25 26 25 24 26 24 23 18 17 18 30 31 30 31 30 31 32 31
22
98
19
[CLS] [MASK] 22 23 22 [MASK] 18 15 16 18 17 16 17 18 15 16 18 16 18 30 29 28 27 26 25 26 24 25 26 25 26 29 28 27 26 24 23 18 16 17 16 17 16 15 18 30 29 28 29 26 [SEP] [MASK] 20 21 22 21 20 [MASK] 20 21 22 21 22 23 24 25 26 27 28 27 28 29 26 29 26 24 26 29 26 29 28 29 30 31 32 31 30 29 28 29 30 29 30 31 30 18 17 16 17 18 [SEP] [MASK] 20 [MASK] 20 21 22 23 24 25 26 25 26 27 28 29 28 27 28 27 28 27 28 29 30 18 [MASK] 18 15 16 15 14 13 12 13 11 12 13 12 13 12 11 10 11 10 11 12 11 10 11 [SEP] [MASK] 20 21 22 21 20 [MASK] 22 21 22 23 22 21 20 [MASK] 18 [MASK] 22 20 [MASK] 20 [MASK] 18 15 11 10 9 10 9 10 8 10 9 10 9 10 9 10 11 12 11 13 14 13 14 15 14 13 11 [SEP] [MASK] 22 [MASK] 20 [MASK] 18 30 29 28 27 28 29 30 18 23 24 26 25 26 25 24 26 27 28 29 28 27 26 24 26 27 26 27 28 27 26 25 24 26 29 28 27 28 29 30 31 32 31 32 [SEP] [MASK] 18 16 17 16 15 16 18 23 22 23 24 25 24 26 25 26 24 26 29 28 29 30 29 30 18 17 18 16 18 30 18 17 18 17 16 15 11 12 11 15 16 15 18 17 18 17 16 18
22
99
19