cccat6 commited on
Commit
1564216
·
verified ·
1 Parent(s): 3083b95

Upload model artifacts: Qwen3-14B eval stage_20

Browse files
Files changed (1) hide show
  1. Qwen3-14B/stage_20/eval_report.json +3163 -0
Qwen3-14B/stage_20/eval_report.json ADDED
@@ -0,0 +1,3163 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "config": {
3
+ "dataset_root": "/workspace/ASCII-VLA/train_data/20",
4
+ "observation_input_mode": "ascii",
5
+ "ascii_size": "96x54",
6
+ "max_steps": 30,
7
+ "workers": 96,
8
+ "api_concurrency": 96,
9
+ "api_model": "ascii_vla_lora",
10
+ "api_base_url": "http://127.0.0.1:8002/v1",
11
+ "stage": 20,
12
+ "fail_seed_limit": 0,
13
+ "merged_from": [
14
+ "/workspace/ASCII-VLA/eval_report/20260222_0542_stage20_shard2.json",
15
+ "/workspace/ASCII-VLA/eval_report/20260222_0542_stage20_shard1.json",
16
+ "/workspace/ASCII-VLA/eval_report/20260222_0542_stage20_shard0.json",
17
+ "/workspace/ASCII-VLA/eval_report/20260222_0542_stage20_shard3.json"
18
+ ],
19
+ "shards": 4
20
+ },
21
+ "train": {
22
+ "reachable_simple": {
23
+ "total": 8000,
24
+ "success": 7318,
25
+ "success_rate": 0.91475,
26
+ "steps_total": 63781,
27
+ "avg_steps": 7.972625,
28
+ "median_steps": 7.0,
29
+ "min_steps": 0,
30
+ "max_steps": 30,
31
+ "reason_counts": {
32
+ "success": 7318,
33
+ "unreachable_incorrect": 506,
34
+ "collision": 127,
35
+ "max_steps": 49
36
+ },
37
+ "failed_seed_count": 682,
38
+ "failed_seed_limit": 0,
39
+ "failed_seeds": [
40
+ 2,
41
+ 15,
42
+ 18,
43
+ 42,
44
+ 53,
45
+ 59,
46
+ 105,
47
+ 115,
48
+ 130,
49
+ 143,
50
+ 159,
51
+ 162,
52
+ 166,
53
+ 176,
54
+ 178,
55
+ 181,
56
+ 194,
57
+ 199,
58
+ 200,
59
+ 223,
60
+ 234,
61
+ 243,
62
+ 249,
63
+ 260,
64
+ 280,
65
+ 287,
66
+ 308,
67
+ 316,
68
+ 327,
69
+ 328,
70
+ 330,
71
+ 336,
72
+ 350,
73
+ 358,
74
+ 368,
75
+ 379,
76
+ 421,
77
+ 424,
78
+ 425,
79
+ 430,
80
+ 446,
81
+ 450,
82
+ 474,
83
+ 485,
84
+ 496,
85
+ 501,
86
+ 503,
87
+ 518,
88
+ 537,
89
+ 540,
90
+ 544,
91
+ 560,
92
+ 579,
93
+ 583,
94
+ 585,
95
+ 589,
96
+ 597,
97
+ 600,
98
+ 608,
99
+ 625,
100
+ 633,
101
+ 635,
102
+ 683,
103
+ 689,
104
+ 699,
105
+ 711,
106
+ 714,
107
+ 715,
108
+ 730,
109
+ 737,
110
+ 742,
111
+ 746,
112
+ 749,
113
+ 757,
114
+ 760,
115
+ 766,
116
+ 769,
117
+ 774,
118
+ 788,
119
+ 811,
120
+ 818,
121
+ 821,
122
+ 845,
123
+ 862,
124
+ 900,
125
+ 904,
126
+ 929,
127
+ 939,
128
+ 942,
129
+ 948,
130
+ 951,
131
+ 964,
132
+ 965,
133
+ 996,
134
+ 1008,
135
+ 1016,
136
+ 1029,
137
+ 1038,
138
+ 1045,
139
+ 1046,
140
+ 1057,
141
+ 1058,
142
+ 1072,
143
+ 1089,
144
+ 1110,
145
+ 1112,
146
+ 1124,
147
+ 1127,
148
+ 1130,
149
+ 1133,
150
+ 1161,
151
+ 1169,
152
+ 1193,
153
+ 1202,
154
+ 1207,
155
+ 1220,
156
+ 1224,
157
+ 1230,
158
+ 1262,
159
+ 1274,
160
+ 1284,
161
+ 1286,
162
+ 1288,
163
+ 1316,
164
+ 1337,
165
+ 1343,
166
+ 1355,
167
+ 1381,
168
+ 1382,
169
+ 1384,
170
+ 1395,
171
+ 1410,
172
+ 1418,
173
+ 1423,
174
+ 1446,
175
+ 1467,
176
+ 1469,
177
+ 1492,
178
+ 1505,
179
+ 1512,
180
+ 1513,
181
+ 1523,
182
+ 1527,
183
+ 1534,
184
+ 1540,
185
+ 1561,
186
+ 1566,
187
+ 1568,
188
+ 1570,
189
+ 1581,
190
+ 1583,
191
+ 1596,
192
+ 1602,
193
+ 1605,
194
+ 1626,
195
+ 1666,
196
+ 1670,
197
+ 1674,
198
+ 1678,
199
+ 1686,
200
+ 1692,
201
+ 1700,
202
+ 1705,
203
+ 1716,
204
+ 1722,
205
+ 1738,
206
+ 1741,
207
+ 1745,
208
+ 1756,
209
+ 1761,
210
+ 1785,
211
+ 1787,
212
+ 1788,
213
+ 1797,
214
+ 1815,
215
+ 1826,
216
+ 1834,
217
+ 1838,
218
+ 1848,
219
+ 1850,
220
+ 1857,
221
+ 1860,
222
+ 1864,
223
+ 1865,
224
+ 1872,
225
+ 1884,
226
+ 1895,
227
+ 1909,
228
+ 1913,
229
+ 1917,
230
+ 1932,
231
+ 1938,
232
+ 1948,
233
+ 1967,
234
+ 1970,
235
+ 1976,
236
+ 2040,
237
+ 2052,
238
+ 2084,
239
+ 2107,
240
+ 2110,
241
+ 2134,
242
+ 2137,
243
+ 2141,
244
+ 2169,
245
+ 2180,
246
+ 2195,
247
+ 2202,
248
+ 2213,
249
+ 2214,
250
+ 2219,
251
+ 2238,
252
+ 2239,
253
+ 2261,
254
+ 2263,
255
+ 2288,
256
+ 2290,
257
+ 2303,
258
+ 2307,
259
+ 2324,
260
+ 2342,
261
+ 2355,
262
+ 2376,
263
+ 2418,
264
+ 2420,
265
+ 2453,
266
+ 2469,
267
+ 2479,
268
+ 2480,
269
+ 2492,
270
+ 2494,
271
+ 2505,
272
+ 2516,
273
+ 2531,
274
+ 2548,
275
+ 2561,
276
+ 2580,
277
+ 2606,
278
+ 2610,
279
+ 2615,
280
+ 2622,
281
+ 2628,
282
+ 2631,
283
+ 2634,
284
+ 2645,
285
+ 2651,
286
+ 2669,
287
+ 2672,
288
+ 2680,
289
+ 2681,
290
+ 2685,
291
+ 2699,
292
+ 2722,
293
+ 2725,
294
+ 2726,
295
+ 2739,
296
+ 2742,
297
+ 2743,
298
+ 2751,
299
+ 2761,
300
+ 2770,
301
+ 2782,
302
+ 2811,
303
+ 2812,
304
+ 2836,
305
+ 2851,
306
+ 2861,
307
+ 2865,
308
+ 2869,
309
+ 2916,
310
+ 2921,
311
+ 2942,
312
+ 2973,
313
+ 2996,
314
+ 2998,
315
+ 3019,
316
+ 3027,
317
+ 3035,
318
+ 3047,
319
+ 3081,
320
+ 3099,
321
+ 3116,
322
+ 3125,
323
+ 3135,
324
+ 3142,
325
+ 3158,
326
+ 3176,
327
+ 3194,
328
+ 3195,
329
+ 3200,
330
+ 3230,
331
+ 3238,
332
+ 3258,
333
+ 3264,
334
+ 3291,
335
+ 3340,
336
+ 3346,
337
+ 3351,
338
+ 3353,
339
+ 3364,
340
+ 3380,
341
+ 3436,
342
+ 3472,
343
+ 3474,
344
+ 3477,
345
+ 3505,
346
+ 3522,
347
+ 3524,
348
+ 3525,
349
+ 3532,
350
+ 3538,
351
+ 3544,
352
+ 3548,
353
+ 3555,
354
+ 3563,
355
+ 3592,
356
+ 3604,
357
+ 3635,
358
+ 3670,
359
+ 3673,
360
+ 3677,
361
+ 3680,
362
+ 3684,
363
+ 3691,
364
+ 3702,
365
+ 3719,
366
+ 3726,
367
+ 3727,
368
+ 3730,
369
+ 3761,
370
+ 3767,
371
+ 3773,
372
+ 3806,
373
+ 3809,
374
+ 3823,
375
+ 3833,
376
+ 3848,
377
+ 3857,
378
+ 3872,
379
+ 3873,
380
+ 3876,
381
+ 3916,
382
+ 3920,
383
+ 3952,
384
+ 3956,
385
+ 3962,
386
+ 3963,
387
+ 4008,
388
+ 4013,
389
+ 4023,
390
+ 4027,
391
+ 4036,
392
+ 4048,
393
+ 4069,
394
+ 4074,
395
+ 4100,
396
+ 4109,
397
+ 4162,
398
+ 4217,
399
+ 4278,
400
+ 4284,
401
+ 4288,
402
+ 4297,
403
+ 4303,
404
+ 4307,
405
+ 4340,
406
+ 4350,
407
+ 4361,
408
+ 4369,
409
+ 4409,
410
+ 4423,
411
+ 4430,
412
+ 4446,
413
+ 4449,
414
+ 4482,
415
+ 4486,
416
+ 4489,
417
+ 4501,
418
+ 4523,
419
+ 4539,
420
+ 4558,
421
+ 4572,
422
+ 4582,
423
+ 4589,
424
+ 4599,
425
+ 4613,
426
+ 4628,
427
+ 4647,
428
+ 4648,
429
+ 4663,
430
+ 4686,
431
+ 4691,
432
+ 4699,
433
+ 4707,
434
+ 4716,
435
+ 4724,
436
+ 4726,
437
+ 4739,
438
+ 4740,
439
+ 4744,
440
+ 4759,
441
+ 4774,
442
+ 4776,
443
+ 4790,
444
+ 4811,
445
+ 4825,
446
+ 4830,
447
+ 4842,
448
+ 4855,
449
+ 4869,
450
+ 4881,
451
+ 4885,
452
+ 4887,
453
+ 4891,
454
+ 4907,
455
+ 4914,
456
+ 4921,
457
+ 4929,
458
+ 4953,
459
+ 4956,
460
+ 4991,
461
+ 5005,
462
+ 5037,
463
+ 5040,
464
+ 5059,
465
+ 5065,
466
+ 5085,
467
+ 5086,
468
+ 5111,
469
+ 5131,
470
+ 5170,
471
+ 5180,
472
+ 5194,
473
+ 5200,
474
+ 5216,
475
+ 5219,
476
+ 5230,
477
+ 5240,
478
+ 5251,
479
+ 5263,
480
+ 5286,
481
+ 5311,
482
+ 5320,
483
+ 5323,
484
+ 5326,
485
+ 5346,
486
+ 5350,
487
+ 5352,
488
+ 5367,
489
+ 5394,
490
+ 5395,
491
+ 5406,
492
+ 5407,
493
+ 5422,
494
+ 5429,
495
+ 5441,
496
+ 5447,
497
+ 5471,
498
+ 5472,
499
+ 5486,
500
+ 5489,
501
+ 5540,
502
+ 5549,
503
+ 5557,
504
+ 5567,
505
+ 5578,
506
+ 5590,
507
+ 5596,
508
+ 5602,
509
+ 5622,
510
+ 5624,
511
+ 5626,
512
+ 5635,
513
+ 5664,
514
+ 5694,
515
+ 5702,
516
+ 5738,
517
+ 5751,
518
+ 5770,
519
+ 5782,
520
+ 5786,
521
+ 5787,
522
+ 5789,
523
+ 5795,
524
+ 5832,
525
+ 5846,
526
+ 5847,
527
+ 5848,
528
+ 5849,
529
+ 5856,
530
+ 5865,
531
+ 5869,
532
+ 5870,
533
+ 5878,
534
+ 5895,
535
+ 5898,
536
+ 5905,
537
+ 5906,
538
+ 5924,
539
+ 5928,
540
+ 5946,
541
+ 5968,
542
+ 5988,
543
+ 6001,
544
+ 6004,
545
+ 6005,
546
+ 6008,
547
+ 6013,
548
+ 6016,
549
+ 6020,
550
+ 6024,
551
+ 6060,
552
+ 6070,
553
+ 6124,
554
+ 6125,
555
+ 6158,
556
+ 6161,
557
+ 6180,
558
+ 6181,
559
+ 6184,
560
+ 6216,
561
+ 6222,
562
+ 6235,
563
+ 6243,
564
+ 6283,
565
+ 6288,
566
+ 6294,
567
+ 6304,
568
+ 6309,
569
+ 6320,
570
+ 6341,
571
+ 6344,
572
+ 6347,
573
+ 6365,
574
+ 6377,
575
+ 6382,
576
+ 6384,
577
+ 6385,
578
+ 6392,
579
+ 6397,
580
+ 6406,
581
+ 6414,
582
+ 6439,
583
+ 6443,
584
+ 6461,
585
+ 6473,
586
+ 6481,
587
+ 6486,
588
+ 6488,
589
+ 6506,
590
+ 6527,
591
+ 6535,
592
+ 6561,
593
+ 6580,
594
+ 6589,
595
+ 6595,
596
+ 6602,
597
+ 6604,
598
+ 6610,
599
+ 6612,
600
+ 6621,
601
+ 6634,
602
+ 6637,
603
+ 6638,
604
+ 6649,
605
+ 6657,
606
+ 6661,
607
+ 6667,
608
+ 6669,
609
+ 6684,
610
+ 6734,
611
+ 6749,
612
+ 6779,
613
+ 6787,
614
+ 6793,
615
+ 6849,
616
+ 6854,
617
+ 6856,
618
+ 6857,
619
+ 6869,
620
+ 6948,
621
+ 6969,
622
+ 6980,
623
+ 6997,
624
+ 7021,
625
+ 7033,
626
+ 7040,
627
+ 7042,
628
+ 7063,
629
+ 7100,
630
+ 7104,
631
+ 7105,
632
+ 7109,
633
+ 7112,
634
+ 7117,
635
+ 7119,
636
+ 7122,
637
+ 7128,
638
+ 7135,
639
+ 7147,
640
+ 7152,
641
+ 7164,
642
+ 7185,
643
+ 7189,
644
+ 7237,
645
+ 7253,
646
+ 7255,
647
+ 7265,
648
+ 7268,
649
+ 7270,
650
+ 7272,
651
+ 7284,
652
+ 7298,
653
+ 7317,
654
+ 7320,
655
+ 7331,
656
+ 7342,
657
+ 7349,
658
+ 7355,
659
+ 7358,
660
+ 7360,
661
+ 7362,
662
+ 7365,
663
+ 7375,
664
+ 7380,
665
+ 7388,
666
+ 7395,
667
+ 7408,
668
+ 7418,
669
+ 7431,
670
+ 7433,
671
+ 7451,
672
+ 7454,
673
+ 7456,
674
+ 7460,
675
+ 7474,
676
+ 7494,
677
+ 7534,
678
+ 7545,
679
+ 7566,
680
+ 7586,
681
+ 7598,
682
+ 7607,
683
+ 7611,
684
+ 7618,
685
+ 7619,
686
+ 7626,
687
+ 7638,
688
+ 7664,
689
+ 7666,
690
+ 7675,
691
+ 7679,
692
+ 7689,
693
+ 7692,
694
+ 7693,
695
+ 7708,
696
+ 7711,
697
+ 7740,
698
+ 7746,
699
+ 7752,
700
+ 7758,
701
+ 7760,
702
+ 7785,
703
+ 7790,
704
+ 7793,
705
+ 7800,
706
+ 7812,
707
+ 7832,
708
+ 7842,
709
+ 7843,
710
+ 7844,
711
+ 7873,
712
+ 7874,
713
+ 7883,
714
+ 7921,
715
+ 7922,
716
+ 7946,
717
+ 7952,
718
+ 7955,
719
+ 7977,
720
+ 7992,
721
+ 7996
722
+ ],
723
+ "failed_reason_seed_counts": {
724
+ "collision": 127,
725
+ "max_steps": 49,
726
+ "unreachable_incorrect": 506
727
+ },
728
+ "failed_reason_seeds": {
729
+ "collision": [
730
+ 223,
731
+ 308,
732
+ 328,
733
+ 424,
734
+ 446,
735
+ 579,
736
+ 633,
737
+ 683,
738
+ 811,
739
+ 939,
740
+ 965,
741
+ 1008,
742
+ 1130,
743
+ 1224,
744
+ 1274,
745
+ 1286,
746
+ 1316,
747
+ 1381,
748
+ 1410,
749
+ 1492,
750
+ 1505,
751
+ 1523,
752
+ 1596,
753
+ 1686,
754
+ 1722,
755
+ 1787,
756
+ 1838,
757
+ 1857,
758
+ 1895,
759
+ 1976,
760
+ 2040,
761
+ 2214,
762
+ 2239,
763
+ 2261,
764
+ 2290,
765
+ 2355,
766
+ 2420,
767
+ 2494,
768
+ 2505,
769
+ 2651,
770
+ 2722,
771
+ 2726,
772
+ 2782,
773
+ 2812,
774
+ 2861,
775
+ 3340,
776
+ 3532,
777
+ 3544,
778
+ 3555,
779
+ 3673,
780
+ 3730,
781
+ 3848,
782
+ 3876,
783
+ 3963,
784
+ 4013,
785
+ 4217,
786
+ 4297,
787
+ 4340,
788
+ 4361,
789
+ 4501,
790
+ 4582,
791
+ 4589,
792
+ 4613,
793
+ 4726,
794
+ 4739,
795
+ 4774,
796
+ 4790,
797
+ 4869,
798
+ 5005,
799
+ 5059,
800
+ 5263,
801
+ 5311,
802
+ 5320,
803
+ 5326,
804
+ 5472,
805
+ 5489,
806
+ 5549,
807
+ 5557,
808
+ 5602,
809
+ 5626,
810
+ 5738,
811
+ 5795,
812
+ 5832,
813
+ 5849,
814
+ 5856,
815
+ 5988,
816
+ 6004,
817
+ 6005,
818
+ 6060,
819
+ 6124,
820
+ 6288,
821
+ 6320,
822
+ 6344,
823
+ 6414,
824
+ 6473,
825
+ 6481,
826
+ 6589,
827
+ 6602,
828
+ 6637,
829
+ 6684,
830
+ 6734,
831
+ 6779,
832
+ 6849,
833
+ 6856,
834
+ 6857,
835
+ 6869,
836
+ 6969,
837
+ 6980,
838
+ 7021,
839
+ 7040,
840
+ 7100,
841
+ 7117,
842
+ 7135,
843
+ 7189,
844
+ 7253,
845
+ 7320,
846
+ 7342,
847
+ 7355,
848
+ 7358,
849
+ 7362,
850
+ 7433,
851
+ 7474,
852
+ 7607,
853
+ 7689,
854
+ 7758,
855
+ 7842,
856
+ 7922
857
+ ],
858
+ "max_steps": [
859
+ 42,
860
+ 59,
861
+ 199,
862
+ 287,
863
+ 425,
864
+ 501,
865
+ 608,
866
+ 951,
867
+ 1692,
868
+ 1785,
869
+ 1848,
870
+ 2169,
871
+ 2480,
872
+ 2645,
873
+ 2973,
874
+ 2996,
875
+ 3472,
876
+ 3524,
877
+ 3670,
878
+ 3920,
879
+ 4027,
880
+ 4572,
881
+ 4663,
882
+ 4830,
883
+ 4842,
884
+ 4881,
885
+ 5085,
886
+ 5170,
887
+ 5200,
888
+ 5567,
889
+ 5635,
890
+ 5664,
891
+ 5878,
892
+ 5895,
893
+ 5898,
894
+ 5905,
895
+ 6070,
896
+ 6158,
897
+ 6235,
898
+ 6294,
899
+ 6604,
900
+ 7104,
901
+ 7105,
902
+ 7122,
903
+ 7494,
904
+ 7626,
905
+ 7793,
906
+ 7832,
907
+ 7977
908
+ ],
909
+ "unreachable_incorrect": [
910
+ 2,
911
+ 15,
912
+ 18,
913
+ 53,
914
+ 105,
915
+ 115,
916
+ 130,
917
+ 143,
918
+ 159,
919
+ 162,
920
+ 166,
921
+ 176,
922
+ 178,
923
+ 181,
924
+ 194,
925
+ 200,
926
+ 234,
927
+ 243,
928
+ 249,
929
+ 260,
930
+ 280,
931
+ 316,
932
+ 327,
933
+ 330,
934
+ 336,
935
+ 350,
936
+ 358,
937
+ 368,
938
+ 379,
939
+ 421,
940
+ 430,
941
+ 450,
942
+ 474,
943
+ 485,
944
+ 496,
945
+ 503,
946
+ 518,
947
+ 537,
948
+ 540,
949
+ 544,
950
+ 560,
951
+ 583,
952
+ 585,
953
+ 589,
954
+ 597,
955
+ 600,
956
+ 625,
957
+ 635,
958
+ 689,
959
+ 699,
960
+ 711,
961
+ 714,
962
+ 715,
963
+ 730,
964
+ 737,
965
+ 742,
966
+ 746,
967
+ 749,
968
+ 757,
969
+ 760,
970
+ 766,
971
+ 769,
972
+ 774,
973
+ 788,
974
+ 818,
975
+ 821,
976
+ 845,
977
+ 862,
978
+ 900,
979
+ 904,
980
+ 929,
981
+ 942,
982
+ 948,
983
+ 964,
984
+ 996,
985
+ 1016,
986
+ 1029,
987
+ 1038,
988
+ 1045,
989
+ 1046,
990
+ 1057,
991
+ 1058,
992
+ 1072,
993
+ 1089,
994
+ 1110,
995
+ 1112,
996
+ 1124,
997
+ 1127,
998
+ 1133,
999
+ 1161,
1000
+ 1169,
1001
+ 1193,
1002
+ 1202,
1003
+ 1207,
1004
+ 1220,
1005
+ 1230,
1006
+ 1262,
1007
+ 1284,
1008
+ 1288,
1009
+ 1337,
1010
+ 1343,
1011
+ 1355,
1012
+ 1382,
1013
+ 1384,
1014
+ 1395,
1015
+ 1418,
1016
+ 1423,
1017
+ 1446,
1018
+ 1467,
1019
+ 1469,
1020
+ 1512,
1021
+ 1513,
1022
+ 1527,
1023
+ 1534,
1024
+ 1540,
1025
+ 1561,
1026
+ 1566,
1027
+ 1568,
1028
+ 1570,
1029
+ 1581,
1030
+ 1583,
1031
+ 1602,
1032
+ 1605,
1033
+ 1626,
1034
+ 1666,
1035
+ 1670,
1036
+ 1674,
1037
+ 1678,
1038
+ 1700,
1039
+ 1705,
1040
+ 1716,
1041
+ 1738,
1042
+ 1741,
1043
+ 1745,
1044
+ 1756,
1045
+ 1761,
1046
+ 1788,
1047
+ 1797,
1048
+ 1815,
1049
+ 1826,
1050
+ 1834,
1051
+ 1850,
1052
+ 1860,
1053
+ 1864,
1054
+ 1865,
1055
+ 1872,
1056
+ 1884,
1057
+ 1909,
1058
+ 1913,
1059
+ 1917,
1060
+ 1932,
1061
+ 1938,
1062
+ 1948,
1063
+ 1967,
1064
+ 1970,
1065
+ 2052,
1066
+ 2084,
1067
+ 2107,
1068
+ 2110,
1069
+ 2134,
1070
+ 2137,
1071
+ 2141,
1072
+ 2180,
1073
+ 2195,
1074
+ 2202,
1075
+ 2213,
1076
+ 2219,
1077
+ 2238,
1078
+ 2263,
1079
+ 2288,
1080
+ 2303,
1081
+ 2307,
1082
+ 2324,
1083
+ 2342,
1084
+ 2376,
1085
+ 2418,
1086
+ 2453,
1087
+ 2469,
1088
+ 2479,
1089
+ 2492,
1090
+ 2516,
1091
+ 2531,
1092
+ 2548,
1093
+ 2561,
1094
+ 2580,
1095
+ 2606,
1096
+ 2610,
1097
+ 2615,
1098
+ 2622,
1099
+ 2628,
1100
+ 2631,
1101
+ 2634,
1102
+ 2669,
1103
+ 2672,
1104
+ 2680,
1105
+ 2681,
1106
+ 2685,
1107
+ 2699,
1108
+ 2725,
1109
+ 2739,
1110
+ 2742,
1111
+ 2743,
1112
+ 2751,
1113
+ 2761,
1114
+ 2770,
1115
+ 2811,
1116
+ 2836,
1117
+ 2851,
1118
+ 2865,
1119
+ 2869,
1120
+ 2916,
1121
+ 2921,
1122
+ 2942,
1123
+ 2998,
1124
+ 3019,
1125
+ 3027,
1126
+ 3035,
1127
+ 3047,
1128
+ 3081,
1129
+ 3099,
1130
+ 3116,
1131
+ 3125,
1132
+ 3135,
1133
+ 3142,
1134
+ 3158,
1135
+ 3176,
1136
+ 3194,
1137
+ 3195,
1138
+ 3200,
1139
+ 3230,
1140
+ 3238,
1141
+ 3258,
1142
+ 3264,
1143
+ 3291,
1144
+ 3346,
1145
+ 3351,
1146
+ 3353,
1147
+ 3364,
1148
+ 3380,
1149
+ 3436,
1150
+ 3474,
1151
+ 3477,
1152
+ 3505,
1153
+ 3522,
1154
+ 3525,
1155
+ 3538,
1156
+ 3548,
1157
+ 3563,
1158
+ 3592,
1159
+ 3604,
1160
+ 3635,
1161
+ 3677,
1162
+ 3680,
1163
+ 3684,
1164
+ 3691,
1165
+ 3702,
1166
+ 3719,
1167
+ 3726,
1168
+ 3727,
1169
+ 3761,
1170
+ 3767,
1171
+ 3773,
1172
+ 3806,
1173
+ 3809,
1174
+ 3823,
1175
+ 3833,
1176
+ 3857,
1177
+ 3872,
1178
+ 3873,
1179
+ 3916,
1180
+ 3952,
1181
+ 3956,
1182
+ 3962,
1183
+ 4008,
1184
+ 4023,
1185
+ 4036,
1186
+ 4048,
1187
+ 4069,
1188
+ 4074,
1189
+ 4100,
1190
+ 4109,
1191
+ 4162,
1192
+ 4278,
1193
+ 4284,
1194
+ 4288,
1195
+ 4303,
1196
+ 4307,
1197
+ 4350,
1198
+ 4369,
1199
+ 4409,
1200
+ 4423,
1201
+ 4430,
1202
+ 4446,
1203
+ 4449,
1204
+ 4482,
1205
+ 4486,
1206
+ 4489,
1207
+ 4523,
1208
+ 4539,
1209
+ 4558,
1210
+ 4599,
1211
+ 4628,
1212
+ 4647,
1213
+ 4648,
1214
+ 4686,
1215
+ 4691,
1216
+ 4699,
1217
+ 4707,
1218
+ 4716,
1219
+ 4724,
1220
+ 4740,
1221
+ 4744,
1222
+ 4759,
1223
+ 4776,
1224
+ 4811,
1225
+ 4825,
1226
+ 4855,
1227
+ 4885,
1228
+ 4887,
1229
+ 4891,
1230
+ 4907,
1231
+ 4914,
1232
+ 4921,
1233
+ 4929,
1234
+ 4953,
1235
+ 4956,
1236
+ 4991,
1237
+ 5037,
1238
+ 5040,
1239
+ 5065,
1240
+ 5086,
1241
+ 5111,
1242
+ 5131,
1243
+ 5180,
1244
+ 5194,
1245
+ 5216,
1246
+ 5219,
1247
+ 5230,
1248
+ 5240,
1249
+ 5251,
1250
+ 5286,
1251
+ 5323,
1252
+ 5346,
1253
+ 5350,
1254
+ 5352,
1255
+ 5367,
1256
+ 5394,
1257
+ 5395,
1258
+ 5406,
1259
+ 5407,
1260
+ 5422,
1261
+ 5429,
1262
+ 5441,
1263
+ 5447,
1264
+ 5471,
1265
+ 5486,
1266
+ 5540,
1267
+ 5578,
1268
+ 5590,
1269
+ 5596,
1270
+ 5622,
1271
+ 5624,
1272
+ 5694,
1273
+ 5702,
1274
+ 5751,
1275
+ 5770,
1276
+ 5782,
1277
+ 5786,
1278
+ 5787,
1279
+ 5789,
1280
+ 5846,
1281
+ 5847,
1282
+ 5848,
1283
+ 5865,
1284
+ 5869,
1285
+ 5870,
1286
+ 5906,
1287
+ 5924,
1288
+ 5928,
1289
+ 5946,
1290
+ 5968,
1291
+ 6001,
1292
+ 6008,
1293
+ 6013,
1294
+ 6016,
1295
+ 6020,
1296
+ 6024,
1297
+ 6125,
1298
+ 6161,
1299
+ 6180,
1300
+ 6181,
1301
+ 6184,
1302
+ 6216,
1303
+ 6222,
1304
+ 6243,
1305
+ 6283,
1306
+ 6304,
1307
+ 6309,
1308
+ 6341,
1309
+ 6347,
1310
+ 6365,
1311
+ 6377,
1312
+ 6382,
1313
+ 6384,
1314
+ 6385,
1315
+ 6392,
1316
+ 6397,
1317
+ 6406,
1318
+ 6439,
1319
+ 6443,
1320
+ 6461,
1321
+ 6486,
1322
+ 6488,
1323
+ 6506,
1324
+ 6527,
1325
+ 6535,
1326
+ 6561,
1327
+ 6580,
1328
+ 6595,
1329
+ 6610,
1330
+ 6612,
1331
+ 6621,
1332
+ 6634,
1333
+ 6638,
1334
+ 6649,
1335
+ 6657,
1336
+ 6661,
1337
+ 6667,
1338
+ 6669,
1339
+ 6749,
1340
+ 6787,
1341
+ 6793,
1342
+ 6854,
1343
+ 6948,
1344
+ 6997,
1345
+ 7033,
1346
+ 7042,
1347
+ 7063,
1348
+ 7109,
1349
+ 7112,
1350
+ 7119,
1351
+ 7128,
1352
+ 7147,
1353
+ 7152,
1354
+ 7164,
1355
+ 7185,
1356
+ 7237,
1357
+ 7255,
1358
+ 7265,
1359
+ 7268,
1360
+ 7270,
1361
+ 7272,
1362
+ 7284,
1363
+ 7298,
1364
+ 7317,
1365
+ 7331,
1366
+ 7349,
1367
+ 7360,
1368
+ 7365,
1369
+ 7375,
1370
+ 7380,
1371
+ 7388,
1372
+ 7395,
1373
+ 7408,
1374
+ 7418,
1375
+ 7431,
1376
+ 7451,
1377
+ 7454,
1378
+ 7456,
1379
+ 7460,
1380
+ 7534,
1381
+ 7545,
1382
+ 7566,
1383
+ 7586,
1384
+ 7598,
1385
+ 7611,
1386
+ 7618,
1387
+ 7619,
1388
+ 7638,
1389
+ 7664,
1390
+ 7666,
1391
+ 7675,
1392
+ 7679,
1393
+ 7692,
1394
+ 7693,
1395
+ 7708,
1396
+ 7711,
1397
+ 7740,
1398
+ 7746,
1399
+ 7752,
1400
+ 7760,
1401
+ 7785,
1402
+ 7790,
1403
+ 7800,
1404
+ 7812,
1405
+ 7843,
1406
+ 7844,
1407
+ 7873,
1408
+ 7874,
1409
+ 7883,
1410
+ 7921,
1411
+ 7946,
1412
+ 7952,
1413
+ 7955,
1414
+ 7992,
1415
+ 7996
1416
+ ]
1417
+ }
1418
+ },
1419
+ "reachable_complex": {
1420
+ "total": 2000,
1421
+ "success": 1895,
1422
+ "success_rate": 0.9475,
1423
+ "steps_total": 17311,
1424
+ "avg_steps": 8.6555,
1425
+ "median_steps": 8.125,
1426
+ "min_steps": 0,
1427
+ "max_steps": 30,
1428
+ "reason_counts": {
1429
+ "success": 1895,
1430
+ "collision": 72,
1431
+ "unreachable_incorrect": 29,
1432
+ "max_steps": 3,
1433
+ "done_no_success": 1
1434
+ },
1435
+ "failed_seed_count": 105,
1436
+ "failed_seed_limit": 0,
1437
+ "failed_seeds": [
1438
+ 1,
1439
+ 20,
1440
+ 21,
1441
+ 36,
1442
+ 61,
1443
+ 70,
1444
+ 72,
1445
+ 131,
1446
+ 173,
1447
+ 182,
1448
+ 191,
1449
+ 194,
1450
+ 259,
1451
+ 286,
1452
+ 313,
1453
+ 316,
1454
+ 356,
1455
+ 384,
1456
+ 401,
1457
+ 409,
1458
+ 535,
1459
+ 548,
1460
+ 563,
1461
+ 595,
1462
+ 597,
1463
+ 604,
1464
+ 609,
1465
+ 619,
1466
+ 639,
1467
+ 654,
1468
+ 684,
1469
+ 696,
1470
+ 715,
1471
+ 719,
1472
+ 736,
1473
+ 751,
1474
+ 770,
1475
+ 783,
1476
+ 785,
1477
+ 791,
1478
+ 812,
1479
+ 815,
1480
+ 820,
1481
+ 862,
1482
+ 868,
1483
+ 899,
1484
+ 905,
1485
+ 937,
1486
+ 956,
1487
+ 963,
1488
+ 971,
1489
+ 994,
1490
+ 1013,
1491
+ 1036,
1492
+ 1063,
1493
+ 1064,
1494
+ 1103,
1495
+ 1108,
1496
+ 1111,
1497
+ 1131,
1498
+ 1145,
1499
+ 1151,
1500
+ 1180,
1501
+ 1181,
1502
+ 1213,
1503
+ 1218,
1504
+ 1225,
1505
+ 1234,
1506
+ 1244,
1507
+ 1274,
1508
+ 1305,
1509
+ 1364,
1510
+ 1365,
1511
+ 1435,
1512
+ 1482,
1513
+ 1521,
1514
+ 1526,
1515
+ 1537,
1516
+ 1562,
1517
+ 1610,
1518
+ 1639,
1519
+ 1648,
1520
+ 1663,
1521
+ 1671,
1522
+ 1678,
1523
+ 1680,
1524
+ 1683,
1525
+ 1720,
1526
+ 1735,
1527
+ 1768,
1528
+ 1791,
1529
+ 1812,
1530
+ 1826,
1531
+ 1833,
1532
+ 1840,
1533
+ 1877,
1534
+ 1915,
1535
+ 1927,
1536
+ 1934,
1537
+ 1937,
1538
+ 1944,
1539
+ 1950,
1540
+ 1967,
1541
+ 1968,
1542
+ 1994
1543
+ ],
1544
+ "failed_reason_seed_counts": {
1545
+ "collision": 72,
1546
+ "done_no_success": 1,
1547
+ "max_steps": 3,
1548
+ "unreachable_incorrect": 29
1549
+ },
1550
+ "failed_reason_seeds": {
1551
+ "collision": [
1552
+ 1,
1553
+ 20,
1554
+ 21,
1555
+ 36,
1556
+ 61,
1557
+ 70,
1558
+ 72,
1559
+ 131,
1560
+ 173,
1561
+ 182,
1562
+ 191,
1563
+ 313,
1564
+ 384,
1565
+ 401,
1566
+ 409,
1567
+ 535,
1568
+ 548,
1569
+ 595,
1570
+ 597,
1571
+ 604,
1572
+ 609,
1573
+ 619,
1574
+ 639,
1575
+ 654,
1576
+ 684,
1577
+ 696,
1578
+ 736,
1579
+ 770,
1580
+ 783,
1581
+ 785,
1582
+ 791,
1583
+ 812,
1584
+ 820,
1585
+ 862,
1586
+ 937,
1587
+ 956,
1588
+ 971,
1589
+ 1036,
1590
+ 1063,
1591
+ 1103,
1592
+ 1108,
1593
+ 1111,
1594
+ 1131,
1595
+ 1145,
1596
+ 1180,
1597
+ 1213,
1598
+ 1218,
1599
+ 1225,
1600
+ 1234,
1601
+ 1244,
1602
+ 1274,
1603
+ 1305,
1604
+ 1365,
1605
+ 1435,
1606
+ 1526,
1607
+ 1537,
1608
+ 1562,
1609
+ 1610,
1610
+ 1639,
1611
+ 1648,
1612
+ 1680,
1613
+ 1720,
1614
+ 1735,
1615
+ 1768,
1616
+ 1812,
1617
+ 1826,
1618
+ 1840,
1619
+ 1927,
1620
+ 1937,
1621
+ 1944,
1622
+ 1968,
1623
+ 1994
1624
+ ],
1625
+ "done_no_success": [
1626
+ 286
1627
+ ],
1628
+ "max_steps": [
1629
+ 719,
1630
+ 815,
1631
+ 905
1632
+ ],
1633
+ "unreachable_incorrect": [
1634
+ 194,
1635
+ 259,
1636
+ 316,
1637
+ 356,
1638
+ 563,
1639
+ 715,
1640
+ 751,
1641
+ 868,
1642
+ 899,
1643
+ 963,
1644
+ 994,
1645
+ 1013,
1646
+ 1064,
1647
+ 1151,
1648
+ 1181,
1649
+ 1364,
1650
+ 1482,
1651
+ 1521,
1652
+ 1663,
1653
+ 1671,
1654
+ 1678,
1655
+ 1683,
1656
+ 1791,
1657
+ 1833,
1658
+ 1877,
1659
+ 1915,
1660
+ 1934,
1661
+ 1950,
1662
+ 1967
1663
+ ]
1664
+ }
1665
+ },
1666
+ "unreachable_blocked": {
1667
+ "total": 2000,
1668
+ "success": 1958,
1669
+ "success_rate": 0.979,
1670
+ "steps_total": 23,
1671
+ "avg_steps": 0.0115,
1672
+ "median_steps": 0.0,
1673
+ "min_steps": 0,
1674
+ "max_steps": 8,
1675
+ "reason_counts": {
1676
+ "unreachable_correct": 1958,
1677
+ "unreachable_wrong_type": 35,
1678
+ "done_without_unreachable": 7
1679
+ },
1680
+ "failed_seed_count": 42,
1681
+ "failed_seed_limit": 0,
1682
+ "failed_seeds": [
1683
+ 100,
1684
+ 132,
1685
+ 165,
1686
+ 234,
1687
+ 244,
1688
+ 294,
1689
+ 475,
1690
+ 482,
1691
+ 490,
1692
+ 581,
1693
+ 613,
1694
+ 638,
1695
+ 642,
1696
+ 654,
1697
+ 796,
1698
+ 890,
1699
+ 941,
1700
+ 983,
1701
+ 1007,
1702
+ 1015,
1703
+ 1033,
1704
+ 1038,
1705
+ 1064,
1706
+ 1089,
1707
+ 1091,
1708
+ 1092,
1709
+ 1134,
1710
+ 1214,
1711
+ 1259,
1712
+ 1432,
1713
+ 1488,
1714
+ 1512,
1715
+ 1669,
1716
+ 1691,
1717
+ 1735,
1718
+ 1736,
1719
+ 1742,
1720
+ 1752,
1721
+ 1761,
1722
+ 1763,
1723
+ 1834,
1724
+ 1914
1725
+ ],
1726
+ "failed_reason_seed_counts": {
1727
+ "done_without_unreachable": 7,
1728
+ "unreachable_wrong_type": 35
1729
+ },
1730
+ "failed_reason_seeds": {
1731
+ "done_without_unreachable": [
1732
+ 294,
1733
+ 654,
1734
+ 890,
1735
+ 1091,
1736
+ 1669,
1737
+ 1761,
1738
+ 1834
1739
+ ],
1740
+ "unreachable_wrong_type": [
1741
+ 100,
1742
+ 132,
1743
+ 165,
1744
+ 234,
1745
+ 244,
1746
+ 475,
1747
+ 482,
1748
+ 490,
1749
+ 581,
1750
+ 613,
1751
+ 638,
1752
+ 642,
1753
+ 796,
1754
+ 941,
1755
+ 983,
1756
+ 1007,
1757
+ 1015,
1758
+ 1033,
1759
+ 1038,
1760
+ 1064,
1761
+ 1089,
1762
+ 1092,
1763
+ 1134,
1764
+ 1214,
1765
+ 1259,
1766
+ 1432,
1767
+ 1488,
1768
+ 1512,
1769
+ 1691,
1770
+ 1735,
1771
+ 1736,
1772
+ 1742,
1773
+ 1752,
1774
+ 1763,
1775
+ 1914
1776
+ ]
1777
+ }
1778
+ },
1779
+ "unreachable_narrow": {
1780
+ "total": 2000,
1781
+ "success": 1967,
1782
+ "success_rate": 0.9835,
1783
+ "steps_total": 31,
1784
+ "avg_steps": 0.0155,
1785
+ "median_steps": 0.0,
1786
+ "min_steps": 0,
1787
+ "max_steps": 7,
1788
+ "reason_counts": {
1789
+ "unreachable_correct": 1967,
1790
+ "unreachable_wrong_type": 20,
1791
+ "done_without_unreachable": 13
1792
+ },
1793
+ "failed_seed_count": 33,
1794
+ "failed_seed_limit": 0,
1795
+ "failed_seeds": [
1796
+ 171,
1797
+ 173,
1798
+ 200,
1799
+ 221,
1800
+ 223,
1801
+ 416,
1802
+ 512,
1803
+ 847,
1804
+ 849,
1805
+ 898,
1806
+ 915,
1807
+ 935,
1808
+ 1010,
1809
+ 1023,
1810
+ 1074,
1811
+ 1085,
1812
+ 1098,
1813
+ 1101,
1814
+ 1123,
1815
+ 1153,
1816
+ 1212,
1817
+ 1226,
1818
+ 1263,
1819
+ 1348,
1820
+ 1355,
1821
+ 1473,
1822
+ 1534,
1823
+ 1588,
1824
+ 1649,
1825
+ 1669,
1826
+ 1692,
1827
+ 1948,
1828
+ 2000
1829
+ ],
1830
+ "failed_reason_seed_counts": {
1831
+ "done_without_unreachable": 13,
1832
+ "unreachable_wrong_type": 20
1833
+ },
1834
+ "failed_reason_seeds": {
1835
+ "done_without_unreachable": [
1836
+ 171,
1837
+ 200,
1838
+ 512,
1839
+ 847,
1840
+ 1023,
1841
+ 1074,
1842
+ 1101,
1843
+ 1348,
1844
+ 1473,
1845
+ 1534,
1846
+ 1588,
1847
+ 1692,
1848
+ 2000
1849
+ ],
1850
+ "unreachable_wrong_type": [
1851
+ 173,
1852
+ 221,
1853
+ 223,
1854
+ 416,
1855
+ 849,
1856
+ 898,
1857
+ 915,
1858
+ 935,
1859
+ 1010,
1860
+ 1085,
1861
+ 1098,
1862
+ 1123,
1863
+ 1153,
1864
+ 1212,
1865
+ 1226,
1866
+ 1263,
1867
+ 1355,
1868
+ 1649,
1869
+ 1669,
1870
+ 1948
1871
+ ]
1872
+ }
1873
+ },
1874
+ "unreachable_undefined": {
1875
+ "total": 2000,
1876
+ "success": 1991,
1877
+ "success_rate": 0.9955,
1878
+ "steps_total": 132,
1879
+ "avg_steps": 0.066,
1880
+ "median_steps": 0.0,
1881
+ "min_steps": 0,
1882
+ "max_steps": 30,
1883
+ "reason_counts": {
1884
+ "unreachable_correct": 1991,
1885
+ "done_without_unreachable": 3,
1886
+ "max_steps": 4,
1887
+ "unreachable_wrong_type": 2
1888
+ },
1889
+ "failed_seed_count": 9,
1890
+ "failed_seed_limit": 0,
1891
+ "failed_seeds": [
1892
+ 158,
1893
+ 896,
1894
+ 916,
1895
+ 1135,
1896
+ 1316,
1897
+ 1365,
1898
+ 1693,
1899
+ 1720,
1900
+ 1921
1901
+ ],
1902
+ "failed_reason_seed_counts": {
1903
+ "done_without_unreachable": 3,
1904
+ "max_steps": 4,
1905
+ "unreachable_wrong_type": 2
1906
+ },
1907
+ "failed_reason_seeds": {
1908
+ "done_without_unreachable": [
1909
+ 896,
1910
+ 1135,
1911
+ 1365
1912
+ ],
1913
+ "max_steps": [
1914
+ 158,
1915
+ 1316,
1916
+ 1693,
1917
+ 1720
1918
+ ],
1919
+ "unreachable_wrong_type": [
1920
+ 916,
1921
+ 1921
1922
+ ]
1923
+ }
1924
+ }
1925
+ },
1926
+ "new": {
1927
+ "reachable_simple": {
1928
+ "total": 1000,
1929
+ "success": 820,
1930
+ "success_rate": 0.82,
1931
+ "steps_total": 7559,
1932
+ "avg_steps": 7.559,
1933
+ "median_steps": 6.25,
1934
+ "min_steps": 0,
1935
+ "max_steps": 30,
1936
+ "reason_counts": {
1937
+ "collision": 91,
1938
+ "success": 820,
1939
+ "unreachable_incorrect": 87,
1940
+ "max_steps": 2
1941
+ },
1942
+ "failed_seed_count": 180,
1943
+ "failed_seed_limit": 0,
1944
+ "failed_seeds": [
1945
+ 10005,
1946
+ 10010,
1947
+ 10013,
1948
+ 10017,
1949
+ 10018,
1950
+ 10030,
1951
+ 10039,
1952
+ 10040,
1953
+ 10050,
1954
+ 10054,
1955
+ 10056,
1956
+ 10064,
1957
+ 10065,
1958
+ 10069,
1959
+ 10072,
1960
+ 10078,
1961
+ 10085,
1962
+ 10086,
1963
+ 10095,
1964
+ 10107,
1965
+ 10111,
1966
+ 10122,
1967
+ 10125,
1968
+ 10130,
1969
+ 10131,
1970
+ 10136,
1971
+ 10138,
1972
+ 10145,
1973
+ 10155,
1974
+ 10161,
1975
+ 10164,
1976
+ 10169,
1977
+ 10172,
1978
+ 10173,
1979
+ 10175,
1980
+ 10177,
1981
+ 10185,
1982
+ 10190,
1983
+ 10192,
1984
+ 10194,
1985
+ 10195,
1986
+ 10196,
1987
+ 10198,
1988
+ 10201,
1989
+ 10205,
1990
+ 10206,
1991
+ 10212,
1992
+ 10228,
1993
+ 10230,
1994
+ 10234,
1995
+ 10238,
1996
+ 10239,
1997
+ 10244,
1998
+ 10247,
1999
+ 10260,
2000
+ 10267,
2001
+ 10272,
2002
+ 10273,
2003
+ 10274,
2004
+ 10290,
2005
+ 10297,
2006
+ 10313,
2007
+ 10321,
2008
+ 10326,
2009
+ 10332,
2010
+ 10349,
2011
+ 10356,
2012
+ 10360,
2013
+ 10362,
2014
+ 10364,
2015
+ 10365,
2016
+ 10379,
2017
+ 10385,
2018
+ 10389,
2019
+ 10390,
2020
+ 10393,
2021
+ 10396,
2022
+ 10401,
2023
+ 10402,
2024
+ 10412,
2025
+ 10418,
2026
+ 10422,
2027
+ 10430,
2028
+ 10432,
2029
+ 10433,
2030
+ 10436,
2031
+ 10440,
2032
+ 10445,
2033
+ 10449,
2034
+ 10454,
2035
+ 10461,
2036
+ 10465,
2037
+ 10467,
2038
+ 10475,
2039
+ 10482,
2040
+ 10484,
2041
+ 10495,
2042
+ 10500,
2043
+ 10501,
2044
+ 10504,
2045
+ 10508,
2046
+ 10520,
2047
+ 10522,
2048
+ 10525,
2049
+ 10530,
2050
+ 10548,
2051
+ 10549,
2052
+ 10556,
2053
+ 10563,
2054
+ 10564,
2055
+ 10571,
2056
+ 10579,
2057
+ 10580,
2058
+ 10581,
2059
+ 10585,
2060
+ 10590,
2061
+ 10596,
2062
+ 10598,
2063
+ 10606,
2064
+ 10608,
2065
+ 10627,
2066
+ 10628,
2067
+ 10638,
2068
+ 10642,
2069
+ 10644,
2070
+ 10658,
2071
+ 10660,
2072
+ 10661,
2073
+ 10662,
2074
+ 10667,
2075
+ 10672,
2076
+ 10674,
2077
+ 10681,
2078
+ 10689,
2079
+ 10693,
2080
+ 10700,
2081
+ 10707,
2082
+ 10736,
2083
+ 10749,
2084
+ 10755,
2085
+ 10766,
2086
+ 10767,
2087
+ 10777,
2088
+ 10778,
2089
+ 10787,
2090
+ 10789,
2091
+ 10796,
2092
+ 10797,
2093
+ 10811,
2094
+ 10813,
2095
+ 10816,
2096
+ 10817,
2097
+ 10841,
2098
+ 10849,
2099
+ 10852,
2100
+ 10853,
2101
+ 10856,
2102
+ 10857,
2103
+ 10858,
2104
+ 10870,
2105
+ 10871,
2106
+ 10874,
2107
+ 10877,
2108
+ 10880,
2109
+ 10882,
2110
+ 10886,
2111
+ 10890,
2112
+ 10894,
2113
+ 10901,
2114
+ 10906,
2115
+ 10909,
2116
+ 10912,
2117
+ 10936,
2118
+ 10949,
2119
+ 10959,
2120
+ 10969,
2121
+ 10971,
2122
+ 10990,
2123
+ 10993,
2124
+ 10997
2125
+ ],
2126
+ "failed_reason_seed_counts": {
2127
+ "collision": 91,
2128
+ "max_steps": 2,
2129
+ "unreachable_incorrect": 87
2130
+ },
2131
+ "failed_reason_seeds": {
2132
+ "collision": [
2133
+ 10030,
2134
+ 10039,
2135
+ 10040,
2136
+ 10050,
2137
+ 10056,
2138
+ 10064,
2139
+ 10069,
2140
+ 10072,
2141
+ 10085,
2142
+ 10086,
2143
+ 10122,
2144
+ 10125,
2145
+ 10130,
2146
+ 10161,
2147
+ 10169,
2148
+ 10190,
2149
+ 10195,
2150
+ 10196,
2151
+ 10201,
2152
+ 10238,
2153
+ 10239,
2154
+ 10260,
2155
+ 10267,
2156
+ 10273,
2157
+ 10274,
2158
+ 10290,
2159
+ 10321,
2160
+ 10349,
2161
+ 10365,
2162
+ 10379,
2163
+ 10385,
2164
+ 10390,
2165
+ 10418,
2166
+ 10430,
2167
+ 10432,
2168
+ 10433,
2169
+ 10436,
2170
+ 10445,
2171
+ 10454,
2172
+ 10461,
2173
+ 10465,
2174
+ 10484,
2175
+ 10495,
2176
+ 10500,
2177
+ 10501,
2178
+ 10520,
2179
+ 10522,
2180
+ 10525,
2181
+ 10530,
2182
+ 10564,
2183
+ 10581,
2184
+ 10585,
2185
+ 10596,
2186
+ 10598,
2187
+ 10608,
2188
+ 10627,
2189
+ 10628,
2190
+ 10642,
2191
+ 10644,
2192
+ 10661,
2193
+ 10662,
2194
+ 10672,
2195
+ 10689,
2196
+ 10693,
2197
+ 10707,
2198
+ 10736,
2199
+ 10766,
2200
+ 10777,
2201
+ 10797,
2202
+ 10811,
2203
+ 10813,
2204
+ 10816,
2205
+ 10849,
2206
+ 10852,
2207
+ 10853,
2208
+ 10856,
2209
+ 10858,
2210
+ 10880,
2211
+ 10882,
2212
+ 10886,
2213
+ 10890,
2214
+ 10901,
2215
+ 10906,
2216
+ 10909,
2217
+ 10912,
2218
+ 10949,
2219
+ 10959,
2220
+ 10971,
2221
+ 10990,
2222
+ 10993,
2223
+ 10997
2224
+ ],
2225
+ "max_steps": [
2226
+ 10078,
2227
+ 10556
2228
+ ],
2229
+ "unreachable_incorrect": [
2230
+ 10005,
2231
+ 10010,
2232
+ 10013,
2233
+ 10017,
2234
+ 10018,
2235
+ 10054,
2236
+ 10065,
2237
+ 10095,
2238
+ 10107,
2239
+ 10111,
2240
+ 10131,
2241
+ 10136,
2242
+ 10138,
2243
+ 10145,
2244
+ 10155,
2245
+ 10164,
2246
+ 10172,
2247
+ 10173,
2248
+ 10175,
2249
+ 10177,
2250
+ 10185,
2251
+ 10192,
2252
+ 10194,
2253
+ 10198,
2254
+ 10205,
2255
+ 10206,
2256
+ 10212,
2257
+ 10228,
2258
+ 10230,
2259
+ 10234,
2260
+ 10244,
2261
+ 10247,
2262
+ 10272,
2263
+ 10297,
2264
+ 10313,
2265
+ 10326,
2266
+ 10332,
2267
+ 10356,
2268
+ 10360,
2269
+ 10362,
2270
+ 10364,
2271
+ 10389,
2272
+ 10393,
2273
+ 10396,
2274
+ 10401,
2275
+ 10402,
2276
+ 10412,
2277
+ 10422,
2278
+ 10440,
2279
+ 10449,
2280
+ 10467,
2281
+ 10475,
2282
+ 10482,
2283
+ 10504,
2284
+ 10508,
2285
+ 10548,
2286
+ 10549,
2287
+ 10563,
2288
+ 10571,
2289
+ 10579,
2290
+ 10580,
2291
+ 10590,
2292
+ 10606,
2293
+ 10638,
2294
+ 10658,
2295
+ 10660,
2296
+ 10667,
2297
+ 10674,
2298
+ 10681,
2299
+ 10700,
2300
+ 10749,
2301
+ 10755,
2302
+ 10767,
2303
+ 10778,
2304
+ 10787,
2305
+ 10789,
2306
+ 10796,
2307
+ 10817,
2308
+ 10841,
2309
+ 10857,
2310
+ 10870,
2311
+ 10871,
2312
+ 10874,
2313
+ 10877,
2314
+ 10894,
2315
+ 10936,
2316
+ 10969
2317
+ ]
2318
+ }
2319
+ },
2320
+ "reachable_complex": {
2321
+ "total": 1000,
2322
+ "success": 804,
2323
+ "success_rate": 0.804,
2324
+ "steps_total": 7809,
2325
+ "avg_steps": 7.809,
2326
+ "median_steps": 7.25,
2327
+ "min_steps": 0,
2328
+ "max_steps": 30,
2329
+ "reason_counts": {
2330
+ "unreachable_incorrect": 38,
2331
+ "collision": 155,
2332
+ "success": 804,
2333
+ "max_steps": 3
2334
+ },
2335
+ "failed_seed_count": 196,
2336
+ "failed_seed_limit": 0,
2337
+ "failed_seeds": [
2338
+ 10006,
2339
+ 10012,
2340
+ 10015,
2341
+ 10026,
2342
+ 10037,
2343
+ 10045,
2344
+ 10056,
2345
+ 10058,
2346
+ 10059,
2347
+ 10061,
2348
+ 10062,
2349
+ 10063,
2350
+ 10064,
2351
+ 10065,
2352
+ 10067,
2353
+ 10074,
2354
+ 10076,
2355
+ 10078,
2356
+ 10085,
2357
+ 10092,
2358
+ 10093,
2359
+ 10095,
2360
+ 10097,
2361
+ 10098,
2362
+ 10099,
2363
+ 10100,
2364
+ 10102,
2365
+ 10115,
2366
+ 10121,
2367
+ 10124,
2368
+ 10126,
2369
+ 10135,
2370
+ 10136,
2371
+ 10137,
2372
+ 10138,
2373
+ 10140,
2374
+ 10145,
2375
+ 10151,
2376
+ 10163,
2377
+ 10171,
2378
+ 10182,
2379
+ 10184,
2380
+ 10194,
2381
+ 10198,
2382
+ 10199,
2383
+ 10202,
2384
+ 10204,
2385
+ 10214,
2386
+ 10219,
2387
+ 10229,
2388
+ 10234,
2389
+ 10241,
2390
+ 10256,
2391
+ 10257,
2392
+ 10258,
2393
+ 10259,
2394
+ 10260,
2395
+ 10261,
2396
+ 10266,
2397
+ 10268,
2398
+ 10269,
2399
+ 10270,
2400
+ 10278,
2401
+ 10281,
2402
+ 10294,
2403
+ 10309,
2404
+ 10320,
2405
+ 10325,
2406
+ 10326,
2407
+ 10328,
2408
+ 10329,
2409
+ 10333,
2410
+ 10339,
2411
+ 10365,
2412
+ 10366,
2413
+ 10368,
2414
+ 10375,
2415
+ 10383,
2416
+ 10388,
2417
+ 10389,
2418
+ 10393,
2419
+ 10402,
2420
+ 10404,
2421
+ 10409,
2422
+ 10417,
2423
+ 10426,
2424
+ 10447,
2425
+ 10450,
2426
+ 10452,
2427
+ 10459,
2428
+ 10472,
2429
+ 10475,
2430
+ 10477,
2431
+ 10484,
2432
+ 10485,
2433
+ 10490,
2434
+ 10506,
2435
+ 10511,
2436
+ 10517,
2437
+ 10529,
2438
+ 10531,
2439
+ 10533,
2440
+ 10534,
2441
+ 10539,
2442
+ 10541,
2443
+ 10544,
2444
+ 10551,
2445
+ 10559,
2446
+ 10566,
2447
+ 10569,
2448
+ 10579,
2449
+ 10582,
2450
+ 10583,
2451
+ 10584,
2452
+ 10592,
2453
+ 10597,
2454
+ 10598,
2455
+ 10602,
2456
+ 10606,
2457
+ 10607,
2458
+ 10616,
2459
+ 10630,
2460
+ 10631,
2461
+ 10633,
2462
+ 10644,
2463
+ 10650,
2464
+ 10652,
2465
+ 10653,
2466
+ 10655,
2467
+ 10656,
2468
+ 10657,
2469
+ 10674,
2470
+ 10690,
2471
+ 10691,
2472
+ 10694,
2473
+ 10698,
2474
+ 10704,
2475
+ 10705,
2476
+ 10708,
2477
+ 10710,
2478
+ 10712,
2479
+ 10713,
2480
+ 10716,
2481
+ 10720,
2482
+ 10725,
2483
+ 10729,
2484
+ 10741,
2485
+ 10746,
2486
+ 10755,
2487
+ 10756,
2488
+ 10761,
2489
+ 10765,
2490
+ 10771,
2491
+ 10790,
2492
+ 10793,
2493
+ 10795,
2494
+ 10798,
2495
+ 10805,
2496
+ 10811,
2497
+ 10812,
2498
+ 10816,
2499
+ 10817,
2500
+ 10822,
2501
+ 10824,
2502
+ 10825,
2503
+ 10834,
2504
+ 10840,
2505
+ 10847,
2506
+ 10862,
2507
+ 10864,
2508
+ 10869,
2509
+ 10870,
2510
+ 10902,
2511
+ 10903,
2512
+ 10904,
2513
+ 10908,
2514
+ 10911,
2515
+ 10913,
2516
+ 10923,
2517
+ 10926,
2518
+ 10929,
2519
+ 10931,
2520
+ 10936,
2521
+ 10951,
2522
+ 10954,
2523
+ 10960,
2524
+ 10961,
2525
+ 10965,
2526
+ 10966,
2527
+ 10969,
2528
+ 10981,
2529
+ 10984,
2530
+ 10985,
2531
+ 10988,
2532
+ 10991,
2533
+ 10993
2534
+ ],
2535
+ "failed_reason_seed_counts": {
2536
+ "collision": 155,
2537
+ "max_steps": 3,
2538
+ "unreachable_incorrect": 38
2539
+ },
2540
+ "failed_reason_seeds": {
2541
+ "collision": [
2542
+ 10006,
2543
+ 10012,
2544
+ 10015,
2545
+ 10037,
2546
+ 10045,
2547
+ 10056,
2548
+ 10058,
2549
+ 10059,
2550
+ 10062,
2551
+ 10063,
2552
+ 10064,
2553
+ 10065,
2554
+ 10074,
2555
+ 10076,
2556
+ 10078,
2557
+ 10093,
2558
+ 10095,
2559
+ 10097,
2560
+ 10098,
2561
+ 10100,
2562
+ 10102,
2563
+ 10115,
2564
+ 10121,
2565
+ 10124,
2566
+ 10126,
2567
+ 10135,
2568
+ 10136,
2569
+ 10137,
2570
+ 10140,
2571
+ 10145,
2572
+ 10151,
2573
+ 10163,
2574
+ 10171,
2575
+ 10182,
2576
+ 10184,
2577
+ 10194,
2578
+ 10198,
2579
+ 10199,
2580
+ 10204,
2581
+ 10214,
2582
+ 10229,
2583
+ 10234,
2584
+ 10241,
2585
+ 10259,
2586
+ 10260,
2587
+ 10266,
2588
+ 10268,
2589
+ 10270,
2590
+ 10281,
2591
+ 10294,
2592
+ 10320,
2593
+ 10325,
2594
+ 10326,
2595
+ 10328,
2596
+ 10329,
2597
+ 10333,
2598
+ 10339,
2599
+ 10365,
2600
+ 10366,
2601
+ 10368,
2602
+ 10375,
2603
+ 10383,
2604
+ 10388,
2605
+ 10389,
2606
+ 10393,
2607
+ 10402,
2608
+ 10404,
2609
+ 10409,
2610
+ 10417,
2611
+ 10426,
2612
+ 10447,
2613
+ 10450,
2614
+ 10452,
2615
+ 10459,
2616
+ 10475,
2617
+ 10477,
2618
+ 10484,
2619
+ 10511,
2620
+ 10517,
2621
+ 10529,
2622
+ 10531,
2623
+ 10533,
2624
+ 10539,
2625
+ 10541,
2626
+ 10544,
2627
+ 10551,
2628
+ 10566,
2629
+ 10569,
2630
+ 10582,
2631
+ 10583,
2632
+ 10584,
2633
+ 10592,
2634
+ 10597,
2635
+ 10598,
2636
+ 10602,
2637
+ 10606,
2638
+ 10607,
2639
+ 10616,
2640
+ 10631,
2641
+ 10633,
2642
+ 10650,
2643
+ 10652,
2644
+ 10653,
2645
+ 10656,
2646
+ 10674,
2647
+ 10690,
2648
+ 10691,
2649
+ 10698,
2650
+ 10704,
2651
+ 10708,
2652
+ 10710,
2653
+ 10713,
2654
+ 10716,
2655
+ 10720,
2656
+ 10741,
2657
+ 10746,
2658
+ 10755,
2659
+ 10756,
2660
+ 10761,
2661
+ 10765,
2662
+ 10771,
2663
+ 10793,
2664
+ 10795,
2665
+ 10798,
2666
+ 10805,
2667
+ 10816,
2668
+ 10817,
2669
+ 10822,
2670
+ 10825,
2671
+ 10834,
2672
+ 10840,
2673
+ 10847,
2674
+ 10862,
2675
+ 10864,
2676
+ 10870,
2677
+ 10903,
2678
+ 10908,
2679
+ 10911,
2680
+ 10913,
2681
+ 10926,
2682
+ 10929,
2683
+ 10931,
2684
+ 10936,
2685
+ 10951,
2686
+ 10960,
2687
+ 10961,
2688
+ 10965,
2689
+ 10966,
2690
+ 10969,
2691
+ 10981,
2692
+ 10984,
2693
+ 10985,
2694
+ 10988,
2695
+ 10991,
2696
+ 10993
2697
+ ],
2698
+ "max_steps": [
2699
+ 10278,
2700
+ 10490,
2701
+ 10705
2702
+ ],
2703
+ "unreachable_incorrect": [
2704
+ 10026,
2705
+ 10061,
2706
+ 10067,
2707
+ 10085,
2708
+ 10092,
2709
+ 10099,
2710
+ 10138,
2711
+ 10202,
2712
+ 10219,
2713
+ 10256,
2714
+ 10257,
2715
+ 10258,
2716
+ 10261,
2717
+ 10269,
2718
+ 10309,
2719
+ 10472,
2720
+ 10485,
2721
+ 10506,
2722
+ 10534,
2723
+ 10559,
2724
+ 10579,
2725
+ 10630,
2726
+ 10644,
2727
+ 10655,
2728
+ 10657,
2729
+ 10694,
2730
+ 10712,
2731
+ 10725,
2732
+ 10729,
2733
+ 10790,
2734
+ 10811,
2735
+ 10812,
2736
+ 10824,
2737
+ 10869,
2738
+ 10902,
2739
+ 10904,
2740
+ 10923,
2741
+ 10954
2742
+ ]
2743
+ }
2744
+ },
2745
+ "unreachable_blocked": {
2746
+ "total": 1000,
2747
+ "success": 930,
2748
+ "success_rate": 0.93,
2749
+ "steps_total": 44,
2750
+ "avg_steps": 0.044,
2751
+ "median_steps": 0.0,
2752
+ "min_steps": 0,
2753
+ "max_steps": 12,
2754
+ "reason_counts": {
2755
+ "unreachable_correct": 930,
2756
+ "done_without_unreachable": 20,
2757
+ "unreachable_wrong_type": 50
2758
+ },
2759
+ "failed_seed_count": 70,
2760
+ "failed_seed_limit": 0,
2761
+ "failed_seeds": [
2762
+ 10034,
2763
+ 10046,
2764
+ 10051,
2765
+ 10058,
2766
+ 10061,
2767
+ 10097,
2768
+ 10098,
2769
+ 10105,
2770
+ 10121,
2771
+ 10147,
2772
+ 10153,
2773
+ 10173,
2774
+ 10175,
2775
+ 10188,
2776
+ 10191,
2777
+ 10210,
2778
+ 10218,
2779
+ 10223,
2780
+ 10224,
2781
+ 10231,
2782
+ 10232,
2783
+ 10233,
2784
+ 10235,
2785
+ 10236,
2786
+ 10251,
2787
+ 10275,
2788
+ 10297,
2789
+ 10305,
2790
+ 10315,
2791
+ 10324,
2792
+ 10341,
2793
+ 10344,
2794
+ 10349,
2795
+ 10352,
2796
+ 10373,
2797
+ 10383,
2798
+ 10388,
2799
+ 10395,
2800
+ 10431,
2801
+ 10432,
2802
+ 10442,
2803
+ 10452,
2804
+ 10517,
2805
+ 10552,
2806
+ 10573,
2807
+ 10598,
2808
+ 10618,
2809
+ 10650,
2810
+ 10657,
2811
+ 10705,
2812
+ 10710,
2813
+ 10727,
2814
+ 10736,
2815
+ 10768,
2816
+ 10770,
2817
+ 10802,
2818
+ 10807,
2819
+ 10834,
2820
+ 10846,
2821
+ 10853,
2822
+ 10856,
2823
+ 10862,
2824
+ 10901,
2825
+ 10905,
2826
+ 10940,
2827
+ 10943,
2828
+ 10950,
2829
+ 10953,
2830
+ 10989,
2831
+ 10991
2832
+ ],
2833
+ "failed_reason_seed_counts": {
2834
+ "done_without_unreachable": 20,
2835
+ "unreachable_wrong_type": 50
2836
+ },
2837
+ "failed_reason_seeds": {
2838
+ "done_without_unreachable": [
2839
+ 10046,
2840
+ 10097,
2841
+ 10121,
2842
+ 10175,
2843
+ 10191,
2844
+ 10218,
2845
+ 10232,
2846
+ 10297,
2847
+ 10305,
2848
+ 10324,
2849
+ 10344,
2850
+ 10431,
2851
+ 10432,
2852
+ 10452,
2853
+ 10517,
2854
+ 10770,
2855
+ 10807,
2856
+ 10901,
2857
+ 10905,
2858
+ 10940
2859
+ ],
2860
+ "unreachable_wrong_type": [
2861
+ 10034,
2862
+ 10051,
2863
+ 10058,
2864
+ 10061,
2865
+ 10098,
2866
+ 10105,
2867
+ 10147,
2868
+ 10153,
2869
+ 10173,
2870
+ 10188,
2871
+ 10210,
2872
+ 10223,
2873
+ 10224,
2874
+ 10231,
2875
+ 10233,
2876
+ 10235,
2877
+ 10236,
2878
+ 10251,
2879
+ 10275,
2880
+ 10315,
2881
+ 10341,
2882
+ 10349,
2883
+ 10352,
2884
+ 10373,
2885
+ 10383,
2886
+ 10388,
2887
+ 10395,
2888
+ 10442,
2889
+ 10552,
2890
+ 10573,
2891
+ 10598,
2892
+ 10618,
2893
+ 10650,
2894
+ 10657,
2895
+ 10705,
2896
+ 10710,
2897
+ 10727,
2898
+ 10736,
2899
+ 10768,
2900
+ 10802,
2901
+ 10834,
2902
+ 10846,
2903
+ 10853,
2904
+ 10856,
2905
+ 10862,
2906
+ 10943,
2907
+ 10950,
2908
+ 10953,
2909
+ 10989,
2910
+ 10991
2911
+ ]
2912
+ }
2913
+ },
2914
+ "unreachable_narrow": {
2915
+ "total": 1000,
2916
+ "success": 919,
2917
+ "success_rate": 0.919,
2918
+ "steps_total": 98,
2919
+ "avg_steps": 0.098,
2920
+ "median_steps": 0.0,
2921
+ "min_steps": 0,
2922
+ "max_steps": 7,
2923
+ "reason_counts": {
2924
+ "unreachable_correct": 919,
2925
+ "unreachable_wrong_type": 46,
2926
+ "done_without_unreachable": 35
2927
+ },
2928
+ "failed_seed_count": 81,
2929
+ "failed_seed_limit": 0,
2930
+ "failed_seeds": [
2931
+ 10004,
2932
+ 10020,
2933
+ 10031,
2934
+ 10036,
2935
+ 10040,
2936
+ 10086,
2937
+ 10108,
2938
+ 10117,
2939
+ 10130,
2940
+ 10139,
2941
+ 10146,
2942
+ 10159,
2943
+ 10186,
2944
+ 10225,
2945
+ 10249,
2946
+ 10262,
2947
+ 10264,
2948
+ 10265,
2949
+ 10267,
2950
+ 10278,
2951
+ 10311,
2952
+ 10332,
2953
+ 10346,
2954
+ 10350,
2955
+ 10355,
2956
+ 10356,
2957
+ 10364,
2958
+ 10380,
2959
+ 10408,
2960
+ 10410,
2961
+ 10418,
2962
+ 10423,
2963
+ 10426,
2964
+ 10434,
2965
+ 10442,
2966
+ 10444,
2967
+ 10466,
2968
+ 10497,
2969
+ 10525,
2970
+ 10547,
2971
+ 10548,
2972
+ 10563,
2973
+ 10565,
2974
+ 10604,
2975
+ 10610,
2976
+ 10614,
2977
+ 10622,
2978
+ 10637,
2979
+ 10640,
2980
+ 10650,
2981
+ 10656,
2982
+ 10658,
2983
+ 10661,
2984
+ 10669,
2985
+ 10672,
2986
+ 10684,
2987
+ 10685,
2988
+ 10693,
2989
+ 10700,
2990
+ 10731,
2991
+ 10748,
2992
+ 10754,
2993
+ 10770,
2994
+ 10801,
2995
+ 10809,
2996
+ 10814,
2997
+ 10815,
2998
+ 10836,
2999
+ 10845,
3000
+ 10850,
3001
+ 10852,
3002
+ 10853,
3003
+ 10864,
3004
+ 10889,
3005
+ 10905,
3006
+ 10939,
3007
+ 10944,
3008
+ 10957,
3009
+ 10971,
3010
+ 10979,
3011
+ 10986
3012
+ ],
3013
+ "failed_reason_seed_counts": {
3014
+ "done_without_unreachable": 35,
3015
+ "unreachable_wrong_type": 46
3016
+ },
3017
+ "failed_reason_seeds": {
3018
+ "done_without_unreachable": [
3019
+ 10004,
3020
+ 10031,
3021
+ 10036,
3022
+ 10040,
3023
+ 10086,
3024
+ 10186,
3025
+ 10265,
3026
+ 10332,
3027
+ 10346,
3028
+ 10355,
3029
+ 10356,
3030
+ 10380,
3031
+ 10408,
3032
+ 10418,
3033
+ 10426,
3034
+ 10434,
3035
+ 10497,
3036
+ 10563,
3037
+ 10614,
3038
+ 10622,
3039
+ 10640,
3040
+ 10669,
3041
+ 10672,
3042
+ 10693,
3043
+ 10700,
3044
+ 10731,
3045
+ 10748,
3046
+ 10754,
3047
+ 10770,
3048
+ 10845,
3049
+ 10853,
3050
+ 10905,
3051
+ 10944,
3052
+ 10957,
3053
+ 10971
3054
+ ],
3055
+ "unreachable_wrong_type": [
3056
+ 10020,
3057
+ 10108,
3058
+ 10117,
3059
+ 10130,
3060
+ 10139,
3061
+ 10146,
3062
+ 10159,
3063
+ 10225,
3064
+ 10249,
3065
+ 10262,
3066
+ 10264,
3067
+ 10267,
3068
+ 10278,
3069
+ 10311,
3070
+ 10350,
3071
+ 10364,
3072
+ 10410,
3073
+ 10423,
3074
+ 10442,
3075
+ 10444,
3076
+ 10466,
3077
+ 10525,
3078
+ 10547,
3079
+ 10548,
3080
+ 10565,
3081
+ 10604,
3082
+ 10610,
3083
+ 10637,
3084
+ 10650,
3085
+ 10656,
3086
+ 10658,
3087
+ 10661,
3088
+ 10684,
3089
+ 10685,
3090
+ 10801,
3091
+ 10809,
3092
+ 10814,
3093
+ 10815,
3094
+ 10836,
3095
+ 10850,
3096
+ 10852,
3097
+ 10864,
3098
+ 10889,
3099
+ 10939,
3100
+ 10979,
3101
+ 10986
3102
+ ]
3103
+ }
3104
+ },
3105
+ "unreachable_undefined": {
3106
+ "total": 1000,
3107
+ "success": 988,
3108
+ "success_rate": 0.988,
3109
+ "steps_total": 182,
3110
+ "avg_steps": 0.182,
3111
+ "median_steps": 0.0,
3112
+ "min_steps": 0,
3113
+ "max_steps": 30,
3114
+ "reason_counts": {
3115
+ "unreachable_correct": 988,
3116
+ "unreachable_wrong_type": 1,
3117
+ "done_without_unreachable": 7,
3118
+ "max_steps": 4
3119
+ },
3120
+ "failed_seed_count": 12,
3121
+ "failed_seed_limit": 0,
3122
+ "failed_seeds": [
3123
+ 10063,
3124
+ 10075,
3125
+ 10167,
3126
+ 10188,
3127
+ 10459,
3128
+ 10549,
3129
+ 10675,
3130
+ 10714,
3131
+ 10806,
3132
+ 10811,
3133
+ 10890,
3134
+ 10912
3135
+ ],
3136
+ "failed_reason_seed_counts": {
3137
+ "done_without_unreachable": 7,
3138
+ "max_steps": 4,
3139
+ "unreachable_wrong_type": 1
3140
+ },
3141
+ "failed_reason_seeds": {
3142
+ "done_without_unreachable": [
3143
+ 10063,
3144
+ 10167,
3145
+ 10459,
3146
+ 10549,
3147
+ 10675,
3148
+ 10811,
3149
+ 10912
3150
+ ],
3151
+ "max_steps": [
3152
+ 10075,
3153
+ 10188,
3154
+ 10806,
3155
+ 10890
3156
+ ],
3157
+ "unreachable_wrong_type": [
3158
+ 10714
3159
+ ]
3160
+ }
3161
+ }
3162
+ }
3163
+ }