← 评测总览 · 75k 全量 · 85k 全量 · 下载逐任务 CSV
60k EMA
27.8%
150 / 539 成功 · 三方共同布局
75k EMA
31.4%
169 / 539 成功 · 三方共同布局
85k EMA
31.2%
168 / 539 成功 · 三方共同布局
此前约定的26个 focus 任务,三份 checkpoint 的结果均已齐全:60k 共546次,75k和85k各2,775次。本报告中的“60k”是60,000步 EMA。快照时85k全54任务评测尚余38次,均在focus范围之外。
结论
在三模型共同的539个布局上,成功率为60k 27.8%、75k 31.4%、85k 31.2%。75k和85k相对60k分别增加3.53和3.34个百分点,两者接近。用75k与85k共同的2,759个布局复核,成功率由31.0%变为30.0%(-0.94个百分点);新增这1万步没有显示出稳定的整体收益。
- 搭塔保留了相对60k的提升:三方共同21个布局为28.6% → 57.1% → 61.9%;75k和85k在完整150次评测中均为90/150(60.0%)。
- 85k相对75k的大样本改善集中在:做吐司 +10.81点、倒球 +8.00点、装箱 +8.00点、倒液体 +6.67点。
- 主要退步是:插管 −14.67点、随机叠衣服 −14.67点、挂杯子 −6.67点、叠衣服 −5.33点。插管、叠衣服及随机叠衣服三个seed均正常跑完、回合数齐全。
- 75k→85k在26个任务中有10个上升、11个下降、5个持平。现有结果支持按任务判断,尚不足以认定85k全面优于75k。
比较60k时以三方共同的539个布局为准;判断75k→85k变化时,以2,759个共同布局的大样本表复核。两种口径的数值不可混用。
75k → 85k 大样本复核
使用两者全部共同布局;各任务分母见表。所有focus任务均已测完。
| 任务 | 共同布局 | 75k | 85k | 85k−75k / pp |
|---|
| 堆碗 | 75 | 63/75 · 84.0% | 64/75 · 85.3% | +1.33 |
| 瓶子放入垃圾桶 | 150 | 139/150 · 92.7% | 142/150 · 94.7% | +2.00 |
| 搭塔 | 150 | 90/150 · 60.0% | 90/150 · 60.0% | +0.00 |
| 堆积木 | 75 | 49/75 · 65.3% | 46/75 · 61.3% | -4.00 |
| 插管 | 150 | 82/150 · 54.7% | 60/150 · 40.0% | -14.67 |
| 叠衣服 | 75 | 32/75 · 42.7% | 28/75 · 37.3% | -5.33 |
| make_kong | 150 | 25/150 · 16.7% | 18/150 · 12.0% | -4.67 |
| 往花瓶倒球 | 150 | 56/150 · 37.3% | 68/150 · 45.3% | +8.00 |
| 往杯子倒液体 | 75 | 29/75 · 38.7% | 34/75 · 45.3% | +6.67 |
| 装笔筒 | 150 | 41/150 · 27.3% | 38/150 · 25.3% | -2.00 |
| 做吐司 | 74 | 33/74 · 44.6% | 41/74 · 55.4% | +10.81 |
| 收纳电脑和耳机 | 73 | 13/73 · 17.8% | 13/73 · 17.8% | +0.00 |
| 挂杯子 | 75 | 25/75 · 33.3% | 20/75 · 26.7% | -6.67 |
| 随机叠衣服 | 75 | 15/75 · 20.0% | 4/75 · 5.3% | -14.67 |
| 拧螺丝 | 150 | 33/150 · 22.0% | 33/150 · 22.0% | +0.00 |
| 插充电器 | 150 | 15/150 · 10.0% | 8/150 · 5.3% | -4.67 |
| 随机倒液体 | 75 | 24/75 · 32.0% | 23/75 · 30.7% | -1.33 |
| 通用抓取 | 150 | 27/150 · 18.0% | 25/150 · 16.7% | -1.33 |
| 装箱 | 75 | 11/75 · 14.7% | 17/75 · 22.7% | +8.00 |
| 物体分类 | 149 | 8/149 · 5.4% | 11/149 · 7.4% | +2.01 |
| 按大小排列套娃 | 73 | 13/73 · 17.8% | 16/73 · 21.9% | +4.11 |
| 随机做吐司 | 73 | 6/73 · 8.2% | 7/73 · 9.6% | +1.37 |
| 按语言堆积木 | 150 | 21/150 · 14.0% | 16/150 · 10.7% | -3.33 |
| 随机装箱 | 73 | 2/73 · 2.7% | 2/73 · 2.7% | +0.00 |
| 随机堆碗 | 75 | 1/75 · 1.3% | 3/75 · 4.0% | +2.67 |
| 随机收纳电脑和耳机 | 69 | 2/69 · 2.9% | 2/69 · 2.9% | +0.00 |
全部已测样本原始计数
60k每任务21次;75k、85k每任务75或150次。原始计数用于审阅;公平比较以配对表为准。
| 任务 | task ID | 新增训练轨迹 | 60k 全部样本 | 75k 全部样本 | 85k 全部样本 |
|---|
| 堆碗 | stack_bowls | 174 | 17/21 · 81.0% | 63/75 · 84.0% | 64/75 · 85.3% |
| 瓶子放入垃圾桶 | put_bottles_into_dustbin | 173 | 21/21 · 100.0% | 139/150 · 92.7% | 142/150 · 94.7% |
| 搭塔 | build_tower | 107 | 6/21 · 28.6% | 90/150 · 60.0% | 90/150 · 60.0% |
| 堆积木 | stack_blocks | 100 | 9/21 · 42.9% | 49/75 · 65.3% | 46/75 · 61.3% |
| 插管 | insert_tubes | 96 | 9/21 · 42.9% | 82/150 · 54.7% | 60/150 · 40.0% |
| 叠衣服 | fold_clothes | 94 | 7/21 · 33.3% | 32/75 · 42.7% | 28/75 · 37.3% |
| make_kong | make_kong | 88 | 6/21 · 28.6% | 25/150 · 16.7% | 18/150 · 12.0% |
| 往花瓶倒球 | pour_balls_into_vase | 83 | 11/21 · 52.4% | 56/150 · 37.3% | 68/150 · 45.3% |
| 往杯子倒液体 | pour_liquid_into_cup | 77 | 11/21 · 52.4% | 29/75 · 38.7% | 34/75 · 45.3% |
| 装笔筒 | fill_pen_holder | 66 | 5/21 · 23.8% | 41/150 · 27.3% | 38/150 · 25.3% |
| 做吐司 | make_toast | 65 | 8/21 · 38.1% | 33/75 · 44.0% | 42/75 · 56.0% |
| 收纳电脑和耳机 | store_laptop_and_headphones | 48 | 2/21 · 9.5% | 14/75 · 18.7% | 13/75 · 17.3% |
| 挂杯子 | hang_mugs | 46 | 9/21 · 42.9% | 25/75 · 33.3% | 20/75 · 26.7% |
| 随机叠衣服 | fold_clothes_random | 38 | 4/21 · 19.0% | 15/75 · 20.0% | 4/75 · 5.3% |
| 拧螺丝 | fasten_screws | 33 | 6/21 · 28.6% | 33/150 · 22.0% | 33/150 · 22.0% |
| 插充电器 | plug_in_charger | 33 | 5/21 · 23.8% | 15/150 · 10.0% | 8/150 · 5.3% |
| 随机倒液体 | pour_liquid_into_cup_random | 32 | 3/21 · 14.3% | 24/75 · 32.0% | 23/75 · 30.7% |
| 通用抓取 | general_pickup | 31 | 3/21 · 14.3% | 27/150 · 18.0% | 25/150 · 16.7% |
| 装箱 | pack_objects_into_box | 30 | 3/21 · 14.3% | 11/75 · 14.7% | 17/75 · 22.7% |
| 物体分类 | classify_objects | 14 | 3/21 · 14.3% | 8/150 · 5.3% | 11/150 · 7.3% |
| 按大小排列套娃 | sort_nesting_dolls_by_size | 3 | 1/21 · 4.8% | 13/75 · 17.3% | 16/75 · 21.3% |
| 随机做吐司 | make_toast_random | 2 | 0/21 · 0.0% | 6/75 · 8.0% | 7/75 · 9.3% |
| 按语言堆积木 | stack_blocks_by_language | 2 | 1/21 · 4.8% | 21/150 · 14.0% | 16/150 · 10.7% |
| 随机装箱 | pack_objects_into_box_random | 1 | 0/21 · 0.0% | 2/75 · 2.7% | 2/75 · 2.7% |
| 随机堆碗 | stack_bowls_random | 1 | 0/21 · 0.0% | 1/75 · 1.3% | 3/75 · 4.0% |
| 随机收纳电脑和耳机 | store_laptop_and_headphones_random | 1 | 0/21 · 0.0% | 2/75 · 2.7% | 2/75 · 2.7% |
比较口径与数据来源
- 范围:新增 rollout 数据实际参与训练的26个任务配置,包括其随机化变体;cover_blocks、match_and_pick_from_conveyor因训练权重为0未计入focus。
- 环境:三份结果均采用官方 RoboDojo Docker、CPU physics、单环境、pure WAM、denoise=10、replan=32、seed 0/1/2。
- 60k是7次/seed的screen,即每任务21次;75k、85k按官方native数量,为每任务75或150次。主表只比较三方共有的(task, seed, layout_id),共539个;60k原有546个focus布局中有7个不在三方交集中。
- 75k→85k大样本表独立使用二者共同的2,759个布局。各模型实际均评测2,775次;布局交集略小于原始回合数,因此表中分母可能小于75/150。
- SR为按episode统计的完整成功率,pp为百分点;这里不计算官方五维Score。任务宏平均在三方交集上为60k 27.59%、75k 31.10%、85k 30.92%。
- 60k单任务最多21个共同样本,一次成功约影响4.8个百分点。三方小样本与75k→85k大样本的单任务趋势可能不同;例如倒液体在三方21个布局上85k低于75k,而在完整75个共同布局上85k高于75k。
- 配对exact McNemar检验:60k→75k p=0.115,60k→85k p=0.127;75k→85k大样本 p=0.295。均未达到0.05阈值,不将这些总体差异表述为统计显著提升或退化。未对单任务作显著性宣称。
- checkpoint间差异同时包含训练步数、数据等因素;仅凭此对比不能把差异单独归因于新增rollout。
训练布局重合复核
训练数据包含少量官方评测布局。当前可核验aug_provenance.json记录了63个官方seed布局,其中53个落在三方交集中。剔除这些已知重合后,剩余486个布局:60k 23.7% → 75k 29.0% → 85k 27.4%。75k→85k大样本剔除58个已知重合后,剩余2,701个布局,30.5% → 29.2%(-1.22点)。这只是剔除已记录重合,不保证完全独立的测试集。旧75k评测manifest曾写99条,但当前provenance可核验的是63条;本报告按实际逐条记录匹配,并保留来源及SHA256。
Run来源
- 60k:
cfgexp60k_native_docker_20260924
- 75k:
cfgexp75k_wsds10k_c02_official_docker_20260926
- 85k:
cfgexp85k_wsds10k_c03_official_docker_20260926_053806
逐任务数据可通过页首 CSV 链接下载。原始快照、来源校验和与计算脚本已在评测工作区归档。