cfgexp51k_official_docker_20260925

RoboDojo DO-WAM 评测 · config_exp 51k EMA(官方协议 · 6300 回合)

← 评测总览 · config_exp 65k(官方协议) · skill30 30k(官方 Docker · 7/seed 筛查)

主数字是 config_exp 51k EMA(config_exp 微调第 51000 步,和 60k 是同一条训练;也是 skill30 w125 spell02 的起点)按官方协议跑的纯 WAM全量结果:54 个配置 × seed 0–2 × 官方回合数(每个 seed 50 回合,其中 24 个配置 25 回合)= 6300 回合,在官方 RoboDojo Docker 镜像(upstream 726e9aa,Isaac Sim 5.1,官方默认 CPU 物理,单环境)里评测。灰色参照一:config_exp 65k,同一协议、同一批 6300 个(任务, seed, 布局),可以逐任务直接比;灰色参照二:skill30 30k(从 51k 训练出来的 skill 模型),只有 7/seed 筛查(每个配置 21 回合),单个配置误差约 ±8 个百分点。每条 episode 都能看到任务要求、结果和头部相机录像。

结果(09-26):51k 与 65k 没有显著差别。51k 官方协议 942/6300 = 14.95%,65k 为 906/6300 = 14.38%;按官方排行榜算法(五个能力维度等权,全部 54 个配置,6300 回合无缺失):Score 21.68,在 48 个模型中排第 6,成功率 14.44% 排第 7(65k:Score 20.73 第 6,成功率 13.76% 第 8)。两者跑的是同一批 6300 个(任务, seed, 布局):只有一方成功的回合 51k 376 个、65k 340 个,McNemar 精确检验 p = 0.19。变化超过 10 个百分点的任务(65k → 51k):51k 更好 fold_clothes 28/75 → 39/75;51k 更差 无。
用途:51k 是 skill30 的起点,所以是比较“加 skill 数据训练”和“只用 task 数据训练”的基线;skill30 30k 目前只有 7/seed 筛查(13.40%),还没有官方协议结果。

五个能力维度

官方榜单口径:维度内任务等权,五维等权平均;generalization 的普通/随机版本各占一半。所以一个评测条件的杠杆(从 0 做到 100% 能给总分加几分)取决于它所在维度有几个条件——memory 每条 3.33 分,generalization 每条只有 0.83 分。两种统计:已完成子集(29 个基础任务全部测完,其他模型也按同一子集重算)和全量补零(未完成/异常/跳过项暂记 0 分)。参照线为官方榜首。"训练份额"是 robodojo_task_focus.yaml 草案里该维度可训任务的采样份额之和。

逐任务结果

点任意圆点看那条 episode 的头部相机录像(有录像的圆点带实心边)。每个任务最多带 3 条成功、2 条失败的录像。每张卡还标了:你的评审备注、该条件对总分的杠杆、训练语料覆盖情况和 robodojo_task_focus.yaml 草案里的采样权重。

成功 失败(圆点内为部分得分) 场景异常,隔离不计 未跑 / 跳过 重点可能可以提别管了 评审备注 训练任务随机布局变体未训练 语料覆盖

逐任务对照:官方榜单、补丁栈(GPU 物理)与 skill_fix 40k(同管线)

每行一个评测配置,数字都是成功率(%)。排名是本页 SR 在 40 个官方模型加我们共 41 个里的名次,按 SR 严格高于我们的模型数计,"并列"含我们自己。青色底表示本页 SR 不低于该任务官方榜首。点表头排序。我们每配置只有 21 条(1 次成功 ≈ 4.8 个点),官方是 75/150 条;差距在 ±10 点内基本看不出高低。

官方榜单(RoboDojo Sim Leaderboard,官网 2026.9.23 版)与本页模型的位置

已测完子集上的重算排名(前 12)

官网榜单更新记录

口径与局限

    未计入的部分