摘要

TraceForge 是 reasoning-trace distillation 方法:借强 teacher 的答案,但用 student 自己模型家族的 generator 重写推理形式,再以 critic 和 DPO 提高轨迹的 family authenticity。(来源:TraceForge: Distilling with Your Own Thinking)

核心内容

基本信息

  • 实体类别:reasoning data synthesis 与 model distillation pipeline。
  • 关键名称或版本:arXiv 2610.29680v2;family-native trace。
  • 时间范围:2026-10-21 首发,2026-10-22 更新 v2。

重要事实

  • generator/critic 只用 Qwen-family trace 训练;闭源 teacher 在生成训练 corpus 时提供 context、answer 与 tool messages,不提供真实隐藏思维。(来源:TraceForge: Distilling with Your Own Thinking)
  • 最强受控结果是在相同 Fable 5 问题和答案下替换 trace,HumanEval+ / MBPP+ 分别提高 3.66 / 7.14 点;这是作者单次实验,未独立复现。(来源:TraceForge: Distilling with Your Own Thinking)

关系与影响

TraceForge 把 teacher 的“内容能力”和 student family 的“推理表达形式”拆开,为 Reasoning Trace Distillation 提供可检验假设;critic 的 authenticity signal 不等于 task verifier。

分歧与变化

论文把训练稳定性归因于 family-native 风格,但公开对照还没有完全隔离 style、质量与 pipeline 差异;保密数据、单 seed 和单 family 使因果解释仍待核实。(来源:TraceForge: Distilling with Your Own Thinking)

相关页面

来源

待核实问题

  • 需公开数据与多 seed 复现,并验证换到非 Qwen student family 后是否仍有同样优势。