摘要
TraceForge 是 reasoning-trace distillation 方法:借强 teacher 的答案,但用 student 自己模型家族的 generator 重写推理形式,再以 critic 和 DPO 提高轨迹的 family authenticity。(来源:TraceForge: Distilling with Your Own Thinking)
核心内容
基本信息
- 实体类别:reasoning data synthesis 与 model distillation pipeline。
- 关键名称或版本:arXiv
2610.29680v2;family-native trace。 - 时间范围:2026-10-21 首发,2026-10-22 更新 v2。
重要事实
- generator/critic 只用 Qwen-family trace 训练;闭源 teacher 在生成训练 corpus 时提供 context、answer 与 tool messages,不提供真实隐藏思维。(来源:TraceForge: Distilling with Your Own Thinking)
- 最强受控结果是在相同 Fable 5 问题和答案下替换 trace,HumanEval+ / MBPP+ 分别提高 3.66 / 7.14 点;这是作者单次实验,未独立复现。(来源:TraceForge: Distilling with Your Own Thinking)
关系与影响
TraceForge 把 teacher 的“内容能力”和 student family 的“推理表达形式”拆开,为 Reasoning Trace Distillation 提供可检验假设;critic 的 authenticity signal 不等于 task verifier。
分歧与变化
论文把训练稳定性归因于 family-native 风格,但公开对照还没有完全隔离 style、质量与 pipeline 差异;保密数据、单 seed 和单 family 使因果解释仍待核实。(来源:TraceForge: Distilling with Your Own Thinking)
相关页面
- 概念:Reasoning Trace Distillation、Agentic RL、Recursive Self-Improvement
- 实体:无
- 主题:LLM Agent Self-Improvement
来源
待核实问题
- 需公开数据与多 seed 复现,并验证换到非 Qwen student family 后是否仍有同样优势。