摘要
Reasoning Trace Distillation 用 teacher 的中间推理文本或其合成替代物监督 student,不只学习最终答案。轨迹来源、表达风格、正确性与可学习性是四个不同维度。(来源:TraceForge: Distilling with Your Own Thinking)
核心内容
定义
给定问题上下文、工具交互与答案,训练数据额外包含一条解释或推理轨迹;student 通常通过 SFT 学习轨迹和答案,也可以用 preference optimization 筛选或重写轨迹。
关键要点
- teacher 能力决定可提供的答案上限,但 teacher 自己的表达形式未必最适合 student 吸收。(来源:TraceForge: Distilling with Your Own Thinking)
- TraceForge 的 family-native trace 固定 teacher answer、重写 trace source,为“形式匹配是否改善迁移”提供受控比较。(来源:TraceForge: Distilling with Your Own Thinking)
- authenticity critic 只能判断轨迹是否像某个 family,不能证明步骤忠实、正确或会提高环境任务成功率。(来源:TraceForge: Distilling with Your Own Thinking,§5)
适用范围与边界
适用于 reasoning SFT、合成数据与 teacher-student transfer。若没有环境 reward、task rollout 与 RL objective,它仍是蒸馏或 preference optimization,不应标为严格 Agentic RL。
分歧与演变
书面 reasoning 可能不是模型真实计算过程。蒸馏的目标应表述为“有用的训练轨迹”,而不是“恢复 teacher 的真实思维”。(来源:TraceForge: Distilling with Your Own Thinking,§5)
相关页面
- 上位概念:无
- 相关概念:Agentic RL、Recursive Self-Improvement
- 相关实体:TraceForge
- 相关主题:LLM Agent Self-Improvement
来源
待核实问题
- 需区分 family style、轨迹质量、teacher answer 质量和训练稳定性的独立贡献。