摘要

Reasoning Trace Distillation 用 teacher 的中间推理文本或其合成替代物监督 student,不只学习最终答案。轨迹来源、表达风格、正确性与可学习性是四个不同维度。(来源:TraceForge: Distilling with Your Own Thinking)

核心内容

定义

给定问题上下文、工具交互与答案,训练数据额外包含一条解释或推理轨迹;student 通常通过 SFT 学习轨迹和答案,也可以用 preference optimization 筛选或重写轨迹。

关键要点

适用范围与边界

适用于 reasoning SFT、合成数据与 teacher-student transfer。若没有环境 reward、task rollout 与 RL objective,它仍是蒸馏或 preference optimization,不应标为严格 Agentic RL。

分歧与演变

书面 reasoning 可能不是模型真实计算过程。蒸馏的目标应表述为“有用的训练轨迹”,而不是“恢复 teacher 的真实思维”。(来源:TraceForge: Distilling with Your Own Thinking,§5)

相关页面

来源

待核实问题

  • 需区分 family style、轨迹质量、teacher answer 质量和训练稳定性的独立贡献。