Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法方向，让大家跟着AI一起进步。

今天的主题是：Knowledge or Reasoning? A Close Look at How LLMs Think Across Domains

Summary

该研究深入探究了大型语言模型（LLMs）的内部推理过程，超越了仅仅评估最终答案准确性的传统方法。作者引入了一个精细的评估框架，将LLM的思维轨迹分解为知识正确性（通过知识指数KI衡量）和推理质量（通过信息增益InfoGain衡量）两个维度。通过在数学和医学领域对经过监督微调（SFT）和/或强化学习（RL）训练的Qwen模型进行分析，研究人员发现SFT能提升领域知识，但可能损害推理效率，而RL则通过优化推理路径来提高知识的准确性和推理质量。这些发现强调了在不同领域中知识和推理所扮演的不同角色，并为开发更可靠、更具解释性的LLM提供了宝贵见解。

原文链接：https://arxiv.org/abs/2506.02126