Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法方向，让大家跟着AI一起进步。

今天的主题是：SimpleRL-Zoo: Investigating and Taming Zero Reinforcement Learning for Open Base Models in the Wild

Summary

本研究探讨了零强化学习（RL）对不同基础模型（包括Llama3-8B、Mistral-7B/24B和Qwen系列模型）推理能力的影响。研究发现，通过调整奖励和控制查询难度等策略，RL训练能显著提高模型的推理准确性和响应长度。值得注意的是，该研究首次在非Qwen系列的小型模型中观察到“顿悟时刻”（aha moment），即模型认知行为（如验证和回溯）的显著提升。此外，文章还指出，严格的格式奖励会阻碍模型探索，而训练数据难度必须与模型能力匹配。研究还发现，传统的有监督微调（SFT）作为RL的冷启动会限制高级推理能力的出现，表明零RL训练是提升模型性能的更优途径。

原文链接：https://arxiv.org/abs/2503.18892