Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。

如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。

联系小助手微信：seventy3_podcast（加群/投稿论文）

今天的这篇的主题是：

OpenClaw-Skill: Collective Skill Tree Search for Agentic Large Language Models

Summary

为大语言模型（LLM）Agent 赋予有效的技能，对于解决像 OpenClaw 这类现实世界系统中的复杂任务至关重要。在这项工作中，我们的目标是开发一个能够自动构建此类可重用技能的框架，从而增强 LLM 在工具使用、多步推理以及动态环境交互方面的能力。

为此，我们提出了群体技能树搜索（Collective Skill Tree Search，简称 CSTS），这是一种全新的基于树搜索的技能构建框架，能够构建出结构化、多样化且具备泛化能力的技能树。CSTS 的核心思想是利用群体智慧，通过两个迭代阶段来共同搜索、识别与组合有效技能：群体技能节点生成（CSN-Gen）和群体技能节点评估（CSN-Assess）。CSN-Gen 利用来自多个模型的群体知识，为每个子任务探索多样化的候选技能，从而实现全面的技能探索。CSN-Assess 则采用多个模型作为裁判，通过两种打分机制来评估和选择技能节点：（1）群体质量打分，通过聚合独立评估，对技能有效性做出稳健的估计；（2）群体可迁移性打分，显式地验证某项技能是否能在不同模型间良好泛化。

借由 CSTS，我们构建了一套完整的技能树以及技能增强的训练数据，使模型能够有效地学习并利用技能。此外，我们还引入了群体技能强化学习，它能主动从树中选择多个相关技能，以拓宽解空间探索，避免陷于单一技能及其产生的同质化或次优解中。

结果表明，我们训练出的模型 OpenClaw-Skill 在长流程规划、工具使用以及挑战性基准测试的泛化能力方面，展现出了卓越的 Agent 能力。

原文链接：https://arxiv.org/abs/2606.16774

Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。

如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。

联系小助手微信：seventy3_podcast（加群/投稿论文）

今天的这篇的主题是：

Summary

强化学习（RL）在大语言模型（LLM）训练中的流水线，通常依赖于在不同阶段之间手动重新设计环境，这就需要从业人员凭启发式经验去推断哪种配置最能提升当前的策略模型。

为了将这一过程实现自动化，我们提出了 LLM 作为环境工程师（LLM-as-Environment-Engineer）的框架：在该框架中，当前的策略模型会分析失败轨迹并结合上下文信息，从而为下一阶段的训练环境配置提出修改建议。

我们还推出了 MAPF-FrozenLake，这是一个可控的测试床，其生成器暴露了多维度的环境配置，非常适合用来研究和评估环境的重新设计。在该测试床中，我们以策略行为、失败案例和环境统计数据的结构化摘要作为条件引导环境工程师，使其生成下一训练阶段的配置。

在以 Qwen3-4B 作为骨干模型时，我们的框架在基准测试中取得了最强的综合性能，超越了更大的闭源商业 LLM（例如 GPT、Gemini）以及固定环境训练的基线方法。

我们进一步分析了哪种形式的上下文最为有效，发现成功的环境更新依赖于失败证据，并且会保留已经生效的配置。有趣的是，当前的 RL 检查点（checkpoint）比原始的基座模型能扮演更好的环境工程师角色，这表明策略学习提升了模型诊断自身剩余缺陷的能力。

原文链接：https://arxiv.org/abs/2606.17682

Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。

如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。

联系小助手微信：seventy3_podcast（加群/投稿论文）

今天的这篇的主题是：

Can LLM Agents Infer World Models? Evidence from Agentic Automata Learning

Summary

我们提出了“Agent 化的自动机学习”（agentic automata learning），用于评估工具调用型 LLM Agent 通过交互揭示隐藏环境的能力。

在我们的设定中，Agent 需通过与 Oracle（神谕/专家）进行两种交互来揭示一个隐藏的确定性有限状态自动机（DFA）：（1）成员查询（“该字符串是否属于目标语言？”）以及（2）等价性查询（“这是目标 DFA 吗？”）。这提供了一个具有可控任务复杂度、可测量交互效率以及强基线（传统的自动机学习算法）的可扩展测试床。

对最先进的 LLM 进行评估后，我们发现其性能随着 DFA 规模的增大而急剧下降。推理模型（reasoning models）的表现显著强于非推理模型，但轨迹分析揭示了其在查询规划、证据整合和假设构建方面反复出现的失败。

总体而言，我们的结果表明，当前的 LLM Agent 有时能够完成非平凡的交互式探索，但该任务上的鲁棒性和效率仍远落后于传统算法。

原文链接：https://arxiv.org/abs/2606.16576

Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。

如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。

联系小助手微信：seventy3_podcast（加群/投稿论文）

今天的这篇的主题是：

PreAct: Computer-Using Agents that Get Faster on Repeated Tasks

Summary

计算机操作 Agent（Computer-using agents）通过屏幕直接驱动真实软件——进行点击与打字——但它们解决每个任务时都是“从头开始”：当被要求重复某项任务时，Agent 会重新读取屏幕、重新推理每一次点击，并再次付出全部代价。

我们提出了 PreAct，它能让此类 Agent 在执行曾经做过的任务时速度大幅提升。

在首次成功完成任务时，PreAct 会将该运行过程编译为一个精简的状态机程序（状态负责检查屏幕，转移负责执行动作）；在后续运行中，PreAct 会直接重放该程序，而无需调用 Agent——不仅没有每一步的语言模型调用，速度还提升了 8.5 到 13 倍。这种重放并非盲目进行：在每一步执行前，PreAct 都会检查屏幕是否符合程序的预期，一旦出现异常便会立即将控制权交还给 Agent。

在决定保留哪些程序时，PreAct 同样遵循这一严格原则：一个新编译的程序只有在从干净状态重新运行、并经独立评估器确认确实解决了任务后，才会存入存储库——这能有效筛选出那些虽然重放到最后一步但实际并未完成任务的无效程序。在涵盖移动端、桌面端和 Web 端的三项基准测试中，这种存储阶段的校验将“越用越好”的重复运行与“因错误程序累积而导致性能下降”的运行成功区分开来，在三项基准测试中均带来了相同的正面效果（相当于每项基准测试提升 1.75 到 2.6 个任务）；再加上当没有合适程序时重新进行探索的回退机制（fallback），使 PreAct 达到了与强劲的“录制与重放”（record-and-replay）基线相媲美的水平。

此外，我们还报告了哪些因素并不重要：提示词措辞、运行时防护栏（guardrails），以及究竟是由语言模型还是普通的嵌入检索器来选择复用哪种程序。

原文链接：https://arxiv.org/abs/2606.17929

Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。

如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。

联系小助手微信：seventy3_podcast（加群/投稿论文）

今天的这篇的主题是：

Compositional Skill Routing for LLM Agents: Decompose, Retrieve, and Compose

Summary

LLM Agent 越来越依赖外部技能（即包含重用工具规范的定义），但现实世界中的任务通常需要组合多个技能，而不仅仅是选择单个技能。我们将该问题形式化为组合式技能路由（Compositional Skill Routing）问题：给定一个复杂的用户查询和一个庞大的技能库，将查询拆解为原子子任务，为每个子任务检索合适的技能，并构建出一个可执行的规划。

我们提出了 SkillWeaver，这是一个结合了 LLM 任务分解器、带 FAISS 索引的双编码器（bi-encoder）技能检索器以及依赖感知 DAG 规划器的“拆解-检索-组合”框架。为了支持评估，我们推出了 CompSkillBench，这是一个包含 300 个组合式查询的基准测试，涵盖来自公开 MCP 生态系统、跨越 24 个功能类别的 2,209 个真实 MCP 服务端技能。

我们的实验表明，任务分解的质量是主要瓶颈：标准 LLM 分解在步骤层面的类别召回率（category recall）仅达到 34.2%。为了解决这个问题，我们提出了迭代式技能感知分解（Iterative Skill-Aware Decomposition，简称 SAD），这是一种检索增强的反馈循环，能够迭代地将分解过程与可用技能进行对齐。SAD 在单次迭代中将分解准确率从 51.0% 提升至 67.7%（相对提升 +32.7%，Wilcoxon 检验 p<10−6）；基于分解准确性（DA）的条件分析证实，正确的粒度是实现有效检索的前提条件（当 DA=1 时，CatR@1 从 34% 上升至 41%）。

SkillWeaver 将上下文窗口的消耗降低了 99% 以上，迁移实验也证实了其泛化能力（即使检索池中缺失目标类别，相对 DA 收益仍达到了 +35.6%）。

原文链接：https://arxiv.org/abs/2606.18051

Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。

如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。

联系小助手微信：seventy3_podcast（加群/投稿论文）

今天的这篇的主题是：

SpatialClaw: Rethinking Action Interface for Agentic Spatial Reasoning

Summary

空间推理（即确定物体位置、相互关系以及在三维空间中如何运动的能力）依然是视觉语言模型（VLM）面临的一项根本性挑战。工具增强型 Agent 试图通过为 VLM 补强专业感知模块来解决这一问题，但其有效性受到调用这些工具的动作接口（action interface）的限制。

在本文中，我们研究了该接口的设计如何塑造 Agent 进行开放式空间推理的能力。现有的空间 Agent 要么采用单次代码执行，这种方式在观察到任何中间结果之前就已确定了完整的分析策略；要么依赖结构化的工具调用接口，这往往缺乏自由组合操作或针对具体任务量身定制分析的灵活性。这两种设计对于开放式、复杂的 3D/4D 空间推理所提供的灵活性都非常有限。

因此，我们提出了 SpatialClaw，这是一个采用代码作为动作接口的无需训练的空间推理框架。SpatialClaw 维持一个有状态的 Python 内核，其中预载了输入帧以及一系列感知和几何图元，允许由 VLM 支持的 Agent 在每一步根据所有先前的输出来编写一个可执行单元格，从而使 Agent 能够灵活地组合与操作感知结果，并根据中间的文本、视觉观察以及每个问题的需求来调整其分析过程。

在跨越广泛静态与动态 3D/4D 空间推理任务的 20 个空间推理基准测试上的评估表明，SpatialClaw 实现了 59.9% 的平均准确率，超越了近期的空间 Agent +11.2 个百分点；且在来自两个模型家族的六个 VLM 底座上均实现了持续的性能提升，期间无需任何针对基准测试或特定模型的微调适配。

原文链接：https://arxiv.org/abs/2606.13673

Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。

如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。

联系小助手微信：seventy3_podcast（加群/投稿论文）

今天的这篇的主题是：

FlashMemory-DeepSeek-V4: Lightning Index Ultra-Long Context via Lookahead Sparse Attention

Summary

传统大语言模型（LLM）在解码阶段需要将全部 KV 缓存（KV Cache）保持加载状态，这导致在超长上下文服务场景下面临严重的 GPU 显存瓶颈。在本报告中，我们提出了前瞻稀疏注意力（Lookahead Sparse Attention，简称 LSA），这是一种由基于 DeepSeek-V4 架构构建的神经记忆索引器（Neural Memory Indexer）驱动的全新推理范式。与被动地对所有历史 Token 进行注意力计算不同，LSA 能够主动预测未来的上下文需求，并仅在 GPU 显存中保留对查询至关重要的 KV 块（KV Chunks）。关键在于，我们通过脱离骨干模型的解耦训练（backbone-free decoupled training）策略实例化了该架构。通过将索引器构建为标准的双编码器（dual-encoder）架构，我们利用标准的检索训练框架对其进行独立训练，而无需将庞大的骨干模型加载到 GPU 显存中。

我们证明了这种“少即是多”的范式在大幅提升服务效率的同时，还能在依赖长期全局记忆的任务中充当有效的注意力去噪器（attention denoiser）。在主流的长上下文评估套件（例如 LongBench-v2、LongMemEval 和 RULER）中，FM-DS-V4 将平均物理 KV 缓存占用大幅压缩至全上下文基线（full-context baseline）的 13.5%，同时持续保持甚至略微提升了下游任务的准确率（平均绝对提升 +0.6%）。在 1M（百万）上下文长度下，每个解码 Token 的计算量降至基线的 0.30 倍，GPU KV 缓存体积缩减了 90%（从 3.73 GB 降至 0.37 GB），从而在 8× H20 GPU 上的首字/解码分离（PD-disaggregated）服务中，实现了2.8 倍的总吞吐量提升和 2.7 倍的并发量提升。

原文链接：https://arxiv.org/abs/2606.09079

Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。

如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。

联系小助手微信：seventy3_podcast（加群/投稿论文）

今天的这篇的主题是：

On the Geometry of On-Policy Distillation

Summary

在线策略蒸馏（On-Policy Distillation，简称 OPD）越来越多地被用于提升大语言模型的推理能力，但其训练动态机制（training dynamics）至今仍缺乏深入了解。我们对 OPD 在参数空间中的更新轨迹进行了刻画，并将其与监督微调（SFT）以及基于可验证奖励的强化学习（RLVR）进行了比较。

一系列参数空间诊断结果一致表明，OPD 处于一种宽松的非主方向机制（relaxed off-principal regime）：与 SFT 相比，它的更新所影响的权重更少，且更强烈地避开了主方向（principal directions）；而与 RLVR 相比，它的限制程度则没有那么严苛。

除了这种静态定位之外，OPD 还展现出了子空间锁定（subspace locking）现象：其累积更新会迅速进入一条狭窄的低维通道。将训练限制在训练早期形成的更新子空间内，能够保留 OPD 的性能，却会大幅降低 SFT 的效果，这表明被锁定的子空间在功能上对于 OPD 来说是充分的。

对照实验进一步表明，稀疏化更新 Token（sparsifying update tokens）以及将 Rollout 生成转为离线策略（off-policy）依然能保持其秩动态特性（rank dynamics）；然而，将 OPD 目标与 RLVR 混合使用则会改变这一特性。

总体而言，这些结果表明 OPD 并非仅仅是 SFT 和 RLVR 之间的过渡状态，而是在参数空间中诱导出了其独特的更新几何结构（update geometry）。

原文链接：https://arxiv.org/abs/2606.07082

Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。

如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。

联系小助手微信：seventy3_podcast（加群/投稿论文）

今天的这篇的主题是：

Agentopia: Long-Term Life Simulation and Learning in Agent Societies

Summary

人类从社会生活中进行学习。利用大语言模型（LLM）驱动的 Agent 来模拟这一过程是一个很有前景的研究方向，由此也衍生出一个自然的问题：LLM 能否从这种模拟的社会经验中学习，从而更好地理解和复刻人类行为？然而，以往的 Agent 社会模拟通常局限在“天”的量级，限制了社会交互的深度与长期成长。

在本文中，我们针对 Agent 社会中的长期生活模拟与 LLM 学习展开研究，旨在实现两个目标：（1）探索终身模拟中涌现出的社会行为；（2）通过数年的模拟社会经验，培养 LLM 的拟人化能力，特别是其在社会生活中的智能水平。

具体而言，我们提出了 Agentopia，这是一个用于多 Agent 社会长期生活模拟的综合框架。在该框架中，100 个 Agent 在 10 个模拟年里自主追求个人成长、建立社会关系，并满足自身的需求与目标。我们定义了用来镜像人类幸福感（well-being）的“生活奖励”（life reward），并利用该奖励通过拒绝采样（rejection sampling）来训练 LLM。

大量实验表明，Agent 表现出了丰富且涌现出的社会行为。此外，基于生活奖励的训练有效提升了底座 LLM 的能力，这不仅改善了 Agent 在模拟中的幸福感，还泛化到了下游的角色扮演基准测试中，带来了 +15.6% 的性能提升。

原文链接：https://arxiv.org/abs/2606.07513

Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。

如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。

联系小助手微信：seventy3_podcast（加群/投稿论文）

今天的这篇的主题是：

How AI Agents ReshapeKnowledge Work: Autonomy,Efficiency, andScope

Summary

前沿 AI 系统正在实现从“对话助手”向“能够端到端执行任务的自主 Agent”的转变，从而弥合智能与实用价值之间的鸿沟。我们利用来自 Perplexity 的 Search（搜索）与 Computer（电脑/计算）产品的生产数据，通过研究 AI Agent 如何加速并重塑知识工作，对这一转型进行了探讨。

研究得出了三个关键的实证发现：

第一，将使用两个产品尝试相同底层任务且初始查询对近乎一致的会话作为自然实验，数据显示，在每个用户会话中，Computer 能够执行 26 分钟的自主工作，而 Search 仅为 33 秒。 Computer 实现了任务拆解与执行的自动化，而这些工作在过去可能需要 Search 用户手动去协调和实施。因此，Computer 将后续查询的分布推向了诸如“验证”与“拓展”等更高阶的工作。自主性同时也提升了执行质量：Computer 上每条查询的不满意率比 Search 低 55%。

第二，得益于其自主性优势，在匹配的同类任务上，Computer 将完成时间从 269 分钟缩减至 36 分钟。 与仅配备 Search 的人类相比，估计的时间和成本分别降低了 87% 和 94%。

第三，Computer 改变了用户尝试的工作范围： 相较于同一批用户对 Search 的使用，Computer 上的查询更频繁地跨越职业边界、需要更高阶的认知能力、调用更广泛的专业知识，并且更多地表现为将相互依存的子任务打包进单个查询的复合型任务，从而解锁了在 Search 使用中基本不存在的工作活动。

综合来看，这些证据表明 AI Agent 能够加速工作流程、提升输出质量、降低成本，并拓展自动化工作的广度与深度。

原文链接：https://arxiv.org/abs/2606.07489