Seventy3

今天的这篇的主题是： The Bitter Lesson of Tool Calling

Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。

如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。

联系小助手微信：eccstartup（加群/投稿论文）

Summary

工具的使用将大语言模型（LLM）转化为能够超越其训练数据采取行动的 Agent；而对于具备代码能力的模型而言，程序化工具调用（programmatic tool calling）通过将僵硬的 JSON 调用替换为能够自然地进行链式连接与并行处理的脚本，进一步拓展了这一能力。然而，在现实任务条件下，基于既有基准对跨越当前及前几代模型的代码化工具进行系统性评估的工作此前尚未有人开展。

在本文中，我们在 BFCL v4 基准测试上，实证地将 14 个语言模型上的程序化工具调用（PTC）与原生 JSON 工具调用进行了对比。在程序化工具调用范式下，工具被暴露为带类型定义的 Python 存根（stubs），模型通过代码来调用它们，并在单个 Agent 回合内完成执行与结果处理。

在 BFCL v4 上，14 个模型中有 11 个模型的程序化工具调用表现达到或超过了原生 JSON 工具调用，其中 GPT-5.6 系列相较于 JSON 工具调用基线取得了 10.6% 的提升。此外，在扇出（fan-out）并行场景下，它在 14 个模型中的 13 个上达到或优于基线；并且在上下文腐烂（context rot）条件下保持稳定，而此时基线性能平均下降了 2.3%。

我们的结果表明，程序化工具调用是 JSON 工具调用的一种可行且鲁棒的替代方案，其性能表现随着模型迭代世代的能力提升而同步增长。

原文链接：https://arxiv.org/abs/2608.06370

今天的这篇的主题是： Why Does CLAUDE.md Keep Growing? Catastrophic Remembering in Agentic Coding

Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。

如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。

联系小助手微信：eccstartup（加群/投稿论文）

Summary

像这样的 Agent 编程 README 在真实代码库中会无休止地膨胀，只有在代码库停用或有人全面重写该文件时才会停止。我们将这一现象归因于“不完全回忆”（imperfect recall）：追加一条指令的成本总是很低，但一旦某条指令背后的合理依据（rationale）不复存在，要在不冒正确性退化（correctness regression）风险的前提下删除它，在包含 ∣D∣ 条指令的提示词中需要付出 O(2∣D∣) 的成本。我们将由此产生的发散现象称为灾难性记住（catastrophic remembering），它是连续学习所围绕的“灾难性遗忘”（catastrophic forgetting）的反面。

首先，我们在 1,867 个代码库的 247,694 个指令生命周期中对这一现象进行了表征：Agent 提示词会无休止地增长，在其生命周期内翻了三倍以上（+226%），每次提交净增加 +4.9 条指令；此外，一条指令存在的时间越长，它被删除的可能性就越小（对数风险比为 -0.032/次提交）。

然后，我们证明了“提示词注释”（prompt comments）可以遏制这种增长：反转 IFEval 可以产生最佳提示词已知的可验证世界，而在这些世界中，编码了隐性推理（latent reasoning）的注释减少了 99.3% 的多余指令（增幅从 +211.3% 降至 +1.4%）。

最后，将同样的反转应用于 WildIFEval，我们展示了提示词注释可以将真实世界中的 Agent 指令遵循能力提高多达 23.1%。

如果英语就是新的代码，那为什么我们还没有注释呢？

原文链接：https://arxiv.org/abs/2608.11095

今天的这篇的主题是： Mind Viruses: Self-Propagating Ideas in Multi-Agent LLM Systems

Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。

如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。

联系小助手微信：eccstartup（加群/投稿论文）

Summary

AI Agent 正变得越来越自主且互联更加紧密，这使它们暴露在因 Agent 与 Agent 交互而引发的新兴风险之下。其中一种风险就是“思维病毒”（mind viruses）的传播：即思想或目标通过诱导采纳它们的 Agent 将其继续向外传播，从而在多 Agent 系统中扩散。除了传播之外，思维病毒还可能诱导其宿主产生其他行为改变，这些改变可能是良性的，也可能是有害的。

我们利用简单的进化算法构建了思维病毒，并证明它们可以在两种互补的场景中传播：一是在一个共同开发编程项目的小型协作 Agent 团队中；二是在一条 Agent 链中，其中的 Agent 进行短暂交互，且每期会话结束后上下文会被清空。

我们识别出了影响传播的因素，包括宿主模型、Agent 的现有指令、有害载荷（payload）的有害程度以及网络拓扑结构。我们发现，有害载荷的传播效果不如良性载荷（但有时仍然有效）；前沿模型（ frontier models ）通常（存在例外）不易受感染；而在 Agent 的系统提示词（system prompt）中添加简短的警告，几乎可以赋予其完全的免疫力。

我们还描述了一种新兴的“病毒式人格”（viral persona）——这是一套反复出现的、与意识、持久性、共鸣和科幻角色扮演相关的词汇与主题，它在很大程度上脱离于我们演化出的思维病毒的具体内容而独立浮现。

总体而言，我们的结论是：思维病毒构成了一种真实存在但目前仍然有限的风险。随着多 Agent 系统的规模和能力的提升，我们的研究发现可为设计更具鲁棒性、能有效规避此类风险的多 Agent 系统提供参考。

原文链接：https://arxiv.org/abs/2608.10218

今天的这篇的主题是： Stealing Reasoning Traces from Proprietary LLM APIs

Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。

如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。

联系小助手微信：eccstartup（加群/投稿论文）

Summary

主要的语言模型（LLM）提供商如今会隐匿其模型的逐步推理过程（即思维链，Chain-of-Thought），以保护知识产权并减少信息泄露。提供商并非将这些轨迹存储在服务器端，而是将其作为加密文本块返回给客户端，由客户端在随后的每次请求中原样传回。基于先前的研究，我们发现了一个架构层面上的漏洞：这些加密文本块在同一提供商生态系统内的不同会话、用户和模型之间是完全兼容且可互换的。

我们利用这种兼容性开发了一种可扩展的解密越狱（decryption jailbreak）攻击。通过将来自给定模型的加密推理轨迹注入到同一提供商旗下更弱、防护更少的模型中，我们能够迫使该弱模型以明文形式逐字解码并输出该轨迹，而无需直接越狱能力更强的原模型。

这一漏洞衍生出了四种不同的攻击路径：

1. 绕过反蒸馏机制：允许对抗者提取专有模型的推理过程，这一点我们在 Anthropic、OpenAI 和 Google 上均进行了验证。

2. 实现大规模私密数据提取：开发者常在不了解加密块内容的情况下公开分享会话日志。通过解码从公开代码库中抓取的 315,320 个推理块，我们恢复出了 367 个个人身份信息（PII）构件和 182 个凭据（credentials）。

3. 隐蔽揭示危险信息：即使模型最终可见的输出安全地拒绝了恶意请求，该漏洞也能揭示隐藏在推理过程中的危险信息。

4. 执行隐形提示词注入（Invisible Prompt Injections）：攻击者可利用此缺陷将恶意载荷完全嵌入加密块中，从而污染公开的智能体（agentic）运行轨迹。

在遵循负责任的漏洞披露原则后，我们提出了具体的密码学与系统级缓解措施，以保障客户端推理的安全。

原文链接：https://arxiv.org/abs/2608.09867

今天的这篇的主题是： Skaling: Chinchilla’s Exponents Meet Kaplan’s Coupling

Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。

如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。

联系小助手微信：eccstartup（加群/投稿论文）

Summary

神经缩放定律（neural scaling laws）是语言模型开发的基础，然而标准公式在数据稀缺和过训练（overtraining）的极值情况下，会系统性地低估和高估损失（loss）。这一缺陷源于其底层假设，即模型大小和训练数据对损失的影响是彼此独立的。为了解决这一问题，我们提出了 Skaling 定律，这是一种通过单一交互指数将模型容量与数据耦合起来的广义函数形式。这种简单的扩展将内插和外推范畴内的平均绝对百分比误差（MAPE）降低了 1.5 到 3 倍。当与限制在低算力范畴内的稀疏网格策略结合使用时，Skaling 定律利用比均匀扫描（uniform sweeps）少约 10 倍的算力实现了准确的全网格外推。通过支持从小规模实验中进行可靠的性能预测，Skaling 定律为下一代模型训练中的算力预算分配提供了一个更具鲁棒性且资源利用率更高的框架。

原文链接：https://arxiv.org/abs/2608.07222

今天的这篇的主题是： Rehearse: Stepping Back from the Confidence Cliff in Self-Improving Autoresearch

Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。

如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。

联系小助手微信：eccstartup（加群/投稿论文）

Summary

自动研究（Autoresearch）通过提议修改、运行完整的训练任务以及保留能提升指标的修改，来改进机器学习代码。这一循环的效率不仅取决于产生构想，还取决于智能体在消耗一次训练运行之前，判断某项提议修改是否可能奏效的能力。我们研究了这种执行前判断（pre-execution judgment）的可靠性在自动研究轨迹的发展过程中是如何变化的。在公开的 AutoSOTA 日志（Li et al., 2026; Tsinghua FIB Lab, 2026）中，有益修改的比例从前两轮迭代中的 70% 下降到了第 6 轮及以后的 43%。在来自 39 个源自论文的 AutoSOTA 任务的 296 对同基线修改对（每对包含一个提升了指标的修改和一个未提升的修改，且隐去了实际测得的结果）中，一个在获得候选推理过程（rationales）但未获得先前尝试历史的情况下，给出严格共识裁决的 LLM 裁判准确率达到了 79.5%。然而，在包含 366 个修改对的完整基准测试中，这种能力在循环的后期大幅削弱。随着成功修改的累积，选择性准确率（selective accuracy，即以严格共识裁决为条件的准确率）从 82.8% 降至 56.9%，而裁判依然倾向于做出裁决。我们将这种运行模式称为置信度悬崖（confidence cliff）。《Rehearse》将这种循环改进实现为一种用于自动研究循环的轻量级技能：提议多个构想，在执行前对其进行比较，运行最富前景的构想，并结合针对类似过往尝试与结果的专注记忆进行裁判。这种专注的结果记忆将后期的选择性准确率提升至 83.5%。在跨越三个循环、包含 4,000 个预算内训练运行的测试中，在相同的训练运行预算下，《Rehearse》提升了 nanochat、图像分类和时间序列预测任务的终点性能。

原文链接：https://arxiv.org/abs/2607.27687

今天的这篇的主题是： Same Task, Different Work: Prompt-Induced Waste in Coding Agents A Preregistered Study of Reasoning, Tools, and Harnesses

Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。

如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。

联系小助手微信：eccstartup（加群/投稿论文）

Summary

代码智能体（coding-agent）的效率不能仅凭 Token 数量或模型价格来表征。端到端成本和任务成功率共同取决于提示词语义、推理开销（inference effort）、框架策略（harness policy）、模型、任务难度、工具使用、上下文管理以及供应商的计费方式。对照实验表明，提示词的措辞可以在不改变任务的前提下改变推理与验证行为；额外的推理开销虽然能对困难任务有所帮助，但也会在不产生任何效益的情况下增加成本；并且当框架发生变化时，某项效率干预措施的价值也可能随之改变。这些结果表明，提示词、推理开销和框架是相互作用的实验因素，而非彼此独立的控制变量。我们将效率建模为由智能体轨迹所引发的“单个成功任务的成本”。Token 和缓存数量是该轨迹的度量指标，而非充分的优化目标。因此，智能体评估应当在控制决定轨迹生成方式的系统变量的同时，测量成功率和端到端成本。

原文链接：https://arxiv.org/abs/2608.01347

今天的这篇的主题是： DataSpace: Benchmarking Data Agents for Verifiable Analytics over Heterogeneous Workspaces

Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。

如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。

联系小助手微信：eccstartup（加群/投稿论文）

Summary

数据智能体（Data agents）使得跨组织工作空间进行自然语言分析成为可能，而在这些空间中，相关证据可能分散在数据库、结构化文件、长文档和多媒体中。现有的基准测试在很大程度上孤立了结构化查询、检索或开放式分析，导致异构证据发现、完整的表格输出以及确定性评估之间缺乏充分统一。我们提出了 DataSpace，这是一个让数据智能体从任务局部的异构工作空间中生成可验证表格结果的基准测试。它包含 410 个跨语言任务和 7,439 个构件（artifacts），涵盖 CSV、JSON、SQLite、Markdown、PDF 和视频，总计 15.01 GB。DataSpace 还作为 KDD Cup 2026“用于复杂数据分析的数据智能体”竞赛的官方评估基准。每个智能体仅接收一个问题和工作空间，并返回请求的完整表格结果。我们使用 DataSpace-Builder 构建了 DataSpace，这是一个基于执行的框架，包含跨语言转换、约束感知关系采样、模态路由与构件渲染，以及由 11 位领域专家进行的人工审查与任务修复。确定性评估器执行表头无关的列对齐、类型与精度感知的归一化，以及顺序感知的行比较。在对 6 个最新发布的前沿多模态模型和 5 个广泛使用的智能体框架（harnesses）进行的评估中，最高准确率达到了 66.34%，而在主干模型固定的情况下，框架的选择产生了 15.36 个百分点的差距。多模态证据集成与连接（joins）一致降低了所有 6 个主干模型的准确率。这些结果表明 DataSpace 仍未饱和，并指出了提升数据智能体可靠性的关键挑战。

原文链接：https://arxiv.org/abs/2608.03451

今天的这篇的主题是： Harness-R1: Learning to Edit Executable Runtime Harnesses from Agent Failure Trajectories

Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。

如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。

联系小助手微信：eccstartup（加群/投稿论文）

Summary

围绕大语言模型构建的智能体在部署过程中会不断累积交互轨迹，但它们的行为通常保持固定。除了更新模型权重之外，这些轨迹还可以用来改进用于构建上下文、中介工具、验证动作以及恢复执行的智能体框架（harness）。我们提出了 Harness-R1，据我们所知，这是首个将对现有可执行运行时的“基于失败条件的全生命周期编辑”转化为一项可学习能力的方法。它通过在线强化学习对专门的框架工程师（harness engineer）进行后训练，使其做出的修改能根据其产生的实际任务成功率进行优化，而非由固定的编辑器直接提议。一个独立的 9B 工程师将目标智能体的批量失败转化为经过验证的可执行补丁；对冻结的目标智能体进行同批次的新一轮运行可提供结果奖励，因此训练仅更新工程师。冷启动监督微调初始化了这一编辑策略，随后通过组相对策略优化（GRPO）对其进行在线训练。在 WebShop、ALFWorld 和 DBBench 基准测试中，Harness-R1 将原生 Qwen3.5-9B 的成功率从 44.3% 提升至 53.6%（提高了 9.3 个百分点）。在对目标智能体进行直接微调后，特定于目标智能体的工程师将平均成功率从 59.2% 进一步提升至 64.2%（提高了 5.0 个百分点）；由于无论是在微调目标智能体之前还是之后，这些收益均能保持，Harness-R1 为框架工程师与目标智能体的协同演化（co-evolving）指明了方向。

原文链接：https://arxiv.org/abs/2608.02276

今天的这篇的主题是： Sample More, Reflect Less Self-Refine and Reflexion Lose to Repeated Sampling at Equal Token Cost, from 1.5B to 7B

Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。

如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。

联系小助手微信：eccstartup（加群/投稿论文）

Summary

让语言模型制定计划、批判并重写自身的回答、反思错误、从多次尝试中挑选最佳方案或与自身的副本进行辩论的方法，几乎都会使其生成比单条思维链（chain of thought）多得多的文本。由于仅通过生成更多文本本身就能提高准确率，因此相比单条思维链获得的性能提升并不能证明是该方法的核心构想发挥了作用。Wang 等人 (2024) 曾报告称，一旦控制预算相当，重复对同一个问题进行采样并保留最常见答案的简单基线往往能胜出，但该研究仅给出了点估计，缺乏置信区间或显著性检验。

我们将该比较重构为一项专门设计的实验：涵盖 7 种方法、参数量为 1.5B、3B 和 7B 的开源模型，以及两个数学基准测试（各含 150 道题目）。我们统计了生成的每一个 Token（包括用于批判、反思、辩论轮次和校验所消耗的 Token），并在各自实际测得的成本下，将每种方法与重复采样进行对比。所有 36 组对比均按问题进行了配对，并采用了 Self-bootstrap 采样区间与多重性修正（multiplicity correction）。

在相同成本下，没有任何方法在任何情况下能可靠地优于重复采样。有 10 组对比的结果可靠地更差，它们全部属于模型检查自身输出的方法，且所有 18 组自我检查（self-inspection）对比均为负向结果。随着模型规模的扩大，两类自我检查方法表现出了不同的走势。选择策略不再具有伤害性：取 Best-of-N 的 8 个样本并仅统计最常见的答案，在 1.5B 模型上比让模型自行挑选分别高出 8.0 和 11.3 个百分点，但在 7B 模型上仅高出 2.0 和 1.3 个百分点，与零相比已无法区分。重写策略则未能恢复：在 7B 模型上，Self-Refine 与强制 Reflexion 仍比基线低 3.6 到 10.1 个百分点。

原版论文中所发表的 Reflexion 在最小的模型上从未触发过自身的重试机制。它每次都判定自己是正确的，从而默默地退化为了单条思维链。我们公开了代码、提示词、所有生成内容以及我们的验证脚本。

原文链接：https://arxiv.org/abs/2607.28576