Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。

如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。

联系小助手微信：seventy3_podcast（加群/投稿论文）

今天的这篇的主题是：

Harness Updating Is Not Harness Benefit: Disentangling Evolution Capabilities in Self-Evolving LLM Agents

Summary

大型语言模型（LLM）智能体正越来越多地以围绕可编辑外部 harness构建的系统形式部署。这些 harness 包括提示（prompts）、技能（skills）、记忆（memories）和工具（tools），它们无需修改模型参数即可影响任务执行过程。**Harness 自演化（harness self-evolution）**则通过利用执行过程中积累的证据，不断更新这些 harness，以实现智能体的持续适应。

然而，一个尚未明确的问题是：**模型自身的基础任务求解能力（base capability）是否能够预测其 Harness 自演化能力？**换言之，哪些模型能够生成有价值的 harness 更新，又有哪些模型能够真正从这些更新中获益？

我们将 Harness 自演化能力划分为两个方面进行分析：

1. Harness 更新能力（harness-updating）：即模型根据执行证据生成有价值、可长期保留的 harness 更新的能力。

2. Harness 受益能力（harness-benefit）：即模型在任务执行过程中利用更新后的 harness 提升自身表现的能力。

我们的分析得到两个主要发现。

首先，Harness 更新能力与模型基础能力几乎无关（flat in base capability）。来自不同能力层级的模型所生成的 harness 更新，带来的性能提升出乎意料地相近。例如，Qwen3.5-9B 所生成的 harness 更新，其效果与 Claude Opus 4.6 产生的更新几乎相当。

其次，Harness 受益能力与模型基础能力之间呈现非单调关系（non-monotonic）。具体而言：

• 弱能力层级（weak-tier）模型几乎无法从更新后的 harness 中获得明显收益；

• 中等能力层级（mid-tier）模型能够获得最大的性能提升；

• 强能力层级（strong-tier）模型虽然仍有收益，但提升幅度反而低于中等能力模型。

进一步分析表明，弱能力模型收益较低主要源于两种失效模式：

• 无法激活（activate）与当前任务相关的 harness 内容；

• 虽然成功激活了相关 harness，但无法忠实地遵循（follow faithfully）其中提供的指导。

这些发现表明，在构建具备 Harness 自演化能力的智能体时，计算和能力预算更应优先投入到负责任务求解的智能体本身，而不是负责生成 harness 更新的演化器（evolver）。与此同时，在智能体训练过程中，应重点提升其Harness 调用能力（harness invocation）以及长时程指令遵循能力（long-horizon instruction following）。

原文链接：https://arxiv.org/abs/2605.30621

Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。

如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。

联系小助手微信：seventy3_podcast（加群/投稿论文）

今天的这篇的主题是：

Summary

科学发现不仅仅是生成答案，更是在证据（evidence）、研究对象（artifacts）、**操作（operations）和验证器（verifiers）所属类型体系（representational regime）上的修订。本文提出了一种面向材料科学智能体发现（agentic discovery）的范畴论（category theory）**框架。

在一个固定的表示体系 bb 中，其模式范畴（schema category）记为 SbSb​。系统状态表示为一个余预层（copresheaf）It:Sb→Set,而其溯源信息（provenance）则由元素范畴（category of elements）∫SbIt来表示。

在固定表示体系下，系统运行表现为对此类状态的更新。只有当能够明确指定并保持**保留溯源（provenance-preserving）的细化过程时，这种更新才能被视为一个自函子（endofunctorial）**操作。

相比之下，科学发现对应的是一个经过验证的表示体系转换 u:Sb→Sb′, 即从旧表示体系迁移到新的表示体系。在这一过程中，已有研究对象不会被丢弃，而是通过左 Kan 扩张（left Kan extension）LanuIt 被映射到新的表示体系中；随后，再将该迁移结果与转换后的实际系统状态进行比较，从而识别出那些无法仅通过函子式迁移（functorial transport）解释的剩余信息（residual content）。这一框架无需依赖主观意义上的“新颖性”，即可清晰地区分检索（retrieval）、**搜索（search）与科学发现（discovery）**三者。

我们将这一理论框架具体应用于两个系统。

第一个系统是 Builder/Breaker。在该系统中，一个蛋白质力学世界模型（protein-mechanics world model）在**最小描述长度（Minimum Description Length，MDL）准则的约束下进行修订。最终接受的新规律指出：链内柔性（within-chain flexibility）可以表示为由缓慢集体模态（slow collective modes）参与程度所决定的全模态弹性顺应性（all-mode elastic compliance），即一种模态条件顺应性（mode-conditioned compliance）**模型。

第二个系统是 CategoryScienceClaw。在该系统中，类型化技能（typed skills）、研究对象（artifacts）、开放问题（open needs）、工作流变异（workflow mutation）、评估门控（gates）、压力测试（stress tests）以及公开讨论（public discourse）共同构成了一个具有证明携带能力（proof-carrying）的知识—计算图（knowledge-computation graph）。

文中以一个纤维网络（fiber network）案例进行了说明：整个知识图完整记录了候选模型、被拒绝的替代方案、基于 AIC（Akaike Information Criterion，赤池信息准则） 的模型选择门控、扰动实验（perturbation tests），以及最终被接受的模型——一种以各向同性纤维数量描述符（isotropic fiber-count descriptor）为基础、结合取向张量（orientation tensor）的各向异性刚度代理模型（anisotropic stiffness surrogate）。

这两个案例共同表明，范畴论不仅能够作为描述科学发现过程的数学语言，也能够作为构建具备自我修订能力的 AI 科学发现系统的工程规范。

原文链接：https://arxiv.org/abs/2606.01444

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

如果你想要解读自己的论文，获得更多曝光度。请联系小助手微信：seventy3_podcast 加群。
合作邮箱：zhiwudazhanjiangshi#gmail.com

Fully Homomorphic Encryption on Llama 3 model for privacy preserving LLM inference

Summary

生成式人工智能（Generative Artificial Intelligence，GenAI）的广泛应用，以及其与医疗、金融、交通运输和信息安全等数据驱动领域的深度融合，显著提升了服务效率并降低了响应延迟。然而，这种融合也引发了关于大型语言模型（LLMs）安全性及其对企业和用户数据隐私影响的严重担忧。

许多科技公司在其服务中集成了具备一定自主决策能力的大语言模型，但由于 LLM 推理流水线（LLM pipeline）存在安全隐患，面临数据泄露和机密信息泄露的风险，使其容易遭受多种攻击，包括数据投毒（data poisoning）、**提示注入（prompt injection）和模型窃取（model theft）**等。

尽管目前已经采用了多种安全技术来降低这些风险，例如输入/输出净化（input/output sanitization）、去中心化学习（decentralized learning）、访问控制管理（access control management）以及加密技术（encryption），但量子计算攻击仍构成迫在眉睫的威胁。预计未来的量子计算能力将能够破解现有加密算法，从而恢复密钥、获取加密的敏感数据，并解密经过加密保护的模型。

在本文中，我们将基于**后量子密码学（Post-Quantum Cryptography，PQC）的格密码同态加密（Lattice-based Homomorphic Encryption，HE）**核心功能集成到大语言模型的推理流水线中，以保护其中部分网络层免受数据隐私攻击。

具体而言，我们对 LLaMA-3 模型所采用的 Transformer 架构推理流程进行了修改，并引入 concrete-ml 库提供的核心同态加密操作，将其嵌入推理过程。

实验结果表明，在采用**全同态加密（Fully Homomorphic Encryption，FHE）**保护的 LLaMA-3 推理模型上，我们仍然能够获得较高的文本生成准确率（最高可达 98%），同时保持较为合理的推理延迟（在 Intel Core i9 CPU 上约为 237 毫秒），生成速度最高可达 80 token/s。这些结果证明了本文方案在 FHE 保护下运行 LLaMA-3 推理模型的可行性与有效性。

此外，本文还通过进一步的实验与分析，对模型文本生成的延迟特性及其行为表现进行了深入讨论，以解释其性能表现及其背后的原因。

原文链接：https://arxiv.org/abs/2604.12168

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

如果你想要解读自己的论文，获得更多曝光度。请联系小助手微信：seventy3_podcast 加群。
合作邮箱：zhiwudazhanjiangshi#gmail.com

Harnesses for Inference-Time Alignment over Execution Trajectories

Summary

Harness 工程（harness engineering）已成为大型语言模型（LLM）智能体一种重要的推理时（inference-time）技术，其目标是通过任务分解和引导式执行提升智能体的长期表现。然而，更复杂的 harness 并不一定更优：增加任务分解的粒度或执行引导的强度，有时能够改善执行过程，但也可能降低最终任务的成功率。

我们从推理时轨迹对齐（inference-time trajectory alignment）的视角研究 harness 的设计。该视角将 harness 拆解为两种机制：任务分解（task decomposition），负责将任务组织为一系列子目标；以及引导式执行（guided execution），负责在执行过程中重塑局部动作分布（local action distributions）。

这种机制划分使我们能够量化工作流粒度（workflow granularity）、重试预算（retry budgets）以及引导导致的动作重加权（guidance-induced action reweighting）如何共同决定 harness 设计的性能上限。同时，它也揭示了若干具体的失效模式，包括过度分解（over-decomposition）、过度剪枝（over-pruning）以及幻觉式执行（hallucinated execution）。

我们通过受控的合成实验（controlled synthetic experiments）和真实终端智能体基准测试（real terminal agent benchmarks）验证了上述理论预测。

受该理论启发，我们进一步发现，一个高效的 harness 并不一定需要覆盖完整的执行流程：仅对任务的初始阶段进行结构化设计，而将后续执行交由智能体自主完成，相较于完全结构化的工作流，反而能够获得更高的任务通过率（pass rate）。

原文链接：https://arxiv.org/abs/2605.21516

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

如果你想要解读自己的论文，获得更多曝光度。请联系小助手微信：seventy3_podcast 加群。
合作邮箱：zhiwudazhanjiangshi#gmail.com

Your Agents Are Aging Too: Agent Lifespan Engineering for Deployed Systems

Summary

长期运行的 AI 智能体正越来越多地作为持续运行的业务系统投入部署，但它们仍然按照刚初始化的模型进行评估。部署首日（Day-one）的基准测试忽略了一个最基本的系统性问题：一个智能体在部署之后究竟能够保持可靠多久？

即使模型权重保持冻结，智能体的有效状态（effective state）仍会持续变化：它会压缩交互历史、从不断增长的记忆库中检索信息、在信息更新后修订已有事实，并经历日常维护。因此，可靠性应当被视为整个智能体运行框架（agent harness）的生命周期属性，而不仅仅是基础模型在某一时刻的静态属性。

我们提出 AgingBench，一个面向智能体生命周期工程（agent lifespan engineering）的纵向可靠性基准。它不仅衡量已部署智能体是否会发生性能退化，还关注退化以何种形式出现，以及修复工作应当针对哪些环节展开。

AgingBench 将智能体老化归纳为四种机制：压缩老化（compression aging）、干扰老化（interference aging）、修订老化（revision aging）以及维护老化（maintenance aging）。

为了诊断这些失效机制，AgingBench 引入了时间依赖图（temporal dependency graphs）和成对的反事实探针（paired counterfactual probes），从而为记忆流水线（memory pipeline）的写入（write）、**检索（retrieval）和利用（utilization）**三个阶段生成诊断画像（diagnostic profiles）。

在涵盖 7 个场景、14 个模型、多种记忆策略，以及由运行器控制（runner-controlled）和自主运行（autonomous）的智能体的实验中，我们完成了约 400 次运行，覆盖 8–200 个会话。结果表明，智能体老化并非单一维度的现象：行为测试可能依然表现良好，而事实精度却已开始下降；同一模型内部，对衍生状态（derived state）的跟踪能力可能在一次实验中急剧崩溃；甚至对于同一个错误答案，根据诊断画像所揭示的失效机制不同，其所需的修复方式也可能完全不同。

这些结果表明，要实现可靠的智能体部署，仅仅依赖更强的部署首日模型是不够的；还需要对智能体整个生命周期进行评估、开展机制层面的诊断，并针对不同阶段实施有针对性的修复。

原文链接：https://arxiv.org/abs/2605.26302

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

如果你想要解读自己的论文，获得更多曝光度。请联系小助手微信：seventy3_podcast 加群。
合作邮箱：zhiwudazhanjiangshi#gmail.com

Forecasting Scientific Progress with Artificial Intelligence

Summary

人工智能（AI）正越来越多地融入科学发现之中，然而它是否能够预见科学进展仍不明确。为了研究这一问题，我们引入了一个在受控知识约束下预测科学进展的时间落地评估框架。我们提出了 CUSP（基于截止日期约束的未见科学进展，Cutoff-conditioned Unseen Scientific Progress）——这是一个多学科且事件级别的基准测试，它通过可行性评估、机制推理、生成式解决方案设计以及时间预测来评估 AI 系统中的科学预测能力。

在 4,760 个科学事件中，我们观察到当前尖端模型存在系统性且高度依赖特定领域的局限性。虽然模型能够从竞争候选方案中识别出合理的合理研究方向，但它们无法可靠地预测科学进展是否会真正实现，并会系统性地错估进展发生的时间。不同领域的表现存在极大的异质性，其中 AI 自身进展的时间比生物学、化学和物理学的进展更具可预测性。

无论是事件发生在训练截止日期之前还是之后，模型的表现基本不受影响，这表明这些局限性不能完全用训练数据中的知识暴露来解释。在受控的信息获取条件下，增加截止日期前的知识可以提高性能，但无法消除与全信息设置之间的差距，而这一差距在具有高引用量的重大进展中表现得更为明显。此外，模型还表现出系统性的过度自信和强烈的响应偏差，这表明其不确定性估计并不可靠。

总而言之，当前的 AI 系统在作为科学进展的预测工具时表现不佳。获取先验知识并不能转化为可靠的预测能力，并且模型在性能上更多得益于事后信息的提供，而非前瞻性的预测。

原文链接：https://arxiv.org/abs/2605.22681

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

如果你想要解读自己的论文，获得更多曝光度。请联系小助手微信：seventy3_podcast 加群。
合作邮箱：zhiwudazhanjiangshi#gmail.com

Adapting the Interface, Not the Model: Runtime Harness Adaptation for Deterministic LLM Agents

Summary

LLM 智能体不仅受到其语言模型本身的影响，还受到运行时装备（runtime harness）的塑造，该装备介导了观察、工具使用、行动执行、反馈解读以及轨迹控制。尽管现有的智能体自适应方法主要更新模型参数，但在确定性、规则约束的领域中，许多失败实际上源于模型与环境接口（model–environment interface）之间的不匹配。

我们提出了 Life-Harness，这是一个具备生命周期感知能力的运行时装备，它可以在不改变模型权重或评估环境的情况下，提升冻结状态下 LLM 智能体的性能。Life-Harness 通过将反复出现的交互失败转化为可复用的干预措施（涵盖环境契约、程序化技能、行动实现和轨迹调节），从而从训练轨迹中演化而来，并在对未知任务进行评估时保持固定。

在来自 τ-bench、τ2-bench 和 AgentBench 的 7 个确定性环境中，Life-Harness 在 18 个模型骨干网络的 126 个“模型-环境”设置中改进了其中的 116 个，平均相对提升达 88.5%。仅从 Qwen3-4B-Instruct 的轨迹中演化出的装备可以迁移到其他 17 个模型上，这表明 Life-Harness 捕捉到的是可复用的环境侧结构，而非特定于模型的行为。这些结果将运行时接口自适应定位为一种与“以模型为中心”的智能体训练互补的替代方案。

原文链接：https://arxiv.org/abs/2605.22166

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

如果你想要解读自己的论文，获得更多曝光度。请联系小助手微信：seventy3_podcast 加群。
合作邮箱：zhiwudazhanjiangshi#gmail.com

Do Language Models Need Sleep? Offline Recurrence for Improved Online Inference

Summary

基于 Transformer 的大语言模型越来越多地被用于长周期任务；然而，它们的注意力机制在处理长上下文时扩展性较差。为了解决这一问题，我们研究了一种类似于睡眠的巩固机制（sleep-like consolidation mechanism），在该机制中，模型会定期将最近的上下文转化为持久的快速权重（fast weights），然后清除其键值缓存（KV cache）。

在睡眠期间，模型会对积累的上下文进行 N 次线下循环处理（recurrent passes），并通过一种学习到的局部规则更新其状态空间模型（SSM）块中的快速权重。在推理过程中，这种做法将额外的计算量转移到了睡眠阶段，同时保持了觉醒时（wake-time）预测的低延迟。

我们在受控的合成任务（包括细胞自动机和多步图检索）以及一个现实的数学推理任务上测试了我们的方法，在这些任务上，常规的 Transformer 以及 SSM-Attention 混合模型均宣告失败。随后我们表明，增加模型的睡眠持续时间 N 可以提升性能，其中在需要更深层次推理的样本上，性能提升最为显著。

原文链接：https://arxiv.org/abs/2605.26099

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

如果你想要解读自己的论文，获得更多曝光度。请联系小助手微信：seventy3_podcast 加群。
合作邮箱：zhiwudazhanjiangshi#gmail.com

AUTOSCIENTISTS: Self-Organizing Agent Teams for Long-Running Scientific Experimentation

Summary

科学研究是通过“假设生成、实验设计、执行和修正”的迭代循环来推进的。AI 智能体可以使这一过程的部分环节实现自动化，但现有的方法通常遵循单一的研究轨迹，或者通过一个具有固定目标的核心规划器来进行协调。因此，在长期运行的实验中，它们难以维持并行探索、难以随着实验证据的变化而进行调整，也难以保存有关失败方向的知识。

我们引入了 AutoScientists，这是一个用于长期计算科学实验的去中心化 AI 智能体团队。智能体们共同解读一个共享的实验状态，围绕有前景的假设自发组织成团队，在调用实验算力前对提案进行审辩式评议（critique），并分享成功与失败的经验以减少冗余探索。

在相同的实验预算下，AutoScientists 在生物医学机器学习、语言模型训练优化以及蛋白质适应度预测方面均比先前的 AI 智能体有所提升：

• 在 BioML-Bench 上（涵盖生物医学成像、蛋白质工程、单细胞组学和药物发现），AutoScientists 在 24 个任务中实现了 74.4% 的平均排行榜百分位，比最强的 AI 智能体提高了 +8.33%。

• 在 GPT 训练优化上，AutoScientists 达到目标验证位/字节（bits-per-byte）的速度比 Autoresearch 快 1.9 倍，并且能够从一个初始的最优基准（starting champion）出发持续发现改进方案，而单智能体方法在此时则无法找到任何改进（采纳的改进方案数量为 7 对 0）。

• 在 ProteinGym 适应度预测上，AutoScientists 发现了一种用于 ACE2-Spike 结合的方法，该方法相比当前最先进（SOTA）的模型在斯皮尔曼相关系数（Spearman correlation）上提升了 +12.5%。在不加修改地应用到所有 217 个 ProteinGym 测试中时，该方法将先前的最先进水平提升了 +6.5%（斯皮尔曼相关系数）。

原文链接：https://arxiv.org/abs/2605.28655

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

如果你想要解读自己的论文，获得更多曝光度。请联系小助手微信：seventy3_podcast 加群。
合作邮箱：zhiwudazhanjiangshi#gmail.com

Compiling Agentic Workflows into LLM Weights: Near-Frontier Quality at Two Orders of Magnitude Less Cost

Summary

智能体编排框架在近年来大量涌现，LangGraph、CrewAI、Google ADK、OpenAI Agents SDK、Semantic Kernel、Strands 和 LlamaIndex 等框架在 GitHub 上累计获得的星标（stars）已突破 290,000 个。所有这些框架都遵循同一种模式：在 LLM 之上设立一个外部编排器，在每一步（turn）中注入指令并做出路由决策。

近期的研究表明，对于程序化任务而言，这种架构的性能会被一种更简单的方法所压倒：即直接将操作程序写入尖端模型（frontier model）的系统提示词中 [Dennis et al., 2026a]；但这需要付出代价——它会消耗上下文窗口、每次对话都需要调用尖端模型，并且会将专有操作程序暴露给第三方供应商。将程序编译到经过微调的小型模型的权重中——从而创建一个“隐形智能体”（subterranean agent）——应该能解决所有这些问题，且先前的研究（SimpleTOD、FireAct、SynTOD、WorkflowLLM、Agent Lumos）已经证实了该技术的可行性。然而，开发者的采纳态度却压倒性地偏向于编排框架。

我们识别出了三个普遍认知的障碍，并通过在机票酒店预订（14 个节点）、Zoom 技术支持（14 个节点，包含特定产品知识）以及保险理赔（55 个节点，6 个决策中心）三个场景中的实证研究，对它们逐一进行了解决。

原文链接：https://arxiv.org/abs/2605.22502