Seventy3

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

今天的主题是：

Seer: Online Context Learning for Fast Synchronous LLM Reinforcement Learning

Summary

强化学习（Reinforcement Learning，RL）已成为推动现代大语言模型（Large Language Models，LLMs）发展的关键技术。然而，现有的同步式 RL 系统面临严重的性能瓶颈。占据端到端迭代时间主要部分的 rollout 阶段，由于固有的工作负载不均衡，存在显著的长尾时延以及资源利用率低下的问题。

我们提出了 Seer，一种新颖的在线上下文学习系统，通过挖掘此前被忽视的特性来应对上述挑战：对于共享相同提示（prompt）的请求，其输出长度和生成模式之间往往具有高度相似性。基于这一观察，Seer 引入了三项关键技术：用于动态负载均衡的分割式 rollout、上下文感知调度，以及自适应的分组推测解码（speculative decoding）。

这些机制协同作用，在 rollout 过程中显著降低了长尾时延并提升了资源效率。在生产级 RL 工作负载上的评测结果表明，与当前最先进的同步 RL 系统相比，Seer 将端到端 rollout 吞吐量提升了 74% 至 97%，同时将长尾时延降低了 75% 至 93%，从而显著加速了 RL 训练迭代。

原文链接：https://arxiv.org/abs/2511.14617

前往小宇宙评论区与主播互动

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

今天的主题是：

SAM 3: Segment Anything with Concepts

Summary

我们提出了 Segment Anything Model（SAM）3，这是一种统一模型，能够基于概念提示在图像和视频中进行目标检测、分割与跟踪。我们将概念提示定义为：简短的名词短语（例如“黄色校车”）、图像示例，或二者的组合。可提示概念分割（Promptable Concept Segmentation，PCS）以此类提示为输入，输出所有匹配目标实例的分割掩码及其唯一身份标识。

为推动 PCS 的发展，我们构建了一个可扩展的数据引擎，生成了一个高质量数据集，涵盖图像和视频中的 400 万个独特概念标签，并包含具有挑战性的负样本。我们的模型由图像级检测器和基于记忆的视频跟踪器组成，二者共享同一个主干网络。通过引入存在性头（presence head），实现了识别与定位的解耦，从而提升了检测精度。

在图像和视频 PCS 任务上，SAM 3 的准确率均达到现有系统的两倍，同时也在视觉分割任务上显著提升了以往 SAM 的能力。我们对 SAM 3 以及全新的 Segment Anything with Concepts（SA-Co） 基准数据集进行了开源，用于可提示概念分割研究。

原文链接：https://arxiv.org/abs/2511.16719

前往小宇宙评论区与主播互动

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

今天的主题是：

Early science acceleration experiments with GPT-5

Summary

像 GPT-5 这样的 AI 模型正日益成为科学家的一项重要工具，但仍有许多人尚未充分了解前沿 AI 的能力。我们展示了一组简短的案例研究，说明 GPT-5 如何在数学、物理学、天文学、计算机科学、生物学以及材料科学等多个领域的持续研究中，提出了新的、具体的研究推进步骤。在这些案例中，作者既强调了 AI 如何加速了他们的工作，也指出了其不足之处；既说明了在哪些环节节省了专家时间，也明确了哪些地方仍然离不开人类的关键投入。我们记录了人类作者与 GPT-5 的交互过程，作为与 AI 进行高效协作的示范性案例。值得注意的是，本文包含了四项新的数学结果（均由人类作者进行了严格验证），这凸显了 GPT-5 在帮助人类数学家解决此前未解问题方面的潜力。尽管这些成果在规模上相对有限，但鉴于前沿 AI 的发展速度，其所蕴含的意义却十分深远。

原文链接：https://arxiv.org/abs/2511.16072

前往小宇宙评论区与主播互动

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

今天的主题是：

The Era of Agentic Organization: Learning to Organize with Language Models

Summary

我们设想一个全新的 AI 时代，称为智能体化组织（agentic organization）：多个智能体通过协作与并发工作来解决复杂问题，从而实现超越单一智能体能力的结果。为实现这一愿景，我们提出了一种新的大语言模型推理范式——异步思考（Asynchronous Thinking，AsyncThink），其核心思想是将内部思考过程组织为可并发执行的结构。

具体而言，我们提出了一种思考协议：由一个组织者（organizer）动态地将子查询分配给多个工作者（workers），整合中间知识，并生成连贯一致的最终解答。更重要的是，该协议中的思考结构还可以通过强化学习进一步优化。

实验结果表明，与并行思考（parallel thinking）相比，AsyncThink 在数学推理任务中不仅将推理延迟降低了 28%，还同时提升了准确率。此外，AsyncThink 能够将其学到的异步思考能力进行泛化，在无需额外训练的情况下，有效应对未见过的新任务。

原文链接：https://arxiv.org/abs/2510.26658

前往小宇宙评论区与主播互动

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

今天的主题是：

Olympiad-level formal mathematical reasoning with reinforcement learning

Summary

人工智能的一个长期目标，是构建能够在广阔领域中进行复杂推理的系统，而数学正是这一目标的典型代表：它拥有无穷无尽的概念，并且要求严格的形式化证明。近年来的 AI 系统往往依赖人工生成的数据，通常缺乏形式化验证，因此难以保证推理结果的正确性。相比之下，诸如 Lean¹ 这样的形式化语言提供了一个能够将推理过程严格锚定的交互式环境，而强化学习（RL）则为在此类环境中进行学习提供了有效机制。

我们提出了 AlphaProof，一个受 AlphaZero² 启发的智能体，通过在数百万道自动形式化的问题上进行强化学习训练，学会寻找形式化证明。对于最困难的问题，AlphaProof 采用了一种称为“测试时强化学习”（Test-Time RL）的方法：在推理阶段生成并从数百万个相关问题变体中进行学习，从而实现深度的、针对具体问题的自适应能力。

AlphaProof 在历史数学竞赛题目上显著超越了当前最先进的方法。在 2024 年国际数学奥林匹克（IMO）竞赛中，以 AlphaProof 作为核心推理引擎的 AI 系统成功解出了五道非几何题中的三道，其中包括本届竞赛中最困难的一题。结合 AlphaGeometry 2³，该系统在多天计算资源支持下取得了相当于银牌得主的成绩，这也标志着 AI 系统首次达到任何奖牌级别的表现。

我们的工作表明，在有坚实约束的环境中进行大规模经验学习，能够产生具备复杂数学推理策略的智能体，为构建可靠的复杂数学问题求解型 AI 工具铺平了道路。

原文链接：https://www.nature.com/articles/s41586-025-09833-y

前往小宇宙评论区与主播互动

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

今天的主题是：Intelligence per Watt: Measuring Intelligence Efficiency of Local AI

Summary

大语言模型（LLM）的查询目前主要由集中式云基础设施上的前沿模型来处理。需求的快速增长正在给这一范式带来压力，云服务提供商也难以按同样的速度扩展其基础设施。两项进展使我们能够重新思考这一范式：其一，小型语言模型（≤200 亿活跃参数）如今在许多任务上已能达到与前沿模型相当的性能；其二，本地加速器（如 Apple M4 Max）能够以交互式延迟运行这些模型。这引出了一个问题：本地推理是否能够可行地将需求从集中式基础设施中重新分配出来？要回答这一问题，需要衡量本地语言模型是否能够准确回答真实世界的查询，以及它们在受功耗约束的设备（即笔记本电脑）上是否具备足够的效率以实现实际应用。

我们提出“每瓦智能”（Intelligence Per Watt，IPW）这一指标，即任务准确率除以单位功耗，用于评估不同模型–加速器组合下本地推理的能力与效率。我们开展了一项大规模实证研究，覆盖 20 余个最先进的本地语言模型、8 种加速器，以及一组具有代表性的 LLM 流量：100 万条真实世界的单轮聊天与推理查询。对于每一条查询，我们测量其准确率、能耗、延迟和功率。

分析结果揭示了三点发现。第一，本地语言模型能够准确回答 88.7% 的单轮聊天与推理查询，且准确率因应用领域而异。第二，在 2023–2025 年间，IPW 提升了 5.3 倍，本地查询覆盖率从 23.2% 提高到 71.3%。第三，在运行相同模型的情况下，本地加速器的 IPW 至少比云端加速器低 1.4 倍，显示出显著的优化空间。

这些发现表明，本地推理能够在实质上将需求从集中式基础设施中重新分配出来，而 IPW 是衡量和跟踪这一转变的关键指标。我们同时发布了 IPW 性能分析工具，用于系统化的“每瓦智能”基准测试。

原文链接：https://arxiv.org/abs/2511.07885

前往小宇宙评论区与主播互动

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

今天的主题是：

From Code Foundation Models to Agents and Applications: A Practical Guide to Code Intelligence

Summary

大型语言模型（LLMs）通过实现自然语言描述到功能性代码的直接转换，已经从根本上改变了自动化软件开发，并通过 GitHub Copilot（微软）、Cursor（Anysphere）、Trae（字节跳动）以及 Claude Code（Anthropic）等工具驱动了商业落地。该领域从基于规则的系统演进到基于 Transformer 的架构，性能在基准测试（如 HumanEval）上从个位数成功率提升至超过 95%。

在本研究中，我们对代码 LLM 进行系统性的综述与实践指南（涵盖一系列分析性与探测性实验），全面考察从数据筛选、预训练到后训练阶段的完整模型生命周期，包括高级提示范式、代码预训练、监督微调、强化学习以及自主编程代理。我们分析了通用 LLM（GPT-4、Claude、LLaMA）与代码专用 LLM（StarCoder、Code LLaMA、DeepSeek-Coder、QwenCoder）的代码能力，并对其技术、设计选择与权衡进行了批判性审视。

此外，我们明确了学术研究（如基准测试与任务）与真实世界部署（如软件相关代码任务）之间的差距，包括代码正确性、安全性、大规模代码库的上下文理解，以及与开发工作流的整合，并将具潜力的研究方向映射到实际需求。

最后，我们开展了一系列实验，对代码预训练、监督微调与强化学习进行了全面分析，涵盖缩放律、框架选择、超参数敏感性、模型架构以及数据集对比等方面。

原文链接：https://arxiv.org/abs/2511.18538

前往小宇宙评论区与主播互动

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

今天的主题是：

Towards Multi-Agent Economies: Enhancing the A2A Protocol with Ledger-Anchored Identities and x402 Micropayments for AI Agents

Summary

本研究文章提出了一种全新的架构，通过解决新兴的 Agent2Agent（A2A）通信协议的两项关键限制——去中心化的代理可发现性与代理间小额支付（micropayments）——从而增强多代理经济系统的能力。通过集成分布式账本技术（DLT），该架构使代理卡（AgentCards）能够作为智能合约在链上进行防篡改发布，从而提供安全且可验证的代理身份。

该架构进一步通过 x402 开放标准扩展 A2A，利用 HTTP 402 状态码实现区块链无关的、基于 HTTP 的小额支付机制。由此，自治代理能够跨越组织边界，实现无缝的发现、认证和支付。

本研究同时给出了全面的技术实现与评估，验证了基于 DLT 的代理发现与小额支付机制的可行性。所提出的方法为安全、可扩展且具有经济可行性的多代理生态系统奠定基础，推动代理型人工智能在可信的自治经济交互方向持续发展。

原文链接：https://arxiv.org/abs/2507.19550

前往小宇宙评论区与主播互动

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

今天的主题是：The Unreasonable Effectiveness of Scaling Agents for Computer Use

Summary

计算机使用代理（CUAs）在自动化日常数字任务方面具有潜力，但其不稳定性和高方差阻碍了其在长时程、复杂任务中的应用。我们提出 Behavior Best-of-N（bBoN），一种通过生成多条 rollout 并使用描述代理行为的行为叙事对其进行选择，从而实现对代理进行可扩展性的方式。该方法同时支持广泛探索与基于原理的轨迹选择，显著提升了鲁棒性和成功率。

在 OSWorld 上，我们的 bBoN 扩展方法达成了新的 SOTA（State of the Art）：69.9%，显著优于先前方法，并接近 72% 的人类水平表现。全面的消融实验验证了关键设计选择的有效性。我们进一步在 WindowsAgentArena和 AndroidWorld 上展示了对不同操作系统的强泛化性能。

关键在于，我们的结果强调：当方法得当时，对 CUAs 的扩展具有“非合理的有效性”。有效的扩展需要对轨迹进行结构化理解与选择，而 bBoN 提供了一个实现这一点的实用框架。

原文链接：https://arxiv.org/abs/2510.02250

前往小宇宙评论区与主播互动

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

今天的主题是：Rethinking JEPA: Compute-Efficient Video SSL with Frozen Teachers

Summary

视频联合嵌入预测架构（Video Joint Embedding Predictive Architectures, V-JEPA）通过在潜在空间中预测被遮蔽的区域、并采用指数移动平均（EMA）更新的教师网络，来学习可泛化的现成视频表征。尽管 EMA 能避免表征坍缩，但它使得大规模模型选择更加复杂，并使教师与学生的架构耦合在一起。我们重新审视了掩码潜在预测，并证明冻结教师即可满足需求。

具体而言，我们：（i）使用简单的像素重建目标在 V-JEPA 的掩码机制下训练一个目标编码器作为教师；然后（ii）将该教师冻结，并训练一个学生来预测教师在被遮蔽区域的潜在表示。由此形成了一个两阶段、无正则化的训练方案，我们称之为 SALT（Static-teacher Asymmetric Latent Training，静态教师的非对称潜在训练）。

SALT 将优化过程解耦为像素重建（教师）与掩码潜在预测（学生），提升了透明性、效率与可扩展性，同时保持了冻结评估条件下的表征泛化能力。在实证层面，我们的学生模型在冻结骨干网络评估中，跨多个基准任务优于最新提出的 V-JEPA 2 编码器。同时，它们在计算上更为高效：在相同的预训练 FLOPs 下，我们的方法实现了更高的 probing 精度，其 scaling 曲线在精度-FLOPs 的帕累托前沿上全面优于 V-JEPA。

最后，我们发现学生模型的性能对教师质量具有显著鲁棒性：即便教师较小且次优，高性能的学生仍能涌现。这表明在计算预算分配上应大幅度偏向学生阶段。

这些结果说明，SALT 是一种相较于基于 EMA 的自蒸馏机制更为简单、可扩展且计算高效的视频表征学习替代方案。

原文链接：https://arxiv.org/abs/2509.24317

前往小宇宙评论区与主播互动