Seventy3

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

今天的主题是：AI & Human Co-Improvement for Safer Co-Superintelligence

Summary

自我提升（self-improvement）目前是人工智能领域备受关注的目标，但其充满风险，而且可能需要较长时间才能真正实现。我们主张，对于人类而言，更可实现且更有价值的目标是最大化共进化（co-improvement）：即人类研究者与 AI 系统协作，共同实现共超级智能（co-superintelligence）。

具体而言，这意味着专注于提升 AI 系统与人类研究者协同开展 AI 研究的能力，从创意构思到实验验证，实现人类与 AI 的联合研究。这样的合作不仅能够加速 AI 研究进程，还能通过人机共生，使 AI 与人类共同获得更安全的超级智能。

将人类研究能力提升纳入闭环协作，将使我们以更快、更安全的方式迈向这一目标。

原文链接：https://arxiv.org/abs/2512.05356

前往小宇宙评论区与主播互动

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

今天的主题是：

Adaptation of Agentic AI

Summary

前沿的智能体 AI 系统建立在基础模型（foundation models）之上，这些模型可以被适配用于规划、推理以及与外部工具交互，从而执行日益复杂和专业化的任务。随着这些系统能力与应用范围的不断扩展，**适配（adaptation）**成为提升性能、可靠性与泛化能力的核心机制。

本文将快速发展的相关研究整合为一个系统化框架，涵盖了**智能体适配（agent adaptations）与工具适配（tool adaptations）**两大方向。我们进一步将其细分为：

• 智能体适配：**工具执行信号驱动（tool-execution-signaled）与智能体输出信号驱动（agent-output-signaled）**两类；
• 工具适配：**与智能体无关（agent-agnostic）与智能体监督（agent-supervised）**两类。

我们展示了该框架如何帮助澄清智能体 AI 中适配策略的设计空间，使其权衡关系更加明确，并为系统设计过程中策略的选择或切换提供实用指导。随后，我们回顾了各类别的代表性方法，分析其优势与局限，并指出关键的未解决挑战及未来研究机会。

总体而言，本文旨在为研究人员与工程实践者提供概念基础与实践路线图，以构建更高效、可靠、能力更强的智能体 AI 系统。

原文链接：https://arxiv.org/abs/2512.16301

前往小宇宙评论区与主播互动

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

今天的主题是：

Towards a Science of Scaling Agent Systems

Summary

智能体（Agents）——即基于大语言模型、具备推理、规划与行动能力的系统——正逐渐成为现实世界 AI 应用的主流范式。尽管其应用日益广泛，但决定智能体系统性能的基本原理仍缺乏深入研究。为此，本文系统性地推导了智能体系统的定量化扩展规律（scaling principles）。

我们首先形式化定义了智能体评测（agentic evaluation），并将扩展规律刻画为智能体数量、协作结构、模型能力与任务属性之间的相互作用。我们在四个基准测试上进行了评估：Finance-Agent、BrowseComp-Plus、PlanCraft 和 Workbench。实验涵盖五种典型的智能体架构，包括单智能体（Single-Agent）以及四类多智能体系统（独立式、集中式、去中心化式和混合式），并在三类 LLM 家族上进行实例化，共构成 180 种受控配置。

基于协作相关的度量指标，我们构建了一个预测模型，其交叉验证 R2=0.524R2=0.524，能够对未见过的任务领域进行性能预测。研究识别出三种关键效应：

1. 工具—协作权衡效应：在计算预算固定的条件下，工具调用密集型任务在多智能体设置中会因协作开销而遭受不成比例的性能下降。
2. 能力饱和效应：当单智能体基线性能超过约 45% 时，引入协作所带来的收益会迅速递减，甚至转为负收益。
3. 依赖拓扑结构的误差放大效应：独立式智能体会将误差放大至 17.2 倍，而集中式协作可将误差放大效应抑制在 4.4 倍。

在可并行化任务中，集中式协作可将性能提升 80.8%；而在网页导航类任务中，去中心化协作表现更优（提升 9.2%，而集中式仅提升 0.2%）。相反，对于顺序推理任务，所有多智能体变体均导致性能下降，降幅介于 39% 至 70% 之间。

该框架能够为 87% 的留出配置准确预测最优协作策略。在 GPT-5.2 上进行的样本外验证取得了 MAE=0.071，并验证了五条扩展规律中的四条能够泛化至此前未见的前沿模型。这些结果为理解与设计高效的智能体系统提供了系统化、定量化的理论基础。

原文链接：https://arxiv.org/abs/2512.08296

前往小宇宙评论区与主播互动

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

今天的主题是：

STRATUS: A Multi-agent System for Autonomous Reliability Engineering of Modern Clouds

Summary

在云规模系统中，故障并非常态中的例外，而是常态本身。一个分布式计算集群往往会经历数百次机器故障和数千次磁盘故障，而软件缺陷与配置错误的发生频率更高。随着云系统规模的持续扩大，对自主化、由 AI 驱动的可靠性工程的需求日益迫切，因为现有的人在环（human-in-the-loop）运维方式已难以跟上现代云环境的复杂性与规模。

本文提出 STRATUS，一种基于大语言模型（LLM）的多智能体系统，用于实现云服务的自主站点可靠性工程（Site Reliability Engineering，SRE）。STRATUS 由多个具备专门职能的智能体组成（例如故障检测、故障诊断与故障缓解），并以状态机的形式进行组织，从而支持系统级的安全推理与执行约束。

我们形式化定义了智能体化 SRE 系统（如 STRATUS）中的一项关键安全规范——事务性无回退（Transactional No-Regression，TNR），该规范使系统能够在保证安全的前提下进行探索与迭代。实验结果表明，TNR 能够有效提升自主故障缓解的效果。

在 AIOpsLab 与 ITBench（两套 SRE 基准测试集）上的评测显示，STRATUS 在故障缓解问题的成功率方面显著优于当前最先进的 SRE 智能体系统：在多种模型设置下，其性能至少提升了 1.5 倍。上述结果表明，STRATUS 为智能体系统在云可靠性领域的实际部署提供了一条极具前景的路径。

原文链接：https://arxiv.org/abs/2506.02009

前往小宇宙评论区与主播互动

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

今天的主题是：

Multi-Agent Collaboration via Evolving Orchestration

Summary

大语言模型（Large Language Models，LLMs）在多种下游任务中取得了显著成果，但其单体式（monolithic）的架构限制了在复杂问题求解场景下的可扩展性与效率。尽管近期研究开始探索基于 LLM 的多智能体协作机制，但多数方法依赖静态的组织结构，难以随着任务复杂度和智能体数量的增长进行自适应调整，从而导致协调开销上升和整体效率下降。

为此，我们提出了一种 “提线木偶（puppeteer）”式的 LLM 多智能体协作范式。在该框架中，一个集中式的调度与控制器（“puppeteer”）会根据不断演化的任务状态，动态地指挥各个智能体（“puppets”）的执行顺序与优先级。该控制器通过强化学习进行训练，从而能够自适应地编排与调度智能体，实现灵活且可演化的集体推理过程。

在封闭域与开放域任务上的实验结果表明，该方法在降低计算成本的同时取得了更优的性能。进一步分析显示，性能提升的关键原因在于：随着控制器的演化，系统中逐步涌现出更加紧凑且具有循环结构的推理模式。相关代码已在文中给出的链接中公开。

原文链接：https://arxiv.org/abs/2505.19591

前往小宇宙评论区与主播互动

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

今天的主题是：

DeepSeek-V3.2: Pushing the Frontier of Open Large Language Models

Summary

我们提出 DeepSeek-V3.2，一款在高计算效率与卓越推理能力及智能体（agent）表现之间实现良好平衡的模型。DeepSeek-V3.2 的核心技术突破主要体现在以下三个方面：

1. DeepSeek 稀疏注意力（DeepSeek Sparse Attention，DSA）：我们提出了 DSA，一种高效的注意力机制，在长上下文场景下能够在保持模型性能的同时显著降低计算复杂度。
2. 可扩展的强化学习框架：通过构建稳健的强化学习流程并扩展后训练阶段的计算规模，DeepSeek-V3.2 的整体表现可与 GPT-5 相媲美。尤其值得注意的是，高算力版本 DeepSeek-V3.2-Speciale 不仅在整体性能上超越 GPT-5，其推理能力也达到了与 Gemini-3.0-Pro 相当的水平，并在 2025 年国际数学奥林匹克竞赛（IMO）和国际信息学奥林匹克竞赛（IOI）中均取得金牌级表现。
3. 大规模智能体任务合成流水线：为将推理能力有效融入工具使用场景，我们设计了一种全新的任务合成流水线，能够系统性地大规模生成训练数据。该方法支持可扩展的智能体后训练，在复杂交互环境中显著提升了模型的泛化能力与指令遵循的鲁棒性。

总体而言，DeepSeek-V3.2 通过在架构、训练范式与数据合成上的协同创新，实现了高效计算与高水平推理及智能体能力的统一。

原文链接：https://arxiv.org/abs/2512.02556

前往小宇宙评论区与主播互动

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

今天的主题是：

Evolution Strategies at the Hyperscale

Summary

我们提出 EGGROLL（Evolution Guided General Optimization via Low-rank Learning，基于低秩学习的进化引导通用优化），一种进化策略（Evolution Strategies，ES）算法，旨在将无需反向传播的优化方法扩展到适用于拥有数十亿参数的现代大型神经网络架构和超大规模种群规模。ES 是一类强大的黑盒优化方法，能够有效处理不可微或含噪目标函数，并可通过并行化实现良好的扩展性。

然而，朴素的 ES 在大规模场景下成本极高，其瓶颈主要来自生成矩阵扰动 E∈Rm×nE∈Rm×n 所需的计算与内存开销，以及为计算每个种群成员前向传播而进行的批量矩阵乘法。EGGROLL 通过生成随机矩阵 A∈Rm×rA∈Rm×r 与 B∈Rn×rB∈Rn×r（其中 r≪min⁡(m,n)r≪min(m,n)），并以低秩矩阵扰动 AB⊤AB⊤ 替代全秩扰动 EE，从而有效克服了上述瓶颈。

由于整体参数更新是对 NN 个工作节点的结果进行平均，最终得到的更新仍然具有较高秩，但在内存与计算开销上实现了显著节省：与全秩 ES 相比，每一层的辅助存储从 mnmn 降低至 r(m+n)r(m+n)，单次前向传播的计算复杂度也从 O(mn)O(mn) 降低至 O(r(m+n))O(r(m+n))。

理论分析表明，该低秩更新能够以快速的 O(1/r)O(1/r) 收敛速率逼近全秩更新。实验结果显示：（1）尽管速度更快，EGGROLL 在从零开始（tabula rasa）的强化学习设置中并未牺牲 ES 的性能；（2）在提升大语言模型推理能力方面，其表现可与 GRPO 相媲美；（3）EGGROLL 使得完全基于整数数据类型运行的非线性循环语言模型实现稳定的预训练成为可能。

原文链接：https://arxiv.org/abs/2511.16652

前往小宇宙评论区与主播互动

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

今天的主题是：

HunyuanOCR Technical Report

Summary

本文提出 HunyuanOCR，一款面向 OCR 任务的商用级、开源且轻量化（10 亿参数）视觉—语言模型（Vision-Language Model，VLM）。其架构由原生视觉 Transformer（ViT）与轻量级大语言模型（LLM）组成，并通过 MLP 适配器进行连接。HunyuanOCR 展现出卓越性能，全面超越商业 API、传统 OCR 流水线以及更大规模的模型（如 Qwen3-VL-4B）。在感知类任务（文本检测与识别、文本解析）上，其性能优于当前公开方案；在语义类任务（信息抽取、图像文本翻译）上同样表现突出，并在 ICDAR 2025 DIMT 挑战赛（小模型赛道）中获得第一名。此外，HunyuanOCR 在 OCRBench 上取得了参数规模小于 30 亿的 VLM 中的最优（SOTA）成绩。

HunyuanOCR 在以下三个关键方面实现了突破：

1. 通用性与效率的统一：在轻量化框架下，模型全面支持文本检测与识别、解析、信息抽取（IE）、视觉问答（VQA）以及翻译等核心能力，弥补了传统“专用 OCR 模型”能力单一以及“通用 VLM”效率低下的不足。
2. 简洁的端到端架构：采用纯端到端范式，消除了对版面分析等预处理模块的依赖，从根本上解决了传统流水线中常见的误差累积问题，并显著简化了系统部署。
3. 数据驱动与强化学习策略：验证了高质量数据在 OCR 任务中的关键作用，并首次在工业界证明，引入强化学习（Reinforcement Learning，RL）策略能够为 OCR 任务带来显著的性能提升。

HunyuanOCR 已在 HuggingFace 上正式开源。同时，我们提供了基于 vLLM 的高性能部署方案，使其在生产环境中的效率跻身业界第一梯队。我们期望该模型能够推动前沿研究的发展，并为工业级应用提供坚实基础。

原文链接：https://arxiv.org/abs/2511.19575

前往小宇宙评论区与主播互动

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

今天的主题是：

On the Fundamental Limits of LLMs at Scale

Summary

大语言模型（Large Language Models，LLMs）从规模化发展中获得了巨大的性能提升，但这些收益最终受到五个根本性限制的约束：（1）幻觉问题，（2）上下文压缩，（3）推理能力退化，（4）检索脆弱性，以及（5）多模态失配。尽管现有综述对这些现象进行了经验性描述，但尚缺乏将其与计算、信息与学习的基础极限相联系的严格理论综合。

本文通过提出一个统一的、以证明为支撑的理论框架，弥补了这一空白，系统刻画了 LLM 规模化所面临的内在理论上限。首先，可计算性与不可计算性理论表明，误差的存在不可消除：对于任何可枚举的模型族，基于对角化原理，总存在某些输入使得至少一个模型必然失败；而不可判定查询（如停机问题类型的任务）则会为所有可计算预测器诱导出无限的失败输入集合。

其次，信息论与统计学约束限定了即便在可判定任务上所能达到的最高精度；有限的描述长度不可避免地引入压缩误差，而对长尾事实性知识的学习则需要极其高昂的样本复杂度。再次，几何与计算层面的效应会使长上下文在实际表示中被压缩到远低于其名义长度的规模，其原因包括位置相关训练不足、编码衰减以及 softmax 拥挤效应。

此外，我们进一步表明，基于似然的训练目标更倾向于模式补全而非真正的推理；在 token 预算受限的条件下，检索过程容易受到语义漂移与耦合噪声的影响；而多模态规模化则继承了跨模态对齐较为浅层的问题。全文通过将形式化定理与经验证据相结合，系统勾勒出规模化在哪些方面能够持续带来收益、在哪些方面趋于饱和、以及在哪些方面无法再取得进展，并在此基础上提出了若干切实可行的缓解路径，例如受限预言机检索（bounded-oracle retrieval）、位置感知训练课程（positional curricula），以及稀疏或层级化注意力机制。

原文链接：https://arxiv.org/abs/2511.12869

前往小宇宙评论区与主播互动

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

今天的主题是：

Think, Speak, Decide: Language-Augmented Multi-Agent Reinforcement Learning for Economic Decision-Making

Summary

经济决策不仅依赖于价格、税收等结构化信号，还深受同伴交流与媒体叙事等非结构化语言信息的影响。尽管多智能体强化学习（Multi-Agent Reinforcement Learning，MARL）在优化经济决策方面展现出潜力，但其在处理语言所固有的语义歧义性和上下文丰富性方面仍面临显著挑战。

我们提出 LAMP（Language-Augmented Multi-Agent Policy，语言增强型多智能体策略） 框架，将语言系统性地融入经济决策过程，从而缩小与真实世界场景之间的差距。LAMP 采用 Think–Speak–Decide（思考–表达–决策） 的流水线式架构：

1. Think（思考）：对数值型观测进行解释，提取短期冲击与长期趋势，并缓存高价值的推理轨迹；
2. Speak（表达）：基于推理结果生成并交换策略性语言信息，通过解析同伴通信来更新自身信念；
3. Decide（决策）：将数值数据、推理过程及反思信息进行融合，形成 MARL 策略，以优化语言增强条件下的决策行为。

在经济仿真实验中，LAMP 在多项指标上均显著优于传统 MARL 方法和仅依赖大语言模型（LLM-only）的基线方法，包括累计回报（分别提升 63.5% 与 34.0%）、鲁棒性（分别提升 18.8% 与 59.4%）以及可解释性。这些结果表明，语言增强型策略在构建更加高效且稳健的经济决策方案方面具有显著潜力。

原文链接：https://arxiv.org/abs/2511.12876

前往小宇宙评论区与主播互动