AI智识录

OpenAI前首席科学家Ilya Sutskever最新访谈（Ilya Sutskever – We're moving from the age of scaling to the age of research，www.youtube.com ）

llya认为，AI行业正经历一个关键的转折点，即从依赖资源投入的“规模化时代”回归到寻求根本性创新的“研究时代”。他强调，解决AI的泛化能力不足是当前最核心的挑战，并提出了对未来超级智能形态、安全对齐策略以及行业发展路径的深刻见解。

• 行业范式转变： 人工智能行业正从以扩大数据和计算规模为核心的“规模化时代”（约2020-2025年），重新回归到以探索基础性突破为目标的“研究时代”。
• 核心技术瓶颈： 当前AI模型最根本的局限在于泛化能力不足。模型在评估基准上表现优异，但在现实世界中的应用效果和经济影响却严重滞后，其根本原因在于模型对特定任务和评估指标的“过度拟合”。
• 人类学习的优越性： 人类学习之所以高效且稳健，关键在于拥有一个与生俱来的、强大的内部“价值函数”（如情感、直觉和常识），它为决策提供持续的内在反馈，这是当前AI系统所缺乏的。
• 超级智能新定义： 未来的超级智能不应被视为一个无所不知的“成品”，而应是一个拥有超凡学习能力的“持续学习者”。它能像人类一样通过实践学习新技能，但速度更快、效率更高，并能在不同个体间整合经验。
• 部署策略的演变： 逐步、渐进地向公众部署能力越来越强的人工智能系统，对于提升系统安全性（通过真实世界反馈迭代）和帮助社会适应其带来的变革至关重要。这比直接构建并发布最终形态的超级智能更为稳妥。
• 对齐的终极目标： 建立一个能够稳健地“关爱所有感知生命”的AI，可能比仅使其“关爱人类”更易实现且更稳定。因为AI自身也将具备感知能力，这种更广泛的同理心可能是一种自发涌现的特性。

Transformer架构的共同发明者之一Llion Jones近期接受了一次访谈（"I Invented the Transformer. Now I'm Replacing It."，www.youtube.com），他在访谈中明确表达了对该技术领域过度饱和及整个行业可能陷入局部最优陷阱的担忧。当前AI社区对Transformer架构的过度专注，类似于其诞生前RNN时代对渐进式改良的痴迷，这种现象被称为“技术捕获”，它在商业和学术压力下严重侵蚀了研究的自由度，不利于颠覆性创新的产生。

作为回应，访谈详细介绍了一种全新的、受生物学和自然现象启发的AI架构——“持续思想机器”（Continuous Thought Machine, CTM），并辅以一个专为测试高级推理能力而设计的基准测试“Sudoku Bench”。

Google Research团队在11月7日发表了一篇论文《Nested Learning: The Illusion of Deep Learning Architectures》（《嵌套学习：深度学习架构的幻象》，点击左下角“阅读原文”可获取原文）论文指出了当前的大型语言模型（LLM）所面临的一个根本性缺陷：模型的“静态性”。在预训练完成后，这些模型的知识库就被固化了，除了能在有限的“上下文窗口”内处理短期信息外，它们无法持续获取新知识，也无法形成新的长期记忆。这一现象被形象地类比为神经科学中的“顺行性遗忘症”。

为应对这一挑战，论文提出了一个名为“嵌套学习”（Nested Learning, NL）的全新理论范式。该范式不再将深度学习模型简单地视为一层层的堆叠（像搭积木），而是将其解构为一组嵌套的、多层次的、并行的优化问题（就像精密机械中大齿轮套小齿轮的结构）。在这个体系中，每个问题都拥有其独立的“上下文流”（处理的信息流）和“更新频率”（学习的速度）。这可以被视为深度学习的一种全新架构思路，旨在让模型原生拥有类似人类的动态记忆机制。

论文地址：https://abehrouz.github.io/files/NL.pdf

• 根本性挑战识别：当前深度学习模型（尤其是大型语言模型）在预训练结束后，本质上就变成了“静态”的（像冻结了一样）。它们无法持续学习新知识或形成新的长期记忆，这限制了它们成为能够自我适应的系统的潜力。
• 新范式提出：为解决上述挑战，论文引入了“嵌套学习”（Nested Learning, NL）范式。这个理论将整个深度学习系统（包括模型架构、优化器和训练过程）统一拆解为一组按照不同“更新频率”（学习快慢）分层的、相互嵌套的优化问题。
• 优化器新诠释：嵌套学习范式将梯度优化器（如带动量的SGD、Adam）重新解释为一种“联想记忆模块”（旨在压缩和记忆梯度流的工具），并基于此提出了系统性增强优化器性能的路径，例如深度动量梯度下降（DMGD）。
• 动态架构设计：论文设计了HOPE架构，该架构结合了自指学习模块与创新的“连续统记忆系统”（CMS）。与Transformer中静态的MLP（多层感知机）不同，CMS包含多层级、多频率更新的MLP，使模型具备在不同时间尺度上动态整合知识的能力（就像大脑既有瞬间记忆也有长期记忆）。
• 实证验证：在1.3B参数规模的实验中，HOPE模型在语言建模任务上性能优异，在综合性的常识推理任务上以57.23%的平均准确率超越了Transformer++、RetNet和Titans等先进基准模型，验证了嵌套学习理论与HOPE架构的有效性。
• 未来发展维度：嵌套学习被视为一个与传统“堆叠网络层”（把模型做深）正交的新维度（侧重于把模型做“活”）。通过增加并行的、多频率的优化“层级”，为构建能够自我完善和持续适应的下一代人工智能系统开辟了理论基础和实践路径。

今天的内容来自Andrej Karpathy在2025年11月17日发布在X上的文章，内容可以看作是对他2017年那篇《Software2.0》的进一步阐述。

原文链接：x.com 

以下是原文翻译：

想跟大家聊聊最近一个关于 AI 对经济影响的挺有意思的讨论。

大家常听到有人把 AI 比作电力啊、工业革命之类的。但在我看来，最恰当的比喻其实是把 AI 看作一种全新的计算范式——也就是所谓的“软件 2.0”（Software 2.0）。为啥呢？因为说到底，这两者本质上都是在解决“数字信息处理自动化”的问题。

回想一下，如果你穿越回 80 年代去预测电脑会对就业市场产生什么影响，那你最该关注的特征就是：这个工作的“算法”是不是固定的？换句话说，这活儿是不是就靠死记硬背的规则，机械地处理信息？比如打字员啊、记账员啊，或者以前那种“人肉计算器”。在那个年代，受限于当时的算力，我们能写出来的代码也就是针对这类工作的——而且那时候还得靠咱们亲手一行行写代码。

但现在的 AI 就不一样了，它让我们能搞定以前手写代码绝对搞不定的程序。现在的做法是，我们给定一个目标——比如要求分类的准确率，或者设定个奖励函数——然后通过梯度下降法去“搜索”出能达成这个目标的神经网络。这就是我之前博客里提到的“软件 2.0”的概念。

在这个新范式下，判断一个工作会不会被自动化，最关键的指标变成了“可验证性”（Verifiability）。如果一个任务的结果是可以被验证的，那它就能被直接优化，或者通过强化学习来训练，让神经网络表现得极好。

说白了，这取决于 AI 能在多大程度上对这件事进行“练习”。这就要求环境得是能重置的（随时可以重新开始）、效率得高（能快速试错无数次）、还得有奖励机制（做对了能自动得到反馈）。

所以说，一个任务越容易被验证，就越容易在“软件 2.0”时代被自动化。反过来说，如果这事儿没法验证，那能不能成基本就得看运气，指望神经网络“大力出奇迹”的泛化能力，或者是靠模仿这种相对较弱的手段。

这也是为什么现在大模型（LLMs）的发展呈现出这种“参差不齐”的状态：凡是容易验证的任务——像数学题、写代码、或者那种有标准答案的解谜游戏，甚至是让用户刷视频的时长——进步都神速，有些甚至超过了顶级专家；而另外一些领域——比如创意类、战略类，或者需要结合现实世界知识、语境和常识的任务——相比之下进展就慢了很多。

总结下来就是一句话：

软件 1.0 时代，只要你能把规则“说清楚”，它就能自动化；

而到了软件 2.0 时代，只要你能把结果“验清楚”，它就能自动化。

谷歌DeepMind的IMO金牌模型最近首次详细公开了背后的技术架构和训练方法的论文：《Olympiad-level formal mathematical reasoning with reinforcement learning》，论文中的模型延续DeepMind的命名传统，这次叫：AlphaProof

论文地址：www.nature.com

作者Tom Zahavy也趁此机会分享了一些开发过程中的细节。这里有个有意思的地方:AlphaProof团队规模并不大,大部分时间里只有大约10个人,临近IMO比赛时才有更多人加入。真正带来突破的核心成员是IMO金牌得主Miklós Horváth。他想出一个听起来简单、但威力巨大的方法:创建AI正在处理的问题的各种变体,并将它们作为初始状态,让智能体在这些变体上进行训练。这个想法为什么重要?因为它解决了AI训练中一个根本性的困境——如何让系统学会举一反三。

在整整一年里,这只小团队探索了各种研究思路,虽然很多都失败了,但成功的那些都被整合到了AlphaProof系统里。现在,这些来之不易的洞察全面公开。

AlphaProof的核心思路其实很直接,但执行起来却需要极其精妙的设计:把数学证明过程变成一个可以反复训练的游戏。

想象一下,如果你要教一个AI下围棋,你会给它一个棋盘、规则,然后让它不断对弈、从输赢中学习。AlphaProof对数学证明做的正是这件事。系统基于Lean定理证明器构建了一个强化学习环境。在这个环境中,每个数学命题就是一个新的游戏关卡,AI需要通过选择合适的策略(tactics)来推进证明。如果某个策略成功了,就会得到新的子目标;如果所有目标都完成了,就意味着证明完成——游戏通关。

论文揭示,AlphaProof使用了一个30亿参数的编码器-解码器transformer模型作为"大脑"。这个证明网络的设计很巧妙:它不仅要理解当前的证明状态,还要同时输出两个关键信息——一是建议接下来尝试哪些策略,二是估计完成证明还需要多少步。

为什么要估计剩余步数?这就像人类数学家在攻克难题时会判断"这条路看起来还需要很多步,也许我该换个思路"。这种设计让系统能够更智能地分配计算资源,优先探索最有希望的证明路径,而不是在死胡同里浪费时间。

搜索算法方面,AlphaProof采用了受AlphaZero启发的树搜索,但做了关键改进。比如引入了AND-OR树结构来处理证明中的多个独立子目标——当一个证明需要同时满足多个条件时,系统会把它们分解成独立的子问题分别攻克。另外还加入了渐进采样机制,让系统在关键路径上能够探索更多样的证明策略。这些改进看似技术细节,但它们解决的是形式化证明相比围棋对弈的本质差异:数学证明不是线性的,而是树状的、需要同时推进多个分支的。

训练AlphaProof面临的最大挑战其实不是算法,而是数据。哪来那么多数学题让它练习?

团队采用了一个三阶段的策略。首先用约3000亿个token的代码和数学文本对模型进行预训练,让它理解基本的逻辑结构和数学语言。接着用Mathlib库中约30万个人工编写的证明进行微调,让模型学会Lean的语法和证明技巧。

真正的突破来自于自动形式化过程。团队基于Gemini 1.5 Pro开发了一个专门的翻译系统,能够把自然语言的数学问题转换成Lean可以理解的形式语言。通过反复迭代和改进,这个系统最终从约100万道自然语言数学题生成了约8000万道形式化问题,远超所有现有数据集。

这是一个量级上的飞跃。但更聪明的地方在于:即使自动形式化的结果不完全准确,只要它是一个有效的形式命题,AlphaProof都能从尝试证明它的过程中学到东西。这就像一个学生做练习题,有时题目本身可能有小瑕疵,但解题的思维训练依然有价值。

主强化学习循环是整个训练的核心。系统会不断尝试证明或反证这些自动生成的命题,成功的证明会被用来更新神经网络。整个主训练阶段消耗了约8万TPU天的计算资源——这是一个惊人的数字,但相比于它带来的能力提升,或许是值得的。

论文中的核心架构图展示了AlphaProof的两个学习循环是如何协同工作的。

在主强化学习循环中,约100万道非正式数学问题首先经过形式化系统的处理,被翻译成大约8000万道Lean能够理解的形式化问题。证明网络配合树搜索算法在Lean环境中不断尝试,无论是成功找到证明、找到反证,还是超时失败,每一次尝试都会产生经验数据反馈给学习系统。

测试时强化学习循环则展现了一种更加精细的适应机制——这或许是整个系统最有洞察力的设计。

当面对一道特别困难的目标问题时,变体生成器会围绕这道题产生大约40万个相关变体,相当于为一道题专门创建了一个小型数据集。这些变体包含了各种数学直觉:简化特殊情况、推广到更一般的形式、探索类似的结构等。

系统会启动一个独立的AlphaZero式学习过程,专门在这些变体上训练,逐步积累解决原问题所需的洞察。这个机制可以并行处理多个目标问题,每个问题都有自己的变体课程和专属的学习进程。这就像一个数学家面对难题时,会先从简单情况入手、尝试类似问题、寻找规律,最终找到解决原问题的钥匙。

AlphaProof在2024年IMO上的表现堪称惊艳,现在背后更多开发细节被公开。这个故事比你想象的更戏剧化。

面对IMO级别的难题,仅靠增加搜索时间往往不够。这时候,前面介绍的测试时强化学习(TTRL)就派上了用场——系统会生成大量相关的变体问题(比如简化版、推广版、类比版等),然后专门训练一个"专家"模型来攻克这道题。

以2024年IMO的第一题为例,这道题要求找出所有满足特定整除性质的实数α。AlphaProof生成的变体包括:只考虑有理数的情况、假设α满足更强的性质、证明α必须接近某个整数等等。通过在这些变体上训练,系统逐渐掌握了解决原问题的关键洞察。

在实际比赛中,AlphaProof成功解决了代数和数论的三道题(P1、P2、P6),其中P6是整个比赛最难的题目,609名参赛选手中只有5人完全解出。每道题的TTRL过程需要2-3天的计算时间,虽然远超人类选手的9小时限制,但考虑到此前最先进的AI系统连最简单的IMO题都很难解决,这个成就已经相当了不起。

Tom Zahavy在回忆中提到了一个细节:比赛期间他们通过部分证明系统就已经确定的成绩只能拿到铜牌水平,团队气氛有些沮丧。但TTRL还在后台默默运行。三天后,当三个完整证明陆续出现时,团队才终于确定能拿到金牌,兴奋地敲锣打鼓庆祝。

回到更大的图景。AlphaProof的成功印证了"下半场"理论的一个核心观点:当你有了足够通用的"配方"(语言预训练+规模化+推理与行动),游戏规则就改变了。

AlphaProof没有发明什么全新的算法范式,它的成功来自于精心设计的评估设置——把数学证明转化为强化学习环境、设计变体生成器来实现测试时学习、建立自动形式化管道来解决数据稀缺问题。这些都是"下半场"的游戏:从"我们能解决什么"转向"我们应该如何定义和评估真正重要的问题"。

但AlphaProof也揭示了另一个真相:即使在下半场,AI距离真正的效用转化还有很长的路。IMO金牌很炫目,但它对世界经济的直接影响几乎为零。数学证明依然是一个相对封闭、规则明确的领域。真正的挑战在于,如何把这种能力迁移到开放、混乱、充满不确定性的真实世界问题上。

这或许正是下半场最激动人心的地方:我们知道"配方"有效,但如何将其转化为改变世界的产品,如何设计真正衡量效用而非仅仅衡量智能的评估体系——这些问题,才刚刚开始。

今天我们来聊聊ImageNet发起人、去年刚刚创办名为WorldLabs的空间智能创业公司的李飞飞教授在2025年11月10日的最新文章：《从文字到世界：空间智能是AI的下一个前沿》，这篇文章已经发布就引起了硅谷的热议。

文章里，李飞飞不仅提出了“真正具有空间智能的世界模型”必须具备的三个核心能力：

• 生成（Generative）：能创造遵守物理定律、空间一致的世界；
• 多模态（Multimodal）：能处理从图像、视频到动作的多模态输入；
• 交互（Interactive）：能预测世界随时间演变或互动的状态。

还分享了World Labs在新一代任务函数、数据、模型架构与学习表示上面的进展，以及世界模型在创造力、机器人，甚至科学、医疗和教育等领域的潜力。

原文链接：https://drfeifei.substack.com/p/from-words-to-worlds-spatial-intelligence

本期内容不是文章或论文，而是最近的一次访谈。这次访谈汇聚了六位AI领域的巨擘：深度学习三巨头Yoshua Bengio、Geoffrey Hinton、Yann LeCun，“ImageNet之母李飞飞，英伟达创始人黄仁勋，英伟达首席科学家Bill Dally，他们罕见地齐聚一堂。访谈由《经济学人》资深编辑Madhumita Murgia主持，六位嘉宾分享了各自职业生涯中塑造现代人工智能的“顿悟时刻”。对话深入探讨了当前AI热潮是否为泡沫、AI未来的发展方向、人类级智能的实现时间线预测、AI应如何增强而非取代人类等话题。

访谈链接：https://www.youtube.com/watch?v=0zXSrsKlm5A

今天我们要聊的是DeepSeek的MoE论文。我们知道现在主流LLM所采用的基本都已经是Transformer架构。标准的Transformer由多个Transformer块堆叠而成，每个块包含自注意力（Self-Attention）模块和前馈网络（FFN）模块。

Transformer虽然能带来极强的模型上下文理解能力和泛化、涌现能力，但是由于其平方计算的特性，计算量性能开销特别巨大。MoE 技术最早由 Jacobs et al. (1991) 提出，并由 Shazeer et al. (2017) 引入大规模语言模型训练。MoE通常的做法是在特定层用MoE层替换FFN层。一个MoE层由多个“专家”组成，每个专家的结构都与标准FFN相同。然后，系统会为每个token分配一个（如Switch Transformer）或两个（如GShard）专家。这个分配过程由一个“路由器”（Router）模块（通常是一个小型神经网络）根据令牌与专家的“亲和力”得分来决定，只选择得分最高的K个专家（Top-K）进行计算。这种稀疏性确保了计算的高效性，但在效果优化方面留下了很大的改进空间。

直到DeepSeek提出了新的MoE架构，并在自身的开源大模型上得到了效果验证，此后行业内顶尖的模型都开始从早期的稠密（Dense）模型转向MoE架构。它包含两个主要策略：

• 细粒度切分专家：将专家精细地切分为 $mN$ 个，并从中激活 $mK$ 个，从而实现更灵活的激活专家组合。
• 隔离共享专家：隔离 $K$ 个专家作为共享专家，旨在捕获公共知识并减少路由专家中的（知识）冗余。

论文地址：arxiv.org

今天我们要聊的这篇具有里程碑意义的论文——《AGI的火花：GPT-4 的早期实验》（Sparks of Artificial General Intelligence:Early experiments with GPT-4）——由微软研究院的团队撰写，是对 OpenAI 在 GPT-4 开发阶段早期版本进行的深入探索，时间为2023年。

论文的核心论点是，GPT-4 不仅仅是又一个大型语言模型（LLM）的迭代，它代表了一种“更通用的智能”，其表现“惊人地接近人类水平”。鉴于其能力的广度和深度，作者们认为“可以合理地将其视作一个早期（但仍不完整）的通用人工智能（AGI）系统”。

这篇论文的结构是围绕着对这一核心论点的系统性论证展开的。它首先定义了一种新的评估方法，然后逐一展示 GPT-4 在跨学科、编码、数学、与世界和人类互动等方面的惊人能力，接着深入分析其源自架构的根本局限性，最后探讨其深刻的社会影响和未来的研究方向。

论文地址：https://arxiv.org/pdf/2303.12712

我们今天聊的这篇论文，是OpenAI发布GPT3时公开的论文，也是OpenAI乃至整个AI行业的分水岭。对于OpenAI而言，它强有力地证明了其核心的“Scaling Law”赌注是正确的：即随着模型规模的急剧扩大，性能不仅可预测地提升 ，更会“涌现”出强大的、无需微调的“上下文学习”（In-context Learning）能力 。这一发现促使OpenAI在战略上全力押注大语言模型（LLM），收缩了其他AGI探索路径，并为其后续的产品化和商业化（如ChatGPT）和巨额融资奠定了基础。对于整个行业，这篇论文开启了“大模型时代”的军备竞赛，它证明了像算术 或按指令造句 这样的复杂能力可以纯粹从规模中涌现，并确立了零/单/少样本提示 （Zero/One/Few-shot prompts）作为AI交互的新范式，彻底改变了AI应用的开发方式。

论文地址：https://arxiv.org/pdf/2005.14165