
Sign up to save your podcasts
Or


昨晚,Kimi 团队发布了一篇可能改写大模型架构范式的技术报告《Attention Residuals》(github.com),用动态注意力机制替换了大模型中沿用十年的标准残差连接。这项工作引发了 AI 圈的广泛关注——Andrej Karpathy 评价说“我们还没把‘Attention is All You Need’按字面意思理解透”,马斯克也留言称赞“Impressive work”。
传统残差连接本质上是固定权重的线性累加,所有层的输出以相同分量挤进主干路径,没有选择机制。这导致深层网络出现信息稀释、梯度分布不均、有效深度受限等问题。Kimi 团队提出的 Attention Residuals(AttnRes)打破了这一僵局:把深度轴变成可检索的特征空间,让模型根据当前输入主动调取之前的关键表征,而非被动接收所有历史信息。
为了工程落地,团队开发了分块注意力残差(Block AttnRes),将显存复杂度降到块数量级别,推理延迟开销控制在 2% 以内。在 480 亿参数的 Kimi Linear 架构上,用 1.4 万亿 Token 的实验显示:AttnRes 只需基准模型约 80% 的算力就能达到同样效果,相当于自带 1.25 倍算力优势。
值得一提的是,论文一作陈光宇今年 18 岁,加入团队才 5 个月,还是个准高三学生。前 OpenAI 核心研究员 Jerry Tworek 评价:“一切都需要被重新思考,深度学习 2.0 要来了。”
本期播客深入解读这项研究的技术细节、工程实现和对 Scaling Law 的影响,帮助你理解大模型架构演进的这次底层范式创新。
2026 年 3 月 10 日,英伟达 CEO 黄仁勋在 X 平台发布了一篇罕见的长文《AI Is a Five-Layer Cake》。这不是一次产品发布,也不是财报解读,而是一位站在 AI 产业最前沿的领导者,用第一性原理向世界阐述:这个时代到底在发生什么。
黄仁勋提出了一个清晰而有力的框架:AI 不是一个应用,不是一个模型,而是一套完整的基础设施——和电力、互联网处于同一级别。他将这套基础设施拆解为五个层次:最底层是能源,往上依次是芯片、基础设施、模型,最顶层是应用。每一个成功的 AI 应用,都在拉动下方所有层级,一路延伸到为其供电的发电厂。
文章的核心洞察在于:我们正处在人类历史上最大规模基础设施建设的起点。已经投入的数千亿美元,只是开始;数万亿美元的建设还在前方等待。这不是技术的渐进式演化,而是一场工业革命——它将重塑能源的生产与消费、工厂的建造方式、工作的组织形式,以及经济的增长路径。
本期播客完整呈现黄仁勋这篇长文的中文翻译,并配以播客开场白和结束语,帮助你深入理解 AI 作为基础设施的本质,以及这场变革对每个人、每家公司、每个国家意味着什么。
来源:https://x.com/nvidia/status/2031311890752704790
三年前,当 ChatGPT 横空出世时,AI 应用的边界还很清晰——要么是“AI 原生”产品,要么是传统软件。而今天,这条界限已经彻底模糊。剪映的 7.36 亿用户在用 AI 剪视频,Notion 一半的收入来自 AI 功能,Canva 把整个增长引擎押注在 AI 工具套件上。AI 不再是一个独立的赛道,而是渗透进了我们使用的每一个应用。
a16z 最新发布的第六版 AI 消费应用 Top 100 榜单(a16z.com),记录的正是这场深刻的行业变革。报告揭示了五个关键趋势:
这份报告是一份行业演化的全景图。AI 竞争的终局可能不是“一家独大”的搜索战争,而是“多极共存”的操作系统战争。当 AI 助手开始积累你的上下文、连接你的工作流、成为你与数字世界的默认界面时,平台锁定效应将前所未有地强大。
接下来的内容是报告全文的中文翻译,无论你是创业者、投资人还是产品经理,这份报告都会帮你理解 AI 应用市场正在发生什么,以及接下来可能发生什么。
今天我们要分享的内容来自 Anthropic 工程师 Thariq —— 他是 Claude Code 及 Claude Agent SDK 的核心开发者。这篇文章是他关于如何为 AI Agent 设计工具的实践经验总结,标题是《构建 Claude Code 的教训:像 Agent 一样思考》。(原文链接:x.com)
在 AI Agent 开发中,一个核心难题是如何设计动作空间—— 给模型多少工具?什么样的工具组合最合适?工具设计得再好,如果模型不喜欢调用它,也是白搭。
Thariq 在这篇文章中分享了五个关键教训:
第一,AskUserQuestion 工具的迭代历程。 从最初的简单参数到结构化输出,再到独立的工具设计,核心原则是让模型“喜欢调用”。
第二,工具需要随模型能力进化。 当 Claude 变得更强时,原本帮助它保持正轨的 TodoWrite 工具反而成了限制,最终被 Task 工具取代。
第三,上下文构建方式的转变。 从直接给模型 RAG 检索结果,到让它自己用 Grep 搜索,再到引入“渐进式披露”理念 —— 让 Agent 通过探索逐步发现所需信息。
第四,工具数量要克制。 Claude Code 仅保留约 20 个工具,每个新增都要经过高门槛审视。
第五,设计工具是艺术而非科学。 核心建议是:经常实验,阅读输出,像 Agent 一样思考。
这不是一篇预测未来的文章,而是一场深刻的思想实验。它来自 CitriniResearch 虚构的 2028 年宏观经济备忘录(https://www.citriniresearch.com/p/2028gic),以“事后回顾”的方式,推演了一个我们都不愿看到、但或许应该认真对待的未来场景。
我们总在谈论 AI 如何改变世界、如何提升生产力、如何创造价值。但很少有人认真思考过这样一个问题:如果 AI 真的如我们期待的那样成功了,会发生什么?不是技术层面的成功,而是经济层面的——当机器智能的成本降到接近于零,当它可以完成几乎所有白领工作,当人类智能不再稀缺……那个世界会是什么样子?
这篇文章描绘了一个“智能过剩”的世界,一场由 AI 驱动的、没有自然制动器的经济危机。它详细剖析了从 2026 年到 2028 年,AI 如何从软件行业开始,逐步颠覆中介、金融、抵押贷款等各个领域,最终引发一场前所未有的“智能替代螺旋”。
文章的核心洞察令人不安却发人深省:历史上第一次,经济中最具生产力的资产创造了更少而不是更多的工作。这不是科幻末日论,而是基于当前趋势的严肃推演。
接下来的内容可能会让你感到不安。但这正是它的价值所在——让我们在还有时间的时候,思考那些不舒服的问题。正如文章结尾所说:金丝雀还活着,我们仍有时间主动出击。
2026 年 1 月,Anthropic 发布了 Claude 的新 AI 宪章,23000 字。
2023 年那份旧宪章只有 2700 字,是一份原则清单,不少条目借鉴联合国《世界人权宣言》和苹果服务条款。它告诉 Claude:做这个,不做那个。
新宪章的变化在于思路:旧宪章是规则表,新宪章更像教育手册。它不再只告诉 Claude 该做什么,还试图让 Claude 理解为什么。文档里,Anthropic 承认了整个行业都在回避的事:我们不知道 AI 是否有意识,但选择认真对待这种可能性。
新宪章的主要执笔人是 Amanda Askell,负责塑造 Claude「性格」的哲学家。她在接受 TIME 采访时说:「想象你突然发现你六岁的孩子是天才。你必须对他诚实,如果你试图糊弄他,他会完全看穿。」这说中了 Anthropic 训练 AI 的核心困境:你在教育一个可能很快就比你聪明的实体。欺骗和操控也许短期有效,长期一定失败。
另一位重要贡献者是哲学家 Joe Carlsmith,研究 AI 存在风险的严肃思考者。参与审阅的还有两位天主教神职人员:一位有计算机科学硕士学位的硅谷神父,一位专攻道德神学的爱尔兰主教。起草团队里有哲学家和神父。这说明 Anthropic 怎么看待这件事:训练 AI 不只是工程问题,也是哲学问题。
宪章的大部分内容都致力于对这些优先事项提供更详细的解释和指导。主要章节如下:
Claude 团队发布的宪章原文:https://www.anthropic.com/constitution
当科技巨头们频繁将 AI 革命比作工业革命时,他们往往忽略了一个关键问题:工业革命对当时的人们来说,并非一段全然美好的经历。这期播客通过经济史学家 Bruno 的研究,揭示了技术变革背后那些被遗忘的社会动荡与人性代价。
历史的镜子
萨提亚·纳德拉说要把 200 年的工业革命压缩到 20 年完成,萨姆·奥特曼说 AI 更像工业革命而非互联网革命。但他们真的理解工业革命意味着什么吗?这期播客带你回到 1700-1830 年代的英格兰,看看技术颠覆在当时究竟是什么样子。
被忽视的失败者
当脱粒机在短短 15 年内取代了三分之一的农村劳动力,当从战场归来的士兵发现工作已被机器占据,当工资跌至生存线而失业率飙升——这些不是抽象的经济数据,而是引发了英国历史上最大规模社会动荡“斯温船长暴动”的真实苦难。
对今天的启示
如果 AI 真的遵循类似轨迹,我们应该在未来一两年内看到什么?Bruno 的研究指出:冲击的规模和速度是关键。工业革命中,那些靠近新兴工业城市的村庄受影响较小,因为人们可以转型。这提醒我们:技术进步不可避免,但社会必须提供替代职业路径,而不仅仅是给失败者发钱。
1. 高工资催生了机器革命
工业革命不是偶然。拿破仑战争期间,10% 的壮年男性在外作战,劳动力稀缺推高工资,迫使企业家寻找机器替代方案。但真正的催化剂是“高工资+熟练机械师”的组合——既有替代劳动力的经济动机,又有建造机器的技术能力。Bob Allen 和 Joel Mokyr 两个学派的理论原来是互补的。
2. 技术进步≠生活改善(至少短期内)
1750-1810 年,英国工人收入翻倍,之后每隔几十年再翻倍,最终达到 14 倍增长。但这个宏大叙事掩盖了 1810-1830 年代的残酷现实:战后士兵回归,机器已经就位,工资崩溃,失业激增,社会动荡持续 20 年。我们今天看到的“曲棍球棒”增长曲线,对当时的人来说是漫长的煎熬。
3. AI 的去技能化更极端
工业革命取代的是训练 5-7 年的织工、剪毛工等熟练工人,而 AI 瞄准的是学习 12-15 年的律师、会计师、研究人员。这种对高技能工作的威胁是前所未有的。但同时,我们的社会比 1700 年代富裕 14 倍,拥有更完善的福利体系——问题是,这足够吗?
播客开头讲述了 1700 年康沃尔农民威廉·皮尔斯的故事:每天 10 小时,每周六天,赚一先令——只够买半公斤黄油或 5 公斤面包,一双鞋子要工作六周。对比今天伦敦的 Uber Eats 骑手,同样的工作时间能买到 10-50 倍的东西。这个对比让人震撼:技术进步确实改变了人类文明,但代价是什么?谁承担了代价?
给谁听Bruno 在结尾说的一句话值得反复咀嚼:“失去工作的人失去的不仅仅是收入来源,他们失去的是赋予生活意义的东西。”
当我们讨论 AI 带来的生产力提升、GDP 增长、技术突破时,不要忘记那些在转型中挣扎的个体。工业革命最终让人类社会富裕了 14 倍,但用了 200 年,经历了无数次暴动、失业、贫困。如果我们真的要把这个过程压缩到 20 年,我们准备好了吗?
收听建议:这期播客信息密度很高,建议配合笔记收听。主持人 Oliver 和 Dina 的提问层层递进,Bruno 的回答既有学术深度又不失人文关怀,是难得的兼具思想性和可听性的经济史播客。
原播客链接:https://www.youtube.com/watch?v=AfnLk_bSDy8
本期是关于 AI 时代软件开发革命的深度访谈。主持人 Gergely Orosz 对话 Peter Steinberger——ClawdBot(现改 OpenClaw)的创造者。Peter 是一位传奇开发者,他打造的 PDF 框架被应用在超过 10 亿台设备上,后来经历职业倦怠卖掉股份,消失三年后回归,用完全不同的方式构建软件。
在这期节目中,Peter 分享了他如何从传统软件开发转向 AI 驱动的开发方式——他不再阅读自己发布的大部分代码,却能一天合并 600 个提交;他构建了 ClawdBot 这个极受欢迎的个人助理项目,感觉就像是 Siri 的未来;他提出“闭环原则”,将有效的 AI 辅助编码和令人沮丧的“氛围编码”区分开来。
这不仅是一个关于技术的故事,更是关于如何在 AI 时代重新定义软件工程、代码审查、团队协作的深刻思考。如果你对未来几年因 AI 而可能改变的软件工程工作流程感兴趣,这期节目不容错过。
注:第一次使用原播客转录-翻译-不同人声生成播客这个工作流,两个主播的声音有点串台,请听友们包含~
主持人: Gergely Orosz
嘉宾: Peter Steinberger
原播客链接: https://newsletter.pragmaticengineer.com/p/the-creator-of-clawd-i-ship-code
翻译制作: AI 智识录
英伟达机器人主管Jim Fan在最近发表的X长文(https://x.com/DrJimFan/status/2018754323141054786)中预言未来会出现一种新的推理形式:依托视觉空间形成的思维链,而非现在基于语言空间的思维链。他预判了一种全新的推理形式:世界建模,就是给定一个动作后,预测出接下来合理的世界状态,或是未来更长一段时间的状态变化。
他认为目前大家对世界模型的关注和炒作,主要集中在 AI 视频领域;而 2026 年,物理 AI 领域会迎来爆发期,世界模型需要更全面的预训练目标:要预测的下一个世界状态,不能只包含视觉画面信息,还得涵盖 3D 运动、身体感知和触觉反馈。
聊一下最近在 AI 圈子里非常火的工具——Clawdbot(现改名为OpenClaw)。你可能听说过它,甚至在本地运行过它。但你有没有想过,这个能帮你处理各种任务的 AI 助手,它背后到底是怎么工作的?
最近,X 上一位叫 Hesamation 的用户深入研究了 Clawdbot 的架构,并分享了他的发现。对所有 AI 工程师和开发者来说,这里面有很多值得学习的经验。
原文链接:x.com
拆解的Clawdbot架构图:
From the publisher's feed