欢迎收听雪球出品的财经有深度,雪球,国内领先的集投资交流交易一体的综合财富管理平台,聪明的投资者都在这里。今天分享的内容叫关于Anthropic提议放缓人工智能发展的一些思考,来自VincentLv。
周末看到Anthropic C E O Dario Amodei发表了一篇文章《We Must Pace the Frontier》,核心观点是:现在前沿A I的发展速度已经太快了,需要适当控制节奏,给安全体系一些追赶的时间。随后Open A I的奥特曼、马斯克也都表达了类似的认同。
看到这个新闻,第一反应可能是:A I都准备slow down了,那是不是利空A I硬件?
我觉得对于A I硬件投资者来说,真正值得关注的应该是:为什么这些站在A I最前沿的人,现在突然开始集体讨论要给A I踩刹车?
1、真正值得注意的潜台词:A I不是发展太慢,而是发展得太快了
过去一年市场对于A I硬件最大的担心,一直是Scaling Law是不是到头了,继续堆G P U到底还有没有用,几千亿美元A I CapEx最终有没有足够的R O I。
如果未来出现的是G P U越堆越多,但模型能力越来越难提升,那才是A I硬件真正需要警惕的事情。
但达里奥现在担心的恰恰相反。他认为最近一段时间A I能力进步速度明显加快,其中一个重要原因,就是A I已经越来越能够帮助人类进行A I研发。更强的A I可以帮助开发下一代A I,而下一代A I能力继续提升之后,又会进一步提高研发效率,最终可能形成一种自我强化。
所以从A I硬件投资角度看,这里面其实释放了一个很重要的信息:至少在最前沿A I公司的视角里,A I能力曲线并没有明显放缓,反而可能正在重新加速。
这和Scaling Law失效、继续堆算力已经没有意义,是完全不同的产业状态。
2、A I越智能,反而可能带来越大的算力需求
这一点从我自己的使用体验就很明显。
如果一个A I只有70分,我可能偶尔问它几个问题;如果它到了90分,我会开始让它写东西、做研究、分析P D F、处理数据、辅助投资;如果未来A I真的到了95分甚至99分,可以稳定完成编程、科研、企业流程和各种Agent任务,那么使用需求可能完全不是一个数量级。
人在面对一个明显更加聪明的模型时,其实有很强的使用动力。只要价格能够承受,我肯定会尽量使用更聪明的模型。
模型能力越强,能覆盖的用户越多,每个用户使用A I的频率也可能越高,交给A I完成的任务越来越复杂,单次任务消耗的Token和计算量也会越来越大。未来甚至可能不是一个人调用一个A I,而是一个人背后同时运行很多个Agent,这些Agent还会持续调用模型。
所以A I变得越来越智能,更可能出现的情况是,模型越来越好用以后,用户规模、调用频率和Agent数量同时增长,最终推动推理算力需求继续扩大。
这有点类似于计算领域的杰文斯悖论。单位计算成本越来越低,并没有让社会少使用计算机,反而让整个社会消耗的计算量越来越大。
3、还有一个更现实的问题:美国真的能够slow down吗?
这是我觉得整件事情里面最矛盾的地方。
今天的A I竞争已经不再只是Open A I、Google、Anthropic几家公司的商业竞争,而是越来越明显地上升到了中美之间的国家级科技竞争。
假设美国认为A I发展太快,因此决定先放慢半年,但中国没有放慢,那么半年以后中国追上来了,美国能接受吗?
反过来也一样。
所以从博弈角度来看,这其实是一个很典型的囚徒困境。理论上最理想的状态当然是美国慢一点,中国也慢一点,大家给A I安全研究留更多时间。但只要任何一方怀疑另一方可能继续全速发展,最后最可能出现的结果还是双方都不敢真正停下来。
达里奥自己其实也承认这个问题。美国能够减速多少,很大程度上取决于它相对于中国还有多大的领先优势。如果美国减速以后导致中国追上甚至反超,对美国来说同样是无法接受的国家安全风险。
所以这里就形成了一个很有意思的矛盾:
A I越危险,美国越希望控制发展速度;但A I越重要,美国就越不能允许自己在这场竞争里落后。
最后真正出现的结果,很可能不是A I军备竞赛停止,而是一边讨论安全和pace,一边继续保持极高强度的A I投入。
4、pace并不等于stop
达里奥讲的是pace the frontier,核心是控制节奏,而不是停止A I发展。目前比较现实的方向,更多还是加强第三方安全评估、建立共同安全标准,以及在出现某些危险能力之后设置检查点。
这些事情和明年少买一半G P U完全不是一个概念。
至少到现在为止,还没有看到Anthropic、Open A I因为这个问题大规模削减数据中心建设,也没有看到几大C S P因此下调A I CapEx。
所以现阶段我不会因为slow down几个字,就去下调A I硬件公司的长期盈利预测。
当然,这件事情的风险也不能完全忽略。如果未来pace真的演变成限制Frontier Model训练使用的算力、限制超大G P U Cluster规模、减少模型训练次数,甚至政府直接对训练Compute设置上限,那性质就完全不同了,对G P U、服务器、交换机和光模块都会成为真正的基本面利空。
但至少现在,距离这个阶段还比较远。
5、未来真正巨大的算力需求,未必只是AI训练
现在市场讨论A I硬件,经常还是盯着下一代G P T到底需要多少G P U,下一代Claude训练集群究竟有多大。
但未来真正巨大的市场,可能越来越来自Inference。
如果A I能力继续提升,真正进入Coding Agent、Research Agent、企业Work flow、搜索、科研甚至A I帮助A I研发,那么推理侧的计算量可能会非常大。
所以即使未来Frontier Model的迭代周期稍微拉长,但与此同时模型越来越好用,用户数量大幅增加,每个用户的调用量继续增长,Agent数量也快速增加,整个A I算力需求依然可能保持高速增长。
因此不能简单把模型迭代放慢,直接等同于G P U需求下降。
中间还有一个非常重要的变量:A I到底有多好用。
而我自己的感觉恰恰是,随着模型越来越聪明,A I对用户的吸引力是在明显提高的。当一个模型真的能够解决问题的时候,人是很难主动拒绝使用它的。
6、回到A I硬件投资
如果只是看新闻标题,Anthropic C E O呼吁放缓A I发展,Open A I和Musk也表示认同,第一反应确实偏利空A I硬件。
但如果往深一层看,我反而没有那么悲观。因为这件事情同时透露出了另一个更重要的产业信号:
今天最接近Frontier A I的一批人,不是在担心A I进步太慢,而是在担心A I进步太快。
如果未来A I投资最大的风险是堆了这么多G P U以后,模型能力突然很难继续提升,那么达里奥现在担心的恰恰是另外一种情况:模型进步速度太快,安全体系开始跟不上。
从A I硬件产业趋势来看,我反而认为后一种情况要健康得多。
所以现阶段对于A I硬件,我还是主要观察三个东西:C S P CapEx有没有下修,G P U集群规模有没有缩小,800G、1.6T、3.2T以及NPO/CPO的升级节奏有没有变化。
只要这几个指标没有发生实质性改变,我暂时不会因为几位A I C E O开始讨论pace the frontier,就改变对A I硬件中长期需求的判断。
相反,我现在更感兴趣的问题是:为什么偏偏是在最近几个月,Anthropic、Open A I这些站在A I最前沿的公司,开始越来越密集地讨论A I能力增长过快、A I帮助A I研发,以及需要给前沿A I踩一点刹车?
如果他们看到的真实情况是A I正在进入新一轮能力加速期,那么对于A I硬件投资者来说,这个信息可能比slow down这个新闻标题本身重要得多。
7,最后简单总结一下达里奥这篇文章
达里奥并不是A I悲观主义者,恰恰相反,他对A I未来的价值非常乐观。他认为A I未来5到10年有机会帮助解决大量重大疾病、大幅提高经济增长,并给社会带来巨大的生产力提升。
他真正担心的是,A I的发展速度开始超过人类安全体系、可解释性研究和监管机制的建设速度。
特别是随着A I越来越能够帮助A I研发,未来可能出现一种自我强化,因此他认为需要适当控制Frontier A I能力提升的节奏,让安全体系有时间跟上。但他的主张并不是停止A I发展,是pace,而不是stop。
所以我觉得,达里奥这篇文章真正的核心观点是:他担心的不是A I发展不动了,而是A I可能开始发展得太快了;他想做的也不是让A I停止前进,而是在继续快速前进的同时,给人类的安全体系争取一点追赶的时间