敢想科技说

149万元的AI一体机,清华90后博士如何颠覆行业?


Listen Later

大家好,我是敢想老田。今天咱们聊个新鲜事儿一台149万元的AI一体机,居然能满血运行DeepSeek这样的顶级大模型!这事儿要是放在两年前,我肯定觉得是科幻小说。但今天,它就这么实实在在地摆在我们面前了。

先说说这台神奇的机器褐蚁HY90。它来自一家叫行云集成电路的公司,创始人是清华90后博士季宇。这位季博士可不简单,前华为天才少年,还在自然杂志发过论文。他带着团队搞出来的这台机器,直接把满血运行DeepSeek这样的大模型的成本,从百万级别打到了10万级别!

咱们先看看性能。实测显示,褐蚁HY90运行DeepSeekR1时,推理速度能达到22 tokenss。这是个什么概念?这么说吧,它比DeepSeek官网的速度还要快!我们做了个简单测试一个汉字具有左右结构,左边是木,右边是乞。这个字是什么?这台机器不仅答对了,速度还更快。

更厉害的是,它处理数学题也不在话下。比如这道AIME 2025的数学题Find the sum of all integer bases b9 for which 17b is a divisor of 97b褐蚁HY90不仅给出了正确答案70,速度还保持在20 tokenss。

最让我惊讶的是,它连那些AI杀手级的问题都能搞定。比如让7米长的甘蔗通过2米高1米宽的门这种问题,它都能给出正确答案。要知道,这可是难倒过不少AI的送命题啊!

那么问题来了为什么这台机器能做到这么便宜?传统方案要运行671B参数的FP8精度模型,需要多张A100显卡,成本轻松过百万。而行云团队另辟蹊径,采用双路AMD 9005系列CPU,搭配中高端消费级GPU,通过1TBs的高内存带宽解决了内存墙问题。再加上自主研发的推理引擎框架,硬是把成本压到了10万元以内。

说到创始人季宇,这位90后博士的经历堪称传奇。清华物理系本科,计算机体系结构博士,华为天才少年,现在又创业做AI芯片。他的CTO余洪敏也是业内大牛,主导过10多款芯片的流片与量产。去年11月,公司还获得了智谱AI峰瑞资本等一众明星资本的投资。

要我说,褐蚁HY90的出现,真是在AI一体机市场扔下了一颗重磅炸弹。它让中小团队也能用得起顶级大模型,这对AI应用的普及意义重大。从华为天才少年到创业公司CEO,季宇的故事也让我们看到中国年轻一代科技创业者的无限可能。

好了,今天就聊到这儿。我是敢想老田,咱们下期再见!

...more
View all episodesView all episodes
Download on the App Store

敢想科技说By 无何有老田