三五环

No.156 对谈蚂蚁曹仁:AI 时代的粮草先行,算力和架构如何承接泼天计算量


Listen Later

嘉宾|姚敏,花名曹仁,蚂蚁集团算力集群基础架构负责人

主播 | 刘飞,内容创作者,产品经理,袋泡原叶茶「三五杯」联合创始人

本期邀请的是蚂蚁集团算力集群基础架构负责人姚敏。随着人工智能的快速发展,对算力的需求急剧增加,基础设施也随之变化。姚老师长期在这个领域耕耘,很有发言权。

这次跟姚老师聊到了算力的发展阶段、巨大变革,面对 AI 应用的多样化和深度化,以及算力需求呈现的两大趋势:追求极端复杂的模型和根据垂直行业需求开发专用模型。与此同时,业内面临着技术、人才和成本等多重挑战。随着 AI 技术的发展,如何有效管理能源消耗和成本,以及探索可持续发展模式将成为关键问题。希望对你有所启发。

内容索引

01:51 Part1 算力的变化

智能算力比例已经超过30%,可能很快会超过一半

从基础算力向智能算力发展

大模型出现的条件:神经网络模型、互联网数据和芯片算力提升

单个体的芯片能力会越来越强

算力的变化:体积更小,耗能更大,成本暴增

13:07 Part2 蚂蚁集团AI战略和算力变化带来的挑战

希望AI像扫码支付一样便利每个人的生活

蚂蚁集团AI应用三大方向:生活管家、医疗管家和金融管家

硬件和电力消耗向西部清洁能源可再生能源的方向发展

国内面临的挑战:硬件和人才都需要提升

巨大的前期投入成本和持续运行成本,劝退很多人

30:59 Part3 未来应用场景探索和建议

算力发展方向:追求极致的高密度和模型越来越大

在擅长的领域新增,在外围合作落地

战略选择:选择方向,承接能力

可持续发展:算效提升,软硬件结合

制作人:严格

片头:Where Are You Going (Live) - 海龟先生

片尾:无版权音乐来源:mubert - The Star Power

欢迎在评论区留言交流。如果喜欢《三五环》,也恳请能在苹果 Podcast 、网易云音乐、Spotify 或喜马拉雅留下你的宝贵好评。感谢!

商务合作&嘉宾自荐,请加微信: wocaishiliufei

封面图片由 Midjourney 生成,版权所有©️三五环



...more
View all episodesView all episodes
Download on the App Store

三五环By 刘飞Lufy

  • 4.1
  • 4.1
  • 4.1
  • 4.1
  • 4.1

4.1

43 ratings


More shows like 三五环

View all
疯投圈 by 黄海、Rio

疯投圈

109 Listeners

声东击西 by ETW Studio

声东击西

320 Listeners

贝望录 by Withinlink

贝望录

43 Listeners

What's Next|科技早知道 by 声动活泼

What's Next|科技早知道

176 Listeners

硅谷101 by 硅谷101

硅谷101

184 Listeners

商业就是这样 by 商业就是这样

商业就是这样

272 Listeners

知行小酒馆 by 有知有行

知行小酒馆

351 Listeners

起朱楼宴宾客 by 大卫翁

起朱楼宴宾客

51 Listeners

半拿铁 | 商业沉浮录 by 潇磊&刘飞

半拿铁 | 商业沉浮录

314 Listeners

高能量 by 李翔李翔

高能量

30 Listeners

三点下班 by 李永浩,星辰

三点下班

18 Listeners

知本论 by 知本论

知本论

4 Listeners

42章经 by KaiQu

42章经

12 Listeners

十字路口Crossing by Koji

十字路口Crossing

3 Listeners

半拿铁·故事篇 by 刘飞Lufy

半拿铁·故事篇

55 Listeners