三五环

No.156 对谈蚂蚁曹仁:AI 时代的粮草先行,算力和架构如何承接泼天计算量


Listen Later

嘉宾|姚敏,花名曹仁,蚂蚁集团算力集群基础架构负责人

主播 | 刘飞,内容创作者,产品经理,袋泡原叶茶「三五杯」联合创始人

本期邀请的是蚂蚁集团算力集群基础架构负责人姚敏。随着人工智能的快速发展,对算力的需求急剧增加,基础设施也随之变化。姚老师长期在这个领域耕耘,很有发言权。

这次跟姚老师聊到了算力的发展阶段、巨大变革,面对 AI 应用的多样化和深度化,以及算力需求呈现的两大趋势:追求极端复杂的模型和根据垂直行业需求开发专用模型。与此同时,业内面临着技术、人才和成本等多重挑战。随着 AI 技术的发展,如何有效管理能源消耗和成本,以及探索可持续发展模式将成为关键问题。希望对你有所启发。

内容索引

01:51 Part1 算力的变化

智能算力比例已经超过30%,可能很快会超过一半

从基础算力向智能算力发展

大模型出现的条件:神经网络模型、互联网数据和芯片算力提升

单个体的芯片能力会越来越强

算力的变化:体积更小,耗能更大,成本暴增

13:07 Part2 蚂蚁集团AI战略和算力变化带来的挑战

希望AI像扫码支付一样便利每个人的生活

蚂蚁集团AI应用三大方向:生活管家、医疗管家和金融管家

硬件和电力消耗向西部清洁能源可再生能源的方向发展

国内面临的挑战:硬件和人才都需要提升

巨大的前期投入成本和持续运行成本,劝退很多人

30:59 Part3 未来应用场景探索和建议

算力发展方向:追求极致的高密度和模型越来越大

在擅长的领域新增,在外围合作落地

战略选择:选择方向,承接能力

可持续发展:算效提升,软硬件结合

制作人:严格

片头:Where Are You Going (Live) - 海龟先生

片尾:无版权音乐来源:mubert - The Star Power

欢迎在评论区留言交流。如果喜欢《三五环》,也恳请能在苹果 Podcast 、网易云音乐、Spotify 或喜马拉雅留下你的宝贵好评。感谢!

商务合作&嘉宾自荐,请加微信: wocaishiliufei

封面图片由 Midjourney 生成,版权所有©️三五环



...more
View all episodesView all episodes
Download on the App Store

三五环By 刘飞Lufy

  • 4.2
  • 4.2
  • 4.2
  • 4.2
  • 4.2

4.2

42 ratings


More shows like 三五环

View all
疯投圈 by 黄海、Rio

疯投圈

106 Listeners

声东击西 by ETW Studio

声东击西

278 Listeners

忽左忽右 by JustPod

忽左忽右

447 Listeners

What's Next|科技早知道 by 声动活泼

What's Next|科技早知道

175 Listeners

硅谷101 by 硅谷101

硅谷101

164 Listeners

商业就是这样 by 商业就是这样

商业就是这样

271 Listeners

知行小酒馆 by 有知有行

知行小酒馆

296 Listeners

晚点聊 LateTalk by 晚点 LatePost

晚点聊 LateTalk

23 Listeners

声动早咖啡 by 声动活泼

声动早咖啡

223 Listeners

起朱楼宴宾客 by 大卫翁

起朱楼宴宾客

44 Listeners

半拿铁 | 商业沉浮录 by 潇磊&刘飞

半拿铁 | 商业沉浮录

290 Listeners

高能量 by 李翔李翔

高能量

27 Listeners

三点下班 by 李永浩,星辰

三点下班

17 Listeners

知本论 by 知本论

知本论

4 Listeners

半拿铁·故事篇 by 刘飞Lufy

半拿铁·故事篇

5 Listeners