
Sign up to save your podcasts
Or
📻 歡迎收聽「歐趴」,讓你人生一路 All Pa!
在本集節目中,主持人 LC 帶你深入拆解 2025 Nvidia GTC 關鍵演講──黃仁勳如何透過軟硬整合,持續加固 Nvidia 在 AI 時代的護城河,並分析 AI 推論市場的最新戰局。
💫 本集重點話題:
🔥 Nvidia 護城河再進化
- 「垂直擴展 (Scale Up)」:NVLink、Blackwell GPU 貫通單機極限
- 「水平擴展 (Scale Out)」:矽光子網路與多機叢集布局
- Roadmap 罕見曝光:從 Grace Hopper → Blackwell → 下一代伺服器設計節奏
💡 CPO 光電封裝交換器 (Co-Packaged Optics)
- 能效提升 3.5×、可靠度 +10×、部署速度 +30 %
- 去模組化、減少交換層功耗與成本,為 AI 「工廠級」部署鋪路
- 早期良率與製程挑戰:為何 Nvidia 仍敢大手筆下注?
⚙️ Dynamo ─ Nvidia「第二個 CUDA」的野心
- GPU Planner、Smart Router、Low-Latency Comm Library、Memory Manager
- 推論效能最大化:成本與延遲雙降
- 「AI Factory OS」願景:軟體優化佔效能提升 60 %
🚀 AI 推論市場的群雄逐鹿
- AMD MI300/ROCm、Groq LPU、Google TPU:誰能撼動 CUDA 王座?
- 稀疏化、RISC-V、Wafer-Scale:專用架構的機會與瓶頸
- 一家獨大的隱憂:客戶分散風險 vs. Nvidia 生態黏性
📊 推理時代的系統工程挑戰
- GPU 架構在推論效率上的天花板
- 資料中心機架密度、散熱與供電新課題
- AI 工程師需要的硬核技能:分散式系統、網路架構、成本優化
🌐 實用資源與延伸閱讀
- 官方連結:Nvidia GTC 2025 Keynote(https://www.youtube.com/live/_waPvOwL9Z8?si=Qb2jVwxaisQIMYQx)
- 深度解析影片:硅谷 101「老黃技術拆解」(https://youtu.be/pdcT2jwXP0s?si=ikTVNWb2MUzdV05o)
- 文章推薦:CPO 與矽光子技術白皮書、Dynamo 開源倉庫
🤝 頻道未來方向
- 下集預告:主持人 4/10–4/23 義大利 13 天見聞,聖門年人潮 vs. 去年差異
- 持續追蹤 5/19 Nvidia GTC Keynote 亮點與後續實作
- 邀請半導體與雲端大咖解密 AI 基礎設施趨勢
- HR 專家談「AI 時代雲端人才必備技能」
📩 聯絡資訊
合作信箱:[email protected]
Instagram:techwithlc
別忘了訂閱、分享,讓 LC 能邀請更多重量級來賓,一起把科技聊到 All Pa!
Send us a text
Support the show
📻 歡迎收聽「歐趴」,讓你人生一路 All Pa!
在本集節目中,主持人 LC 帶你深入拆解 2025 Nvidia GTC 關鍵演講──黃仁勳如何透過軟硬整合,持續加固 Nvidia 在 AI 時代的護城河,並分析 AI 推論市場的最新戰局。
💫 本集重點話題:
🔥 Nvidia 護城河再進化
- 「垂直擴展 (Scale Up)」:NVLink、Blackwell GPU 貫通單機極限
- 「水平擴展 (Scale Out)」:矽光子網路與多機叢集布局
- Roadmap 罕見曝光:從 Grace Hopper → Blackwell → 下一代伺服器設計節奏
💡 CPO 光電封裝交換器 (Co-Packaged Optics)
- 能效提升 3.5×、可靠度 +10×、部署速度 +30 %
- 去模組化、減少交換層功耗與成本,為 AI 「工廠級」部署鋪路
- 早期良率與製程挑戰:為何 Nvidia 仍敢大手筆下注?
⚙️ Dynamo ─ Nvidia「第二個 CUDA」的野心
- GPU Planner、Smart Router、Low-Latency Comm Library、Memory Manager
- 推論效能最大化:成本與延遲雙降
- 「AI Factory OS」願景:軟體優化佔效能提升 60 %
🚀 AI 推論市場的群雄逐鹿
- AMD MI300/ROCm、Groq LPU、Google TPU:誰能撼動 CUDA 王座?
- 稀疏化、RISC-V、Wafer-Scale:專用架構的機會與瓶頸
- 一家獨大的隱憂:客戶分散風險 vs. Nvidia 生態黏性
📊 推理時代的系統工程挑戰
- GPU 架構在推論效率上的天花板
- 資料中心機架密度、散熱與供電新課題
- AI 工程師需要的硬核技能:分散式系統、網路架構、成本優化
🌐 實用資源與延伸閱讀
- 官方連結:Nvidia GTC 2025 Keynote(https://www.youtube.com/live/_waPvOwL9Z8?si=Qb2jVwxaisQIMYQx)
- 深度解析影片:硅谷 101「老黃技術拆解」(https://youtu.be/pdcT2jwXP0s?si=ikTVNWb2MUzdV05o)
- 文章推薦:CPO 與矽光子技術白皮書、Dynamo 開源倉庫
🤝 頻道未來方向
- 下集預告:主持人 4/10–4/23 義大利 13 天見聞,聖門年人潮 vs. 去年差異
- 持續追蹤 5/19 Nvidia GTC Keynote 亮點與後續實作
- 邀請半導體與雲端大咖解密 AI 基礎設施趨勢
- HR 專家談「AI 時代雲端人才必備技能」
📩 聯絡資訊
合作信箱:[email protected]
Instagram:techwithlc
別忘了訂閱、分享,讓 LC 能邀請更多重量級來賓,一起把科技聊到 All Pa!
Send us a text
Support the show