歐趴

S4EP07 AI 推論戰爆發!2025 Nvidia GTC 關鍵解讀+甲亢哥如何「攻陷」中國流量?台北場快報名!


Listen Later

📻 歡迎收聽「歐趴」,讓你人生一路 All Pa!

在本集節目中,主持人 LC 帶你深入拆解 2025 Nvidia GTC 關鍵演講──黃仁勳如何透過軟硬整合,持續加固 Nvidia 在 AI 時代的護城河,並分析 AI 推論市場的最新戰局。

💫 本集重點話題:

🔥 Nvidia 護城河再進化  
- 「垂直擴展 (Scale Up)」:NVLink、Blackwell GPU 貫通單機極限  
- 「水平擴展 (Scale Out)」:矽光子網路與多機叢集布局  
- Roadmap 罕見曝光:從 Grace Hopper → Blackwell → 下一代伺服器設計節奏

💡 CPO 光電封裝交換器 (Co-Packaged Optics)  
- 能效提升 3.5×、可靠度 +10×、部署速度 +30 %  
- 去模組化、減少交換層功耗與成本,為 AI 「工廠級」部署鋪路  
- 早期良率與製程挑戰:為何 Nvidia 仍敢大手筆下注?

⚙️ Dynamo ─ Nvidia「第二個 CUDA」的野心  
- GPU Planner、Smart Router、Low-Latency Comm Library、Memory Manager  
- 推論效能最大化:成本與延遲雙降  
- 「AI Factory OS」願景:軟體優化佔效能提升 60 %

🚀 AI 推論市場的群雄逐鹿  
- AMD MI300/ROCm、Groq LPU、Google TPU:誰能撼動 CUDA 王座?  
- 稀疏化、RISC-V、Wafer-Scale:專用架構的機會與瓶頸  
- 一家獨大的隱憂:客戶分散風險 vs. Nvidia 生態黏性

📊 推理時代的系統工程挑戰  
- GPU 架構在推論效率上的天花板  
- 資料中心機架密度、散熱與供電新課題  
- AI 工程師需要的硬核技能:分散式系統、網路架構、成本優化

🌐 實用資源與延伸閱讀  
- 官方連結:Nvidia GTC 2025 Keynote(https://www.youtube.com/live/_waPvOwL9Z8?si=Qb2jVwxaisQIMYQx)
- 深度解析影片:硅谷 101「老黃技術拆解」(https://youtu.be/pdcT2jwXP0s?si=ikTVNWb2MUzdV05o)  
- 文章推薦:CPO 與矽光子技術白皮書、Dynamo 開源倉庫

🤝 頻道未來方向  
- 下集預告:主持人 4/10–4/23 義大利 13 天見聞,聖門年人潮 vs. 去年差異  
- 持續追蹤 5/19 Nvidia GTC Keynote 亮點與後續實作  
- 邀請半導體與雲端大咖解密 AI 基礎設施趨勢  
- HR 專家談「AI 時代雲端人才必備技能」

📩 聯絡資訊  
合作信箱:[email protected]  
Instagram:techwithlc  

別忘了訂閱、分享,讓 LC 能邀請更多重量級來賓,一起把科技聊到 All Pa!

Send us a text

Support the show

...more
View all episodesView all episodes
Download on the App Store

歐趴By techwithlc