這一集我們想討論一個我們每天都在用，但可能不太了解的技術，就是GPU。

GPU的日常應用

• 其實很多人可能沒有意識到，他們每天都在使用GPU。電腦的顯示卡裡就有GPU，我們工作上訓練模型也需要GPU的算力。就連ChatGPT背後的運行也依賴大量的GPU來快速回答問題。

第一次接觸GPU

• Morris第一次接觸GPU是在我們還是同事的時候，需要訓練一些模型，特別是圖像模型。我記得當時買了一些GPU，實際看到那些GPU的體積像迷你雪櫃一樣大。Albert也提到當時我們買的GPU很貴，每塊可能要二十萬港幣。

GPU的歷史和用途

• GPU最早是為了打遊戲而設計的，因為3D遊戲場景需要即時計算，普通的CPU無法勝任這種即時運算。而GPU有成百上千個小核心，可以平行處理大量數據。後來，GPU的這種平行運算能力被用於訓練AI模型，如Deep Neural Network。

GPU在AI中的重要性

• OpenAI的創始人之一Sam Altman提到，NVIDIA的第一個最強GPU曾被親自送到OpenAI，這成為AI發展的關鍵點。GPU使得Deep Learning和Large Language Models成為可能，如今的AI技術都依賴這些強大的GPU來進行訓練和運行。

未來GPU的發展

• 未來GPU的發展可能會走向兩個極端。一方面，像OpenAI這樣的公司會使用越來越多的GPU來訓練更大更複雜的模型。另一方面，可能會有一些方法讓普通的設備也能以低成本運行較小的AI模型。

結語

• GPU在我們的日常生活和工作中扮演著越來越重要的角色。無論是訓練AI模型還是運行大型語言模型，GPU都是不可或缺的工具。希望大家通過這一集對GPU有了更深入的了解，期待下一次的討論。