矽谷輕鬆談 Just Kidding Tech

S2E5 ChatGPT 底層邏輯全公開!帶你拆解大型語言模型的訓練過程


Listen Later

你有沒有想過,ChatGPT 每次都能秒懂你的問題,還能講得頭頭是道,它到底是怎麼辦到的?


我們每天在用 AI 寫報告、下指令、聊天解悶,但其實,大多數人對它的運作邏輯幾乎一無所知。大家都在聊 prompt engineering、聊 AGI,但 ChatGPT 最核心的東西——它是怎麼「學會講人話」的?反而很少人講清楚。


這一集,我們就來揭開大型語言模型的底層秘密:從預訓練到微調,最後再用人類的喜好強化它的行為,ChatGPT 的「成長過程」其實比你想像的還像在養小孩 🤯


本集內容包含:

📌 語言模型的原理到底是什麼?為什麼它「只是預測下一個字」,卻能對答如流?

📌 預訓練、微調、RLHF 是什麼?三階段訓練怎麼讓它越來越像一個助理?

📌 為什麼它有時會講幹話(幻覺)、算錯數學?我們怎麼改進?

📌 新一代模型又有哪些升級?從多模態、128K 上下文,到讓 AI 學會「思想鏈」


你不需要是工程師,也能聽懂這集,因為我會用最簡單的方式,帶你看懂一個正在改變世界的技術背後到底長什麼樣。


🎧 聽完之後,也歡迎留言告訴我:你對 AI 的想像是什麼?會怕?還是已經愛上它了?

🔗《矽谷輕鬆談》一鍵收聽 ➡️ https://linktr.ee/jktech

...more
View all episodesView all episodes
Download on the App Store

矽谷輕鬆談 Just Kidding TechBy 柯柯與肯吉在矽谷

  • 4.8
  • 4.8
  • 4.8
  • 4.8
  • 4.8

4.8

156 ratings


More shows like 矽谷輕鬆談 Just Kidding Tech

View all
IEO 看什麼?國際財經、產業、科技觀察 by IEO 國際經濟觀察版主

IEO 看什麼?國際財經、產業、科技觀察

35 Listeners

M觀點 | 科技X商業X投資 by Miula - 科技巨頭解碼主筆

M觀點 | 科技X商業X投資

155 Listeners

游庭皓的財經皓角 by 游庭皓的財經皓角

游庭皓的財經皓角

52 Listeners

Gooaye 股癌 by 謝孟恭

Gooaye 股癌

740 Listeners

財報狗 - 掌握台股美股時事議題 by 財報狗 - 台灣最大基本面投資平台

財報狗 - 掌握台股美股時事議題

68 Listeners

曼報 Manny's Newsletter by Manny Li

曼報 Manny's Newsletter

39 Listeners

MacroMicro 財經M平方 by MacroMicro

MacroMicro 財經M平方

65 Listeners

矽谷夫妻Chitchatting by 矽谷夫妻 Annie & Jack

矽谷夫妻Chitchatting

175 Listeners

美股投資學-財女珍妮 by 財女Jenny

美股投資學-財女珍妮

72 Listeners

塞掐 Side Chat by INSIDE

塞掐 Side Chat

8 Listeners

科技工作講 Tech Job N Talk by Tech Job N Talk 科技工作講

科技工作講 Tech Job N Talk

23 Listeners

矽谷台勞 by Silicon Tailao

矽谷台勞

105 Listeners

VK科技閱讀時間 by VK

VK科技閱讀時間

9 Listeners

科技浪 Tech.wav by 哈利

科技浪 Tech.wav

81 Listeners

異溫層 Podcast by 雕大 & 房房

異溫層 Podcast

11 Listeners