矽谷輕鬆談 Just Kidding Tech

S2E5 ChatGPT 底層邏輯全公開!帶你拆解大型語言模型的訓練過程


Listen Later

你有沒有想過,ChatGPT 每次都能秒懂你的問題,還能講得頭頭是道,它到底是怎麼辦到的?


我們每天在用 AI 寫報告、下指令、聊天解悶,但其實,大多數人對它的運作邏輯幾乎一無所知。大家都在聊 prompt engineering、聊 AGI,但 ChatGPT 最核心的東西——它是怎麼「學會講人話」的?反而很少人講清楚。


這一集,我們就來揭開大型語言模型的底層秘密:從預訓練到微調,最後再用人類的喜好強化它的行為,ChatGPT 的「成長過程」其實比你想像的還像在養小孩 🤯


本集內容包含:

📌 語言模型的原理到底是什麼?為什麼它「只是預測下一個字」,卻能對答如流?

📌 預訓練、微調、RLHF 是什麼?三階段訓練怎麼讓它越來越像一個助理?

📌 為什麼它有時會講幹話(幻覺)、算錯數學?我們怎麼改進?

📌 新一代模型又有哪些升級?從多模態、128K 上下文,到讓 AI 學會「思想鏈」


你不需要是工程師,也能聽懂這集,因為我會用最簡單的方式,帶你看懂一個正在改變世界的技術背後到底長什麼樣。


🎧 聽完之後,也歡迎留言告訴我:你對 AI 的想像是什麼?會怕?還是已經愛上它了?

🔗《矽谷輕鬆談》一鍵收聽 ➡️ https://linktr.ee/jktech

...more
View all episodesView all episodes
Download on the App Store

矽谷輕鬆談 Just Kidding TechBy 柯柯與肯吉在矽谷

  • 4.8
  • 4.8
  • 4.8
  • 4.8
  • 4.8

4.8

150 ratings


More shows like 矽谷輕鬆談 Just Kidding Tech

View all
百靈果 News by Bailingguo News

百靈果 News

677 Listeners

大人的Small Talk by 大人學

大人的Small Talk

250 Listeners

游庭皓的財經皓角 by 游庭皓的財經皓角

游庭皓的財經皓角

53 Listeners

Gooaye 股癌 by 謝孟恭

Gooaye 股癌

711 Listeners

文森說書 by 文森

文森說書

81 Listeners

通勤十分鐘 On The Way To Work by Tony & Esther

通勤十分鐘 On The Way To Work

58 Listeners

曼報 Manny's Newsletter by Manny Li

曼報 Manny's Newsletter

33 Listeners

MacroMicro 財經M平方 by MacroMicro

MacroMicro 財經M平方

62 Listeners

下一本讀什麼? by 閱讀前哨站 瓦基

下一本讀什麼?

174 Listeners

矽谷夫妻Chitchatting by 矽谷夫妻 Annie & Jack

矽谷夫妻Chitchatting

176 Listeners

科技工作講 Tech Job N Talk by Tech Job N Talk 科技工作講

科技工作講 Tech Job N Talk

20 Listeners

股市隱者 by 隱者

股市隱者

22 Listeners

思維槓桿 by 米克 x 麥可

思維槓桿

21 Listeners

矽谷台勞 by Silicon Tailao

矽谷台勞

98 Listeners

科技浪 Tech.wav by 哈利

科技浪 Tech.wav

75 Listeners