May 20, 2025

#136. 从自然语言处理到大语言模型

1 hour 26 minutes

自然语言处理领域的专家David现在在做一线大语言模型开发。他来给我们从自然语言处理专家的视角讲述大语言模型的崛起以及大语言模型的发展。

嘉宾：David

主播：斯图亚特、Sean、Vindy

剪辑&时间线：季雨清

00:01:34 GPT-1问世

00:01:54 GPT-2推出

00:02:26 GPT和BERT的区别

00:03:58 坚持Decoder-Only架构的GPT

00:12:29 GPT-3、3.5相继推出，自然语言成为人机接口

00:15:48 ChatGPT时刻

00:17:54 ChatGPT对研究者的冲击

00:24:16 哪些大模型研究还可以做

00:24:58 《降临》式研究

00:28:40 拥抱大模型的人在干什么

00:29:07 预训练

00:31:07 后训练

00:40:31 多模态

00:47:13 近期研究热点

01:01:31 OpenAI还是一枝独秀吗

01:05:39 行业突破口在哪

01:15:58 为什么ChatGPT能回答复杂问题

01:22:25 如何进入NLP领域

关于「牛油果烤面包」

「牛油果烤面包」播客入选2020苹果最佳播客，获得年度编辑推荐，聊科技发展趋势，聊各行业来龙去脉。我们坐标硅谷，邀请第一线的资深专家分享给大家听！

欢迎您在每期节目下方给我们留言，和我们的主播互动交流，或是添加微信小助手nygkmb2022，加入微信听友群。如果您对我们的志愿者工作有兴趣，请点击这个链接看我们的招募帖；你有什么有趣的话题，想来作牛油果烤面包的嘉宾，或是对节目有任何的意见或建议，欢迎发邮件和我们联系。我们的邮件地址是：[email protected]

图片：

Generated by Gemini

片头片尾音乐：

Courante 1st Cello Suite

Exzel Music Publishing (freemusicpublicdomain.com)

Licensed under Creative Commons: By Attribution 3.0

http://creativecommons.org/licenses/by/3.0/

...more