「大模型的“魔力”之源」是一个6集的系列，一起探索大模型的强大之谜！

本期要点：

• 大模型并没有针对特定任务进行训练，但却展现出了超越训练数据的泛化能力
• 海量语料蕴含了丰富的世界知识、因果关系、逻辑规则等，大模型通过学习这些数据，习得了相关技能
• 大模型通过对语言的掌握，建立起了对世界的高层次抽象表征，从而具备了一定的常识推理能力
• 注意力机制使得大模型能够在不同粒度上提取和组合特征，灵活地应对新的任务
• 结束语：大模型的涌现智能让人惊叹，但其能力仍然受限于训练数据，未来还需要更多的技术突破

介绍了五个AI领域的新突破： 语言模型中非常规分词方式的价值、模仿人脑神经调节机制实现AI终身学习、通过激活值分布预测神经网络性能的新方法NEAR、自动化设计智能体的新方法Meta Agent Search，以及利用现有编解码器直接生成压缩图像和视频的新思路。

完整推介：https://mp.weixin.qq.com/s/1BcMbazz5aUm7CFPWd2WMA

「大模型的“魔力”之源」是一个6集的系列，一起探索大模型的强大之谜！

本期要点：

• 传统 NLP 需要词法分析、句法分析、语义分析等复杂步骤，而大模型可以直接建模文本到文本的映射
• 大模型通过自监督学习，从海量无标注语料中学习到了语言的内在结构和规律
• 预训练使得大模型能够作为通用语言模型，再通过少量微调适应下游任务
• 端到端的直接建模使得大模型能够处理更加复杂和开放域的任务，展现出了惊人的泛化能力
• 结束语：尽管端到端的直接映射非常强大，但仍然需要大量高质量数据的支持，数据偏差也可能带来问题

介绍了五项AI前沿成果，包括更高效的结构化生成模型算法DCPC、更易控制的图像和视频生成方法ControlNeXt、揭示大语言模型稳定性问题的研究、面向化学领域的专业多模态大语言模型，以及无需调参的自动聚类算法AuToMATo，展现了AI在不同领域的最新进展。

完整推介：https://mp.weixin.qq.com/s/jPhFH3QGUwkc1DhqpYMWcA

「大模型的“魔力”之源」是一个6集的系列，一起探索大模型的强大之谜！

本期要点：

• Softmax函数将神经网络的输出转化为概率分布,是分类任务的核心
• 在大模型中,Softmax被创新性地应用于文本生成任务
• 通过Softmax,大模型可以基于上下文生成下一个最可能的单词,从而实现了文本生成
• 采样策略的选择对生成质量有很大影响,如温度参数、Top-k采样等
• 结束语:Softmax的魔力在于将离散的分类扩展到了连续的生成,为大模型开启了全新的应用空间

介绍了 DifuzCam 相机、OpenResearcher 科研平台、大型语言模型训练新发现以及更自然的语音合成技术等 AI 前沿成果。

完整推介：https://mp.weixin.qq.com/s/vDneLEhw_fbv2GgJ4bOkgw

「大模型的“魔力”之源」是一个6集的系列，一起探索大模型的强大之谜！

本期要点：

• 参数规模是大模型复杂性的重要来源,更多参数意味着更强的表达能力
• 参数数量的增加带来了模型容量的指数级增长,使得大模型能够刻画更加复杂的函数
• 通过参数共享等技术,大模型能够高效地利用参数,实现更强的泛化能力
• 大模型的参数规模已经超过了人脑神经元的数量,但其结构与人脑有很大不同
• 结束语:虽然参数规模很重要,但仅靠堆叠参数并不能实现真正的智能,还需要更好的架构和算法

分享了五项 AI 前沿研究，主题涵盖了语言模型的幻觉问题、分布外学习的新方法、神经网络求解逆问题、大型语言模型的推理能力以及基于视觉记忆的灵活计算机视觉系统。

完整推介：https://mp.weixin.qq.com/s/gPzsBJzovwRGuRLQgkqthQ

「大模型的“魔力”之源」是一个6集的系列，一起探索大模型的强大之谜！

本期要点：

• 大模型的本质是海量数据驱动的复杂函数逼近器
• 通过大规模参数优化,大模型从数据中学习到了对世界的高维映射
• 大模型本质上是统计模型,通过概率分布逼近真实世界
• 大模型的训练过程就是在高维空间中寻找最优解的过程
• 结束语:大模型虽然强大,但本质上仍是基于统计的模型,与人类智能尚有差距

介绍了四项AI前沿研究，包括揭露AI模型融合安全隐患的"BadMerging"、普通人也能轻松解决复杂数学问题的"NL2OR"系统、像拼图一样自由创作图像的生成式照片蒙太奇技术，以及通过重建3D场景实现更自由图像编辑的新方法。

完整推介：https://mp.weixin.qq.com/s/I50835QJC2OVj00QP3Udfg