本期节目我们将深入探讨Nomic AI发布的Nomic Embed v2，这是业界首款通用混合专家（MoE）文本嵌入模型。我们将讨论其架构、训练方法、性能表现以及与同类模型的比较，并分析MoE架构在文本嵌入领域的有效性。

本期播客深入探讨了腾讯优图实验室的最新研究成果LUCY，一个在情感控制、自然度和信息丰富度方面均有显著提升的端到端语音模型。通过精心策划的合成训练数据，LUCY不仅能理解并响应用户的情感，还能以自然流畅的风格进行对话，并利用外部工具回答实时问题。

深入探讨Step-Video-T2V技术报告，涵盖视频基础模型、模型架构、训练策略、系统优化及未来发展方向。

深入探讨原生稀疏注意力机制（NSA）在长上下文建模中的应用和优势。

深入探讨Step-Audio，首个生产就绪的开源智能语音交互框架。

我们介绍AudioLM，一个用于高质量音频生成并具有长期一致性的框架。AudioLM将输入音频映射到一系列离散标记，并将音频生成视为在此表示空间中的语言建模任务。

本次播客深入探讨了MuLan模型，这是一个连接音乐音频和自然语言描述的联合嵌入模型。我们讨论了它的架构、训练数据、应用以及在音乐信息检索任务中的表现。

本次播客深入探讨了MusicLM，一个能根据文本描述生成高保真音乐的模型。我们将讨论MusicLM的技术细节、实验结果、以及它与先前系统的比较。此外，我们还将介绍MusicCaps数据集，并探讨MusicLM在音乐创作领域的潜在应用和风险。

探讨 Transformer 和状态空间模型（SSM）之间联系的播客，重点介绍 SSM 的优势和高效算法，以及新的 Mamba-2 架构。

深入探讨Mamba，一种无需注意力的架构，它通过选择性状态空间实现在语言、音频和基因组等多种模式下的卓越性能。