Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法方向，让大家跟着AI一起进步。

今天的主题是：Block Diffusion: Interpolating Between Autoregressive and Diffusion Language Models

Summary

这些来源介绍了一种名为块扩散语言模型（BD3-LMs）的新型人工智能模型，它结合了自回归模型和扩散模型的优点。传统扩散模型在生成任意长度文本和推理效率方面存在局限性，而自回归模型则受限于顺序生成。BD3-LMs通过将文本分成块并在每个块内使用扩散模型进行并行生成来解决这些问题，同时利用键值缓存提高效率。研究表明，与现有扩散模型相比，BD3-LMs在语言建模基准测试中达到了最先进的性能，并且能够生成更长、质量更高的序列，部分得益于优化的训练算法和低方差的噪声调度。

原文链接：https://arxiv.org/abs/2503.09573