开创性扩散思维链：让人工智能更具创造力和灵活性

在近年来的人工智能研究中，思维链的概念越来越受到重视，尤其是在大型语言模型的训练和推理中。最近，西湖大学 MAPLE 实验室的齐国君教授团队首次提出了一种新颖的 “扩散式发散思维链”，这是一种为扩散语言模型量身定制的全新推理方式。

传统的大型语言模型通常采用线性思维链，即通过逐步推理生成答案。然而，人的思维过程往往更为复杂，充满了非线性和跳跃性的特点。齐教授的团队认为，模仿这种发散思维将有助于提升模型的创造力和解决问题的能力。

扩散式发散思维链的核心在于，它允许模型在推理过程中生成任意顺序的中间结果，而不需要遵循传统的语法结构或可读性要求。通过这种方法，模型能够探索更多元化的思考路径，形成更具创造性和灵活性的答案。这一方法已经在多种扩散语言模型中成功应用，特别是在数学推理和代码生成任务中，其效果超越了现有的模型。

在具体实施上，团队通过强化学习的方式优化生成的整个过程。模型首先从一个无信息的掩码序列开始，逐步生成关键信息，并在扩散去噪的过程中得出最终的答案。与传统的思维链不同，扩散思维链能够利用中间生成的内容来促进最终答案的准确性。

研究团队的成果表明，扩散式发散思维链不仅能够提升模型的推理能力，还为未来的模型训练提供了重要的启示。这种创新的思维链方法，尤其是在谷歌最新发布的 Gemini Diffusion 模型中，预示着更广泛的应用潜力。未来，扩散式思维链有望成为扩散语言模型训练的标准流程。

arXiv 地址：https://arxiv.org/abs/2505.10446

GitHub 地址：https://github.com/maple-research-lab/LLaDOU