谷歌开源扩散语言模型DiffusionGemma：同时生成整段文本，推理速度提升4倍

谷歌发布了一款实验性开源语言模型DiffusionGemma，旨在探索文本扩散这一前沿技术路径。该模型基于Gemma 4家族与Gemini Diffusion研究构建，采用Apache 2.0许可证开放。 与主流自回归模型逐词预测、串行生成的机制完全不同，DiffusionGemma的核心突破在于生成范式的改变。它不再逐个Token依次输出，而是将一整段文本视为一个整体，同时草拟出完整的256个Token段落。该过程借鉴了AI图像生成器从视觉噪点开始迭代细化出清晰画面的原理，将这一扩散过程应用到了文本领域。 这种并行生成方式带来了显著的效率优势。DiffusionGemma是一个26B参数的混合专家模型，它集成了一种新颖的扩散头，以最大化生成速度。在GPU上进行本地与低并发推理时，其文本生成速度最高可比传统方式提升4倍。由于模型在生成过程中能够处理整个段落，它展现出了新的行为模式，例如可以完美闭合复杂的Markdown格式，并且能够近乎实时地生成并渲染代码。 该模型专为追求速度的交互式本地工作流而设计，尤其适合研究人员和开发者在单加速器上以小到中等批次大小运行时获得最强的吞吐量优势。对于特定任务，使用者可以通过微调来进一步提升DiffusionGemma的性能。一个典型案例是，Unsloth通过微调让该模型学会了玩数独。数独是自回归模型难以应对的任务，因为每个待填数字都依赖于未来的信息，而DiffusionGemma的双向注意力机制则让这类问题的处理变得容易得多。 值得注意的是，这种加速效果存在明确的适用边界。在高查询量的云端服务场景下，自回归模型本就可以高效地占满计算资源，此时DiffusionGemma的并行解码带来的收益会逐渐递减，甚至可能导致更高的服务成本。而在Apple Silicon Mac这类通常在推理时受限于内存带宽的统一内存架构设备上，它可能无法展现出相较于Gemma 4自回归模型的同等加速效果。

EntAI观察

虽然AI社区对扩散文本生成的探索已持续多年，但将其成功应用于如此大规模的语言模型仍是一个里程碑。DiffusionGemma的发布，意味着非自回归生成范式开始从实验室走向真实的开发者环境，这可能会打开一扇通往全新交互体验的大门，尤其是在需要极低延迟的本地化创作工具和实时代码助手领域。然而，其加速效果高度依赖硬件特性和并发场景，反映出这一技术目前并非通用替代方案，而是一把专攻特定计算环境的利刃。其在大规模商用部署中的成本有效性，以及能否在更广泛的硬件上实现泛化的高速推理，将是决定其未来影响力的关键。