Google发布实验性模型DiffusionGemma：并行生成段落，文本速度提升可达4倍

Google近日推出了实验性开放模型DiffusionGemma，基于Apache 2.0许可证发布。该模型拥有260亿参数，采用混合专家架构，核心创新在于探索文本扩散技术。 与传统的自回归模型逐词生成不同，DiffusionGemma一次同时生成包含256个令牌的完整段落。这种并行起草的方式使其在GPU上声称可提供高达4倍的文本生成速度。该模型基于Gemma 4家族和Gemini Diffusion研究构建。 社区已出现初步应用探索。Unsloth对DiffusionGemma进行了微调，使其能够玩数独游戏。Hugging Face则展示了该模型文本到3D SVG的转换能力。 性能表现有其特定场景。该模型的加速优势在低至中等批量大小、单加速器场景下最为显著。在苹果Apple Silicon Mac这类统一内存架构上，它可能无法获得与自回归模型相同的加速效果。由于是实验性版本，其生产环境适用性和稳定性尚未得到证实。

EntAI观察

DiffusionGemma代表了大模型在推理效率上的一个重要探索方向。通过改变文本生成的根本机制，从串行变为并行，它可能为需要低延迟响应的交互式AI应用打开新的可能。值得关注的是，其高达4倍的加速声明缺乏独立基准测试数据验证，且对特定硬件的兼容性限制意味着其现实部署路径仍存在不确定性。这一实验或许说明，在追求极致推理速度的道路上，突破自回归范式的尝试虽面临挑战，但仍是头部实验室押注的关键赛道。