在当前大模型规模与服务需求持续增长的背景下，如何降低自回归解码的高昂成本成为了行业的一大痛点。为此，腾讯技术团队正式开源了统训框架AngelSpec，旨在通过多方案协同与工作负载异构适配，全面提升大模型在真实场景中的推理吞吐量。

针对不同应用场景下文本特征的差异，AngelSpec采取了差异化的训练策略。对于高熵、开放式的多轮对话任务，系统采用轻量且稳定的多token预测机制（MTP），并结合训练时测试(TTT)和端到端总变差损失，使其能够有效适应自回归展开中的状态分布;而面对结构约束更强的代码生成与数学推理任务，则通过专有的块扩散模型进行强化，充分挖掘长跨度可预测序列的潜力。

在 Hy3模型系列的系统测试中，搭载 DFly 的方案展现出显著的性能优势。在并发数从4到64的各项测试中，该方案均实现了最高的平均吞吐量，相比传统的自回归解码提升显著，为大模型的工程化落地与高效推理提供了坚实的开源工具支持。

项目地址:https://github.com/Tencent/AngelSpec

论文:https://arxiv.org/pdf/2607.25852