Qwen发布了其Qwen3.5-397B-A17B模型的FP8量化权重，该模型是一个具有视觉能力的3970亿参数因果语言模型，每次推理步骤仅激活170亿个参数。
该模型采用混合架构，结合Gated Delta Networks和稀疏Mixture-of-Experts，以提供高吞吐量推理并最小化延迟。它支持262,144个token的原生上下文长度，可扩展至1,010,000，并覆盖201种语言和方言。
FP8量化采用细粒度方法，块大小为128，在降低资源需求的同时，保持的性能指标与原始模型几乎相同。