LordNeel 发布腾讯 Hy3 和 NVIDIA Nemotron-Labs-Audex 的 GGUF 量化版本

LordNeel 已发布腾讯 295B MoE Hy3 模型以及 NVIDIA 支持音频的 30B 混合 MoE Nemotron-Labs-Audex-30B-A3B 的 GGUF 量化套件，并提供完整的基准测试数据和可复现指标。

• Hy3 量化版本包括 Q6_K（226 GiB）、Q4_K_M（167 GiB）、Q3_K_L（143 GiB）和 IQ2_M（90 GiB），其质量以 WikiText-2 上的 BF16 参考 logits 为基准进行衡量。
• Nemotron-Labs-Audex 量化版本提供仅文本的 GGUF 文件和完整词表的音频生成文件，包括用于减小文件大小并提高吞吐量的 MXFP4_MOE。
• 两个仓库均包含图表、校验和、量化计划以及每个量化的日志，以确保可复现性，避免主观的质量声明。

此次发布为用户提供了在本地运行这些大模型的透明且数据驱动的选项，包括特定的硬件推荐以及已知的限制条件（如张量回退机制）。