应用于HuiHui abliterated模型的自定义量化配方在数学和编码任务中展现出优于原版3.6-35B-a3b变体的性能。结果表明,移除拒绝机制使模型在这些领域实现了更高的准确性和智慧。
- HuiHui和Vanilla 3.6-35B-a3b模型均使用了相同的自定义量化方案。
- 基准测试使用oMLX套件在instruct模式下进行,未包含长推理链。
- 尽管样本量较小,abliterated模型在数学和编码基准测试中表现出改进的性能。
研究结果表明,abliteration可以增强模型在特定技术领域的性能,HuiHui模型可通过提供的Hugging Face链接下载。