一位用户报告了在 Apple Silicon 硬件上使用为 M1 和 M2 Ultra 设备构建的自定义引擎运行基于扩散的语言模型（dLLMs），特别是 LLaDA2.1 和 Sumi 的初步实验。
- 在 M1 上建立的基线吞吐量为 4.6–22.2 tok/s，在 M2 Ultra 上为 32.1–122.6 tok/s。
- 采用统一的 4-bit 量化作为默认值，导致模型占用空间约为 9.57 GB，且具有较低的置信翻转率。
- 测试了几项优化，包括弹性缓存（已拒绝）、多块取消掩码（暂定接受）以及通过 S2D2 进行的自动推测（已接受）。
- TSCV 投票使 GSM8K 准确率提高了 6–8 个百分点，且零 CPU 开销，而信用解码带来的收益微乎其微。
- 路由分析显示，不同的专家数量低于预期，且量化仍然必要，因为去量化会减慢性能。
作者旨在为个人设备构建一个功能性的扩散引擎，并更深入地了解这些模型如何运作。