一位开发者发布了 mlx-serve，这是一个用 Zig 编写的开源本地推理服务器，支持 MLX 和 GGUF 模型。该项目解决了作者对现有工具中模型支持缓慢以及工具调用等功能损坏的沮丧。

该服务器支持 OpenAI、Anthropic 和 Ollama API，在 Gemma 4 和 Qwen 3.6 基准测试中，其几何平均值比 LM Studio 高出 +48%。它包括一个自动检测的工具调用自动更正功能，以及在其 DMG 发行版中的原生 Swift UI 应用。

这个单一的 ~7MB 二进制文件是开源的，没有遥测数据，旨在在 Mac 硬件上高效运行。