저자는 Qwen3-4B-Instruct를 기반으로 한 작은 로컬 모델인 Dev-4B를 출시했으며, 이는 문서에 대한 입력된 질문에 보정된 신뢰도로 답변합니다. 초기 예측이 잘못될 가능성이 있을 때만 빠른 답변을 제공하거나 단계별 추론으로 확장할지 결정하기 위해 내장 라우터를 사용합니다.

  • 7,100개의 고정된 테스트 질문에서 평가한 결과, Dev-4B는 질문당 1.37초 만에 정확도 81.8%를 달성했습니다.
  • 이는 항상 빠른 답변(76.3%, 0.16초/질문)과 항상 추론하는 접근 방식(78.0%, 10.2초/질문)을 능가합니다.
  • 모델은 질문에 대해 활성화되는 LoRA 어댑터와 작은 라우터를 사용하며, MLX 8비트 빌드가 제공됩니다.

이 도구는 특히 Mac 인디 개발자를 위해 로컬 보정 및 오프라인 라우팅 실험에 설계되었습니다.