Fireworks AI는 Moonshot AI의 오픈 가중치 Kimi K3에 사후 학습을 적용하여 작업 정확도를 유지하면서 더 짧은 추론 과정을 생성하도록 설계된 특수 모델인 Ember-1을 출시했습니다. 단순히 추론 시 추론 노력 설정을 낮추는 것과 달리, Ember-1은 불필요한 추론과 비생산적인 루프를 제거하도록 훈련되었습니다.

  • Ember-1은 평가 전반에 걸쳐 약 40% 적은 토큰으로 Kimi K3의 품질을 제공합니다.
  • Terminal Bench 2.1(82.0%)과 DeepSWE 1.1(75.2%)에서 K3 Max를 앞지르며, SWE-bench Verified에서는 약간 뒤처집니다(92.2%).
  • 프로덕션 A/B 테스트 결과, 작업당 출력 토큰이 49.3K에서 29.9K로 감소했으며 점수는 0.753으로 0.751과 유사했습니다.
  • 해당 모델은 Fireworks 서버리스 API를 통해서만 연구용 미리보기로 제공되며, 가중치와 훈련 코드는 공개되지 않았습니다.

이 접근 방식은 정확도를 희생하지 않고 토큰 사용량을 줄여 고객들이 K3의 코딩 기능에 더 낮은 비용으로 접근할 수 있게 합니다.