Turboderp가 ExLlamaV3에 중요한 업데이트를 출시하여 Mixture of Experts (MoE) 전문가에 대한 CPU 오프로드 기능을 도입했습니다. 이 업데이트에는 새로 출시된 GLM-5.3-Flash 및 Qwen3.8-Flash 모델에 대한 지원도 포함되어 있습니다.
- MoE 전문가 전용 CPU 오프로드 구현.
- ngram 디스크 오프로드 기능이 있는 Qwen-3.8-Flash-Next 지원.
- exl3 형식을 통한 GLM-5.3-Flash 통합.
- 새로운 자체 교정 최적화 기술 도입.
- 엔진에 대한 기타 다양한 최적화 및 개선.
이러한 업데이트는 ExLlamaV3의 하드웨어 유연성과 모델 호환성을 확장하여 사용자가 특정 모델 구성 요소에 CPU 리소스를 활용할 수 있도록 합니다.