llama.cpp 프로젝트는 Deepseek 4 (DSV4) 모델 형식에 대한 지원과 macOS 및 iOS용 새로운 사전 컴파일된 바이너리를 도입한 버전 b10604를 출시했습니다.
- 헤드 분할에 대해 더 큰 세분성을 가진 Deepseek 4 (DSV4) sm 텐서 지원을 추가하고 dspark에 대한 수정 사항을 포함합니다.
- DSV4에 대한 모델 저장을 활성화하고 특정 장치에서 dflash가 반환되도록 합니다.
- 공유 전문가의 지연 allreduce 기능을 포함합니다.
- macOS Apple Silicon 바이너리, iOS XCFrameworks, 그리고 CPU, GPU 및 전용 백엔드를 위한 Linux, Windows, Android 및 openEuler용 업데이트된 바이너리를 제공합니다.
이 릴리스를 통해 사용자는 llama.cpp를 사용하여 Deepseek 4 모델을 실행할 수 있으며 Apple 기기를 위한 업데이트된 네이티브 빌드를 제공합니다.