github llama.cpp · 2시간 전 · inference

mtmd가 ffmpeg를 통해 WebP 지원 추가

번역 English → 한국어

llama.cpp의 mtmd 구성 요소는 이제 ffmpeg 통합을 통해 WebP 이미지 형식을 지원합니다.

중요도 1/3 신뢰도 1/3 llama.cpp Inference efficiency

llama.cpp 프로젝트는 `ggml_rope_set_offset()` 함수를 사용하도록 모델 처리를 업데이트한 빌드 b10568을 출시했습니다. 이 변경은 DeepSeek 2 지원을 위해 부분적으로 적용되었습니다.

llama.cpp 프로젝트가 ggml 라이브러리와의 동기화를 버전 0.21.0으로 업그레이드한 버전 0.2.0을 출시했습니다. 이 업데이트는 다양한 하드웨어 플랫폼 전반에 걸쳐 여러 백엔드 개선 사항과 새로운 기능을 도입합니다.

Celestium Engine은 낮은 VRAM 환경에서 SDXL 성능을 향상시키기 위해 여러 업그레이드를 도입했습니다. 이러한 변경 사항은 메모리 관리, 안정성, 그리고 제한된 시스템에서도 일관된 생성을 보장하기 위한 폴백 메커니즘에 중점을 둡니다.

llama.cpp 프로젝트가 버전 b10549를 출시했으며, 이는 주로 LFM2 및 LFM2MOE 모델에서 텐서 분할 지원을 도입합니다.

vLLM 프로젝트는 DFlash2 추측 디코딩 기능을 포함하는 버전 0.28.0rc2를 출시했습니다.