github llama.cpp · 2시간 전 · inference

llama.cpp b10598 pillow-accurate 리사이즈 알고리즘을 사용하고 모든 모델의 resize_algo를 수정

번역 English → 한국어

llama.cpp 프로젝트는 mtmd 모듈에 pillow-accurate 리사이즈 알고리즘을 사용하고 모든 모델의 resize_algo를 수정하는 빌드 b10598을 출시했습니다. 이 릴리스에는 속도 최적화도 포함되어 있습니다.

이 업데이트는 mtmd 모듈에서 더 정확한 이미지 리사이즈를 보장하고 macOS, iOS, Linux, Windows, Android 및 openEuler에서 llama.cpp를 실행하는 사용자의 성능을 향상시킵니다.

중요도 1/3 신뢰도 1/3 llama.cpp Inference efficiency Local inference

llama.cpp 프로젝트는 DeepseekV4 모델 아키텍처와 관련된 중대한 문제를 해결한 빌드 b10593을 출시했습니다. 이 업데이트는 다중 시퀀스 처리 중에 발생한 롤백 실패를 구체적으로 해결합니다.

llama.cpp 프로젝트는 빌드 b10584를 출시하여 초안 컨텍스트 크기가 대상 컨텍스트와 일치하지 않아 서버 요청이 500 오류로 실패하는 중대한 문제를 해결했습니다.

llama.cpp 프로젝트는 `ggml_rope_set_offset()` 함수를 사용하도록 모델 처리를 업데이트한 빌드 b10568을 출시했습니다. 이 변경은 DeepSeek 2 지원을 위해 부분적으로 적용되었습니다.

Celestium Engine은 낮은 VRAM 환경에서 SDXL 성능을 향상시키기 위해 여러 업그레이드를 도입했습니다. 이러한 변경 사항은 메모리 관리, 안정성, 그리고 제한된 시스템에서도 일관된 생성을 보장하기 위한 폴백 메커니즘에 중점을 둡니다.

llama.cpp 프로젝트는 빌드 b10541을 출시하여 멀티모달 투영 파일을 로드할 장치 백엔드를 사용자가 지정할 수 있도록 하는 `--mmproj-device` 명령줄 인수를 도입했습니다.