github llama.cpp · 13시간 전 · inference

llama.cpp b10754, Adreno 이미지 커널의 OpenCL 경계 밖 읽기 수정

번역 English → 한국어

llama.cpp 프로젝트는 이미지 처리 커널에서 경계 밖 메모리 읽기를 방지하기 위해 Adreno GPU용 OpenCL에 대한 중요한 수정 사항을 포함한 빌드 b10754를 출시했습니다.

이 업데이트는 Adreno 하드웨어에서 OpenCL 가속과 함께 llama.cpp를 실행하는 사용자에게 안정성과 정확성을 보장합니다.

중요도 1/3 신뢰도 1/3 llama.cpp Inference efficiency

llama.cpp 프로젝트는 DeepSeek 4 모델의 입력 비전을 올바르게 지원하기 위한 수정 사항을 포함한 빌드 b10766을 출시했습니다.

llama.cpp 프로젝트에서 DeepSeek-V4-Flash-Vision-Exp 모델에 대한 지원을 도입한 빌드 b10762를 출시했습니다. 이 업데이트에는 명령줄 인터페이스를 통한 최소 및 최대 토큰 수 처리도 포함되어 있습니다.

llama.cpp 프로젝트는 `preserve_reasoning` 채팅 템플릿 키워드 인수의 기본 동작을 변경하는 빌드 b10763을 출시했습니다. 서버는 이제 이 kwarg의 유효 상태를 로깅하고 지원되는 템플릿에서 기본적으로 활성화된 경우 경고를 발행합니다.

llama.cpp 프로젝트는 빌드 b10760을 출시했으며, 이는 추론 중 수치적 불안정성을 방지하기 위해 Qwen3-tts-0.6B 모델에 대한 특정 수정을 포함합니다.

llama.cpp 프로젝트가 빌드 b10758을 출시하며 Hexagon DSP에 대한 MUL_MAT 및 MUL_MAT_ID 융합 기능을 도입했습니다. 이 업데이트에는 Qualcomm 하드웨어의 안정성과 성능을 개선하기 위한 여러 수정 사항도 포함되어 있습니다.