github llama.cpp · 13일 전

llama.cpp 릴리스 b9700: 새로운 바이너리 및 SYCL API 업데이트

llama.cpp 버전 b9700 은 이름이 변경된 API 플래그와 함께 업데이트된 SYCL 지원을 도입했습니다. GGML_SYCL_SUPPORT_LEVEL_ZERO 가 GGML_SYCL_SUPPORT_LEVEL_ZERO_API 로, GGML_SYCL_ENABLE_LEVEL_ZERO 가 GGML_SYCL_USE_LEVEL_ZERO_API 로 이름이 변경되었습니다. 이 릴리스에는 macOS, Linux, Android, Windows 및 openEuler 에 대한 바이너리가 포함되어 있으며 Vulkan, ROCm, OpenVINO 및 SYCL 을 포함한 여러 아키텍처와 하드웨어 가속 옵션을 지원합니다.

github llama.cpp · 13일 전

LLaMA.cpp b9698 릴리스, 자체 업데이트 지원 및 다중 플랫폼 바이너리 추가

LLaMA.cpp 버전 b9698은 llama-install.sh로 빌드된 경우에만 자체 업데이트를 활성화합니다. 이번 릴리스에는 macOS, Linux, Android, Windows, openEuler용 바이너리가 포함되어 있으며, Vulkan, CUDA, OpenVINO, SYCL을 포함한 여러 아키텍처 및 하드웨어 가속 옵션을 지원합니다.

github llama.cpp · 13일 전

llama.cpp Release b9699 Adds SYCL Support and Multiple Platform Binaries

llama.cpp version b9699 introduces support for MUL_MAT and OUT_PROD operations with Q1_0 precision via PR #24721. The release includes precompiled binaries for macOS, Linux, Android, Windows, and openEuler across multiple architectures and acceleration frameworks, including SYCL (FP32 and FP16), Vulkan, CUDA, ROCm, and OpenVINO.

github llama.cpp · 13일 전

LLaMA.cpp b9697 출시: 새로운 바이너리 및 업데이트

LLaMA.cpp는 macOS, Linux, Android, Windows, openEuler용 업데이트된 바이너리를 포함한 버전 b9697을 출시했습니다. 이번 릴리스에는 ARM64, x64, Vulkan, CUDA 12 및 13, OpenVINO, SYCL, ROCm에 대한 지원이 포함되어 있으며, 릴리스 확인 중 메시지 파싱 문제가 수정되었습니다.

github llama.cpp · 13일 전

llama.cpp 릴리스 b9693, BF16 지원 및 크로스 플랫폼 바이너리 추가

llama.cpp 버전 b9693은 concat 커널에 BF16 지원을 도입하고 macOS, Linux, Android, Windows, openEuler용 사전 빌드된 바이너리를 제공합니다. 이 릴리스에는 CPU, Vulkan, ROCm, OpenVINO, SYCL, HIP 변형이 여러 아키텍처를 통해 제공되며, 전용 UI 패키지도 제공됩니다.

github llama.cpp · 13일 전

llama.cpp가 여러 플랫폼용 새 바이너리와 함께 버전 b9694 출시

llama.cpp는 macOS, Linux, Android, Windows 및 openEuler용 바이너리를 포함하는 버전 b9694를 출시했습니다. 이 릴리스는 CUDA, Vulkan, OpenVINO, SYCL 및 ROCm 등 다양한 아키텍처와 가속 옵션을 지원합니다. 또한 Windows x64 OpenVINO 릴리스 링크에 대한 수정도 구현되었습니다.

lab Claude Code Releases · 14일 전

Claude Code v2.1.181 릴리스 노트

Claude Code v2.1.181은 /config thinking=false와 같은 프롬프트 구문을 통해 구성 설정을 지정하는 기능을 지원하고, macOS에서 샌드박스 Apple Events 지원을 추가하며, 스트리밍, 자동 재시도 및 서브에이전트 동작을 개선했습니다. 또한 여러 플랫폼에서 시작, 파일 처리, 클립보드 및 UI 응답성과 관련된 수많은 버그를 수정했습니다.

github llama.cpp · 14일 전

ggml-cpu: 컴파일러 지원에 따라 POWER11 백엔드 조건부 활성화

ggml-cpu 프로젝트는 이제 -mcpu=power11 에 대한 컴파일러 지원을 기반으로 ggml 에서 POWER11 백엔드를 조건부로 활성화합니다. 이는 현재 GCC/Clang 툴체인에서의 빌드 실패를 방지하면서 미래 호환성을 유지합니다. CMakeLists.txt 의 업데이트가 이 변경을 지원하며, P10 및 P11 아키텍처 모두에 -mcpu=power10 이 사용됩니다.

github llama.cpp · 14일 전

llama.cpp Release b9692 Adds New Binaries and Fixes

llama.cpp version b9692 introduces new binaries for macOS, Linux, Android, Windows, and openEuler across multiple architectures. The release includes updates to support Vulkan, ROCm, OpenVINO, SYCL, and HIP, with fixes to remove batch dim usage in llava_uhd.

github llama.cpp · 14일 전

Metal 백엔드가 concat 연산자에 f16 및 bf16 지원 추가

llama.cpp의 Metal 백엔드는 기존 f32 및 i32 지원을 추가로 사용하여 concat 연산자에 대한 f16 및 bf16 텐서 유형을 지원하도록 확장되었습니다. 이 업데이트에는 전용 커널 템플릿, 업데이트된 파이프라인 getter, 개선된 유형 기반 커널 디스패치가 포함되며, pi:llama.cpp/Qwen3.6-27B의 도움으로 구현되었습니다.

github llama.cpp · 14일 전

llama.cpp, rope_back 연산자와 크로스 플랫폼 바이너리가 포함된 b9690 출시

llama.cpp 버전 b9690은 기존 rope 커널을 재사용하고 함수 상수를 사용하여 전진/후진 회전을 전환하여 구현된 rope_back 연산자를 도입했습니다. 이번 릴리스에는 macOS, Linux, Android, Windows 및 openEuler 에 대한 사전 빌드된 바이너리가 포함되어 있으며, Vulkan, CUDA, ROCm, OpenVINO 및 SYCL 을 포함한 여러 아키텍처와 하드웨어 가속 옵션을 지원합니다.

github llama.cpp · 14일 전

llama.cpp Release b9687 Adds New Binaries and Fixes

llama.cpp version b9687 introduces new binaries for macOS, Linux, Android, Windows, and openEuler across multiple architectures. The release includes support for Vulkan, ROCm, OpenVINO, SYCL, and HIP, with updates to improve device validation and performance on available hardware.

github llama.cpp · 14일 전

llama.cpp, 새 API와 크로스 플랫폼 바이너리가 포함된 버전 b9688 출시

llama.cpp가 모델 관리 및 SSE 실시간 업데이트 API를 추가한 버전 b9688을 출시했습니다. 이번 릴리스에는 macOS, Linux, Android, Windows, openEuler용 사전 빌드된 바이너리가 포함되어 있으며, Vulkan, CUDA, OpenVINO, SYCL 등 다양한 아키텍처와 가속 프레임워크를 지원합니다.

github llama.cpp · 14일 전

LLaMA.cpp Release b9685 Adds SYCL Dev2Dev Memcpy and Multiple Platform Binaries

LLaMA.cpp version b9685 introduces SYCL-based dev2dev memcpy functionality, moving GGML_SYCL_DEV2DEV_MEMCPY to runtime table and improving peer-to-peer communication detection. The release includes precompiled binaries for macOS, Linux, Android, Windows, and openEuler across multiple architectures and APIs including Vulkan, ROCm, OpenVINO, and SYCL (FP32/FP16).

github llama.cpp · 14일 전

llama.cpp b9686 릴리스: Eagle3의 긴 프롬프트에서 세그폴트 수정

llama.cpp 버전 b9686은 Eagle3 모델에서 긴 프롬프트 사용 시 발생하는 세그폴트 오류를 수정했습니다. 이번 릴리스에는 macOS, Linux, Android, Windows 및 openEuler용 바이너리가 포함되어 있으며, Vulkan, CUDA, OpenVINO 및 SYCL을 포함한 여러 아키텍처와 하드웨어 가속 옵션을 지원합니다.

github llama.cpp · 14일 전

LLaMA.cpp Release b9684 Adds Conv_3D and Multiple Platform Binaries

LLaMA.cpp release b9684 introduces a new 3D convolution operation (conv_3d) and includes optimized implementations. The release provides prebuilt binaries for macOS, Linux, Android, Windows, and openEuler across various architectures and hardware acceleration options, including SYCL, Vulkan, CUDA, and OpenVINO.

github llama.cpp · 14일 전

llama.cpp b9682 릴리스, Vulkan 지원 및 새 플랫폼 바이너리 추가

llama.cpp 버전 b9682는 Linux 및 Windows에 대한 Vulkan 지원을 도입하여 GPU 가속을 가능하게 합니다. 이번 릴리스에는 macOS, Linux, Android, Windows, openEuler용 바이너리가 여러 아키텍처에 포함되어 있으며, CPU 및 GPU 옵션으로 CUDA, OpenVINO, SYCL, ROCm이 포함됩니다.

github llama.cpp · 14일 전

LLaMA.cpp b9678 릴리즈에 최적화 및 크로스 플랫폼 빌드 추가

LLaMA.cpp b9678 릴리즈에는 decode를 위한 mul_mat_f16_f32_l4 최적화가 포함되어 있으며 macOS, Linux, Android, Windows, openEuler용 새로운 빌드가 도입되었습니다. 이 릴리즈는 여러 아키텍처에서 CPU, Vulkan, ROCm, OpenVINO, SYCL, HIP 지원을 제공하며 전용 UI 패키지도 제공됩니다.

github llama.cpp · 14일 전

llama.cpp b9677 릴리스: 업데이트 및 크로스 플랫폼 바이너리

llama.cpp 버전 b9677은 로깅을 업데이트하여 max_capacity를 강제하고 큐 확장 로직을 제거했습니다. 이 릴리스에는 macOS, Linux, Android, Windows 및 openEuler용 바이너리가 포함되어 있으며, Vulkan, CUDA, OpenVINO 및 SYCL을 포함한 여러 아키텍처와 하드웨어 가속 옵션을 지원합니다.

github llama.cpp · 14일 전

LLaMA.cpp b9674 릴리스: 비동기 memcpy 버그 수정 및 새 바이너리 추가

LLaMA.cpp 버전 b9674는 MoE prefill 중 SYCL의 async memcpy에서 use-after-free 버그를 수정했습니다. 이번 릴리스에는 macOS, Linux, Android, Windows, openEuler용 바이너리가 포함되어 있으며, 여러 아키텍처에서 CPU, Vulkan, ROCm, OpenVINO, SYCL, CUDA를 지원합니다.