Metal 백엔드가 concat 연산자에 f16 및 bf16 지원 추가
llama.cpp의 Metal 백엔드는 기존 f32 및 i32 지원을 추가로 사용하여 concat 연산자에 대한 f16 및 bf16 텐서 유형을 지원하도록 확장되었습니다. 이 업데이트에는 전용 커널 템플릿, 업데이트된 파이프라인 getter, 개선된 유형 기반 커널 디스패치가 포함되며, pi:llama.cpp/Qwen3.6-27B의 도움으로 구현되었습니다.
llama.cpp의 Metal 백엔드는 기존 f32 및 i32 지원을 추가로 사용하여 concat 연산자에 대한 f16 및 bf16 텐서 유형을 지원하도록 확장되었습니다. 이 업데이트에는 전용 커널 템플릿, 업데이트된 파이프라인 getter, 개선된 유형 기반 커널 디스패치가 포함되며, pi:llama.cpp/Qwen3.6-27B의 도움으로 구현되었습니다.
llama.cpp 버전 b9690은 기존 rope 커널을 재사용하고 함수 상수를 사용하여 전진/후진 회전을 전환하여 구현된 rope_back 연산자를 도입했습니다. 이번 릴리스에는 macOS, Linux, Android, Windows 및 openEuler 에 대한 사전 빌드된 바이너리가 포함되어 있으며, Vulkan, CUDA, ROCm, OpenVINO 및 SYCL 을 포함한 여러 아키텍처와 하드웨어 가속 옵션을 지원합니다.
llama.cpp version b9687 introduces new binaries for macOS, Linux, Android, Windows, and openEuler across multiple architectures. The release includes support for Vulkan, ROCm, OpenVINO, SYCL, and HIP, with updates to improve device validation and performance on available hardware.
llama.cpp가 모델 관리 및 SSE 실시간 업데이트 API를 추가한 버전 b9688을 출시했습니다. 이번 릴리스에는 macOS, Linux, Android, Windows, openEuler용 사전 빌드된 바이너리가 포함되어 있으며, Vulkan, CUDA, OpenVINO, SYCL 등 다양한 아키텍처와 가속 프레임워크를 지원합니다.
LLaMA.cpp version b9685 introduces SYCL-based dev2dev memcpy functionality, moving GGML_SYCL_DEV2DEV_MEMCPY to runtime table and improving peer-to-peer communication detection. The release includes precompiled binaries for macOS, Linux, Android, Windows, and openEuler across multiple architectures and APIs including Vulkan, ROCm, OpenVINO, and SYCL (FP32/FP16).
llama.cpp 버전 b9686은 Eagle3 모델에서 긴 프롬프트 사용 시 발생하는 세그폴트 오류를 수정했습니다. 이번 릴리스에는 macOS, Linux, Android, Windows 및 openEuler용 바이너리가 포함되어 있으며, Vulkan, CUDA, OpenVINO 및 SYCL을 포함한 여러 아키텍처와 하드웨어 가속 옵션을 지원합니다.
LLaMA.cpp release b9684 introduces a new 3D convolution operation (conv_3d) and includes optimized implementations. The release provides prebuilt binaries for macOS, Linux, Android, Windows, and openEuler across various architectures and hardware acceleration options, including SYCL, Vulkan, CUDA, and OpenVINO.
llama.cpp 버전 b9682는 Linux 및 Windows에 대한 Vulkan 지원을 도입하여 GPU 가속을 가능하게 합니다. 이번 릴리스에는 macOS, Linux, Android, Windows, openEuler용 바이너리가 여러 아키텍처에 포함되어 있으며, CPU 및 GPU 옵션으로 CUDA, OpenVINO, SYCL, ROCm이 포함됩니다.
LLaMA.cpp b9678 릴리즈에는 decode를 위한 mul_mat_f16_f32_l4 최적화가 포함되어 있으며 macOS, Linux, Android, Windows, openEuler용 새로운 빌드가 도입되었습니다. 이 릴리즈는 여러 아키텍처에서 CPU, Vulkan, ROCm, OpenVINO, SYCL, HIP 지원을 제공하며 전용 UI 패키지도 제공됩니다.
llama.cpp 버전 b9677은 로깅을 업데이트하여 max_capacity를 강제하고 큐 확장 로직을 제거했습니다. 이 릴리스에는 macOS, Linux, Android, Windows 및 openEuler용 바이너리가 포함되어 있으며, Vulkan, CUDA, OpenVINO 및 SYCL을 포함한 여러 아키텍처와 하드웨어 가속 옵션을 지원합니다.
LLaMA.cpp 버전 b9674는 MoE prefill 중 SYCL의 async memcpy에서 use-after-free 버그를 수정했습니다. 이번 릴리스에는 macOS, Linux, Android, Windows, openEuler용 바이너리가 포함되어 있으며, 여러 아키텍처에서 CPU, Vulkan, ROCm, OpenVINO, SYCL, CUDA를 지원합니다.
llama.cpp 버전 b9675은 SQR, SQRT, LOG, SIN, COS, CLAMP 등의 연산에 대해 FP16 지원을 활성화했습니다. 이번 릴리즈에는 macOS, Linux, Android, Windows, openEuler 에 대한 바이너리가 여러 아키텍처에서 제공되며, Vulkan, ROCm, OpenVINO, SYCL (FP16 및 FP32), CUDA 12.4 및 13.3 을 지원합니다.
llama.cpp는 macOS, Linux, Android, Windows 및 openEuler를 위한 업데이트된 Vulkan 지원과 새로운 바이너리를 포함하는 버전 b9680을 출시했습니다. 이 릴리스에는 Vulkan, CUDA, OpenVINO, SYCL 및 ROCm을 지원하는 여러 아키텍처용 CPU 및 GPU 변형이 포함되어 있습니다.
llama.cpp 버전 b9673은 GPU 버퍼 ≥1GB에 대한 선택적 USM 시스템 할당을 도입하여 장치 지원이 사용 가능한 경우 VRAM 오버커밋을 활성화합니다. 이 기능에는 GGML_SYCL_USM_SYSTEM 환경 변수가 필요하며 기본적으로 비활성화되어 있고 지원되지 않으면 일반 할당으로 폴백됩니다.
v2.1.179는 중간 연결 끊김, WSL2의 마우스 휠 스크롤 문제, 과도한 Bash 도구 설명을 유발하는 샌드박스 글롭 버그를 수정합니다. 또한 피드백 설문 조사 오류, 프로모션 배너 중첩, 서브에이전트 뷰의 포커스 문제를 해결하고 원격 세션에서 플러그인 로드를 개선합니다.
llama.cpp가 버전 b9660을 출시하여 LFM2 도구 호출 파싱의 이중 이스케이프 문제를 수정했습니다. 이번 업데이트에는 macOS, Linux, Android, Windows 및 openEuler용 바이너리가 포함되어 있으며, 여러 아키텍처와 하드웨어 가속 옵션을 지원하고 전용 UI 패키지도 제공됩니다.
호환되는 API 버전 범위를 지원하는 langgraph-cli 버전 0.4.30이 출시되었습니다. 이번 릴리스는 문서화의 일관성을 개선하기 위해 표준화된 README.md 구조도 포함합니다.
Claude v2.1.178은 Tool(param:value) 구문을 사용한 새로운 권한 규칙, 중첩 디렉토리에서의 개선된 워크플로우 및 스킬 로딩, 향상된 자동 모드 및 오류 메시지를 도입합니다. 또한 충돌, 인증 오류, Chrome 및 VSCode의 UI 동작 등 중요한 문제를 수정하고 도구 프롬프트와 실행 취소 기능을 다듬었습니다.
llama.cpp가 버전 b9672를 출시하여 BoringSSL을 0.20260616.0으로 업데이트했습니다. 이 릴리스에는 macOS, Linux, Android, Windows 및 openEuler용 바이너리가 포함되어 있으며 Vulkan, CUDA, ROCm, OpenVINO 및 SYCL을 포함한 여러 아키텍처와 하드웨어 가속 옵션을 지원합니다.
버전 1.38.0에 대한 릴리스 브랜치가 생성되었습니다. 이는 업데이트의 릴리스 프로세스 시작을 알립니다.