media r/LocalLLaMA · 45 д назад · open_models

Prism-ML выпустила контрольные точки GGUF Bonsai Qwen 3.6 27B

Переведено с English → Русский

Prism-ML выпустила модель Ternary-Bonsai-27B, доступную в виде контрольных точек GGUF на Hugging Face.

Выпуск представляет собой вариант архитектуры Qwen 3.6 с 27 миллиардами параметров, оптимизированный для локального вывода через формат GGUF.

Важность 1/3 r/LocalLLaMA Hugging Face

Оригинал

llama.cpp b10677 исправляет ошибку зависимости alias-представления Vulkan

Выпуск llama.cpp b10677 устраняет критическую ошибку во внутреннем механизме Vulkan, из-за которой отсутствие зависимостей alias-представлений приводило к некорректной перестановке узлов оптимизатором графа.

github llama.cpp · 2 ч назад · 1 просмотр

llama.cpp b10676 исправляет conv_transpose_2d для нескольких пакетов в ggml и Metal

Выпуск llama.cpp b10676 исправляет ошибку в `conv_transpose_2d`, где вычислялся только первый пакет, а последующие оставались нулевыми. Это исправление применяется как к основной библиотеке ggml, так и к реализации бэкенда Metal.

github llama.cpp · 4 ч назад · 1 просмотр

llama.cpp b10673 добавляет настройки fa-vec для Apple M4

Проект llama.cpp выпустил сборку b10673, включающую специфические оптимизации производительности для аппаратного обеспечения Apple M4. Это обновление вводит записи fa_vec_tuned_table в модуль ggml-metal-tuning для повышения эффективности бэкенда Metal.

github llama.cpp · 5 ч назад · 2 просмотра

llama.cpp b10670 направляет декодирование квантованного KV на TILE для Xe2 (BMG)

Проект llama.cpp выпустил версию b10670, которая включает специфическую оптимизацию для архитектуры Intel Xe2. Обновление перенаправляет операцию декодирования квантованных ключей и значений (KV) исключительно на бэкенд TILE для оборудования BMG, сохраняя бэкенд VEC для других архитектур до их валидации.

github llama.cpp · 6 ч назад · 3 просмотра

llama.cpp b10672 добавляет поддержку Whisper.cpp, включение NPU для Qwen3.5 и обновление OpenVINO 2026.3.1

Проект llama.cpp выпустил сборку b10672, которая обновляет бэкенд OpenVINO до версии 2026.3.1 и добавляет поддержку моделей Whisper.cpp на NPU.