github llama.cpp · только что · inference

llama.cpp b11301 исправляет переполнение целочисленного типа в ggml/gguf

Переведено с English → Русский

Проект llama.cpp выпустил сборку b11301, которая включает исправление проблемы с переполнением целочисленного типа в компонентах ggml и gguf. Это обновление корректирует логику проверки для предотвращения потенциальных ошибок при работе с тензорами нулевого размера.

Исправлена защита от переполнения целочисленного типа для тензоров нулевого размера в ggml.
Проверяется количество элементов в тензорах для предотвращения переполнения целочисленного типа.
Исправлен вывод ошибок в модуле ggml.

Релиз предоставляет бинарные файлы для macOS, Linux, Windows, Android и openEuler для бэкендов CPU, GPU (CUDA, Vulkan, ROCm, OpenCL) и NPU.

Важность 1/3 Доверие 1/3 llama.cpp Inference efficiency Local inference

Оригинал

Похожие статьи

github llama.cpp · только что Live

llama.cpp b11302 исправляет гонку данных ThreadSanitizer в разреженном индексаторе

Проект llama.cpp выпустил сборку b111302, которая устраняет критическую проблему конкурентности, выявленную ThreadSanitizer в конвейере CI. Обновление решает гонку данных внутри механизма разреженного внимания, где несколько потоков CPU некорректно записывали данные в одни и те же элементы памяти.

github llama.cpp · 1 ч назад · 1 просмотр Live

llama.cpp b11298 добавляет поддержку dflash для конвертации и извлечения признаков

Проект llama.cpp выпустил сборку b11298, которая добавляет поддержку формата dflash. Это обновление позволяет как конвертировать модели в этот формат, так и выполнять последующее извлечение признаков.

github llama.cpp · 8 ч назад · 2 просмотра

llama.cpp b11284 исправляет GET_ROWS в OpenVINO для представлений квантованных весов

Проект llama.cpp выпустил сборку b11284, которая включает исправление бэкенда OpenVINO для корректной обработки операций GET_ROWS на представлениях квантованных весов.

github llama.cpp · 11 ч назад · 2 просмотра

llama.cpp добавляет поддержку GLM-5.3-Flash с исправлениями k-pool и MTP

Проект llama.cpp добавил начальную поддержку архитектуры модели GLM-5.3-Flash (GLM5-Next), включая миграцию на гибридную индексацию памяти и ранние возможности Multi-Token Prediction (MTP).

github llama.cpp · 14 ч назад · 2 просмотра

llama.cpp b11272 оптимизирует операцию конкатенации Hexagon

Проект llama.cpp выпустил сборку b11272, включающую оптимизации для бэкенда Hexagon. Основное изменение сосредоточено на оптимизации операции конкатенации для повышения производительности на оборудовании Qualcomm Snapdragon.