Релиз llama.cpp b10306 вносит оптимизации производительности для бэкенда SYCL, конкретно направленные на операции Gated Linear Unit (GLU). Обновление добавляет непрерывный быстрый путь для объединённых операций GLU и объединяет ранее различные ядра для использования общего загрузчика.
Релиз llama.cpp b10255 расширяет путь oneDNN SDPA для поддержки не-FP16 ключ-значения (KV) кэшей, включая форматы квантования Q4_0–Q8_0 и FP32. Это обновление позволяет слитому систолическому ядру выполняться идентично нативному пути FP16 за счёт деквантования или преобразования тензоров K/V в плотный FP16 на устройстве перед обработкой.
Lucebox объединила усилия с AMD для демонстрации гетерогенной конфигурации потребительского оборудования, которая превосходит Nvidia DGX Spark по скорости вывода. Система сочетает GPU AMD Radeon AI PRO R9700 и процессор Strix Halo для запуска полной модели DeepSeek V4 Flash на 284B.
В статье утверждается, что утилизация GPU, а не интеллект моделей, стала основным ограничением в корпоративном ИИ, проводя параллели с утилизацией авиалайнеров, где расходы накапливаются почасово независимо от использования.
Пейшенс Стронг утверждает, что современные нейросети потребляют чрезмерную вычислительную мощность, эмулируя схемы в программном обеспечении, а не реализуя их в виде физического оборудования. В статье предлагается заменить эту эмуляцию полупроводниковым устройством, где веса и смещения хранятся в энергонезависимой памяти.
Ai2 запустила платформу OlmoEarth — инфраструктурную систему, предназначенную для перевода моделей-основателей наблюдения за Землёй от тонкой настройки к выводу крупного масштаба. Платформа решает инженерные задачи обработки терабайтов мультимодальных спутниковых данных от нескольких поставщиков и с различным разрешением.
Moonshot выложила веса своей модели Kimi K3 на Hugging Face. Модель имеет 2,8 триллиона параметров и архитектуру mixture-of-experts с 16 активными экспертами на токен. Команда планирует развернуть модель на GPU A100, H200 и B300, результаты бенчмарков ожидаются на этой неделе.
Проект llama.cpp выпустил версию b10099, которая включает значительное обновление бэкенда CUDA для улучшенного квантования активаций NVFP4 W4A4.
IBM подписала окончательное соглашение о приобретении HRL Laboratories, исторического исследовательского института с почти 80-летним вкладом в науку. Целью приобретения является ускорение реализации видения IBM в области квантовых вычислений за счет интеграции передовой экспертизы HRL в инженерии спиновых кубитов на кремнии.
Компании AMD и Anthropic подписали крупное соглашение, касающееся десятков миллиардов долларов на серверы для ИИ, при этом Anthropic закупит до 2 гигаватт чипов AMD Instinct MI450 начиная с первой половины следующего года. Параллельно AMD инвестирует до $5 млрд в Anthropic по мере выполнения конкретных этапов развертывания, а обе компании совместно работают над определением подходящих центров обработки данных для оборудования.
SLAI представляет T-Rex — сквозную оптимизационную платформу для полного параметрического постобучения моделей MoE триллионного масштаба на суперкластере NPU Ascend. Используя семейство моделей DeepSeek-V4 в качестве целевой нагрузки, система решает проблемы с памятью и накладными расходами на коммуникацию за счёт иерархического параллелизма и оптимизации выполнения ядер.
SLAI представляет T-Rex, сквозную оптимизационную рамку для полного параметрического постобучения MoE-моделей триллионного масштаба на Ascend NPU SuperPOD. Используя семейство моделей DeepSeek-V4 в качестве целевой рабочей нагрузки, система решает проблемы с давлением памяти и накладными расходами на коммуникацию за счёт иерархического параллелизма и оптимизаций выполнения ядер.
Министерство энергетики США (DoE) выбрало IBM для руководства проектом в рамках запроса заявок миссии Genesis, обязавшись предоставить доступ к квантовым вычислениям на сумму до $50 млн для поддержки этой инициативы.
OpenAI объявила подробности о проекте Project Camellia, долгосрочном проекте центра обработки данных в округе Эффингем, штат Джорджия, outlining свои первоначальные обязательства перед сообществом в отношении электроэнергии, воды и локальных выгод. Компания заключила контракт с Georgia Power Company на 3.2 гигаватта мощности, которые будут поставляться в период с 2028 по 2032 год.
Этот дайджест TLDR AI освещает несколько событий в индустрии искусственного интеллекта, включая новое оборудование, программных агентов и оптимизацию маршрутизации.
Компании Together AI и Y Combinator объявили о партнёрстве, направленном на предоставление первого выделенного GPU-кластера исключительно для портфеля AI-native стартапов Y Combinator. Эта инициатива призвана решить критическую проблему доступа к вычислительным ресурсам за счёт предоставления гибкой и экономически эффективной инфраструктуры для обучения и вывода моделей без необходимости долгосрочных обязательств.
Китайская компания искусственного интеллекта Moonshot AI стала первой в Китае, исчерпавшей мощности GPU. В связи с этим компания приняла решение приостановить оформление новых подписок и отменить бесплатный доступ для пользователей.
Together AI подробно описывает специфические архитектурные требования, необходимые для достижения различных уровней надежности при GPU-инференсе, утверждая, что стандартные показатели SLA часто скрывают реальные домены отказов.
NVIDIA описывает, как экстремальное со-проектирование с её процессорами BlueField может решить инфраструктурные проблемы, вызванные рабочими нагрузками Agentic AI. Компания утверждает, что по мере того как агентные системы запускают сложные цепочки вызовов моделей, взаимодействий с инструментами и поиска данных, традиционные инфраструктурные паттерны становятся недостаточными для поддержания производительности.
NVIDIA ввела новую инструкцию PTX для умножения без переноса в CUDA 13.3, устраняя давний пробел: несмотря на наличие этой операции на процессорах x86 уже более пятнадцати лет, графические процессоры не имели нативной поддержки.