NVIDIA представила PAIR, инструмент, предназначенный для помощи пользователям в подключении старого оборудования к персональному ИИ-кластеру. Эта инициатива направлена на использование существующих устройств для локального выполнения ИИ-задач.
Проект позволяет частным лицам использовать накопленные аппаратные ресурсы для задач искусственного интеллекта.
FlashAttention-4 решает проблемы производительности тензорных ядер 4-битной плавающей точки (FP4) архитектуры Blackwell, внедряя новые пути для некаузального вывода и каузального обучения. Метод, названный Direct-P, напрямую отображает оценки в вероятности FP4, чтобы обойти накладные расходы на преобразование softmax, которые обычно доминируют при уменьшении размеров матричных произведений.
NVIDIA запланировала выпуск своих графических процессоров нового поколения Vera Rubin на середину 2027 года. Компания ожидает продать оборудования Vera Rubin на сумму 20 миллиардов долларов в текущем квартале, что составит 20 процентов от её выручки от центров обработки данных.
Perplexity выпустила Portable Computer, локально-ориентированную версию своей агентной платформы, которая запускает агентный фреймворк, оркестратор, планировщик, маршрутизатор инструментов и дообученные модели непосредственно на оборудовании NVIDIA DGX Spark. Эта упакованная система позволяет начинать выполнение каждой задачи на устройстве, не взимая платы за каждый токен за работу, выполняемую локальными моделями, при этом передавая только определенные шаги в облако с использованием более чем 15 моделей после одобрения пользователя.
NVIDIA выпустила CUDA Python 1.0, обеспечивающую единую основу для вычислений на GPU в Python. Этот релиз добавляет стабильные API к платформе.
OpenAI опубликовала предварительные результаты производительности Jalapeño, своего первого собственного чипа для вывода моделей, демонстрирующие значительное улучшение скорости и энергоэффективности по сравнению с существующими коммерческими системами. Компания заявляет, что новая архитектура позволяет одновременно достигать более высокой пропускной способности и меньшей задержки, решая типичный компромисс в современном аппаратном обеспечении.
Мы используем cookie для аналитики и улучшения сайта. Вы можете принять или отклонить аналитические cookie. Политика конфиденциальности