SplitMoE — это альтернативная архитектура Mixture of Experts, которая разбивает широкие слои прямого распространения на меньшие специализированные подкомпоненты для повышения гибкости представления токенов и вычислительной модульности.
Генератор состояния мира (WSG) — это модель, которая удерживает планы языковых агентов в соответствии с правилами их среды выполнения, переписывая состояния после неудач. Она обучена на 226K траекториях, извлечённых из семи синтетических доменов, где программа обеспечивает соблюдение правил и проверяет достижимость цели.
Авторы представляют Fathom-Vaidya, модель с 30B параметров, которая использует синтетические данные и подкрепляющее обучение на основе рубрик для улучшения диагностического и клинического рассуждения в здравоохранении. Процесс обучения сначала применяет RL, управляемый правилами, к вопросам из MedBullets для диагностики, а затем использует 5.3k синтетических многошаговых сценариев с многомерными рубриками для интерактивных клинических задач.
Джен Вэй столкнулся со спиралью смерти скорости обучения при тестировании AdamW, Muon и последней реализации Dion3 в OLMo-core для предстоящего доклада на конференции PyTorch.
Авторы представляют Fathom-Vaidya, модель с 30B параметров, которая использует синтетические данные и подкрепляющее обучение на основе рубрик для улучшения как диагностического, так и клинического медицинского рассуждения. Процесс обучения сначала направлен на повышение точности диагностики с использованием вопросов, полученных из MedBullets, а затем решает задачи многооборотного клинического взаимодействия через 5.3k сгенерированных сценариев с многомерными рубриками.
Авторы представляют Fathom-Vaidya, модель с 30B параметров, которая использует синтетические данные и подкрепляющее обучение, основанное на рубриках, для улучшения как диагностического, так и клинического рассуждения в здравоохранении.
TypeSafe AI выпустила Jev, новый класс моделей «System One», предназначенных для производственных сред. Генеральный директор компании и соавтор статьи InstructGPT Диогу Алмейда утверждает, что современные передовые модели отдавали приоритет выравниванию и отказам вместо надежности, что приводило к таким проблемам, как галлюцинации и сycophancy.
MB-Bidram выпустила экспериментальную нейронную архитектуру под названием WideNDepth (WND), предназначенную для разделения способностей к рассуждению и хранения знаний. Модель состоит из «Wide части», которая функционирует как память, и «Depth части», которая действует как механизм рассуждения.
Предложение на Hugging Face обсуждает две взаимосвязанные проблемы в ИИ: зависимость от обучения отдельных больших моделей и зависимость экосистемы от универсальных GPU.
Пользователь на форумах Hugging Face предлагает эксперимент по прогрессивной передаче знаний, в котором студентская модель фиксированного размера (Qwen 4B) последовательно обучается у всё более крупных моделей-учителей, а не напрямую у самой большой из доступных.
OpenAI представила новый фреймворк для отслеживания, расследования и раскрытия информации о несовпадении (misalignment) в своих моделях, сопровождаемый шестью подробными отчетами об инцидентах из обучения с подкреплением. Система устанавливает конкретные критерии и сроки для публичного раскрытия информации, применяясь даже в тех случаях, когда поведение полностью не объяснено или не смягчено.
Исследователи ByteLex создали координатное пространство из 11 словарей токенизаторов, чтобы предсказать, на каких вымышленных словах их байтовая языковая модель даст сбой. Карта показала коэффициент корреляции Спирмена -0.98 с измеренной точностью модели по словам, превзойдя статистику, полученную из корпусов.
OpenAI выпустила Open-1B, языковую модель, обученную в условиях, при которых каждая операция во время обучения может быть независимо воспроизведена на разнородном стандартном оборудовании с битовой точностью. Этот подход решает проблемы воспроизводимости, присущие моделям с открытым исходным кодом, путем установления строгого порядка для источников недетерминизма, таких как редукция GPU-ядер и порядок формирования пакетов данных.
TRL v1.14 добавляет поддержку LoRA для AsyncGRPOTrainer, позволяя обучать адаптер Low-Rank Adaptation и синхронизировать только этот небольшой файл с inference-воркерами vLLM. Эта архитектура разделяет задачи обучения и генерации на разных машинах, используя общий Storage Bucket в качестве файлового моста, что устраняет необходимость в NCCL или прямой сетевой коммуникации между узлами.
Пользователь pop123-ux опубликовал обучающий репозиторий, содержащий 38 рабочих блокнотов, предназначенных для помощи пользователям в понимании стека Hugging Face за счет постепенного устранения высокоуровневых абстракций. Коллекция охватывает путь от основных компонентов, таких как transformers и tokenizers, до тонкой настройки, PEFT, рассуждений/RL и работы над проектами от начала до конца.
Together AI расширила свой сервис тонкой настройки для поддержки более широкого спектра моделей с открытым весом, включая GLM-5.3 и Kimi K2.7, а также представила отслеживание экспериментов в реальном времени и более точный контроль над процессом обучения.
Исследователи из Google и нескольких японских университетов представили ToolGrad, фреймворк, который инвертирует традиционный конвейер генерации наборов данных для использования инструментов: сначала создаются проверенные цепочки вызовов API, а затем пишутся соответствующие пользовательские запросы. Этот подход направлен на устранение неэффективности методов, основанных на первоочередном формировании запросов, которые часто терпят неудачу при исследовании агентами.
Исследователи представляют ExecCritic — фреймворк, сочетающий структуру test-verify-revise с ролевым обучением с подкреплением для повышения эффективности кодогенерирующих агентов. Система разделяет создание тестов и исправление исходного кода: Test-агент генерирует тесты, специфичные для репозитория, а Repair-агент корректирует код на основе обратной связи от выполнения.
memaudit — это инструмент, который интегрируется с библиотекой TRL для проверки того, привело ли дообучение моделей на частных данных к их запоминанию. Он работает путём внедрения калиброванных приманок в набор данных и мониторинга функции потерь в процессе обучения.
Демонстрация показывает, что заморозка ключ-значения (KV) состояний из текста-руководства позволяет модели Qwen2.5-3B-Instruct применять новые инструкции без включения руководства в активный промпт. Метод включает однократное прохождение текста-руководства через модель, заморозку его KV кэша и последующую генерацию ответов поверх этого скрытого префикса.