arxiv arXiv cs.AI · 6 ч назад

KORE: Законы масштабирования, оптимальные по Колмогорову, для сплайн-регрессии

Исследователи предлагают KORE — метод, который решает задачу нахождения оптимального разрешения сплайна в аналитическом виде, вместо того чтобы полагаться на поиск гиперпараметров. Подход опирается на классическую теорию аппроксимации, привязывая квадрат смещения к n-ширине Колмогорова, и использует тождество PRESS для оценки ошибки методом «leave-one-out» (отсутствие одного наблюдения). Балансируя эти известные кривые, алгоритм аналитически определяет минимум без исчерпывающего перебора по сетке. KORE расширяет этот расчет на высокие размерности, заменяя размерность входного пространства порядком взаимодействия в разложении ANOVA. Алгоритм подгоняет два пилотных разрешения и решает систему, калиброванную по показателю влияния (leverage), для оценки плагируемого разрешения при минимальных вычислительных затратах. На аддитивных и разреженных парных целевых переменных вплоть до 80 измерений KORE достигает точности, сопоставимой с исчерпывающей перекрестной проверкой, обучая примерно в восемь раз меньше моделей. На 36 реальных табличных наборах данных он занял первое место среди 21 метода по точности на единицу вычислений.

arxiv arXiv cs.AI · 6 ч назад

Enactor: Генеративная модель для замкнутого цикла микросимуляции перекрестков со светофорами

Авторы представляют Enactor, ориентированную на акторов генеративную модель, предназначенную для микросимуляции в замкнутом цикле на перекрестках со светофорами. В отличие от традиционных симуляторов, опирающихся на вручную созданные правила или предсказатели с коротким горизонтом, Enactor фокусируется на динамике транспортных средств, рассматривая пешеходов как контекстные влияния. Архитектура кодирует динамических акторов и полилинии полос в полярных координатах относительно центра перекрестка. Трансформер с отдельными блоками пространственного и временного внимания предсказывает распределение параметров движения каждого актора на следующем шаге. Обучение использует замкнутую учебную программу, подвергая модель ее собственным предсказаниям для обеспечения стабильности во время симуляции. Оценка на двух геометриях перекрестков показывает, что Enactor восстанавливает распределения генератора данных SUMO с значительно меньшей расхождением Кульбака-Лейблера (KL) по сравнению с базовыми моделями на основе трансформеров. Модель также сокращает нарушения правил проезда на красный свет более чем на порядок величины и превосходит базовые модели с постоянной скоростью на реальных полевых данных.

arxiv arXiv cs.AI · 6 ч назад

Персистентная гомология обнаруживает и направляет ответы LLM на некорректно поставленные вопросы

Исследователи предлагают использовать конечную персистентную гомологию нулевой размерности для представления топологии некорректно поставленных вопросов в больших языковых моделях. Метод моделирует контекстные скрытые состояния как точечные облака, суммируя каждый слой трансформера с помощью трех дескрипторов: среднего конечного времени жизни, нормализованной энтропии времени жизни и концентрации наибольшего времени жизни. Эти дескрипторы конкатенируются по слоям для формирования единого топологического представления внутреннего состояния запроса. В исследовании вводится топологически обусловленное управление активацией, которое извлекает похожие примеры для построения вмешательств, стимулирующих уточнение или воздержание от ответа. Оценки на наборах данных AmbigQA, SituatedQA и CLAMBER показывают, что данный подход превосходит базовые методы на основе промптов, улучшая точность классификации с 67,4% до 78,9% на AmbigQA. На SituatedQA точность увеличилась с 79,9% до 88,5%, а на CLAMBER наблюдался рост с 57,6% до 69,6%. Кроме того, механизм управления повысил средний общий уровень приемлемых ответов с 61,4% до 70,6% для трех моделей LLM с открытым весом.

arxiv arXiv cs.AI · 6 ч назад

SPIRAL: Обучение поиску и агрегации

Авторы представляют Sequential-Parallel-Aggregative Reinforcement Learning (SPIRAL) — фреймворк, который обучает языковые модели одновременно использовать последовательные, параллельные и агрегативные примитивы рассуждений. В отличие от стандартных методов постобучения, оптимизирующих только однопоточное последовательное рассуждение, SPIRAL объединяет эти компоненты в единый конвейер вычислений при выводе. Модель сначала генерирует независимые трассы параллельно с использованием цепочки мыслей (chain-of-thought), а затем формирует итоговую агрегативную трассу на основе этих входных данных. Весь этот процесс оптимизируется сквозным образом по отношению к награде итогового агрегированного ответа с помощью методов обучения с подкреплением для множеств и стандартных техник обучения с подкреплением. Эксперименты на задачах рассуждения демонстрируют, что SPIRAL эффективно масштабируется вместе с ресурсами вычислений при выводе. Подход превосходит GRPO по эффективности масштабирования до 11 раз и достигает на 15% более высокой производительности, когда масштабируются все три примитива вычислений.

arxiv arXiv cs.AI · 6 ч назад

Polycepta: Оценка внешнего вида на основе объектов для многообъектного отслеживания

Авторы представляют Polycepta, фреймворк оценки состояния внешнего вида на основе объектов, который переформулирует моделирование внешнего вида как задачу рекурсивной оценки. В отличие от традиционных методов, опирающихся на статические дескрипторы, независимые от кадров, Polycepta строит и непрерывно обновляет независимые состояния внешнего вида для каждого отслеживаемого объекта. Этот подход позволяет оценивать будущие представления на основе накопленных наблюдений, а не запоминать их с помощью конкретной стратегии обучения. Ключевой особенностью является то, что качество оценки внешнего вида прогрессивно улучшается по мере эволюции состояний объектов в процессе вывода. Фреймворк обеспечивает оценку внешнего вида для ранее не встречавшихся классов за счет стимулирования обучения построению представлений, специфичных для объекта. Масштабные эксперименты на наборах данных KITTI, Waymo Open Dataset и MOT17 демонстрируют последовательное снижение количества переключений идентичности и улучшение производительности отслеживания. При интеграции во фреймворк RobMOT Polycepta работает с частотой 90,57 Гц и достигает MOTA 92,27% на бенчмарке KITTI.

arxiv arXiv cs.AI · 6 ч назад

Двустороннее обучение позволяет обеспечить линейную связность режимов для трансформеров с миллиардами параметров

Исследователи предлагают масштабируемую структуру, обеспечивающую объединение на основе линейной связности режимов для предварительно обученных трансформеров с миллиардами параметров. Существующие методы обычно оптимизируют пути интерполяции только от одной конечной точки модели, что ограничивает масштабируемость для крупных архитектур. Новый подход применяет параметризованные преобразования весов для согласования функционально эквивалентных решений и использует процедуру двустороннего обучения, при которой обе модели совместно обучаются преобразованиям к общему пути. Эта двунаправленная оптимизация существенно снижает барьеры интерполяции и повышает надежность объединения в масштабе крупных моделей. Эмпирически метод достигает почти нулевых барьеров потерь на датасете WikiText для языковых моделей среднего размера. В задачах компьютерного зрения ViT-L сохраняет точность ImageNet top-1 выше 69% на протяжении всего пути интерполяции. Современные большие языковые модели (LLM) с миллиардами параметров демонстрируют лишь небольшие барьеры потерь при использовании этой техники.

arxiv arXiv cs.AI · 7 ч назад

Нейронные классификационные деревья разделяют скрытые подгруппы для надежного машинного обучения

Модели машинного обучения часто используют ложные корреляции, что приводит к высокой средней точности, но плохой производительности на недостаточно представленных подгруппах. Существующие стратегии смягчения обычно корректируют параметры сети с использованием аннотаций подгрупп или выведенных псевдометок. Однако эти методы, как правило, выдают только предсказание класса во время вывода (inference), не предоставляя информации о структуре скрытой подгруппы образца. Чтобы решить эту проблему, авторы предлагают Нейронные классификационные деревья (NCT) — фреймворк, который кодирует структуру подгрупп в своей древовидной архитектуре. NCT направляет каждый образец к легкому или сложному узлу на основе правильности предсказания и повторно использует эти маршруты в качестве псевдометок для последующих итераций. Этот процесс разделяет конфликтующие подгруппы без необходимости явного надзора по подгруппам. Подход был оценен на пяти наборах данных, охватывающих бинарные и многоклассовые ложные корреляции. Эксперименты показывают, что изученная топология дерева изолирует меньшинственные подгруппы, обеспечивая высокую интерпретируемость и конкурентоспособную надежность по сравнению с современными методами.

arxiv arXiv cs.AI · 8 ч назад

Self-Filtering: Итеративный отбор данных для моделей "визуальный язык"

Авторы предлагают новый метод самонастраивающегося отбора, названный Self-Filtering, для устранения шума в масштабных наборах данных для моделей "визуальный язык" без опоры на ручной контроль или курируемые эталоны. Этот подход обучает модель CLIP на эволюционирующем наборе данных, который балансирует между отфильтрованными чистыми образцами с высокой вероятностью и разнообразными примерами из всего распределения. Процесс чередуется между обучением модели и выбором улучшенной смеси данных для последующих шагов. Непрерывно уточняя набор данных через этот цикл, метод снижает необходимость в дополнительных внешних источниках данных. Исследование демонстрирует, что обучение на таких самостоятельно отобранных наборах данных эффективно улучшает производительность в downstream-задачах. Этот метод работает независимо от предварительно обученных моделей или стратегий фильтрации, основанных на эвристиках.

arxiv arXiv cs.AI · 8 ч назад

DiT-Reward: Использование представлений диффузионного трансформатора для моделирования вознаграждения в задаче генерации изображений по тексту

Авторы представляют DiT-Reward — метод, который преобразует предварительно обученный диффузионный трансформатор (Diffusion Transformer) для генерации изображений по тексту в модель вознаграждения путем агрегирования представлений изображений, обусловленных текстом, по слоям трансформатора. При оценке на том же наборе обучающих данных, что и HPSv3, DiT-Reward превосходит HPSv3 во всех четырех бенчмарках предпочтений, достигая 85,6% на HPDv2 и 77,6% на HPDv3. Исследование показывает, что производительность модели вознаграждения в downstream-задачах наиболее высока в средних и поздних слоях и выигрывает от комбинирования представлений из разных стадий обработки. Даже при замороженном генеративном ядре легковесная обучаемая головка может извлекать значимые предсказания предпочтений из этих представлений. При использовании для оптимизации Stable Diffusion 3.5 Large с помощью Flow-GRPO DiT-Reward превосходит HPSv3 на совпадающей траектории обучения, демонстрируя четкий прирост в реализме. Кроме того, прямое оценивание латентных представлений обеспечивает ускорение вывода в 1,65 раза по сравнению с HPSv3 при сохранении сопоставимого пикового потребления памяти. Эти результаты демонстрируют, что предварительно обученные генеративные диффузионные трансформаторы предоставляют переносимые представления для моделирования вознаграждения и оптимизации политик.

arxiv arXiv cs.AI · 9 ч назад

Обучение процессным наградам через сопоставление частоты посещения состояний для эффективного обучения с подкреплением

Авторы решают задачу обучения политик обучения с подкреплением (RL) при наличии изначально разреженных наград за результат, что приводит к сложным проблемам распределения ответственности. Они предлагают метод преобразования этих разреженных наград в плотные процессные награды путем обучения дискриминатора для различения успешных и неуспешных эпизодов. Этот дискриминатор стимулирует политику совпадать с частотой посещения состояний-действий успешных эпизодов, избегая при этом тех, что характерны для неуспешных. Предоставляя плотную обратную связь о прогрессе в выполнении задачи, подход доказуемо достигает этой цели без изменения оптимальной политики. Метод специально применяется к дообучению политик управления роботами для задач манипуляции. Экспериментальные результаты демонстрируют значительно более быстрое выполнение этапа дообучения RL как в симулированных, так и в реальных средах по сравнению с простой максимизацией разреженных наград за результат.

arxiv arXiv cs.AI · 9 ч назад

Сужающиеся языковые модели: повышение производительности за счёт распределения ёмкости с учётом глубины

Современные языковые модели обычно распределяют параметры равномерно по идентичным слоям, несмотря на доказательства того, что последующие слои в основном уточняют остаточный поток (residual stream), а не преобразуют его. Чтобы устранить эту асимметрию, исследователи изучили вопрос о том, должна ли параметрическая ёмкость варьироваться в зависимости от глубины при фиксированном бюджете. Контролируемые эксперименты показали, что распределение большей части ёмкости на ранние слои и меньшей — на поздние улучшает перплексность по сравнению с базовыми вариантами с равномерным распределением, тогда как обратное распределение ухудшает производительность. Опираясь на эти результаты, авторы представляют Сужающиеся языковые модели (TLMs), архитектурный принцип, согласно которому компоненты, содержащие параметры, монотонно сужаются по глубине. Многослойные персептроны (MLP) служат основным местом для этой реализации из-за их доминирования в количестве параметров и чёткой оси ширины. В исследовании тестировалось сужение с помощью плавного косинусного графика на трёх масштабах моделей и четырёх архитектурах, включая Transformer, Gated Attention, Hope-attention и Titans. Результаты показывают, что TLMs последовательно улучшают перплексность и результаты в downstream-бенчмарках по сравнению с базовыми вариантами с равномерным распределением без дополнительных вычислительных затрат. Эти выводы устанавливают распределение ёмкости с учётом глубины как простой, не зависящий от архитектуры рычаг

arxiv arXiv cs.AI · 9 ч назад

Челлендж NVIDIA Nemotron: Строковое сопоставление и возврат с откатом для головоломок манипуляции битами

В данной статье подробно описываются алгоритмические инновации, разработанные для Челленджа рассуждений модели NVIDIA Nemotron, направленные на решение головоломок манипуляции битами, в которых модели необходимо выявлять скрытые логические правила. Чтобы справиться с комбинаторным взрывом побитовых операций и галлюцинациями больших языковых моделей (LLM), авторы отказываются от арифметической логики в пользу строкового сходства и структурированного поиска. Основная вклад заключается в переосмыслении вывода логических вентилей как задачи выбора базиса с использованием минимального числа переворотов битов для изоляции примитивных преобразований. Процесс обратного поиска с откатом (backtracking) по методу глубинного первого поиска формализован для проверки кандидатов, обнаружения логических коллизий и выполнения надежного восстановления ошибок. Кроме того, метод использует побитовую токенизацию и интерактивное рассуждение, дообученное с учителем (SFT), с динамическим маскированием для симуляции обратной связи от оракула. При оценке на этих головоломках подход достиг точности валидации более 96%. Это достижение обеспечило лучший результат в категории и седьмое место в общем зачете конкурса.

arxiv arXiv cs.AI · 9 ч назад

PsyBridge: гибридная система для многомерной оценки психического здоровья

В исследовании представлена PsyBridge, гибридная интеллектуальная система, предназначенная для преодоления ограничений изолированных скрининговых инструментов в оценке психического здоровья. Эта система объединяет клинически валидированные инструменты, такие как PHQ-9 и GAD-7, с оценкой когнитивных функций и профилированием личности в рамках единой архитектуры. Модульная конструкция, использующая механизм взвешенной агрегации, формирует интерпретируемые классификации рисков и рекомендации для пользователей. Для оценки производительности исследователи создали полу-синтетический набор данных, включающий 500 профилей пациентов на основе клинически обоснованных распределений баллов. Экспериментальные результаты показывают, что PsyBridge достигает общей точности 0,84, превосходя отдельные оценки по PHQ-9 и GAD-7. Система также демонстрирует улучшения в показателях точности (precision), полноты (recall) и F1-меры по сравнению с существующими методами. Анализ чувствительности подтверждает, что интеграция когнитивных и личностных компонентов стабилизирует классификационную производительность и снижает несогласованность предсказаний. Эти выводы указывают на то, что PsyBridge предлагает масштабируемый подход к поддержке принятия решений с помощью ИИ в средах цифрового здравоохранения.

arxiv arXiv cs.AI · 9 ч назад

Открытая проблема: Эффективен ли AdamW при тяжелохвостом шуме?

AdamW является стандартным оптимизатором для обучения больших языковых моделей, однако его теоретическая база в значительной степени ограничена режимами с конечной дисперсией. Этот пробел существенен, поскольку эмпирические данные свидетельствуют о том, что шум стохастического градиента при предварительном обучении LLM обычно обладает тяжелохвостыми характеристиками. Недавние исследования показали, что оптимизаторы, основанные на знаке, такие как Lion и Muon, достигают острых скоростей сходимости в условиях тяжелого хвоста, а также что AdaGrad сходится в этой постановке. Однако строгая теория сходимости для AdamW еще не была установлена в рамках этих предположений о тяжелом хвосте. Авторы формулируют открытую проблему относительно того, может ли AdamW сходиться при тех же предположениях о тяжелом хвосте или же его аккумулятор второго момента создает реальное препятствие. Для решения этой задачи они разрабатывают положительный взвешенный метрический бенчмарк и предлагают механизм нижней границы коридора. Этот механизм демонстрирует, как память знаменателя в AdamW может эффективно скрывать большие градиенты, потенциально влияя на его производительность.

arxiv arXiv cs.AI · 9 ч назад

AIR: Адаптивное чередующееся рассуждение с кодом в мультимодальных больших языковых моделях

В данной статье представлена методика AIR, которая наделяет мультимодальные большие языковые модели способностью к адаптивному чередующемуся рассуждению посредством расширенного обучения с подкреплением на задачах сложного численного вычисления, дополненных кодом. Авторы устраняют ограничение существующих исследований, которые в основном сосредоточены на использовании инструментов в задачах зрительного восприятия и опираются на заранее заданные эвристики, не способные обрабатывать численные вычисления. Для решения этой проблемы они предлагают комплексное решение из трех компонентов: двухэтапный конвейер создания стартовых данных, стратегии фильтрации данных для формирования набора данных обучения с подкреплением и стратегию адаптивного вызова инструментов, использующую функцию вознаграждения с групповыми ограничениями. Масштабные эксперименты демонстрируют, что после обучения с подкреплением с использованием данной функции вознаграждения производительность в среднем повышается на 6,1 процентного пункта по оценочным бенчмаркам. В частности, точность для образцов чередующегося рассуждения увеличивается на 9,9 процентного пункта, а общий показатель успешности использования инструментов превышает 95 процентов. Исследователи предоставляют свои данные и код для публичного доступа в указанном репозитории GitHub.

arxiv arXiv cs.AI · 9 ч назад

Семантический просмотр: управляемое разнообразие для генерации изображений

Современные модели преобразования текста в изображение часто страдают от коллапса разнообразия, несмотря на высокую детализацию. Авторы предлагают метод Semantic Browsing для обеспечения контролируемого разнообразия посредством структурированных галерей изображений. Этот подход позволяет пользователям ориентироваться по значимым осям вариативности, а не по случайному шуму. Метод использует разделение процессов семантического принятия решений и генерации пикселей в современных моделях. Разнообразие формируется непосредственно на текстовом уровне с использованием богатых текстовых представлений. В рамках агентного рабочего процесса Vision Language Model обрабатывает полный контекст сцены. Этот рабочий процесс явно обеспечивает структурированную вариативность, согласованную с исходным запросом. Результатом является навигируемое пространство дизайна с интерпретируемыми семантическими решениями.

arxiv arXiv cs.AI · 10 ч назад

CoorDex: Координация априорных знаний о теле и кистях для непрерывной манипуляции с перемещением у человекоподобных роботов

Авторы представляют CoorDex, конвейер обучения, обеспечивающий ловкую манипуляцию с перемещением у человекоподобных роботов с высокой степенью свободы. Данный подход преобразует высокоразмерное управление телом и кистью в скоординированное латентное остаточное управление, преодолевая ограничения традиционных методов «стоп-и-иди». Система обучает учителей отслеживания привилегированных движений на основе симулированных демонстраций и дистиллирует их в латентные априорные знания, обусловленные проприоцепцией. Эти замороженные априорные знания служат пространством действий для последующего остаточного обучения с подкреплением посредством политики, которая комбинирует контекст задачи с отдельными остаточными головами для тела и кисти. CoorDex позволяет человекоподобному роботу Unitree G1, оснащенному 20-свободной кистью WUJI, выполнять сложные задачи в движении, такие как захват бутылки без остановки и открывание дверцы холодильника. Аблиционные исследования демонстрируют, что PPO в пространстве суставов и монолитное латентное предсказание не справляются при аналогичных бюджетах вознаграждения, тогда как предложенный интерфейс латентных априорных знаний обеспечивает обучаемость для манипуляций с частыми контактами.

arxiv arXiv cs.LG · 10 ч назад

Согласование многообразий кодировщика и декодера для идемпотентной генерации

Недавние парадигмы обучения стремятся обеспечить идемпотентность в генеративных моделях, гарантируя, что повторное применение оставляет выборки неизменными на целевом многообразии данных. Однако многие существующие подходы не достигают точных неподвижных точек, что приводит к нестабильности и дрейфу при повторном применении. Авторы выявляют геометрическое несоответствие между многообразиями кодировщика и декодера как основную причину этого сбоя. Для его устранения они предлагают фреймворк обучения, который явно согласовывает геометрию обоих компонентов для изучения согласованных представлений одного и того же базового многообразия данных. Это согласование способствует стабильным проекциям и значительно снижает ошибку идемпотентности по сравнению с предыдущими методами. Эмпирические результаты демонстрируют, что подход последовательно генерирует идентичные выходные данные при повторном применении как для задач генерации изображений, так и для их редактирования. Кроме того, обеспечение такого типа идемпотентности улучшает сохранение идентичности и стабильность информации в генеративных моделях.

arxiv arXiv cs.LG · 10 ч назад

Manifold Restore Mixing улучшает обучение представлений белков

Аугментация данных улучшает обучение представлений белков, но часто нарушает структурную целостность или снижает разнообразие. Авторы выявляют эти дефекты структуры и проблемы деградации производительности в существующих методах. Они предлагают Manifold Restore Mixing (MRM) для восстановления утраченной структурной информации при одновременном введении разнообразных вариаций. MRM смешивает скрытые представления исходных и аугментированных данных, вдохновляясь техникой manifold mixup. Планировщик сложности образца настраивает бета-распределение для предоставления постепенно усложняющихся образцов в процессе обучения. Эксперименты на различных архитектурах (backbones) и задачах downstream демонстрируют эффективность и обобщающую способность метода. Реализация доступна по адресу https://github.com/KingGugu/MRM.

arxiv arXiv cs.LG · 10 ч назад

Энтропийно-управляемое граничное обучение для сегментации ультразвуковых изображений молочной железы

В данном исследовании представлен метод энтропийно-управляемого граничного обучения, направленный на решение проблем утечки границ и ложноположительных активаций при сегментации ультразвуковых изображений молочной железы. Предложенная функция потерь масштабирует штрафы за контуры с помощью пиксельной предсказательной энтропии и карт истинных ответов (ground-truth), концентрируя градиентное внимание на неопределенных границах поражений. Оценка на наборе данных BUSI показала, что метод сохраняет качество сегментации поражений со средним показателем Dice 0,7624, который статистически неотличим от базового уровня. Однако он значительно улучшил специфичность, сократив количество ложноположительных активаций на изображениях без поражений с 19 из 20 до 5 из 20. Дополнительный шаг пространственного масштабирования температуры (post-hoc spatial temperature scaling) далее снизил ожидаемую ошибку калибровки с 0,0201 до 0,0095 без изменения масок сегментации. Эти результаты демонстрируют, что энтропийно-управляемое обучение и пространственная калибровка функционируют как взаимодополняющие уточнения в рамках архитектуры U-Net.