arxiv arXiv cs.CL · 4 ч назад

Действительно ли подробное мышление по цепочке помогает? Внутри распределения доказательства того, что важнее содержание, а не длина

Это исследование исследует, улучшает ли подробное мышление по цепочке рассуждения больших языковых моделей за счёт увеличения вычислений или предоставления полезного семантического содержания. Авторы представляют доказательства из внутри распределённой выборки и контролируемых вмешательств для определения конкретных факторов, приводящих к улучшению производительности.

arxiv arXiv cs.CL · 4 ч назад

Языковые модели ДНК: Оценка преимуществ предобучения для задач дообучения

В данном исследовании оцениваются приросты производительности трансформерных языковых моделей ДНК, таких как DNABERT2, по сравнению с традиционными подходами, такими как ConvNova, уделяя особое внимание высокой стоимости предобучения. Исследуется, оправдывают ли эти улучшения вычислительные накладные расходы, и анализируется влияние токенизации Byte Pair Encoding (BPE) на геномные задачи.

arxiv arXiv cs.CL · 4 ч назад

Оценка направлений грамматического рода в контекстных эмбеддингах при контролируемых и естественных контекстах

Настоящее исследование решает проблему смешения грамматического рода и социального семантического смещения в контекстных языковых моделях для родовых языков, таких как испанский, предлагая фреймворк для разделения этих измерений. Авторы создают сбалансированные наборы данных с использованием контролируемых шаблонов и естественных контекстов из Википедии для оценки направлений рода при подавлении загрязнения.

arxiv arXiv cs.CL · 4 ч назад

CORTEX: высококачественная кросс-доменная организация веб-корпусов через онтологический граф корпусов

Авторы представляют Cortex — фреймворк, который преобразует конструирование веб-корпусов масштаба интернета из плоской фильтрации документов в структурированную организацию знаний с использованием онтологического графа корпусов (OCG). Эта трехуровневая структура объединяет контент, очищенный по качеству, иерархическую легковесную онтологию и кросс-доменное выравнивание для удовлетворения растущих требований к данным больших языковых моделей.

arxiv arXiv cs.CL · 4 ч назад

DAIN: Динамическая сеть взаимодействий на основе агентов для эффективного и совместного мультимодального рассуждения

Исследователи представляют Динамическую сеть взаимодействий на основе агентов (DAIN), framework, который переосмысливает мультимодальное слияние как динамический процесс совместной работы нескольких агентов, а не полагается на статические архитектуры. DAIN использует контекстно-зависимый Мета-контроллер для динамического планирования разреженной активации специализированных агентов и организует сжатую коммуникацию для достижения консенсуса.

arxiv arXiv cs.CL · 4 ч назад

Предупреждён — значит вооружён: когда не последовательные эмбеддинги становятся детектором аномалий

В данной работе анализируются не последовательные мультимодальные эмбеддинги на уровне предложений, с особым вниманием к модели SONAR, чтобы показать, что определенные измерения эмбеддингов чувствительны к возмущениям и могут указывать на аномалии декодирования. Используя согласованность между последовательными этапами кодирования и декодирования, авторам удалось создать точный детектор аномалий.

arxiv arXiv cs.CL · 5 ч назад

Прежде чем думать, научитесь принимать решения: проактивная маршрутизация для эффективного визуального рассуждения

Авторы предлагают PRP (Proactive Routing Paradigm — парадигму проактивной маршрутизации), которая ускоряет вывод в больших мультимодальных моделях за счёт раннего принятия решений посредством совместной оценки компетентности черновой и целевой моделей. Этот подход решает проблему создания надёжных сигналов сложности запроса в мультимодальных условиях без опоры на чувствительные к данным методы супервизированного тонкого обучения или постфактум вероятностей токенов.

arxiv arXiv cs.CL · 5 ч назад

EvalSafetyGap: Гибридный обзор и концептуальная рамка для оценки провалов безопасности LLM

Эта статья решает проблему общего измерения в оценке LLM и безопасности ИИ, где баллы бенчмарков часто улучшаются, тогда как скрытые свойства безопасности остаются трудными для проверки. Она представляет EvalSafetyGap — гибридный обзор и концептуальная рамка, сочетающая систематический синтез доказательств со структурированным аудитом десяти моделей.

arxiv arXiv cs.CL · 5 ч назад

CaresAI на CT-DEB26: Обнаружение ошибок дозирования в клинических испытаниях с использованием специализированных трансформерных эмбеддингов и моделей классификации

В данном исследовании оценивается использование специализированных трансформерных эмбеддингов, объединенных с классическими моделями машинного обучения, для обнаружения ошибок дозирования в протоколах клинических испытаний. Исследование направлено на повышение безопасности пациентов и целостности испытаний за счет раннего выявления предотвратимых ошибок приема лекарств посредством анализа текстовых представлений.

arxiv arXiv cs.CL · 5 ч назад

Сравнение человеческого и автоматического распознавания непрерывной нидерландской дизартрической речи: исследование случая

В данном исследовании сравнивалась производительность распознавания человеческих слушателей с тремя современными готовыми системами ASR (Whisper-large-V3, Google Chirp 3 и Omnilingual) на непрерывной читаемой и спонтанной нидерландской речи одного говорящего с тяжелой дизартрией.

arxiv arXiv cs.CL · 5 ч назад

Заземление рассуждений LLM при неполных графовых доказательствах

В данной статье представлен теоретический каркас для заземления траекторий рассуждений больших языковых моделей, опирающихся на неполные доказательства из графа знаний, а не на полные состояния истины.

arxiv arXiv cs.CL · 5 ч назад

Мультиагентная система на базе открытых LLM для смягчения угроз дезинформации

В данной статье предлагается новая мультиагентная система, имитирующая процессы принятия решений аннотаторов-людей для обнаружения и разоблачения дезинформации, демонстрирующая превосходные результаты по сравнению с отдельными большими языковыми моделями, такими как GPT-4 и GPT-3.5.

arxiv arXiv cs.CL · 5 ч назад

Когда черновик принимается? Теория принятия решений в спекулятивном декодировании

В данной статье разрабатывается теория для режимов спекулятивного декодирования, использующих жадное декодирование, ослабленные правила принятия или деревья кандидатов, а не стохастические среды сохранения распределения, изученные в существующей литературе. Авторы характеризуют области отклонения как нижние уровни целевого распределения для вывода точных требований к расхождению Кульбака-Лейблера и строгих границ на основе маржи для различных критериев принятия.

arxiv arXiv cs.CL · 5 ч назад

DialogPII: многоязычный набор синтетических диалоговых транскриптов для обнаружения персональных данных

Исследователи представляют DialogPII — многоязычный набор синтетических диалоговых транскриптов, разработанный для поддержки разработки и оценки автоматических систем обнаружения лично идентифицируемой информации. Этот ресурс решает вопросы конфиденциальности в чувствительных областях, предоставляя аннотированные данные на 11 языках и в восьми сценариях взаимодействия.

arxiv arXiv cs.CL · 5 ч назад

Улучшение крупномасштабного слабо контролируемого распознавания речи путем фильтрации и отбора

Авторы предлагают новый подход к обучению сквозных систем автоматического распознавания речи (ASR), который решает проблемы зашумленных меток и отсутствия специфичности для домена в крупномасштабных слабо контролируемых наборах данных. Метод включает предварительное обучение на полном наборе данных, продолжение предварительного обучения на отфильтрованном подмножестве на основе ошибки распознавания по символам (CER) и тонкую настройку на акустически близких образцах из этого подмножества.

media r/LocalLLaMA · 6 ч назад

Qwen3.6-27B с использованием 3 критиков достигает уровня передовых моделей

Пользователь протестировал Qwen3.6-27B (8-bit) вместе с GLM5.2, используя инструмент для написания кода, который применяет трех критиков — проверку кода, проверку тестов и Playwright e2e — для оценки качества вывода.

arxiv arXiv cs.CL · 6 ч назад

DriftGuard: Безопасное обнаружение с несколькими мониторами и селективная адаптация для модерации эволюционирующей токсичности

В данной статье представлен DriftGuard — фреймворк, сочетающий обнаружение дрейфа по нескольким мониторам с селективным обновлением моделей для решения проблемы эволюционирующей токсичности в системах автоматической модерации. Система отслеживает специфические сдвиги, релевантные безопасности, такие как дрейф вреда идентичности и дрейф токсичного риска, вместо того чтобы полагаться исключительно на глобальные распределительные изменения.

arxiv arXiv cs.CL · 6 ч назад

5ting на SemEval-2026, задача 8: сильная сквозная многошаговая RAG с LLM-ранжированием и контролем достоверности

Авторы представляют 5ting — систему, предназначенную для задачи SemEval-2026 Task 8 (MTRAGEval), которая оценивает многошаговые системы Retrieval Augmented Generation (RAG). Система решает такие проблемы, как дрейф контекста, недостаточная спецификация и риск галлюцинаций, сочетая плотный поиск с LLM-ранжированием и контролем достоверности.

arxiv arXiv cs.CL · 6 ч назад

Голосование большинства подавляет ценности меньшинства: Расхождения аннотаторов на границе ненависти/оскорбления в HateXplain

Исследование показывает, что сводить расхождения аннотаторов к меткам большинства при аннотации языка вражды — не нейтрально, так как 42,6% всех расхождений сосредоточено именно на границе ненавители/оскорбления. Эта закономерность указывает на то, что аннотаторы применяют разные пороги для определения начала ненависти, создавая структурную проблему в определении ground truth.

arxiv arXiv cs.CL · 6 ч назад

Сохранение структуры документа при переводе с помощью многоэтапного конвейера LLM: исследование на примере маратхи

В данной статье представлен фреймворк для перевода правительственных документов на маратхи на английский язык, который сохраняет точность макета и структурную целостность, устраняя ограничения существующих систем, игнорирующих форматирование. Система объединяет распознавание текста с учетом макета (OCR), извлечение текста на основе координат, перевод с помощью LLM и реконструкцию HTML для обеспечения пространственного выравнивания и иерархической согласованности.