Исследователи предлагают UltraX, фреймворк уточнения вызовов функций, предназначенный для устранения ограничений существующих методов обработки больших объемов данных за счет внедрения вставки наряду с удалением и модификацией. Этот подход позволяет выполнять тонкозернистое редактирование на уровне отдельных примеров благодаря надежному конвейеру генерации программной супервизии, который преобразует пары текстов в структурированную супервизию.
- Фреймворк использует адаптивную к набору данных оптимизацию промптов для руководства экспертной LLM при создании высококачественных сквозных уточненных текстов.
- Выравнивание строк и динамическая замена контекста преобразуют пары исходный-уточненный текст в структурированную программную супервизию.
- Фильтрация примеров с низкой уверенностью и выборка с контролем соотношения путем комбинации операций улучшают качество супервизии и стабилизируют распределение обучения.
- Скользящее окно предсказания, глобальная агрегация операций и систематическая постобработка нормализуют и проверяют выходные данные модели во время выполнения.
Эксперименты показывают, что UltraX достигает наивысшего среднего показателя производительности по всем корпусам, сопоставляя или превосходя базовые методы при меньшем количестве обучающих токенов, что указывает на более высокую эффективность данных и надежность уточнения.