Авторы решают проблему несоответствия разрешения (Resolution Mismatch Problem) в шаблонно-основанном контрастном синтезе, где кандидаты часто отличаются лишь несколькими слотами сущностей, а оптимизация на уровне последовательности распределяет обучение по общим шаблонам. Они предлагают KARMA — метод, который перечисляет пути, ограниченные схемой, в графах знаний предметной области и вербализует их в контрастные кандидаты с выравниванием по слотам.
- Система использует Slot-Parallel Alignment (SPA) для применения разделенной объективной функции на уровне слотов, направляя обучение предпочтениям конкретно к дискриминативным слотам сущностей.
- В качестве опциональной реализации упакованной оценки включено маскированное внимание, учитывающее слоты.
- KARMA превосходит базовые LLM и методы SFT на одних и тех же данных по бенчмаркам в области биомедицины, информатики и химии.
- Подход демонстрирует преимущества по сравнению с существующими методами предпочтений на уровне последовательностей и токенов.
KARMA повышает эффективность контрастного синтеза за счет направления обучения на конкретные сущности, которые различают кандидатов.