Статья решает проблемы валидности в недавних исследованиях извлекаемой запоминаемости в LLM, утверждая, что предыдущие работы часто упускают необходимость различать запоминаемость и общую предсказуемость. Она предлагает формализовать сопоставленные сравнения, измеряя вероятности генерации обучающих последовательностей по сравнению со сравнимыми не-обучающими последовательностями для установления базовой линии.
- Авторы вводят два метода для калиброванных порогов: конформный тест для выборочных популяций и перепись для отдельных документов, таких как книги.
- Анализ OLMo 2 32B на Википедии показывает, что воспроизведение не-обучающих суффиксов происходит примерно в 24% от скорости обучающих, что указывает на ложные срабатывания, а не на запоминаемость.
- Для Llama 3.1 70B на книгах калиброванные пороги составляют всего 1e-27, что поддерживает утверждения о запоминаемости для последовательностей, которые было бы нереалистично извлекать путем сэмплирования.
Авторы уточняют определение "извлекаемой запоминаемости", требуя как валидного утверждения о запоминаемости на основе этих сравнений, так и почти гарантированной генерации в рамках реалистичного бюджета.