Исследователи представляют парадигму Rashomon Explanation и RashomonLLM, агентный рабочий процесс, который генерирует набор достоверных, направляющих предсказание объяснений путем их итеративного согласования с предсказаниями. Авторы утверждают, что рассмотрение объяснения и предсказания как отдельных целей создает ненужный компромисс, тогда как их объединение делает задачи взаимодополняющими.

  • RashomonLLM использует рабочий процесс Explanation-Prediction-Reflection для восстановления полного набора объяснений.
  • Доказано, что метод сходится и ограничивает производительность модели через достоверность объяснения.
  • Он превосходит передовые методы предсказания и XAI по базовым показателям точности и качества объяснения.
  • Улучшения устойчивы к сдвигам распределения, временным разбиениям и случайным начальным значениям.

Рамки продвигают бизнес-показатели, одновременно закладывая основу для доверия потребителей.