연구자들은 장기 시퀀스 영역에서의 발산 문제를 해결하기 위해 Self-Modulating Quantum Fast-Weight Programmers (QFWPs) 에 유계된 이전 상태 변조 규칙을 제안했습니다. 이 방법은 재귀적 메모리 분기에 부호 보존 tanh 게이트만 적용하고 가산 및 신규 업데이트 변조는 변경하지 않습니다.

  • 두 개의 CUDA-Q 양자 역학 예측 작업과 Milan SMS 통신 활동 예측에서 평가되었습니다.
  • 이전 상태 변조가 표준 QFWP 대비 개선의 주요 원인으로 확인되었습니다.
  • 이전 상태 게이트를 유계화함으로써 장기 시퀀스 발산이 제거되고 집합적 강건성이 향상됩니다.
  • Milan SMS 데이터에서 원래 무제한 Self-Modulating QFWP 는 더 긴 입력 창에서 명확한 이점을 보입니다.

이 결과는 축적된 메모리 변조가 Self-Modulating QFWP 의 핵심 메커니즘이며 유계 게이트화가 표적화된 안정화 전략임을 확인합니다.