Makalah ini menganalisis probabilitas bahwa lintasan model tetap berada di dalam wilayah kegagalan yang ditunjuk saat dilatih menggunakan gradien turun berisik, yang diidealkan sebagai dinamika Langevin overdamped.
- Massa kesetimbangan dari wilayah kegagalan secara eksponensial kecil dalam dimensi d, dengan laju penghalang energi pelengkap untuk noise kecil.
- Batas bebas bentuk menunjukkan bahwa probabilitas di dalam himpunan merileks ke nilai statis setelah waktu burn-in sebesar orde d, bergantung pada celah spektral global.
- Contoh Ornstein-Uhlenbeck menunjukkan bahwa pembengkakan transien dapat terjadi, sehingga memerlukan laju relaksasi lokal yang melekat pada wilayah kegagalan.
- Untuk wilayah yang terisolasi secara geometris, laju lokal ini melebihi laju global, menyusutkan burn-in dan membatasi probabilitas lintasan secara seragam terhadap waktu.
Studi ini menyimpulkan bahwa meskipun konveksitas kuat menentukan kecepatan relaksasi, bentuk himpunan tidak aman menentukan apakah lintasan akan membengkak melaluinya selama pelatihan.