Исследователи предлагают COALA, надежный фреймворк, разработанный для улучшения речевых языковых моделей (SLM) для автоматического распознавания речи в сложных сценариях с множеством сущностей. Система решает проблему ограничений контекстного окна, отображая латентные представления SLM в дискриминативное пространство для количественной оценки интенсивности совпадения между аудиосегментами и кандидатами-сущностями.
- Отображает латентные представления SLM в специализированное дискриминативное пространство для выявления релевантных целевых сущностей из крупномасштабных списков смещения.
- Решает проблему коллапса обучения в предыдущих исследованиях при обработке многоцелевых высказываний, где несколько редких слов встречаются совместно.
- Использует контрастивный регуляризатор и методы оценки баллов смещения.
- Демонстрирует превосходные показатели контекстного смещения на различных масштабах списков смещения в бенчмарке LibriSpeech.