Исследователи представляют NeuroCogMap, фреймворк, вдохновленный когнитивной нейронаукой, который организует внутренние признаки больших языковых моделей (LLM) в функциональные парцеллы, связанные с интерпретируемыми функциями и возможностями.
- Фреймворк выявляет стабильную, семантически согласованную организацию внутренних репрезентаций, которая частично сохраняется между различными моделями.
- Крупные сбои LLM, такие как галлюцинации, предвзятость, отказ от выполнения запроса и сикофантство, соответствуют различным нарушениям в системах репрезентации и поведенческого контроля.
- NeuroCogMap улучшает предсказание кортикальных ответов человека во время естественного понимания языка, при этом наиболее сильное соответствие обнаружено в ассоциативной коре высшего порядка.
- Внутренние сигнатуры выявляют скрытые стратегии, которые направляют уточнение классических моделей человеческого принятия решений.
Эти результаты устанавливают NeuroCogMap как фреймворк системного уровня для картирования функциональной организации в искусственных системах и связывания этой организации с функцией человеческой коры и когнитивным поведением.