Автор делится наблюдениями о картировании и управлении локальными моделями на основе их путей активации в определенных контекстах. В посте подчеркивается вариативность путей активации между разными моделями при ответе на набор пакетных запросов.
- Gemma 4 31b qat показала минимальную вариативность пути активации.
- Gemma 4 26b qat продемонстрировала экстремальную вариативность.
- Qwen 3.6 35b q_4 проявила умеренную вариативность в освещении путей активации.
Автор сравнивает эти пути активации с нейронными кластерами в человеческом разуме, предполагая возможность выявления и манипуляции специфическими реактивными чертами внутри моделей.