저자는 특정 컨텍스트에서 활성화 경로를 기반으로 로컬 모델을 매핑하고 조종하는 관찰 결과를 공유했습니다. 이 게시물은 일련의 배치 프롬프트에 응답할 때 다양한 모델 간에 활성화 경로가 크게 달라질 수 있음을 강조합니다.

  • Gemma 4 31b qat는 활성화 경로에서 최소한의 분산을 보였습니다.
  • Gemma 4 26b qat는 극단적인 분산을 보였습니다.
  • Qwen 3.6 35b q_4는 활성화 경로 조명에서 중간 정도의 분산을 보였습니다.

저자는 이러한 활성화 경로를 인간의 마음 속 신경 클러스터에 비유하며, 모델 내 특정 반응적 특성을 식별하고 조작할 가능성을 시사합니다.