RTX 5090 및 Qwen3.6 35B를 사용한 Open Code 병렬 에이전트 벤치마크

한 사용자가 LM Studio를 통해 RTX 5090과 Qwen3.6 35B로 Open Code의 멀티 에이전트 처리량을 벤치마킹했으며, 최소 4개의 병렬 에이전트를 실행하면 잠재적 성능의 절반을 잃지 않는다는 것을 발견했습니다.

• 단일 에이전트는 초당 245.77 토큰(t/s)의 결합된 속도를 달성하는 반면, 8개 에이전트는 533.90 t/s만 제공하여 선형 확장보다는 2.2배 증가에 그칩니다.
• GPU 연산이 작업 간 분할됨에 따라 개별 에이전트 속도는 256.54 t/s에서 67.22 t/s로 급격히 떨어집니다.
• 피크 효율성 70.4%는 두 에이전트에서 발생하지만, KV 캐시 및 오버헤드 비용으로 인해 8개 에이전트에서는 27.2%까지 하락합니다.
• 병목 현상은 컨텍스트 크기 분할이 아닌 KV 캐시 확장(8개 에이전트의 경우 8배)으로 확인되었습니다.

저자는 과도한 VRAM 오버헤드나 체감 효과 없이 처리량 이득을 극대화하기 위해 Open Code에서 병렬 에이전트를 4개 또는 5개로 설정할 것을 권장합니다.