あるユーザーがLM Studioを使用してRTX 5090とQwen3.6 35BでOpen Codeのマルチエージェントスループットをベンチマークし、少なくとも4つの並列エージェントを実行することで、潜在的なパフォーマンスの半分を失うのを防げることを発見した。

  • 単一エージェントは1秒あたり245.77トークン（t/s）の合計速度を達成するが、8つのエージェントでは533.90 t/sにとどまり、線形スケーリングではなく2.2倍の増加に留まる。
  • GPUの計算リソースがタスク間で分割されるため、個々のエージェントの速度は256.54 t/sから67.22 t/sへと急激に低下する。
  • 2つのエージェントでピーク効率70.4%を達成するが、KVキャッシュとオーバーヘッドのコストにより8つのエージェントでは27.2%まで低下する。
  • ボトルネックはコンテキストサイズの分割ではなく、KVキャッシュの拡張（8つのエージェントで8倍）であることが特定された。

著者は、Open Codeにおいて並列エージェントを4つまたは5つに設定し、過度なVRAMオーバーヘッドや逓減効果なしにスループットの最大化を図ることを推奨している。