Пользователь оценивает пропускную способность мультиагентной системы Open Code с использованием RTX 5090 и Qwen3.6 35B через LM Studio, обнаружив, что запуск как минимум четырех параллельных агентов предотвращает потерю половины потенциальной производительности.

  • Один агент достигает 245,77 комбинированных токенов в секунду (t/s), тогда как восемь агентов дают лишь 533,90 t/s, что представляет собой увеличение в 2,2 раза, а не линейное масштабирование.
  • Скорость отдельного агента резко падает с 256,54 t/s до 67,22 t/s по мере распределения вычислений GPU между задачами.
  • Пиковая эффективность 70,4% достигается при двух агентах, но снижается до 27,2% к моменту работы восьми агентов из-за расходов на KV cache и накладные расходы.
  • Узким местом признано расширение KV cache (в 8 раз для восьми агентов), а не разделение размера контекста.

Автор рекомендует устанавливать количество параллельных агентов равным четырем или пяти в Open Code, чтобы максимизировать прирост пропускной способности без чрезмерной нагрузки на VRAM или убывающей отдачи.