एक उपयोगकर्ता LM Studio के माध्यम से RTX 5090 और Qwen3.6 35B का उपयोग करके Open Code के मल्टी-एजेंट थ्रूपुट का बेंचमार्क करता है, यह पाते हुए कि कम से कम चार पैरेलल एजेंट्स चलाने से संभावित प्रदर्शन की आधी हानि को रोका जा सकता है।
- एकल एजेंट प्रति सेकंड 245.77 संयुक्त टोकन (t/s) प्राप्त करता है, जबकि आठ एजेंट्स केवल 533.90 t/s प्रदान करते हैं, जो रैखिक स्केलिंग के बजाय 2.2x वृद्धि का प्रतिनिधित्व करता है।
- GPU कंप्यूट को कार्यों में विभाजित होने के साथ व्यक्तिगत एजेंट की गति 256.54 t/s से तेजी से घटकर 67.22 t/s हो जाती है।
- दो एजेंट्स पर 70.4% की शीर्ष दक्षता होती है, लेकिन KV कैश और ओवरहेड लागतों के कारण आठ एजेंट्स तक 27.2% तक गिर जाती है।
- बॉटलनेक को संदर्भ आकार विभाजन के बजाय KV कैश विस्तार (आठ एजेंट्स के लिए 8x) के रूप में पहचाना गया है।
लेखक अधिकतम थ्रूपुट लाभ प्राप्त करने के लिए Open Code में पैरेलल एजेंट्स को चार या पांच पर सेट करने की सलाह देता है, बिना अत्यधिक VRAM ओवरहेड या ह्रासमान रिटर्न के।