يشارك المؤلف إعدادًا عمليًا لاستخدام نماذج اللغة الكبيرة (LLM) المحلية على عتاد محدود، وتحديداً جهاز كمبيوتر محمول يحتوي على ذاكرة وصول عشوائي سعة 32 جيجابايت وكارت شاشة NVIDIA RTX 4070 بذاكرة فيديو سعة 8 جيجابايت. تكمن الاستراتيجية الأساسية في تشغيل نموذج Qwen3.6-35B-A3B محليًا كـ 'وكيل برمجة صغير' بينما يتم تفويض التخطيط المعقد إلى مثيل GLM 5.2 القائم على السحابة.
- يعمل النموذج المحلي Qwen3.6-35B-A3B بشكل موثوق بسرعة تقارب 15 رمزًا في الثانية عند التشغيل على البطارية، ويخدم كوكيل برمجة محدود النطاق لمهام محددة.
- يتم استخدام بنية هجينة بنسبة 90% محلية و10% سحابية، بتكلفة أقل من دولار واحد لتوليد GLM 5.2 لخطط مهام مفصلة يقوم النموذج المحلي بتنفيذها.
- يستخدم المستخدم pi-coding-agent و llama-server (من مكتبة llama.cpp) لتشغيل الاستدلال المحلي، مع مراجعة جميع تغييرات الكود التي ينتجها الوكيل.
- يتم معالجة فجوات المعرفة من خلال جلسات تحليل ما بعد التنفيذ مع النموذج، وإضافة نصائح إلى ملف README الذي يستفيد منه الوكيل في الجلسات اللاحقة لتحسين جودة الكود.
يتيح هذا النهج الحصول على مساعدة برمجة مفيدة على عتاد عادي من خلال الجمع بين كفاءة التكلفة للاستدلال المحلي وقدرات الاستدلال لنموذج سحابي أرخص للتخطيط عالي المستوى.