يقدم تقرير Qwen3 التقني سلسلة جديدة من نماذج اللغة الكبيرة ذات الأوزان المفتوحة تتراوح بين 0.6 و235 مليار معامل، وتتميز ببنيتين كثيفة ومزيج من الخبراء. تتمثل إحدى الابتكارات الرئيسية في دمج "وضع التفكير" للاستدلال المعقد و"وضع عدم التفكير" للاستجابات السريعة داخل إطار عمل واحد، مما يسمح بالتبديل الديناميكي دون الحاجة إلى تبديل النماذج.
- يستخدم النموذج الرائد Qwen3-235B-A22B 22 مليار معامل مُفعّل لكل توكن لتحقيق التوازن بين الأداء وكفاءة الاستدلال.
- يتوسع الدعم متعدد اللغات من 29 لغة ولهجة إلى 119 لغة ولهجة، وتم تدريبه على 36 تريليون توكن بما في ذلك البيانات الاصطناعية المولدة بواسطة نماذج Qwen السابقة.
- تطبق السلسلة آلية "ميزانية التفكير" لتخصيص موارد الحوسبة التكيفية أثناء الاستدلال.
- يستخدم التدريب ما بعد التدريب التعلم المعزز متعدد المراحل والتقطير من القوي إلى الضعيف لمواءمة النماذج مع تفضيلات البشر.
يعتقد المؤلفون أن هذه التطورات مهمة لأنها تمكّن من أداء تنافسي ضد النماذج الخاصة، مع توفير تحكم دقيق للمستخدمين في جهد الاستدلال وزمن الانتظار.