يشك المؤلف في ممارسة ضبط النماذج الدقيقة (fine-tuning) على مسارات chain-of-thought (CoT) ذات الحالة السائدة (SOTA) التي تم تلخيصها أو رقابتها، جاعلاً أن ذلك ليس حلاً سحرياً لتحسين جودة المخرجات.

  • لا يرفع التقطير (distillation) جودة المخرجات فوق ما يمكن للنموذج الأساسي تحقيقه.
  • يتم انتقاد الضبط الدقيق المستند إلى نماذج Fable وAnthropic لأن مسارات الاستدلال الخاصة بها تختلف بشكل كبير عن مخرجات النموذج الفعلية.
  • يضمن هذا التباين أن النماذج المُضبوطة بدقة ستؤدي أداءً أسوأ مما كانت عليه من قبل.

يشير المؤلف إلى أن الاعتماد على هذه المسارات الموجزة يكون ضد الإنتاجية لتحسين قدرات الاستدلال.