लेखक सारांशित या цензуर किए गए state-of-the-art chain-of-thought (CoT) ट्रेस पर मॉडल्स को fine-tune करने की प्रथा पर सवाल उठाते हैं, यह तर्क देते हुए कि यह आउटपुट गुणवत्ता को बेहतर बनाने के लिए कोई जादुई समाधान नहीं है।
- Distillation आउटपुट गुणवत्ता को बेस मॉडल की क्षमता से ऊपर नहीं बढ़ाता।
- Fable और Anthropic के मॉडल्स पर आधारित फाइन-ट्यून्स की आलोचना की जाती है क्योंकि उनके reasoning ट्रेस वास्तविक मॉडल आउटपुट से काफी भिन्न होते हैं।
- यह असंगति यह गारंटी देती है कि परिणामी fine-tuned मॉडल्स पहले से भी खराब प्रदर्शन करेंगे।
लेखक सुझाव देते हैं कि इन सारांशित ट्रेस पर निर्भर रहना reasoning क्षमताओं को बेहतर बनाने के लिए हानिकारक है।