تناقش المقالة العائد المتناقص لزيادة حجم بيانات ما بعد التدريب مع تحسن النماذج، مقترحةً تحولًا نحو مجموعات بيانات ذات جودة أعلى. وتسلط الضوء على Parsewave، الذي يولد بيانات ما بعد التدريب من مشاكل الهندسة الواقعية جنبًا إلى جنب مع مسارات التقييم.
- قد تصبح البيانات الاصطناعية زائدة عن الحاجة بمجرد أن يتعلم النموذج نمطًا، مما يجعل الاختلافات الإضافية أقل فائدة.
- يؤيد المؤلف كميات صغيرة من المهام الصعبة والواقعية ذات ground truth واضح ومراجعة مناسبة.
- يعد معايرة صعوبة المهمة أمرًا حاسمًا لتجنب الضوضاء أو عدم وجود فائدة.
- يبني Parsewave مجموعة بياناته من مشاكل الهندسة الواقعية بدلاً من الاعتماد فقط على قابلية التوسع.
يطرح النقاش السؤال عما يجعل العينة تستحق الإدراج في مجموعات بيانات SFT/RL/ما بعد التدريب، وما إذا كان استهداف أنماط الفشل المحددة أكثر أهمية من قابلية التوسع.