शोधकर्ताओं ने सेल्फ-गाइडेड टेस्ट-टाइम ट्रेनिंग (S-TTT) प्रस्तावित की है, एक विधि जो अनुकूलन से पहले मॉडल को प्रासंगिक सबूत स्पैन की पहचान करने के लिए कहकर लॉन्ग-कॉन्टेक्स्ट उपयोग को बेहतर बनाती है। यह दृष्टिकोण पूरे या यादृच्छिक रूप से नमूना किए गए संदर्भों पर टेस्ट-टाइम ट्रेनिंग लागू करने के उच्च खर्च और शोर की समस्याओं को संबोधित करता है।
- S-TTT पैरामीटर अनुकूलन के लिए विशिष्ट सबूत स्पैन का चयन करता है, पूरे संदर्भ या यादृच्छिक नमूनों का उपयोग करने के बजाय।
- बेस मॉडल प्रदर्शन को खराब होने से रोकने के लिए मानक भाषा-मॉडलिंग उद्देश्य केवल इन चयनित स्पैन पर लागू किया जाता है।
- LongBench-v2 और LongBench-Pro पर, S-TTT Qwen3-4B-Thinking-2507 और Llama-3.1-8B-Instruct के लिए सटीकता में 15% सापेक्ष सुधार तक बढ़ाता है।