يقترح مستخدم على موقع رديت تطبيق مفهوم "المجال J" الخاص بـ Anthropic على تقنيات ضغط النماذج. تتضمن المقترحات استخدام مصفوفات جاكوبي لتحديد التنشيطات الأكثر تأثيرًا على المخرجات النهائية لتقليم ودمج واستخلاص أكثر فعالية.
- تهدف هذه الطريقة إلى ضغط النماذج الكثيفة دون تدمير قدرات الاستدلال من خلال التركيز على التغييرات المتجهة المؤثرة.
- قد يسمح ذلك بتنقية أو تضخيم إشارة الاستدلال للنماذج الأكبر حجمًا لنقلها إلى نماذج أصغر.
- قد تقلل هذه الطريقة من الشدة الحسابية اللازمة لاستخلاص النماذج المتطورة إلى متغيرات أصغر.
يأمل المؤلف أن تساعد هذه الأفكار مجتمع الذكاء الاصطناعي المحلي، رغم أنه يدرك الحاجة إلى التحقق من قبل الخبراء.