أطلقت مختبرات محددة (Specific Labs) نموذج Gemma-4-31B-AntiHal، وهو نسخة من نموذج Gemma-4-31B تتحدى الطلبات القائمة على مقدمات خاطئة بدلاً من الهلوسة معها. يحقق النموذج ذلك من خلال توجيه تمثيلي قائم على التفسيرية يُطبق على التدفق المتبقي أثناء التوليد.

  • تضيف التقنية اتجاه فرق المتوسط إلى التدفق المتبقي للطبقة 33، باستخدام جدول تلاشي يطبق القوة الكاملة لأول ~24 رمزًا (token) قبل أن يتلاشى.
  • في معيار HalBench لمكافحة الهلوسة، حقق AntiHal نسبة رد بنسبة 26% مقارنة بنتيجة النموذج الأساسي، مما يمثل ضعف الأداء تقريبًا.
  • تظل أداءات المعايير غير متأثرة إلى حد كبير، حيث بلغ MATH-500 77% وLiveCodeBench 55%, متطابقًا مع قدرات النموذج الأساسي.
  • تم اختبار النهج على Qwen 3.6 27B وGranite 4.1 30B، لكن Gemma فقط قاومت التوجيه بفعالية دون أن تنكسر أو تصبح غير متماسكة.

يضع المؤلفون هذا كطريقة للدفاع عن معرفة النماذج بدلاً من العمل كمرشح أمان، ويقدمون نقطة تفتيش مفتوحة المصدر يمكن تحميلها عبر مكتبة transformers.