أبلغ مستخدم عن أن كتالوج أدوات الأمن السيبراني التعليمي الخاص به، المستضاف على مساحات Hugging Face، قد تم وضع علامة عليه تلقائيًا كمسيء وإيقافه. تعمل المساحة، المسماة pentester-run-place، كدليل مختار لأدلة أبحاث الأمان مفتوحة المصدر بدلاً من احتواء على كود ضار.
من المرجح أن يكون وضع العلامة التلقائي ناتجًا عن المصطلحات المتعلقة بالأمان الموجودة في محتوى README المترجم المدرج في ملف seed Python أثناء نشر حديث. قام المستخدم منذ ذلك الحين بإزالة التشغيل التلقائي لذلك الملف لمنع ارتفاع الموارد ويطلب مراجعة يدوية لاستعادة الوصول.
تسلط هذه الحادثة الضوء على كيفية قدرة مرشحات المحتوى الآلية على تحديد المواد التعليمية أو المرجعية بشكل خاطئ كمسيئة بسبب كلمات تقنية محددة.