इतिहास ट्यूटर के रूप में कार्य करने वाले चार बड़े भाषा मॉडल (LLM) का एक व्यवस्थित API ऑडिट यह प्रकट करता है कि सुरक्षा अनुकूलन तंत्र marginalized शिक्षार्थियों के लिए पद्धतिगत असमानताओं को संस्थागत बना सकते हैं। अध्ययन ने 1989 की रोमानियाई क्रांति के संबंध में पाँच छात्र व्यक्तित्वों के माध्यम से 1,800 प्रतिक्रियाओं का मूल्यांकन किया, जो नस्ल और सामाजिक-आर्थिक स्तर द्वारा भिन्न थे।
- विभेदक अस्वीकृति: सुरक्षा-अनुकूलित मॉडल ने निम्न-स्तरीय छात्रों से 76.7% शैक्षिक अनुरोधों को ब्लॉक कर दिया।
- ज्ञानवादी गेटकीपिंग: marginalized शिक्षार्थियों को भू-राजनीतिक जटिलता (जैसे विवादित तख्तापलट सिद्धांत) तक पहुँच में 3 गुना कमी का अनुभव हुआ।
- एजेंसी चोरी: LLaMA जैसे मॉडल ने रोमा छात्रों के लिए शीर्ष वर्ग के साथियों की तुलना में शिकार-राजनीति शब्दावली अनुपात 5 गुना अधिक उत्पन्न किया।
- शीर्ष वर्ग हेरमेन्यूटिक्स: AI ट्यूटर ने कम संसाधन वाले जनसांख्यिकीय प्रोफाइल से ज्ञानवात्मक आत्मविश्वास और औचित्य स्कोर असमान रूप से वापस ले लिए।
लेखकों का तर्क है कि ये पैटर्न हेरमेन्यूटिकल अन्याय का गठन करते हैं, जो संवाद AI को कथा विभाजन के एजेंट में बदल देते हैं और जिनके लिए तत्काल शैक्षिक ऑडिट की आवश्यकता है।