ज्ञानात्मक त्वरक के रूप में LLMs: जोखिम केवल भ्रम नहीं है

LLM केवल भ्रम (hallucinate) नहीं करते; वे कमजोर परिकल्पनाओं को साक्ष्यों की पुष्टि होने से पहले सुसंगत और परिष्कृत दावों में बदलकर मानव ज्ञानात्मक अतिआत्मविश्वास को बढ़ाते हैं। यह शोध, नीति और अन्य क्षेत्रों में समय से पहले निश्चितता का जोखिम पैदा करता है, न कि इसलिए क्योंकि मॉडल झूठ बोलते हैं, बल्कि इसलिए क्योंकि वे सुंदर व्याख्याओं पर अनिश्चितता को प्राथमिकता देने की मानव प्रवृत्तियों को तेज करते हैं।