AI उत्तराला ज्ञानी परंतु अविश्वसनीय सहकर्मचारी द्वारा दिलेल्या आत्मविश्वासाने भरलेल्या मसुद्यासारखे मानले. हे उपयुक्त आहे, अनेकदा योग्य आहे, परंतु स्वतंत्रपणे कधीही अधिकृत नाही. विश्वास सत्यापनवरून येतो, आउटपुट किती सुरेख वाटतो यावरून नाही.
मूळ मानसिकता
LLM हे सत्य आहे की नाही, याकडे दुर्लक्ष करून प्रवाही मजकूर निर्माण करते (हे अगला-टोकन भविष्यवक्ता आहे, तथ्य संचय नाही). एक काल्पनिक API आणि एक वास्तविक API समान वाचला जातो. म्हणून तुम्ही विश्वास टोनद्वारे ठरवू शकत नाही — फक्त जे तुम्ही पुष्टी करू शकता त्याद्वारे.