એક LLM હેલુસિનેટ કરે છે જ્યારે તે એવા ટેક્સ્ટ બનાવે છે જે આત્મવિશ્વાસી અને બુદ્ધિમાન લાગે છે પરંતુ તે તથ્યાત્મક રીતે ખોટો અથવા બનાવેલો હોય છે। તમે શા માટે આમ થાય છે તે સમજવા માટે, તમારે પહેલા મોડલ ખરેખર શું કરે છે તે સમજવું પડશે।
ઉચ્ચ સ્તરે, એક LLM એક છે। અત્યાર સુધીના ટેક્સ્ટ આપવામાં આવ્યા પછી, તે સૌથી સંભવ્ય આગલા ટોકનને (શબ્દ/ભાગ) આધારિત પર આગાહી કરે છે — ડેટાબેસમાં તથ્યો શોધીને નહીં।
input: "The capital of Australia is"
model: P(next token) → "Canberra" 0.71, "Sydney" 0.18, ...
→ samples a token, appends it, repeats
LLMો વધુને વધુ એવા ઉત્પાદનોમાં એમ્બેડ કરવામાં આવી રહ્યા છે જેમ પર વાસ્તવિક ઉપયોગકર્તાઓ વિશ્વાસ રાખે છે. કારણ કે મોડલ તથ્યો પુનઃપ્રાપ્ત કરવાની જગાએ બુદ્ધિમાન ટેક્સ્ટ જનરેટ કરે છે, હેલુસિનેશન એક અંતર્ગત વર્તણૂક છે, આનુષંગિક ભૂલ નથી — તેથી ઇજનેરોએ તેની આસપાસ ડિઝાઇન કરવું પડશે. તે શા માટે થાય છે તે જાણવું (next-token પ્રેડિક્શન કોઈ સત્ય તપાસ ન હોય તો) તમને કેવી રીતે તેને હ્રાસ કરવું તે કહે છે: ગ્રાઉન્ડીંગ, અવતરણો, ઓછું તાપમાન, અવરોધનની પરવાનગી, અને બાહ્ય ચકાસણી. LLM આઉટપુટને ચેક કરવાના લેવાયેલા ડ્રાફ્ટ તરીકે ગણવું — એક દૈવી નથી — આ એક વિશ્વસનીય સુવિધા અને એક આત્મવિશ્વાસી જવાબદારી વચ્ચેનો તફાવત છે.