AI જવાબને આત્મવિશ્વાસી ડ્રાફ્ટ તરીકે વર્તાવો કે જે જ્ઞાનવાન પણ અવિશ્વસનીય સહકર્મીના બાજુથી આવે છે: ઉપયોગી, ઘણી વાર સાચો, પણ તે પોતાના દમ પર ક્યારેય અધિકૃત નથી. વિશ્વાસ ચકાસણીમાંથી આવે છે, આઉટપુટ કેટલું સમજાવતો લાગે છે તેમાંથી નહીં.
એક LLM પ્રવાહી ટેક્સ્ટ જનરેટ કરે છે કે તે સાચો હોય કે ન હોય (તે અગલા-ટોકન પ્રેડિક્ટર છે, હકીકત સંગ્રહ નથી). એક હલુસીનેટેડ API અને વાસ્તવિક એક સમાન વાંચાય છે. તેથી તમે ટોન દ્વારા વિશ્વાસ નક્કી કરી શકતા નથી — માત્ર તમે શું પુષ્ટિ કરી શકો તે દ્વારા.
Verifiable + verified → trust
Verifiable + not yet checked → verify before using
Not verifiable → don't depend on it
પ્રોડક્શનમાં, એક ખોટો જવાબ જે સાચો લાગે છે તે એક કરતા વધુ ખતરનાક છે જે સ્પષ્ટપણે તૂટેલો છે, કારણ કે તે તેને પસાર કરે છે. જેમ AI વધુ કોડ લખે છે, અટ્કોમાત્ર જનરેટીંગમાંથી ચકાસણીમાં સ્થાનાંતરિત થાય છે. સિનિયર ચુકાદો ચોક્કસપણે આ છે: જાણવું કે પ્રવાહિતા શુદ્ધતાનો પુરાવો નથી, કે મોડેલનો આત્મવિશ્વાસ શુદ્ધતા વિશે કોય માહિતી નથી, અને વિશ્વાસ ટેસ્ટ્સ, સ્ત્રોતો અને માનવ સમીક્ષા દ્વારા કમાવવો જોઈએ કંઈ પણ પર જે મહત્વપૂર્ણ છે. જે ઇજનેરો વિશ્વાસપાત્ર રહે છે તેઓ અંગીકાર કરવાને બદલે ચકાસણી કરતાં છે.