Piye cara sampeyan mutusake manawa jawaban AI iku dipercaya, utamane kanggo kode produksyon?

Question

Accepted Answer

Andhakaké jawaban AI minangka **draf percaya diri saka kolega sing bisa ngerti nanging ora bisa dipercaya**: migunani, asring bener, nanging ora dadi panguwasa dhewe. Kapercayan teka saka *verifikasi*, dudu saka carane output iku pidato..

## Mentalité inti

**Kapercayan diri ora ana gandhengane karo kabenaran.** LLM ngasilake teks sing lancar apa apa ora benere (iku prediktor token sabanjure, dudu lemari kasunyatan). API sing dibayangake lan sing nyata maca padha. Dadi sampeyan ora bisa mutusake kapercayan saka nada — mung saka apa sing bisa sampeyan konfirmasi.

## Daftar praktikal

- **Kalakuké.** Kanggo kode, sinyal paling kuwat yaiku eksekusi: test, type checker, linter, compiler. Kode sing luruh ing test suite nyata luwih dipercaya tinimbang kode sing mung katon bener.
- **Priksa API sing dibayangake.** Verifasi manawa saben fungsi, metode, bendera, lan impor bener-bener ana — ing dokumen utawa versi sing dipasang, dudu saka eling. API sing dibayak-but-plausible yaiku kagagalan klasik.
- **Verifasi nglawan sumber sing wewenang.** Silang-cek pratelan nglaban dokumen resmi, standar, utawa kode sumber — dudu nglaban pernyataan ulang model dhewe.
- **Nalar babagan kasus pinggir lan keamanan.** Null/kosong input, concurrency, jalur kesalahan, injeksi, authz. AI asring ngangani jalur seneng lan nglalekne sudhut-sudhut sing mbebayani.
- **Pilih apa sing bisa sampeyan konfirmasi.** Pilih pendekatan sing bisa sampeyan uji utawa tintingi nglawan sing cerdas-nanging-buram sampeyan kudu percaya saka imanah.
- **Butuh review manungsa kanggo jalur kritikal.** Auth, pembayaran, penghapusan data, migrasi, infra — manungsa sing ngerti sistem kudu nyetujoni, apa apa jawaban iku katon apik.

## Aturan cepet

```text
Verifiable + verified        → trust
Verifiable + not yet checked → verify before using
Not verifiable               → don't depend on it
```

## Dadi apa iki penting

Sang produksyon, jawaban sing salah nanging *katon* bener luwih mbebayani tinimbang sing jelas rusak, amarga iku lumaku. Nalika AI nulis luwih akeh kode, bottleneck bergeser saka *generating* menyang *validating*. Penilaian senior yaiku persis iki: ngerti manawa fluensi dudu bukti, manawa **kapercayan model ora dadi informasi babagan kabenaran**, lan kapercayan kudu digadhangake liwat test, sumber, lan review manungsa ing apa-apa sing penting. Para insinyur sing tetep bisa dipercaya yaiku sing nverifikasi tinimbang percaya.