Je, unawezaje kuhukumu kama jibu la AI ni linaloweza kutegemewa, hasa kwa kanuni ya uzalishaji?

Question

Accepted Answer

Chukulia jibu la AI kama **rasimu ya ujasiri kutoka kwa mwenzi mwenye maarifa lakini asiyeaminika**: ni muhimu, mara nyingi sahihi, lakini kamwe sio halisi kwa yenyewe. Tiwala inatoka *kuthibitisha*, si kutokana na jinsi ya kusadikiwa kwa sauti.

## Mafikiria ya msingi

**Ujasiri haulineana na usahihi.** LLM inazalisha maandishi yenye kufanya kazi iwe ni kweli au la (ni mtoaji wa token inayofuata, si ghala la ukweli). API iliyohalucinishwa na iliyowepo inaonekana sawa. Kwa hivyo huwezi kuhukumu tiwala kwa toni — tu kwa kile unachoweza kuthibitisha.

## Orofa ya vitendo

- **Endesha hiyo.** Kwa kanuni, ishara yenye nguvu zaidi ni utekelezaji: mtihani, kikaguaji aina, linter, mkusanyi. Kanuni inayopitia ghala la mtihani halisi ni muhimu zaidi kuliko kanuni inayoonekana kuwa sahihi tu.
- **Angalia kwa API iliyohalucinishwa.** Thibitisha kwamba kila kazi, njia, bendera, na kuingiza ipo kweli — katika hati au toleo lililowekwa, si kutokana na kumbukumbu. API iliyoumba-lakini-inayolingana ni kasoro ya kawaida.
- **Thibitisha dhidi ya vyanzo vya mamlaka.** Linganisha madai dhidi ya hati rasmi, kiwango, au kanuni ya chanzo — si dhidi ya kujieleza jinga la mtindo.
- **Fikiria kuhusu matukio ya pembetatu na usalama.** Null/ingizo tupu, taaluma, njia za hitilafu, sindano, rukhsa. AI mara nyingi inahanga njia nzuri na kuacha kona hatari.
- **Pendekeza kile unachoweza kuthibitisha.** Pendekeza mbinu unazoweza kupima au kuangalia tu kupenda za akili-lakini opaque ungesubiri kuchukua kwa imani.
- **Karibu na mapitio ya binadamu kwa njia muhimu.** Uthibitishaji, malipizi, ufutaji wa data, migrasiyo, infrastructure — binadamu anayeelewa mfumo lazima akubali, bila kuzingatia jinsi jibu linabadilika.

## Kanuni ya haraka

```text
Verifiable + verified        → trust
Verifiable + not yet checked → verify before using
Not verifiable               → don't depend on it
```

## Kwa nini inakusudiwa

Katika uzalishaji, jibu lisilo sahihi lakini *linaloonekana* kuwa sahihi ni hatari zaidi kuliko lile lile lilo dhahivu tu, kwa sababu linajipiga pembezoni. Kadri AI inavyoandika kanuni zaidi, uzumuzi unabadilika kutokana *kuzalisha* hadi *kuthibitisha*. Hukumu ya wazazi ni nini haswa: kujua kwamba ukweli hauji ushahidi, kwamba **ujasiri wa mtindo haubari habari kuhusu usahihi**, na kwamba tiwala lazima ikamatwe kupitia mtihani, vyanzo, na mapitio ya binadamu kwenye kile kinachokusudiwa. Wahandisi wasiobadilika ni wale wanaothibitisha badala ya kuamini.