Je, unaweza kuhakikisha kuwa msimbo unaozalishwa na AI unakabilihi kiwango cha ubora na usalama wa miradi yako?

Question

Accepted Answer

Kanuni ya msingi: **Msimbo unaozalishwa na AI hupitia njia sawa na msimbo uliandikwa na binadamu — hakuna chochote kidogo.** AI hairudishi kiwango cha ukaguzi; ikiwa kitu, inaongeza matatizo machache mapya ya kutafakari. **Wajibu unabaki na injinieri ambaye inatoa,** si zana iliyoandaa.

## Njia sawa na msimbo mwingine yoyote

- **Ukaguzi wa msimbo** na binadamu anayeelewa mabadiliko.
- **Majaribio** yanayotumia vyema tabia, si tu kuongeza kiwango cha pango.
- **Linters na waundaji wa mtindo** ili mtindo ubaki sawa.
- **SAST / ujani wa tegemezi** katika CI ili kusambaza mifumo inayojulikana ya harakati hatari na vifurushi vya hatari.

Kama itakufa kwa mtangulizi wa binadamu, haisemi kwa sababu AI iliandika.

## Matatizo ya ziada mahususi kwa AI

- **API zilizotelekezwa au zisizo salama.** AI huunda kazi inayoonekana lakini haiexisti, au inafikiri muundo wa zamani usio salama. Hakikisha dhidi ya hati halisi.
- **Siri na data nyeti.** Angalia kuwa hakuna kilicho hardcoded au kilicho kimulika ndani ya kidokezo.
- **Uchafuzi wa leseni.** Msimbo unaozalishwa unaweza kumkumbuka sehemu za leseni; kuwa mahususi kuhusu asili na utii.
- **Hitilafu nyingi za mantiki** zilizofungwa ndani ya msimbo unaoonekana kuwa safi na unasomeka sahihi lakini sio.

## Isiyoweza kupingwa: waandishi wanaelewa kilicho wameunganisha

Naraka moja muhimu sana: **injinieri lazima ielewe kila laini wanayotoa.** "AI iliandika" hailewi kamwe kama maelezo ya hitilafu katika ukaguzi. Ikiwa mwandishi hawezi kueleza kwa nini msimbo ni sahihi, haiandai — bila kujali nani au kitu kilichoandika.

## Kwa nini inakelea

AI inaifanya kuwa rahisi kuprodukta *msimbo mwingine*, ambayo inamaanisha kuwa eneo kubwa zaidi kwa ajili ya matatizo na upungufu ikiwa kiwango kinashuka. Kushikilia msimbo unaozalishwa kwa kiwango sawa — na kuweka wajibu kwa binadamu anayejulikana — ndilo linaloruhusu timu kuhamia haraka na AI bila kuuza ubora au usalama.