Cilat janë rreziqet e dhënies së një agenti AI-je lejen për të vepruar, dhe si e kufizoni atë në mënyrë të sigurt?

Question

Accepted Answer

Pasi një agent mund të **veprojë** — fshijë skedarë, ekzekutojë komanda shell, thirr API-je të jashtme, shpenzojë para — gabimet e tij (ose një prompt keqdashës) bëhen pasoja në botën reale. Mbrojtja është **privilegj minimal plus porta lejeje plus izolim**: jepini atij vetëm atë që ka nevojë, kërkoni konfirmim për çdo veprim të pariferit, dhe drejtojeni atë ku nuk mund të shkaktojë dëm të përgjithshëm.

## Rreziqet

```text
- DESTRUCTIVE actions  → rm -rf, DROP TABLE, force-push → irreversible data loss
- ARBITRARY shell      → run anything → privilege escalation, exfiltration
- EXTERNAL APIs/$$     → send emails, place orders, spend on cloud/LLM tokens
- SECRET exposure      → leak API keys / .env / tokens into logs or outbound calls
- PROMPT INJECTION     → untrusted input (a web page, an issue) hijacks the agent
```

Injekcioni i prompt-it është buza më e mprehtë: përmbajtja që agenti *lexon* mund të përmbajë udhëzime, kështu që çdo mjet që agenti mund të thërrasë është i arritshëm nga një sulmues që kontrollon atë përmbajtje.

## Bariera sigurie

```text
- LEAST PRIVILEGE / ALLOWLIST → only pre-approved commands & paths; deny by default
- APPROVAL FOR DESTRUCTIVE    → human confirms deletes, payments, prod writes
- SANDBOX / DRY-RUN           → preview the action; isolated container, no prod creds
- ISOLATED ENVIRONMENT        → ephemeral VM/branch; blast radius = throwaway box
- AUDIT LOGS                  → record every tool call + args for review
- NO SECRETS IN CONTEXT       → inject via env at runtime; never paste keys into prompts
- NETWORK LIMITS              → egress allowlist; block arbitrary outbound requests
```

```yaml
# Conceptual permission policy
tools:
  read_file:   { allow: true }                 # safe, reversible
  run_shell:   { allow: ["npm test", "git status"] }  # allowlist only
  delete_file: { allow: "ask" }                # human approval required
  send_email:  { allow: "ask", sandbox: true } # dry-run first, then confirm
network:
  egress: ["api.github.com"]                    # everything else blocked
```

Paterni është besim i graduar: **lexim** është falas, **shkrime të kthyeshme** janë të lira, **veprime të pariferit ose të jashtme** kërkojnë konfirmim, dhe **para ose prodhim** kërkojnë izolim plus një njeri në unazë.

## Pse është e rëndësishme

Vlera e agentëve vjen nga lejoni që të veprojnë, por veprimi është saktësisht ku një gabim i sigurt ose një prompt i kapur bëhet të dhëna të fshira, një çelës i rrjedhur ose një ngarkesë reale. Hartimi i lejeve si listat e lejeve me privilegj minimal, hapja e veprimeve të pariferit pas aprovimit njerëzor, ekzekutimi në sanduçe me regjistre auditi, dhe mbajt sekrete dhe rrjedha të rrjetit fort të kufizuara ju lejon të merrni levën e autonomisë pa bën baste në prodhim në atë që modeli është i saktë çdo herë.