Cad iad na baill dhéantúis a bhaineann le cead a thabhairt do ghníomhaire AI gníomhú, agus conas a leimithir go sábháilte?

Question

Accepted Answer

A bhí fás ar ghníomhaire **gníomhú** — comhaid a scriosadh, orduithe shell a rith, APIs seachtracha a ghlaoch, airgead a chaitheamh — is iad botúin a dhéanann sé (nó gríf dhíobhálach) go héifeachtaí fíor-dhomhain. Is é an cosaint **an priveléid ar a laghad agus geataí ceadúcháin agus logánú**: rud amháin atá de dhíth air a thabhairt dó, glacadh a éilíonn ar aon rud atá neo-athshollúnta, agus é a rith áit nach féidir dó dochar fada-thréimhsíthe a dhéanamh.

## Na baill dhéantúis

```text
- DESTRUCTIVE actions  → rm -rf, DROP TABLE, force-push → irreversible data loss
- ARBITRARY shell      → run anything → privilege escalation, exfiltration
- EXTERNAL APIs/$$     → send emails, place orders, spend on cloud/LLM tokens
- SECRET exposure      → leak API keys / .env / tokens into logs or outbound calls
- PROMPT INJECTION     → untrusted input (a web page, an issue) hijacks the agent
```

Is é an insteall spréachta an imlíne ghéar: is féidir dóibh ábhar a léamh an ghníomhaire a bheith ann orduithe, agus dá bhrí sin tá gach uirlis ar féidir leis an ghníomhaire a ghlaoch inrochtana ag ionsaitheoir a bhíonn smacht aici ar an ábhar.

## Gardrála

```text
- LEAST PRIVILEGE / ALLOWLIST → only pre-approved commands & paths; deny by default
- APPROVAL FOR DESTRUCTIVE    → human confirms deletes, payments, prod writes
- SANDBOX / DRY-RUN           → preview the action; isolated container, no prod creds
- ISOLATED ENVIRONMENT        → ephemeral VM/branch; blast radius = throwaway box
- AUDIT LOGS                  → record every tool call + args for review
- NO SECRETS IN CONTEXT       → inject via env at runtime; never paste keys into prompts
- NETWORK LIMITS              → egress allowlist; block arbitrary outbound requests
```

```yaml
# Conceptual permission policy
tools:
  read_file:   { allow: true }                 # safe, reversible
  run_shell:   { allow: ["npm test", "git status"] }  # allowlist only
  delete_file: { allow: "ask" }                # human approval required
  send_email:  { allow: "ask", sandbox: true } # dry-run first, then confirm
network:
  egress: ["api.github.com"]                    # everything else blocked
```

Is é an patrún muiníne céimnithe: tá **léamh** saor in aisce, tá **scríbhinní atharraingthe** saor, bíonn gníomhartha **atharraingthe nó seachtrach** ag éileamh dearbhúcháin, agus bíonn **airgead nó táirgeachta** ag teastáil logánú agus daonna sa lúb.

## Cad chuige a bhfuil sé tábhachtach

Tagann an luach ó ghníomhairí ón ngníomhaire a ligean dóibh gníomhú, ach gníomhú is ionann agus áit a bhfuil earráid dhearfach nó spréach gabhálaithe ag tiontú ina dhath sonraí scriosta, eochair leagtha amach, nó muirear fíor. Le ceadanna a dhíriú mar bhán-liosta priveléide ar a laghad, gníomhartha neo-athshollúnta a chur i bhfeidhm taobh thiar de thússheoladh daonna, rith i bpoll gainimh le loganna iniúchta, agus rúndacht agus taobhú líonra a choinneáil go daingean scóp ligeann duit breis a fháil ó neamhspleáchas gan táirgeachta a bhreith ar an tsamhail a bheith ceart gach uair.