Koks yra skirtumas tarp mokymo ir išvedimo?

Question

Accepted Answer

**Mokymas** – tai proceso, kurio metu mašininis mokymasis modelis mokomas iš duomenų (išmokstama modelių, koreguojami parametrai), o **išvedimas** – tai mokyto modelio naudojimas naujų duomenų prognozavimui. Tai skirtingos fazės, turinčios skirtingas charakteristikas ir sąnaudas.

## Mokymas lyginant su išvedimu

```text
TRAINING → teaching the model (the LEARNING phase):
  → feed lots of DATA → the model adjusts its parameters to learn patterns
  → computationally EXPENSIVE (lots of data, compute, time — e.g. training an LLM costs
    huge resources); done once (or periodically to update)
  → produces a trained MODEL
INFERENCE → using the trained model (the PREDICTION phase):
  → give the trained model NEW input → it produces an output (prediction/generation)
  → much CHEAPER/faster than training (a single forward pass); done MANY times (every
    time you use the model)
→ train once (expensive), infer many times (cheaper, in production)
```

## Praktinis pritaikymas

```text
→ TRAINING → research/development; needs big datasets, powerful hardware (GPUs/TPUs), time
→ INFERENCE → production use; optimize for latency, cost, scale (it runs constantly)
→ using an LLM via an API → you're doing INFERENCE on a pre-trained model (you don't train it)
→ inference cost/latency matters at scale (many predictions); training cost is a one-time
  (big) investment
```

## Kodėl tai svarbu

Supratimas apie skirtumą tarp mokymo ir išvedimo yra vertingas, nes tai **fundamentalios, skirtingos mašininio mokymosi fazės** su skirtingomis charakteristikomis, todėl jų supratimas yra pagrindinis mašininio mokymosi žinojimas.

Distinkcija – **mokymas** yra mokymosi fazė (modelio mokymas iš duomenų, keičiant parametrus, skaičiavimo atžvilgiu brangus ir atliekamas kartą arba periodiškai) versus **išvedimas** – tai prognozavimo fazė (mokyto modelio naudojimas naujiems įvedamiesiems duomenims apdoroti, daug pigesnis ir atliekamas daugiau kartų) – yra fundamentali norint suprasti, kaip mašininis mokymas veikia ir yra naudojamas.

Supratimas, kad **mokymas atliekamas kartą (brangus) ir išvedimas atliekamas daug kartų (pigesnis, gamyboje)** paaiškina mašininio mokymosi ekonomiką ir darbo procesą.

Supratimas apie **praktinius padarinius** – mokymas reikalauja didžių duomenų rinkinių, galingos aparatūros ir laiko (vienkartinis didelis investavimas, tyrimams/vystymuisi), o išvedimas yra optimizuotas latencijai, sąnaudoms ir mastui (nuolat veikia gamyboje) – yra praktiškai svarbus, ypač insight'as, kad **LLM naudojimas per API yra išvedimas iš iš anksto mokyto modelio** (nemokinote jo, tik jį naudojate), o tai paaiškina, kaip dauguma kūrėjų sąveikauja su dirbtine intelektualija.

Supratimas, kad **išvedimo sąnaudos ir latencija svarbios masteliu** (daug prognozių), tuo tarpu mokymas yra vienkartinis didelis nuostatytis, atspindi praktinius svarstymus, skirtus dirbtinei intelektualiai naudoti.

Šis skirtumas yra pagrindinis mašininio mokymosi darbo procesų, sąnaudų ir to, kaip dirbtinė intelektualija naudojama praktikoje (dauguma naudojimo yra išvedimas iš iš anksto mokytu modelių), supratimui.

Kadangi mokymas ir išvedimas yra fundamentalios, skirtingos mašininio mokymosi fazės su skirtingomis charakteristikomis (brangus vienkartinis mokymas versus pigesnis pasikartojantis prognozavimas) ir jų supratimas paaiškina, kaip mašininis mokymas veikia, kiek kainuoja ir yra naudojamas (su dauguma naudojimo esant išvedimu), skirtumą tarp mokymo ir išvedimo suprasti yra vertingas, pagrindinis mašininio mokymosi žinojimas – fundamentalus skirtumas tarp mašininio mokymosi modelių mokymosi ir naudojimo, pagrindinis mašininio mokymosi žinojimas, paaišklinantis mašininio mokymosi darbo procesus ir sąnaudas, ir svarbus suvokiant, kaip dirbtinė intelektualija naudojama ir naudojama praktikoje (ypač tai, kad AI API naudojimas yra išvedimas, ne mokymas).