Tá p99 latency API ag 3s — conas a dhífhabhtaíonn agus a optamaíonn tú é?

Question

IT Interview Practice · Accepted Answer

p99 = **tail latency**: tógann an 1% is moille d'iarratais 3s. Is é an chéad ghluaiseacht ná **tomhas agus é a mhiondealú, ná déan buille faoi thuairim**. Cuir p50 i gcomparáid le p99 — má tá p50 tapa ach p99 ag 3s, níl an chonair mall go haonfhoirmeach; ní bhaineann rud éigin greim ach amháin *faoi ualach nó i gcásanna imill* (sáithiú pool, sosanna GC, N+1, cache fuar, glao seachtrach gan uainiú).

**Múnla meabhrach:** is é p99 an *scuaine seiceála is faide*, ní an mheánfhanacht — ní dhéanann luasghéarú ar an meán faic don chustaiméir atá sáinnithe ag an gcúl.

## An próiseas (ó cá háit go cá háit)
1. **Tomhais & miondealaigh** — méadrachtaí RED (Rate, Errors, Duration) + rianú dáilte; léigh p50/p95/p99. Insíonn an *bhearna* eatarthu an scéal.
2. **Logánaigh an chéim** — ionstraimigh gach céim le feiceáil cá gcaitheann iarratais mhalla am; ná optamaigh ar bhonn tuairime.

```js
// Tomhais am gach céime le feiceáil cá gcarnann p99 (ná déan buille faoi thuairim)
async function handler(req, res) {
  const t0 = process.hrtime.bigint();
  const mark = (label) =>
    req.log.info({ label, ms: Number(process.hrtime.bigint() - t0) / 1e6 });
  const user = await db.user.find(req.id);   mark('db.user');
  const courses = await loadCourses(user);   mark('loadCourses'); // amhrasach
  res.json(courses);                         mark('total');
}
```

3. **Aithin an t-amhrasach eireabaill** — de ghnáth *ag fanacht*, ní ag ríomh: ídiú connection-pool, ceisteanna N+1, glaonna seachtracha gan uainiú, sosanna GC, innéacs ar iarraidh, cache fuar.

```js
// ROIMHE: N+1 — N turas comhleantach, pléascann p99 de réir mar a fhásann N
const courses = await db.course.findByUser(userId);
for (const c of courses) c.lessons = await db.lesson.byCourse(c.id);

// INA DHIAIDH: cnag go 1 cheist -> titeann an t-eireaball (gan N turas comhleantach a thuilleadh)
const courses = await db.course.findByUser(userId);
const lessons = await db.lesson.byCourseIds(courses.map((c) => c.id)); // aon IN(...)
const byCourse = Map.groupBy(lessons, (l) => l.courseId);
for (const c of courses) c.lessons = byCourse.get(c.id) ?? [];
```

Anseo breathnaíonn p50 (N beag) go breá, ach faoi ualach fásann N agus sáithíonn an pool, mar sin **pléascann p99**. Le haghaidh glaonna seachtracha, socraigh **timeout + circuit breaker** i gcónaí ionas nach féidir le spleáchas mall amháin p99 an endpoint iomláin a tharraingt síos.

4. **Deisigh rud amháin → athomhais p99 → athdhéan.** Athróg amháin ag an am, nó ní bheidh a fhios agat cad a chabhraigh.
5. **Glasáil isteach é** — socraigh **SLO** (m.sh. p99 < 300ms) + foláireamh ionas nach dtéann sé ar gcúl.

## Léargas agallaimh
Tá an t-agallóir ag fiosrú próisis *mhodhúil*, ní buille faoi thuairim ámharach: an ndealaíonn tú **eireaball ón meán**, an dtomhaiseann tú roimh athrú, agus an mbreathnaíonn tú ar **scuainí/glais (ag fanacht) roimh CPU**. Freagra lag: "cuir caching leis / scálaigh suas na freastalaithe." Freagra láidir: tomhais → logánaigh le rianú → deisigh cúis shonrach an eireabaill → fíoraigh le huimhreacha.

## Prionsabal
Optamaigh an **t-eireaball (p99), ní an meán**. Tagann formhór na "3s p99" ó *fhanacht* (pool/scuaine/glas) seachas ó *ríomh* — mar sin breathnaigh ar scuainí roimh CPU.

An próiseas (ó cá háit go cá háit)

Léargas agallaimh

Prionsabal

Ceisteanna gaolmhara