Kas yra talpyklos purslė ir kaip jį išvengti?

Question

Accepted Answer

**Talpyklos purslė** (arba dogpile) įvyksta, kai karštas talpintasis raktas baigiasi ir **daug lygiagrečių užklausų jį vienu metu pasigauna**, visi nukrisdami į pradžią tą patį reikšmę iš naujo apskaičiuoti vienu metu. Pradžia (DB arba paslauga) yra bombarduota puolimo, kurio ji negali valdyti, kartais nutraukdama sistemą.

## Priežastis

```text
t=0   hot key expires
t=0+  1000 requests arrive → all miss → all query the DB for the SAME value
      → DB overwhelmed; latency spikes; failures cascade
```

Spustelėjimas yra **vienu metu populiaraus rakto pasibaigimas**. Sprendimas yra užtikrinti, kad tik vienas (arba keletas) perskaičiavimų įvyksta, arba kad užklausos ne visos pasibaiga vienu metu.

## Sprendimai

- **Sprendimas / single-flight** — pirmasis paleidimas paima sprendimą ir perskaičiuoja; visi kiti laukia to vieno rezultato, o ne visi krenta į pradžią.
- **Stale-while-revalidate** — iš karto pasitarnau šiek tiek pasenusią reikšmę, o viena fono užduotis ją atnaujina. Nėra užklausos, kuri yra suvesta pradžioje.
- **Ankstyvasis / tikimybinis perskaičiavimas** — atnaujinkite raktas *prieš* jį pasibaigiančius, su tikimybe, kuri didėja artėjant galiojimui, todėl viena sėkminga užklausa ją atkuria prieš purslę.
- **Sutriktas TTL** — pridėkite atsitiktinumą prie TTL, todėl raktai nepasibaigi vienu metu.
- **Užklausos sudarymas** — sutraukite identiškas lygiagrečias užklausas į vieną pradžios skambutį.

## Single-flight pseudo-kodas

```text
function get(key):
  val = cache.get(key)
  if val is present: return val            // fast path: a hit

if lock.acquire(key, ttl=5s):            // only ONE request wins the lock
    try:
      val = recompute()                    // hit the origin exactly once
      cache.set(key, val, ttl)
    finally:
      lock.release(key)
    return val
  else:
    wait_briefly(); return get(key)        // others wait, then read the filled cache
```

Sprendimas garantuoja tiksliai vieną pradžios skambutį; kiekviena kita lygiagreti užklausa laukia ir tada skaito iš naujo talpytoje reikšmę.

## Kodėl tai svarbu

Purslė įprastą talpyklos pasibaigimą paverčia išjungimu: talpykla, kuri saugojo jūsų DB, staiga nustoja, ir visas srautas iš karto krenta į pradžią. Žinojimas apie priežastį (karštų raktų vienu metu pasibaigimas) ir sprendimus (single-flight, stale-while-revalidate, jitter) yra būtinas, norint išlaikyti talpyklas patikimas, kai yra realus apkrovimas.