Kako prekidači kola i pokušaji s backoff-om funkcioniraju u distribuiranim sustavima?

Question

IT Interview Practice · Accepted Answer

U distribuiranim sustavima, pozivi neće uspjeti. **Pokušaji s backoff-om** obnavljaju se iz *privremenih* grešaka; **prekidač kola** vas sprječava od udaranja ovisnosti koja je doista *dolje*. Komplementarni su: ponovno pokušajte na "problema", prekidite na "prekidu".

## Pokušaj s eksponencijalnim backoff-om + jitter

Za privremene greške (timeouts, kratke mrežne "bljeskove", 503s), ponovno pokušajte — ali **backoff-ajte eksponencijalno i dodajte jitter** tako da se pokušaji rasporede umjesto sinhroniziranja u galjusni stado.

```text
attempt 1 → wait ~1s   (+ random jitter)
attempt 2 → wait ~2s   (+ random jitter)
attempt 3 → wait ~4s   (+ random jitter)
→ cap at maxRetries (e.g. 3) and a max delay → don't retry forever
```

Klučne opreznosti:

- **Ograničite pokušaje** — neograničeni pokušaji stvaraju **oluje pokušaja** koje preopterećuju oporavljivujući servis.
- **Idempotentnost** — samo pokušajte operacije koje su sigurne za ponavljanje (ponovno pokušani uplaćeni ne smije naplatiti dvaput).
- **Jitter** — bez toga, svi klijenti pokušavaju u istoj sekundi i ponovno povećavaju opterećenje.

## Prekidač kola

Prekidač kola prati greške ovisnosti i, nakon praga, **otvara se** — brzo neuspijevajući (ili vraćajući fallback) umjesto pozivanja mrtvoga servisa. Nakon hladnog perioda ide **polupra otvoren** kako bi testirao oporavak.

```text
CLOSED   → calls pass through; count failures
  too many failures → trip → OPEN
OPEN     → fail fast immediately (no call); start cooldown timer
  cooldown elapsed → HALF-OPEN
HALF-OPEN → allow a few probe calls
  success → CLOSED (recovered) ; failure → back to OPEN
```

## Kada se svaki primjenjuje

```text
Retry           → transient, likely-to-succeed-soon errors (1 slow call)
Circuit breaker → repeated/sustained failures (the dependency is down)
→ use together: breaker prevents retries from piling onto a dead service
```

## Zašto je to važno

Bez toga, neuspješna ovisnost povlači zvonitelja sa sobom: zahtjevi se gomilaju na timeouts, pokušaji amplificiraju opterećenje, a greška se kaskadira kroz servise. Eksponencijalni backoff s jitter-om se oporavlja od "bljeskova" bez oluje pokušaja; ograničavanje i idempotentnost čuvaju pokušaje sigurnim; a prekidač kola zaustavlja rasipanje resursa na mrtvoj ovisnosti i daje joj mjesta za oporavak. Zajedno pretvaraju grešku ovisnosti u lokalnog, samoolječavajućeg događaja.

Pokušaj s eksponencijalnim backoff-om + jitter

Prekidač kola

Kada se svaki primjenjuje

Zašto je to važno

Povezana pitanja