Rate limiting štiti server od previše zahtjeva; HTTP cachiranje izbjegava ponavljanje posla za zahtjeve na koje je već odgovorio. Oba su standardizirana u HTTP-u i oba su bitna za produkcijski API pri velikoj skali.
Rate limiting
Server ograničava koliko zahtjeva klijent smije napraviti po prozoru i vraća 429 Too Many Requests kad se prekorači. Objavljuje limite kroz headere kako bi se dobro ponašajući klijent mogao sam pridušiti:
HTTP/1.1 200 OK
RateLimit-Limit: 100
RateLimit-Remaining: 12
RateLimit-Reset: 30
