Rate Limiting d'API : Algorithmes et Comment le Construire
Un client coincĂ© dans une boucle de retry sans backoff peut mettre plus de charge sur votre API en une minute que vos dix mille autres clients rĂ©unis. De votre cĂŽtĂ©, ça ne ressemble pas Ă une attaque. Ăa ressemble Ă un bug chez eux, et ça devient un incident chez vous. Un rate limiter bloque ce client avant quâil nâen arrive lĂ . Que dĂ©cide vraiment un rate limiter ? Ă chaque requĂȘte, le rate limiter se pose une seule question : cette clĂ© a-t-elle fait trop de requĂȘtes dans la fenĂȘtre actuelle ? Trois choix transforment cette question en quelque chose dâimplĂ©mentable. ...