Rate Limiting delle API: Algoritmi e Come Costruirne Uno
Un client bloccato in un retry loop senza backoff pu貌 generare, in un minuto, pi霉 carico sulla tua API di quanto ne generino insieme altri diecimila client. Visto da te non sembra un attacco: sembra un bug dalla loro parte, che diventa un incidente dalla tua. Un rate limiter blocca quel client prima che arrivi a quel punto. Cosa decide davvero un rate limiter? A ogni richiesta, il limiter si pone una sola domanda: questa chiave ha fatto troppe richieste nella finestra attuale? Tre scelte trasformano quella domanda in qualcosa che puoi implementare. ...