Como seleciono a melhor capacidade de cache do Amazon API Gateway para evitar atingir um limite de taxa?

Descrição resumida

O Amazon API Gateway limita as solicitações à sua API para evitar que ela seja sobrecarregada por muitas solicitações.Ative o cache da API para reduzir o número de chamadas feitas para seu endpoint.

Há vários tamanhos de cache do API Gateway disponíveis. Para selecionar o tamanho apropriado do cache, execute um teste de carga em sua API e, em seguida, revise as métricas do Amazon CloudWatch.

Solução

Ativar o armazenamento em cache do API Gateway

Ative o armazenamento em cache do Amazon API Gateway para seu estágio de API. A capacidade do cache depende do tamanho de suas respostas e da workload.

Observação: A capacidade do cache afeta a CPU, a memória e a largura de banda da rede da instância de cache. Como resultado, a capacidade do cache pode afetar o desempenho do cache.

Depois de criar seu cache, execute um teste de carga para determinar se o tamanho do cache é alto o suficiente para evitar o controle de utilização.

Execute um teste de carga

Execute um teste de carga na sua API. Você pode usar o AWS Distributed Load Testing para simular o teste de carga.

Execute o teste de carga por pelo menos 10 minutos e espelhe seu tráfego de produção. Durante o teste, use as etapas na seção a seguir para monitorar as métricas relacionadas ao CloudWatch.

Monitore as métricas da API no CloudWatch

1. Abra o console do CloudWatch.
2. No painel de navegação, selecione Métricas.
3. Escolha a métrica ApiGateway.
4. Monitore as métricas de latência, 4XXError, 5xxError, ** CacheHitCount** e CacheMissCount da API com a qual você está testando a carga.
5. Se você observar um aumento na latência, 4XXError, 5xxError ou CacheMissCount com uma diminuição de CacheHitCount, redimensione o cache do API Gateway para uma capacidade maior.
6. Se você observar um aumento no CacheHitCount e nenhum aumento correspondente no CacheMissCount, redimensione o cache do API Gateway para uma capacidade menor.
7. Depois de qualquer alteração na capacidade do cache, execute o teste de carga novamente até que não haja aumentos ou diminuições repentinas.

Informações relacionadas

Preços do Amazon API Gateway

Ative o armazenamento em cache da API para melhorar a capacidade de resposta

Dimensões e métricas do Amazon API Gateway