API Gateway에서 속도를 제한하고 있어 제한을 방지하고 싶습니다. 워크로드에 가장 적합한 API Gateway 캐시 용량을 선택하려면 어떻게 해야 합니까?
간략한 설명
Amazon API Gateway는 너무 많은 요청에 의해 압도되는 것을 방지하기 위해 API에 대한 요청을 제한합니다. API 캐싱을 켜서 엔드포인트에 대한 호출 수를 줄입니다.
여러 API Gateway 캐시 크기를 사용할 수 있습니다. 적절한 캐시 크기를 선택하려면 API에서 로드 테스트를 실행한 다음 Amazon CloudWatch 지표를 검토하십시오.
해결 방법
API Gateway 캐싱 켜기
API 단계에 대해 Amazon API Gateway 캐싱을 켭니다. 캐시 용량은 응답 및 워크로드의 크기에 따라 다릅니다.
참고: 캐시 용량은 캐시 인스턴스의 CPU, 메모리 및 네트워크 대역폭에 영향을 미칩니다. 따라서 캐시 용량이 캐시 성능에 영향을 줄 수 있습니다.
캐시를 만든 후 부하 테스트를 실행하여 캐시 크기가 제한을 방지할 만큼 충분히 높은지 확인합니다.
로드 테스트 실행
API에서 로드 테스트를 실행합니다. AWS 분산 로드 테스트를 사용하여 로드 테스트를 시뮬레이션할 수 있습니다.
최소 10분 동안 로드 테스트를 실행하고 프로덕션 트래픽을 미러링합니다. 로드 테스트가 실행 중일 때 다음 섹션의 단계를 사용하여 관련 CloudWatch 지표를 모니터링합니다.
CloudWatch에서 API 지표 모니터링
- CloudWatch 콘솔을 엽니다.
- 탐색 창에서 지표를 선택합니다.
- ApiGateway 지표를 선택합니다.
- 로드 테스트 대상 API에 대한 대기 시간, 4XXError, 5XXError, CacheHitCount, 및 CacheMissCount 지표를 모니터링합니다.
- 대기 시간, 4XXError, 5XXError 또는 CacheMissCount가 증가하며 CacheHitCount는 감소하는 경우 API Gateway 캐시를 더 큰 용량으로 조정합니다.
- CacheHitCount가 증가하지만 CacheMissCount가 그에 따라 증가하지 않는 경우 API Gateway 캐시를 더 작은 용량으로 조정합니다.
- 캐시 용량을 변경한 다음 갑자기 증가하거나 감소하지 않을 때까지 로드 테스트를 다시 실행합니다.
관련 정보
Amazon API Gateway 요금
API 캐싱을 켜서 응답성 향상
Amazon API Gateway 차원 및 지표