내용으로 건너뛰기

Elastic Load Balancing에서 Application Load Balancer의 긴 지연 시간 문제를 해결하려면 어떻게 해야 합니까?

8분 분량
0

Elastic Load Balancing(ELB)에서 Application Load Balancer의 긴 지연 시간 문제를 해결하고 싶습니다.

간략한 설명

Application Load Balancer의 지연 시간이 긴 원인은 다음과 같습니다.

  • 연결 문제, 패킷 손실 또는 클라이언트와 Application Load Balancer 간 DNS 확인 지연과 같은 네트워크 문제
  • 유휴 제한 시간 설정, 서브넷 용량 부족, 경로 누락 또는 제한적 보안 그룹이나 네트워크 액세스 제어 목록(ACL) 규칙과 같은 Application Load Balancer 또는 인프라 구성 오류
  • POST 요청을 처리할 AWS WAF 오버헤드
  • SSL/TLS 핸드셰이크 오버헤드 또는 인증서 문제
  • 상태 확인 실패로 인해 나머지 정상 대상에서 트래픽 과부하 발생
  • CPU 또는 메모리 사용량이 많음, 잘못된 웹 서버 구성 또는 애플리케이션 종속성이 느린 등 백엔드 문제

해결 방법

Application Load Balancer에서 지연 시간이 긴 문제를 해결하려면 다음 작업을 수행하십시오.

지연 시간이 발생하는 단계 알아보기

지연 시간이 발생하는 단계가 어디인지 알아내려면 Application Load Balancer 액세스 로그에서 다음 필드의 값을 확인합니다.

  • request_processing_time
  • target_processing_time
  • response_processing_time

액세스 로그 항목의 예시:

loadbalancer/50dc6c495c0c9188  
 192.168.131.39:2817 10.0.0.1:80 0.001 12.401  0.001 200 200 34 366  
 "GET http://www.example.com:80/ HTTP/1.1" "curl/7.46.0" - -  
 arn:aws:elasticloadbalancing:us-east-2:123456789012:targetgroup/example-targets/73e2d6bc24d8a067  
 "Root=1-58337262-36d228ad5d99923122bbe354"  "-" "-"  
 0 2024-04-01T22:22:48.364000Z  "forward" "-" "-" "10.0.0.1:80"  "200" "-" "-"

이 예시에서는 request_processing_time이 0.001, target_processing_time이 12.401, response_processing_time이 0.001입니다. target_processing_time 값이 크면 지연 시간의 원인이 백엔드 대상이라는 의미입니다. 자세한 내용은 액세스 로그 항목을 참조하십시오. 클라이언트의 관측된 총 지연 시간을 세 타이밍 필드의 합계와 비교합니다. 둘 사이 차이가 크면 클라이언트와 Application Load Balancer 사이에 네트워크 문제가 있는 것입니다.

CloudWatch 지표에서 다음을 확인합니다.

가용 영역 전반의 지표를 확인해 지연 시간이 AZ별 문제인지 판별합니다. 특정 AZ의 지연 시간이 긴 경우, 해당 AZ와 교차 AZ 종속성에서 대상 상태를 조사합니다.

네트워크 및 DNS 문제 확인

클라이언트와 Application Load Balancer 사이에 네트워크 연결 문제가 있으면 지연 시간이 길어질 수 있습니다. 네트워크 및 DNS 문제가 있는지 확인하려면 다음 단계를 완료하십시오.

  • Application Load Balancer에 대한 기본 연결을 확인합니다. 자세한 내용은 Application Load Balancer 문제 해결을 참조하십시오.

  • My Traceroute(MTR)를 사용해 클라이언트와 Application Load Balancer 사이 패킷 손실 및 지연 시간이 있는지 확인합니다. 다음 명령을 실행합니다.

    mtr -rw  example-alb.us-east-1.elb.amazonaws.com -report-cycles 100

    참고: example-alb.us-east-1.elb.amazonaws.com을 해당하는 Application Load Balancer DNS 이름으로 바꾸십시오.

    출력 예시:

    HOST: ip-10-0-1-50                Loss%   Snt    Last   Avg  Best   Wrst StDev  
     1.|-- 10.0.1.1                    0.0%   100     0.5    0.6   0.4      1.2   0.1  
     2.|-- 52.93.1.100                 0.0%   100     1.2    1.3   1.0      3.5   0.3  
     3.|-- 54.239.110.5                2.0%   100     1.5    1.8   1.2      5.1   0.5  
     4.|-- example-alb.us-east-1.elb.amazonaws.com   0.0%   100    2.1    2.3   1.8   4.2    0.4

    번호가 매겨진 각 행이 클라이언트와 Application Load Balancer 사이로 통과하는 트래픽의 네트워크 디바이스에 해당합니다.

  • Loss% 값이 크거나, Avg 대 Wrst 지연 시간 값 비율이 높은 네트워크 디바이스를 찾으십시오. 중간 네트워크 디바이스에서 패킷 손실이 발생하면 네트워크가 혼잡한 것으로 표시됩니다. 최종 네트워크 디바이스에서 패킷 손실이 발생하면, Application Load Balancer 서브넷 구성 또는 네트워크 경로와 관련한 문제가 있는 것입니다.

  • 동일한 Amazon Virtual Private Cloud(Amazon VPC)를 Application Load Balancer로 클라이언트 측에서 및 Amazon EC2 인스턴스에서 모두 MTR을 실행합니다. 결과를 비교해 문제가 AWS 외부에 있는지 아니면 내부에 있는지 파악합니다. 자세한 내용은 ](https://repost.aws/articles/ARYuHnu150R9ahMl-2hNNEVw/diagnosing-packet-loss-and-latency-with-mtr)MTR을 사용한 패킷 손실 및 지연 시간 진단[을 참조하십시오.

    다음 curl 명령을 실행합니다.

    curl -kso /dev/null -w  "\n===============\n  
     | DNS lookup: %{time_namelookup}\n  
     | Connect: %{time_connect}\n  
     | App connect: %{time_appconnect}\n  
     | Pre-transfer: %{time_pretransfer}\n  
     | Start transfer: %{time_starttransfer}\n  
     | Total: %{time_total}\n  
     | HTTP Code:  %{http_code}\n===============\n" https://example.com/  
    

    참고: example.com을 해당하는 DNS 이름으로 바꾸십시오.
    출력 예시:

    ===============| DNS lookup: 0.002346| Connect: 0.003080| App connect: 0.008422| Pre-transfer: 0.008587| Start transfer: 0.050238| Total: 0.057486| HTTP Code: 200===============
  • 지연 시간의 원인을 격리하려면 앞의 명령을 Application Load Balancer와 함께 실행한 다음, 명령을 다시 실행해 Application Load Balancer를 우회합니다. 자세한 내용은 curl 웹 사이트의 curl 매뉴얼 페이지를 참조하십시오. App connect(앱 연결) 시간(TLS 핸드셰이크)이 Connect(연결) 시간(TCP 핸드셰이크)보다 많이 큰 경우, TLS 협상이 느린 것입니다.

Application Load Balancer 및 인프라 구성 확인

유휴 제한 시간

  • 액세스 로그의 target_processing_time이 유휴 제한 시간과 정확히 일치하는 경우, Application Load Balancer 유휴 제한 시간을 늘리거나 애플리케이션 응답 시간을 최적화하십시오. 유휴 제한 시간을 수정하는 방법은 Edit attributes for your Application Load Balancer(Application Load Balancer의 속성 편집)를 참조하십시오. 기본 유휴 제한 시간은 60초입니다. 현재 유휴 제한 시간 값을 확인하려면 다음 명령을 실행합니다.

    aws elbv2  describe-load-balancer-attributes --load-balancer-arn  example-alb-arn --query  "Attributes[?Key=='idle_timeout.timeout_seconds']"

    참고: example-alb-arn을 해당하는 Application Load Balancer의 Amazon 리소스 이름(ARN)으로 바꾸십시오.

  • 백엔드 웹 서버의 연결 유지 제한 시간이 Application Load Balancer 유휴 제한 시간보다 커야 HTTP 502 오류를 방지할 수 있습니다.

  • 액세스 로그에서 HTTP 460 오류가 있는지 확인하십시오. 이 오류가 있으면 유휴 제한 시간이 경과하기 전에 클라이언트가 연결을 닫았다는 의미입니다.

서브넷 용량
각각의 Application Load Balancer 서브넷에 8개 이상의 사용 가능한 IP 주소가 있는 최소 /27 CIDR(Classless Inter-Domain Routing)이 필요합니다. 트래픽 급증 시 Application Load Balancer가 확장되며 더 많은 IP가 필요합니다. 서브넷이 소진되면 Application Load Balancer가 확장될 수 없고, 그러면 지연 시간 또는 5xx 오류가 발생할 수 있습니다. 급증이 예상되는 경우, LCU 예약을 사용해 용량을 미리 프로비저닝하십시오.

AWS WAF
Application Load Balancer에 AWS WAF가 연결된 경우, WAF 규칙 계산치가 request_processing_time 필드에 추가됩니다. 이렇게 하면 WAF가 요청을 대상에 전달하기 전에 본문을 조사하기 때문에, 요청 본문이 큰 POST 요청의 증가율이 가장 큽니다. 자세한 내용은 Load balancer shows elevated processing times(로드 밸런서에 처리 시간이 늘어난 것으로 표시됨)를 참조하십시오.

SSL/TLS 구성
Application Load Balancer가 더 빠른 핸드셰이크를 위해 최신 보안 정책을 사용하는지 확인합니다. 사용자 지정 인증서의 경우, 전체 인증서 체인이 구성되었어야 합니다. 중간 인증서가 누락되면 TLS 핸드셰이크에 지연 시간이 추가됩니다.

네트워크 인프라
Application Load Balancer 서브넷에 외부로 연결되는 Internet Gateway로의 경로 또는 적절한 내부 경로가 있는지 확인합니다.

참고: 내부 Application Load Balancer의 경우, 서브넷에 Internet Gateway 경로가 필요하지 않습니다. 백엔드 대상이 외부 서비스에 연결해야 하는 경우, 서브넷에 NAT Gateway로의 경로가 있어야 합니다. VPC Reachability Analyzer를 사용해 Application Load Balancer 탄력적 네트워크 인터페이스(ENI) 및 대상 사이에 연결 문제가 있는지 진단할 수도 있습니다.

백엔드 서버 및 종속성 확인

백엔드 서버 및 종속성을 확인하려면 다음 작업을 수행합니다.

  • CPU 사용률이 높은지 알아보려면 백엔드 인스턴스의 CloudWatch CPUUtilization 지표를 확인합니다. 높은 CPU 사용률을 해결하려면 인스턴스를 더 큰 인스턴스 유형으로 업그레이드하십시오.

  • 백엔드에서 실행 중인 프로세스를 검토하고 메모리 문제가 있는지 확인하려면 다음 Linux 명령을 실행합니다.

    watch  -n 1 "echo -n 'Apache Processes:' && ps -C httpd --no-headers |  wc -l && free -m"

    참고: httpd를 서버의 프로세스 이름으로 바꾸십시오.
    출력 예시:

    Every  1.0s: echo -n 'Apache Processes:' && ps -C httpd --no-headers | wc -l  && free -m  Apache  Processes:6 total used free shared buff/cache availableMem:  961 332 78 3 550 483Swap:  0 0 0
  • 현재 실행 중인 웹 서버 프로세스가 몇 개인지 확인하려면 다음 Linux 명령을 확인합니다.

    ps aux  | grep httpd | wc -l

    참고: httpd를 서버의 프로세스 이름으로 바꾸십시오.

    출력 예시:

    7
  • 웹 서버의 최대 동시 연결 수 또는 워커 한도를 확인합니다. 각 웹 서버에 해당 웹 서버가 처리할 수 있는 동시 요청의 최대 수를 제어하는 구성 설정이 있습니다. 이 한도에 도달하면 Application Load Balancer에서 보낸 새 요청이 대기열에 추가되고, 그러면 지연 시간이 늘어납니다. 본인의 웹 서버 유형에서 관련 설정을 확인하십시오.

  • 지연 시간 문제를 일으킬 수 있는 백엔드 인스턴스의 종속성을 확인합니다. 종속성의 예로는 Amazon Simple Storage Service(Amazon S3) 버킷, 네트워크 주소 변환(NAT) 인스턴스 또는 프록시 서버, 원격 웹 서비스 및 데이터베이스가 있습니다.

Linux 도구를 사용하여 성능 병목 식별

서버의 성능 병목을 식별하려면 다음 Linux 명령을 사용하십시오.

  • uptime 명령을 실행하여 리소스 경합으로 인해 시스템 로드 평균이 높은지 확인합니다.
  • mpstat -P ALL 1 명령을 실행해 각 코어의 CPU 사용량 분석을 보고 불균형한 사용량이 있는지 알아봅니다.
  • pidstat 1 명령을 실행해 시간이 흐름에 따라 리소스를 많이 사용하는 프로세스와 패턴을 알아봅니다.
  • dmesg | tail 명령을 실행해 성능에 영향을 미칠 수 있는 최근 시스템 수준 이벤트가 있었는지 알아봅니다. 출력에는 최근 10개의 시스템 메시지가 표시됩니다.
  • iostat -xz 1 명령을 실행해 읽기 또는 쓰기 작업이 많은지, 또는 디스크 성능이 느린지 알아봅니다.
  • free -m 명령을 실행하여 사용 가능한 시스템 메모리를 확인합니다. 사용 가능한 메모리가 적으면 시스템이 스왑에 의존할 수 있고, 그러면 디스크 I/O 및 지연 시간이 늘어납니다.
  • sar -n DEV 1 명령을 실행해 대역폭 포화도를 알아봅니다. 출력에 네트워크 인터페이스 처리량이 표시됩니다.
  • sar -n TCP,ETCP 1을 실행해 TCP 지표를 봅니다. retrans/s 지표에 초당 TCP 재전송 횟수가 표시됩니다. 이 지표가 높으면 패킷 손실 또는 정체가 발생할 수 있습니다.
  • 네트워크에서 대역폭을 가장 많이 사용하는 항목을 알아보려면 iftop 명령을 실행합니다. 출력에 각 연결의 활성 대역폭 사용량이 실시간으로 표시됩니다.
  • niftop 명령은 iftop의 변형으로, Red Hat Enterprise Linux(RHEL) 및 Debian 기반 배포판의 타사 리포지토리를 통해 사용할 수 있습니다. iftop이 시스템에 사전 설치되어 있지 않은 경우 niftop을 사용하십시오.

참고: Linux 배포에 따라 앞의 명령을 수동으로 설치해야 할 수 있습니다.

AWS 공식업데이트됨 5달 전
1 댓글

This article was reviewed and updated on 2026-05-26.

전문가

답글을 게시함 한 달 전