NGINX Plus와 NGINX Open Source를 사용해 웹사이트와 앱의 부하를 분산하여 가용성과 안정성을 최적화하는 방법에 대해 많은 글을 작성해 왔습니다. 로드 밸런싱은 앱 성능 향상, 대규모 앱 제공, 컨테이너 및 마이크로서비스 배포를 위한 핵심 도구입니다.
앞서 NGINX Plus를 데이터 센터에 배포하거나(기존 애플리케이션 딜리버리 컨트롤러와 함께 배포하는 경우 포함), 컨테이너 및 다음과 같은 클라우드 환경에 배포하는 방법을 설명했습니다. Amazon Web Services (AWS), Google Cloud Platform, Microsoft Azure.
이 글에서는 NGINX Plus와 NGINX의 부하 분산 기법(부하 분산 방식 또는 알고리즘이라고도 함)을 중심으로, 다양한 사용 사례에 적합한 방식을 선택하는 데 도움이 되는 조언을 제공합니다. NGINX는 네 가지 부하 분산 기법(라운드 로빈, 해시, IP 해시, 최소 연결 수)을 제공하며, NGINX Plus는 여기에 한 가지 기법(최소 시간)을 추가로 제공합니다. IP 해시를 제외한 모든 HTTP 트래픽용 방식은 TCP에도 사용할 수 있습니다(NGINX Plus 릴리스 9 이상에서는 UDP에도 사용 가능).
[편집자 주 – NGINX Plus R16 및 NGINX Open Source 1.15.1에서는 추가 로드 밸런싱 알고리즘으로 Random with Two Choices를 도입했습니다. 자세한 내용은 블로그의 NGINX와 “두 가지 선택의 힘” 로드 밸런싱 알고리즘 글을 참조하세요.]
부하 분산 기법 살펴보기
로드 밸런싱을 구성하는 기본적인 방법은 이미 알고 계시리라 생각하지만, 다시 살펴보고 싶으시다면 다음 자료를 참고하세요:
- Articles in the NGINX Plus 관리자 가이드의 문서에서 전반적인 내용을 확인할 수 있습니다.
- 고성능 부하 분산에서는 부하 분산 방식의 효율성을 더욱 높일 수 있는 NGINX Plus의 향상된 기능을 자세히 설명하는 자료로 연결되는 링크를 제공합니다.
- NGINX 및 NGINX Plus를 사용한 로드 밸런싱, 1부 및 2부는 NGINX Plus의 향상된 기능을 활용하여 간단한 리버스 프록시를 종합적인 로드 밸런싱 솔루션으로 발전시키는 과정을 단계별로 안내합니다.
- The 부하 분산 솔루션 페이지에서는 전자책, 웨비나, 백서 등 다양한 자료로 연결되는 링크를 제공합니다.
설명을 간단히 하기 위해 http 컨텍스트에서 구성하는 HTTP 부하 분산에 초점을 맞추겠습니다. TCP 부하 분산은 이와 달리 stream 컨텍스트에서 구성합니다(NGINX Plus 릴리스 9 이상에서 UDP 부하 분산도 마찬가지입니다). HTTP 및 TCP/UDP 로드 밸런서는 동일한 기능을 제공하지만, 프로토콜 간의 본질적인 차이로 인해 사용 가능한 지시문과 매개변수는 다소 다릅니다. 자세한 내용은 HTTP 및 TCP/UDP용 Upstream 모듈 문서를 참조하세요.
두 개의 구성 블록으로 로드 밸런싱을 활성화할 수 있습니다. 아래에서는 선택적 매개변수나 부가 기능을 제외한 기본 형태를 보여 드리겠습니다.
- The
server블록은 사용자가 정의한 특성에 맞는 트래픽을 수신하고, 이를 이름이 지정된 업스트림 서버 그룹으로 프록시하는 가상 서버를 정의합니다. 이 예제에서 가상 서버는 기본 포트(80)에서 www.example.com으로 전송되는 HTTP 트래픽을 수신하고, 이를 backend라는 업스트림 서버 그룹으로 프록시합니다. 이 블록은 모든 예제에서 동일합니다.
server { server_name www.example.com;
location / {
proxy_pass http://backend;
}
}- (NGINX Plus와 NGINX는 FastCGI, memcached, SCGI 및 uwsgi 백엔드 서버에 대한 부하 분산도 지원합니다.
proxy_pass를 적절한 지시어인fastcgi_pass,memcached_pass,scgi_pass또는uwsgi_pass로 바꾸세요.) - The
upstream블록은 업스트림 그룹의 이름을 지정하고 해당 그룹에 속한 서버를 호스트 이름, IP 주소 또는 UNIX 도메인 소켓 경로로 식별하여 나열합니다. 이 예제에서 backend라는 업스트림 그룹에는 서버 세 대가 포함됩니다. 각 서버는 web1, web2, web3입니다.upstream블록에서 부하 분산 방식을 지정하므로, 이어지는 섹션에서는 이 부분을 중점적으로 살펴보겠습니다. 예를 들어, 기본 방식인 라운드 로빈의 블록은 다음과 같습니다:
upstream backend { server web1;
server web2;
server web3;
}라운드 로빈
라운드 로빈은 NGINX Plus와 NGINX 모두에서 기본으로 사용하는 부하 분산 방식입니다. 로드 밸런서는 업스트림 서버 목록을 순서대로 순회하며 각 서버에 연결 요청을 차례로 할당합니다.
다음과 같은 backend 업스트림 그룹의 샘플 구성이 주어지면, 로드 밸런서는 처음 세 개의 연결 요청을 web1, web2, web3에 순서대로 보내고, 네 번째 요청은 web1에, 다섯 번째 요청은 web2에 보내는 방식으로 반복합니다.
upstream backend { server web1;
server web2;
server web3;
}
server {
server_name www.example.com;
location / {
proxy_pass http://backend;
}
}해시
해시 방식에서는 로드 밸런서가 각 요청에 대해 사용자가 지정한 텍스트와 NGINX 변수의 조합을 기반으로 해시를 계산하고, 해당 해시를 서버 중 하나에 연결합니다. 동일한 해시를 가진 모든 요청을 해당 서버로 전송하므로, 이 방식은 기본적인 형태의 세션 지속성을 제공합니다.
다음 예제에서 hash 지시어는 요청의 스킴(http 또는 https)과 전체 URI를 기반으로 해시를 계산합니다.
upstream backend { hash $scheme$request_uri;
server web1;
server web2;
server web3;
}
server {
server_name www.example.com;
location / {
proxy_pass http://backend;
}
}IP 해시
IP Hash(HTTP에서만 사용 가능)는 클라이언트의 IP 주소를 기반으로 해시를 생성하는, 미리 정의된 Hash 방식의 변형입니다. ip_hash 지시문으로 설정합니다.
upstream backend { ip_hash;
server web1;
server web2;
server web3;
}
server {
server_name www.example.com;
location / {
proxy_pass http://backend;
}
}클라이언트의 IP 주소가 IPv6인 경우 전체 주소를 기반으로 해시가 계산됩니다. IPv4인 경우에는 주소의 처음 세 옥텟만을 기반으로 해시가 계산됩니다. 이는 서브넷(/24) 범위에서 IP 주소를 동적으로 할당받는 ISP 클라이언트에 최적화하기 위한 설계입니다. 재부팅하거나 다시 연결하면 클라이언트의 주소가 /24 네트워크 범위 내의 다른 주소로 바뀌는 경우가 많지만, 여전히 동일한 클라이언트의 연결이므로 서버 매핑을 변경할 이유가 없습니다.
하지만 사이트 트래픽의 대부분이 동일한 /24 네트워크에 있는 클라이언트에서 발생한다면, IP Hash는 모든 클라이언트를 동일한 서버에 매핑하므로 적합하지 않습니다. 이 경우(또는 다른 이유로 네 옥텟 전체를 해싱하려는 경우)에는 대신 $remote_addr 변수를 사용하는 Hash 방식을 사용하세요.
hash $remote_addr;최소 연결
최소 연결(Least Connections) 방식에서는 로드 밸런서가 각 서버에 현재 연결된 활성 연결 수를 비교하여 연결 수가 가장 적은 서버로 요청을 보냅니다. 이 방식은 least_conn 지시문으로 설정합니다.
upstream backend {
least_conn;
server web1;
server web2;
server web3;
}
server {
server_name www.example.com;
location / {
proxy_pass http://backend;
}
}최소 응답 시간
Least Time 방식(NGINX Plus에서만 사용 가능)에서는 로드 밸런서가 각 서버의 두 가지 지표, 즉 현재 활성 연결 수와 이전 요청에 대한 가중 평균 응답 시간을 수학적으로 결합하여 계산한 값이 가장 낮은 서버로 요청을 전송합니다.
Your choice of parameter on the least_time 지시어에 지정하는 매개변수에 따라 추적할 응답 시간이 결정됩니다. 응답 헤더를 수신하는 데 걸리는 시간(header) 또는 전체 응답을 수신하는 데 걸리는 시간(last_byte) 중 하나를 선택할 수 있습니다.
upstream backend { least_time (header | last_byte);
server web1;
server web2;
server web3;
}
server {
server_name www.example.com;
location / {
proxy_pass http://backend;
}
}참고:
- TCP 및 UDP 부하 분산(
stream컨텍스트)에서는 다음least_time지시문 매개변수를 사용하여 세 가지 유형의 응답 시간 중에서 선택할 수 있습니다:connect– 업스트림 서버에 연결하는 데 걸리는 시간first_byte– 응답 데이터의 첫 번째 바이트를 수신하는 데 걸리는 시간last_byte– 응답 데이터의 마지막 바이트를 수신하는 데 걸리는 시간
- HTTP 및 TCP/UDP 트래픽 모두에서 NGINX Plus R12 이상 버전의 경우
inflight매개변수를 추가하면 각 지표에 완료되지 않은 연결이 포함됩니다. 이전 릴리스에서는 이러한 연결이 기본적으로 포함됩니다.
부하 분산 기법 선택
그렇다면 웹사이트나 앱에 가장 적합한 부하 분산 기법은 어떻게 알 수 있을까요?
트래픽 패턴은 사이트마다 크게 다르며, 같은 사이트에서도 시간대에 따라 크게 달라집니다. 따라서 트래픽이 순간적으로 급증하는지 아니면 일정하게 유지되는지, 연결이 짧게 유지되는지 아니면 오래 지속되는지 등 단일 특성만으로 부하 분산 기법을 선택하는 것은 적절하지 않습니다. 그렇다면 각 방식의 장단점을 살펴보고 고려할 만한 선택지를 좁혀 보겠습니다.
방식별 비교 테스트 실행
어떤 부하 분산 방식을 후보로 고려하든, 실제로 테스트하여 트래픽에 가장 적합한 방식을 확인하는 것이 좋습니다. 일반적으로 “가장 적합한” 방식은 클라이언트에 응답을 전달하는 시간이 가장 짧은 방식을 의미하지만, 다른 기준을 적용할 수도 있습니다.
애플리케이션 성능 관리 도구는 이러한 테스트에 매우 유용합니다. 업스트림 그룹의 각 서버에 대한 그래프가 포함된 맞춤형 화면을 만들어 테스트 중에 값이 변하는 모습을 실시간으로 비교할 수 있습니다. NGINX Plus 및 NGINX용 맞춤형 플러그인을 제공하는 APM 솔루션으로는 AppDynamics, Datadog, Dynatrace, New Relic 등이 있습니다.
모든 서버의 용량이 같으면 테스트가 가장 간단합니다. 그렇지 않으면 용량이 더 큰 서버가 더 많은 요청을 받도록 서버 가중치를 설정해야 합니다. 아래의 서버 사양이 서로 다른 경우 가중치 설정을 참조하세요.
테스트 중 확인해야 할 몇 가지 지표는 다음과 같습니다.
- CPU 및 메모리 부하 – CPU와 메모리 각각의 전체 용량 대비 사용률을 확인하세요. 모든 서버에 부하가 균등하게 분산되어 있지 않다면 트래픽이 효율적으로 분산되지 않고 있는 것입니다.
- 서버 응답 시간 – 일부 서버의 응답 시간이 다른 서버보다 지속적으로 길다면, 어떤 이유로든 해당 서버에 더 “무거운” 요청(더 많은 연산이나 데이터베이스 또는 다른 서비스 호출이 필요한 요청)이 편중되고 있다는 뜻입니다. 이러한 불균형은 부하 분산 기법의 문제보다는 잘못 설정된 가중치 때문에 발생할 수 있으므로 가중치를 조정해 보세요.
- 클라이언트에 응답하는 데 걸리는 총 시간 – 마찬가지로, 일부 서버에서 이 시간이 지속적으로 더 길다면 처리 시간이 오래 걸리는 요청이 해당 서버에 과도하게 집중되고 있다는 뜻입니다. 이 경우에도 가중치를 조정하여 문제가 해결되는지 확인해 볼 수 있습니다.
- 오류 및 실패한 요청 – 테스트 중 발생하는 요청 실패 및 기타 오류의 수가 사이트의 평소 수준을 넘지 않는지 확인해야 합니다. 그렇지 않으면 실제 트래픽이 아닌 오류 상황을 기준으로 판단하게 됩니다. 일부 오류의 경우 서버는 요청이 성공했을 때보다 더 빠르게 응답할 수 있습니다. 예를 들어 HTTP 응답 코드
404(FileNotFound)의 경우, 서버는 실제 파일이 존재할 때 해당 파일을 전송하는 것보다 훨씬 빠르게 오류를 반환할 수 있습니다. 최소 연결(Least Connections) 및 최소 시간(Least Time) 부하 분산 알고리즘에서는 이로 인해 로드 밸런서가 실제로는 제대로 작동하지 않는 서버에 요청을 우선적으로 보낼 수 있습니다.
장단점 및 사용 사례
이제 각 부하 분산 기법의 장단점을 살펴보고, 각 기법이 특히 적합한 사용 사례를 소개하겠습니다. 대부분의 사용 사례에 대한 적합성이 낮은 기법부터 높은 기법 순으로 설명하겠습니다. 결론을 미리 말씀드리면, 가장 폭넓은 사용 사례에 적합한 최선의 선택은 최소 연결(Least Connections) 방식이며, NGINX Plus의 경우 최소 시간(Least Time) 방식도 여기에 해당합니다.
해시 및 IP 해시
해시 및 IP 해시 부하 분산 기법은 특정 유형의 클라이언트 요청(해시 값으로 표현됨)과 특정 서버 간에 고정된 연결 관계를 만듭니다. 이는 세션 지속성이라고도 하며, 동일한 해시 값을 가진 모든 요청이 항상 같은 서버로 전달되는 것을 의미합니다.
이러한 방식의 가장 큰 단점은 서버 간에 부하를 고르게 분산하는 것은 물론, 요청 수조차 균등하게 배분된다고 보장할 수 없다는 점입니다. 해싱 알고리즘은 가능한 모든 해시 값의 집합을 업스트림 그룹의 각 서버에 하나씩 할당되는 '버킷'으로 균등하게 나누지만, 실제로 발생하는 요청의 해시 값이 고르게 분포할지는 예측할 수 없습니다. 예를 들어 클라이언트 10개가 사이트에 접속하고 있는데, IP Hash 알고리즘이 IP 주소 7개의 해시를 web1에, 1개의 해시를 web2에, 2개의 해시를 web3에 연결했다고 가정해 보겠습니다. 이 경우 web1 서버는 나머지 서버가 받는 요청을 모두 합친 것보다 두 배 이상 많은 요청을 받게 됩니다.

따라서 세션 유지의 이점이 부하 불균형으로 인한 잠재적인 악영향보다 클 때는 Hash 또는 IP Hash를 사용하는 것이 합리적입니다. 이 두 방식은 NGINX에서 사용할 수 있는 유일한 세션 지속성 방식입니다. NGINX Plus는 실제 부하 분산과 함께 작동하는 더욱 정교한 세 가지 세션 지속성 메커니즘을 추가로 제공합니다(이 메커니즘은 sticky 지시문으로 설정합니다). 하지만 다음과 같은 경우에는 이 세 가지 메커니즘이 작동하지 않으므로 NGINX Plus에서도 Hash 또는 IP Hash를 선택할 수 있습니다.
- 브라우저나 클라이언트 앱이 쿠키를 허용하지 않고, 애플리케이션에서도 쿠키 없이 세션 지속성 메커니즘을 사용할 방법이 없는 경우입니다. IP Hash 방식을 사용하면 각 클라이언트(정확히는 해당 IP 주소)를 특정 서버에 연결할 수 있습니다.
- 서버 자체의 캐싱을 활용하기 위해 특정 URL에 대한 요청을 매번 동일한 서버로 보내려는 경우입니다. Hash 방식과
$request_uri변수를 사용하면 매번 동일한 서버에서 파일을 가져올 수 있습니다. 예를 들어, 특정 .php 파일을 제공하려면 시간이 오래 걸리는 데이터베이스 호출이 여러 번 필요하지만, 가져온 데이터는 자주 변경되지 않아 캐싱할 수 있다고 가정해 보겠습니다. 해당 파일에 대한 모든 요청을 동일한 서버로 보내면 첫 번째 클라이언트만 데이터베이스 호출로 인해 긴 지연을 겪게 됩니다. 이후의 모든 클라이언트는 캐시에서 데이터를 빠르게 가져올 수 있습니다. 또 다른 장점은 해당 데이터 집합을 하나의 서버에만 캐싱하면 된다는 것입니다. 모든 서버에 동일한 데이터를 중복해서 캐싱할 필요가 없으므로 더 작은 캐시를 사용할 수 있습니다.
IP Hash와 클라이언트 IP 주소를 키에 포함하는 Hash가 작동하지 않는 경우가 몇 가지 있습니다:
- 세션 중에 클라이언트의 IP 주소가 변경될 수 있는 경우. 예를 들어 모바일 클라이언트가 WiFi 네트워크에서 셀룰러 네트워크로 전환하는 경우가 이에 해당합니다.
- 다수의 클라이언트에서 보낸 요청이 포워드 프록시를 통과하는 경우. 모든 요청에 프록시의 IP 주소가 사용되기 때문입니다.
해시는 결정적입니다(해싱 알고리즘은 매번 동일한 결과를 생성합니다). 이로 인해 두 가지 긍정적인 부수 효과가 있습니다. 배포 환경의 모든 NGINX Plus 또는 NGINX 인스턴스가 정확히 동일한 방식으로 요청을 부하 분산하며, 부하 분산기를 재시작해도 해시와 서버 간의 매핑이 유지됩니다. (실제로는 재시작 후 다시 계산되지만, 결과가 항상 같으므로 사실상 유지되는 셈입니다.)
반면, 업스트림 서버 구성을 변경하면 일반적으로 매핑 중 적어도 일부를 다시 계산해야 하므로 세션 지속성이 깨집니다. 다음과 같은 방법으로 다시 계산되는 매핑 수를 어느 정도 줄일 수 있습니다.
- Hash 방식에서는
consistent매개변수를hash지시어에 포함하세요. NGINX Plus는 ketama 해싱 알고리즘을 사용하여 재매핑을 줄입니다. - IP Hash 방식에서는 업스트림 그룹에서 서버를 일시적으로 제거하기 전에 다음 예제의
down매개변수를 해당 서버의server지시문에 추가합니다. 이는 다음 예제의 web2에 적용된 설정과 같습니다. 서버가 곧 서비스에 복귀할 것으로 간주하므로 매핑은 다시 계산되지 않습니다.
upstream backend { ip_hash;
server web1;
server web2 down;
server web3;
}라운드 로빈
앞서 언급했듯이 라운드 로빈은 NGINX Plus와 NGINX의 기본 부하 분산 방식입니다. 업스트림 그룹 자체 외에는 별도로 설정할 필요가 없으므로 가장 간편하게 선택할 수 있는 방식입니다.
일반적으로 라운드 로빈은 서버와 요청의 특성상 일부 서버에 다른 서버보다 부하가 과도하게 집중될 가능성이 낮을 때 가장 효과적으로 작동하는 것으로 알려져 있습니다. 이러한 조건에는 다음과 같은 것들이 있습니다.
- 모든 서버의 처리 용량이 거의 동일해야 합니다. 서버 간 차이가 서버 가중치에 정확히 반영되어 있다면 이 요건의 중요성은 낮아집니다.
- 모든 서버가 동일한 콘텐츠를 호스팅합니다.
- 각 요청에 필요한 시간이나 처리 능력은 대체로 비슷합니다. 요청별 부하 차이가 크면 로드 밸런서가 우연히 부하가 큰 요청을 특정 서버에 연달아 많이 보내 해당 서버에 과부하가 발생할 수 있습니다.
- 트래픽 양이 서버를 최대 용량에 가깝게 가동하는 상황이 자주 발생할 만큼 많지 않습니다. 서버에 이미 부하가 많이 걸려 있다면, 라운드 로빈의 기계적인 요청 분배로 인해 일부 서버가 앞서 설명한 것처럼 한계를 넘어 과부하 상태에 빠질 가능성이 더 커집니다.
라운드 로빈은 요청이 모든 서버에 동일한 수로(또는 적절한 가중치 비율에 따라) 분산되도록 하므로 테스트 시나리오에 특히 적합합니다. 일부 다른 방식은 트래픽 양이 적을 때 트래픽을 항상 고르게 분산하지는 않으므로 테스트 결과가 왜곡될 수 있습니다.
균등한 분산 특성 덕분에 캐시가 제대로 작동하고 용량을 충분히 활용하는지도 확인할 수 있습니다. 라운드 로빈 방식에서는 특정 파일에 대한 요청을 항상 같은 서버로 보낼 수 없으므로, 각 서버가 다양한 파일을 제공하고 캐싱하게 될 가능성이 높습니다. 이때 다른 서버와 동일한 파일도 다수 캐싱하는 경우가 많아 캐시가 가득 찰 가능성이 커집니다.
마지막으로, 초기에 요청을 균등하게 분산하면 NGINX Plus에서 세션 지속성(sticky 지시문으로 구성)과 관련된 문제를 발견하는 데 도움이 됩니다.
최소 연결 수 및 최소 시간
앞서 언급했듯이, 최소 연결(Least Connections) 방식은 가장 광범위한 사용 사례, 특히 프로덕션 트래픽에 가장 적합한 부하 분산 기법입니다. 고객들의 실제 경험도 이를 뒷받침합니다. 이 방식의 성능은 안정적이며 예측 가능합니다.
최소 연결(Least Connections) 방식은 서버의 처리 용량에 따라 워크로드를 효과적으로 분산하기도 합니다. 성능이 뛰어난 서버는 요청을 더 빠르게 처리하므로, 어느 시점에서든 처리 중이거나 처리 시작을 기다리는 연결 수가 처리 용량이 작은 서버보다 적을 가능성이 높습니다. 최소 연결 방식은 현재 연결 수가 가장 적은 서버로 각 요청을 전송하므로, 성능이 뛰어난 서버에 요청을 보낼 가능성이 더 높습니다. (다만, 아래의 서버 사양이 서로 다를 때 가중치 설정하기에서 설명하듯이 가중치를 설정하면 요청을 더욱 효율적으로 분산할 수 있습니다.)
Least Time(NGINX Plus 전용)은 Least Connections보다 더 민감하게 반응하는 방식이라고 볼 수 있습니다. 평균 응답 시간을 반영하여 서버의 최근 성능 이력을 고려합니다(실제로는 지수 가중 이동 평균을 사용하므로 오래된 응답 시간은 최근 응답 시간보다 평균에 미치는 영향이 적습니다).
Least Time은 업스트림 서버 간 평균 응답 시간의 차이가 클 때 특히 적합합니다. 예를 들어, 재해 복구를 위해 서로 다른 데이터 센터에 서버를 배치한 경우, Least Time은 응답 속도가 더 빠른 로컬 서버에 더 많은 요청을 보내는 경향이 있습니다. 서버 성능을 예측하기 어려운 경우가 많은 클라우드 환경에서도 유용하게 사용할 수 있습니다.

서버 사양이 서로 다를 때 가중치 설정
업스트림 그룹에 속한 서버들의 처리 용량이 서로 다를 때 서버 가중치를 설정하는 것이 중요하다고 여러 차례 언급했습니다. 이는 특히 라운드 로빈 로드 밸런서에서 중요한데, 가중치를 설정하지 않으면 각 서버에 동일한 수의 요청을 보내기 때문입니다. 이 경우 성능이 낮은 서버에는 과부하가 걸리는 반면, 성능이 높은 서버는 처리 용량을 충분히 활용하지 못할 수 있습니다.
가중치를 설정하려면 weight 매개변수를 하나 이상의 server 지시문에 추가하세요. 이 지시문은 upstream 블록 내에 있습니다. 기본값은 1입니다.
각 부하 분산 방식에서 가중치 설정이 미치는 영향은 다음과 같이 이해할 수 있습니다. 아래 설명은 개념적으로는 정확하지만, NGINX Plus 코드의 실제 구현에서 반드시 설명에 나온 수학 연산을 사용하는 것은 아니라는 점에 유의하세요. 예제에서 사용할 업스트림 그룹은 다음과 같습니다:
upstream backend { server web1 weight=6;
server web2 weight=3;
server web3;
}- 라운드 로빈 – 각 서버는 자신의 가중치를 전체 가중치의 합으로 나눈 비율만큼 수신 요청을 받습니다. 이 예에서는 요청 10개마다 web1이 6개(60%), web2가 3개(30%), web3가 1개(10%)를 받습니다.
- Hash 및 IP Hash – 가중치가 없을 때 해싱 알고리즘은 가능한 모든 해시 값의 집합을 업스트림 그룹의 서버마다 하나씩 할당된 “버킷”으로 균등하게 나눕니다. 가중치가 있으면 가중치의 합을 구한 뒤, 그 합과 같은 수의 버킷으로 가능한 해시 값의 집합을 나누고 각 서버에 해당 서버의 가중치만큼 버킷을 할당합니다. 이 예에서는 버킷이 10개이며, 각 버킷에는 가능한 해시 값의 10%가 포함됩니다. 버킷 6개(가능한 해시 값의 60%)는 web1에, 버킷 3개(30%)는 web2에, 버킷 1개(10%)는 web3에 할당됩니다.
- 최소 연결 및 최소 시간 – 앞서 설명했듯이 이 알고리즘들은 가중치가 없어도 각 서버의 용량에 따라 워크로드를 매우 효과적으로 분산합니다. 가중치를 설정하면 이러한 분산 성능이 더욱 향상됩니다. 최소 연결과 최소 시간 알고리즘은 각 요청을 “점수”가 가장 낮은 서버로 보냅니다. 여기서 점수는 각각 연결 수와 연결 수 및 시간을 수학적으로 조합한 값입니다. 가중치를 할당하면 로드 밸런서는 각 서버의 점수를 해당 서버의 가중치로 나눈 다음, 그 값이 가장 낮은 서버로 요청을 보냅니다. 앞서 사용한 가중치와 아래에 표시된 활성 연결 수를 최소 연결 알고리즘에 적용한 예를 살펴보겠습니다. web1의 연결 수는 600개로 web2의 1.5배이고 web3의 4배가 넘지만, 점수는 100으로 가장 낮으므로 요청을 받습니다.
- web1 – 활성 연결 600개 ÷ 6 = 100
- web2 – 활성 연결 400개 ÷ 3 = 133
- web3 – 활성 연결 125개 ÷ 1 = 125
요약
NGINX Plus와 NGINX에서 제공하는 로드 밸런싱 기법의 장단점을 검토한 결과, 가장 폭넓은 사용 사례에 적합한 방식은 최소 연결(Least Connections) 방식이며, NGINX Plus의 경우 최소 시간(Least Time) 방식도 적합하다고 판단합니다. 하지만 실제 배포 환경에서 여러 방식을 테스트하는 것이 중요합니다. 각 환경의 고유한 트래픽 및 서버 특성 조합에 따라 다른 방식이 더 적합할 수 있기 때문입니다.
NGINX Plus의 로드 밸런싱을 직접 체험하려면 지금 30일 무료 평가판을 시작하거나 문의하여 사용 사례에 대해 상담해 보세요.
다양한 사용 사례에서 로드 밸런싱을 활용해 보신 경험을 듣고 싶습니다. 아래 댓글 섹션에 여러분의 경험을 공유해 주세요.
관련 블로그 게시물
시청하기: KubeCon North America 2023에서의 NGINX Gateway Fabric
이 영상에서는 KubeCon의 NGINX 부스를 찾아가, 저희가 공개한 Kubernetes Gateway API 구현을 살펴봅니다.
F5 NGINX로 대규모 WAF 플릿을 확인하고 관리하는 2가지 방법
앱 보안을 강화하는 두 가지 방법을 소개합니다. NGINX Management Suite를 통해 WAF 운영에 대한 가시성을 높이고, NGINX App Protect WAF를 활용해 코드형 보안을 구현하는 것입니다.
인그레스 컨트롤러 선택 가이드, 4부: NGINX 인그레스 컨트롤러 옵션
개발 주체, 개발 철학, 프로덕션 환경 적합성, 보안 및 지원을 기준으로 어떤 NGINX Ingress 컨트롤러가 가장 적합한지 알아보세요.
진화하는 공격 환경에 NGINX App Protect Denial of Service가 적응하는 방법
NGINX App Protect Denial of Service(DoS)가 계층 7 DoS 공격을 방어하기 위해 완화 방법을 실시간으로 조정하는 방식을 설명합니다. 정상적인 사용자 행동과 서버 상태에 대한 모델을 생성하여 공격을 나타내는 이상 징후를 감지하고 맞춤형 완화 시그니처를 적용할 수 있습니다.
NGINX Instance Manager를 활용한 대규모 구성 업데이트 및 인증서 관리
NGINX Instance Manager 버전 1.0에는 두 가지 새로운 기능이 도입되었습니다. NGINX 인스턴스에 태그와 사용자 역할을 지정하면 전체 그룹에 구성을 한 번에 적용할 수 있습니다. 인증서 검사는 만료 예정인 인증서를 감지하여 서비스 중단을 방지할 수 있도록 인증서를 교체할 수 있게 해줍니다.
Netflix가 자사 CDN의 핵심으로 NGINX를 선택한 이유
Netflix가 글로벌 콘텐츠 전송 네트워크인 Open Connect의 스트리밍 미디어 기술로 NGINX를 선택한 이유를 NGINX 개발자 Gleb Smirnoff에게서 알아보세요.