ADC 성능 지표 이해하기

소개

애플리케이션 전송 서비스는 애플리케이션의 성공적인 운영에 필수적입니다. 확장성, 안정성, 보안 중 어떤 기능을 제공하든, 대부분의 애플리케이션은 이러한 서비스를 하나 이상 사용합니다. 따라서 애플리케이션 전송 컨트롤러(ADC)는 대부분의 애플리케이션, 클라우드 및 데이터 센터 설계에서 핵심적인 역할을 합니다.

프라이빗 클라우드 구축 환경을 비롯한 많은 환경에서 전용 ADC 하드웨어는 여전히 애플리케이션 딜리버리 서비스를 제공하는 데 선호되는 플랫폼입니다. 전용 플랫폼은 통제되고 안정적이며 일관된 리소스를 갖추고 있기 때문입니다. 특정 용도로 설계된 전용 어플라이언스는 하이퍼바이저, 소프트웨어 또는 기반 컴퓨팅 플랫폼에 변동이 없으므로 가장 까다로운 애플리케이션 워크로드에 필요한 성능과 안정성도 일관되게 제공할 수 있습니다. 또한 특수 하드웨어 구성 요소가 CPU의 작업을 대신 처리하여 부하를 줄여 준다는 장점도 있습니다.

그렇다면 "성능"이란 실제로 무엇을 의미할까요? 일반적으로 ADC 공급업체는 성능을 입증하기 위해 네 가지 주요 유형의 지표를 공개합니다:

  • 초당 요청 수(RPS)
  • 초당 연결 수(CPS)
  • 초당 트랜잭션 수(TPS)
  • 처리량(일반적으로 초당 기가비트, Gbps로 측정)

제조업체는 처리량, SSL 트랜잭션 수 또는 동시 연결 수를 정리한 표를 비롯해 이러한 플랫폼 특성과 기타 특성을 나열한 종합적인 데이터시트를 제공합니다. 적합한 플랫폼을 선택하려면 이러한 수치와 애플리케이션 워크로드 간의 연관성을 해석하고, 시스템에서 발생할 수 있는 한계와 병목 현상을 이해하는 것이 필수적입니다. 공급업체의 데이터시트를 해석하는 방법을 익히고 애플리케이션과 관련된 지표를 이해하면 비즈니스에 적합한 플랫폼을 더욱 효과적으로 선택할 수 있습니다.

ADC는 어떤 역할을 하나요?

애플리케이션 전송 컨트롤러(ADC)는 애플리케이션 프록시 역할을 하는 인프라 구성 요소로, 트래픽 관리, 부하 분산, SSL 복호화, 애플리케이션 계층 보안, 애플리케이션 접근 제어 등의 애플리케이션 전송 서비스를 제공합니다. 클라이언트 기기와 서비스가 ADC에 연결되면, ADC는 애플리케이션에 대한 별도의 연결을 생성하거나 기존 연결을 재사용합니다. ADC는 이렇게 논리적으로 분리된 연결 사이에서 애플리케이션 전송 서비스를 제공합니다.

ADC의 워크로드를 이해하려면 TCP 연결과 애플리케이션 계층 요청을 살펴보는 것이 도움이 됩니다. ADC는 애플리케이션 트래픽에 애플리케이션 서비스를 제공하기 위해 TCP 스택의 여러 계층에서 작업을 수행하고 다양한 처리를 해야 합니다(그림 1 참조). 이 때문에 ADC 공급업체가 제시하는 성능 지표를 해석하기 어려울 수 있습니다. 어떤 지표가 관련성이 있는지 이해하려면 먼저 워크로드 유형을 파악해야 합니다.

그림 1: 패킷 처리

애플리케이션의 유형이 다양한 만큼 ADC 워크로드도 매우 다양합니다. 대부분의 프로덕션 배포 환경에서는 여러 워크로드가 혼재하지만, 각 워크로드의 영향과 요구 사항에 따라 ADC에서 가장 많이 활용되는 구성 요소가 달라집니다. 동일한 구성 요소 내에서도 워크로드별 요구 사항은 다릅니다. 일부 워크로드는 지연 시간에 더 민감하고 다른 워크로드는 지터에 더 민감할 수 있습니다. 또한 처리량 한계에 민감한 워크로드가 있는 반면, 가용성에 더 크게 의존하는 워크로드도 있습니다.

가장 일반적인 워크로드와 이를 뒷받침하는 주요 지표는 다음과 같습니다:

  • 현재 가장 일반적인 워크로드는 웹사이트와 다수의 모바일 애플리케이션에서 사용되는 트랜잭션 기반 HTTP 웹 애플리케이션으로, 주로 SSL과 TLS를 사용합니다. 이 워크로드에서 가장 중요한 지표는 RPS, TPS, 처리량을 비롯한 모든 SSL 지표와 레이어 7의 RPS 및 CPS입니다.
  • DNS는 거의 모든 인터넷 통신에서 사용되는 또 다른 일반적인 워크로드입니다. DNS는 사용 빈도가 높지만 트래픽 양은 적으며, 일반적으로 TCP 대신 UDP를 사용하도록 구축됩니다. 따라서 가장 중요한 지표는 계층 3 및 계층 4 처리량입니다.
  • REST API는 서비스에 널리 쓰이는 API 전송 방식을 의미하며, 사용량이 빠르게 증가하고 있습니다. 이에 따라 REST API는 기기 간 통신에 자주 사용됩니다. REST API는 HTTP를 기반으로 하므로 주요 지표는 HTTP와 동일하며(모든 SSL 지표 포함), RPS, TPS, 처리량과 더불어 계층 7의 RPS 및 CPS가 포함됩니다.
  • MQTT는 다양한 용도로 활용되는 신흥 메시징 프로토콜로, 사물 인터넷(IoT) 통신에서 빠르게 확산되고 있습니다. REST API와 마찬가지로 MQTT는 주로 기계 간 통신 애플리케이션에 사용됩니다. MQTT의 주요 지표는 레이어 4 CPS와 처리량입니다.
  • Diameter는 RADIUS 인증 프로토콜을 대체하는 프로토콜로, 계층 4에서 작동하며 TCP 연결을 장시간 열린 상태로 유지합니다. 주요 지표는 계층 4 CPS와 계층 4 연결 테이블의 견고성입니다.
  • FIX, SAIL, OUCH와 같은 금융 거래 프로토콜은 레이어 4와 레이어 7 모두에서 지연 시간에 민감합니다. 따라서 주요 지표는 레이어 4의 CPS와 레이어 7의 RPS 및 CPS입니다.
  • WebSockets 기술은 워크로드 유형에 비교적 최근에 추가된 기술로, 서버가 장시간 유지되는 레이어 4 및 레이어 7 연결을 통해 클라이언트와의 통신을 시작할 수 있습니다. 주요 지표는 레이어 4 CPS, 레이어 7 RPS 및 CPS, 그리고 레이어 4 및 레이어 7 연결 테이블의 견고성입니다.
  • 로깅 및 알림 워크로드는 모두 계층 4에서 작동하며, 일부는 계층 7에서 작동하는 REST API를 기반으로 합니다. 따라서 핵심 지표는 계층 4 CPS이며, REST API 기반 워크로드의 경우 계층 7 RPS와 CPS도 핵심 지표입니다.

워크로드 구성은 계속 진화하고 있으며 새로운 워크로드도 끊임없이 도입되고 있습니다. 각 워크로드에는 주요 작업에 따라 고유한 핵심 ADC 지표가 있습니다.

성능 지표와 해석 방법

모든 네트워크 장치의 처리량은 네트워크 트래픽을 처리하는 과정에서 발생하는 지연 시간에 따라 달라집니다. 기본적으로 구리선을 통해 이동하는 전기 신호나 광섬유를 통과하는 광 신호에는 빛의 속도로 인해 최소한의 지연 시간이 발생합니다. 하지만 ADC는 전선이나 광섬유를 통해 데이터를 이동시키는 것 외에도 네트워크 트래픽에 여러 작업을 수행합니다. ADC의 최대 처리 성능은 병렬로 수행되지 않는 작업, 즉 순차적으로 수행되는 작업의 지연 시간 합계에 의해 제한됩니다. 다행히 많은 작업이 병렬로 수행되지만, 이러한 작업을 수행하는 데 필요한 시간 역시 전체 처리량을 제한하는 요인입니다. ADC 설계자의 목표 중 하나는 이러한 지연 시간을 최소화하여 처리량을 극대화하는 것입니다.

특정 ADC의 성능을 평가하고 특정 배포 환경에 적합한지 판단하는 일은 쉽지 않을 수 있습니다. 네트워크 장비 공급업체는 다른 지표를 희생하면서 특정 지표를 극대화하도록 설계된 테스트를 기반으로 성능 수치를 발표합니다. 이러한 접근 방식은 아키텍처 설계와 의사 결정에 참고할 수 있는 수치를 제공하기 위한 것이지만, 공급업체도 발표한 모든 수치가 동시에 성립하지는 않는다는 점을 알고 있습니다. 자동차에 비유해 보겠습니다. 토요타는 2017년형 캠리 기본 모델이 178마력의 출력을 내고 고속도로에서 갤런당 33마일의 연비를 달성한다고 광고합니다. 하지만 가속 페달을 끝까지 밟아 엔진 회전수가 6,000RPM인 상태에서 최대 출력인 178마력을 내는 동시에 갤런당 33마일의 연비까지 달성하기를 기대하는 것은 무리입니다. 이와 마찬가지로 네트워크 장비 공급업체는 각 성능 지표에 가장 유리한 조건에서 측정한 수치를 제시합니다. 일반적으로 발표된 성능 지표 중 상당수는 동시에 재현할 수 없습니다.

성능 지표와 OSI 계층 간의 관계

공개된 성능 지표 중 일부는 서로 다른 처리 계층에 적용될 수 있습니다. 예를 들어, 초당 요청 수는 OSI 2계층(L2) 또는 OSI 7계층(L7) 처리 성능을 나타낼 수 있습니다. 반면 TPS는 SSL 키 협상만을 의미하는 경우가 많으며, 7계층의 초당 요청 수는 이미 설정된 SSL 세션을 사용하여 이후에 이루어지는 암호화 요청을 의미합니다. 워크로드에 따라 다양한 ADC 처리 구성 요소가 활용되는 방식도 달라집니다. 공개된 ADC 성능 지표와 관련하여 또 하나 유념해야 할 핵심 사항은 워크로드에 따라 성능 한계도 달라진다는 점입니다.

각 OSI 네트워크 계층에는 해당 계층의 성능을 나타내는 데 널리 사용되는 여러 지표가 있습니다. 예를 들어, 계층 4의 성능 지표는 일반적으로 초당 연결 수와 처리량 등으로 표시됩니다. OSI 계층 5와 6은 IP 스택에 명확히 대응하지는 않지만, SSL/TLS 및 압축과 같은 서비스를 계층 5와 6에 해당하는 것으로 볼 수 있습니다. 앞서 언급했듯이, 각 지표의 테스트는 해당 지표에 최대 부하를 주도록 설계된 트래픽으로 수행되는 경우가 많으므로 실제 환경의 트래픽 부하를 반영하지 않습니다. 예를 들어, 최대 SSL TPS는 길이가 0인 SSL 페이로드를 사용하는 테스트에서 얻어집니다. 이 경우 SSL 데이터를 복호화하는 데 ADC 처리 시간이 소요되지 않기 때문입니다. 이는 SSL 하드웨어 자체의 성능만 측정하는 데는 합리적이지만, 실제 운영 애플리케이션에서는 길이가 0인 페이로드를 전송하지 않습니다. 마찬가지로 계층 2 처리량은 SSL을 비활성화하고 계층 7 처리를 수행하지 않는 상태에서 테스트합니다. 이러한 기능이 ADC의 성능을 저하시키기 때문이지만, 실제 운영 환경에서는 이러한 기능을 사용하는 경우가 많습니다. 대부분의 ADC 지표는 개별적으로 테스트되지만, 실제 운영 환경에서는 대개 여러 ADC 기능을 조합하여 사용하며, 각 지표는 서로 다른 구성 요소 또는 구성 요소의 조합에 부하를 줍니다. 관련 구성 요소로는 CPU, 네트워크 인터페이스 카드(NIC), 주문형 집적 회로(ASIC), 현장 프로그래머블 게이트 어레이(FPGA) 등이 있습니다. ADC에 특정 구성 요소가 없는 경우에는 CPU가 대신 사용됩니다.

패킷 지표는 ADC가 초당 처리할 수 있는 패킷 수를 나타내며, 이 처리 과정에서 가장 큰 부하를 받는 구성 요소는 계층마다 다릅니다. 예를 들어, 계층 2 패킷 처리는 주로 네트워크 인터페이스 카드(NIC)에 부하를 주는 반면, 계층 4 패킷 처리는 주로 FPGA에 부하를 줍니다. 모든 계층에서 처리량 지표는 사용 가능한 총 처리량을 초당 기가비트 단위로 나타내며, 연결 지표는 해당 계층에서 초당 설정할 수 있는 연결 수를 측정합니다. 예를 들어, 계층 4 연결 지표는 초당 설정할 수 있는 TCP 연결 수를 측정합니다.

SSL 처리 지표

SSL 처리는 여러 연결에 걸쳐 세션을 설정하고 관리한다는 점에서 고유한 특성이 있습니다. 하나의 연결에서 SSL 세션을 설정할 수 있으며(이를 트랜잭션이라고 함), 이후 연결에서는 SSL 세션을 재사용할 수 있습니다(이를 요청이라고 함). 따라서 트랜잭션 지표와 요청 지표는 별도로 표시됩니다. SSL 트랜잭션은 이후의 SSL 요청보다 훨씬 오래 걸리므로, 처리량 성능을 제한하는 요인은 트랜잭션 지표인 경우가 많습니다. SSL 세션이 설정되고 후속 요청이 이루어지면 데이터 페이로드를 암호화하거나 복호화해야 합니다. 암호화 전용 ASIC이 암호화와 복호화를 처리하며, 성능은 처리량 지표로 측정됩니다.

데이터 페이로드를 압축하는 것이 유용한 경우가 많습니다. 압축은 압축 ASIC에서 수행되며, 이때 성능 지표 역시 처리량입니다.

애플리케이션 계층 처리

마지막으로, 계층 7은 복잡하고 다양한 트래픽 관리 옵션을 제공하므로 모든 처리가 CPU를 통해 수행된다는 특징이 있습니다. 쿠키 지속성은 각 사용자 세션을 풀 내의 특정 서버에 연결하는 일반적인 계층 7 기능으로, CPU에서 수행됩니다. 계층 7 요청 지표는 ADC가 초당 처리할 수 있는 계층 7 요청 수를 나타냅니다. 마찬가지로 계층 7 처리량 지표는 계층 7에서 달성할 수 있는 총처리량을 나타냅니다.

마지막으로, 연결 상태를 보존해야 하는 모든 계층에서는 ADC가 연결 테이블을 유지해야 합니다. 연결 테이블은 일반적으로 계층 4 TCP 연결, SSL 세션 및 계층 7 HTTP 세션에 사용됩니다. 연결이 장시간 유지되는 프로토콜은 ADC 연결 테이블의 용량을 소진하거나 테이블에 과부하를 줄 수 있습니다.

각 지표는 성능의 특정 측면을 파악하는 데 도움이 됩니다. 각 계층에서 수행되는 다양한 작업과 이러한 작업의 영향을 받는 구성 요소를 이해하면 특정 배포 환경의 ADC 성능 지표를 평가하는 데 도움이 됩니다.

전용 하드웨어 및 성능

ADC의 모든 기능은 CPU로 구현할 수 있습니다. 실제로 많은 ADC 하드웨어 공급업체가 소프트웨어 전용 버전을 제공합니다. 이는 CPU가 거의 모든 데이터 중심 작업을 수행할 수 있는 가장 유연한 유형의 하드웨어이기 때문입니다.

그러나 ADC의 모든 기능을 CPU에 맡기는 데에는 한계가 있습니다. 네트워크 트래픽을 처리하는 세 가지 주요 하드웨어 유형인 CPU, ASIC, FPGA 중에서 CPU는 속도가 가장 느리며, 메모리와 메모리 컨트롤러의 지원이 필요하므로 비용도 가장 높다고 볼 수 있습니다. 네트워크 트래픽을 처리하는 나머지 두 가지 하드웨어 유형은 ASIC과 FPGA입니다. ASIC은 이름에서 알 수 있듯이 특정 작업을 수행하도록 설계된 반도체입니다. 주어진 작업을 수행하는 속도에서는 ASIC보다 빠른 하드웨어가 없지만, 그 기능은 칩 설계에 반영된 범위로 제한됩니다. 애플리케이션에 ASIC이 제공하지 않는 기능이 필요한 경우, 대신 CPU를 사용해 해당 작업을 소프트웨어로 수행해야 합니다.

CPU는 유연하지만 느리고, ASIC은 유연성이 떨어지지만 빠르다면, 그 중간에 위치하는 세 번째 기술이 바로 FPGA입니다. FPGA는 ASIC보다 느리지만 CPU보다는 훨씬 빠르며, FPGA 설계자가 예상하지 못한 작업도 수행하도록 프로그래밍할 수 있습니다.

그림 2: CPU, ASIC 및 FPGA의 장점

잘 설계된 ADC는 각 하드웨어 유형의 기능을 최대한 활용합니다. 일반적이고 단순한 작업은 ASIC 구성 요소에 맡기고, 더 복잡한 작업은 FPGA 구성 요소에서 수행하며, 가장 복잡하고 드물게 발생하는 작업은 CPU에서 처리합니다. ADC의 뛰어난 엔지니어링 역량은 대부분 다양한 워크로드를 가장 효율적으로 처리하도록 서로 다른 유형의 구성 요소를 조율하는 데서 나옵니다.

ADC에서 가장 빈번하게 수행되는 작업은 단연 네트워크 인터페이스에서의 패킷 처리입니다. 표준 기성품 NIC는 대용량 인바운드 트래픽(예: 데스크톱이나 기타 사용자 기기) 또는 대용량 아웃바운드 트래픽(예: 서버) 중 한쪽에 맞춰 최적화되어 있습니다. ADC는 양방향 모두에서 최대 처리량을 제공하도록 최적화된 NIC가 필요하다는 점에서 차별화됩니다. 양방향 모두에서 최대 처리량을 제공하도록 설계된 기성품 NIC는 없습니다. ADC의 패킷 처리는 빈번하게 수행되면서도 비교적 단순한 작업이므로 ASIC에 매우 적합합니다. 클러스터형 ADC 환경에서는 디스애그리게이터(DAG) ASIC이 프런트엔드 로드 밸런서 역할을 하여 동일한 클라이언트 및 서버 세션이 항상 동일한 클러스터 노드를 통과하도록 합니다. 클러스터 환경에서 DAG를 사용하면 트래픽 수요에 맞춰 ADC 어플라이언스를 수평 확장하기가 쉬워집니다. 적절하게 설계된 ADC에서는 모든 계층 2 패킷 처리와 스위칭을 전용 ASIC 하드웨어에서 수행할 수 있습니다.

레이어 3 및 4의 처리 작업은 더 복잡하므로 FPGA에 적합합니다. FPGA는 라우팅 기능뿐만 아니라 TCP SYN 쿠키를 포함한 방화벽 및 분산 서비스 거부(DDoS) 공격 방어 기능도 제공할 수 있습니다. 이 수준에서 FPGA를 사용하면 레이어 4 처리 및 보호 기능을 구현할 수 있으며, 후속 처리 대상 트래픽이 올바르게 조립되고 필터링되도록 보장할 수 있습니다.

SSL 또는 TLS와 같은 암호화 및 압축 처리와 HTTP/2에 도입된 새로운 기능도 전용 하드웨어의 활용 분야입니다. 타원 곡선 디피-헬만 암호화(ECDHE)와 같은 최신 암호 방식에서 연산 집약적인 SSL 키 협상을 비롯한 암호화 처리에는 특수 ASIC이 주로 사용됩니다. SSL 키 협상이 완료되면 이후 요청에 대한 대량 암호화 및 복호화도 ASIC 하드웨어가 처리할 수 있습니다. 마찬가지로 일반적인 알고리즘을 사용하는 압축 및 압축 해제도 ASIC 하드웨어에서 수행할 수 있습니다. 전용 ASIC 구성 요소를 사용하면 암호화와 압축을 빠르게 처리할 수 있습니다.

ASIC과 FPGA에서 처리하지 않은 나머지 네트워크 트래픽은 CPU에서 처리해야 합니다. CPU는 ASIC 및 FPGA보다 느리지만 ADC에서 가장 유연한 구성 요소입니다. 또한 CPU는 GUI 및 기타 구성 작업, I/O 인터럽트 처리, 디스크 요청 처리 등 네트워크 처리와 무관한 작업도 담당합니다. 지연 시간에 따라 CPU에 요구되는 처리량이 달라질 수 있고, CPU는 네트워크 트래픽을 처리하는 마지막 하드웨어이므로, ADC는 CPU에 할당되는 트래픽 처리를 최소화하고 대신 더 빠른 ASIC과 FPGA에서 최대한 많은 처리를 수행하도록 설계됩니다.

결론

공급업체가 공개한 지표를 바탕으로 실제 성능을 가늠하기는 어려울 수 있습니다. 다양한 유형의 워크로드, 각 워크로드가 소비하는 리소스, 하드웨어 플랫폼의 성능이 서로 어떻게 영향을 미치는지 이해하는 것은 복잡하지만, 조직에 가장 적합한 구매 결정을 내리는 데 도움이 될 수 있습니다.

공개된 데이터 시트와 기타 자료를 활용하면 적합한 플랫폼을 더 쉽게 선정할 수 있지만, 가능하다면 공급업체의 경험과 전문 지식을 직접 활용하는 것도 중요합니다. 선도적인 공급업체는 워크로드에 적합한 플랫폼을 선정하는 데 깊이 있는 전문성을 갖추고 있으며, 고객이 이러한 전문성을 손쉽게 활용할 수 있도록 지원해야 합니다.

애플리케이션 트래픽의 특성과 플랫폼 기능을 충분히 이해하고 공급업체의 전문 지식을 활용하면 플랫폼 리소스를 부족하거나 과도하게 할당할 위험과 그로 인해 발생할 수 있는 비용을 줄일 수 있습니다.

2017년 3월 28일 게시