‘이 정도면 충분하다’는 말은 더 이상 충분하지 않을 때까지만 통한다

Lori Mac Vittie수석 엔지니어 겸 최고 에반젤리스트 | F5

칠면조 이야기를 해보죠. 아니면 크림 에그나 사탕 상자도 좋고요. 이들의 공통점은 무엇일까요? 물론 모두 기념일과 관련이 있습니다. 그런데 알고 보니, 이런 기념일은 웹사이트에 수익을 안겨 주는 동시에 성능 저하를 일으키는 가장 큰 요인이기도 합니다.

영국에서 실시된 최근 연구, 즉 “100명 이상의 이커머스 의사 결정권자를 대상으로 한” 연구를 살펴보겠습니다. 이 연구에 따르면 “절반 이상(58%)이 지난해 성수기에 웹사이트 속도 문제를 겪었다고 인정했습니다.”

이제 우리 모두 성능이 중요하며, 단 몇 마이크로초의 지연만으로도 수백만 달러의 손실이 발생한다는 사실을 알고 있습니다. 더 말할 필요도 없죠.

문제는, 이에 대해 무엇을 할 수 있느냐는 것입니다.

그 해답은 운영 공리 제2항, 즉 부하가 증가하면 성능은 저하된다는 점을 기억하는 데 있습니다.

애플리케이션 서버가 클라우드에서 실행되든 데이터 센터에서 실행되든, 가상 머신에서 실행되든 컨테이너에서 실행되든 상관없습니다. 이 명제가 공리인 이유는 언제나 참이기 때문입니다. 어떤 경우에도 예외는 없습니다. 시스템에 더 많은 부하를 가할수록 시스템은 더 느리게 작동합니다. 이것이 전부입니다.

성능을 향상하려면 부하를 극대화해 비용을 절감해야 하는 필요성과 성능 최적화 사이에서 균형을 맞추는 것이 중요합니다. 대부분의 경우, 특히 시스템이 어디에 있든 큰 부담을 주는 피크 시간대에는 가능한 모든 도구를 활용해 이러한 균형을 회복해야 합니다.

1. 부하를 분산하세요

이것이 바로 그럭저럭 쓸 만한(기초적인) 앱 서비스로는 충분하지 않은 이유입니다. 이러한 서비스는 손쉽게 확장되는 경우가 많지만, 가용 리소스 전반에 걸쳐 부하를 실제로 분산하지는 못할 수 있습니다. 또한 성능이나 현재 부하를 기준으로 리소스를 선택하는 데 필요한 지능형 기능을 제공하지 못할 수도 있습니다. 이들의 '최선의 노력'은 무작위 선택과 크게 다르지 않습니다.

부하를 균형 있게 분산하려면 현재 부하를 파악하여 새로운 요청을 최대한 빠르게 응답할 가능성이 가장 높은 리소스로 전달해야 합니다. 기본적인 부하 분산은 순전히 알고리즘 기반의 의사 결정에 초점을 맞추며, 사용 가능한 리소스의 정적 가중치 외에는 거의 고려하지 않기 때문에 이를 달성할 수 없습니다. 실시간 의사 결정을 내리려면 바로 지금 존재하는 부하에 대한 실시간 정보가 필요합니다. 그렇지 않으면 부하를 분산하는 것이 아니라 단순히 배분하는 것입니다.

2. 부하 줄이기

부하를 분산하면서 성능을 향상하려면 단순히 리소스를 선택하는 것만으로는 충분하지 않습니다. 가용성을 저해하지 않으면서 다양한 프로토콜 개선 기능을 활용하여 부하를 줄이는 것 도 중요합니다. TCP 연결을 다중화하고 재사용하며, 암호화 및 보안 처리를 오프로딩하고, 압축 작업을 업스트림 서비스로 이전하면 애플리케이션 및 웹 서비스의 부담이 완화되어 리소스를 확보할 수 있으며 성능도 실질적으로 향상됩니다.

서버는 클라우드에 있든 데이터 센터에 있든, 컨테이너에서 실행되든 VM에서 실행되든 본연의 서비스 제공 역할에 집중해야 합니다. 암호화와 압축은 여전히 많은 컴퓨팅 리소스를 필요로 하는 기능이므로, 이러한 작업을 위해 설계된 업스트림 서비스에서 처리할 수 있습니다.

3. 부하 제거

요청-응답 경로에서 불필요한 홉을 제거하는 것도 성능 향상에 도움이 됩니다. 물론 로드 밸런싱 서비스를 통해 수평으로 확장할 수 있지만, 그러면 실행 시간(이 요청을 어느 시스템이 처리해야 하는가?)과 전송 시간(네트워크를 통해 저 시스템으로 보내는 시간)이 모두 소요되는 또 하나의 의사 결정 계층(라우팅)이 추가됩니다. 이는 웹 서버나 앱 서버가 본연의 작업을 수행할 시간이 줄어든다는 뜻이며, 애초에 우리가 원했던 것은 바로 그 작업을 제대로 수행하는 것이었습니다. 일반적인 부하에서는 하나의 시스템이 100만 개의 연결을 관리하는 것과 10개의 시스템이 동일한 연결을 나누어 관리하는 것의 차이가 미미할 수 있습니다. 하지만 수요 증가로 부하가 더 높아지면 여기에도 운영상의 원칙이 적용됩니다. 성능 저하를 유발하는 것은 웹 서버나 앱 서버의 부하만이 아니라 전체 앱 전송 체인이기 때문입니다.

로드 밸런싱 서비스가 동시에 처리할 수 있는 용량(연결 수)이 클수록 필요한 인스턴스 수는 줄어듭니다. 그러면 다른 서비스와 마찬가지로 운영 원칙 #2에 따라 세심하게 관리해야 하는 또 하나의 리소스 계층을 관리하는 데 드는 오버헤드가 줄어듭니다.

성능은 소매업체에 여전히 중요한 문제이며, 디지털 경제가 빠르게 성장함에 따라 디지털 채널을 운영하는 모든 이에게 이미 문제가 되고 있지 않다면 앞으로는 문제가 될 것입니다. 연휴를 앞두고 늘 찾아오는 혼잡한 시기에는 사람들이 저조한 성능을 더욱 참지 못합니다. 전날까지 충분했던 성능도 더 이상 충분하지 않습니다. 성능 문제는 애플리케이션 자체보다는 이를 제공하고 보호하는 데 사용되는 아키텍처와 서비스에서 비롯되는 경우가 더 많습니다. 적절한 기능을 갖춘 올바른 서비스를 사용하면 조직은 과부하 상황에서도 성능 문제를 피할 가능성이 높아집니다.

충분히 괜찮은 것은 문제가 생기기 전까지만 괜찮습니다. 하지만 문제가 생긴 뒤에는 이미 늦습니다. 불만을 느낀 고객에게 다시 돌아와 달라고 설득해 봐야 소용없습니다. 고객은 이미 여러분이 판매하려던 상품이나 서비스를 제공하는 다른 업체를 찾았기 때문입니다.

작성자 소개

Lori Mac Vittie수석 엔지니어 겸 최고 에반젤리스트 | F5

Lori MacVittie는 F5 CTO 오피스의 수석 엔지니어이자 최고 에반젤리스트로, 애플리케이션 딜리버리, 자동화 전략 및 인프라 분야에서 깊이 있는 전문성을 보유하고 있습니다. AI 에이전트를 위한 가드레일을 정의하고, 취약한 멀티클라우드 아키텍처를 분석하며, 확장 가능한 시스템의 한계를 탐구하는 등 복잡한 문제를 명확하게 풀어내는 것으로 잘 알려져 있습니다. 애플리케이션 개발, IT 아키텍처, 네트워크 및 시스템 운영 전반에 걸쳐 30년 이상의 업계 경험을 쌓았습니다. F5에 합류하기 전에는 수상 경력이 있는 기술 편집자로 활동했습니다. MacVittie는 컴퓨터 과학 석사 학위를 보유하고 있으며, 보안, 클라우드 및 엔터프라이즈 아키텍처 분야를 아우르는 다수의 저서를 집필한 작가입니다. 또한 보드게임과 비디오 게임을 열정적으로 즐기며, 치즈에 대해서는 거리낌 없이 확고한 견해를 갖고 있습니다.

Lori Mac Vittie의 다른 블로그 게시물