고가용성을 달성하기 위해 답해야 할 두 가지 질문

F5 에코시스템 | 2020년 5월 26일

소비자와 직원이 갑작스럽게 디지털 경험으로 전환하면서 운영에 미친 가장 큰 영향은 아마도 가용성일 것입니다. 실제로 상당수의 조직이 직원들이 사무실에서 자택으로 근무지를 옮기면서 원격 접속에 어려움을 겪었습니다 하지만 재택근무를 하게 된 것은 일부 직원뿐이었던 반면, 모든 사람은 갑자기 일상생활을 디지털로 대체한 서비스에 의존하게 되었습니다.

다음과 같은 Nokia의 조사 결과를 살펴보십시오. Nokia에 따르면 "2020년 3월 한 달간 미국 내 일부 네트워크의 업스트림 트래픽"은 "팬데믹 이전 수준보다 30% 증가했습니다." 또는 이 데이터를 보면 4월 둘째 주에 트랜잭션은 72%, 페이지 조회수는 29% 증가했습니다.

디지털 경험에 대한 수요가 증가하고 있습니다. 사용자에게 앱이나 웹사이트가 로드되지 않는 것만큼 답답한 일도 거의 없습니다. 솔직히 말해, 운영자에게도 앱이나 웹사이트가 로드되지 않는 것만큼 답답한 일은 거의 없습니다.

고가용성을 달성하려면 단순히 데이터 경로에 로드 밸런서를 추가하는 것만으로는 충분하지 않습니다. 로드 밸런서는 고가용성을 위한 요소 중 하나일 뿐이며, 앱이나 웹사이트가 중단 없이 계속 제공되도록 하는 데 필요한 여러 단계 중 하나에 불과합니다.

가장 먼저 해야 할 일은 다음의 결코 간단하지 않은 두 가지 질문에 답하는 것입니다:

  • 고가용성을 위해 서버 간에 트래픽을 어떻게 분산할 것인가?
  • 서버의 가용성을 제대로 검증하려면 어느 수준의 상태 확인이 필요한가요?

언뜻 보기에는 실제보다 간단해 보입니다. 하지만 이러한 질문에 답하려면 앱과 해당 인프라에 대해 많은 것을 알아야 합니다.

그럼 시작해 볼까요?

고가용성을 위해 서버 간에 트래픽을 어떻게 분산하나요?

이 질문의 핵심은 적절한 부하 분산 알고리즘을 선택하는 것입니다. 트래픽(요청)이 리소스(서버)에 분산되는 방식을 결정하는 것이 바로 알고리즘이기 때문입니다. 적합한 알고리즘은 여러 요인에 따라 달라지지만, 우선 애플리케이션 아키텍처와 사용 패턴부터 살펴봐야 합니다.

기존 애플리케이션(모놀리식, 클라이언트-서버, 3계층 웹)의 고가용성을 확보하려면 사용 패턴을 완전히 다른 관점에서 이해해야 합니다.

이는 하나의 백엔드 "서버"가 모든 비즈니스 로직을 실행하기 때문입니다. 로그인하려고 하나요? 제품을 주문하나요? 카탈로그를 둘러보나요? 모두 동일한 "서버"가 처리합니다. 그렇다면 라운드 로빈 같은 간단한 알고리즘으로 트래픽을 분산하면 된다고 생각할 수도 있습니다. 하지만 그렇지 않습니다. 각 비즈니스 기능은 컴퓨팅, 메모리, 네트워크 및 데이터 요구 사항이 서로 다릅니다. 즉, 각 비즈니스 기능이 "서버"에 가하는 부하도 다릅니다. 리소스를 많이 사용하는 요청이 하나의 "서버" 인스턴스에 지나치게 많이 전달되면 해당 인스턴스는 순식간에 과부하 상태가 될 수 있습니다.

기존 애플리케이션의 가용성을 보장하도록 요청 분산을 최적화하는 가장 좋은 방법은 최소 연결 수 기반 알고리즘을 사용하는 것입니다. 이 알고리즘은 현재 열려 있는 연결 수를 기준으로 여러 "서버" 인스턴스에 부하를 분산합니다. 리소스를 많이 사용하는 요청은 처리 시간이 더 오래 걸려 연결이 활성 상태로 유지되므로 이 방식이 효과적입니다. 연결 수가 적은 "서버"로 요청을 전달하면 모든 서버의 가용성을 유지할 가능성이 높아집니다.

최신(마이크로서비스 기반) 앱의 경우에는 이 질문에 더 쉽게 답할 수 있습니다. 최신 앱은 이미 개별적으로 확장 가능한 비즈니스 기능 단위로 분리되어 있기 때문입니다. 동일한 기능에 대한 요청이라도 다른 요청보다 더 많은 리소스를 사용할 수 있으므로 최소 연결 기반 알고리즘을 사용하는 것이 여전히 좋습니다. 하지만 최신 앱 아키텍처에서는 트래픽이 자연스럽게 분산되므로 거의 모든 알고리즘으로 모든 "서버"의 가용성을 유지할 수 있습니다.

가용성에서 흥미로운 점은(적어도 제게는 그렇습니다) 요청을 분산하는 방법을 아는 것이 문제 해결의 절반에 불과하다는 것입니다. 나머지 절반은 안타깝게도 빨간색과 파란색 레이저가 아니라, 애플리케이션의 상태를 파악할 수 있는 가시성에 달려 있습니다.

서버의 가용성을 제대로 검증하려면 어느 수준의 상태 확인이 필요할까요?

여기에 관찰 가능성*에 관한 제 논문이 들어가야겠지만, 간결함과 여러분의 정신 건강을 위해 다음과 같이 요약하겠습니다.

앱의 상태를 판단하는 데 "애플리케이션 가용성" 이외의 기준을 사용한다면 고가용성을 위태롭게 하는 것입니다. 관찰 가능한 다른 어떤 지표도 앱 자체에 대해서는 아무것도 알려주지 않기 때문입니다. 네트워크, 전송 계층, 플랫폼의 가용성도 필요하지만, 앱이 요청을 받을 준비가 되었다는 확신이 들기 전에 트래픽을 보내면 문제가 발생할 수 있습니다.

관찰 가능성을 구성하는 네 가지 요소는 모두 중요합니다. 네트워크 연결이 끊기면 결국 나머지는 아무 의미가 없기 때문입니다. 따라서 네 가지 지표를 모두 주시하고 점검해야 합니다. 앱 아키텍처가 무엇인지는 중요하지 않습니다. 모든 앱은 네트워크, 전송 및 플랫폼 계층에 의존합니다. 아키텍처에 따라 차이가 생기는 부분은 앱 계층입니다. 아키텍처가 앱의 정상 작동 여부를 판단하는 방식을 제한할 수 있기 때문입니다.

개발 중에는 항상 앱의 "상태를 점검"할 방법을 마련해 달라고 요청해야 합니다. API나 HTTP 요청 등 어떤 방식을 사용하든, 전용 "상태 점검" 기능이 있으면 개발자와 운영 담당자가 앱이 정상적으로 작동하는지 쉽게 확인할 수 있습니다. 여기에는 데이터나 파트너 API 같은 외부 리소스와의 연결을 확인하는 기능도 포함될 수 있습니다. 이러한 구성 요소 중 하나라도 장애가 발생하면 소비자에게 앱이 사용할 수 없거나 응답하지 않는 것처럼 보일 수 있으므로, 필요한 모든 구성 요소의 가용성을 확인하는 것이 중요합니다.

고가용성은 생각보다 구현하기 어렵습니다

마케팅 자료에서는 흔히 서버를 복제하고 그 앞에 로드 밸런서를 배치하기만 하면 고가용성을 구현할 수 있는 것처럼 설명합니다. 하지만 실제로 애플리케이션의 고가용성을 보장하려면 신중한 검토와 측정, 준비가 필요합니다. 단순히 인스턴스를 사용할 수 있도록 하는 것만으로는 충분하지 않습니다. 인스턴스가 의존하는 모든 애플리케이션도 사용할 수 있어야 하며, 특정 인스턴스에 과부하가 걸리지 않도록 요청을 분산해야 합니다.

앱의 고가용성을 보장하기 위해 추가로 들인 모든 노력은 긍정적인 고객 경험과 앱 장애로 인한 심야의 다급한 연락 감소라는 결실로 이어집니다.

* 사실 관측 가능성에 관한 논문이 있는 건 아닙니다. 하지만 있었다면 바로 여기에 들어갔을 겁니다.

공유
태그: 2020

작성자 소개

Lori Mac Vittie
Lori Mac Vittie수석 엔지니어 겸 최고 에반젤리스트 | F5

Lori MacVittie는 F5 CTO 오피스의 수석 엔지니어이자 최고 에반젤리스트로, 애플리케이션 딜리버리, 자동화 전략 및 인프라 분야에서 깊이 있는 전문성을 보유하고 있습니다. AI 에이전트를 위한 가드레일을 정의하고, 취약한 멀티클라우드 아키텍처를 분석하며, 확장 가능한 시스템의 한계를 탐구하는 등 복잡한 문제를 명확하게 풀어내는 것으로 잘 알려져 있습니다. 애플리케이션 개발, IT 아키텍처, 네트워크 및 시스템 운영 전반에 걸쳐 30년 이상의 업계 경험을 쌓았습니다. F5에 합류하기 전에는 수상 경력이 있는 기술 편집자로 활동했습니다. MacVittie는 컴퓨터 과학 석사 학위를 보유하고 있으며, 보안, 클라우드 및 엔터프라이즈 아키텍처 분야를 아우르는 다수의 저서를 집필한 작가입니다. 또한 보드게임과 비디오 게임을 열정적으로 즐기며, 치즈에 대해서는 거리낌 없이 확고한 견해를 갖고 있습니다.

Lori Mac Vittie의 다른 블로그 게시물

관련 블로그 게시물

성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5 에코시스템 | 2023. 07. 13.

성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A

F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.

TLS 검사에서 피터 파커 원칙 다루기
F5 에코시스템 | 2019. 12. 09.

TLS 검사에서 피터 파커 원칙 다루기

“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.

Venafi와 F5를 통한 머신 아이덴티티 보호
F5 에코시스템 | 2018. 12. 11.

Venafi와 F5를 통한 머신 아이덴티티 보호

‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.

마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
F5 에코시스템 | 2018. 07. 23.

마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다

물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...

내 클라우드에서 나가!
F5 에코시스템 | 2016. 10. 12.

내 클라우드에서 나가!

F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.

Shift(웹 앱) 보안 레터
F5 에코시스템 | 2015. 07. 06.

Shift(웹 앱) 보안 레터

웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.