코로나19 위기 속에서 네트워크 PoP를 원격으로 구축한 방법

F5 에코시스템 | 2020년 5월 19일

SaaS 기반 컨트롤 플레인의 일환으로, 당사는 여러 PoP 간에 다수의 100G 및 400G 링크를 사용하여 자체 글로벌 백본(AS35280)을 구축하고 운영하고 있습니다.

이를 통해 리전별 엣지 간 엔드투엔드 연결을 완벽하게 제어할 수 있을 뿐만 아니라, 고객의 프라이빗 데이터 센터, 엣지 사이트, 퍼블릭 클라우드 VPC(AWS, Azure, GCP), SaaS 제공업체 전반에 걸쳐 동일한 고성능 연결성과 짧은 지연 시간을 제공할 수 있습니다.

pop-blog-1
Volterra 글로벌 인프라 및 프라이빗 백본

요구 사항

당사는 이미 파리, 런던, 암스테르담, 프랑크푸르트에 거점을 두고 있어 유럽 내 입지가 상당히 탄탄했지만, 기존 고객과 신규 고객의 요구에 따라 포르투갈 리스본에 새로운 PoP를 구축해야 했습니다.

이 모든 사항은 2020년 초에 합의되었고, 구축은 2020년 3분기로 예정되어 있었습니다. 물론 코로나19가 발생하기 전의 일이었죠 :)

위기가 닥치면서 당사의 백본 트래픽이 크게 증가했고(DDoS 공격도 늘었지만, 이에 대해서는 향후 블로그 게시물에서 자세히 다루겠습니다), 고객사들 역시 같은 상황을 겪었습니다.

고객은 이 PoP가 최대한 빨리 필요했기 때문에 3분기 전에, 더 정확히는 5월 말까지 구축해 달라고 요청했습니다. Volterra의 저희는 친절한 사람들이기도 하고 도전을 좋아하기도 해서, 고객의 요구를 충족하는 데 필요한 시간을 면밀히 검토했습니다:

  • 배포 및 테스트에 최소 2주가 필요했고,
  • 그리고 검증하는 데 일주일이 필요했습니다

당시는 4월 초였기 때문에 일정상 문제가 없어 보였고, 다음과 같은 이유로 사실상 최악의 시기였음에도 프로젝트를 계속 진행해 시작하기로 결정했습니다:

  • 여행 금지,
  • 데이터 센터 접근 금지,
  • 전 세계적인 부품 부족,
  • 건강상의 위험은 말할 것도 없습니다.

무엇이 필요할까요?

새로운 PoP를 구축하려면 라우터, 스위치, 케이블만 필요한 것이 아닙니다. 다음 사항도 필요합니다:

  • 네트워크 엔지니어링을 수행하여 파장 회선에 가장 적합한 위치와 제공업체를 선정하고,
  • 선정한 데이터 센터(이 경우 Equinix LS1)와 계약을 체결하고 협상합니다,
  • IXP와 협의하여 피어링 포트를 확보하고,
  • 물론 관련 하드웨어/자재(라우터, 스위치, 케이블, 방화벽 등)를 주문하는 일

어떻게 해냈는가

위기가 계속되는 상황에서 필요한 하드웨어를 제때 확보하는 것은 불가능했습니다. 그래서 대부분 연구실에 있던 장비를 재활용하기로 했습니다. 이는 감수할 만한 절충안이었습니다(예: 라우터는 당초 계획했던 MX10K 대신 Juniper QFX10K를 사용).

전력과 랙 공간이 필요하고 무엇보다… 소음 문제도 있어서 보통은 당연히 데이터센터에서 진행하는 스테이징 작업을, 봉쇄 조치로 인해 집에서 해야 했습니다. 인프라 부문 CTO인 Raphaël에게는 충분히 넓은 사무실 공간이 있었고, 60암페어 전력 계약도 되어 있었습니다(최대 16암페어를 소비하는 장비를 부팅하거나 가동할 때 유용하죠!). 그래서 다른 직원들이 작업에 참여하거나 외출할 필요가 없도록 그가 모든 스테이징 작업을 혼자 진행하기로 했습니다.

pop-blog-2
준비 및 스테이징

모든 설정을 마치고 여러 차례 테스트한 후, 리스본으로 배송했습니다:

pop-blog-3
배송 준비 완료!

Equinix 원격 지원팀의 리스본 랙 설치

저희가 구성한 설정에 자신이 있었고(어차피 OOB나 자체 백본을 통해 원격으로 접속할 수도 있었지만), 신규 PoP를 저희가 직접 구축하지 않고 다른 사람에게 맡기는 것은 이번이 처음이었습니다 😅

pop-blog-4
이미 배포된 랙 중 하나

저희는 전 세계에서 동일한 랙 설계를 사용하고 있으며, 이번에 새로 구축한 리스본 PoP에도 일관성을 유지해 동일한 구성을 적용하는 것이 목표였습니다.

따라서 Equinix 원격 지원 인력이 동일하게 구현하고 그저 ‘가이드대로 따르기’만 하면 되도록, 전달하는 지침을 매우 구체적이고 정확하게 작성해야 했습니다.

아래는 Equinix 측에서 모든 장비를 랙에 쉽게 장착하고 연결할 수 있도록 전달한 절차의 일부입니다.

처리해야 할 구성 요소가 많습니다. 하드웨어 장비(라우터, 스위치, 방화벽, 서버)뿐만 아니라 케이블 배선도 고려해야 하며, 무엇보다 케이블을 연결할 스위치와 서버의 포트가 중요합니다.

pop-blog-5

아래에서 보시다시피, Equinix 기술자들이 수행해야 할 설치 작업이 많다는 점을 고려하여 절차를 최대한 상세하게 작성했습니다. 따라서 내용이 구체적일수록 좋습니다!

pop-blog-6

잘 됐나요?

네! 설치는 5월 5일에 시작되었으며, 모든 장비를 랙에 장착하고 전원을 켰지만 하드웨어 고장은 전혀 없었습니다. 운이 좋았던 것일 수도 있고, 저희의 경험 덕분에 배송과 포장이 제대로 이루어진 것일 수도 있으며, 어쩌면 둘 다였을 수도 있습니다. 어쨌든 모든 것이 순조롭게 작동했습니다.

다음 날에는 Equinix 기술자들이 케이블 연결(구리선/광섬유)을 맡았고, 오후 11시 30분에는 파리에서 리스본 PoP로 핑을 보낼 수 있었습니다!

PDU 구성, OOB 포트 교차 연결, IXP 포트의 종단 간 점검과 같은 최종 작업을 거쳐 5월 7일에 설치가 완료되었습니다. 스위치와 방화벽 구성도 완벽하게 작동했기 때문에 Equinix에 구성 변경을 요청할 필요가 없었습니다.

최종 설치 모습은 다음과 같습니다:

pop-blog-7

저희는 기준이 매우 까다로운 만큼 100% 만족하지는 않습니다. 예를 들어 랙의 후면 패널이 저희가 원하는 만큼 깔끔하지는 않지만, 위기가 진정되고 다시 포르투갈로 갈 수 있게 되면 이를 바로잡을 예정입니다.

“사후 분석” — 무엇이 효과가 있었고, 그 이유는 무엇이며, 무엇을 개선할 수 있는가

우리가 이 도전을 성공적으로 해냈다는 사실에 매우 기쁘고 자랑스럽지만, 한 걸음 물러서서 무엇이 효과적이었는지, 특히 어떤 점을 개선할 수 있는지 되돌아보고자 합니다.

잘된 점:

  • Equinix: 일이 잘 풀리지 않을 때 공급업체에 이를 알리는 것도 중요하지만, 기대 이상으로 일이 잘 진행되었을 때 이를 알리는 것은 더욱 중요합니다. 이번이 바로 그런 경우입니다. 영업팀과 고위 경영진부터 데이터센터 기술자에 이르기까지, 저희가 받은 지원과 신속한 대응은 그야말로 놀라웠습니다. 특히 그 어려운 시기에는 더욱 그랬습니다. Equinix에 진심으로 찬사를 보냅니다!

왜 그것이 효과가 있었을까요?

  • Volterra는 이미 분산 근무와 원격 근무를 우선하는 회사였습니다. 특히 NetOps를 담당하는 프랑스 팀은 프랑스 전역에 분산되어 있으며, 협업 도구를 활용한 원격 근무에 익숙합니다.
  • 사용할 수 있는 여분의 장비와 실험실용 하드웨어가 충분했기 때문에 일정을 맞출 수 있었습니다
  • 위에서 간략히 설명한 절차는 수년간의 배포와 경험을 바탕으로 반복적인 개선을 거쳐 완성되었으며, 그 결실을 맺었습니다.
  • 공급업체와 좋은 관계를 유지하는 것은 저희에게 매우 중요합니다. 문제가 생기면 곧바로 통화해 주저 없이 문제를 알리지만, 이는 공급업체가 저희뿐만 아니라 모든 고객을 위해 개선할 수 있는 계기가 되기도 합니다.
  • 속도/가격/품질에 대한 요구: 높은 기대치를 가져야 합니다. 여기에는 필요해지기 전에 미리 리소스에 투자하는 것도 포함됩니다!

어떤 점을 개선할 수 있을까요?

  • 이러한 배포를 처리할 수 있는 사람이 회사 내에 극소수(3~4명)에 불과하다는 사실을 깨달았습니다. 확장할 수 있는 방법을 찾아야 합니다.
  • 또한 처음부터 전체 스테이징을 수행하지 않아도 되도록 스테이징 방식을 개선하고자 합니다.
  • 마지막으로, 이러한 배포는 단순히 기술적인 문제만이 아닙니다. 영업/프리세일즈 팀은 전체 프로젝트와 각 단계에 얼마나 많은 시간이 필요한지 파악해야 하며, NetOps가 무엇이든 해결할 수 있다고 생각해 일정에 대한 적절한 검토 없이 프로젝트를 넘겨서는 안 됩니다.

저희는 최초로 원격으로 진행된 RIPE 회의(RIPE 80)에서 이 배포 사례를 발표했습니다. 녹화 영상은 여기에서 시청하실 수 있습니다:

https://ripe80.ripe.net/archive/video/raphael-maunier3-the-challenge-of-operations-under-covid-19-restrictionsmain-20200513-132226.mp4

공유
태그: 2021

관련 블로그 게시물

성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5 에코시스템 | 2023. 07. 13.

성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A

F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.

TLS 검사에서 피터 파커 원칙 다루기
F5 에코시스템 | 2019. 12. 09.

TLS 검사에서 피터 파커 원칙 다루기

“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.

Venafi와 F5를 통한 머신 아이덴티티 보호
F5 에코시스템 | 2018. 12. 11.

Venafi와 F5를 통한 머신 아이덴티티 보호

‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.

마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
F5 에코시스템 | 2018. 07. 23.

마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다

물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...

내 클라우드에서 나가!
F5 에코시스템 | 2016. 10. 12.

내 클라우드에서 나가!

F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.

Shift(웹 앱) 보안 레터
F5 에코시스템 | 2015. 07. 06.

Shift(웹 앱) 보안 레터

웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.