Comcast의 셀프서비스 앱 딜리버리: 도입과 DevOps, 그리고 고성장 서비스의 과제

Christopher Litsinger, Comcast 클라우드 애플리케이션 플랫폼 부문 이사

2015년, 소수의 패기 넘치는 엔지니어들이 상용 API 관리 게이트웨이를 NGINX 기반의 자체 솔루션으로 교체하고, 이후 이 시스템을 셀프서비스 방식으로 전환하는 작업에 착수했습니다. 1년 뒤, 이들은 우여곡절을 겪었지만 성공을 거두었고, 기존의 수백 개 서비스를 새 플랫폼으로 원활하게 마이그레이션했습니다. 지연 시간은 단축되었고 찬사가 쏟아졌습니다. 고객들은 기뻐하며 “예전의 50번째 백분위수가 이제는 99번째 백분위수입니다!”라고 말했습니다.

이러한 개선은 예상치 못한 성장을 이끌었습니다. 2년 동안 호스팅되는 서비스 수는 두 배 이상 늘었습니다. 데이터 센터가 생겼다가 사라지기도 했습니다. 수천 개의 새로운 자격 증명이 시스템에 추가되었습니다. 한때 최대 2,000 RPS였던 트랜잭션 처리율은 33,000까지 증가했습니다. 소규모 DevOps 팀은 상용 솔루션 비용을 서둘러 없애려다 셀프서비스 제공을 미루기로 전략적으로 결정했습니다. 이제 이들은 셀프서비스를 구축하는 동시에 서비스와 자격 증명을 추가하는 데 필요한 수작업을 우선 처리할 수밖에 없었고, 결국 사용자에게 셀프서비스를 제공하게 되었습니다.

Christopher는 NGINX Conf 2018 세션에서 당시의 사건 전개 과정을 되짚어 보고, 어떤 결정들이 내려졌는지 살펴보며, 팀이 직면한 과제를 통해 얻은 교훈을 설명합니다.