SSL 솔루션 배포 시 주요 고려 사항
소개
사회적 동물인 인간은 비밀을 지키는 데 어려움을 겪습니다. 우리는 정보를 공유함으로써 생존하고 번영합니다. 하지만 일부 정보는 비공개로 유지해야 합니다. 그래서 암호 기술은 스파르타군이 그리스인들과 전쟁을 벌이던 중 군사 정보를 보호하기 위해 전치 암호를 사용한 이래로 다양한 형태로 존재해 왔습니다.
하지만 한때 개인 데이터를 비공개로 유지하는 기술은 정부 정보기관의 전유물이었지만, 인터넷이 보편화되면서 개인정보 보호는 모두의 관심사가 되었습니다. 데이터 유출 사고가 끊이지 않는 상황에서 개인 및 기업의 온라인 데이터를 어떻게 보호할 것인지는 전 세계 기업의 최우선 과제가 되었습니다.
SSL의 부상과 현재의 보안 환경
불과 10년 전만 해도 역사적으로 SSL(Secure Sockets Layer)로 알려졌으며 현재는 TLS(Transport Layer Security)라고 불리는 암호화 프로토콜을 주로 사용한 곳은 대형 금융 기관과 정부 기관이었습니다. 오늘날 SSL은 어디에서나 사용됩니다. 분석가들은 북미 전체 온라인 트래픽에서 암호화된 트래픽이 차지하는 비율이 2015년 29%에 불과했던 것에서 2016년에는 약 64%로 급증할 것으로 예측합니다.1 (https://www.f5.com/resources/white-papers/key-considerations-in-deploying-an-ssl-solution#footnote01) 조직들은 이메일과 소셜 미디어부터 스트리밍 동영상에 이르기까지 대부분의 트래픽을 암호화하기 위해 서두르고 있습니다. 이러한 변화는 웹 트래픽의 보안을 강화하지만 그에 따른 대가가 있습니다. SSL 트래픽의 증가로 인해 조직은 강력한 보안이 요구하는 늘어난 워크로드를 네트워크 인프라가 처리할 수 있도록 효율적인 SSL 솔루션을 구현해야 하는 부담을 안게 되었습니다.
조직들은 SSL이 제공하는 높은 수준의 보안에 매력을 느끼지만, 이를 언제 어디서나 상시 사용하는 보안 프로토콜로 배포하는 데에는 여러 과제가 따릅니다. 동시에 공격자들이 암호화된 트래픽을 확인할 수 없는 보안 장비로부터 멀웨어를 숨기는 수단으로 SSL을 사용하기 시작하면서, SSL은 취약점 공격 경로가 되었습니다. 특히 분산 서비스 거부(DDoS) 공격은 SSL 서버 트래픽을 처리하는 데 드는 비교적 높은 연산 비용을 악용하기 때문에 큰 문제가 됩니다. 또한 Heartbleed 사태와 같은 구현상의 문제로 인해 보안 침해가 발생할 수 있습니다.
SSL을 올바르게 배포하는 일은 숙련된 관리자에게도 쉽지 않습니다. 하지만 여러 사이트에 SSL을 배포할 때 활용할 수 있는 최신 옵션과 동향을 파악하면, 사후 대응 방식이 아닌 선제적 전략을 선택하여 변화에 한발 앞서 대응할 수 있습니다.
SSL 전략 도입 시 기본 고려 사항
데이터 보호 및 개인정보 보호
SSL의 주된 목적은 애플리케이션 간에 전송되는 데이터를 보호하는 것입니다. SSL로 보호하면 웹 브라우저와 같은 클라이언트와 서버 간의 통신이 비공개로 유지되며, 양측의 신원을 인증할 수 있습니다. 그러나 에드워드 스노든이 폭로해 큰 파장을 일으킨 미국 국가안보국(NSA)의 기밀 유출 사건에서 드러났듯이, 개인 키로 암호화된 모든 트래픽은 향후 복호화될 가능성이 있습니다. 모든 웹 통신을 보호하는 것만으로는 충분하지 않습니다.
완전 순방향 비밀성 구현
SSL에는 완전 순방향 비밀성(PFS) 보호라는 수동 감시 대응책이 있습니다. 이 보호 기능은 SSL 연결의 양측 간 키 설정 프로토콜에 추가적인 교환 절차를 더합니다. PFS는 사용자가 시작하는 각 세션마다 고유한 세션 키를 생성함으로써, 공격자가 단일 키만 복구하여 이전에 기록된 수백만 건의 통신을 복호화할 수 없도록 보장합니다.
PFS를 도입하는 것은 간단해 보입니다. ADC(Application Delivery Controller)와 같은 SSL 종료 장치에서 활성화하기만 하면 됩니다. 그러나 IPS(침입 방지 시스템)나 IDS(침입 탐지 시스템)와 같은 수동형 보안 장치를 사용하는 조직은 문제에 직면하게 됩니다. 이러한 장치는 PFS에서 사용하지 않는 영구 개인 키를 설정해야 하는 경우가 많기 때문입니다. 따라서 조직은 IPS/IDS를 끄거나 PFS를 끄는 선택을 해야 합니다. 어느 쪽을 선택하든 전반적인 보안 태세가 약화됩니다.
다른 방법도 있습니다. 모든 SSL 트래픽을 웹 애플리케이션 방화벽이나 ADC와 같은 리버스 프록시로 오프로드하여 IDS/IPS가 본연의 역할을 수행하도록 하는 것입니다. 그러면 리버스 프록시가 암호화를 처리한 후, 복호화된 트래픽을 검사 및 정제할 수 있도록 IDS/IPS에 전달합니다.
대응 방법: 데이터 무결성을 보호하려면 PFS를 활성화하세요. 또한 SSL 트래픽을 오프로드하고 네트워크 보안 장치의 작업을 최적화하기 위해 리버스 프록시를 배포하는 것도 고려하세요.
HTTP 엄격한 전송 보안 사용
HTTP Strict Transport Security(HSTS)를 활성화하는 것은 애플리케이션의 보안 수준을 강화하는 가장 쉽고 강력한 방법 중 하나입니다. HSTS는 HTTPS 트래픽에 헤더를 삽입하여 쿠키 하이재킹, 중간자 공격, 다운그레이드 공격 등 여러 일반적인 공격 벡터로부터 보호하는 계층을 제공합니다. 현재 모든 주요 브라우저가 HSTS를 지원하므로, 이를 사용하면 모든 트래픽이 암호화된 상태로 유지되도록 할 수 있습니다.
수행할 수 있는 조치: 하위 도메인에 HSTS를 활성화하여 모든 도메인의 모든 페이지에 HSTS 헤더가 적용되도록 하세요. 해당 하위 도메인이 SSL을 지원할 수 있는지 확인하세요. SSL 솔루션에서 시스템 전체의 HSTS 매개변수를 빠르고 쉽게 구성할 수 있는지 다시 한번 확인하세요. HSTS 헤더의 유효 기간을 6개월 이상으로 설정하세요.
가시성 및 제어
애플리케이션을 관리하고 보안을 유지하려면 트래픽을 파악하거나 웹 애플리케이션 방화벽(WAF), IPS/IDS 또는 차세대 방화벽(NGFW)과 같은 보안 장비에 트래픽 가시성을 제공하여 알려진 위협을 검사할 수 있어야 합니다. 그러나 SSL은 본질적으로 보안 솔루션에서도 통신 데이터를 볼 수 없도록 숨깁니다. 다만 몇 가지 접근 방식을 사용하면 보안을 유지하면서 악성 트래픽을 효과적으로 식별할 수 있습니다.
SSL 오프로딩 및 변환 활용
SSL 트래픽을 암호화하고 복호화하려면 추가적인 컴퓨팅 성능이 필요합니다. SSL 사용이 증가함에 따라 지연과 성능 저하로 인해 네트워크 및 사용자 경험이 영향을 받을 수 있습니다. 또한 연산 집약적인 일부 프로토콜은 현재 사용 중인 일부 보안 장치에서 지원되지 않습니다. ADC는 TCP, HTTP 및 SSL의 전체 프록시 역할을 수행하여 이러한 연산 부담을 줄일 수 있습니다. 즉, ADC는 클라이언트(브라우저)와 하나의 연결을 설정하고 서버와는 별도의 연결을 설정합니다. SSL 프록시의 변환 기능을 활용하면 사이트에서 애플리케이션 서버의 기능과 독립적으로 SSL 기능을 제공할 수 있습니다.
대응 방법: 확장 가능한 솔루션을 배포하십시오. SSL 종료 작업을 ADC로 오프로드하면 성능, 키 보호 또는 가시성을 저해하지 않으면서 일관된 SSL 정책을 더욱 간편하게 적용할 수 있습니다. 또한 백엔드 전송 옵션과 관계없이 ADC가 웹 서버와의 인터페이스를 지원하는 모든 프로토콜로 변환할 수 있어 유연성이 향상됩니다. 따라서 외부에 공개되는 시스템의 강력한 보안 태세를 유지하면서도 백엔드의 비즈니스 핵심 레거시 장치와 애플리케이션을 변경 없이 계속 운영할 수 있습니다.
또한 중앙 집중식 제어 지점을 두면 새롭게 등장하는 취약점으로부터 보호하기 위한 사이트 업데이트 절차를 간소화할 수 있습니다. 마지막으로 하이브리드 아키텍처에서는 인프라의 연산 부담을 줄이고 가상 환경 구축의 이점을 극대화할 수 있도록 SSL 처리를 가상 머신(VM)에서 하드웨어 장치로 오프로드하는 솔루션을 선택하십시오.
SSL 인터셉트로 악성코드 무력화
보안 분석가들은 2017년까지 새로 등장하는 모든 멀웨어가 SSL을 사용하여 이를 식별하고 무력화하도록 설계된 보안 장비의 추적을 피할 것으로 예측합니다. 기업은 스피어 피싱 및 멀웨어 활동과 같은 지능형 지속 위협(APT)을 완화하기 위해 외부로 나가는 웹 트래픽을 모니터링하고 정화해야 합니다.
관리자가 이러한 위협을 탐지할 수 있도록 지원하는 새로운 보안 장치가 지속적으로 개발되고 있습니다. 많은 관리자는 이른바 심층 방어 전략을 구현하기 위해 보안 장치를 연쇄적으로 배치하여 서로 보완하도록 합니다. 그러나 SSL 처리는 이러한 장치의 효율성, 보안 및 성능을 저해합니다. 이러한 신기술 중 상당수는 암호화된 트래픽을 탐지하지 못하거나, 암호화된 트래픽을 검사할 때 성능이 크게 저하됩니다. 예를 들어 차세대 방화벽은 SSL을 활성화하면 성능이 최대 80%까지 저하될 수 있습니다. 멀웨어 및 스피어 피싱 제작자들은 이 사실을 알고 있으며, 멀웨어와 외부 세계 간의 모든 통신을 빠르게 암호화하고 있습니다.
대응 방법: 이러한 암호화된 위협에 대응하는 한 가지 방법은 가시성 체인의 양쪽에 ADC를 배치하는 SSL 에어 갭 솔루션을 구축하는 것입니다. 사용자와 가장 가까운 ADC가 아웃바운드 트래픽을 복호화한 후, 복호화된 통신을 보안 장비로 전송합니다. 이제 콘텐츠를 확인할 수 있게 된 보안 장비는 정책과 제어를 적용하여 멀웨어를 탐지하고 무력화합니다. 체인의 반대쪽 끝에 있는 또 다른 ADC는 트래픽이 데이터 센터를 벗어날 때 이를 다시 암호화합니다. 이 솔루션을 구축하면 보안 장비를 인라인으로 유지할 수 있는 유연성을 확보하는 동시에, 각 장비가 본래의 역할을 제대로 수행하도록 보장할 수 있습니다.
한 가지 더 참고할 사항이 있습니다. 제로데이 취약점 공격 및 기타 악성 공격으로부터 네트워크를 보호하기 위해 FireEye 또는 Cisco Sourcefire와 같은 가시성 스캐너를 사용할 때는 효율성을 극대화할 수 있도록 SSL 솔루션이 이러한 보안 제품과 긴밀하게 연동되는지 확인하십시오.
무차별 대입 DDoS 공격 완화
SSL 배포의 복잡성과 많은 네트워크 장치가 암호화된 트래픽을 파악하는 데 겪는 어려움으로 인해 SSL은 DDoS 공격의 완벽한 표적이 되며, 공격자들은 이 사실을 너무나 잘 알고 있습니다. 정상적인 SSL 트래픽의 전체 규모가 빠르게 증가함에 따라 보안 장치가 악성 DDoS 트래픽을 식별하기는 갈수록 더 어려워지고 있습니다.
대응 방법: 의심스러운 DDoS 트래픽을 효율적으로 식별하고 웹사이트 가용성에 영향을 미치지 않도록 차단할 수 있는 종합적인 SSL 솔루션을 통해 SSL 재협상 공격 및 SSL 플러드와 같은 DDoS 공격을 완화하세요. SSL 기반 DDoS 공격의 영향을 줄이는 데 도움이 되는 클라우드 기반 DDoS 서비스도 검토해 보세요.
지금 보안 상태를 확인하세요
그렇다면 SSL 보안 상태가 충분한 수준인지 어떻게 알 수 있을까요? Qualys SSL Labs에서는 매우 유용한 도구를 제공하여 공격을 받기 전에 사이트의 인증서와 구성을 테스트할 수 있습니다. 또한 브라우저의 SSL 구현을 평가하고, 빠르게 진화하는 이러한 SSL 보안 과제에 다른 사이트와 경쟁업체가 어떻게 대응하고 있는지도 확인할 수 있습니다.
암호화 알고리즘 민첩성
1990년대 SSL 프로토콜이 등장한 이래 RSA 암호 시스템은 키 교환에 주로 사용되어 왔습니다. 시간이 흐르면서 무차별 대입 공격의 실현 가능성이 높아짐에 따라 RSA 키 길이도 더 길어져야 했습니다. 오늘날 RSA 키는 크기가 매우 커져 키 교환에 막대한 연산이 필요합니다.
엄격한 개인정보 보호 수준을 유지하면서 이러한 연산 부담을 줄일 수 있는 새로운 암호화 프로토콜이 주목받고 있습니다. 예를 들어 타원 곡선 암호화(ECC)는 기존 알고리즘과 동일한 수준의 보안을 제공하면서도 처리량이 적어 모바일 기기의 배터리 수명에도 훨씬 유리합니다. 이러한 암호화 방식은 유망하지만, 새로운 프로토콜을 제공하기 위해 수백 대의 서버를 재구성해야 한다는 점을 조직들이 우려하는 것은 당연합니다.
대응 방법: 시간이 지남에 따라 알고리즘을 변경해야 하는 경우가 드물지 않으므로, SSL 솔루션이 암호화 민첩성, 즉 하나의 SSL 장치가 동일한 웹 애플리케이션 내에서도 ECC, RSA2048, DSA와 같은 여러 암호화 프로토콜을 동시에 제공할 수 있는 기능을 갖추고 있는지 확인해야 합니다. 또한 암호화 방식이 점점 다양해짐에 따라, SSL 솔루션이 최신 암호화 방식을 지속적으로 지원해 온 검증된 실적을 보유하고 있어야 합니다.
키 관리
SSL 키는 조직에서 가장 중요한 자산 중 하나입니다. 공격자가 비공개 SSL 키를 손에 넣으면 대상의 애플리케이션을 사칭하여 매우 정교한 피싱 포털을 만들 수 있습니다. 하지만 이처럼 매우 중요한 키를 보호하는 방법은 여러 가지가 있습니다.
중요한 키를 안전하게 보호하세요
하드웨어 보안 모듈(HSM)은 암호화 키를 안전하게 보호하고 관리하기 위해 엄격한 FIPS 140-2 암호화 설계 지침을 준수하는 독립적인 소프트웨어 및 하드웨어 보안 장치입니다. 키가 HSM 외부로 전송되는 일이 없으므로 Heartbleed 버그와 같은 SSL 취약점을 걱정할 필요가 없습니다.
대응 방법: SSL 키를 보호하는 가장 안전한 방법은 HSM을 사용하는 것입니다. 일부 ADC에 포함된 것과 같은 내부 HSM을 구매하는 등 여러 가지 방법이 있습니다. 일부 조직에서는 HSM 장치를 중앙 집중식 키 저장소로 사용하여 키 관리를 통합합니다(예: 데이터 센터당 한 쌍). 이러한 네트워크 HSM은 키 복호화가 필요한 서비스에서 내부 네트워크를 통해 액세스할 수 있으므로 여러 SSL 종료 지점에서 동일한 네트워크 HSM을 사용할 수 있습니다. 단, SSL 솔루션이 네트워크 HSM과 원활하게 연동되는지 반드시 확인해야 합니다.
조직은 SSL 키의 보안을 보장하기 위해 엔터프라이즈 키 및 인증서 관리(EKCM) 모범 사례를 구현합니다. 암호를 네트워크 파일 시스템에 암호화된 형태로 저장할 수 있는 하드웨어 보안 기반의 암호화 키 저장 시스템을 사용하는 것이 좋습니다.
SSL 인증서를 효율적으로 관리
효과적인 EKCM 모범 사례의 토대는 모든 엔터프라이즈 인증서와 해당 인증서의 위치, 그리고 관리 책임자를 포괄적으로 파악하여 목록화하는 것입니다. SSL이 적용된 각 웹사이트에는 고유한 인증서가 있으며, 인증서마다 만료일이 다릅니다. 특정 주에 하나 이상의 인증서가 만료될 수 있으며, 이 경우 관련 웹사이트나 애플리케이션을 사용할 수 없게 됩니다. 이러한 모든 인증서를 관리하는 일은 많은 노력이 필요할 수 있지만, 중요 사이트의 고가용성을 보장하려면 반드시 필요합니다. 또한 SSL 인증서의 키 길이(2048비트 이상), 디지털 서명(SHA2 이상), 내부 PKI 또는 공용 루트 CA에서 발급되지 않은 비인가 인증서도 감사해야 합니다. 마지막으로 PCI DSS를 준수하려면 문서화된 인증서 및 키 관리 프로세스가 필요합니다.
실행 방안: 중견 및 대규모 조직의 관리자 대부분은 조직 내 여러 위치에 키와 인증서가 분산되어 있기 때문에 외부 인증서 관리 시스템을 선호합니다. 특히 Venafi와 Symantec이라는 두 가지 외부 솔루션을 성공적으로 활용한 사례가 많습니다. 어떤 솔루션을 선택하든 관리 자동화와 운영 부담 감소를 위해 개방형 API를 제공하는 것이 중요합니다.
포괄적인 규정 준수
규정 준수는 흔히 SSL 도입을 이끄는 핵심 요인입니다. PCI DSS 사양을 준수하는 애플리케이션은 향후 2년 이내에 SSLv3 및 TLSv1 사용을 중단해야 PCI 3.0 규정 준수 상태를 유지할 수 있습니다. 새로 배포되는 PCI DSS 환경에서는 이미 SSL 3.0 및 TLS 1.0을 비활성화해야 합니다.
대응 방법: 먼저 네트워크 방화벽이 ICSA Labs 인증을 받았는지 확인하십시오. 또한 SSL 변환 서비스를 사용하면 개별 서버에 정책을 적용하지 않고도 인터넷에 노출된 SSL 정책을 준수할 수 있습니다. SSL 솔루션이 곧 도입될 TLS 1.3을 지원할 준비가 되어 있는지 확인하십시오. 아울러 각 애플리케이션에서 개별적으로 문제를 해결하려 하기보다 ADC로 오프로드된 네트워크 서비스를 통해 규정 준수를 중앙 집중화하면 실질적인 운영 효율성을 높일 수 있습니다.
결론
좋든 싫든 온라인 세계는 위험한 곳이며, 잠재적 공격자로부터 기업의 민감한 정보를 보호하는 일은 규모를 막론하고 모든 기업의 최우선 과제가 되었습니다. 개인정보 침해가 갈수록 빈번해지면서 많은 조직이 온라인 데이터의 무결성을 보호하기 위한 수단으로 SSL을 활용하고 있습니다. 하지만 포괄적인 SSL 전략을 구현하려면 가시성, 성능 및 확장성 측면에서 여러 과제를 해결해야 합니다.
적절한 계획과 배포를 통해 강력한 SSL 전략은 보안 침해 위험을 줄여 줍니다. 전략이 마련되면 사이트는 향후 보안, 확장성 및 안정성을 확보할 수 있으며, 진정으로 중요한 비즈니스 성장에 집중할 수 있습니다.
1 Sandvine, 글로벌 인터넷 현상 스포트라이트: 인터넷 트래픽 암호화, 2015.
2016년 5월 26일 게시