F5 BIG-IP 플랫폼 보안
소개
애플리케이션 및 네트워크 공격이 갈수록 복잡해지고 방어하기 어려워짐에 따라, 데이터 보안은 규모를 막론하고 모든 조직이 해결해야 할 가장 시급한 과제 중 하나가 되었습니다. 세간의 이목을 끄는 정보 유출 및 보안 침해 사고는 조직의 평판을 훼손하고 비즈니스에 막대한 영향을 미칠 수 있습니다.
F5 BIG-IP 플랫폼이 처음 출시된 이래로 보안은 모든 설계 및 아키텍처 결정에서 핵심 요소로 고려되어 왔습니다. 이후 출시된 각 릴리스와 신제품에는 더욱 안전한 기본 설정과 더 많은 보안 관련 기능이 적용되었으며, 더욱 엄격한 보안 테스트, 보증 및 인증 절차를 거쳤습니다. 보안 위협이 증가함에 따라 네트워크, 애플리케이션 및 데이터의 보안을 유지할 수 있도록 신규 및 인수 제품에 모범 사례를 지속적으로 적용하고 있습니다. 오늘날 F5 제품은 조직의 중요 정보 흐름을 관리하는 전략적 제어 지점 역할을 하는 동시에, 성능 및 보안 향상을 통해 웹 기반 애플리케이션의 제공을 개선합니다.
조직은 전반적인 보안 태세를 평가할 때 안전한 소프트웨어 개발 수명 주기와 애플리케이션 딜리버리 네트워크에 내재된 보안 기능이라는 두 가지 구조적 요소를 고려해야 합니다. F5는 이 두 가지 측면을 모두 충족하는 리더십과 제품을 제공하여 조직이 오늘날의 새로운 보안 과제에 대응하고 ID, 애플리케이션 및 민감한 데이터를 보호하는 동시에 애플리케이션 가동 중단 시간을 최소화하고 최종 사용자의 생산성을 극대화할 수 있도록 지원합니다.
안전한 소프트웨어 개발 수명 주기
진정으로 안전한 시스템을 구현하려면 여러 요소가 필요하지만, 그 기반은 설계와 코딩이라는 두 가지 핵심 축에 있습니다. F5의 안전한 소프트웨어 개발 수명 주기(SDLC)는 모든 제품이 최고 수준의 보안 표준에 따라 개발되고 출시 전에 엄격한 테스트를 거치도록 지원합니다.
설계
견고한 보안은 제품 개발 프로세스의 초기 단계부터 시작됩니다. F5 제품 개발 팀은 단 한 줄의 코드도 작성하기 전에 포괄적인 위협 모델링 평가를 수행합니다. 아키텍트는 각각의 새로운 기능이 시스템에 어떤 취약점을 생성하거나 유입할 수 있는지 평가합니다.
설계 단계에서 수정하는 데 1시간이 걸리는 취약점은 코딩 단계에서는 10시간, 제품 출시 후에는 1,000시간이 걸릴 수 있으므로 프로세스 초기에 취약점을 발견하는 것이 매우 중요합니다. 위협 모델 평가에서는 일반적으로 보안 경계를 정의하고 검토하는 방법, 공격 표면을 최소화하는 방법, 보안 관련 기능의 설계 및 구현을 위한 모범 사례 등을 논의합니다.
구현
설계가 완료되면 코딩이 시작됩니다. 모든 F5 개발 담당자는 안전한 코드를 작성하는 방법에 대해 철저한 교육을 받았습니다. 하지만 소프트웨어 및 네트워크 취약점 공격에서는 아주 작은 실수도 엄청난 결과를 초래할 수 있습니다. F5 개발자는 보안 팀과 정기적으로 코드 검토를 수행하며, 정적 코드 분석 도구를 사용하여 일반적인 문제를 식별합니다. 코딩 표준과 모범 사례는 개발자가 흔히 발생하는 보안 문제를 방지하는 데 도움이 됩니다.
테스트
시간과 인력이 많이 소요되는 보안 테스트는 어느 조직에나 매우 방대한 작업입니다. F5에서는 출시되는 모든 소프트웨어가 높은 수준의 보안을 갖추도록 보안 팀과 개발 팀이 협력합니다.
내부 테스트
내부 보안 팀은 BIG-IP 플랫폼을 침해하려는 공격자 역할을 수행하여 침투 테스트를 실시합니다. 또한 F5는 모든 프로그램에 퍼즈 테스트를 수행합니다. 퍼즈 테스트는 길이가 지나치게 길거나 짧은 네트워크 패킷 또는 잘못된 데이터가 포함된 입력과 같은 비정상 입력을 프로그램이 어떻게 처리하는지 평가합니다. 대부분은 정상적으로 처리되지만, 일부는 예외를 일으킬 수 있으며 심각한 취약점을 노출하는 경우도 있습니다. 침투 테스트와 퍼즈 테스트를 통해 F5 디바이스를 서비스 거부(DoS) 공격과 코드 기반 공격으로부터 최대한 안전하게 보호합니다.
또한 F5는 학술 기관과의 협력을 통해 다음과 같은 다양한 유형의 오류를 다룰 수 있도록 지식 기반을 지속적으로 확장하고 있습니다.
- 안전하지 않은 문자열 조작 로직을 악용하는 버퍼 오버플로 및 스택 스매싱 공격.
- 동적 메모리 관리 함수를 잘못 사용하는 경우.
- 정수 오버플로, 부호 오류, 잘림 오류를 비롯한 정수 관련 문제.
- 포맷 문자열 취약점 유발.
- 경쟁 상태를 포함한 I/O 취약점.
제3자 스캔 및 테스트
F5는 정교한 타사 스캐닝 애플리케이션을 사용하여 매일 밤 소스 코드에서 여러 중대한 결함을 분석합니다. 컴파일 시 코드 스캐닝 애플리케이션은 보안 버그 및 결함, 빌드를 중단시키는 버그, 메모리 누수 및 손상과 같이 충돌을 일으키는 버그, 새 코드로 인해 발생하는 예측 불가능한 애플리케이션 동작을 탐지합니다. 또한 소스 코드 스캐닝을 통해 데이터 무결성 문제 및 성능 병목 현상과 같은 치명적이지 않은 결함도 찾아낼 수 있습니다.
F5는 수년간 다양한 유형의 추가 테스트를 위해 외부 전문 업체와도 협력해 왔습니다:
- 블랙박스 테스트: 공격자가 공개 문서를 통해 얻을 수 있는 정보 외에는 제품에 대한 지식 없이 애플리케이션과 플랫폼을 테스트합니다.
- 그레이박스 테스트: 내부 설계 정보, 내부 데이터 구조에 관한 문서 및 사용된 알고리즘 등 일부 정보를 바탕으로 애플리케이션과 플랫폼을 테스트합니다. 그레이박스 테스터에게는 애플리케이션을 설명하는 개괄적인 문서와 상세 문서가 모두 필요합니다.
- 화이트박스 테스트(클리어박스 테스트, 글래스박스 테스트, 투명박스 테스트 또는 구조적 테스트라고도 함): 애플리케이션의 기능이 아닌 내부 구조나 작동 방식을 테스트하는 기법입니다. 화이트박스 테스트를 수행하려면 시스템에 대한 고급 지식과 프로그래밍 기술이 필요합니다.
보안 테스트 도구는 시간이 지남에 따라 발전하며 새로운 제품도 출시됩니다. F5는 여러 공급업체 파트너와 긴밀히 협력하여 새로운 프로토콜을 포함하고, 테스트 범위를 확대하며, 진화하는 위협 모델과 새로 발견된 익스플로잇에 맞춰 도구를 업데이트합니다. BIG-IP 소프트웨어가 여러 테스트를 통과하면 F5는 자체 제품 환경에서 이를 사용하여 실제로 출시할 준비가 되었는지 확인합니다.
취약점 대응
위협 모델링, 안전한 코딩, 교육 및 다양한 유형의 테스트에도 불구하고 취약점은 발생할 수 있습니다. 운영 환경에서 취약점이 발견되면 신속하게 대응하는 것이 매우 중요합니다.
F5 취약점 대응 정책은 고객 요구 사항과 업계 관행을 반영하기 위해 정기적으로 업데이트됩니다. F5는 내부적으로 발견되거나, 제3자 테스트를 통해 발견되거나, 고객이 보고한 보안 사고에 대한 대응에 중점을 두고, 우선순위를 올바르게 지정하고 적시에 대응할 수 있도록 최소 주 1회 취약점을 추적하고 보고합니다.
F5는 National Vulnerability Database, MITRE CVE, CERT Coordination Center, Redhat, OpenSSL, ISC 등의 보안 연구원 및 기타 전문가들과 긴밀히 협력하여 취약점을 책임감 있게 공개하고 완화 조치, 패치 및 익스플로잇 방어 기능을 제공합니다. 지난 1년 동안 F5는 새롭게 부상하는 위협(예: 스크립트 인젝션, 트로이 목마)에 관한 교육 자료부터 멀웨어 및 DDoS 공격 방어에 이르기까지 350건이 넘는 보안 권고를 대중에게 제공하여 최신 보안 정보를 확인할 수 있도록 했습니다.
BIG-IP 플랫폼의 보안
강화되고 견고한 보안을 제공하도록 특별히 설계된 BIG-IP 플랫폼은 조직이 보안 태세를 강화할 수 있도록 지원하는 몇 가지 핵심 기능을 제공합니다:
- 어플라이언스 모드
- 보안 볼트
- 보안 강화 리눅스(SELinux)
- 보안 인증
- DoS 방어
BIG-IP 플랫폼과 F5 TMOS는 하드웨어와 소프트웨어가 함께 작동하여 엔터프라이즈 애플리케이션과 데이터를 보호하는 동시에 네트워크 전반에서 애플리케이션 전송을 최적화하도록 설계되었습니다.
어플라이언스 모드
원래 의료 및 금융 서비스와 같이 민감한 데이터를 다루는 업종의 기업을 위해 설계된 어플라이언스 모드는 오늘날 모든 분야의 기업에서 사용되고 있습니다. 조직은 어플라이언스 모드를 활성화하고 다음 제한 사항을 적용하여 네트워크와 애플리케이션을 더욱 효과적으로 제어할 수 있습니다:
- bash 셸에 대한 액세스를 차단합니다.
- 구성 유틸리티 및 TMSH에 대한 관리 액세스를 제한합니다. 관리자는 이러한 계층형 명령줄 유틸리티를 사용하여 BIG-IP 시스템을 손쉽게 관리 및 구성하고 통계와 성능 데이터를 확인할 수 있습니다.
- 루트 사용자가 직렬 콘솔을 비롯한 어떠한 방법으로도 장치에 로그인하지 못하도록 루트 로그인을 비활성화합니다.
- root 계정의 홈 디렉터리(/root)에 있는 여러 파일과 디렉터리의 권한을 강화합니다. 기본적으로 새 파일은 해당 사용자만 읽고 쓸 수 있으며, 모든 디렉터리의 보안이 한층 강화됩니다.
- BIG-IP 시스템에 대한 원격 무인 관리를 제공하는 Always-On Management(AOM) 하위 시스템이 호스트에 액세스하지 못하도록 합니다. AOM은 하드웨어 재설정 명령을 사용해서만 호스트를 재설정할 수 있습니다.
한 가지 유의할 점은 어플라이언스 모드를 활성화하면 비활성화할 수 없다는 것입니다. 대신 조직은 새 라이선스를 취득하고 소프트웨어를 새로 설치해야 합니다. 관리자는 BIG-IP GUI의 구성 유틸리티에 있는 라이선스 화면에서 장치가 어플라이언스 모드로 실행 중인지 확인할 수 있습니다.
보안 볼트
SSL 개인 키는 네트워크 내에서 가장 가치가 높은 자산 중 하나이며, 많은 조직에서는 단순한 파일 시스템 보호를 넘어 키를 안전하게 보호해야 한다는 엄격한 요구 사항을 두고 있습니다. 모든 F5 하드웨어 어플라이언스에서 사용할 수 있는 Secure Vault 기능은 하드웨어 잠금 장치에 저장된 마스터 키로 SSL 개인 키를 보호하므로, 침해된 백업 서버나 악성 코드 감염으로 인해 SSL 개인 키 파일이 유출되더라도 공격자가 이를 사용할 수 없습니다.
각 BIG-IP 디바이스에는 고유한 유닛 키와 공유 마스터 키가 제공되며, 둘 다 AES 256 대칭 키입니다. 고유한 유닛 키는 각 물리적 어플라이언스의 맞춤형 하드웨어 EEPROM에 저장됩니다. 이 유닛 키는 마스터 키를 암호화하며, 마스터 키는 다시 SSL 개인 키를 암호화하고 SSL 키 파일을 복호화하며 BIG-IP 디바이스 간에 인증서를 동기화합니다. 고가용성(HA) 구성에서는 마스터 키가 구성을 따르므로 모든 유닛이 동일한 마스터 키를 공유하지만 각자의 유닛 키는 그대로 유지합니다. 마스터 키는 Certificate Manager가 설정한 보안 채널을 통해 동기화됩니다. 마스터 키로 암호화된 암호는 해당 마스터 키가 생성된 유닛 이외의 시스템에서는 사용할 수 없습니다.
Secure Vault 지원은 vCMP(Virtual Clustered Multiprocessing) 게스트에서도 사용할 수 있습니다. vCMP를 사용하면 하나의 장치에서 여러 BIG-IP 소프트웨어 인스턴스를 실행할 수 있으며, 각 게스트는 고유한 유닛 키와 마스터 키를 갖습니다. 게스트 유닛 키는 호스트에서 생성 및 저장되므로 하드웨어 지원이 적용되며, 호스트 마스터 키로 보호됩니다. 이 호스트 마스터 키는 다시 하드웨어의 호스트 유닛 키로 보호됩니다.
보안 강화 Linux
F5 개발 프로세스와 고객의 프로덕션 환경 모두에서 사용되는 Security Enhanced Linux(SELinux)는 보안 정책 적용을 담당하는 소프트웨어의 규모를 줄이고, 보안 관련 결정을 보안 정책 자체와 분리하여 적용할 수 있도록 합니다. 예를 들어 SELinux 프로파일은 특정 프로세스가 bash 셸을 실행하지 못하도록 TMOS 커널에 지시할 수 있습니다. 이를 통해 공격자가 웹 서버나 라우터를 장악할 수 있게 하는 Shellshock과 같은 취약점으로부터 시스템을 보호합니다.
SELinux은 Linux 임의 접근 제어(DAC) 시스템을 보완하는 강제 접근 제어(MAC)를 제공하여 보안을 한층 강화합니다. MAC은 주체에 대한 사용자, 역할 및 도메인 레이블, 객체에 대한 리소스 레이블, 그리고 정책으로 정의된 주체와 객체 간의 관계로 구성됩니다. SELinux 제어 기능은 사용자 프로그램과 시스템 서버가 파일 및 네트워크 리소스에 접근할 수 있는 범위를 제한합니다. 권한을 작업에 필요한 최소 수준으로 제한하면 이러한 프로그램과 데몬이 버퍼 오버플로 또는 잘못된 구성과 같은 알려지지 않은 취약점으로 인해 피해를 일으킬 가능성을 줄이거나 없앨 수 있습니다. MAC은 Linux의 임의 접근 제어 메커니즘과 독립적으로 작동하므로 루트 슈퍼유저라는 개념이 없으며, 따라서 기존 Linux DAC 시스템의 잘 알려진 단점을 공유하지 않습니다.
보안 인증
연방 기관 및 금융 서비스 산업(FSI) 조직에는 Common Criteria 및 FIPS 140-2와 같은 보안 인증을 요구하는 추가 규정이 적용됩니다. 이러한 인증을 비롯한 미국 및 전 세계의 보안 인증은 인증된 제품이 인증, 감사, 암호화, 관리 및 보안 통신 등의 영역에서 표준을 충족함을 보장합니다. 보안 환경의 변화에 따라 인증 표준과 요구 사항도 변화하고 발전하므로, 대부분의 인증은 특정 제품 릴리스에 한정됩니다.
F5는 보안 변화, 모범 사례 및 진화하는 표준을 지속적으로 반영하고 조직에 강력한 보안과 간소화된 규정 준수를 제공하기 위해 국제 암호화 모듈 콘퍼런스(ICMC)와 국제 공통평가기준 콘퍼런스(ICCC)에 참여하고 있습니다. 미국 국립표준기술연구소(NIST)의 암호화 모듈 검증 프로그램(CMVP)은 F5의 암호화 로드맵을 이끌고 있습니다.
공통평가기준(CC)
많은 F5 제품이 전 세계 정부 기관과 기업에서 사용하는 국제 보증 인증인 Common Criteria(CC) 인증을 획득했습니다. 26개국이 상호 인정 협정에 서명했으며, 이에 따라 제품이 한 번 인증을 받으면 협정 서명국 일부 또는 전체에서 인증 제품으로 판매될 수 있습니다.
연방 정보 처리 표준(FIPS)
미국 국립표준기술연구소(NIST)가 개발한 연방 정보 처리 표준(FIPS)은 미국 정부 기관과 정부 계약업체의 비군사용 컴퓨터 시스템에 적용됩니다. FIPS 140 시리즈는 미국 연방 정부의 부처 및 기관에서 사용하는 하드웨어와 소프트웨어 구성 요소를 포함한 암호화 모듈의 요구 사항을 규정하는 미국 정부의 컴퓨터 보안 표준입니다.
FIPS 140-2를 준수하는 F5 제품은 규정 준수 요구 사항을 충족하기 위해 FIPS 140-2 인증을 받은 하드웨어 보안 모듈(HSM)을 사용합니다. HSM은 가치가 높은 디지털 암호화 키를 생성, 저장 및 보호하도록 설계된 안전한 물리적 장치입니다. HSM은 변조 방지 기능이 내장된 플러그인 카드(또는 기타 하드웨어) 형태로 제공되는 경우가 많은 보안 암호화 프로세서입니다. BIG-IP 시스템에는 FIPS 140-1 레벨 2 준수 솔루션이 필요한 환경에서 SSL 트래픽을 처리하도록 특별히 설계된 HSM 옵션인 FIPS 암호화/SSL 가속기가 포함되어 있습니다.
F5 BIG-IP 디바이스는 FIPS 140-2 레벨 2를 준수합니다. 이 보안 등급은 민감한 데이터를 HSM으로 가져온 후에는 플랫폼에서 암호화 기술을 사용하여 해당 데이터를 일반 텍스트 형식으로 추출할 수 없도록 보장한다는 것을 의미합니다. BIG-IP 디바이스는 물리적 변조를 방지하기 위해 변조 흔적이 남는 코팅이나 봉인도 제공합니다. BIG-IP 플랫폼의 고유한 키 관리 프레임워크를 통해 더 높은 트래픽 수준을 처리하고 조직에서 새로운 서비스를 손쉽게 추가할 수 있는 확장성 높은 보안 인프라를 구축할 수 있습니다.
또한 FIPS 암호화/SSL 가속기는 스마트 카드를 사용하여 관리자를 인증하고, 액세스 권한을 부여하며, 관리 책임을 분담함으로써 키 관리 보안을 유연하고 안전하게 적용할 수 있도록 합니다.
DoS 방어
DoS 공격은 시스템이나 네트워크 리소스를 정상적인 사용자가 이용할 수 없게 만들어 인터넷에 연결된 호스트의 서비스를 일시적 또는 무기한으로 중단하거나 정지시키려는 시도입니다. 분산 서비스 거부(DDoS) 공격은 둘 이상, 흔히 수천 개에 달하는 고유 IP 주소를 사용하는 공격 소스에서 발생합니다.
F5 아키텍트들은 DoS 공격을 방지하고 완화하기 위한 다양한 전략을 개발했습니다. 개발 팀은 기업 데이터를 보호하고 애플리케이션의 핵심 요소(네트워크, DNS, SSL 및 HTTP)에 보안을 제공하는 기술과 관련된 기능을 출시하고 특허를 출원했습니다. 소프트웨어 기능은 다양한 유형의 요청에 대한 속도 제한, 패킷 과다 여부 또는 요청을 시작한 주체 확인, 휴리스틱 제공, 스푸핑 방지 등 광범위한 보호 기능을 제공합니다.
BIG-IP 플랫폼은 지능형 트래픽 관리 및 애플리케이션 전송에 내재된 보안 기능을 활용하여 가장 까다로운 상황에서도 조직의 네트워크 및 애플리케이션 인프라를 보호하고 가용성을 보장합니다.
결론
네트워크, 애플리케이션 및 데이터에 대한 공격이 계속 증가하는 가운데, BIG-IP 플랫폼을 사용하는 조직은 자사의 가장 중요한 자산을 보호하는 시스템의 보안성을 신뢰할 수 있습니다.
F5는 제품 출시 전에 취약점을 발견하고 수정하도록 설계된 엄격한 보안 소프트웨어 개발 수명 주기 프로세스를 통해 BIG-IP 플랫폼의 보안을 보장합니다. 또한 BIG-IP 플랫폼은 어플라이언스 모드, 보안 볼트, SELinux, 보안 인증, DoS 방어 등 핵심 애플리케이션과 기업 데이터의 무결성을 보장하는 데 도움이 되는 여러 주요 보안 기능을 제공합니다.
보안 위협의 규모와 복잡성은 앞으로도 계속 진화할 것입니다. 동시에 F5는 조직이 평판을 지키고 비즈니스를 보호하는 한편, 공격을 예방하고 완화하며 대응할 수 있도록 특수 설계된 보안 솔루션을 지속적으로 개발할 것입니다.
2016년 7월 29일 게시