GPU 용량을 활용해 매니지드 Kubernetes 비즈니스를 시작하세요
매니지드 Kubernetes와 GPUaaS(GPU-as-a-Service)를 제공하는 네오클라우드는 네트워크에서 각 테넌트를 격리하고, 테넌트마다 독립적으로 제어되는 인바운드 및 아웃바운드 경로를 제공하며, 다른 테넌트가 접근할 수 없도록 보장해야 합니다. F5는 이러한 요구사항을 충족하는 것은 물론, 그 이상의 가치를 제공합니다.
엔터프라이즈 테넌트는 가장 먼저 자신들이 어떻게 격리되는지 묻습니다
베어메탈에서 한 단계 더 나아가는 네오클라우드는 테넌트가 직접 구축하던 네트워킹 기능까지 책임지게 됩니다. 고객 간 격리, 인바운드 및 아웃바운드 트래픽 제어, 방화벽, 그리고 이러한 조치가 제대로 이루어졌음을 입증하는 로그가 여기에 포함됩니다. 오픈 소스 프록시와 스크립트로 첫 클러스터를 가동할 수는 있지만, 테넌트가 추가될 때마다 새로 구축해야 합니다. F5는 이 계층을 F5 Application Delivery and Security Platform의 정식 지원 구성 요소로 제공합니다.
네트워크에서 테넌트 격리
네임스페이스와 레이블에 그치지 않고, EVPN-VXLAN과 VRF를 활용해 테넌트별 라우팅 도메인을 구성합니다.
인바운드 및 아웃바운드 트래픽 제어
테넌트별 인그레스, 고정 소스 주소를 사용하는 이그레스, 노드 에지 방화벽.
호스트 코어를 수익 창출에 다시 활용하세요
The Tolly Group이 검증한 테스트에서 DPU 모드 사용 시 호스트 코어 수가 12개에서 2개로 줄었습니다.
현재 보유한 서버에서 시작하세요
표준 호스트 CPU에서 실행되며, 호스트 코어의 활용 가치를 높이고 싶다면 BlueField DPU를 추가하세요.
F5가 네오클라우드의 판매 범위를 GPU 사용 시간을 넘어 확장하도록 지원하는 방법
테넌트 격리
네임스페이스와 네트워크 정책은 Kubernetes 내부에서 테넌트를 분리하지만, 테넌트는 여전히 기반 네트워크를 공유하며 기업 보안 팀도 이를 잘 알고 있습니다. BIG-IP Next for Kubernetes는 VRF와 함께 BGP EVPN-VXLAN을 사용하여 각 테넌트를 고유한 라우팅 도메인에 매핑하므로, 각 테넌트의 트래픽은 전용 VRF를 통해 클러스터에 들어오고 나갑니다. 테넌트 추가는 새로운 환경을 구축하는 작업이 아니라 구성을 변경하는 작업이 되며, 플랫폼 팀은 고객마다 프록시, 라우터, 방화벽을 운영하는 대신 단일 계층만 운영하면 됩니다.
Kubernetes를 위한 네트워킹 살펴보기인그레스, 이그레스 및 방화벽
모든 테넌트에는 인바운드 및 아웃바운드 트래픽을 제어할 수 있는 수단이 필요합니다. BIG-IP Next for Kubernetes는 Kubernetes Gateway API를 통한 테넌트별 인그레스, 외부 시스템의 허용 목록에 등록할 수 있는 테넌트별 고정 소스 주소를 통한 이그레스, 그리고 테넌트별 로그 스트림을 제공하는 노드 에지 방화벽을 지원합니다. 기본적으로 파드의 이그레스 트래픽은 노드 주소를 사용해 외부로 나가므로 외부 시스템에서는 테넌트를 구분할 수 없습니다. F5를 사용하면 테넌트는 보안팀이 요구하는 제어 기능을 확보하고, 서비스 제공업체는 이를 입증할 자료를 확보할 수 있습니다.
Kubernetes 네트워킹 알아보기수익 기반 호스트 코어
표준 서버에서는 네트워킹, 암호화, 정책 처리가 과금 대상이 아닌 호스트 CPU 코어에서 실행됩니다. NVIDIA BlueField DPU에 DPU 모드로 배포된 BIG-IP Next for Kubernetes는 이러한 데이터 경로를 DPU로 이전합니다. The Tolly Group이 검증한 테스트에서 소형 모델을 기준으로 측정한 결과, 서버당 사용되는 호스트 코어 수가 12개에서 2개로 줄었습니다. 랙 전체로 보면, 이는 내부 처리에 소모하는 대신 판매할 수 있는 용량입니다. 먼저 호스트에서 시작하고, 해당 코어를 판매 가능한 용량으로 활용하는 편이 더 가치 있어지는 시점에 DPU로 전환하세요.
Tolly 보고서 읽기공장에 자원을 공급하고 방어하세요
학습용 테넌트는 여러 사이트와 클라우드의 오브젝트 스토리지에서 데이터를 가져오며, 데이터 경로가 정체되면 GPU가 대기하는 동안에도 비용은 계속 발생합니다. 공개 추론 엔드포인트와 테넌트 API는 인터넷에 노출되어 있어 과부하가 발생하면 큰 비용을 초래할 수 있습니다. F5 BIG-IP는 서비스 제공업체 규모에 맞게 설계된 하드웨어를 기반으로 GPU로 이어지는 S3 데이터 경로의 부하를 분산하고 보안을 강화하며, AI 팩토리 경계에서 DDoS 방어, 방화벽 기능, 글로벌 트래픽 라우팅을 제공합니다.
AI 데이터 전송 살펴보기제품
BIG-IP LTM
S3 스토리지 엔드포인트 간 부하 분산 및 장애 조치.
제품
BIG-IP DNS
여러 사이트에 걸쳐 사용자와 데이터 트래픽을 전역적으로 라우팅합니다.
제품
BIG-IP DNS
여러 사이트에 걸쳐 사용자와 데이터 트래픽을 전역적으로 라우팅합니다.
제품
BIG-IP DNS
여러 사이트에 걸쳐 사용자 및 데이터 트래픽을 전역적으로 제어합니다.
제품
BIG-IP DNS
여러 사이트에 걸쳐 사용자와 데이터 트래픽을 전역적으로 라우팅합니다.
제품
BIG-IP DNS
여러 사이트에 걸쳐 사용자와 데이터 트래픽을 전역적으로 분산합니다.
리소스
참조 아키텍처
보고서
솔루션 개요
자주 묻는 질문
네오클라우드는 범용 컴퓨팅이 아닌 AI용 GPU 자원을 중심으로 구축된 클라우드 제공업체입니다. 대부분 베어메탈 GPU 서버를 시간 단위로 임대하는 방식으로 시작했으며, 이제는 관리형 Kubernetes, 서비스형 GPU(GPUaaS), 경우에 따라 추론 서비스까지 추가하여 기업 고객에게 단순한 서버가 아닌 플랫폼을 제공하고 있습니다. 이러한 전환은 GPU 시간당 수익을 높이는 동시에, 기반 네트워크에 대한 테넌트의 기대 수준도 높입니다.
격리는 여러 계층에서 이루어집니다. 네임스페이스와 역할 기반 액세스 제어는 각 테넌트가 관리할 수 있는 범위를 정하고, 가상 클러스터는 테넌트별로 제어 플레인을 추가합니다. 네트워크 수준의 격리는 일반적으로 테넌트별 전용 VRF를 갖춘 EVPN-VXLAN을 통해 구현되며, 클러스터로 들어오고 나가는 각 테넌트의 트래픽이 해당 테넌트의 라우팅 도메인 내에 머물도록 합니다. 여기에 클러스터 경계에서 적용되는 테넌트별 인그레스, 이그레스 및 방화벽 정책이 각 테넌트가 접근할 수 있는 대상을 제어합니다.
베어 메탈은 서버 전체를 임대하는 방식으로, 테넌트가 자체 소프트웨어 스택을 가져와 직접 운영합니다. 서비스형 GPU와 매니지드 Kubernetes는 여기에 스케줄링, 네트워킹, 테넌트 격리, 인그레스 및 이그레스, 지원을 포함한 플랫폼을 더합니다. 제공업체는 더 많은 책임을 맡는 대신 GPU 시간당 요금을 더 높게 책정할 수 있으며, 기업 테넌트는 점점 더 서버 자체보다는 이러한 플랫폼을 기대하고 있습니다.
각 테넌트에 전용 아웃바운드 경로를 제공하세요. 고정된 소스 주소를 사용하는 테넌트별 이그레스는 외부 시스템에서 주소를 기준으로 테넌트를 허용 목록에 등록할 수 있게 하고, 한 테넌트의 트래픽이 다른 테넌트에서 발생한 것처럼 보이지 않도록 하며, 목적지별 아웃바운드 연결 로깅과 감사를 간소화합니다. Kubernetes 네트워크 정책도 도움이 되지만, 클러스터 내부의 파드와 IP 블록 수준에서 작동합니다.
아니요. BIG-IP Next for Kubernetes는 표준 호스트 CPU에서 실행되며, 테넌트 격리와 인그레스 및 이그레스 처리도 호스트에서 이루어집니다. NVIDIA BlueField DPU는 데이터 경로를 호스트에서 오프로드하고 호스트 운영 체제 외부에서 정책을 적용합니다. 이는 테넌트 수가 늘어나고 호스트 코어가 판매 가능한 용량으로서 더 높은 가치를 갖게 될수록 유용해집니다. DPU 모드에서 측정한 결과는 호스트 배포 환경에 그대로 적용되지 않습니다.