NVIDIA는 엔터프라이즈 AI가 나아갈 방향을 분명히 제시하고 있습니다. 에이전틱 AI는 인프라 요구 사항을 단순한 컴퓨팅 성능 그 이상으로 확장하고 있습니다. 자율 에이전트가 지속적으로 추론하고, 정보를 검색하고, 행동함에 따라 데이터는 연료가 되고, 스토리지는 핵심 자산으로 부상하며, 데이터 보호와 관측 가능성은 AI 팩토리의 필수 운영 요소가 됩니다. 이러한 변화는 보안 및 복원력 모델을 바꿉니다.
새롭게 향상된 NVIDIA DOCA 보안 기능을 NVIDIA Vera BlueField-4 STX용으로 발표하면서, NVIDIA는 데이터, 에이전트 및 컨텍스트 메모리를 실시간으로 보호하는 기능을 실리콘에 직접 내장해 설계 단계부터 보안을 고려한 새로운 차원의 AI 스토리지를 제시하고 있습니다. 그 결과는 명확합니다. 사후 대응형 보안 제어에서 AI 에이전트의 속도로 작동할 수 있는 선제적이고 정책 기반의 보안 적용으로 전환하는 것입니다.
“DOCA Argus의 런타임 가시성과 F5와 같은 엔터프라이즈급 트래픽 및 보안 게이트웨이를 결합하면 조직은 위협을 더 일찍 탐지하고 더 신속하게 차단하며, 위기 상황에서도 AI 서비스를 안정적으로 운영할 수 있습니다.”
가장 중요한 것은 이것이 업계에 시사하는 바입니다. 인프라 플랫폼이 보안을 신뢰 도메인에 내재화하면, 논의의 초점은 “충분한 도구를 추가로 붙일 수 있는가?”에서 “AI 팩토리의 속도를 유지하면서 인프라의 모든 자산에 정책을 적용할 수 있는가?”로 전환됩니다. 이것이 바로 기업들이 공통적으로 지향하는 기준입니다.
이것이 중요한 이유는 에이전트형 시스템에서 보안이 더 이상 엔드포인트 보호에만 국한되지 않기 때문입니다. 보안은 에이전트와 에이전트가 액세스하거나 생성하는 데이터 간의 모든 상호작용을 지속적으로, 인라인으로, 대규모로 통제하는 것을 의미합니다. AI 팩토리에서 가장 민감한 작업은 프롬프트가 아닌 경우가 많습니다. 핵심은 독점 데이터 세트와 모델을 빠르고 안정적으로, 통제된 방식으로 검색하고 액세스하며 생성하는 경로입니다. 따라서 설계 단계부터 보안을 고려한 스토리지, 데이터 보호, 관측 가능성, 정책 가드레일이 기반 요소로 자리 잡고 있습니다.
NVIDIA의 발표 내용: AI 팩토리를 위한 통합 DOCA 보안 스택
NVIDIA의 설계 단계부터 보안을 고려한 AI 네이티브 스토리지 및 데이터 인프라 접근 방식의 핵심에는 플랫폼 전반에 일관되게 배포되고 BlueField 신뢰 도메인에서 적용되는 DOCA 보안 스택이 있습니다. NVIDIA Vera BlueField-4 STX Security는 상호 보완적인 세 가지 보호 계층을 제공합니다:
- AI 네이티브 데이터 보호: NVIDIA DOCA Vault. DOCA Vault는 파일 기반 스토리지를 위한 제로 트러스트 액세스 계층으로, 액세스 요청에 정책을 적용하고 호스트 OS가 침해된 경우에도 무단 액세스를 실시간으로 차단할 수 있습니다.
- AI 추론 보호: NVIDIA DOCA Flow 및 NVIDIA DOCA Argus. DOCA Argus는 추론 워크로드 동작에 대한 런타임 가시성을 제공하여 멀티테넌트 AI 환경 전반에서 AI 검색, 노출 관리 및 실시간 위협 탐지를 지원합니다. DOCA Flow는 최대 800Gb/s 속도의 회선 속도 네트워크 정책 적용을 통해 보호 기능을 확장하여 AI 성능에 영향을 주지 않으면서 에이전트, 테넌트 및 추론 파이프라인을 안전하게 격리할 수 있도록 합니다. DOCA Flow는 AI 데이터 경로에서 직접 작동하여 분산 추론 환경 전반에서 고속 트래픽 검사, 세분화 및 보안 통신을 지원합니다.
- AI 에이전트 보호: 에코시스템 보안 게이트웨이와 통합된 DOCA Argus. NVIDIA Vera BlueField-4 STX는 AI 에이전트가 데이터 및 외부 시스템과 상호 작용하는 방식을 모니터링하고 제어할 수 있는 새로운 제어 지점을 제공합니다. 이 플랫폼은 실시간 텔레메트리 인식 정책 시행 계층을 비롯해 NVIDIA 에코시스템 파트너의 엔터프라이즈 AI 보안 게이트웨이와 DOCA Argus를 통합하여 무결성, 작업, 데이터 액세스, 네트워크 활동, 에이전트 간 상호 작용 및 실행 패턴을 포함한 에이전트의 동작을 실리콘에서 지속적으로 분석합니다. 동작이 예상 범위를 벗어나면 에이전트를 격리하기 위한 네트워크 액세스 차단, 데이터 유출 방지, 위험이 확산되기 전 억제 등의 즉각적인 조치를 실행할 수 있습니다.
이것이 업계가 나아가는 방향입니다. 보안을 사후에 덧붙이는 것이 아니라 인프라 계층에 내재화하는 것입니다.
F5와 NVIDIA DOCA Argus로 런타임 텔레메트리를 실행 가능한 조치로 전환
NVIDIA BlueField-4는 실리콘에 내장된 정책 적용 지점을 제공하며, DOCA Argus는 AI 워크로드에 대한 런타임 가시성을 제공합니다. F5 BIG-IP Next for Kubernetes는 이 아키텍처에서 실시간 텔레메트리를 인식하는 엔터프라이즈 AI 보안 게이트웨이 역할을 하며, DOCA Argus 신호를 실시간으로 수집하고 정책 기반 보안 결정을 적용하여 AI 에이전트 보호를 강화합니다. F5는 AI 데이터 파이프라인과 스토리지 서비스 전반에 복원력, 보안 및 관측 가능성을 더해 이러한 기반을 강화하며, 조직이 런타임 신호를 실시간 트래픽 컨텍스트와 연계하고 동작이 정상 범위를 벗어날 때 더 빠르게 대응할 수 있도록 지원합니다.
BIG-IP Next for Kubernetes는 인프라 텔레메트리만으로는 파악할 수 없는 남북 방향 트래픽 컨텍스트도 제공합니다. DOCA Argus와 결합하면 BIG-IP Next for Kubernetes는 런타임 동작을 단순히 관찰하는 데 그치지 않습니다. 실시간 워크로드 신호와 트래픽 컨텍스트를 함께 활용하여 보안 결정을 내리고 정책을 인라인으로 적용함으로써 런타임 텔레메트리를 실제 보안 집행으로 전환합니다. 이를 통해 동일한 이벤트를 상호 보완적인 두 가지 관점에서 파악할 수 있습니다. 즉, 진입 지점에서 API와 테넌트가 수행하는 작업과 런타임에 워크로드가 수행하는 작업을 모두 확인할 수 있습니다.
동일한 모델은 NVIDIA DOCA Vault 및 스토리지 보안에도 적용됩니다. BIG-IP Next for Kubernetes는 데이터 서비스에 대한 액세스 경로를 격리하고 보호하며 관리함으로써 스토리지 및 데이터 액세스를 위한 제로 트러스트 계층을 구축하는 데 도움을 줍니다. DOCA Vault와 결합된 BIG-IP Next for Kubernetes는 공유 AI 인프라 전반에서 정책을 시행하고, 테넌트 격리를 강화하며, 스토리지 액세스 경로를 보호하는 데 도움을 줍니다.
F5는 에이전틱 AI를 위한 NVIDIA BlueField-4 STX 보안 아키텍처의 복원력과 보안도 강화합니다. F5 BIG-IP을 통해 고객은 AI 데이터 파이프라인과 스토리지 서비스를 DDoS 공격, 트래픽 급증 및 비정상적인 부하 상태로부터 보호하여 과부하 상황에서도 핵심 서비스가 계속 운영되도록 할 수 있습니다. 또한 F5는 AI 트래픽을 지능적으로 조정하고 지연 시간에 민감한 AI 워크로드의 서비스 품질을 지원함으로써 GPU 및 기타 AI 리소스의 활용도를 높일 수 있습니다. 이러한 상관관계 분석은 “뭔가 이상해 보인다”는 판단과 “침해가 발생했다는 확신이 높다”는 판단을 가르는 차이입니다. 또한 모든 테넌트에 영향을 미치는 일괄적인 서비스 중단 대신 신속하고 정밀한 완화 조치를 가능하게 합니다.
런타임과 트래픽의 상관관계 분석이 차세대 보안 통제 지점인 이유
프로덕션 AI 환경에서 가장 어려운 문제 중 하나는 정상적인 사용과 침해 초기 단계를 구분하는 것입니다. 많은 공격은 대량 트래픽 공격처럼 보이지 않습니다. 오히려 인증까지 거친 공개 추론 엔드포인트에 대한 정상적인 호출처럼 보이며, 외부 진입점에서의 동작과 워크로드 내부에서 발생하는 상황을 연계해 분석해야만 비로소 명확하게 드러납니다.
바로 이 지점에서 NVIDIA Vera BlueField-4 STX와 F5를 결합한 접근 방식이 강력한 힘을 발휘합니다.
엔드포인트 동작, 오류 및 중단 비율, 지연 시간 변화, 테넌트 컨텍스트와 같은 남북 방향 신호는 엣지에서 어떤 일이 일어나고 있는지 알려줍니다. 프로세스 활동, 예기치 않은 셸 또는 명령, 새로운 아웃바운드 연결과 같은 DOCA Argus의 런타임 텔레메트리는 추론 스택 내부에서 절대로 발생해서는 안 되는 일이 무엇인지 알려줍니다.
이 두 관점이 동일한 시간대에 일치하면 의심스러운 징후를 신뢰도 높은 공격으로 신속하게 판단하고, 피해 범위가 공유 AI 인프라 전반으로 확산되기 전에 대응할 수 있습니다.
실제 사례: 정상적으로 보이는 추론 공격 탐지
트래픽이 인증되었고 정상적으로 보이는 공개 AI API 엔드포인트를 생각해 보겠습니다. 전체 요청량은 그리 많지 않지만 서비스 동작에는 변화가 나타납니다. 응답 시간이 1초 미만에서 수 초대로 급증하고, 동일한 엔드포인트에서 오류율과 중단율이 상승합니다. 요청은 예상 페이로드 크기의 상한에 가까운 구간에 집중됩니다.
트래픽만 놓고 보면, 이는 과도한 부하를 유발하는 테넌트나 성능 장애처럼 보일 수 있습니다.
이제 해당 요청을 처리하는 특정 GPU 서버에 DOCA Argus를 활용한 BlueField 신뢰 도메인 관점을 추가해 보겠습니다. 모델 서빙 프로세스가 예기치 않게 대화형 셸을 실행합니다. 직후 동일한 프로세스가 외부 대상으로 새로운 아웃바운드 HTTPS 연결을 시작합니다. 이러한 정황은 명령 및 제어(C2) 활동이나 데이터 스테이징 및 유출과 일치합니다.
바로 이 지점에서 통합의 운영상 효과가 결정적으로 드러납니다. BIG-IP Next for Kubernetes는 성능이 저하된 API 동작을 테넌트 및 요청 컨텍스트와 연계할 수 있으며, DOCA Argus는 해당 요청을 처리하는 특정 백엔드에서 비정상적인 런타임 동작이 발생했음을 확인합니다. 이 두 가지를 결합하면 신뢰도 높은 탐지 신호를 생성하여 신속하고 정밀한 차단 조치를 수행할 수 있습니다.
실제로 이를 통해 표적화된 완화 조치를 수행할 수 있습니다. 기업은 이를 일반적인 인시던트로 처리하는 대신, 영향을 받은 경로를 격리하고 다른 테넌트와 엔드포인트의 전반적인 서비스 연속성을 유지할 수 있습니다.
더 큰 변화: 조립이 아닌 설계
AI 팩토리 모델은 새로운 기준을 요구하고 있습니다. 성능, 토큰당 비용, 신뢰성을 함께 고려해 설계해야 합니다. NVIDIA Vera BlueField-4 STX와 NVIDIA DOCA 보안 스택은 실리콘에 보안 정책 집행 기능을 내장하고 격리된 신뢰 도메인에서 작동함으로써 이러한 기준을 향한 의미 있는 진전을 보여줍니다.
이 아키텍처가 기업의 AI 팩토리 구축 방식을 위한 기준으로 자리 잡으면서 에코시스템 통합의 중요성이 커지고 있습니다. 인프라 수준의 보안 신호는 이를 바탕으로 조치를 취할 수 있는 제어 기능이 뒷받침될 때 비로소 가치를 발휘합니다. DOCA Argus의 런타임 가시성과 엔터프라이즈급 트래픽 및 보안 게이트웨이를 결합하면 조직은 위협을 더 일찍 탐지하고 더 신속하게 차단하며, 압박이 가중되는 상황에서도 AI 서비스를 안정적으로 운영할 수 있습니다. 이번 이정표는 F5와 NVIDIA가 이미 함께 추진하고 있는 더 큰 여정의 일부입니다. BIG-IP Next for Kubernetes는 이미 NVIDIA BlueField DPU 및 DOCA 가속 AI 인프라와 연계되어 프로덕션 AI 환경에 고성능 트래픽 관리, 보안 및 AI 인식 제어 기능을 제공합니다. 이번 최신 협력은 이러한 기반을 바탕으로 NVIDIA Vera BlueField-4 STX까지 확장하여 기업이 향상된 가시성, 정책 적용 및 운영 제어를 통해 데이터, 추론 및 에이전트를 보호할 수 있도록 지원합니다.
AI 팩토리에는 단순히 더 많은 GPU만 필요한 것이 아닙니다. 에이전트의 속도에 발맞추는 동시에 기업 데이터를 보호할 수 있도록 설계 단계부터 보안을 고려한 인프라가 필요합니다.
자세한 내용은 다음을 참조하세요: 기술 제휴: F5와 NVIDIA
작성자 소개
관련 블로그 게시물
성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.
TLS 검사에서 피터 파커 원칙 다루기
“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.
Venafi와 F5를 통한 머신 아이덴티티 보호
‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.
마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...
내 클라우드에서 나가!
F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.
Shift(웹 앱) 보안 레터
웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.