최근 거래 체결부터 대규모 분석에 이르기까지 모든 업무를 자동화하려는 한 금융 서비스 기업과 미팅을 가졌습니다. 이 기업은 이를 위해 전체 직원 수의 5배에 달하는 AI 에이전트 10만 개를 도입할 계획입니다.
이 기업만이 아닙니다. 다양한 산업 분야의 많은 기업이 업무 효율성을 높이기 위해 AI를 도입하고 있습니다.
AI 사용이 이처럼 급격히 증가하면 조직이 자사 환경을 보호하는 방식에도 중대한 영향을 미치게 됩니다. 저는 기업들에 AI 인프라의 한 가지 측면만 보호해서는 안 된다고 자주 이야기합니다. 엔터프라이즈 AI에는 새로운 아키텍처가 필요하며, 이에 따라 AI 여정의 처음부터 끝까지 전 과정에 걸쳐 인프라와 워크로드를 보호하는 새로운 보안 모델이 요구됩니다.
“조직은 새로운 제어 지점을 보호함으로써 엔터프라이즈 AI를 대규모로 운영하면서도 안전성, 속도, 신뢰성을 높일 수 있습니다.”
그렇다면 보안은 구체적으로 어디에 적용해야 할까요? 조직은 AI 아키텍처를 더욱 효과적으로 보호하기 위해 AI 경로상에 새롭게 등장하는 제어 지점의 보안을 강화해야 합니다.
이 경로는 다음과 같이 간단히 이해할 수 있습니다. 프롬프트는 먼저 애플리케이션에 도달합니다. 이 지점을 인그레스라고 부르겠습니다. 여기서 워크플로는 컨텍스트를 구성하고, 내부 API를 호출하며, 에이전트 간의 작업을 조율합니다. 이렇게 정보가 보강된 프롬프트는 모델 계층으로 이동합니다. 이 계층에서는 추론을 통해 프롬프트가 토큰으로 변환되고, 이 토큰들은 결과물로 만들어져 사용자에게 전달됩니다.
이것이 바로 새로운 가치 공급망입니다. F5가 이 과정의 핵심 제어 지점을 보호하는 데 어떻게 기여하는지 보여드리겠습니다.
모든 것의 시작: 프롬프트
AI 여정은 외부 세계와 AI 시스템이 처음으로 상호작용하는 접점인 프롬프트에서 시작됩니다. 프롬프트는 채팅 인터페이스에 입력된 사용자 질문, API 호출 또는 기계가 생성한 이벤트에서 비롯될 수 있습니다. 프롬프트 자체에는 자연어, 구조화된 지침이나 시스템 지침이 포함될 수 있으며, 사진, 오디오 또는 동영상 입력으로 구성될 수도 있습니다.
인그레스: 프롬프트가 시스템에 들어오는 단계
프롬프트는 인그레스 계층을 통해 AI 인프라로 유입됩니다. 이 계층은 AI 시스템의 최전방에서 방어와 트래픽 관리를 담당하며, 검사, 정책 적용, 입력 정제, 트래픽 라우팅이 모두 이곳에서 이루어집니다.
이곳은 정문과도 같습니다. 중요한 점은 이제 그 문을 두드리는 방문자가 사람만은 아니라는 것입니다. AI를 활용해 엔드포인트 보안과 기존 WAF 보호 기능을 우회하고 데이터 및 애플리케이션 보안 시스템을 노리는 자동화된 공격 시스템도 여기에 포함됩니다.
이제 AI를 활용하는 공격자는 새로운 페이로드를 즉석에서 생성할 수 있습니다. 위협 행위자가 실시간으로 학습하고 전술을 바꿀 수 있다면, 방어 체계 역시 그렇게 할 수 있어야 합니다.
이러한 이유로 F5는 처음부터 새롭게 설계한 신경망을 기반으로 차세대 WAF 솔루션을 개발하고 있습니다. 이 신경망은 실제로 발생하는 실시간 공격 데이터를 학습하여 기존 시그니처나 정적 WAF 규칙에 의존하지 않고 위협을 탐지하고 대응합니다. F5는 새로운 공격을 식별하고 즉시 조치할 수 있는 AI 기반 기능을 통해 실시간으로 학습하고 적응하는 방어 시스템을 구축하고 있습니다.
내부 테스트에서 확인한 결과는 매우 유의미합니다. 사전에 정의되지 않은 제로데이 공격을 탐지했으며, 오탐률은 28%에서 1%로 감소하고 기본 설정 상태의 정확도는 64%에서 98%로 높아졌습니다. 이는 기존의 WAF와는 근본적으로 다릅니다. F5는 이 기술을 F5 Distributed Cloud Services 및 F5 Application Delivery and Security Platform (ADSP)의 다른 구성 요소에 도입하고 있습니다.
워크플로: 프롬프트가 실행으로 이어지다
프롬프트에는 일반적으로 유용한 결과를 생성하기 위해 추가 맥락이 제공되며, 이러한 맥락은 데이터 소스, 애플리케이션, 에이전트, API를 연결하는 워크플로에서 비롯됩니다. 이러한 워크플로는 안전하지 않은 출력 처리, 데이터 유출을 비롯해 시스템의 복잡성과 제한적인 관측 가능성으로 인해 탐지하기 어려운 여러 위협 등 중대한 보안 취약점도 초래합니다.
매일 새로운 위협이 등장함에 따라, 조직은 모든 환경에서 AI 워크플로를 보호하고 관리해야 하며, 이를 위해 원활하게 연동되는 다계층 보호 기능으로 복잡한 AI 기반 공격에 대응해야 합니다. 바로 이것이 저희가 제공하는 솔루션입니다. F5 AI Red Team은 자동화된 다단계 적대적 테스트를 제공하며, F5 AI Guardrails와 연동하여 AI 시스템이 정해진 범위 내에서 안전하고 책임 있게 작동하도록 보장합니다. 이러한 솔루션이 취약점을 식별하면, F5 AI Remediate 는 우선순위가 지정된 적대적 테스트 결과를 검증되고 최적화된 런타임 보호 기능으로 자동 전환합니다.
서로 연계된 이러한 솔루션의 진정한 가치는 단순히 더 빠른 탐지에만 있지 않습니다. 취약점을 발견한 후 해결하기까지 걸리는 시간을 단축하는 데 있습니다. 위험 발견이 곧바로 위험 완화로 이어질 때, AI 보안의 판도가 근본적으로 바뀝니다.
추론: 토큰이 가치로 바뀌는 순간
추가 정보로 보강된 프롬프트는 숫자 토큰으로 변환된 후 학습된 모델에 전달됩니다. 모델은 일련의 확률적 계산을 통해 토큰을 처리하며, 이 과정에서 분류나 추론 작업을 수행하고, 확률을 평가하며, 예측을 하고, 결과를 생성합니다.
토큰은 AI 운영 비용을 나타내며, 처리량, 첫 토큰 생성 시간, 토큰당 비용, 지연 시간, 와트당 토큰 수라는 다섯 가지 변수에 의해 좌우됩니다. 이 모든 변수에서 궁극적인 제약 요인은 에너지입니다. AI 인프라가 최적화되어 있지 않다면 전력을 낭비하고 수익성을 훼손하는 셈입니다. AI에서 성능은 곧 경제성이며, 경제성은 곧 경쟁 우위입니다.
F5는 AI 데이터와 워크로드를 지연 시간과 전력 소비를 최소화하면서 처리하고 전송하도록 지원하여 이러한 상황을 바꿉니다. 이를 통해 운영 비용을 절감하고 AI 팩토리의 효율적인 확장을 촉진합니다. 에너지 소모가 큰 네트워킹, 관리 및 보안 작업을 고효율 DPU로 오프로드함으로써, F5 및 NVIDIA 기술을 기반으로 하는 최신 AI 아키텍처는 추론 요청이 리소스 집약적인 GPU에 도달하기 전에 지연 시간과 전력 소비를 최소화하면서 데이터를 전처리할 수 있도록 합니다.
이 공동 솔루션을 도입한 조직은 토큰 처리량 최대 40% 증가, 첫 토큰 생성까지 걸리는 시간 61% 단축, 응답 시간 34% 개선 효과를 거두고 있으며, 이는 The Tolly Group의 독립 테스트를 통해 검증되었습니다. 이러한 혁신은 AI 팩토리가 단순히 빠르기만 한 것이 아니라 프로그래밍과 관리·통제가 가능해야 한다는 이해에서 비롯됩니다.
확신을 갖고 AI 이니셔티브 추진
AI 혁신에는 견고하면서도 유연한 아키텍처가 필요합니다. 조직은 새로운 제어 지점을 이해하고 보호함으로써 엔터프라이즈 AI를 대규모로 운영할 때도 안전성, 속도, 신뢰성을 높일 수 있습니다.
F5는 인터넷과 클라우드 시대에 IT 아키텍처 보호를 선도해 왔습니다. 이제 AI와 함께 엔터프라이즈 아키텍처가 다시 한번 진화하는 가운데, F5 ADSP는 조직이 AI 여정 전반에 걸쳐 데이터, 모델, 시스템을 보호할 수 있도록 설계된 융합 플랫폼을 제공합니다. 이 플랫폼은 실시간 위협을 학습하고 이에 적응하며 즉각 대응할 수 있는 방어 기능을 갖추고 있습니다.
자세한 내용은 F5의 AI 보안 솔루션 웹페이지에서 확인해 보시기 바랍니다.
작성자 소개

Kunal Anand는 최고제품책임자(CPO)로서 F5의 제품 조직을 이끌고 있습니다. 제품 비전, 전략 및 실행을 총괄하며, 고객의 중대한 과제를 해결하고 탁월한 경험을 제공하는 혁신적인 솔루션의 개발을 주도합니다. 이전에는 최고기술·AI책임자로서 회사의 기술 및 AI 전략과 비전을 수립했습니다. F5에 합류하기 전에는 Imperva에서 최고기술책임자(CTO)와 최고정보보안책임자(CISO)를 겸임했습니다. Kunal은 2013년에 공동 창업한 애플리케이션 보안 스타트업 Prevoty가 2018년 Imperva에 인수되면서 Imperva에 합류했습니다. Prevoty 이전에는 BBC Worldwide에서 기술 담당 이사를 역임했습니다. Kunal은 혁신과 기술 분야에서 풍부한 경험과 전문성을 갖추고 있으며, Gravity, MySpace 및 NASA 제트추진연구소에서 보안, 데이터, 기술 및 엔지니어링 팀을 이끄는 직책을 맡았습니다. Kunal은 모델 학습, AI 기반 알고리즘을 활용한 제품 개선, AI 아키텍처 설계 및 구현 등 AI와 머신러닝 분야에서 15년 이상의 경험을 보유하고 있습니다. Kunal은 Babson College에서 컴퓨터 과학 학사 학위를 취득했습니다.
Kunal Anand의 다른 블로그 게시물관련 블로그 게시물

추론 경로가 곧 트래픽 경로다: AI 보안이 자리해야 할 곳
이제 AI 트래픽에는 의도와 데이터, 작업이 담깁니다. AI 보안을 적용하는 데 추론 경로가 가장 중요한 지점이 된 이유를 알아보세요.

최전선 AI를 네트워크 경계에서 차단하기: 인라인 제어가 Mythos급 모델에 맞서는 핵심 우위인 이유
포스트-Mythos 시대에 사이버 방어가 어떻게 변화했으며, 조직이 통제 지점을 바꿔야 하는 이유를 알아봅니다.

애플리케이션 딜리버리 컨트롤러가 다시 전략적 의제로 떠오르고 있습니다
AI로 인해 애플리케이션 제공의 중요성이 더욱 커지고 있습니다. F5의 Nirav Shah가 새로운 Gartner® ADC 연구와 이것이 엔터프라이즈 인프라 의사 결정에 미치는 영향에 대해 설명합니다.

증거로 입증하는 AI 보안: Gartner SRM에서 선보일 내용
Gartner SRM에서의 세션을 앞두고, F5의 제품 마케팅 담당 수석 부사장이 F5가 세 가지 실질적인 단계를 통해 조직의 AI 보안을 어떻게 지원하는지 설명합니다.

속도 저하 없이 AI 데이터 파이프라인 보호하기
AI 데이터 파이프라인 보안은 선택이 아닙니다. 이 점은 분명합니다. 하지만 이를 어떻게 제대로 보호할 것인지는 훨씬 불분명하고, 해결하기도 훨씬 더 어렵습니다

AI 스토리지에 새로운 로드 밸런싱 접근 방식이 필요한 이유
AI 워크로드에는 새롭게 설계된 스토리지가 필요합니다. AI 워크로드 특유의 데이터 액세스 패턴은 레거시 인프라에 내재된 심각한 병목 현상과 근본적인 비효율성을 드러냅니다.