추론 속도에 맞춰 엔터프라이즈 AI를 제공하고 보호하세요
AI의 무게중심이 학습에서 추론으로 이동했습니다. F5는 하이브리드 멀티클라우드 환경 전반에서 추론 트래픽을 라우팅하고, 데이터 전송 병목 현상을 줄이며, 런타임 보안을 적용하여 AI의 복원력과 보안을 유지하도록 지원합니다.
추론은 데이터, 트래픽, 제어 전반의 모든 취약점을 드러냅니다
학습은 한 번이지만 추론은 끊임없이 이루어집니다. 추론은 부하가 걸리고 외부에 노출된 환경에서 실행되므로, 데이터 이동, 트래픽 라우팅, 액세스 제어의 모든 취약점이 운영 환경의 문제로 이어집니다. F5 Application Delivery and Security Platform은 바로 이러한 제어 지점에서 실제 수요에 대응하면서 AI의 속도, 가용성, 보안을 유지합니다.
AI가 근본적인 변화를 이끌고 있습니다
의 조직이 이제 AI 추론을 직접 실행합니다1
프로덕션 환경에서 관리되는 AI 모델 수는 평균 1
의 조직이 AI 관련 보안 문제를 경험했습니다 1
AI 비전을 실현할 운영 준비 수준을 갖추세요: AI 평가 받기
엔터프라이즈 AI 솔루션 살펴보기
AI 인프라
AI 인프라
대규모 데이터 및 트래픽 흐름을 개선하세요. S3 호환 스토리지의 데이터 수집부터 분산 추론과 AI 팩토리 로드 밸런싱까지, F5는 하이브리드 멀티클라우드 환경 전반에서 병목 현상을 줄이고 GPU 활용률을 높일 수 있도록 지원합니다.
AI 인프라 솔루션 살펴보기AI 보안
AI 보안
지속적인 위험 평가와 맞춤형 런타임 보호를 통해 AI 모델, 앱, 에이전트 및 이들을 연결하는 API를 보호하고 관리하며, 보안팀이 통제권을 유지할 수 있도록 지원합니다.
AI 보안 솔루션 살펴보기이미 사용 중인 인프라와의 파트너십
전체 수명 주기에 걸쳐 엔터프라이즈 AI 애플리케이션을 확장하고 보호하기 위한 공동 솔루션.
안전한 고성능 AI를 위한 참조 아키텍처
대화형 AI 참조 아키텍처를 살펴보고 하이브리드 멀티클라우드 배포 전반에서 데이터 이동 속도를 높이고, AI 트래픽을 보호하며, 환경의 복원력을 유지하는 방법을 알아보세요.
주요 관심 주제
업계 인사이트
은행 및 금융 서비스
금융 서비스 전반에 AI를 제공하고 보호하세요
금융 서비스는 AI 코파일럿에서 스스로 계획하고 실행하는 AI 에이전트로 전환하고 있습니다. 이러한 자율성은 에이전트가 접근하는 API, 모델, 데이터 전반에 걸쳐 위험을 높이며, 이제 규제 당국은 에이전트의 모든 행동을 추적하고 감독할 수 있어야 한다고 요구합니다. F5는 이러한 AI 시스템의 빠른 성능과 가용성을 유지하고, 시스템을 오가는 프롬프트와 응답을 검사하며, 거버넌스 이행을 입증하는 데 필요한 가시성을 제공합니다. 금융 서비스 업계가 고객의 신뢰를 지키면서 에이전틱 AI를 확장하는 방법을 알아보세요.
공공 부문
정부 AI 시스템을 위한 런타임 보안 및 데이터 전송
정부 AI 시스템은 대국민 서비스, 국방, 정보 분야 전반에 걸쳐 활용되며, 기밀 환경과 비기밀 환경을 넘나드는 경우가 많습니다. F5 ADSP는 온프레미스, 소버린 클라우드, 에어갭 배포 환경 전반에서 AI 데이터 전송을 최적화하고, AI 모델과 에이전트에 런타임 보안을 제공하며, 추론 API를 보호합니다.
의료
의료 AI 확장, 현대화 및 보호
AI가 의료 분야에 혁신을 일으키고 있지만, 보안이 걸림돌이 되고 있습니다. 2018년 이후 해킹 관련 사고가 239% 증가했음에도 병원과 의료 시스템은 이에 제대로 대응하지 못하고 있습니다. 이제 규정 준수만으로는 충분하지 않습니다. AI 시대에 환자와 의료진의 요구를 충족하도록 규모를 확장하는 동시에 앱과 API를 보호하려면 사이버 보안 모범 사례를 도입해야 합니다.
소매 및 전자상거래
리테일 전반에서 AI를 보호하고 확장하세요
AI는 개인 맞춤형 추천부터 고객을 대신해 상품을 둘러보고 구매하는 AI 에이전트에 이르기까지 사람들의 쇼핑 방식을 바꾸고 있습니다. 활용 방식이 늘어날 때마다 앱, API, 결제 과정 전반에 걸쳐 부하와 위험도 증가합니다. F5는 검증된 쇼핑 에이전트와 악성 봇을 구별하고, 스크래핑과 사기를 차단하며, 트래픽이 급증할 때도 온라인 스토어의 빠른 속도를 유지하도록 지원합니다. 유통업체가 쇼핑 경험을 저하시키거나 공격에 노출되지 않으면서 AI 기반 쇼핑을 안전하게 보호하고 확장하는 방법을 알아보세요.
리소스
최신 뉴스
블로그
전자책 및 보고서
자주 묻는 질문
대부분의 기업용 GPU 클러스터는 가용 용량에 훨씬 못 미치는 수준으로 운영됩니다. GPU 활용률을 높이려면 지속적 배칭, 추측 디코딩, 양자화 등 하드웨어 처리량을 크게 늘리는 런타임 효율화 기법을 도입해야 합니다. 또한 지능형 추론 라우팅을 통해 간단한 쿼리는 더 작은 모델로 보내고, 반복되는 답변은 캐싱하여 다시 계산하지 않도록 할 수 있습니다. GPU에 작업을 적절히 공급하고 전체 스택에 모니터링 체계를 갖추면 토큰당 비용을 낮출 수 있습니다.
GPU는 파이프라인의 데이터 공급 속도보다 빠르게 데이터를 처리하므로, 고가의 가속기가 데이터를 기다리며 유휴 상태에 놓이게 됩니다. 기존 스토리지는 현대적인 학습 및 추론에 필요한 지속적인 고처리량 데이터 액세스를 제공하도록 설계되지 않았습니다. 액세스 패턴을 예측하기 어렵거나, 과부하 상태의 CPU가 전처리를 담당하거나, 데이터가 사일로에 분산되어 컴퓨팅 리소스까지 빠르게 연결되는 통합 경로가 없으면 데이터 이동 문제는 더욱 심화됩니다. 조직은 데이터 전달 체계를 체계적으로 설계된 인프라로 구축하여 느린 데이터 이동 문제를 해결할 수 있습니다. 이를 위해 프리페칭, 캐싱, 병렬 로딩과 함께 데이터를 GPU 가까이에 배치하는 고처리량 스토리지를 활용해야 합니다. 이러한 기법을 통해 데이터 부족에 끊임없이 시달리는 대규모 클러스터를 유지하는 대신, 더 작은 클러스터에 데이터를 꾸준히 공급할 수 있습니다.
기존의 API 및 데이터 보안은 인증, 권한 부여, 스키마 검증, 위협 탐지, 데이터 보호 등의 제어 수단을 통해 API와 민감한 정보를 보호합니다. 하지만 이러한 제어 수단은 자연어 프롬프트의 의미와 의도를 신뢰할 수 있는 수준으로 해석하도록 설계되지 않았기 때문에 AI 시스템에 추가적인 위험이 발생합니다. AI 런타임 보안은 사용자와 상호 작용하는 동안 시스템을 보호합니다. 고정된 규칙에 의존하는 대신 자연어 입력을 해석하여 위협을 탐지하고, 출력이 사용자에게 전달되기 전에 검사하여 모델이 유해한 콘텐츠를 제공하거나 민감한 데이터를 노출하지 않도록 합니다.
비영리 단체인 OWASP(Open Worldwide Application Security Project)에 따르면, AI 시스템에 대한 가장 큰 위협은 공격자가 모델의 동작을 조작하기 위해 입력을 정교하게 구성하는 프롬프트 인젝션입니다. 그다음으로 높은 순위를 차지하는 위협은 모델이 출력을 통해 개인 데이터, 시스템 프롬프트 또는 지식 재산을 유출하는 민감 정보 노출입니다. AI 가드레일은 이러한 위협을 비롯한 다양한 유형의 위협을 차단하는 데 도움이 됩니다. 입력 가드레일은 프롬프트 인젝션 및 시스템 지침 무력화 패턴을 검사하여 악의적인 지시가 모델에 전달되지 않도록 합니다. 출력 가드레일은 모델의 출력이 사용자에게 전달되거나 후속 작업을 실행하기 전에 이를 검사하고 검증하여 모델 출력을 통한 민감한 데이터 노출을 방지하는 데 도움이 됩니다.
기업이 데이터와 AI 워크로드를 클라우드에서 소버린 환경이나 에어갭 환경으로 다시 이전하는 데는 세 가지 주요 이유가 있습니다. 첫째, 많은 기업이 규제 대상 데이터나 민감한 데이터에 대한 통제력을 강화해야 합니다. 이를 통해 데이터 주권 규정을 준수하는 동시에 독점 학습 데이터가 외부 클라우드 데이터 센터에 저장되지 않도록 할 수 있습니다. 둘째, 기업은 클라우드 제공업체의 높은 데이터 반출 요금과 예측하기 어려운 비용을 피하고자 합니다. 마지막으로, 여러 테넌트가 공유하는 클라우드 인프라의 오버헤드를 제거하여 AI 추론 성능을 개선하고자 합니다.
AI 에이전트와 생성형 AI(GenAI) 도구 사용 시 데이터 유출을 방지하려면 기업의 보안 운영(SecOps) 팀은 다계층 방어 전략을 구현해야 합니다. 이 전략에는 입력과 출력에 대한 실시간 인라인 가드레일 구현, AI 에이전트의 접근 권한 제한, 검색 증강 생성(RAG)에 사용되는 AI 객체 스토리지 보호, API 접근 보안 강화, 지속적인 레드팀 활동 및 발견된 취약점 해결이 포함되어야 합니다. 동시에 직원들의 AI 사용 현황을 파악하고 분류하며 관리하는 데 도움이 되는 도구도 도입해야 합니다.
F5 AI Guardrails는 런타임 정책을 적용하고 프롬프트 인젝션, 민감한 데이터 유출, 유해한 출력, 안전하지 않은 에이전트 동작 등의 위험으로부터 보호합니다. F5 AI Red Team은 적대적 테스트를 통해 배포 전과 배포 중에 취약점과 약점을 식별합니다. F5 AI Gateway는 모델, 에이전트, 도구에 대한 액세스를 관리하는 중앙 제어 지점을 제공하며, F5 Workforce AI Security는 기업 전반에서 승인된 AI 사용과 승인되지 않은 AI 사용에 대한 가시성을 제공합니다. 이러한 기능은 함께 F5 AI Security Platform의 일부를 구성합니다. 애플리케이션, API, 분산 환경 전반에서 더욱 폭넓은 보호와 딜리버리를 지원하기 위해 F5 Application Delivery and Security Platform (ADSP)은 웹 애플리케이션 및 API 보호, 봇 관리, DDoS 완화, 애플리케이션 딜리버리 등의 기능을 제공합니다.















