F5 AI 게이트웨이

F5 애플리케이션 제공 및 보안 플랫폼에서 중앙 집중식으로 제어해 분산된 다중 LLM 환경 전반의 비용을 관리하고 정책을 시행하며 AI 활용을 모니터링, 보호, 최적화하세요.

AI 모델 경로 지정과 데이터 보안

AI Gateway는 이식 가능한 마이크로서비스 아키텍처를 적용해 어떤 쿠버네티스 환경에서도 AI 애플리케이션을 손쉽게 배포할 수 있도록 지원합니다.

F5 애플리케이션 전송 및 보안 플랫폼 (ADSP)을 기반으로 F5 AI Gateway를 통해 AI 애플리케이션을 자신 있게 배포하고 관리할 수 있습니다. AI 워크플로에 최상의 보안, 확장성, 통제를 제공합니다. F5는 프롬프트와 응답을 실시간으로 검토하고 보호하여 데이터 유출을 방지하고 최적의 결과를 도출합니다. 고급 관측, 거버넌스, 맞춤형 제어 기능으로 기업은 안전하고 규정을 준수하며 비용 효율적인 AI 운영을 대규모로 구현할 수 있습니다.

  • 퍼블릭 클라우드
    Azure, AWS, Google Cloud Platform과 같은 주요 클라우드 공급자가 관리하는 확장 가능한 환경에서 SLM 및 LLM 애플리케이션 워크로드를 안전하게 모니터링하고 보호해 하이퍼스케일러 전반에 걸쳐 유연한 배포와 운영을 지원합니다.
  • 온프레미스
    물리 인프라 또는 데이터 센터에 직접 호스팅하는 SLM 및 LLM 애플리케이션 워크로드의 보안과 성능을 최적화해, 조직 정책에 부합하는 최대한의 제어와 준수를 가능하게 합니다.
  • 프라이빗 클라우드
    전용 자원과 맞춤형 구성을 통해 프라이빗 클라우드나 콜로케이션 시설에서 SLM 및 LLM 워크로드의 가시성과 보호를 강화해 보안과 운영의 일관성을 확보할 수 있습니다.

AI 모델 라우팅과 데이터 보안

AI 보안 시대에 맞춰 설계되었습니다

라우팅 및 가시성

F5 AI Gateway는 상황별 모델 라우팅으로 경로 지정과 모니터링을 강화하여 대응을 최적화하고 개발을 효율화합니다. OpenTelemetry와 연동해 전체 거래 내역을 완벽하게 파악하고, 로그를 SIEM과 SOAR 도구로 내보내어 규정 준수를 지원합니다. 라우팅 과정을 단순화하고 실질적인 인사이트를 제공해 AI 애플리케이션의 반복 작업, 효율성, 확장성을 빠르게 높입니다.

 

입출력 보안 확보

입력과 출력을 안전하게 보호하세요

F5 AI Gateway는 실시간으로 프롬프트 인젝션 공격과 민감한 데이터 노출을 차단해 안전한 AI 상호작용을 보장합니다. 여러분의 조직은 강력한 인증, 권한 부여, 역할 기반 접근 제어(RBAC)를 통해 규정 준수와 관리 체계를 확실하게 유지할 수 있습니다. 안전한 mTLS 통신으로 AI 트래픽을 보호하며, 동적인 가드레일 및 프로세서 업데이트로 신종 위협에 빠르게 대응해 보안과 신뢰성, 복원력을 강화합니다.

유연하게 확장 가능한 배포 및 운영

F5 AI Gateway는 모든 인프라에 걸쳐 빠르게 배포할 수 있어 확장 가능한 운영과 배포를 효율적으로 지원합니다. 통합된 트래픽 관리와 강력한 보안 제어를 통해 변화하는 비즈니스 요구에 맞춰 안전하게 확장할 수 있습니다. 유연한 Kubernetes 연동, 첨단 자동화 도구, 그리고 주요 AI 모델 지원을 제공하여 성능을 극대화하고 개발 속도를 높이며, 안정성과 규정 준수를 유지하면서 AI 수요 증가에 유연하게 대응합니다.

데이터 유출 감지 및 차단

데이터 유출 감지 및 차단

F5 AI Gateway는 실시간으로 프롬프트와 응답을 검사해 PII, PHI 같은 민감한 데이터를 정확히 식별하고 위협을 차단함으로써 강력한 데이터 유출 탐지 및 방지를 제공합니다. 우리는 로그 기록, 내용 삭제, 차단 정책을 엄격히 적용해 OWASP 지침을 준수합니다. SIEM 및 SOAR와 원활하게 연동해 신속한 사고 대응과 감사 작업을 가능하게 하며, AI 모델을 악의적이거나 의도치 않은 데이터 유출로부터 안전하게 지켜드립니다.

AI 배포를 강화하는 핵심 기반

AI 게이트웨이 다이어그램

AI Gateway는 F5 ADSP에 통합된 AI 제공 및 보안 솔루션의 핵심으로 LLM 보안과 가시성을 제공합니다.

LLM 보안은 프론트엔드 애플리케이션, 모델 추론, 하위 서비스 간 상호작용을 모니터링하고 보호하여 LLM 워크플로 전반에 걸쳐 가시성, 안전한 라우팅, 운영 안정성을 확보하는 데 매우 중요합니다.

AI 솔루션 탐색

핵심 역량

AI 애플리케이션과 관련된 위험을 신속하게 관찰하고 감지하여 완화하며, 인바운드 프롬프트와 아웃바운드 응답을 자동으로 식별하고 수정하여 데이터 거버넌스를 철저히 유지합니다.

위험을 효과적으로 줄이기 위해 AI LLM과 SLM 모델로 들어오고 나가는 모든 트래픽을 면밀히 검사합니다.

고객의 PII와 기업의 민감 데이터를 식별해 유출을 방지하세요.

인증, 권한 부여, RBAC, 자격 증명 관리를 엄격히 적용하고 감사 로그를 내보내 규정 준수를 지원합니다.   

OpenAI, Anthropic, Ollama와 업스트림 HTTP 서비스로 트래픽을 자연스럽게 연결하고 라우팅하세요.

Python SDK를 활용해 조직에 맞는 맞춤형 트래픽 검사 정책을 만드세요.

지표와 추적 관찰을 위해 OpenTelemetry 데이터를 SIEM/SOAR 시스템으로 자동 전송합니다.

출처, 내용, 상황에 따라 고비용 또는 저비용 모델로 요청을 분배합니다.

비용과 사용 사례를 고려해 AI 프롬프트를 최적의 모델로 전달해 효율성과 확장성을 극대화합니다.

플랫폼 지원 및 통합

AI Gateway는 퍼블릭 클라우드 플랫폼, 주요 AI 모델 및 관측 도구와 연동하여 확장 가능한 거버넌스, 보안, 그리고 끊김 없는 가시성을 제공합니다.

퍼블릭 클라우드 호환

주요 퍼블릭 클라우드 플랫폼에 AI 게이트웨이를 배포해 AI 애플리케이션에 확장성 있게 접근할 수 있도록 합니다.

AI 모델 지원

AI Gateway는 주요 AI 모델 플랫폼과 대형 언어 모델과 연동하여, 안전한 애플리케이션 상호작용과 SLM 및 LLM 서비스의 원활한 지원을 제공합니다.

관측 통합

AI Gateway는 OpenTelemetry를 통해 가시성과 규정 준수를 강화하며, 주요 SIEM 및 SOAR 도구와 원활히 연동해 효율적인 사고 관리를 지원합니다.

리소스