F5 AI 게이트웨이

조직의 관찰성, AI 보안 및 비용 절감을 통해 어디서나 AI 애플리케이션을 배포하세요.

AI 애플리케이션 보안 및 성능

모든 환경에서 인바운드 및 아웃바운드 프롬프트 검사

F5 AI Gateway를 사용하면 조직이 어디서나 자신 있게 AI 애플리케이션을 배포할 수 있습니다. AI 구현의 보안, 확장성 및 안정성을 쉽게 보장하세요. AI Gateway는 예상치 못한 결과나 중요한 데이터 유출을 방지하기 위해 인바운드 프롬프트와 아웃바운드 응답을 검사합니다. AI 상호작용에 대한 사용자 정의 가능한 관찰, 보호 및 관리를 통해 AI 애플리케이션의 유용성을 개선하고 규정 준수를 간소화할 수 있습니다.

가용성 극대화

성능을 개선하고, 가용성을 유지하고, 비용을 제어하기 위해 로컬 및 타사 언어 모델의 트래픽을 라우팅하고 요금을 제한합니다.

AI Gateway는 AI 앱을 보호하고 최적화합니다.

AI 게이트웨이 다이어그램

Gateway는 AI 앱을 보호하고 최적화합니다.

AI Gateway는 이식 가능한 마이크로서비스 아키텍처를 기반으로 구축되어 AI 애플리케이션을 구축하는 곳 어디에나 배포할 수 있으며, 타협 없는 관찰성, 보안 및 최적화를 제공합니다. 통합된 OpenTelemetry 지원은 모든 수신 프롬프트와 발신 답변에 대한 가시성을 제공하여 규정 준수 노력을 보다 쉽게 제어하고 지원할 수 있습니다.

Azure, AWS, Google Cloud Platform에서 호스팅되는 AI SLM 및 LLM 애플리케이션 워크로드를 관찰하고 보호하세요. NGINX One과 통합됩니다.

NGINX One 및 BIG-IP를 통한 ADC 서비스로 데이터 센터 사이트에서 AI SLM 및 LLM 애플리케이션 워크로드를 모니터링하고 보안하세요.

NGINX One 및 BIG-IP를 통해 ADC 서비스를 이용해 프라이빗 클라우드나 콜로케이션 시설에 호스팅된 AI SLM 및 LLM 앱 워크로드를 보호하고 관찰하세요.

핵심 역량

OWASP LLM Top 10에 나열된 위험과 규정 준수 요구 사항을 자동으로 식별하고 수정하여 인바운드 프롬프트와 아웃바운드 응답 모두에 대한 위험을 감지하고 완화합니다.

AI 앱에 대한 모든 인바운드 및 아웃바운드 트래픽 검사

기업 자산 또는 고객 PII 데이터를 보호합니다.

인증, 권한 부여 및 역할 기반 액세스 제어

OpenAI, Anthropic, Ollama 등에 연결하고 라우팅합니다.

F5 AI Gateway에서 SIEM/SOAR 애플리케이션으로 OpenTelemetry 데이터를 자동으로 내보내 메트릭과 추적 정보를 수집합니다.

의미 캐싱은 SLM 및 LLM에서 중복 작업을 오프로드하여 토큰 소비를 줄이고 사용자 경험을 개선합니다.

플랫폼 지원 및 통합

플랫폼 및 클라우드 공급자 지원

AI 앱에 대한 확장 가능한 액세스를 위해 주요 클라우드 플랫폼에 배포

대규모 언어 모델 지원

AI Gateway는 애플리케이션 상호작용을 보호하기 위해 선도적인 AI 모델 플랫폼을 지원합니다.

관찰 가능성

가시성 및 보고를 위한 OpenTelemetry 지원

자원