조직의 관찰성, AI 보안 및 비용 절감을 통해 어디서나 AI 애플리케이션을 배포하세요.
F5 AI Gateway를 사용하면 조직이 어디서나 자신 있게 AI 애플리케이션을 배포할 수 있습니다. AI 구현의 보안, 확장성 및 안정성을 쉽게 보장하세요. AI Gateway는 예상치 못한 결과나 중요한 데이터 유출을 방지하기 위해 인바운드 프롬프트와 아웃바운드 응답을 검사합니다. AI 상호작용에 대한 사용자 정의 가능한 관찰, 보호 및 관리를 통해 AI 애플리케이션의 유용성을 개선하고 규정 준수를 간소화할 수 있습니다.
성능을 개선하고, 가용성을 유지하고, 비용을 제어하기 위해 로컬 및 타사 언어 모델의 트래픽을 라우팅하고 요금을 제한합니다.
AI Gateway는 이식 가능한 마이크로서비스 아키텍처를 기반으로 구축되어 AI 애플리케이션을 구축하는 곳 어디에나 배포할 수 있으며, 타협 없는 관찰성, 보안 및 최적화를 제공합니다. 통합된 OpenTelemetry 지원은 모든 수신 프롬프트와 발신 답변에 대한 가시성을 제공하여 규정 준수 노력을 보다 쉽게 제어하고 지원할 수 있습니다.
Azure, AWS, Google Cloud Platform에서 호스팅되는 AI SLM 및 LLM 애플리케이션 워크로드를 관찰하고 보호하세요. NGINX One과 통합됩니다.
NGINX One 및 BIG-IP를 통한 ADC 서비스로 데이터 센터 사이트에서 AI SLM 및 LLM 애플리케이션 워크로드를 모니터링하고 보안하세요.
NGINX One 및 BIG-IP를 통해 ADC 서비스를 이용해 프라이빗 클라우드나 콜로케이션 시설에 호스팅된 AI SLM 및 LLM 앱 워크로드를 보호하고 관찰하세요.
OWASP LLM Top 10에 나열된 위험과 규정 준수 요구 사항을 자동으로 식별하고 수정하여 인바운드 프롬프트와 아웃바운드 응답 모두에 대한 위험을 감지하고 완화합니다.
AI 앱에 대한 모든 인바운드 및 아웃바운드 트래픽 검사
기업 자산 또는 고객 PII 데이터를 보호합니다.
인증, 권한 부여 및 역할 기반 액세스 제어
OpenAI, Anthropic, Ollama 등에 연결하고 라우팅합니다.
F5 AI Gateway에서 SIEM/SOAR 애플리케이션으로 OpenTelemetry 데이터를 자동으로 내보내 메트릭과 추적 정보를 수집합니다.
의미 캐싱은 SLM 및 LLM에서 중복 작업을 오프로드하여 토큰 소비를 줄이고 사용자 경험을 개선합니다.