F5와 Red Hat, AI 보안 및 모니터링 플랫폼 제공

Red Hat과 F5는 오랜 기술 파트너십의 역사를 가지고 있으며 , F5 AI Gateway 와 Red Hat OpenShift AI를 통합하여 협력을 확대하고 있습니다. 이를 통해 고객이 하이브리드 멀티클라우드 환경에서 AI 기반 애플리케이션을 보호, 관리 및 확장할 수 있도록 지원합니다. 

F5 AI Gateway는 애플리케이션, API, LLM 간의 상호작용을 관리하여 AI 기반 애플리케이션의 배포를 간소화하고 보호하도록 설계된 컨테이너화된 솔루션으로, AI 앱의 고성능, 강력한 보안, 최적의 사용성을 보장합니다. Red Hat OpenShift AI는 AI 지원 애플리케이션을 구축, 배포 및 관리하고 전체 AI 라이프사이클을 간소화하는 도구를 갖춘 선도적인 AI 애플리케이션 개발 플랫폼입니다. Red Had OpenShift AI는 혁신을 가속화하고, 거버넌스를 촉진하며, 협업을 장려합니다. 이는 엔터프라이즈급 AI 솔루션을 제공하는 데 중요한 요소입니다.

F5와 Red Hat의 공동 솔루션은 배포 위치에 관계없이 AI 기반 앱을 보호하고 관리하기 위한 강력하고 통합된 기반을 제공하며, AI 서비스 사용자와 공급자를 모두 보호하는 확장 가능한 보안을 제공하고 보안 및 운영 팀에 AI 서비스를 도입할 수 있는 원활한 경로를 제공합니다.

AI 애플리케이션은 보안, 모니터링, 앱 제공에 대한 기존 접근 방식을 뛰어넘는 고유한 관리 과제를 야기합니다 . 이러한 접근 방식은 프로세스와 결과가 예측 가능하거나 반복 가능하며 요청 및 응답의 형식과 구조가 잘 이해되는 결정론적 워크플로에 맞춰져 있습니다. 이러한 경우, 기존 API 보안 솔루션과 웹 애플리케이션 방화벽을 사용하여 악성 또는 민감한 콘텐츠를 감지하거나 예상치 못한 결과를 모니터링할 수 있습니다.

그러나 동적이고 대화형 AI 워크플로는 결정적이지 않습니다. AI 추론 중에 들어오는 입력과 나가는 응답은 시간이 지남에 따라 크게 달라질 수 있으며 진화할 수 있습니다. 무작위성이나 확률적 고려 사항으로 인해 동일한 입력에 대해 다른 출력이 생성될 수 있습니다. AI 애플리케이션은 퍼블릭 클라우드, 온프레미스, 하이브리드 배포를 포함한 여러 위치에서 데이터를 가져올 수도 있습니다. 

이러한 단편화되고, 구조화되지 않았으며, 예측할 수 없는 입력과 출력은 AI 워크플로의 기본이지만, 이러한 인바운드 및 아웃바운드 상호 작용의 예측 불가능한 특성으로 인해 이러한 비결정적 AI 트래픽을 양방향으로 모니터링하는 것이 필요합니다. 모델에 입력되는 내용은 면밀히 조사해야 합니다. 입력 내용에 악의적인 메시지를 삽입하여 모델의 동작을 조작하려는 시도가 있을 수 있고, 처리 또는 저장되어서는 안 되는 기밀 또는 민감한 데이터가 포함될 수 있기 때문입니다. LLM과 생성 모델은 민감한 정보를 유출하거나 부적절하거나 편향적이거나 유해한 콘텐츠를 생성할 수 있으므로 아웃바운드 응답도 모니터링해야 합니다.

F5 AI Gateway는 기존 웹 애플리케이션 및 API 보호(WAAP) 도구를 대체하는 것이 아니라 보완합니다. OpenTelemetry 지원을 통합하여 이중 방향 보호 및 관찰 기능을 제공함으로써 조직이 AI 애플리케이션을 자신 있게 배포하고 보안 및 규정 준수 정책을 시행할 수 있도록 지원합니다. AI Gateway는 모든 환경에서 인바운드 프롬프트와 아웃바운드 응답을 검사하여 즉각적인 주입과 민감한 정보 공개 또는 중요 데이터 유출을 방지합니다.