F5 AI 게이트웨이: AI 보안 및 제공의 고유한 과제 해결

작년에 우리는 생성적 AI에 대해 많은 것을 배웠습니다. 특히, 배포 패턴에 대한 모범 사례가 구체화되고, AI 팩토리가 새로운 데이터 센터 빌딩 블록이 되었으며, AI 모델과 애플리케이션의 제공 및 보안에 대한 우려가 대두되는 것을 보았습니다. 

AI 애플리케이션이 "최신 애플리케이션 중 가장 현대적"이며 API에 크게 의존한다는 것은 사실이지만, AI 애플리케이션은 보안, 모니터링 및 제공과 관련하여 고유한 과제를 가져온다는 것도 사실입니다. 

중요한 과제 중 하나는 AI 애플리케이션의 비결정적 특성으로 인해 발생합니다. 즉, 들어오는 입력과 나가는 응답은 매우 다양하며 시간이 지남에 따라 진화합니다. AI 애플리케이션은 여러 위치에 걸쳐 있는 구조화된 소스와 구조화되지 않은 소스에서 데이터를 가져올 수도 있습니다. 실제로 우리가 시장을 조사한 결과, AI를 위한 퍼블릭 클라우드, 온프레미스, 하이브리드 배포 계획이 다양하게 혼합되어 있는 것을 발견했을 때 놀랄 일이 아니었습니다. 

구조화되지 않고 예측할 수 없는 입출력의 문제점은 요청이나 응답에 민감하거나 잘못된 정보가 포함되어 있는지 여부를 판단하는 것이 본질적으로 어렵다는 것입니다. API 보안과 웹 애플리케이션 방화벽은 종종 이러한 목적으로 사용되지만, 결정적 콘텐츠에 대해 작동합니다. 즉, 요청과 응답의 형식과 내용을 파악하므로 악성 또는 민감한 콘텐츠를 더 쉽게 감지할 수 있습니다. AI는 API와 웹 애플리케이션과 동일한 구조를 활용하지만 콘텐츠의 가변성이 매우 높아 요청과 응답을 스캔하거나 삭제하는 정책을 만들기 어렵습니다.

그 도전에는 또 다른 것이 내포되어 있습니다. AI 트래픽은 양방향으로 모니터링되어야 합니다. 특히 ChatGPT, Azure, Google, Hugging Face 등 상당수의 조직이 AI를 서비스로 활용할 계획이라는 점을 감안하면 이는 더욱 그렇습니다.