F5와 Intel을 사용하여 지능형 앱을 위한 AI 모델 배포, 보안 및 최적화

새로운 세대의 지능형 앱은 데이터 입력을 기반으로 하는 AI 자동화를 사용합니다. 예를 들어, 심각한 기상 조건을 모니터링하는 보험 앱이 있고, 머신 러닝을 사용하여 사용자 경험을 조정하고 개선할 수도 있습니다. 가트너는 2026년까지 신규 애플리케이션의 30%가 AI를 사용하여 개인화된 적응형 사용자 인터페이스를 구현할 것으로 추정하는데, 이는 현재 5% 미만에서 증가한 수치입니다.² 

하지만 많은 조직은 필요한 AI 모델을 구축하거나 활용할 기술이 부족합니다. 세계경제포럼 조사에 따르면, 임원들은 전체 인력의 최대 40%가 AI와 효과적으로 협력하기 위해 새로운 기술을 습득해야 할 것으로 추정합니다.³ 이에 따라 개발자가 최소한의 코드로 AI 모델을 활용할 수 있도록 하는 새로운 솔루션이 등장하고 있습니다.

AI 모델에는 상당한 컴퓨팅 성능이 필요하므로 한계가 생길 수 있습니다. AI 모델을 입력 소스에 가깝게 배치하면 추론 지연 시간은 줄어들지만, 에지 위치에서는 허용 가능한 AI 성능에 필요한 리소스가 부족한 경우가 많습니다.

개발자의 사용 편의성과 리소스 최적화를 해결하기 위해 Intel은 AI 추론을 가속화하는 동시에 더 작은 공간과 "한 번 작성하고 어디에나 배포"하는 접근 방식을 제공하는 오픈소스 툴킷인 OpenVINO를 개발했습니다. 프로그래머는 비교적 적은 양의 코드로 확장 가능하고 효율적인 AI 솔루션을 개발할 수 있습니다. OpenVINO는 AI 모델을 변환하고 최적화하여 데이터 센터, 클라우드 또는 엣지에서 실행할 수도 있습니다.

OpenVINO는 AI 추론과 같은 실제 시나리오에서 AI에 대한 접근성을 높이지만 애플리케이션과 마찬가지로 보안 및 전달 기능이 필요합니다. OpenVINO 배포는 수백 또는 수천 개의 컨테이너 기반 모델 서버로 구성될 수 있습니다. 사용자나 애플리케이션에 추론 결과를 안정적으로 제공하려면 서버 상태를 모니터링하고 트래픽을 관리할 수 있는 방법이 필요합니다. F5 NGINX Plus는 OpenVINO 모델 서버를 보호할 수 있습니다.

OpenVINO와 함께 오픈 소스 버전의 NGINX를 사용하는 것도 가능하지만, NGINX Plus를 사용하면 고가용성, 활성 상태 검사, 수상 경력에 빛나는 지원과 같은 귀중한 기능이 추가됩니다. NGINX Plus는 또한 로드 밸런싱 및 SSL 종료 기능을 제공하므로 앱과 사용자가 OpenVINO 모델 서버에 안정적이고 안전하게 연결할 수 있습니다.

가용성을 향상시키기 위해 NGINX Plus를 액티브-패시브 쌍으로 배포할 수 있습니다. 이를 통해 기본 서버가 트래픽을 적극적으로 처리하는 동안 백업 서버가 상태를 모니터링하고 문제 발생 시 작업을 인계받아 고가용성 솔루션이 구축됩니다. 콘텐츠 캐싱과 SSL 종료는 OpenVINO 모델 서버의 부하를 줄여 성능을 향상시킵니다.

NGINX Plus의 활성 상태 검사는 모델 서버를 모니터링하여 트래픽이 사용 가능한 서버로만 전송되는지 확인합니다. mTLS 인증서를 사용하여 수신 암호화 트래픽을 보호하고 검증하며, 분석과 대시보드를 사용하여 서버 문제를 예측하거나 해결합니다. NGINX Plus는 가벼운 특성을 지니고 있으며, 설치, 배포, 디버깅에 대한 최고 수준의 지원을 제공하므로 AI 기반 애플리케이션 요구 사항에 맞게 쉽게 도입할 수 있습니다.