AI 기반 앱이 점점 보편화되고 있으며 사용자 수도 크게 증가하고 있습니다. 2023년 데이터를 분석한 결과, 새로운 모바일 앱 다운로드는 전년 대비 1%만 증가한 반면, 기능 세트에 AI를 통합한 상위 20개 앱은 평균 11%의 성장을 보였습니다.1 그러나 이러한 앱을 구동하는 AI 모델을 쉽게 배포하고 보안을 강화하는 것은 개발자와 IT 팀에게 장벽이 될 수 있습니다.
새로운 세대의 지능형 앱은 데이터 입력을 기반으로 하는 AI 자동화를 사용합니다. 예를 들어, 심각한 기상 조건을 모니터링하는 보험 앱이 있고, 머신 러닝을 사용하여 사용자 경험을 조정하고 개선할 수도 있습니다. 가트너는 2026년까지 신규 애플리케이션의 30%가 AI를 사용하여 개인화된 적응형 사용자 인터페이스를 구현할 것으로 추정하는데, 이는 현재 5% 미만에서 증가한 수치입니다.2
하지만 많은 조직은 필요한 AI 모델을 구축하거나 활용할 기술이 부족합니다. 세계경제포럼 조사에 따르면, 임원들은 전체 인력의 최대 40%가 AI와 효과적으로 협력하기 위해 새로운 기술을 습득해야 할 것으로 추정합니다.3 이에 따라 개발자가 최소한의 코드로 AI 모델을 활용할 수 있도록 하는 새로운 솔루션이 등장하고 있습니다.
AI 모델에는 상당한 컴퓨팅 성능이 필요하므로 한계가 생길 수 있습니다. AI 모델을 입력 소스에 가깝게 배치하면 추론 지연 시간은 줄어들지만, 에지 위치에서는 허용 가능한 AI 성능에 필요한 리소스가 부족한 경우가 많습니다.
개발자의 사용 편의성과 리소스 최적화를 해결하기 위해 Intel은 AI 추론을 가속화하는 동시에 더 작은 공간과 "한 번 작성하고 어디에나 배포"하는 접근 방식을 제공하는 오픈소스 툴킷인 OpenVINO를 개발했습니다. 프로그래머는 비교적 적은 양의 코드로 확장 가능하고 효율적인 AI 솔루션을 개발할 수 있습니다. OpenVINO는 AI 모델을 변환하고 최적화하여 데이터 센터, 클라우드 또는 엣지에서 실행할 수도 있습니다.
OpenVINO는 AI 추론과 같은 실제 시나리오에서 AI에 대한 접근성을 높이지만 애플리케이션과 마찬가지로 보안 및 전달 기능이 필요합니다. OpenVINO 배포는 수백 또는 수천 개의 컨테이너 기반 모델 서버로 구성될 수 있습니다. 사용자나 애플리케이션에 추론 결과를 안정적으로 제공하려면 서버 상태를 모니터링하고 트래픽을 관리할 수 있는 방법이 필요합니다. F5 NGINX Plus는 OpenVINO 모델 서버를 보호할 수 있습니다.
OpenVINO와 함께 오픈 소스 버전의 NGINX를 사용하는 것도 가능하지만, NGINX Plus를 사용하면 고가용성, 활성 상태 검사, 수상 경력에 빛나는 지원과 같은 귀중한 기능이 추가됩니다. NGINX Plus는 또한 로드 밸런싱 및 SSL 종료 기능을 제공하므로 앱과 사용자가 OpenVINO 모델 서버에 안정적이고 안전하게 연결할 수 있습니다.
가용성을 향상시키기 위해 NGINX Plus를 액티브-패시브 쌍으로 배포할 수 있습니다. 이를 통해 기본 서버가 트래픽을 적극적으로 처리하는 동안 백업 서버가 상태를 모니터링하고 문제 발생 시 작업을 인계받아 고가용성 솔루션이 구축됩니다. 콘텐츠 캐싱과 SSL 종료는 OpenVINO 모델 서버의 부하를 줄여 성능을 향상시킵니다.
NGINX Plus의 활성 상태 검사는 모델 서버를 모니터링하여 트래픽이 사용 가능한 서버로만 전송되는지 확인합니다. mTLS 인증서를 사용하여 수신 암호화 트래픽을 보호하고 검증하며, 분석과 대시보드를 사용하여 서버 문제를 예측하거나 해결합니다. NGINX Plus는 가벼운 특성을 지니고 있으며, 설치, 배포, 디버깅에 대한 최고 수준의 지원을 제공하므로 AI 기반 애플리케이션 요구 사항에 맞게 쉽게 도입할 수 있습니다.
NGINX Plus와 OpenVINO를 결합하면 안전하고 일관된 방식으로 어디서나 앱에 AI를 쉽게 추가할 수 있습니다. 가용성과 성능을 유지하면서 데이터 센터, 클라우드 또는 엣지 사이트에 쉽게 배포할 수 있습니다.
OpenVINO와 함께 NGINX Plus를 사용하는 것은 F5와 Intel 간의 지속적인 협력의 일부일 뿐입니다. f5.com/intel 에서 파트너십에 대해 자세히 알아보세요.
1. Data.ai, 모바일 현황 2024 , 2024년 1월
2. Gartner, AI로 구동되는 지능형 애플리케이션에 대한 수요 증가 , 9월 2023
3. 세계경제포럼, AI의 힘을 활용하기 위해 기술 격차를 해소해야 하는 이유 , 2024년 1월