F5 및 Red Hat 에코시스템으로 RAG 과제 해결

Frank Strobel기술 제휴 담당 수석 이사 | F5

생성형 AI가 생산성을 높이고 비즈니스 역량을 강화할 것이라는 기대는 다양한 업계의 비즈니스 리더들의 관심을 사로잡았습니다. F5의 「2025년 애플리케이션 전략 현황 보고서」에 따르면, 사실상 모든 응답자(99%)가 AI를 단순히 의사결정 지원에 활용하는 데 그치지 않고 최소 하나의 운영 기능을 자동화하는 데 사용하는 것에도 거부감이 없다고 답했습니다.

F5의 최고혁신책임자(CIO)인 쿠날 아난드는 “전 세계의 조직들은 업무 방식과 혁신 방식, 고객과 소통하는 방식을 혁신하기 위해 생성형 AI와 기타 신기술을 빠르게 도입하고 있습니다”라고 말했습니다.

그러나 기성 대규모 언어 모델(LLM)을 기반으로 하는 일반적인 생성형 AI 모델은 최신 정보와 맥락적 지능이 부족한 경우가 많아, 실시간 데이터 접근, 도메인별 전문성, 정확한 의사 결정이 성공의 핵심인 오늘날의 역동적인 비즈니스 환경에서 전략적이고 신뢰할 수 있는 역할을 수행하기 어렵습니다.

생성형 AI 애플리케이션을 보다 최신의 정확한 도메인별 정보 소스와 통합하려는 조직들은 검색 기반 접근 방식과 생성형 접근 방식을 결합하여 AI가 생성하는 응답의 품질과 정확성을 높이는 AI 프레임워크인 검색 증강 생성(RAG)을 도입하고 있습니다.

엔터프라이즈 AI는 팀 스포츠입니다

엔터프라이즈 AI 인프라에 RAG를 성공적으로 구현하는 일은 단순히 연결만 하면 바로 사용할 수 있는 작업이 아닙니다. RAG를 구현하려면 여러 기술 구성 요소와 기술을 유기적으로 조율해야 하며, 이는 엔터프라이즈 AI 솔루션이 성공하려면 기술 제공업체, 인프라 파트너, 채널 파트너로 구성된 개방적이고 협력적인 생태계가 필요하다는 점을 잘 보여주는 사례입니다.

RAG를 배포하려면 데이터 스토리지, 컨테이너 플랫폼, LLM, 트래픽 관리 도구, API, 백엔드 인프라 등의 공급업체를 비롯한 여러 벤더가 참여해야 합니다. 엔터프라이즈 AI는 진정한 팀 스포츠이며, F5는 고객이 대규모로 AI를 활용할 수 있도록 하려면 많은 주체가 힘을 모아야 한다는 점을 잘 알고 있습니다. 성공하려면 기술 제공업체가 참여하는 협업 네트워크의 역량을 바탕으로 최고 수준의 구성 요소와 소프트웨어를 제공하고, 채널 파트너를 통해 도구를 비즈니스 성과로 전환하며, AI를 제품이 아닌 솔루션 생태계로 바라보는 사고방식이 필요합니다.

AI를 위한 탁월한 기반

F5와 Red Hat OpenShift AI는 LLM에 RAG를 배포하기 위한 강력하고 통합된 기반을 제공하며, 여러 소스의 데이터를 생성형 AI 시스템에 통합할 때 발생하는 중대한 보안 및 트래픽 관리의 복잡성을 해결합니다. Red Hat과 F5는 오랜 기술 파트너십의 역사를 이어 왔으며, 양사의 현재 협력은 기존 LLM에 RAG를 통합하는 것을 비롯한 AI 기반 이니셔티브를 위해 강력하고 안전하며 확장 가능한 플랫폼을 제공합니다.

F5와 Red Hat은 검증된 선도 기업입니다. F5는 ‘가장 주목받는 AI 기업’ 25곳 중 하나로 선정되었습니다 CRN은 F5를 ‘데이터 센터 및 엣지 분야에서 가장 주목받는 AI 기업’으로 선정하며, F5의 ‘올인원 애플리케이션 제공 및 보안 플랫폼이 … 기업의 멀티클라우드 네트워킹, AI 및 API 보안 요구 사항 해결을 지원한다’고 평가했습니다. Red Hat은 Dataquest로부터 오픈 소스 엔터프라이즈 솔루션 분야의 선도 기업으로 인정받았으며, Dataquest는 Red Hat의 ‘오픈 소스 혁신이 엔터프라이즈 IT의 다음 시대를 열어갈 것’이라고 밝혔습니다.

F5의 고급 보안 및 트래픽 관리 기술과 고급 AI 애플리케이션 개발 플랫폼인 Red Hat OpenShift AI의 결합은 AI 기반 이니셔티브를 위한 더욱 안전하고 확장 가능한 구조를 구축하는 데 도움이 됩니다. 조직은 진화하는 사이버 위협으로부터 보호받고 최신 AI 워크로드의 까다로운 요구 사항을 충족할 수 있다는 확신을 바탕으로 AI 애플리케이션을 배포할 수 있습니다.

Red Hat과 F5 및 양사의 기술 파트너 에코시스템은 복잡한 하이브리드 환경에서 고객이 애플리케이션과 API를 연결하고 보호할 수 있도록 지속적으로 협력할 것입니다. 조직이 AI의 잠재력을 모색하는 과정에서 Red Hat과 F5 같은 신뢰할 수 있는 공급업체는 일관된 통합 플랫폼을 제공하여 AI 환경을 관리하기 쉽고 비용 효율적이며 안전하게 유지하고, 혁신과 보안이 조화를 이루는 환경을 조성할 수 있습니다.

기존 LLM에 RAG를 통합할 때의 과제

RAG는 엔터프라이즈급 생성형 AI 애플리케이션에 점점 더 필수적인 요소가 되고 있으며, RAG 시장은 상당한 성장을 이룰 것으로 전망됩니다 향후 몇 년간 2024년부터 2030년까지 연평균 성장률(CAGR) 44.7%를 기록해 2030년에는 110억 3천만 달러 규모에 이를 가능성이 있습니다.

RAG는 생성형 AI 애플리케이션의 출력 품질을 크게 향상시킬 수 있지만, RAG의 추가 데이터 구성 요소가 여러 디지털 환경과 외부 지식 베이스에 분산되어 있어 시스템 복잡성과 보안 위험이 크게 증가하므로 LLM에 RAG를 도입하는 과정은 간단하지 않습니다. 검색 요청과 증강된 데이터 응답을 전달하는 데 필요한 네트워크 연결은 보안 및 데이터 유출 위험을 초래하므로, 민감한 데이터를 보호하기 위해 엄격한 액세스 제어와 암호화 메커니즘이 필요합니다.

Red Hat OpenShift AI와 F5 Distributed Cloud Services 및 F5 BIG-IP Next for Kubernetes 통합은 다양한 RAG 사용 사례를 지원하고 보호하기 위한 고급 보안 및 트래픽 관리 기술을 제공하는 핵심 서비스 세트를 제공합니다.

Distributed Cloud Services는 고객이 데이터 센터, 멀티 클라우드 환경, 네트워크 또는 엔터프라이즈 엣지 등 필요한 모든 곳의 클라우드 네이티브 환경에서 애플리케이션을 배포하고 보호하며 운영할 수 있도록 지원하는 SaaS 기반 보안, 네트워킹 및 애플리케이션 관리 서비스입니다.

또한 BIG-IP Next for Kubernetes는 AI 처리 클러스터 전반의 트래픽 관리 및 분산을 최적화하여 RAG 기반 워크로드를 지원하는 확장 가능하고 효율적인 API 통신을 보장하고, 성능 저하 없이 안정적인 고성능 데이터 흐름을 제공합니다.

Meta가 최근 발표한 Llama 4 LLM 제품군에서 Llama 4 Scout가 1,000만 토큰의 컨텍스트 윈도우를 지원함에 따라, 이처럼 방대한 컨텍스트 윈도우가 머지않아 RAG를 쓸모없게 만들 수 있다는 의견이 제기되었습니다. 그러나 Llama 4 LLM은 사전 학습된 독립형 모델로, 해당 기능을 명시적으로 지원하도록 설계되지 않는 한 외부 또는 비공개 데이터에 실시간으로 액세스할 수 없습니다. 반면 RAG를 사용하면 모델이 방대한 데이터 저장소에서 가장 최신이면서 관련성이 높은 정보를 실시간으로 가져와 활용할 수 있으므로, AI가 정확하고 맥락에 부합하는 결과를 생성할 수 있습니다. F5는 RAG가 앞으로도 생성형 AI의 기반 메커니즘으로 자리할 것이라고 봅니다. RAG가 AI 워크플로의 역동적이고 상호작용적인 특성을 더 효과적으로 수용하기 때문입니다.

RAG 워크로드 보호를 위한 F5와 Red Hat의 공동 플랫폼

Red Hat OpenShift AI에 Distributed Cloud Services와 BIG-IP Next for Kubernetes를 배포하면 RAG 워크로드를 보호하는 강력한 보안 솔루션을 구축할 수 있습니다. F5와 Red Hat의 공동 플랫폼은 RAG의 안정성과 확장성을 향상시키며, 정확도와 관련성을 높여 더 나은 결과와 사용자 경험을 제공하는 RAG 기반 생성형 AI 솔루션을 위한 관리하기 쉬운 기반을 제공합니다.

자세한 내용은 솔루션 개요를 참조하세요. 또한 올해 Red Hat Summit에 참석할 예정이라면 F5 세션에 참석해 주세요.

작성자 소개

Frank Strobel기술 제휴 담당 수석 이사 | F5

Frank Strobel의 다른 블로그 게시물