블로그

멀티클라우드 확장성 및 유연성으로 AI 팩토리 지원

부우 램 썸네일
부우 람
2024년 11월 11일 게시
오브리 킹 썸네일
오브리 킹
2024년 11월 11일 게시

F5의 AI 팩토리 시리즈를 통해 AI 팩토리를 소개하고 정의했으며, 팩토리의 요소와 애플리케이션 제공 및 보안 선택이 성능에 어떤 영향을 미치는지 살펴보았습니다. 이 시리즈의 5번째 기사에서는 멀티클라우드 네트워킹이 AI 팩토리 에 대한 추론을 제공하고 데이터 이동을 지원하는 데 있어서 중요한 역할을 하는 데 대해 살펴봅니다. F5는 이를 대용량, 고성능 학습 및 추론 요구 사항을 처리하는 방대한 스토리지, 네트워킹 및 컴퓨팅 투자로 정의합니다.

F5의 AI 참조 아키텍처 다이어그램

분산 아키텍처 탐색: 위치가 워크로드 성능에 영향을 미침

분산된 상호 연결 지점은 AI 팩토리의 핵심이며 스토리지, 네트워킹, 컴퓨팅 인프라의 운영을 주도합니다. 기업이 AI 팩토리를 설계할 때 많은 서비스가 물리적으로 동일한 데이터 센터 내부나 인근에 위치하게 될 가능성이 높습니다. 그러나 지리적으로 분산되어 있는 서비스도 있습니다. 프런트엔드 애플리케이션, 추론 서비스, 필수 모델 등의 서비스는 소비되어야 하는 곳 근처에 설계되면 최상의 성능을 제공합니다. 또한 설계상 RAG가 필요한 경우 RAG(Retrieval-Augmented Generation) 지식 코퍼스 데이터가 사용될 수 있지만 지금은 프런트 엔드, 추론 서비스 및 모델 배포에 집중할 것입니다.

ai-팩토리-내-f5-ai-참조-아키텍처

추론 서비스 및 프런트엔드 애플리케이션

Google이 전 세계 주요 기업의 185개 실제 생성 AI 활용 사례를 나열한 목록 에 따르면, 이러한 기업 중 다수가 전략적 위치에 의존하여 글로벌 고객에게 AI 워크로드를 제공하는 것으로 나타났습니다. 최종 사용자 경험을 생각할 때 AI 팩토리의 분산 아키텍처에 초점을 맞추고 이를 큐레이션해야 합니다. F5의 2024년 애플리케이션 전략 보고서 에 따르면, 조직의 88%가 하이브리드 클라우드 모델로 운영하고 있는 것으로 나타났습니다. 또한 응답자의 94%가 멀티클라우드 문제를 경험한 것으로 보고되었습니다.

다중 계층 보안: 소프트웨어 정의 네트워크(SDN)에서 얻은 교훈

그렇다면 AI 팩토리와 추론이 사용되는 인스턴스 사이에서 안전하고 최적화된 통신을 구현하는 가장 좋은 방법은 무엇일까요? 답은 네트워킹에 있습니다. 그 이유를 이해하기 위해 서비스 제공자 세계 외부에서는 대부분 간과되었던 업계 유행어인 소프트웨어 정의 네트워크(SDN)를 살펴보겠습니다. SDN은 4G 및 5G와 같은 3GPP 아키텍처의 보안에 매우 중요합니다. 3GPP 아키텍처의 보안 성공은 엄격한 애플리케이션 격리 준수에 기인합니다.

SDN은 트래픽이 소프트웨어로 정의한 결정적 라우팅 인프라를 통해 검증되고 처리되지 않는 한 해당 트래픽이 애플리케이션으로 라우팅될 수 없도록 하는 2계층과 3계층 제로 트러스트 원칙을 구현하여 강력한 솔루션을 제공합니다. 이를 통해 애플리케이션의 각 구성 요소를 로컬 및 글로벌하게 독립적으로 확장하여 최적의 성능과 보안을 달성할 수 있습니다. 또한 SDN은 IP 주소가 아닌 이름으로 애플리케이션 트래픽을 라우팅하여 IP 주소 중복과 같은 문제를 완화하고 다양한 지역과 환경에 걸쳐 애플리케이션과 보안 솔루션을 원활하게 확장할 수 있습니다. SDN 내의 명시적 라우팅과 터널링은 잠재적인 공격에 대한 강력한 방어 수단을 제공합니다. 무단 액세스에는 SDN 내의 리소스 소유권과 엄격한 통신 프로토콜 준수가 필요하기 때문입니다.

대형 1계층 통신사는 이러한 원칙의 효과를 대규모로 입증해 왔으며, AI 팩토리를 위한 멀티클라우드 네트워킹(MCN)에서 더 큰 작업 부하에 이를 적용하는 것이 합리적입니다.

AI 규모에서 연결을 보호하는 방법

쉬운 것 같죠? 여러분이 이 글을 읽고 있는 스마트폰에는 GPU, 5G 연결, 암호가 있을 가능성이 큽니다. 개인 보안 서비스를 이용하는 게 나을 것 같죠? 글쎄요, 그렇지 않아요. 지금은 세 가지 사항을 살펴보겠습니다. 하지만 이것들은 시작일 뿐이며 AI 팩토리에 대한 위협 환경을 설계하고 모델링함에 따라 더 많은 것이 발견될 것입니다.

먼저 속도에 대해 이야기해 보겠습니다. 생성 AI가 2022년 후반에 ChatGPT를 통해 처음 선보였을 당시 우리는 텍스트 데이터에 집중했습니다. 그러나 2024년에는 전문 분야에 따라 이미지, 비디오, 텍스트, 데이터 등 다른 모달리티를 흐름 및 애플리케이션 계층 모델에 혼합하여 사용하는 사례가 점점 더 많아질 것입니다. 분산형 AI 팩토리 아키텍처에서는 모든 모델을 모든 곳에 배포하는 것이 바람직하지 않거나 실행 가능하지 않을 수 있습니다. 이는 데이터 중력, 전력 중력 또는 컴퓨팅 요구 사항과 같은 요소에 따라 달라질 수 있습니다. 여기서는 종속 서비스를 서로 멀리 옮길 때 발생하는 성능 문제를 완화하고 격차를 메우기 위해 고속 네트워크 상호연결을 선택할 수 있습니다.

또한 대규모 언어 모델(LLM)과 생성 AI 앱에 대한 OWASP 상위 10대 위험 중 하나인 모델 도용에 대해서도 살펴보겠습니다. 경쟁 우위를 확보하기 위해 생성적 AI를 활용하려는 모든 기업은 자사의 지적 재산을 시스템에 통합할 것입니다. 이는 기업 데이터로 자체 모델을 훈련하거나 모델을 미세 조정하는 것을 통해 이루어질 수 있습니다. 이러한 시나리오에서 다른 비즈니스 시스템과 마찬가지로 AI 팩토리는 보호해야 하는 모델을 통해 가치를 창출합니다. 분산 아키텍처에서 모델 도용을 방지하려면 해당 모델, 모델 업데이트, 애플리케이션이 액세스해야 하는 데이터 소스가 암호화되고 액세스 제어가 적용되었는지 확인해야 합니다.

마지막으로 LLM 및 생성 AI 앱을 위한 OWASP Top 10에 있는 모델 서비스 거부를 고려해 보겠습니다. AI 애플리케이션에 대한 신뢰가 높아짐에 따라 중요한 시스템에서의 사용이 늘어납니다. 이는 기업의 수익을 크게 늘리는 시스템이든 의료와 같이 생명 유지에 중요한 시스템이든 마찬가지입니다. 프런트 엔드와 추론에 접근할 수 있는 기능은 가능한 모든 침입 경로를 회복성 있고, 통제 가능하며, 보안이 유지되도록 설계되어야 합니다. 이러한 액세스 시나리오는 최종 사용자 액세스뿐 아니라 추론 서비스에서 핵심 AI 팩토리로의 액세스에도 적용될 수 있습니다.

내장된 가시성, 오케스트레이션 및 암호화

안전한 멀티클라우드 네트워킹 솔루션은 AI 팩토리 아키텍처의 분산형 측면을 설계하는 데 필요한 연결성, 보안 및 가시성을 제공합니다. F5 분산 클라우드 네트워크 연결은 위에 나열된 모든 것과 그 이상을 해결합니다. Distributed Cloud Network Connect는 퍼블릭 클라우드, 자체 또는 공동 배치된 데이터 센터에서 추론을 실행하거나 선택한 하드웨어의 에지에서 추론을 실행하든 관계없이 보편적인 연결을 가능하게 하는 고유한 고객 에지 솔루션을 제공합니다. 간단하고 빠르게 배포하면 고객 엣지가 스스로 연결을 구축합니다.

  • 빠른 속도로 연결 : F5 분산 클라우드 서비스는 전 세계에서 가장 높은 피어링 네트워크 중 하나인 글로벌 고속 상호 연결 네트워크를 기반으로 구축되었습니다. 기업은 자사의 AI 팩토리가 분산 서비스에 가능한 가장 빠른 연결성을 통합했다고 확신할 수 있습니다. 분산 클라우드 네트워크 연결을 사용하면 사이트를 빠르게 프로비저닝하여 기업이 AI 서비스를 즉시 제공할 수 있습니다.
  • 보안과 연결: 분산 클라우드 네트워크 연결은 기본적으로 안전합니다. 연결은 암호화되어 있어 AI 팩토리와 분산 서비스에 연결할 수 있는 것과 연결할 수 없는 것을 완벽하게 제어할 수 있습니다. 또한 고객 에지는 WAAP(웹 애플리케이션 및 API 보호)를 포함하여 지금까지 논의한 것 이상의 서비스를 활성화하는 데 사용될 수 있습니다.
  • 가시성을 통해 연결: 분산 클라우드 서비스는 또한 네트워크의 어느 부분에서든 애플리케이션 연결 상태에 대한 통찰력을 공유하는 풍부하고 데이터가 가득한 대시보드를 제공하는 SaaS 기반 콘솔을 제공합니다. 이를 통해 팀은 문제가 발생할 만한 곳을 사전에 파악하고 문제가 악화되기 전에 해결할 수 있습니다.

AI 팩토리를 설계하는 것은 결코 간단한 일이 아니며, 기업은 최대한의 보안을 보장하는 동시에 가능한 한 빨리 AI의 이점을 얻고 싶어합니다. AI 팩토리의 여러 보안 기능을 안정적으로 배포할 수 있으면 혁신을 더욱 빠르게 수행할 수 있으며, 진정한 비즈니스 차별화와 경쟁 우위를 가져다주는 AI 팩토리의 측면에 집중할 수 있는 시간을 확보할 수 있습니다. 멀티클라우드 네트워킹에 대해 자세히 알아보려면 Brightboard 레슨을 시청하거나 F5 Distributed Cloud Network Connect를 살펴보세요.

F5의 AI에 대한 집중은 여기서 끝나지 않습니다. F5가 모든 곳에서 AI 앱을 보호하고 제공하는 방법을 살펴보세요.