서비스형 GPU: 아세안 AI 성장의 촉매제, 기회와 과제

F5 에코시스템 | 2024년 10월 14일

인공지능(AI) 기술이 계속 발전하면서 고성능 하드웨어에 대한 수요가 급증하고 있습니다. 조직들은 복잡한 AI 모델과 워크로드를 실행하는 데 필요한 컴퓨팅 성능을 확보하기가 점점 더 어려워지고 있습니다. 바로 이때 필요한 것이 서비스형 GPU(GPUaaS)입니다.

GPUaaS는 클라우드를 통해 강력한 그래픽 처리 장치(GPU)를 온디맨드로 제공함으로써 기업이 AI 인프라를 구축하고 운영하는 방식을 혁신하고 있습니다. 고가의 하드웨어에 투자할 필요가 없고, 원활한 확장이 가능하며, 기존 클라우드 서비스와도 매끄럽게 통합되는 동시에 운영까지 간소화합니다. 그렇다면 GPUaaS는 정확히 어떻게 작동하며, 왜 AI 중심 조직이 가장 선호하는 솔루션으로 자리 잡고 있을까요?

아세안의 AI 잠재력 실현

동남아시아국가연합(ASEAN)에서는 지역별 과제를 해결하기 위해 더 많은 기업이 시장에 진입하면서 GPUaaS 시장이 확대되고 있습니다. 이러한 성장을 이끄는 핵심 요인 중 하나는 언어입니다. 오픈 소스 대규모 언어 모델(LLM)은 대부분 영어로 학습되기 때문에 문화적 뉘앙스가 풍부한 현지 언어를 처리하는 데 어려움을 겪는 경우가 많습니다. 따라서 조직은 모국어로 더욱 정확하고 관련성 높은 응답을 제공할 수 있도록 현지 데이터를 활용해 이러한 모델을 재학습하거나 미세 조정해야 합니다.

동시에 GPUaaS가 제공하는 이점도 도입 확대를 촉진하고 있습니다. 확장성을 통해 사용자는 프로젝트 요구 사항에 따라 GPU 리소스를 손쉽게 조정할 수 있습니다. 또한 사용량 기반 과금 모델이 제공하는 탄력성 덕분에 조직은 실제 사용한 만큼만 비용을 지불하여 전체 비용을 절감할 수 있습니다. GPUaaS는 최첨단 기술에 즉시 접근할 수 있도록 지원하며, 신속한 프로토타이핑과 배포를 가능하게 해 유연성을 높이고 시장 출시 기간을 단축합니다.

또 다른 중요한 고려 사항은 데이터 중력, 데이터 레지던시 및 데이터 주권입니다. 데이터 중력이란 성능과 효율성을 높이기 위해 데이터가 있는 위치로 애플리케이션과 서비스가 모이는 경향을 의미합니다. 많은 경우 데이터 레지던시 및 주권 관련 규정에 따라 데이터를 특정 지역에 보관해야 하므로, GPUaaS 제공업체는 사용자 기반과 가까운 곳에 위치해야 합니다. 자국의 인프라, 데이터 및 자원을 활용해 AI를 개발할 수 있는 국가의 역량을 강조하는 소버린 AI 역시 현지화된 GPUaaS 수요를 형성하는 데 중요한 역할을 합니다.

마지막으로, ASEAN 지역의 클라우드 서비스 제공업체(CSP)가 제공하는 GPU의 비용과 제한된 공급량도 GPUaaS 도입 시 고려해야 할 요소입니다. 최근 Dell 보고서에 따르면 온프레미스 AI 배포는 CSP 기반 솔루션에 비해 최대 75%의 비용을 절감할 수 있습니다. GPUaaS는 비용 효율적인 대안으로, 조직이 상당한 규모의 하드웨어에 선투자하지 않고도 고성능 GPU를 이용할 수 있게 해주므로 이 지역에서 AI 역량을 확장하려는 조직에 매력적인 선택지입니다.

GPUaaS의 이점과 위험 간 균형 맞추기

GPUaaS의 이점은 광범위한 도입을 촉진하지만, 그에 따른 우려도 있습니다. 주요 문제 중 하나는 데이터 보안입니다. GPU와 주고받는 데이터가 가로채기나 무단 액세스에 취약할 수 있기 때문입니다. 또한 원격 GPU에서 데이터를 처리할 때는 지역마다 다른 데이터 보호 규정과 규정 준수 요건을 고려해야 할 수 있습니다. 성능도 또 다른 우려 사항입니다. 인터넷 또는 사설 연결에 대한 의존성과 GPU 성능의 변동이 애플리케이션의 속도와 응답성에 영향을 줄 수 있기 때문입니다. GPUaaS는 안정적인 고속 연결에 의존하며, 최적의 성능을 위해 공용 인터넷보다 사설 네트워크를 선호하는 경우가 많습니다.

F5는 어떻게 지원하나요?

F5는 단일 콘솔을 통해 GPUaaS 제공업체를 비롯한 퍼블릭 및 프라이빗 클라우드를 위한 혁신적인 멀티클라우드 SaaS 기반 네트워킹, 트래픽 최적화 및 보안 서비스를 제공합니다.

조직은 모든 네트워크 위에 암호화된 메시 패브릭 오버레이를 구성하여 AI 추론, 임베딩 또는 학습을 위해 GPUaaS 제공업체(AI 팩토리)에 연결할 수 있습니다. 네트워크와 애플리케이션을 완전히 세분화함으로써 모든 오버레이 연결을 비공개로 안전하게 유지하며, 기존 네트워크 언더레이를 기반으로 구축할 수 있습니다. 또한 F5 암호화 메시 패브릭은 정상적으로 작동하는 AI 구성 요소를 동적으로 모니터링 및 감지하고, 트래픽을 최적화하여 전달함으로써 디지털 복원력 문제를 해결하고 AI 애플리케이션이 항상 중단 없이 가용한 상태를 유지하도록 보장합니다.

다음은 GPUaaS 공급자의 AI 팩토리를 활용한 LLM 검색 증강 생성(RAG) 배포의 예입니다. 데이터는 암호화된 보안 메시를 통해 안전하게 전송되므로 전송 중인 데이터에 대한 우려가 없으며, GPUaaS 공급자 측에 저장되는 데이터도 없습니다. 조직의 저장된 코퍼스 데이터는 변경 없이 원래 위치에 그대로 유지됩니다. 또한 이 아키텍처를 사용하면 지연 시간에 민감한 애플리케이션을 위한 AI 추론을 엣지(퍼블릭 클라우드 또는 지사)에서 수행할 수 있습니다.

AI 애플리케이션(예: 에이전틱 RAG 지원 챗봇)을 인터넷에서 액세스할 수 있도록 제공하는 경우, 사이버 공격으로부터 AI 애플리케이션을 보호하기 위해 클라우드 네트워크 기반의 웹 애플리케이션 및 API 보호(WAAP) 서비스를 고려하는 것이 중요합니다.

그림 1: GPUaaS 제공업체의 AI 팩토리를 활용한 LLM 검색 증강 생성(RAG) 배포 예시

단일 관리 콘솔을 갖춘 플랫폼을 활용하면 이제 암호화된 메시 패브릭에서 남북 및 동서 방향으로 이동하는 API를 비롯한 모든 트래픽의 규정 준수, 관찰 가능성 및 제어를 확보할 수 있습니다.

그림 2: API 검색, 보안 태세 관리 및 API 보호는 AI LLM 보안의 기반입니다.

또한 본질적으로 복잡하고 이기종으로 구성된 멀티클라우드 인프라를 관리하려면 NetOps 및 SecOps 팀이 공용 인터넷과 비공개 암호화 메시를 통과하는 트래픽을 관찰하고 제어할 수 있어야 합니다.

그림 3: 온프레미스 데이터 센터, 프라이빗 클라우드, 퍼블릭 클라우드 및 엣지 전반에 걸쳐 분산될 수 있는 분산형 AI 배포에서는 멀티클라우드 네트워킹과 관측 가능성이 필수적입니다.

더 자세히 알아보고 싶으신가요?

AI 도입이 가속화됨에 따라 장기적인 성공을 보장하려면 AI 시스템에 복원력을 갖추는 것이 매우 중요합니다. GPUaaS는 확장 가능하고 효율적인 솔루션을 제공하지만, 조직은 데이터 보안, 성능 변동성, 규제 준수와 같은 과제를 해결해야 합니다. 이러한 우려 사항에 대응하고 GPUaaS의 유연성을 활용함으로써 기업은 증가하는 AI 기반 워크로드 수요에 더욱 효과적으로 대비할 수 있습니다.

AI 회복탄력성이 귀사의 역량을 어떻게 강화할 수 있는지 알아보고 싶다면, 10월 15일부터 17일까지 Sands Expo and Convention Centre에서 열리는 GovWare 컨퍼런스의 P06 부스를 방문해 주세요. 이러한 동향과 솔루션에 대해 더욱 자세히 논의할 예정입니다.