2024년 여름, Nvidia 창립자 겸 CEO 젠슨 황은 이렇게 말했다. “새로운 유형의 데이터 센터인 AI 공장은 새로운 상품, 즉 인공지능을 생산합니다.” 그렇다면 AI를 물리적 상품이라고 생각해 보자. 그러면 수직 통합과 산업화의 상징인 Ford의 리버 루지 단지가 떠오른다. 한쪽으로 철과 고무가 들어가면 다른 쪽으로 Ford 자동차가 나왔다. 자체 부두와 100마일에 달하는 내부 철도, 전용 발전소는 물론 자체 통합 제철소, 유리 공장, 제지 공장까지 갖춘 루지 단지는 하루 24시간 가동되며 연간 약 150만 대의 자동차를 생산했다.
마찬가지로, 대규모 고성능 학습 및 추론 모델을 지원하는 오늘날과 미래의 AI 팩토리는 막대한 양의 원재료, 즉 데이터를 받아들입니다. 정형 데이터, 비정형 데이터, 동영상, 텍스트 등 그 종류도 다양합니다. 이러한 팩토리는 이 데이터를 토큰화된 출력으로 변환하여 수많은 애플리케이션에서 활용할 수 있게 합니다. 루즈 단지가 각 생산 단계를 정밀하게 제어해야 했던 것처럼, AI 워크로드에도 데이터 수집, 처리, 전송을 관리할 강력한 트래픽 관리 시스템, 한마디로 물류가 필요합니다. 적절한 트래픽 관리 솔루션을 활용하면 AI 팩토리는 현장에서 가져온 원재료를 사용 가능한 형태로 만들 수 있습니다. 적절한 물류 도구를 갖추면 조립 라인이 모든 단계에서 원활하게 가동되도록 하는 것처럼, 팀은 끊김 없는 데이터 흐름, 높은 처리량, 짧은 지연 시간, 보안을 보장할 수 있습니다.
모든 AI 팩토리에 필요한 요소
Harvard Business Review는 2020년에 알리바바의 계열사인 앤트그룹이 AI 팩토리에서 실행 가능한 인텔리전스를 창출해 “미국 최대 은행보다 직원 수는 10분의 1도 안 되면서 [10배가 넘는] 고객에게 서비스를 제공하고 다양한 사업을 운영”하는 방식을 소개했습니다. 앤트그룹이 AI 팩토리 구축을 구상하는 방식도 그에 못지않게 인상적입니다:
“모든 팩토리에는 네 가지 핵심 구성 요소가 필요합니다. 첫 번째는 데이터 파이프라인으로, 데이터를 체계적이고 지속 가능하며 확장 가능한 방식으로 수집하고 정제하며 통합하고 보호하는 반자동화 프로세스입니다. 두 번째는 비즈니스의 미래 상태나 행동을 예측하는 알고리즘입니다. 세 번째는 실험 플랫폼으로, 새로운 알고리즘에 관한 가설을 검증하여 알고리즘의 제안이 의도한 효과를 내는지 확인합니다. 네 번째는 인프라로, 이 프로세스를 소프트웨어에 내장하고 내부 및 외부 사용자와 연결하는 시스템입니다.”
앞서 AI 팩토리 시리즈에서, F5는 AI 팩토리를 대규모 스토리지, 네트워킹 및 컴퓨팅 투자를 통해 대용량·고성능 학습 및 추론 요구 사항을 충족하는 환경으로 정의했습니다. 이러한 점에서 Ant Group이 제시한 목록의 첫 번째와 네 번째 구성 요소는 특히 주목할 만합니다. AI 모델이 수집하는 데이터를 안전하고 효율적으로 관리하는 데 필요한 시스템을 구축해야 한다는 과제는 AI 팩토리가 가치를 창출하기 위해 주변 인프라를 어떻게 개발해야 하는지에 관한 질문을 핵심 화두로 부각합니다.
AI 데이터 수집을 위한 트래픽 관리는 수십억 개의 매개변수와 풍부한 미디어를 포함한 AI 데이터 트래픽을 관리하고, 머신 러닝 및 학습을 위해 AI 팩토리로 전송하는 지속적인 프로세스입니다. 이때 고성능 트래픽 관리 솔루션이 해당 트래픽을 AI 팩토리로 전달하는 역할을 합니다. 이러한 솔루션이 없으면 팀은 트래픽 흐름을 유지하기 위해 연결을 재사용해야 하거나 스토리지 인프라의 한계에 부딪힐 수 있습니다. 어느 쪽도 AI 팩토리가 원하는 최적화된 속도와 규모로 운영되는 데 필요한 고용량·저지연 데이터 전송 요건에는 적합하지 않습니다.
AI 팩토리로 유입되고, 내부를 통과하며, AI 팩토리 간에 이동하는 AI 데이터 트래픽을 관리합니다.
“AI 팩토리에는 수십억 개, 그리고 곧 수조 개의 매개변수를 갖게 될 AI 모델의 데이터를 수집하기 위한 고성능 트래픽 관리 솔루션이 필요합니다.”
AI 팩토리의 지속적인 운영
하지만 이 분야의 발전 속도는 결코 정체되어 있지 않습니다. 갈수록 복잡해지는 AI 모델은 더 많은 양의 데이터를 더 빈번하게 입력해야 합니다. 이로 인해 데이터 중력 문제가 발생합니다. AI 모델에서는 데이터를 클라우드에 둘지 온프레미스에 둘지가 매우 중요하기 때문입니다. 미래의 AI 데이터 수요가 만들어 내는 중력을 견딜 수 있는 AI 팩토리를 구축하려면, 수신한 데이터에서 더 빠르게 인사이트를 도출해야 하는 요구에 발맞춰 확장 가능한 인프라가 필요합니다. 궁극적으로 AI 팩토리 인프라는 이를 기반으로 운영되는 AI 모델의 성공과 비즈니스 가치를 좌우할 수 있습니다. 일부 클라우드 제공업체를 통해 처리할 경우, 리치 미디어 소비의 급격한 증가는 네트워크 트래픽과 관련 비용을 크게 늘릴 수 있습니다. 따라서 이러한 상황에 직면한 기업은 효율적인 AI 학습 모델에 필요한 고속 데이터 처리량을 유지하는 것과 클라우드에서의 데이터 전송 및 처리와 관련된 복잡성과 비용을 관리하는 것이라는 두 가지 과제를 동시에 해결해야 합니다.
AI 팩토리에 관한 첫 번째 글에서 설명한 네 가지 AI 팩토리 배포 유형(AI-SaaS, 클라우드 호스팅, 자체 호스팅 또는 엣지 호스팅)을 면밀히 검토하면 기업은 클라우드 대역폭에 대한 의존도를 없애거나 줄여 이러한 복잡성을 관리할 수 있습니다. 데이터를 로컬에서 처리하면 클라우드 대역폭 문제를 고려 대상에서 제외할 수 있을 뿐만 아니라 민감한 학습 데이터 세트를 완전히 통제할 수 있습니다. 이에 따라 조직은 데이터의 저장, 액세스 및 처리 방식을 통제하고 민감한 정보를 조직의 보안 네트워크 내에 유지해 데이터 노출을 최소화할 수 있으므로 GDPR, HIPAA 또는 PCI DSS와 같은 규제 요건도 더 쉽게 충족할 수 있습니다.
더 나은 인프라는 AI 팩토리의 가치를 높입니다
AI 데이터 트래픽과 애플리케이션 트래픽은 F5 BIG-IP Local Traffic Manager (LTM) 및 차세대 하드웨어 솔루션과 유사한 방식으로 상호 작용합니다. 즉, 기존 애플리케이션 트래픽 흐름을 최적화하는 것처럼 팀은 FastL4 프로파일과 같은 도구를 사용하여 AI 데이터 트래픽 흐름을 최적화함으로써 가상 서버의 성능과 처리량을 높일 수 있습니다. 또한 TCP 최적화를 활용하여 네트워크 성능에 매우 중요한 TCP 연결 처리 방식을 세밀하게 조정할 수 있습니다. 나아가 BIG-IP의 OneConnect를 배포하여 BIG-IP 시스템과 백엔드 풀 멤버 간에 생성되는 연결을 효율적으로 관리함으로써 네트워크 처리량을 높일 수도 있습니다. AI 팩토리 간에 AI 데이터 트래픽을 분산할 솔루션을 찾는 조직은 멀리서 찾을 필요가 없습니다. F5는 20년 넘게 애플리케이션 트래픽 관리를 최적화하는 도구를 개발해 왔으며, 이에 따라 BIG-IP LTM은 AI 데이터 수집 트래픽 처리에 이상적입니다.
AI 애플리케이션은 현대적인 애플리케이션 중에서도 가장 진보된 형태입니다. 강력하고 유연한 트래픽 관리 솔루션이 없다면 활용 가능한 데이터는 현장에 방치되고, AI 모델이 그 데이터에서 창출할 수 있는 가치도 사라집니다. 루즈 공장에 부두와 수 마일에 이르는 철로가 있었다면, AI 팩토리에는 BIG-IP과 같은 F5 솔루션이 있습니다.
F5의 AI에 대한 노력은 여기서 끝나지 않습니다. F5가 어디서나 AI 앱을 보호하고 제공하는 방법을 알아보세요.
AI 팩토리에 대해 더 자세히 알아보고 싶으신가요? AI 팩토리 블로그 시리즈의 다른 글도 살펴보세요:
- AI 팩토리란 무엇인가요? ›
- AI 팩토리를 위한 검색 증강 생성(RAG) ›
- 엣지 데이터 소스를 AI 팩토리에 최적으로 연결하기 ›
- 멀티클라우드의 확장성과 유연성으로 AI 팩토리 지원 ›
- AI 팩토리를 위한 NVIDIA BlueField DPU의 강력한 성능과 의미 ›
- AI 팩토리를 위한 API 보호: AI 보안을 위한 첫걸음 ›
- AI 팩토리를 위한 네트워크 세분화의 중요성 ›
- AI 팩토리가 만들어 내는 최첨단 현대식 앱: AI 앱 ›
작성자 소개
Griff Shelley는 F5의 제품 마케팅 매니저로, 하드웨어, 소프트웨어 및 SaaS 애플리케이션 딜리버리 솔루션을 전문으로 합니다. 혁신적인 기술을 고객의 성공으로 연결하는 데 열정을 가진 Griff는 글로벌 및 로컬 앱 딜리버리, 클라우드 서비스, AI 데이터 트래픽 인프라 분야의 시장 진출 프로젝트를 주도하고 있습니다. 기술 업계에 진출하기 전에는 고등교육기관에서 학업 상담사로 근무했으며, Eastern Washington University와 Auburn University에서 학위를 취득했습니다.
Griff Shelley의 다른 블로그 게시물관련 블로그 게시물
성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.
TLS 검사에서 피터 파커 원칙 다루기
“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.
Venafi와 F5를 통한 머신 아이덴티티 보호
‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.
마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...
내 클라우드에서 나가!
F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.
Shift(웹 앱) 보안 레터
웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.