멀티클라우드 확장성 및 유연성으로 AI 팩토리 지원

쉬운 것 같죠? 여러분이 이 글을 읽고 있는 스마트폰에는 GPU, 5G 연결, 암호가 있을 가능성이 큽니다. 개인 보안 서비스를 이용하는 게 나을 것 같죠? 글쎄요, 그렇지 않아요. 지금은 세 가지 사항을 살펴보겠습니다. 하지만 이것들은 시작일 뿐이며 AI 팩토리에 대한 위협 환경을 설계하고 모델링함에 따라 더 많은 것이 발견될 것입니다.

먼저 속도에 대해 이야기해 보겠습니다. 생성 AI가 2022년 후반에 ChatGPT를 통해 처음 선보였을 당시 우리는 텍스트 데이터에 집중했습니다. 그러나 2024년에는 전문 분야에 따라 이미지, 비디오, 텍스트, 데이터 등 다른 모달리티를 흐름 및 애플리케이션 계층 모델에 혼합하여 사용하는 사례가 점점 더 많아질 것입니다. 분산형 AI 팩토리 아키텍처에서는 모든 모델을 모든 곳에 배포하는 것이 바람직하지 않거나 실행 가능하지 않을 수 있습니다. 이는 데이터 중력, 전력 중력 또는 컴퓨팅 요구 사항과 같은 요소에 따라 달라질 수 있습니다. 여기서는 종속 서비스를 서로 멀리 옮길 때 발생하는 성능 문제를 완화하고 격차를 메우기 위해 고속 네트워크 상호연결을 선택할 수 있습니다.

또한 대규모 언어 모델(LLM)과 생성 AI 앱에 대한 OWASP 상위 10대 위험 중 하나인 모델 도용에 대해서도 살펴보겠습니다. 경쟁 우위를 확보하기 위해 생성적 AI를 활용하려는 모든 기업은 자사의 지적 재산을 시스템에 통합할 것입니다. 이는 기업 데이터로 자체 모델을 훈련하거나 모델을 미세 조정하는 것을 통해 이루어질 수 있습니다. 이러한 시나리오에서 다른 비즈니스 시스템과 마찬가지로 AI 팩토리는 보호해야 하는 모델을 통해 가치를 창출합니다. 분산 아키텍처에서 모델 도용을 방지하려면 해당 모델, 모델 업데이트, 애플리케이션이 액세스해야 하는 데이터 소스가 암호화되고 액세스 제어가 적용되었는지 확인해야 합니다.

마지막으로 LLM 및 생성 AI 앱을 위한 OWASP Top 10에 있는 모델 서비스 거부를 고려해 보겠습니다. AI 애플리케이션에 대한 신뢰가 높아짐에 따라 중요한 시스템에서의 사용이 늘어납니다. 이는 기업의 수익을 크게 늘리는 시스템이든 의료와 같이 생명 유지에 중요한 시스템이든 마찬가지입니다. 프런트 엔드와 추론에 접근할 수 있는 기능은 가능한 모든 침입 경로를 회복성 있고, 통제 가능하며, 보안이 유지되도록 설계되어야 합니다. 이러한 액세스 시나리오는 최종 사용자 액세스뿐 아니라 추론 서비스에서 핵심 AI 팩토리로의 액세스에도 적용될 수 있습니다.