AI 애플리케이션에 대해 알아야 할 세 가지
알아야 할 사항이 세 가지 이상 있겠지만, 우선 이 세 가지부터 시작해볼까요?
첫째, AI가 실재한다는 점을 아는 것이 중요합니다. 그렇죠. 과장된 표현이에요. 네, 10년 전 모든 것이 갑자기 "클라우드" 제품이 된 것과 같은 방식으로 전체 포트폴리오가 "AI 세척"되고 있습니다. 하지만 우리의 최근 설문 조사에 참여한 의사결정권자들은 AI에 초점을 맞춰서 그것이 진짜라고 말했습니다.
대부분 조직(69%)이 기술과 사용 사례에 대한 연구를 수행하는 반면, 43%는 대규모로 AI를 구현했다고 답했습니다. 생성적이거나 예측적이에요.
다소 당혹스러운 점은 이미 어떤 종류의 AI를 구현하고 있는 사람들 중 47%가 AI에 대한 정의된 전략이 전혀 없다는 사실입니다. 퍼블릭 클라우드로의 돌진에서 우리가 얻은 교훈이 있다면, 전략 없이 뛰어들면 나중에 문제가 생긴다는 것입니다.
전략을 정의하는 데 도움이 되도록, 특히 운영 및 보안에 미치는 영향을 이해하려고 할 때 고려해야 할 세 가지 사항 목록을 작성했습니다.
1. AI 애플리케이션은 현대적 애플리케이션입니다.
말할 필요는 없겠지만, 그래도 말해보자. AI 애플리케이션은 현대적인 애플리케이션입니다. AI 애플리케이션의 핵심은 모델이지만 추론 서버, 데이터 소스, 디코더, 인코더 등 "AI 애플리케이션"을 구성하는 다른 많은 구성 요소가 있습니다.
이러한 구성 요소는 일반적으로 최신 애플리케이션으로 배포됩니다. 즉, 확장성, 스케줄링, 보안을 위해 Kubernetes와 그 구조를 활용합니다. 구성 요소마다 리소스 요구 사항이 다르기 때문에 일부 워크로드는 GPU 가속의 이점을 얻고 다른 워크로드는 일반적인 CPU만 필요합니다. 따라서 최신 애플리케이션으로 배포하는 것이 가장 합리적이며 AI 애플리케이션의 각 워크로드가 특정 컴퓨팅 요구 사항에 따라 최적으로 배포되고 확장되도록 보장하는 데 있어 더 큰 유연성을 제공합니다.
이는 AI 애플리케이션이 다른 모든 현대적 애플리케이션과 마찬가지로 많은 과제에 직면한다는 것을 의미합니다. 기존의 현대적 애플리케이션을 확장하고 보안을 강화하는 과정에서 얻은 교훈은 AI 애플리케이션에도 동일하게 도움이 될 것입니다.
전략적 요점: 기존 지식과 관행을 애플리케이션 제공 및 보안에 활용하지만, AI 애플리케이션의 다양한 구성 요소에 필요한 리소스가 다를 수 있다는 점을 인식하는 접근 방식(예: 컴퓨팅 집약적 작업의 경우 GPU 가속, 컴퓨팅 집약적이지 않은 작업의 경우 CPU 리소스)을 포함하도록 확장합니다. 최신 애플리케이션 배포에서는 각 구성 요소의 특정 요구 사항에 따라 리소스를 유연하게 할당하여 성능과 비용 효율성을 최적화할 수 있습니다.
2. AI 애플리케이션은 현대 애플리케이션과 다릅니다
네, 저는 "이것들은 현대적 애플리케이션입니다"라는 요점을 방금 강조했음을 알고 있지만 아키텍처, 운영 및 보안에 영향을 미치는 차이점이 있습니다.
첫째, AI 애플리케이션은 비정형 데이터를 교환합니다. 이러한 프롬프트에는 형식, 길이 또는 데이터 유형 요구 사항이 없으며 다중 모드 LLM의 열성적인 채택은 "요청"이라는 혼란을 더할 뿐입니다. 대부분의 AI 애플리케이션이 프롬프트와 응답을 JSON 페이로드로 래핑한다는 점에서 구조적이라고 할 수 있겠지만, 실제 페이로드가 정의되지 않았기 때문에 구조적이라고 할 수는 없습니다.
두 번째, AI 애플리케이션은 API를 통해 모델과 거의 독점적으로 통신합니다. 즉, 액세스의 기본 기준으로 "인간" 또는 "기계"를 사용하는 봇 감지 솔루션은 그다지 도움이 되지 않습니다. "나쁜 봇"과 "좋은 봇"을 구별하는 데 도움이 되는 보안 서비스는 모든 AI 전략의 중요한 부분이 될 것입니다. API에 대한 의존성이 높기 때문에, 우리는 연례 연구에서 AI 모델을 보호하기 위해 계획된 최고의 보안 서비스가 API 보안이라는 결론을 내렸습니다.
마지막으로, AI 애플리케이션의 상호작용 패턴은 종종 동적이고, 가변적이며, 예측 불가능합니다. 일반적으로 오늘날의 보안 서비스는 페이지당 마우스 클릭 및 타이핑 비율의 이상을 감시합니다. 이는 서비스가 확립된 인간의 평균 기준과의 편차를 기반으로 "봇" 동작을 추론할 수 있기 때문입니다. 대화형 인터페이스를 사용하는 사람이 매우 불규칙하게 질문을 입력하고, 다시 입력하고, 제출하는 경우에는 이 방법이 효과적이지 않습니다. 오늘날 많은 보안 솔루션이 API 보안을 포함하여 행동 분석에 의존한다는 점을 감안하면 일부 조정이 필요하다는 것을 의미합니다.
전략적 요점: AI 애플리케이션을 적절하게 관리하려면 추가적인 보안 기능이 필요합니다. 대화형 상호작용의 미묘한 뉘앙스를 적절히 포착하지 못할 수 있는 기존의 보안 접근 방식을 재고해 보세요. 상호작용 패턴의 실시간 모니터링, 상황에 따른 신호에 따른 적응형 접근 제어 메커니즘 등 혁신적인 접근 방식을 살펴보세요. AI 모델과의 커뮤니케이션을 원활하게 하는 데 있어 API의 중요한 역할을 인식합니다. 무단 액세스, 데이터 침해, 악의적인 공격으로부터 보호하기 위해 강력한 API 보안 솔루션에 투자하세요.
3. 다양한 AI 애플리케이션은 다양한 모델을 사용합니다.
멀티클라우드가 결국 현실이 되는 것처럼 조직이 단일 AI 모델을 표준화할 가능성은 매우 낮습니다. 특정 사용 사례에는 다양한 모델이 더 적합할 수 있기 때문입니다.
그렇기 때문에 우리는 평균적인 기업이 오픈 소스 모델과 독점 모델을 포함하여 이미 거의 3가지(2.9)개의 고유한 모델을 사용하고 있다는 사실에 놀라지 않습니다. 사례 기반 모델의 사용을 살펴보면 패턴이 눈에 띄기 시작합니다. 예를 들어, 민감한 기업 데이터나 아이디어에 크게 의존하는 사용 사례(보안 운영 및 콘텐츠 생성)에서는 오픈 소스 모델에 대한 상당한 추세가 나타납니다. 반면, 자동화 사용 사례를 살펴보면 Microsoft가 점점 더 많이 사용되고 있는데, 이는 많은 조직에서 이미 사용 중인 도구와 프로세스와 통합할 수 있는 기능 덕분입니다.
이를 이해하는 것이 중요한 이유는 SaaS 관리형 AI 모델을 제공하고 보호하는 데 필요한 관행, 도구, 기술이 클라우드 관리형 AI 모델과 다르고, 자체 관리형 AI 모델과도 다르기 때문입니다. 확실히 유사점은 있지만(특히 보안 면에서) 사용된 각 배포 패턴에 대해 해결해야 할 상당한 차이점이 있습니다.
전략적 요점: 조직 내 사용 사례를 분석하고 다양한 AI 모델 도입 패턴을 파악합니다. 데이터 민감성, 통합 기능, 기존 도구 및 프로세스와의 일치와 같은 요소를 고려하세요. 각 배포 패턴의 특정 특성에 따라 배포 및 보안에 대한 접근 방식을 맞춤화하세요.
AI 애플리케이션을 구축하고 운영하고 보안을 강화하기 위해서는 고려해야 할 사항이 많습니다. 그 중에서도 가장 중요한 것은 모델 보안과 확장성에 대한 새로운 요구 사항입니다. 하지만 지난 10년 동안 코어, 클라우드, 엣지에 최신 애플리케이션을 배포하면서 얻은 많은 교훈은 조직에 큰 도움이 될 것입니다. 핵심 과제는 여전히 동일하며, AI 애플리케이션의 확장 및 보안에 동일한 수준의 엄격성을 적용하면 성공적인 구현에 큰 도움이 될 것입니다.
그러나 차이점에 대한 주의를 기울이지 않고 배달 및 보안 과제를 해결하기 위한 최소한 준공식적인 전략 없이 뛰어든다면 결국 실망하게 될 것입니다.