AI 팩토리를 위한 API 보호: AI 보안의 첫걸음

F5 에코시스템 | 2024년 12월 19일

AI와 매우 밀접한 관련이 있는 오래된 속담이 있습니다. “천 리 길도 한 걸음부터 시작된다.”

AI 애플리케이션과 생태계가 전 세계를 휩쓸면서 모든 조직은 자체 준비 상태를 평가해야 하는 상황에 놓였습니다. F5는 AI 여정에 나선 조직을 두 가지 유형으로 보고 있습니다. 하나는 자율주행차나 대규모 언어 모델(LLM)과 같은 전략적 투자를 통해 차별화된 솔루션을 개발하는 조직이고, 다른 하나는 효율성 향상과 조직 혁신을 위해 AI를 배포하고 최적화하는 기업입니다. 비즈니스 리더들은 생산성을 높이기 위해 생성형 AI 기능과 앱을 도입하고자 하는 반면, 보안 및 위험 관리 리더들은 새롭게 등장하는 AI 앱을 안전하게 도입할 수 있도록 거버넌스를 확립하고, 이를 제공·최적화·보호하는 데 필요한 인프라, 도구, 모델, 프레임워크 및 관련 서비스로 빠르게 확장되는 생태계를 관리하기 위해 분주히 움직이고 있습니다. AI 팩토리는 AI로 차별화된 제품과 서비스를 구현하기 위한 청사진으로 부상하고 있습니다.

그렇다면 AI는 과대광고일까요? 광풍일까요? 혁명일까요? 아니면 종말일까요? 미래가 어떻게 펼쳐질지는 아직 지켜봐야 합니다.

한 걸음 물러서서 큰 그림을 보면 한 가지가 분명해집니다. AI 앱을 서로 연결하는 핵심 요소는 바로 API입니다. 실제로 전 세계 고객들과 자주 논의하는 주제 중 하나가 “AI의 세계는 곧 API의 세계다”라는 것입니다. API는 AI 모델을 학습시키고 활용하는 데 사용하는 인터페이스입니다. 동시에 악의적인 행위자들이 모델에서 데이터를 훔치고, AI 모델의 탈옥을 시도하거나 악용하며, 심지어 모델을 역추적해 모델 자체를 탈취하는 데 사용하는 인터페이스이기도 합니다. 보안 담당자들이 클라우드와 마이크로서비스 기반의 현대적 앱으로 전환하는 과정에서 API 가시성과 보안의 중요성을 놓쳤던 것처럼, 이제 우리가 깨달아야 할 핵심은 AI 모델을 제공하는 인터페이스를 보호하지 않고서는 AI 모델도 보호할 수 없다는 사실입니다.

AI 기반 애플리케이션을 구축하고 제공하는 데 API가 핵심적인 역할을 하는 만큼, AI 개발 및 학습 프로세스 초기 단계부터 API 가시성, 보안, 거버넌스를 설계에 반영하는 것이 매우 중요합니다. 또한 설계 단계에서 정상적인 사용 패턴을 정의하고 속도 제한, 데이터 정제 등의 제어 기능을 구축해야 합니다. 이러한 접근 방식을 취하면 안전한 AI 도입에 대한 부담을 줄일 수 있습니다. 생성형 AI 앱은 특히 API에 대한 의존도가 높으므로, AI 애플리케이션을 보호하려면 API 보안이 필수적입니다. 이제 AI 여정의 첫걸음을 내디뎌 보겠습니다. 다음은 AI 보안과 AI 팩토리의 안전한 도입에 API 보안이 필요한 이유를 설명하는 네 가지 핵심 주장입니다.

주장 #1: AI 앱은 현대적인 앱 중에서도 가장 현대적이다

앞서 AI 팩토리 시리즈에서 AI 팩토리를 정의할 때 대규모·고성능 학습 및 추론 요구 사항을 충족하기 위한 스토리지, 네트워킹, 컴퓨팅 분야의 막대한 투자라고 설명했습니다. 기존 제조 공장과 마찬가지로 AI 팩토리는 사전 학습된 AI 모델을 활용해 원시 데이터를 인텔리전스로 변환합니다. AI 앱은 그야말로 최신 모던 앱으로, API를 통해 긴밀하게 연결되고 고도로 분산되어 있습니다.

AI 앱은 최신 앱이므로 제공, 보안 및 운영 측면에서 익숙한 과제를 동일하게 안고 있으며, AI 모델로 인해 제공 및 보안이 필요한 API의 수가 급격히 증가할 것이라는 전제에서 출발합니다.

그렇다면 임무 완수입니다! 이제 다 해결된 거죠? 우리는 최신 앱을 안전하게 제공하는 방법을 알고 있습니다. 잘 정립된 애플리케이션 보안 모범 사례를 갖추고 있으며 API 보호의 복잡한 세부 사항도 이해하고 있습니다. 또한 분산 환경 전반에서 포괄적인 보호와 일관된 보안을 제공하는 솔루션도 갖추고 있습니다.

아직 속단하긴 이릅니다! 이제 세부 내용을 간단히 살펴볼 테니 GPT를 꼭 붙잡으세요.

AI 앱은 최신 앱과 동일한 위험과 과제를 공유하지만(둘 다 본질적으로 API 기반 시스템임), 학습, 미세 조정, 추론, 검색 증강 생성(RAG), AI 팩토리로의 진입점 등 AI 앱만의 고유한 고려 사항이 있습니다.

그렇습니다. AI 앱은 최신 앱과 마찬가지로 고도로 분산된 특성을 지니고 있어 도구의 난립을 초래하며, 하이브리드 및 멀티클라우드 아키텍처 전반에서 일관된 가시성을 유지하고 보안 정책을 균일하게 적용하며 위협을 빠짐없이 해결하기 어렵게 만듭니다. 이러한 위험과 복잡성의 “불덩어리”와 씨름하는 것 외에도, 방어 담당자는 예측할 수 없는 AI 응답을 초래할 수 있는 인간 요청의 무작위성과 AI가 확보한 콘텐츠의 높은 가변성에 대응해야 하며, 데이터 정규화, 토큰화, 임베딩 및 벡터 데이터베이스 채우기도 고려해야 합니다.

데이터를 AI 팩토리에 통합하면 총체적이고 유기적으로 연결된 엔터프라이즈 생태계가 조성되며, 이처럼 끊임없이 움직이는 모든 요소를 통합하고 서로 연계하려면 강력한 API 보안 태세가 필요합니다.

_{오늘날 기업들은 갈수록 복잡해지는 하이브리드 멀티클라우드 환경 전반에서 폭발적으로 증가하는 앱과 API를 관리하고 있습니다. F5에서는 이렇게 커져 가는 위험과 복잡성을 ‘불덩이(ball of fire)’라고 부릅니다.}

주장 #2: AI 앱은 API를 통해 상호 연결됩니다

신속한 현대화 노력으로 API 기반 시스템이 부상하면서 데이터 센터, 퍼블릭 클라우드 및 엣지 전반에 걸쳐 아키텍처가 확산되었습니다. 이러한 추세는 F5의 연례 연구에서 지속적으로 다뤄졌으며, 여기에는 2024년 애플리케이션 전략 현황 보고서: API 보안 | API의 숨겨진 이면 보고서도 포함됩니다.

AI 앱은 하이브리드 및 멀티클라우드 아키텍처의 복잡성을 더욱 가중합니다. 조직은 수많은 AI 앱과 기반 AI 모델을 신속하게 평가하고 거버넌스 전략을 면밀히 적용하여 궁극적으로 AI SaaS, 클라우드 호스팅, 자체 호스팅 또는 엣지 호스팅방식을 선택하며, 경우에 따라 사용 사례별 또는 앱별로 결정하기도 합니다. 예를 들어 일부 사용 사례에서는 프로덕션에 앞서 데이터 센터에서 학습을 수행하고, 추론은 엣지에서 수행합니다.

이러한 모델 및 관련 서비스와의 연결은 대부분 API를 통해 이루어집니다. 예를 들어, 추론을 위해 널리 사용되는 서비스에 연결할 수 있습니다. AI 앱으로 인해 API 사용량은 기하급수적으로 증가합니다. 단일 API에 수천 개의 엔드포인트가 존재할 수 있고, API 호출이 보안 팀의 관리 범위를 벗어나 비즈니스 로직 깊숙이 숨겨질 수 있기 때문입니다. 이는 감당하기 어려운 복잡성을 초래하고 위험 관리에 심각한 영향을 미칩니다.

“현재 38%의 조직이 6개 환경에 걸쳐 애플리케이션을 배포하고 있습니다. - 2024년 애플리케이션 전략 현황 보고서”

세상을 집어삼킨 것은 클라우드가 아니라 API였던 것으로 드러났습니다. 그리고 AI는 모든 것을 집어삼킬 것입니다. 블로그 게시물 하이브리드 멀티클라우드가 기업의 새로운 표준이 된 6가지 이유에서 설명했듯이, 고도로 분산된 환경은 성능, 보안, 효율성 및 정확성을 보장하는 AI 앱과 관련 서비스를 유연하게 배포할 수 있도록 해줍니다. 이는 특히 데이터 중력 문제에서 중요합니다. 조직의 80%가 퍼블릭 클라우드에서 AI 앱을 실행하고 54%가 온프레미스에서 실행하는 것은 놀라운 일이 아닙니다. 어떤 접근 방식을 택하든 아키텍처의 모든 측면을 보호해야 하며, 그 첫걸음은 API를 보호하는 것입니다.

““AI 모델 보호를 위해 도입이 가장 많이 계획된 보안 서비스는 API 보안입니다.” - AI 애플리케이션에 대해 알아야 할 세 가지 사항”

주장 #3: AI 앱은 알려진 위험과 새로운 위험에 모두 노출됩니다

AI 애플리케이션의 기능과 데이터 교환으로 연결되는 관문인 API를 보안 위험으로부터 보호하는 것은 매우 중요합니다. 기존과 동일한 취약점 악용, 비즈니스 로직 공격, 봇 악용, 서비스 거부(DoS) 위험이 적용되는 한편, AI 팩토리 내 새롭게 추가되거나 변경된 삽입 지점과 자연어 처리(NLP) 인터페이스, 플러그인, 데이터 커넥터 및 다운스트림 서비스를 통해 LLM에 가해지는 위험도 추가로 고려해야 합니다. 이는 학습, 미세 조정, 추론 및 RAG 전 과정에 해당합니다. 또한 DoS와 같은 기존 공격에도 추가로 고려할 사항이 있습니다. 대규모 DDoS 및 L7 애플리케이션 DoS에 대한 완화 조치만으로는 모델 DoS의 위험을 완전히 상쇄할 수 없습니다. AI 앱에는 설명 가능성의 역설도 존재하므로, 환각, 편향 및 허위 정보의 영향을 줄이는 데 도움이 되는 추적 가능성이 중요합니다.

공격자들 역시 가만히 있지 않습니다. 생성형 AI는 공격의 진입 장벽을 낮추고 사이버 범죄자와 국가 차원의 공격 캠페인을 더욱 정교하게 만듭니다. 이제 LLM 에이전트는 웹 앱과 API를 자율적으로 해킹할 수 있습니다. 예를 들어, 취약점을 사전에 알지 못해도 블라인드 방식의 데이터베이스 스키마 추출이나 SQL 인젝션처럼 복잡한 작업을 수행할 수 있습니다.

새로운 AI 위험이 큰 화제를 모으고 있지만, AI 팩토리에서 API 보안의 중요성은 아무리 강조해도 지나치지 않습니다. 이는 시급한 문제입니다. AI 앱의 API 공격 표면은 놀라울 정도로 확대되고 있습니다. 모든 CISO는 AI 거버넌스 프로그램에 API 보안을 포함해야 하며, 모든 CISO 생존 가이드의 핵심 원칙은 “보이지 않는 것은 보호할 수 없다”여야 합니다. AI 앱 이면의 인터페이스 목록을 확보하지 못했다면 위협 모델이 불완전하고 보안 태세에 허점이 있는 것입니다.

주장 #4: 방어자는 변화에 적응해야 한다

AI 애플리케이션은 역동적이고 가변적이며 예측하기 어렵습니다. AI 앱을 안전하게 도입하려면 효과성, 강력한 정책 수립, 자동화된 운영을 더욱 중시해야 합니다. 검사 기술은 보안에서 중요하면서도 지속적으로 변화하는 역할을 담당하게 될 것입니다.

특히 AI 앱 및 에코시스템의 API 보안과 관련하여, 조직은 이미 대부분 구축된 인바운드 보안 제어에 더해 아웃바운드 API 호출 및 관련 사용 사례를 위한 보안 아키텍처를 설계함으로써 타사 API의 안전하지 않은 사용 가능성이 커지는 문제에 대응해야 합니다. 예를 들어 RAG 워크플로로 인해 서비스 간 동서 트래픽이 증가하고 있으므로, 봇 관리 솔루션은 단순히 ‘사람’ 또는 ‘머신’을 식별하는 데만 의존해서는 안 됩니다. 또한 LLM 애플리케이션의 공급망은 취약할 수 있으며 학습 데이터, 모델 및 배포 플랫폼의 무결성에 영향을 미칠 수 있습니다. 이러한 요소는 타사에서 조달되는 경우가 많고 변조 또는 포이즈닝 공격으로 조작될 수 있으므로, 데이터 센터와 클라우드 전반, 엣지는 물론 코드 작성부터 테스트를 거쳐 프로덕션에 이르기까지 모든 단계에 보안 제어를 구현해야 합니다.

AI 게이트웨이 기술은 보안 및 위험 관리 팀이 프롬프트 인젝션과 민감한 정보 노출 같은 LLM 관련 위험을 완화하는 데 핵심적인 역할을 할 것입니다. 하지만 AI 보안 여정의 첫 단계는 AI 앱 수명 주기 전반에 보안을 내재화하여 AI 앱과 AI 생태계를 연결하는 API를 보호하는 것에서 시작됩니다.