대부분의 조직은 생성형 AI 도입을 체계적으로 계획하지 않았습니다. 한 팀은 챗봇을 구축하고, 다른 팀은 모델을 내부 데이터에 연결했으며, 이제는 에이전트가 프로덕션 환경에서 조용히 도구를 호출하고 있습니다. 시범 운영에서 실제 배포까지 숨 가쁘게 달려가는 사이, 보안은 뒤늦게 따라가야 하는 과제로 남겨졌습니다.
F5의 백서인 생성형 AI 보안: 30-60-90일 프레임워크는 바로 이러한 격차를 해소하기 위해 마련되었습니다. 이 프레임워크는 AI 보안을 조달 과정의 단순한 확인 항목이나 일회성 감사로 취급하는 대신, 팀이 단일 애플리케이션의 보안 확보에서 시작해 전체 애플리케이션을 아우르는 보안 프로그램 운영을 거쳐 자율 에이전트 보호에 이르도록 단계별로 구성된 90일 로드맵을 제시합니다.
그렇다면 이 프레임워크는 어떻게 구성되어 있을까요?
0~30일 차에는 배포 속도보다 체계적인 실행이 중요합니다
새로운 생성형 AI 애플리케이션을 개발하면 일단 출시하고 싶은 유혹이 생깁니다. 하지만 우리의 AI 보안 프레임워크는 첫걸음부터 달라야 한다고 강조합니다. 모델 선정, 레드팀 테스트, 가드레일 설계를 서둘러 넘겨야 할 걸림돌이 아니라 첫 30일 동안 집중해야 할 핵심 과제로 삼아야 합니다.
이는 먼저 모델 자체에 레드팀 테스트를 수행해 보안 기준선을 설정하고, 그 위에 애플리케이션을 구축한 다음, 모델과 애플리케이션이 결합된 시스템에 다시 레드팀 테스트를 수행해 애플리케이션이 보안을 강화했는지 아니면 약화했는지 확인하는 것을 의미합니다. 또한 기존 규제, AI 관련 규제, 사용 사례별 위협, 레드팀 테스트 결과라는 네 가지 범주에 걸쳐 가드레일을 구축해, 어느 한 범주에 명확히 들어맞지 않는다는 이유로 누락되는 사항이 없도록 해야 한다는 뜻이기도 합니다.
이 첫 번째 단계의 결과물은 반복 가능한 프로세스입니다. 새로운 제로데이 위협이 나타나면 레드팀 테스트를 다시 수행하고, 가드레일을 보완한 뒤 검증을 거쳐 재배포합니다.
30~60일 차에는 단일 앱의 보안 확보를 체계적인 보안 프로그램으로 확장합니다
애플리케이션 하나를 제대로 보호하는 것은 좋은 성과입니다. 하지만 20개의 애플리케이션을 동일한 방식과 주기로 보호하면서 동일한 수준의 감사 가능성까지 확보하는 것은 전혀 다른 문제입니다. 대부분의 조직은 바로 이 지점에서 정체됩니다.
저희 프레임워크는 임시방편으로 수행하던 보안 업무를 확장 가능한 프로그램으로 전환하는 네 가지 핵심 요소로 구성됩니다:
- 위험 등급에 따라 정해진 레드팀 활동 주기
- 여러 애플리케이션에 업데이트를 한 번에 배포하고 롤백할 수 있는 가드레일 패치 파이프라인 구축
- 실질적인 SLA를 갖춘 전체 애플리케이션 대상 제로데이 대응 프로세스 수립
- 보안 운영 담당자가 다른 위협을 조사할 때와 마찬가지로 AI 사고도 능숙하게 조사할 수 있도록 SOC 역량 강화를 지원하세요
조직이 모든 AI 애플리케이션에 대해 책임자가 누구이며 마지막으로 테스트한 시점이 언제인지 답할 수 있게 되면 두 번째 단계가 완료됩니다.
60~90일 차에는 근본적으로 다른 위험에 직면합니다
자율 에이전트는 단순히 질문에 답하는 데 그치지 않습니다. 지속적으로 실행되며, 여러 단계로 이루어진 계획을 추론하고, 도구를 통해 실제 작업을 수행합니다. 따라서 요청과 응답 방식의 애플리케이션을 위해 설계된 보안 모델을 그대로 적용하기는 어렵습니다.
우리 프레임워크가 제시하는 해법은 두 가지 핵심 개념을 중심으로 합니다. 첫째, 관측 가능성은 결과를 기록하는 데 그치지 않고 추론 과정까지 기록하는 수준으로 확장되어야 합니다. 에이전트의 모든 생각, 도구 호출, 결정을 서로 연결해 기록함으로써 사고 발생 후 검토 시 무엇이 일어났는지는 물론 어떤 과정을 거쳐 일어났는지까지 재구성할 수 있어야 합니다. 둘째, 에이전트의 추론이 위험한 방향으로 흐를 때 해당 생각을 단순히 차단하면 작업 도중 에이전트의 작동이 중단되기 쉽습니다. 이 프레임워크는 그 대신 위험한 생각을 에이전트의 생산성을 유지할 수 있는 더 안전한 생각으로 대체하는 '사고 주입(thought injection)'을 제안합니다. 여기에 도구 사용 권한이나 영향이 큰 행동에 대한 승인 절차 등 행동 수준의 통제를 함께 적용합니다. 생성형 AI 보안은 한 번 달성하고 넘어가는 이정표가 아닙니다. 지속적으로 실천해야 하는 운영 방식이며, 이 프레임워크는 AI 배포 환경의 보안 공백이 사고로 이어지기 전에 보안팀이 이러한 운영 방식을 정착시키도록 돕기 위해 설계되었습니다.
백서에서 전체 30-60-90일 프레임워크를 확인하세요. 팀에서 바로 활용할 수 있는 1~3단계 체크리스트도 포함되어 있습니다. 또한 다가오는 웨비나에도 꼭 등록하세요.
작성자 소개
James White는 엔터프라이즈 소프트웨어 업계에서 약 20년의 경력을 쌓은 뛰어난 엔지니어이자 비즈니스 리더입니다.
James White의 다른 블로그 게시물
관련 블로그 게시물
추론 경로가 곧 트래픽 경로다: AI 보안이 자리해야 할 곳
이제 AI 트래픽에는 의도와 데이터, 작업이 담깁니다. AI 보안을 적용하는 데 추론 경로가 가장 중요한 지점이 된 이유를 알아보세요.
최전선 AI를 네트워크 경계에서 차단하기: 인라인 제어가 Mythos급 모델에 맞서는 핵심 우위인 이유
포스트-Mythos 시대에 사이버 방어가 어떻게 변화했으며, 조직이 통제 지점을 바꿔야 하는 이유를 알아봅니다.
애플리케이션 딜리버리 컨트롤러가 다시 전략적 의제로 떠오르고 있습니다
AI로 인해 애플리케이션 제공의 중요성이 더욱 커지고 있습니다. F5의 Nirav Shah가 새로운 Gartner® ADC 연구와 이것이 엔터프라이즈 인프라 의사 결정에 미치는 영향에 대해 설명합니다.
증거로 입증하는 AI 보안: Gartner SRM에서 선보일 내용
Gartner SRM에서의 세션을 앞두고, F5의 제품 마케팅 담당 수석 부사장이 F5가 세 가지 실질적인 단계를 통해 조직의 AI 보안을 어떻게 지원하는지 설명합니다.
파이프라인 속도 저하 없이 AI 데이터 파이프라인을 안전하게 보호하세요
AI 데이터 파이프라인 보안은 선택 사항이 아닙니다. 그 점은 분명합니다. 하지만 이를 제대로 보호하는 방법은 훨씬 불분명하며, 훨씬 더 어려운 과제입니다.
AI 스토리지에 새로운 로드 밸런싱 접근 방식이 필요한 이유
AI 워크로드에는 새로운 관점으로 설계된 스토리지가 필요합니다. AI 특유의 데이터 액세스 패턴은 레거시 인프라에 내재된 심각한 병목 현상과 비효율성을 여실히 드러냅니다.