AI의 속도에 발맞추는 보안

AI 보안 동향: 최근 웨비나의 주요 인사이트

AI가 얼마나 발전했는지 궁금하신가요? 윌 스미스가 스파게티를 먹는 영상 테스트를 떠올려 보세요. 5년도 채 되지 않아, 제한적인 텍스트 기반 AI에서 에이전트형 AI가 점점 더 널리 활용되는 시대로 접어들었습니다.

오늘날 많은 조직이 다양한 방식으로 웹 애플리케이션에 AI를 도입하고 있습니다. 하지만 이처럼 빠르게 변화하는 환경에서 AI 애플리케이션을 어떻게 적절히 보호할 수 있을까요? 전 세계적으로 AI 성숙도가 높아지면서 보안 실무자들이 우려하는 AI 관련 문제도 특정 사안에 집중되기보다 여러 영역에 고르게 분포하는 양상을 보이고 있습니다. ​

최근 진행된 웨비나 "변화의 속도에 발맞추는 AI 보안"에서 Mark Toler와 David Warburton은 이러한 새로운 현실을 형성하는 과제와 해결 방안에 대해 획기적인 인사이트를 공유했습니다. 깊이 있는 생각을 이끌어낸 이번 세션의 핵심 내용을 정리했습니다.

1. AI 보안에 대한 인식의 변화

마크는 먼저 보안 실무자들이 현재 AI를 어떻게 바라보는지 살펴보았습니다. 그의 팀은 주요 사이버 보안 포럼의 사용자 대화를 분석하도록 훈련된 여러 AI 언어 모델을 결합해 시급한 우려 사항을 추려냈습니다.

그는 전반적으로 업계가 관리되지 않는 AI 배포에서 고객이 직접 관리하는 솔루션으로 전환하고 있으며, 이는 AI 통합을 다루는 역량이 점차 성숙해지고 있음을 보여준다고 언급했습니다. 하지만 섀도 AI와 AI 시스템에 부여된 과도한 자율성 등의 우려는 여전히 주요 과제로 남아 있습니다.

2. AI로 인한 위협의 급속한 확산

웨비나에서는 진화하는 위협 환경을 조명하며, AI 시스템이 어떻게 더욱 정교한 공격을 가능하게 하는지에 주목했습니다. 공격자들은 AI를 활용한 블라인드 SQL 인젝션 공격부터 대규모 취약점 탐지 및 악용 자동화에 이르기까지, 이러한 첨단 도구를 전례 없는 방식으로 활용하고 있습니다. 이로 인해 복잡한 사이버 공격의 진입 장벽이 낮아져, 기술 수준이 낮은 공격자도 심각한 위협을 가할 수 있게 되었습니다.

3. 실용적인 해결책: Guardrails와 레드팀 테스트

이러한 위협에 대응하는 데에는 F5 AI Guardrails 및 AI Red Team 과 같은 솔루션이 중요한 역할을 합니다. 기존의 침투 테스트로는 광범위한 AI 공격 패턴을 따라잡기 어려운 반면, AI 레드팀 활동은 핵심 도구로 자리 잡고 있습니다. 이러한 AI 기반 접근 방식은 테스트 속도를 높이고 실제 공격 시나리오를 시뮬레이션하여 실무자가 선제적으로 방어 체계를 강화할 수 있도록 지원합니다.

또한 가드레일은 AI 시스템이 프로그래밍된 범위를 벗어나지 않도록 방지하는 핵심 도구입니다. Mark는 AI 보안을 위한 내부 관행으로서 시스템이 기능 수행에 필요한 리소스에만 접근하도록 보장하는 '최소 권한 접근'의 중요성을 설명했습니다. 이를 맞춤형으로 설정할 수 있는 AI 가드레일과 결합하면 프롬프트 인젝션, 탈옥 공격 및 기타 취약점에 대한 강력한 방어 체계를 구축할 수 있습니다.

4. 새로운 과제: 사람과 AI의 트래픽 구분

또 다른 시급한 논의 주제는 사람과 AI의 트래픽을 구분하는 문제였습니다. 비인간 ID가 점점 더 보편화되면서, 모델 컨텍스트 프로토콜(MCP)과 에이전트 게이트웨이 프로토콜(AGP) 같은 새로운 프로토콜이 커져 가는 이 문제를 해결할 유망한 대안으로 떠오르고 있습니다. 하지만 아직 업계의 합의가 이루어지지 않은 만큼, 앞으로의 발전 방향을 주목해야 할 분야입니다.

5. LLM 보안 정량화

웨비나에서 David는 F5의 월별 CASI 및 ARS 점수를 강조했습니다. 이 점수를 활용하면 수십 개의 주요 LLM을 대상으로 성능, 취약성, 보안 효과를 평가할 수 있습니다. 또한 조직이 비용, 속도, 보안 기능을 기준으로 모델을 비교하여 사용 사례에 가장 적합한 모델을 선택하는 데 도움이 됩니다. David는 시중의 다양한 LLM을 자세히 설명하며, 합리적인 비용과 높은 성능 및 보안 사이에서 균형을 잡는 것이 중요하다고 강조했습니다.

결론:

AI는 엄청난 잠재력을 지니고 있지만, 그에 못지않게 큰 위험도 수반합니다. 따라서 보안 팀은 AI와 AI 보안 도구가 실제로 무엇을 제공할 수 있는지에 대해 과장된 기대와 현실을 구분해야 합니다.

조직은 AI Guardrails 및 AI Red Team과 같은 첨단 도구를 활용하고 최소 권한 접근과 같은 원칙을 도입함으로써 급변하는 환경에서 앞서 나갈 수 있습니다. AI 보안의 미래는 선제적 조치, 강력한 거버넌스, 그리고 지속적으로 발전하는 모범 사례에 달려 있습니다.

더 자세히 알아보고 싶으신가요? 온디맨드 웨비나 전체 영상을 시청하고 Mark와 David의 이야기를 직접 들어보세요.