타협 없이 AI 모델과 에이전트를 보호하는 방법: F5가 CalypsoAI를 인수해 완전한 AI 런타임 보호를 제공하는 방법

AI 시대에 사이버 보안 관리가 그 어느 때보다 더 어려워졌습니다. 기업들이 생성형 및 에이전트형 AI 도구를 빠르게 도입하면서 프롬프트 인젝션 공격, 데이터 유출, 규제 준수 문제와 같은 위험이 커지고 있습니다. AI 애플리케이션, 모델, API가 동적으로 긴밀히 연결되면서 공격 범위가 늘어나고, 규제 감시가 강화되며, 운영 상의 빈틈이 발생합니다.

기존 단일 보안 도구는 복잡하고 빠르게 변화하는 AI 위협 환경을 따라잡기 어렵습니다. 기업은 강력한 도구를 신속하게 운영에 통합하는 동시에 규정 준수, 민감 데이터 보호, 그리고 운영 지연 방지를 모두 책임져야 합니다.

F5는 AI 워크플로우를 보호하면서도 속도, 사용자 경험, 확장성을 포기하지 않는다고 믿습니다. 그래서 AI 시스템에 적응형 보호, 실시간 위협 모니터링, 감사 준비 거버넌스를 제공하는 엔터프라이즈 AI 보안의 선두주자 CalypsoAI 인수를 기쁘게 발표합니다. 이번 인수로 F5는 모든 앱과 API, 이제는 AI 모델과 에이전트를 어디서나 완벽하게 보호하는 최초의 기업이 되었습니다.

CalypsoAI와 함께 기업 AI 보안을 새롭게 정의하여, 조직이 위험을 줄이면서 안전하게 확장하고 규제를 간소화하며 고성능 AI 워크플로우를 제공합니다. CalypsoAI의 기능을 F5 애플리케이션 전달 및 보안 플랫폼(ADSP)에 통합해, 기업들은 세계에서 가장 포괄적인 종단 간 AI 보안 솔루션에 접근하여 파일럿 단계부터 운영 단계까지 AI 시스템을 안전하게 보호할 수 있습니다.

CalypsoAI의 CTO 제임스 화이트와 F5 혁신 총괄 책임자 쿠날 아난드와 함께 혁신적인 솔루션이 AI 시스템 전체 수명 주기 동안 엔터프라이즈 AI 보안을 어떻게 간소화하는지 논의했습니다.

제임스 화이트: 감사합니다! CalypsoAI는 조직이 AI를 자신 있고 안전하게 도입하도록 돕는 데 언제나 전념해 왔습니다. 기업이 AI를 빠르게 확장하면서 적대적 공격, 악성 모델 행동, 정책 위반, 그리고 끊임없이 변화하는 규정 준수 요구 같은 위험이 높아집니다. AI 변화 속도가 너무 빨라 전통적인 도구로는 이런 위험을 막기 어렵고, 이에 따른 보호와 관리에 공백이 생깁니다.

우리는 AI 성숙도 모든 단계에 맞춰 AI 워크플로를 안전하게 보호하는 솔루션을 제공합니다. AI Red Teaming을 통한 사전 공격 테스트, 런타임 검사 및 집행 같은 실시간 방어 솔루션, 그리고 GDPR과 EU AI 법을 준수하는 중앙 집중식 관찰과 규정 준수 기능을 포함합니다.

F5에 합류하면서 저희는 비전을 넓히고 이러한 기능을 하나의 통합 플랫폼에 완벽하게 결합해, 기업이 보안은 유지하면서 AI를 테스트하고 배포하며 확장할 수 있도록 지원합니다.

쿠날 아난드: AI는 단순한 작업 부하가 아닙니다. 전통적 보안을 우회하는 새로운 역동적 공격 표면입니다. 수십 년간 F5는 애플리케이션과 사용자를 잇는 핵심 연결점 역할을 해왔습니다. AI 모델, 에이전트, 데이터 흐름 보안은 우리 핵심 사명을 자연스럽게 확장하는 일입니다.

저희 비전은 코드와 API, 그리고 최신 애플리케이션을 구동하는 AI 구조까지 안전하게 지키는 하나의 적응형 플랫폼입니다. CalypsoAI의 AI 기반 보안을 ADSP에 통합해 그 비전을 현실로 만들고 있습니다. 단순히 새로운 기능을 추가하는 차원이 아닙니다. 애플리케이션의 기본 구조에 AI 보호를 깊숙이 내장하는 일입니다. 기업은 이제 AI를 이용해 사업을 설계하고, 그 위험에 대응하는 것을 넘어서 나아갑니다. 이것이 변화를 주도하는 리더와 단순 참여자의 차이입니다.

제임스 화이트: 기업이 새로운 AI 스택을 도입하면서 AI 워크플로는 독특한 문제를 가져오는 동적인 공격 영역을 만듭니다:

• AI 취약점: 위험에는 즉각적인 주입 공격, 데이터 오염, 적대적 조작 등이 있으며, 이는 AI 시스템의 무결성을 손상시킬 수 있습니다. 보안 전문가들이 지적하는 가장 시급한 과제 중 하나는 섀도우 AI의 증가입니다. 섀도우 AI는 타사 AI 서비스를 무단으로 사용함으로써 데이터 유출 및 운영 사각지대와 같은 위험이 커집니다. 전문가들은 AI의 데이터 수요와 사이버 보안 원칙의 균형을 맞추는 것이 종종 기업이 효과적인 AI와 강력한 보안 중 하나를 선택하도록 하는 상충 관계를 초래한다고 강조합니다.
• 규정 준수 격차: GDPR과 EU AI법은 중앙 집중식 감독과 책임 강화를 요구하지만, 많은 조직이 AI 시스템 규정을 효율적으로 관리할 도구를 갖추지 못했습니다.
• 섀도우 AI: 타사 AI 서비스를 무단으로 사용하거나 감시하지 않으면 데이터 유출과 운영상의 사각지대 위험이 커집니다.
• 분산된 보안 도구: 많은 기업이 통합되지 않은 도구나 수동 작업에 의존하여 비효율과 병목 현상을 겪고 있습니다.

CalypsoAI의 맞춤형 솔루션을 F5 ADSP에 통합하면 파일럿 단계부터 프로덕션까지 각 단계에서 적극적이고 실시간으로 보호합니다.

쿠날 아난드: 우리는 전체 수명 주기를 아우르는 AI 보안을 제공합니다. 세 가지 즉각적인 이점을 누릴 수 있습니다:

• 배포 전에 모델을 견고하게 만드세요. 자동으로 지속적인 레드팀 테스트를 수행한다고 생각하세요. CalypsoAI는 수천 개의 적대적 프롬프트를 모델에 적용해 몇 주가 아닌 몇 시간 만에 취약점을 찾아 수정합니다. 팀은 더 강력한 시스템을 더 빠르게 배포합니다.
• 런타임 AI를 보호하세요. 단순한 로그 스캐너가 아닙니다. 데이터 경로에 실시간으로 위치해, 프롬프트 주입, 데이터 유출, 기타 공격을 성능 저하 없이 능동적으로 차단합니다. 침해를 단순히 보고하는 것이 아니라 실제로 막아냅니다.
• AI를 위한 통합 관측. AI 시스템은 블랙박스처럼 느껴져 운영상의 큰 사각지대를 만들 수 있습니다. CalypsoAI는 전체 AI 환경에서 모든 프롬프트, 응답, 데이터 상호작용을 관찰합니다. 이를 통해 불확실성을 명확한 인사이트로 바꾸어 팀이 문제를 해결하고 드리프트를 감지하며, AI 동작의 완전한 감사 기록을 유지할 수 있게 돕습니다. 보이지 않는 것은 보호할 수 없습니다.

제임스 화이트: 우리는 적극적이고 지속적인 방식을 고수합니다. 예를 들어 개발 과정에서, 우리의 Red Teaming 도구가 적대적 공격을 시뮬레이션하여 AI 시스템을 압박 테스트하며, 배포 전에 취약점을 해결했는지 확인합니다. 배포 후에는 실시간 모니터링과 런타임 보호 시스템이 이상 행동과 데이터 유출 같은 공격을 즉시 탐지하고 대응합니다.

계층 보안 접근법은 기업이 파일럿에서 생산 단계까지 위험을 방어하고, 규정 준수를 간소화하며, AI 혁신을 안전하게 가속할 수 있도록 도구를 제공합니다. CalypsoAI는 배포 후 AI 모델 보안 분야에서 확고한 업계 전문가입니다. 당사의 솔루션은 세계에서 가장 널리 사용되는 생성 AI와 에이전트 AI 모델의 취약성을 측정하고 벤치마킹하는 독보적 통찰을 제공합니다. CASI 보안 지수와 Agentic Warfare Resistance 리더보드는 각 분야별 상위 10개 모델을 순위화하여, 기업이 어떤 모델을 도입할지와 그에 따른 내재적 위험을 명확히 파악하도록 돕습니다.