LLM용 OWASP 상위 10대 보안 위협에 대한 F5의 대응

OWASP LLM 애플리케이션 10대 보안 위협(2025)은 AI가 새로운 보안 및 거버넌스 위험을 초래하는 동시에 기존 애플리케이션 보호의 중요성을 한층 더 높인다는 점을 강조합니다. 조직이 AI 시범 운영에서 프로덕션 환경으로 전환함에 따라, 보안팀에는 진화하는 공격 기법에 대응하면서도 개인정보 보호 및 규정 준수 요건을 충족할 수 있는 보안 통제 수단이 필요합니다.

다음 섹션에서는 각 OWASP LLM 위험 영역에 해당하는 F5 기능을 소개합니다. F5 AI Guardrails는 모델에 구애받지 않고 AI 상호작용 전반에 걸쳐 런타임 보호와 정책 적용을 제공하며, F5 Web App and API Protection(WAAP)은 AI 워크플로를 지원하는 애플리케이션 및 API 영역을 보호하고, F5 AI Red Team 은 공격자보다 먼저 모델과 애플리케이션의 취약점을 선제적으로 평가합니다.

LLM01: 프롬프트 인젝션

프롬프트 인젝션은 사용자 입력이 모델을 조작하여 민감한 정보 유출, 무단 액세스 허용, 편향되거나 유해한 콘텐츠 생성 등의 해로운 행동을 유도할 때 발생합니다. F5 AI Guardrails는 프롬프트와 모델 출력을 모두 검사하여 악의적인 활동을 탐지하고, 위험하거나 규정을 준수하지 않는 상호작용을 차단함으로써 이러한 위험을 완화합니다. 수천 가지의 알려진 프롬프트 인젝션 기법에 대한 보호 기능을 기본으로 제공하며, 새로운 위협이 등장할 때 맞춤형 가드레일을 신속하게 만들 수 있는 인터페이스도 제공합니다.

LLM02: 민감 정보 노출

민감한 정보 노출은 양방향으로 발생할 수 있는 위험입니다. AI 애플리케이션이 사용자에게 접근 권한이 없는 데이터를 노출할 수도 있고, 사용자가 개인 식별 정보(PII)나 독점 데이터 등 시스템에서 처리하도록 허용되지 않은 민감한 정보를 입력할 수도 있습니다. F5 AI Guardrails는 PII, 결제 카드 정보(PCI), 보호 대상 건강 정보(PHI) 등 민감한 데이터 유형을 필터링하여 규정에 위배되는 상호작용을 방지함으로써 이 두 가지 위험에 모두 대응합니다. 또한 팀은 사용자 입력이나 모델 출력 또는 둘 다를 모니터링하거나 차단할 수 있도록 사용자 지정 데이터 패턴을 정의할 수 있습니다. 이 외에도 AI Guardrails는 역할 기반 접근 제어(RBAC) 그룹 프로비저닝과 같은 기존 접근 관리 기능을 지원하여 사용자 또는 그룹별로 정책 적용을 조정할 수 있습니다.

LLM03: 공급망

LLM의 공급망 취약점은 학습 데이터, 모델, 배포 플랫폼의 무결성을 위협합니다. 가장 큰 위험은 사전 학습된 타사 모델과 기본 모델을 재학습 없이 미세 조정하는 데 사용되는 저랭크 어댑터(LoRA)를 도입하는 데서 비롯됩니다. Hugging Face와 같은 플랫폼에서 수백만 개의 모델과 LoRA를 이용할 수 있게 되면서 공격 표면이 급격히 확대되고, 수많은 모델 변형 전반에서 변조와 데이터 포이즈닝의 기회가 생겨납니다. F5 AI Guardrails는 모델의 출처와 관계없이 AI 애플리케이션 전반에 일관된 정책 적용 계층을 제공합니다. 사용자, 에이전트, 애플리케이션 간의 상호작용을 검사하는 프록시로 배포되는 AI Guardrails는 공통 런타임 보안 통제를 적용하여 유해한 출력이 사용자에게 전달되기 전에 편향된 학습 데이터, 모델 간 편차, 잠재적 취약점 악용으로 인한 위험을 완화합니다. 또한 F5 AI Red Team은 대규모 공격 시뮬레이션을 수행하여 개별 모델의 고유한 위험과 행동 경향을 평가합니다. 같은 모델 계열 내에서도 위험 프로필이 크게 달라질 수 있으므로, AI Red Team은 공격자가 취약점을 악용하기 전에 신속하고 실행 가능한 취약점 인사이트를 제공합니다.

LLM04: 데이터 및 모델 포이즈닝

데이터 및 모델 포이즈닝은 학습, 미세 조정 또는 검색 데이터를 악의적으로 조작하여 출력 품질을 저하시키거나, 편향을 유발하거나, 백도어 트리거를 심는 공격입니다. F5는 F5 Web App and API Protection(WAAP)으로 외부에 노출된 애플리케이션과 API 접점을 보호하여 포이즈닝 위험을 완화합니다. Bot Defense 및 DDoS Mitigation과 같은 F5 WAAP 기능은 데이터 수집 및 피드백 워크플로에 악성 콘텐츠가 자동으로 주입되는 것을 줄입니다. 또한 API Discovery and Security는 모델 동작에 영향을 미치는 데 가장 흔히 악용되는 공격 경로 중 하나인 데이터 수집 및 검색 API를 식별하고 관리하는 데 도움을 줍니다. 이와 더불어 F5 AI Guardrails는 사용자 지정 가드레일을 통해 트리거 문구나 패턴 등 알려진 포이즈닝 징후를 탐지하고 차단하여 런타임 보완 통제 수단으로 작동할 수 있습니다.

LLM05: 부적절한 출력 처리

부적절한 출력 처리는 LLM이 생성한 출력을 충분히 검증하거나 정제하지 않은 채 후속 시스템으로 전달할 때 발생합니다. 공격자는 정교하게 조작한 프롬프트로 모델 출력에 영향을 줄 수 있으므로, 이를 통해 민감한 기능에 간접적으로 접근하거나 브라우저에서 XSS 또는 CSRF를 유발하고, 백엔드 시스템에서 SSRF, 권한 상승, 원격 코드 실행 등의 피해를 일으킬 수 있습니다. F5 AI Guardrails는 모델 출력이 사용자에게 전달되거나 후속 도구로 라우팅되기 전에 이를 검사하고, 정의된 정책에 따라 안전하지 않은 콘텐츠를 차단하거나 로깅하여 이러한 위험을 완화합니다. F5 Web App and API Protection(WAAP)은 LLM 출력을 사용하는 애플리케이션과 API에 API 탐색, 스키마 검증, 위협 방어 등 검증된 웹 및 API 보안 제어를 적용하여 위험 노출을 더욱 줄이고, 악성 페이로드가 실제 공격으로 실행되는 것을 방지합니다.

LLM06: 과도한 자율성

과도한 자율성은 모델이나 에이전트에 필요한 수준 이상의 자율성, 권한 또는 도구 접근 권한이 부여되어, 조작된 입력으로 인해 메시지 전송, 거래 실행, 데이터 유출과 같은 의도치 않은 작업이 수행될 수 있는 상태를 말합니다. F5 AI Guardrails는 모델이 요청하거나 출력할 수 있는 내용에 정책 기반 제한을 적용하고, 정책을 준수하지 않는 상호 작용이 도구나 다운스트림 시스템에 도달하기 전에 차단하여 이러한 위험을 완화합니다. F5 Web App and API Protection(WAAP)은 도구 및 플러그인 API에 인증, 권한 부여, 요청 속도 제한을 적용하는 추가 보호 장치를 제공하여, 에이전트가 안전하지 않은 작업을 시도하더라도 기반 서비스가 보호되도록 합니다.

LLM07: 시스템 프롬프트 유출

시스템 프롬프트 유출은 공격자가 시스템 프롬프트에 포함된 숨겨진 지침, 자격 증명 또는 정책 로직을 추출하고, 이를 활용해 제어를 우회하거나 공격을 확대할 때 발생합니다. F5 AI Guardrails는 사용자 입력에서 일반적인 추출 패턴을 탐지하고 차단하며, 모델이 제한된 프롬프트 내용을 반환하지 않도록 응답을 필터링하여 이러한 위험을 완화합니다. F5 AI Red Team은 모델과 애플리케이션을 대상으로 프롬프트 유출 및 시스템 프롬프트 추출에 대한 취약성을 대규모로 사전 테스트하고, 배포 전에 프롬프트, 정책, 런타임 제어를 강화할 수 있도록 실행 가능한 분석 결과를 제공합니다.

LLM08: 벡터 및 임베딩 취약점

벡터 및 임베딩 취약점은 검색 증강 생성(RAG) 및 임베딩 기반 시스템에서 공격자가 검색 콘텐츠를 조작하거나 오염시키거나 악용하여 응답에 영향을 미치고, 민감한 데이터를 노출시키거나 안전 제어를 우회할 때 발생합니다. F5 Web App and API Protection(WAAP)은 API 탐색, 스키마 적용, 봇 및 악용 방지 등의 기능을 통해 문서 수집, 컬렉션 관리, 검색 쿼리 수행에 사용되는 API를 보호하여 이러한 위험을 완화하는 데 도움을 줍니다. F5 AI Guardrails는 모델 출력에 런타임 검사와 사용자 지정 정책을 적용하여 후속 영향을 더욱 줄이고, 응답이 사용자에게 전달되기 전에 의심스러운 패턴, 안전하지 않은 콘텐츠 또는 민감한 데이터를 탐지하도록 돕습니다.

LLM09: 잘못된 정보

잘못된 정보로 인한 위험은 LLM이 부정확하거나 오해를 유발하는 출력을 생성하여 안전하지 않은 의사결정, 평판 훼손 또는 규정 준수 위반으로 이어질 때 발생합니다. F5 AI Guardrails는 고위험 콘텐츠 범주를 탐지하여 표시하거나 차단하고, 특정 응답 구조를 요구하거나, 콘텐츠의 정확성이 불확실하거나 규정에 부합하지 않는 것으로 보일 때 추가 제어 조치를 실행하는 콘텐츠 검토 가드레일을 통해 이러한 위험을 완화합니다. F5 AI Red Team은 적대적 질문과 예외적인 상황에서 AI 시스템이 어떻게 동작하는지 평가하여, 팀이 프로덕션 배포 전에 잘못된 정보 생성 경향을 정량화하고 정책과 워크플로를 조정할 수 있도록 지원합니다.

LLM10: 무제한 자원 소비

무제한 리소스 소비는 공격자나 잘못 구성된 클라이언트가 대량의 요청, 지나치게 큰 프롬프트 또는 악의적인 자동화를 통해 모델을 과도하게 사용하여 리소스 고갈, 가용성 저하 또는 예상치 못한 비용 급증을 유발할 때 발생합니다. F5 Web App and API Protection(WAAP)은 애플리케이션 및 API 계층에서 요청 속도 제한과 DDoS 완화 기능을 적용하여 악성 트래픽이 모델 인프라에 도달하기 전에 줄임으로써 이러한 위험을 완화합니다. F5 WAAP는 AI용 API 탐지 및 보안 제어 기능과 결합하여 통제되지 않는 LLM 사용으로 인한 가용성 및 비용 위험을 모두 억제하는 데 도움을 줍니다.

AI 보안은 끊임없이 변화하는 과제입니다

LLM 애플리케이션을 보호하려면 일회성 테스트나 모델 제공업체의 기본 설정만으로는 충분하지 않습니다. 효과적인 AI 보안 전략을 위해서는 런타임에 정책을 지속적으로 적용하고 LLM이 의존하는 API, 도구, 데이터 시스템을 강력하게 보호해야 합니다. F5는 다음 요소를 결합하여 OWASP LLM 애플리케이션 10대 보안 위협(2025) 전반에 대응합니다:

  1. F5 AI Guardrails - F5 AI Guardrails를 통해 데이터 유출, 악의적인 조작 및 유해한 출력을 방지하는 적응형 런타임 보안으로, 모델에 구애받지 않고 적용 가능
  2. F5 AI Red Team - F5 AI Red Team을 통한 선제적 테스트로 모델 및 워크플로별 취약점을 조기에 발견하고, 발견한 내용을 능동적 방어 조치로 전환
  3. F5 Web App and API Protection (WAAP) - 노출, 악용 및 리소스 관련 위험을 줄이기 위한 애플리케이션 및 API 제어

이러한 계층은 상호 보완적으로 작용하여 기업이 LLM 기반 경험의 발전에 발맞춰 복원력, 규정 준수, 사용자 신뢰를 유지하면서 AI를 확장할 수 있도록 지원합니다.