F5 AI Guardrails와 F5 Red Team으로 책임 있는 AI 확장

F5 ADSP | 2025년 12월 04일

F5는 최근 두 가지 새로운 AI 보안 제품인 F5 AI Guardrails 및 F5 AI Red Team을 발표했습니다. 이번 발표는 업계 규제 기관들이 소비자 서비스 제공을 위한 AI 활용에 대한 감독을 강화하고 있는 중요한 시점에 이루어졌습니다.

널리 알려진 EU AI 법과 같이 AI에 특화된 규제도 있지만, 여러 관할권의 규제 기관은 기존 규제 체계를 활용하여 기업이 AI를 책임감 있게 사용하도록 하고 있습니다. 따라서 AI에 특화된 규제가 없는 관할권에서도 기업이 자사의 기술 스택에 AI 혁신을 도입해 운영하려면 여전히 상당한 규제 준수 부담을 안게 되는 경우가 많습니다. 또한 대규모 언어 모델(LLM)을 비롯한 많은 모델은 블랙박스 방식으로 작동하므로, 공정성, 투명성, 설명 가능성에 관한 기업의 규제 준수 의무를 고려할 때 이러한 모델을 활용하기가 더욱 까다롭습니다.

F5 AI Guardrails와 AI Red Team은 F5 Application Delivery and Security Platform (ADSP)에 새롭게 추가된 솔루션으로, 기업이 AI 모델의 입력과 출력을 더 잘 이해하고 상관관계를 파악하며, 편향을 제거하고 사람의 감독을 강화할 수 있도록 강력한 규정 준수 제어 기능을 제공합니다.

이 모든 작업은 몇 번의 클릭만으로 수행할 수 있으며, 이를 통해 이러한 인사이트를 능동적인 방어 수단으로 전환하여 AI 모델이 조직의 규정 준수 의무와 책임감 있고 윤리적인 AI 사용을 위한 내부 기준을 충족하도록 할 수 있습니다. 법적 또는 규제 관련 위험 요인으로 인해 AI 도입을 미루고 있는 기업에는 획기적인 진전입니다.

모든 사용 사례에서 AI 모델의 위험 요인을 간소화하고 완화하세요

F5 AI Guardrails의 기능은 조직이 AI 거버넌스 전략을 강화하는 데 핵심적인 역할을 합니다. AI가 사람들의 삶에 직접적인 영향을 미치는 경우에는 언제나 이러한 전략이 매우 중요합니다. 예를 들어, AI를 활용해 대출 신청을 심사하려는 금융 기관을 생각해 볼 수 있습니다. AI가 인간 심사자라면 승인했을 대출을 거절할 때마다 이러한 기관은 위험에 노출될 수 있습니다. 하지만 정작 모델이 대출을 거절하는 이유를 파악하는 데 유용한 도구는 극히 드물다는 점이 문제입니다. 사용 전에 모델을 철저히 테스트하더라도 설명 가능성이 부족하다면 규제 심사를 통과하거나 조직 자체의 투명성 요건을 충족할 수 없습니다.

“법적 또는 규제상 위험 요인으로 인해 AI 도입을 주저하는 기업들에게 이는 혁신적인 진전입니다.”

조직은 AI 모델을 처음 배포할 때 모델을 철저히 테스트하고 검증하여 민감한 정보를 유출하거나 편향을 재현하거나 기업이 법적 책임을 질 수 있는 불공정한 결정을 내리는 등 의도에서 벗어난 행동을 하지 않도록 하고자 합니다.

F5 AI Red Team은 AI 시스템에 대한 포괄적이고 전략적인 테스트를 제공합니다. 시스템을 대상으로 대규모 자동화된 적대적 테스트를 수행하여 명백한 행동과 취약성은 물론 쉽게 드러나지 않는 행동과 취약성까지 식별함으로써 팀이 모든 위험을 종합적으로 파악할 수 있도록 합니다. 이러한 레드팀 테스트 기능은 매월 10,000개 이상의 새로운 공격 프롬프트가 추가되는 업계 최고 수준의 데이터베이스를 기반으로 합니다. 기업은 자체 테스트를 작성하여 모델이 업데이트되어도 일관된 행동을 유지하도록 할 수 있습니다. 이를 통해 팀은 모델이 예상대로 작동하는지 확인하고, 테스트 결과를 바탕으로 데이터 보안, 위협 관리 및 거버넌스 전략을 수립하고 조정하여 새로운 위험에 선제적으로 대응할 수 있습니다.

F5 AI Guardrails를 사용하면 조직은 프롬프트와 응답 간의 상관관계를 파악하고, 주제별 프롬프트 수가 특정 수준에 도달하면 알림이 발생하도록 설정하며, 중요 프롬프트를 평가 및 수정 대상으로 지정할 수 있습니다. 이 솔루션은 AI 거버넌스 팀에 필요한 사람의 감독 및 기록 관리 도구를 제공합니다.

F5 AI Red Team은 모델이 특정 방식으로 행동하는 이유를 거시적으로 파악할 수 있는 시각과 함께, 특정 추론을 도출하는 데 프롬프트 내 어떤 특성이나 토큰이 가장 큰 영향을 미쳤는지 설명하는 데 도움이 되는 세부적인 시각도 제공합니다. 앞서 언급한 금융 서비스 사례로 돌아가 보면, 기업은 AI Red Team 기능을 사용하여 대출 신청서의 어떤 데이터가 모델의 추론이나 결과에 가장 큰 영향을 미쳤는지, 의사결정 과정에서 어떤 특정 데이터 소스에 가장 크게 의존했는지 파악할 수 있습니다. 이를 통해 조직은 모델의 작동 방식을 파악하고, 가중치가 과도하거나 부족하게 부여된 특성을 식별하며, 추가 재학습이나 미세 조정을 위한 피드백을 제공하는 데 활용할 수 있는 더 많은 데이터 포인트를 확보하게 됩니다. 또한 감사 및 규정 준수 활동을 지원하는 문서를 신속하게 생성할 수 있습니다.

AI 도입 장벽을 제거하고 규정 준수를 가속화하세요

간편함은 핵심적인 차별화 요소입니다. 이 포인트 앤 클릭 솔루션은 맞춤형 도구를 자체 개발할 필요 없이 F5 ADSP의 다른 기능을 보완하여, 단순한 표준 준수를 넘어 민첩한 테스트, 모니터링 및 미세 조정을 지원합니다. 조직은 규제상의 제약 속에서도 AI 이니셔티브와 복잡한 여러 AI 모델의 배포를 가속화하고, 소비자 개인정보 보호와 공정성을 자사 서비스의 핵심 기반으로 삼을 수 있습니다.

AI 사용에 관한 명시적인 규정이 아직 마련되지 않은 환경에서도 규제 당국이 기존 법적 체계를 재해석하여 AI 프로세스에 적용하고 있다는 점에 주목해야 합니다. 금융 서비스를 다시 예로 들면, 규제 당국은 현재 1970년에 제정된 공정신용보고법(FCRA)을 기준으로 기업의 AI 사용을 평가하고 있습니다. AI Guardrails는 조직이 현재의 규제 요건을 충족하는 동시에 향후 도입될 수 있는 새로운 규제에도 더욱 효과적으로 대비할 수 있도록 지원합니다.

규정을 준수하고 투명하며 리스크를 최소화하는 AI 도입 가속화

이번 인수와 F5 ADSP 기능 확장을 통해 조직은 AI의 블랙박스 문제를 해결하는 데 필요한 역량을 확보하는 동시에 규제 기관에 자사의 위험 관리 태세와 데이터 거버넌스를 입증할 수 있게 됩니다. 이제는 고위험으로 여겨졌던 가치 높은 AI 활용 사례도 적절한 가드레일, 사람의 모니터링, 설명 가능성 도구를 통해 구현할 수 있습니다. F5는 모든 환경에 맞게 설계된 포괄적인 플랫폼과 간편한 도구로 조직이 이러한 목표를 더 빠르게 달성하도록 지원합니다.

자세한 내용은 이전 블로그 게시물을 참조하세요.

공유

작성자 소개

Tom Johnson
Tom Johnson글로벌 제품 및 개인정보 보호 법률 고문 | F5

Tom Johnson의 다른 블로그 게시물

관련 블로그 게시물

F5 NGINX Gateway Fabric로 AI 제공 표준화
F5 ADSP | 2026. 06. 19.

F5 NGINX Gateway Fabric로 AI 제공 표준화

F5 NGINX Gateway Fabric이 기업의 Kubernetes 트래픽 표준화, 애플리케이션 보안 강화, 대규모 AI 추론 준비를 어떻게 지원하는지 알아보세요.

F5의 CalypsoAI 인수 발표, TRiSM 프레임워크 구축을 향한 행보
F5 ADSP | 2025. 09. 12.

F5의 CalypsoAI 인수 발표, TRiSM 프레임워크 구축을 향한 행보

F5의 CalypsoAI 전략적 인수를 통해 조직은 보안, 개인정보 보호 및 운영 통제력을 유지하면서도 안심하고 AI를 도입할 수 있습니다. 자세한 내용은 블로그에서 확인하세요.

사이버 복원력: LLM을 위한 OWASP Top 10 위험 완화
F5 ADSP | 2025. 04. 17.

사이버 복원력: LLM을 위한 OWASP Top 10 위험 완화

OWASP가 2025년 LLM 및 생성형 AI 앱을 위한 10대 위험 및 완화 방안을 발표하면서 업계에 절실히 필요했던 보안 기준이 마련되었습니다. 하지만 실행이 뒤따르지 않는 기준은 아무 의미가 없습니다. F5 AI 런타임 보안 솔루션은 OWASP 10대 위험의 80%에 대응하며, 현실에서 가장 시급한 위험을 우선적으로 해결합니다. 이 솔루션은 실시간 런타임 보호 기능을 결합하여 […]

석유 및 가스 산업을 위한 AI 보안
F5 ADSP | 2025. 01. 01.

석유 및 가스 산업을 위한 AI 보안

AI는 지질 모델링과 시추 최적화부터 파이프라인 모니터링, 예측 유지보수, 원자재 거래에 이르기까지 석유 및 가스 산업을 재편하고 있습니다. 하지만 이러한 미션 크리티컬 활용 사례에는 높은 위험도 따릅니다. 당사의 AI 런타임 보안 솔루션은 검증을 위한 레드팀, 보호를 위한 Guardrails, 그리고 내장된 관측 가능성을 통해 석유 및 가스 산업을 안전하게 보호합니다. […]

인사 부서를 위한 AI 보안
F5 ADSP | 2025. 01. 01.

인사 부서를 위한 AI 보안

AI는 HR을 혁신하고 있습니다. 기업들은 비용을 절감하고 직원 경험을 개선하기 위해 AI 기반 채용 코파일럿, 온보딩 도우미, 직원 지원 챗봇, 인력 분석 도구를 도입하고 있습니다. 하지만 HR 애플리케이션에는 규정 준수 실패, 편향 논란, 평판 훼손으로 이어질 수 있는 고유한 위험도 존재합니다. 당사의 AI 런타임 보안 솔루션은 다음과 같은 방식으로 HR 분야를 보호합니다. […]

기업 법무 관리를 위한 AI 보안
F5 ADSP | 2025. 01. 01.

기업 법무 관리를 위한 AI 보안

AI는 계약 검토 및 증거개시 자동화부터 규제 준수 모니터링과 민감한 지식재산 관리에 이르기까지 기업 법무팀의 업무 방식을 혁신하고 있습니다. 그러나 법률 환경은 AI 도입 시 가장 큰 위험이 따르는 분야 중 하나입니다. 당사의 AI 런타임 보안 솔루션은 검증을 위한 레드팀, Guardrails 등 세 가지 접근 방식으로 기업 법무 관리를 보호합니다 […]