기업 전반에서 대규모 언어 모델(LLM)과 기타 AI 도구가 빠르게 도입되면서 비즈니스 운영 방식이 혁신되고 생산성이 향상되고 있습니다. 그러나 이러한 도구는 조직의 공격 표면을 확대해 보안 및 규정 준수 측면에서 중대한 과제를 야기하기도 합니다. 조직은 전통적으로 강력한 거버넌스와 통제 조치보다 유용성과 시장 출시 속도를 우선시해 왔으며, AI 거버넌스의 발전도 예외는 아닙니다. 기업이 점점 더 많은 업무에 AI와 머신 러닝(ML) 기능을 통합함에 따라, 새로운 위험에 대응하고 내부 및 외부 규정 준수와 보안을 보장할 수 있는 포괄적인 AI 거버넌스 프레임워크를 구축하는 것이 매우 중요합니다.
AI 거버넌스의 필요성
AI/ML 도구가 운영, 영업, 법무, 인사 등 다양한 부문에서 널리 활용됨에 따라, CISO, CIO, CTO, CSO, CDO, 규정 준수 책임자 및/또는 법무 총괄을 포함할 수 있는 조직의 보안 리더들은 전사적 AI 거버넌스 프레임워크를 수립하고 구현해야 합니다. 이 과정은 증가하는 AI 도구 수요와 확대되는 공격 표면을 보호해야 할 필요성 사이에서 균형을 유지하는 데 매우 중요합니다.
이 과제를 수행하려면 조직의 모든 주요 기능을 대표하는 인원으로 부서 간 협업 팀을 구성하여 거버넌스 원칙에 대한 합의를 도출하고 최고 경영진을 비롯한 이해관계자의 지지를 확보해야 합니다. 팀 규모를 6~8명으로 제한하면 의사 결정과 실행 절차를 간소화할 수 있습니다. 해당 기술에 가장 깊이 관여하는 보안 책임자가 팀을 이끌어야 하지만, 이 역할은 해당 분야의 전문가가 아니라 중립성을 유지하고 편향을 배제하는 조정자 역할이어야 합니다.
현재 환경과 과제
LLM 및 기타 생성형 AI(GenAI) 제품의 급증은 기업에 비즈니스 프로세스를 개선하고, 고객 경험을 향상하며, 업무 생산성을 높일 수 있는 수많은 기회를 제공합니다. 이러한 기회에는 독점 데이터를 기반으로 업계 또는 기업별 사용 사례를 충족하는 맞춤형 자체 개발 모델의 도입도 포함됩니다. 이러한 도구의 빠른 도입과 방대한 모델 선택지 및 모델 맞춤화는 지금까지 이처럼 정교한 디지털 도구를 사용해 본 적이 없는 사용자에게 인지적 부담을 안겨 줍니다.
보안 리더는 직원, 계약업체, 고객, 의뢰인 및 기타 모든 이해관계자에게 판도를 바꾸는 이러한 솔루션을 사용할 때의 위험, 책임, 결과 및 이점에 대해 교육해야 합니다.
AI 거버넌스 프레임워크
AI 거버넌스 프레임워크를 수립할 때 보안 리더는 다음을 비롯한 몇 가지 핵심 영역에 중점을 두어야 합니다:
- 인력: 보안 리더는 합의에 기반한 AI 거버넌스의 중요성을 각 부문의 부서장, 팀장 및 실무 책임자에게 교육해야 합니다.
- 원칙: 거버넌스 원칙은 조직의 가치 및 브랜드 평판에 부합해야 하며, 명확한 비즈니스 가치 기반과 AI 관련 정책을 위한 견고한 토대를 제공하고 허용 가능한 사용 범위 및 오용에 따른 결과 등의 문제를 다루어야 합니다. 원칙의 예로는 모든 LLM 출력물에 대한 사람의 검토를 의무화하고 내부 커뮤니케이션에서 LLM 사용 여부를 명시하도록 요구하는 것이 있습니다. 이러한 원칙을 조기에 수립하면 기존 회사 정책을 개정하고 새로운 정책을 마련할 수 있습니다.
- 규제: AI 거버넌스는 유럽연합의 일반 데이터 보호 규정(GDPR) 및 캘리포니아 소비자 개인정보 보호법(CCPA)과 같은 기존 개인정보 보호법의 영향을 받는 지역, 국가 및 글로벌 규제를 고려해야 합니다. 개인정보 보호 및 규정 준수를 담당하는 경영진은 거버넌스 프레임워크에 반드시 참여하여 AI와 연계되거나 AI에 의존하는 모델, 도구 및 관행이 동의, 데이터 익명화 및 데이터 삭제에 관한 규제 기준을 충족하도록 해야 합니다.
- 윤리: AI 거버넌스는 많은 인력이 필요한 작업으로, 사람들이 사용하는 도구보다 일하는 방식에 중점을 둡니다. AI 개발에는 윤리적 고려 사항이 반영되어야 하며, 기술 설계에서 윤리적 판단은 사람이 내려야 합니다.
- 통제: AI 거버넌스에는 인간 개입을 세 단계로 구분하여 반영해야 합니다. 즉, 인간 참여형(HITL), 인간 감독형(HOTL), 인간 통제형(HIC)입니다. 이를 통해 AI 운영 전반에서 인간의 감독과 책임성을 보장하고, AI의 자율적 의사결정과 관련된 위험을 완화할 수 있습니다.
AI 거버넌스의 비즈니스 타당성
AI 거버넌스를 구현하려면 기술과 인력에 대한 투자가 필요합니다. 그러나 핵심 비즈니스 워크플로에서 LLM을 활용함으로써 얻는 생산성 향상과 인건비 절감 효과는 이러한 투자를 정당화할 만큼 클 수 있습니다. 지정된 직원이 AI 결과물에 책임을 지는 책임 체계를 수립하면 추가 지원 인력의 필요성을 최소화할 수 있습니다. 이러한 체계를 마련하고 경영진과 직원 모두의 지지를 확보하면 기업은 확장된 위험을 효율적이고 효과적이며 안전하게 관리하고, 회사의 가치와 정책에 부합하는 측정 가능한 성과를 달성할 수 있습니다.
클릭 여기에서 GenAI 보안 및 활용 지원 플랫폼 데모를 예약하세요.
관련 블로그 게시물
F5 NGINX Gateway Fabric로 AI 제공 표준화
F5 NGINX Gateway Fabric이 기업의 Kubernetes 트래픽 표준화, 애플리케이션 보안 강화, 대규모 AI 추론 준비를 어떻게 지원하는지 알아보세요.
F5의 CalypsoAI 인수 발표, TRiSM 프레임워크 구축을 향한 행보
F5의 CalypsoAI 전략적 인수를 통해 조직은 보안, 개인정보 보호 및 운영 통제력을 유지하면서도 안심하고 AI를 도입할 수 있습니다. 자세한 내용은 블로그에서 확인하세요.
사이버 복원력: LLM을 위한 OWASP Top 10 위험 완화
OWASP가 2025년 LLM 및 생성형 AI 앱을 위한 10대 위험 및 완화 방안을 발표하면서 업계에 절실히 필요했던 보안 기준이 마련되었습니다. 하지만 실행이 뒤따르지 않는 기준은 아무 의미가 없습니다. F5 AI 런타임 보안 솔루션은 OWASP 10대 위험의 80%에 대응하며, 현실에서 가장 시급한 위험을 우선적으로 해결합니다. 이 솔루션은 실시간 런타임 보호 기능을 결합하여 […]
석유 및 가스 산업을 위한 AI 보안
AI는 지질 모델링과 시추 최적화부터 파이프라인 모니터링, 예측 유지보수, 원자재 거래에 이르기까지 석유 및 가스 산업을 재편하고 있습니다. 하지만 이러한 미션 크리티컬 활용 사례에는 높은 위험도 따릅니다. 당사의 AI 런타임 보안 솔루션은 검증을 위한 레드팀, 보호를 위한 Guardrails, 그리고 내장된 관측 가능성을 통해 석유 및 가스 산업을 안전하게 보호합니다. […]
인사 부서를 위한 AI 보안
AI는 HR을 혁신하고 있습니다. 기업들은 비용을 절감하고 직원 경험을 개선하기 위해 AI 기반 채용 코파일럿, 온보딩 도우미, 직원 지원 챗봇, 인력 분석 도구를 도입하고 있습니다. 하지만 HR 애플리케이션에는 규정 준수 실패, 편향 논란, 평판 훼손으로 이어질 수 있는 고유한 위험도 존재합니다. 당사의 AI 런타임 보안 솔루션은 다음과 같은 방식으로 HR 분야를 보호합니다. […]
기업 법무 관리를 위한 AI 보안
AI는 계약 검토 및 증거개시 자동화부터 규제 준수 모니터링과 민감한 지식재산 관리에 이르기까지 기업 법무팀의 업무 방식을 혁신하고 있습니다. 그러나 법률 환경은 AI 도입 시 가장 큰 위험이 따르는 분야 중 하나입니다. 당사의 AI 런타임 보안 솔루션은 검증을 위한 레드팀, Guardrails 등 세 가지 접근 방식으로 기업 법무 관리를 보호합니다 […]