지난 2년 동안 수억 명의 사람들이 AI 기술을 도입하는 모습을 지켜봤습니다. ChatGPT부터 Gemini에 이르기까지 이러한 도구는 저를 포함한 많은 전문가의 일상적인 업무 흐름에 자리 잡았습니다. 엔지니어로서 저는 새로운 라이브러리를 이해하고, 복잡한 Typescript 선언을 해석하며, 다양한 기술의 모범 사례를 요약하는 등의 작업에 대규모 언어 모델(LLM)을 활용함으로써 생산성이 크게 향상되는 것을 직접 경험했습니다.
StackOverflow가 몹시 그립기는 하지만, 이제는 제 질문이나 요청에 다소 미흡하거나 모호한 부분이 있어도 언제나 올바른 방향을 제시해 주는 열정적이고 친절한 도우미가 생겼다는 사실이 정말 마음에 듭니다. LLM은 먼저 받은 질문에 답하려고 시도한 뒤 추가 설명이나 방향을 덧붙인다는 기본 원칙을 마치 마법처럼 충실히 따르는 듯합니다.
AI 도입의 과제
이전에 SurepathAI라는 이름으로 알려졌던 F5 Workforce AI Security는 다른 기술 선도 기업들과 마찬가지로 다양한 워크플로에 AI를 긴밀하게 통합해 왔습니다. 저희는 AI가 무엇을 정확히 판단하고, 무엇을 잘못 판단하며, 무엇을 확신에 차서 틀리게 답하는지 더 깊이 이해하는 데 큰 관심을 두고 있습니다. 하지만 많은 기업은 이제 막 자사 네트워크 내에서 AI가 미칠 수 있는 범위와 영향에 대해 고민하기 시작했습니다. IT 전문가와 관리자는 직원들이 이러한 도구를 사용하고 있다는 사실은 알지만, 실제로 어떤 도구가 사용되고 있는지는 파악하지 못하고 있습니다. 요컨대, 다음 사항을 제대로 파악할 수 있는 가시성이 부족합니다.
- 누가 AI를 사용하고, 얼마나 자주 사용하며, 어떤 작업에 활용하는지
- 어떤 정보를 어떤 LLM과 공유하는지
- 이러한 상호작용으로 인해 발생할 수 있는 잠재적 위험
흔히 사용되지만 실패하는 접근 방식
이러한 유형의 데이터 유출에 대한 우려가 제기되면, 많은 기업은 우선 직원들에게 LLM에 어떤 정보를 전송하는지 주의해 달라고 정중히 요청하는 공지를 작성합니다. 이 공지에는 민감한 정보나 지식 재산으로 간주되거나 그 밖에 공유해서는 안 되는 정보가 무엇인지 선의로 작성한 항목별 지침이 담깁니다.
반면, 일부 기업은 AI의 블랙박스적 특성을 우려해 모든 사용을 엄격히 금지하는 무관용 정책부터 시행하기로 합니다.
두 접근 방식 모두 실제 사용 패턴을 제대로 파악할 수 없다는 점에서 실패합니다. 구체적인 텔레메트리 데이터가 없으면 직원들이 지침을 준수하고 있는지, 생산성에 어느 정도 영향을 미치는지 알 방법이 없습니다. 직원들은 지침을 무시하거나 잘못 이해하는 경우가 많으며, 때로는 이점이 인지된 위험보다 크다고 판단하기도 합니다. AI와의 상호작용이 겉보기에는 비공개로 이루어지는 듯한 특성 때문에 이 문제는 더욱 심각해집니다. 사용자가 자신도 모르게 민감한 정보를 공유할 수 있기 때문입니다. 위험이 거의 또는 전혀 없다고 느끼면 개인 정보나 기밀 정보를 너무나 쉽게 전송하게 됩니다.
가시성이 중요한 이유
지나치게 느슨하거나 엄격한 접근 방식을 취하는 대신, AI 사용 현황을 가시화하면 기업은 충분한 정보를 바탕으로 실제 집행 가능한 결정을 내릴 수 있습니다. 가시성은 다음과 같은 일을 가능하게 하므로 매우 중요합니다:
- 회사 내 개별 직원과 각 부서에서 어떤 AI 서비스를 사용하고 있는지 파악하여 위험을 평가합니다
- 직원 및 그룹 정의와 작업 내용, 행동 및 의도를 결합한 위험 프로필 생성
- 잠재적인 민감 데이터 및 지적 재산 유출을 식별하고 출처를 추적합니다
- 유용한 사용 사례와 더 폭넓은 도입 기회를 파악하여 생산성에 대한 인사이트 확보
- 실제 사용 패턴을 바탕으로 정책 개선
이전에 SurepathAI로 불렸던 F5 Workforce AI Security에서는 다음과 같은 방식으로 이를 수행합니다:
- 엔터프라이즈 네트워크와 원활하게 통합
- 조직 전반의 AI 사용 현황에 대한 상세한 인사이트 제공
- AI를 활용하는 특정 서비스, 사용자 및 부서 식별
- 개별 작업의 의도, 내용 및 위험 분석
- 실제 사용 현황과 공개적으로 이용 가능한 수백 개의 LLM 및 AI 서비스 카탈로그를 기반으로 신뢰도 높은 위험 프로필 생성
To 가시성을 넘어
공개 서비스 카탈로그를 간단히 살펴보면 ChatGPT와 Gemini를 포함해 서비스 10개 중 6개가 사용자 데이터를 학습에 활용하며, 10개 중 4개는 별도의 검토 없이 사용할 수 있습니다. 즉, 위험하거나 악의적인 것으로 간주되는 프롬프트를 받았을 때 모델이 응답하지 못하도록 막는 기본 안전장치가 없습니다.
AI 사용 제한 정책을 수립하는 것이 훌륭한 첫걸음이라는 데는 의심의 여지가 없습니다. 투자를 확대하고 가시성을 높여 나가면서 다음 사항에 대해 정보에 입각한 결정을 내리면 보안 태세를 더욱 강화할 수 있습니다:
- 어떤 직원과 부서에 어떤 AI 서비스를 허용하거나 차단할지
- 어떤 유형의 민감한 데이터, 작업 및 의도에 위험 수준을 지정할지
- 잠재적으로 위험한 상호작용을 감지했을 때 대응하는 방법
바로 이 지점에서 이전에 SurepathAI로 불렸던 F5 Workforce AI Security가 중요한 역할을 합니다. 단 20분 정도면 귀사의 엔터프라이즈 네트워크를 당사 플랫폼에 연결하여 사내 AI 사용 현황을 즉시 파악할 수 있습니다. 어떤 서비스를 누가 사용하고 있는지, 나아가 이러한 상호작용에서 어떤 콘텐츠가 오가는지까지 확인할 수 있습니다. 직원의 업무 흐름이나 접근을 방해하지 않으면서도 유용한 정보를 수집할 수 있습니다. 현재의 AI 환경과 잠재적 위험을 비침해적인 방식으로 파악할 수 있는 방법입니다.
전반적인 기회와 위험 비교
“측정할 수 없으면 관리할 수 없다”는 논쟁에 대해 어떤 입장이든 AI에 대한 접근을 차단하면 막대한 기회비용이 발생하며, 직원들에게 AI 사용을 스스로 관리하도록 요구하는 것은 비효율적이고 시간도 많이 든다는 점은 분명합니다.
가시성을 먼저 확보하면 정책은 자연스럽게 자리 잡습니다.
작성자 소개

관련 블로그 게시물

추론 경로가 곧 트래픽 경로다: AI 보안이 자리해야 할 곳
이제 AI 트래픽에는 의도와 데이터, 작업이 담깁니다. AI 보안을 적용하는 데 추론 경로가 가장 중요한 지점이 된 이유를 알아보세요.

최전선 AI를 네트워크 경계에서 차단하기: 인라인 제어가 Mythos급 모델에 맞서는 핵심 우위인 이유
포스트-Mythos 시대에 사이버 방어가 어떻게 변화했으며, 조직이 통제 지점을 바꿔야 하는 이유를 알아봅니다.

애플리케이션 딜리버리 컨트롤러가 다시 전략적 의제로 떠오르고 있습니다
AI로 인해 애플리케이션 제공의 중요성이 더욱 커지고 있습니다. F5의 Nirav Shah가 새로운 Gartner® ADC 연구와 이것이 엔터프라이즈 인프라 의사 결정에 미치는 영향에 대해 설명합니다.

증거로 입증하는 AI 보안: Gartner SRM에서 선보일 내용
Gartner SRM에서의 세션을 앞두고, F5의 제품 마케팅 담당 수석 부사장이 F5가 세 가지 실질적인 단계를 통해 조직의 AI 보안을 어떻게 지원하는지 설명합니다.

파이프라인 속도 저하 없이 AI 데이터 파이프라인을 안전하게 보호하세요
AI 데이터 파이프라인 보안은 선택 사항이 아닙니다. 그 점은 분명합니다. 하지만 이를 제대로 보호하는 방법은 훨씬 불분명하며, 훨씬 더 어려운 과제입니다.

AI 스토리지에 새로운 로드 밸런싱 접근 방식이 필요한 이유
AI 워크로드에는 새로운 관점으로 설계된 스토리지가 필요합니다. AI 특유의 데이터 액세스 패턴은 레거시 인프라에 내재된 심각한 병목 현상과 비효율성을 여실히 드러냅니다.