SecOps는 AI를 어떻게 평가하나요? 2부: 데이터 보호

이는 첫 번째 문제의 핵심, 즉 민감한 정보 공개에 관한 것입니다. 한 실무자는 이를 간결하게 표현했습니다. "현실적으로 말하면, 직장에서는 모두가 LLM을 활용하고 모든 종류의 민감한 정보를 프롬프트에 입력합니다." 모델이 더 큰 컨텍스트 창을 확보하고 검색 증강 생성(RAG)에 사용할 수 있는 파일 유형이 늘어나면서, 직원들은 정보에 입각한 출력을 얻는 가장 빠른 방법은 LLM에 필요한 모든 정보를 제공하는 것이라는 사실을 깨달았습니다. 이는 제로 트러스트의 필수 요소인 최소 권한의 원칙과 직접적으로 모순됩니다. 간단히 말해서, "보안과 역량 사이에는 항상 긴장이 존재합니다."

한 사용자가 말했듯 웹 애플리케이션 방화벽(WAF)과 DNS 필터링 같은 기존 도구는 결국 시간을 끄는 데 불과합니다.  “차단하면 결국 귀하의 데이터가 이런 무료 서비스로 몰리게 됩니다. 블랙리스트 문제는 언제나 두더지 잡기 놀이처럼 반복될 수밖에 없습니다.” 이것이 바로 작년 한 해 가장 많이 논의된 과제 중 하나인 섀도우 AI를 부릅니다. 새 모델은 매일 쏟아지고, 그 모델을 감싼 래퍼는 매시간 새롭게 코드화됩니다. 사용자는 자신에게 중요한 목표를 이루는 데 방해가 되는 정책을 언제나 우회할 방법을 찾아냅니다.

그림자 AI와 민감한 데이터 노출이라는 두 가지 주요 문제는 보안팀에게 최악의 상황을 만듭니다. 즉, 아무런 가시성 없이 노출이 확산되는 환경입니다. 사용자들은 주류 LLM을 이용해 읽는 시간을 줄이면서 기밀 문서를 업로드할 가능성이 있습니다. 하지만 그림자 AI 솔루션을 도입하면 SecOps 팀은 이 상호작용을 모니터링하며 다양한 위험 완화 조치를 실행할 수 있습니다. 특정 사용자에게 향후 상호작용을 더 세심하게 주시하거나, 행동이 개선될 때까지 중요한 자원 접근을 제한할 수 있습니다. 그림자 AI 솔루션이 없다면, 방화벽이나 DNS 차단 같은 전통적 대책은 사용자를 같은 기본 모델의 불투명한 래퍼로 옮길 뿐, 위험 행위의 형태, 방식, 위치에 대한 가시성을 숨기고말 뿐입니다.

보안 전문가들은 열정과 경쟁력을 좇다가 보안 측면을 간과한 기술들을 많이 경험했습니다. 클라우드 컴퓨팅은 오늘날 AI가 겪는 것과 비슷한 길을 걸었습니다. 급속한 도입과 새로운 가능성에 대한 기대, 그 뒤를 이은 광범위한 오구성, 과도한 접근 권한, 그리고 공유 책임 모델의 실패가 그것입니다. 여러분도 낯익나요? 주요 차이점은 클라우드에서는 위험에 영향을 주는 참여자가 훨씬 적었다는 점입니다. AI 보안의 새로운 과제는 클라우드 아키텍트와 엔지니어를 주된 책임자로 보던 관점을 벗어나, 모델 자체를 포함해 민감한 데이터에 접근할 수 있는 모두로 범위를 넓혔습니다.