엔터프라이즈 배포에서 대규모 언어 모델 권한 관리의 중요성

F5 Newsroom Staff

ChatGPT와 Claude 같은 대규모 언어 모델(LLM)은 2022년 말과 2023년 초에 등장해 AI의 위력에 대한 인식을 폭발적으로 확산시켰습니다. 많은 기업은 이 기술이 월드 와이드 웹이나 클라우드의 등장에 버금가는 혁신을 가져올 잠재력이 있음을 즉시 알아차렸고, 안전이나 보안은 거의 고려하지 않은 채 그 힘을 활용하려 했습니다. 반면 다른 기업들은 어떻게 적응해야 할지 몰라 답답한 망설임에 빠졌고, 일부는 그저 아무런 대응도 하지 못했습니다.

LLM은 등장 이후 조직의 투자 전략 및 마케팅 전술 수립 방식부터 기업 운영 혁신, 법률 문서 작성에 이르기까지 생태계를 완전히 바꾸어 놓았습니다. 모델 자체도 계속 변화해 왔습니다. ChatGPT와 Bard 같은 대규모 공개 기반 모델에서 Harvey와 BloombergGPT 같은 미세 조정된 산업 특화 모델로 발전했으며, 점점 더 많은 조직이 직접 미세 조정하거나 검색 증강 생성(RAG) 모델을 구축하는 단계로 나아갔고, 최근에는 내부 모델로까지 발전했습니다. 이러한 최신 발전은 그 자체로 주목할 만한 현상입니다. 내부 모델은 조직, 부서 또는 팀 내에서 특정 업무를 수행할 목적으로 독점 데이터를 사용해 학습됩니다.

RAG 프로세스는 법률 문서, 고객 서비스 기록, 마케팅 캠페인과 같은 기업의 특정 데이터를 모델에 입력하고, 패턴과 기타 콘텐츠를 식별하고 분석하도록 모델을 학습시키며, 성능 기준을 충족할 때까지 반복적으로 개선한 다음, 해당 모델을 본래의 목적에 맞게 사용하는 과정으로 이루어집니다. 내부 RAG 및 미세 조정 모델을 사용하면 지정된 인원만 모델과 해당 데이터에 접근할 수 있도록 하는 정책 기반 접근 제어(PBAC)를 적용할 수 있습니다. 조직이 Active Directory 및 기타 권한 관리 시스템을 사용해 데이터 접근 권한을 구분하고 통제하는 것처럼, 정보와 모델에 대한 접근 권한도 회사 정책, 비즈니스 요구 사항 또는 기타 기업별 기준에 따라 팀이나 개인 단위로 구분할 수 있습니다. 기업 전반에서 AI 모델의 활용이 계속 확대됨에 따라 권한 관리는 비즈니스 운영의 중요한 요소이자 LLM 보안의 핵심 요인으로 계속 자리매김할 것입니다.

• 민감한 데이터 보호, 지적 재산, 법률 문서, 개인 식별 정보(PII) 및 기타 기밀 콘텐츠는 해당 정보에 대한 접근 권한을 정식으로 승인받은 직원이나 관계자에게만 부여할 때 더욱 쉽게 보호할 수 있습니다. 보안 계층이 강화될수록 데이터 도난 위험은 감소합니다. 
• 달성하고 추적하며 유지하는 작업은 규정 준수(데이터 개인정보 보호 및 보안 규정, 자동화된 의사 결정 등에 관한 업계 표준, 회사의 허용 가능한 사용 정책, 기타 지침 준수 포함) 소규모 그룹과 협업하고 구체적이거나 다양한 요구 사항을 다룰 때 더욱 수월해집니다. 
• 모델 사용에 대한 비용 구조는 안정화되기 전까지 계속 변동할 것이므로, 리소스 할당은 모델 권한 설정이 제공하는 주요 이점 중 하나입니다. 모델에 액세스할 수 있는 팀이나 직원 수를 제한하면 컴퓨팅 리소스 사용을 효율적으로 제어할 수 있으며, 조직은 모델 라이선스, 구독 또는 사용자 수를 적정 규모로 조정할 수 있습니다. 이는 여러 모델을 사용할 때 더욱 중요합니다. 
• 특정 사용 사례 및/또는 사용자 그룹에 따라 모델의 작업이나 활동을 맞춤 설정하는 기능은 기능을 간소화하며, 필터와 스캐너의 민감도를 맞춤 설정하는 기능을 통해 조직의 요구 사항에 부합하는 대응이 가능합니다.

생성형 인공지능(GenAI) 모델에 강력한 PBAC를 구현할 수 있다는 사실은 어떤 모델과 어떤 유형의 모델이 필요한지, 그리고 이를 전사적으로 배포하고 보호하는 방법을 여전히 고민 중인 조직에 큰 힘이 됩니다. 조직의 보안 인프라에서 중요하고 널리 이해되는 이 구성 요소는 잠재적인 보안 취약점을 줄이기 위해 민감한 데이터에 대한 불필요한 접근을 최소화하고 내부자 위협의 위험을 낮춥니다. 사용자 인증, 권한 부여 및 감사를 중앙 집중화하는 ID 및 액세스 관리(IAM) 시스템과 역할 관리 도구는 효과적인 PBAC 구현의 핵심입니다. 

그러나 기술 스프롤은 시스템 내에 너무 많은 애플리케이션과 디바이스가 제대로 통합되지 않거나 전혀 통합되지 않을 때 발생하며, 기존에는 없었을 수도 있는 취약점을 만들 수 있으므로 이로 인한 위험도 고려해야 합니다. F5 AI Runtime Security와 같이 전체를 아우르는 신뢰 계층으로 기능하면서 기업 전반에서 사용되는 모든 모델을 포괄하는 종합적인 LLM 보안 솔루션을 배포하는 것은 일반적인 다중 LLM 도입 과정에서 빠져 있는 핵심 요소입니다. 당사의 솔루션은 인프라에 어떠한 추가적인 ‘부담’도 주지 않고 기존 보안 체계와 원활하게 통합되는 단일 모델 비종속형 확장 가능 솔루션으로, 컴퓨팅 비용을 늘리거나 모델 지연 시간을 유발하지 않으면서 조직 전체의 그룹과 개인에 대해 세분화된 권한 설정 기능도 제공합니다. 

조직 내에서 LLM과 같은 고급 GenAI 모델의 활용이 점차 보편화되고 다양해짐에 따라, 배포 초기 단계부터 보안을 내재화해야 합니다. 생산성, 혁신 및 경쟁 우위를 강화하는 동시에 위험을 완화하기 위한 핵심 수단으로서 IAM과 PBAC를 통한 권한 관리를 최우선으로 고려해야 합니다.

작성자 소개

F5 Newsroom Staff

F5 Newsroom Staff의 다른 블로그 게시물