조직 맞춤형 AI 보안 정책 작성 방법

F5 ADSP | 2023년 10월 19일

소개

2022년 11월 ChatGPT가 출시된 이후, 기업 전반에서 제동을 걸거나 작동을 중단시킬 안전장치나 관리 체계도 없이 생성형 인공지능(GenAI) 모델이 빠르게 도입되는 모습을 목격해 왔습니다.

정부 기관들은 사용자와 혁신을 모두 보호하는 동시에 개별 위협 행위자, 범죄 조직, 비국가 단체, 국가 및 기업은 물론 해당 모델을 개발해 수익을 얻는 주체들의 범죄 행위나 단순한 탐욕적 행위를 방지할 수 있는 규제를 마련하는 데 어려움을 겪고 있습니다.

The LLM 거버넌스라는 어려운 과제는 CISO의 몫이 되었습니다. 조직을 위한 AI 보안 정책과 그에 상응하는 통제 체계를 마련하는 일은 매우 어렵습니다. AI와 관련된 모든 사안을 하나의 정책으로 다룰 수는 없기 때문입니다. 예를 들어 AI 관련 정책은 기존의 IT 조달, 배포, 보안 및 사용 정책을 보완하거나 확대하고, 경우에 따라서는 대체해야 합니다. 또한 문서 보존부터 지식재산권 소유, 계약서 작성에 이르는 법무 및 규정 준수 정책, 자동화된 이력서 심사 애플리케이션을 다루는 인사 정책은 물론, 회사 내 모든 기능과 사업부의 정책까지 아울러야 합니다.

이 블로그 게시물은 AI 도입 생태계에서 가장 시급한 문제인 전사적 GenAI 모델의 안전한 배포와 보안이 강화된 사용을 다루는 기본 정책을 수립하기 위한 출발점을 제공합니다. 모델에 구애받지 않는 당사의 AI Guardrails 솔루션은 아래에 제시된 정책 예시에서 확인된 여러 핵심 문제를 해결합니다.

정책 개요와 더불어, 자체 AI 보안 정책을 수립할 때 활용할 수 있는 권장 템플릿도 마련했습니다. 이러한 예시는 법률 자문에 해당하지 않습니다. AI 보안 정책을 시행하기 전에 법률 전문가와 상담하시기 바랍니다.

정책 예시

모델 통합 정책

조직 전반에 AI 모델을 배포하기 위한 첫 번째 단계는 배포 방식을 결정하는 것입니다. 이를 결정할 때 고려해야 할 사항은 다음과 같습니다:

현재 조직에 필요한 모델 수
- 초기 단계부터 추가 용량을 확보하여 사용자 수와 모델 수를 확장할 수 있도록 합니다.
모델을 공개형(ChatGPT, Claude, Bard 등), 비공개형(맞춤형 또는 Salesforce와 같은 다른 애플리케이션에 통합된 형태), 내부용 중 어떤 형태로 운영할지, 또는 이들을 조합할지 여부
조직 전체에 배포하기에 가장 적합한 플랫폼 유형은 무엇인가요? SaaS, 프라이빗 클라우드, 퍼블릭 클라우드, 온프레미스, 에어갭 또는 기타 유형
- 참고: SaaS 공급업체가 이미 사용 중인 모델이 매우 많다는 점을 고려하면, 모델을 사용하는 SaaS 애플리케이션의 이용을 제한하는 것은 현실적으로 쉽지 않습니다.
- 모든 플랫폼이 필요에 따라 확장 및 축소할 수 있는 기능을 갖추도록 하세요
네트워크 세분화
기술의 무분별한 확산을 줄이기 위한 기존 소프트웨어 및 시스템과의 호환성
중복 요소
보안 취약점

사용자 액세스 정책

어떤 사용자가 어떤 모델을 얼마나 자주, 어떤 목적으로 사용할 수 있는지 명확히 규정하세요.

사용이 직원과 계약업체로 제한됩니까? 아니면 비즈니스 파트너, 고객 등 다른 사람에게도 전체 또는 제한된 액세스 권한이 부여됩니까?
네트워크/시스템에 대한 액세스 권한을 통해 모델에 대한 전체 액세스가 허용됩니까? 아니면 모델에 세분화된 권한 또는 정책 기반 액세스 제어(PBAC)가 적용됩니까?
서로 다른 그룹이나 부서가 특정 모델 내에서 서로 다른 기능을 필요로 합니까? 아니면 일부 그룹이 특정 기능을 사용하지 못하도록 제한해야 합니까?
관리 작업을 수행할 수 있는 접근 권한 또는 권한은 어떻게/왜 부여되나요?

허용 가능한 사용 정책

모델의 사용이 허용 가능한지 또는 허용 불가능한지에 대한 기준은 조직마다 크게 다를 수 있습니다. 일반적으로 고려해야 할 사항은 다음과 같습니다:

모델을 어떻게 사용해야 하는가? 예를 들어, 기타 관련 정책에 따라 회사 업무에만 사용해야 하며, 개인적인 용도나 다른 사업체를 위한 용도(부업)로 사용해서는 안 되고, 범죄 또는 기타 불법적이거나 비윤리적이거나 위험한 용도로 사용해서는 안 되는가?
금지 용어 필터에는 어떤 용어가 포함되어야 할까요? 예를 들어, 특정 해부학 용어는 토목 엔지니어링 회사에서는 금지될 수 있지만, 제약 회사나 의료 진단 장비 회사에서는 금지되지 않을 수 있습니다.
리소스 할당 역시 활용에 영향을 미칠 수 있습니다. 배포 및 도입 초기 단계에서는 작업의 우선순위 체계를 수립해 두면 유용하며, 사용 사례와 비즈니스 요구 사항의 변화에 따라 추가 작업을 포함하도록 계획적으로 확장할 수 있습니다.

프롬프트 콘텐츠 정책

프롬프트 콘텐츠는 허용되는 사용 범위에 부합하지만, 그 적용 범위는 다릅니다. 정의해야 할 사항은 다음과 같습니다:

공개 모델을 사용할 때 허용되는 콘텐츠(예: 특정 대상을 지칭하지 않는 용어, 일반적인 질문 등)
모든 모델에서 금지되는 콘텐츠(예: 비속어, 편향적·모욕적·유해한 표현 및 기타 유사한 용어, 개인 식별 정보(PII))
공개 모델 사용 시 금지되는 콘텐츠(예: 회사 고유 용어(브랜드명, 프로젝트명 등), 회사명, 경쟁사명, 회사 문서(계약서, 이메일, 의제, 일정, 회의록, 원시 데이터, 소스 코드, 정책, 절차, 지침 등))
비공개 또는 내부 모델 사용 시 금지되는 콘텐츠(예: 급여 또는 사업 전략과 같이 소수의 내부 사용자에게만 관련된 주제)

모델 출력물 사용 정책

대부분의 공개 모델은 내부 통제 기능이 미흡하므로 모델 출력을 처리하는 것은 까다로운 문제입니다. 따라서 조직은 사용자에게 지침을 제공하는 강력한 내부 정책을 수립하고 시행해야 합니다. 고려해야 할 사항은 다음과 같습니다:

사람에 의한 검증
- 모델이 생성한 콘텐츠를 회사의 각종 문서에 포함하는 것을 비롯해 어떠한 목적으로든 사용하기 전에, 모든 모델 출력물은 해당되는 경우 정확하고 사실에 부합하며 진본임을, 또는 허구이거나 상상에 의한 것이거나 근거가 없는 내용이 아님을 사람이 직접 검증해야 합니다.
- 검증 기록에는 검증자의 이름과 타임스탬프가 포함되어야 합니다.
수정되지 않은 콘텐츠 사용
- 회사 문서에 포함하기 전에 크게 수정하지 않은 모델 출력물은 각주, 미주 또는 프롬프트 링크 등을 통해 해당 사실을 명시해야 합니다.
- 모델이 제공한 코드는 해당 코드에 사용된 특정 언어에 대한 전문 지식을 갖춘 선임 직원 [2명]의 검토와 검증 없이는 사용해서는 안 됩니다.
- 검증 기록에는 검증자의 이름과 타임스탬프가 포함되어야 합니다.

사용 모니터링 및 감사 정책

모델 도입이 보편화될수록 관찰 가능성의 중요성은 더욱 커지고 있습니다. 사용자가 무엇을 하고 있는지 파악하고 모델의 성능을 이해하는 것은 효율성과 효과를 높이는 데 핵심적입니다.

주(州)의 전자 모니터링 관련 법률에서 허용하는 경우, 이 정책은 조직의 이메일 개인정보 보호정책(예: 개인정보 보호에 대한 기대 없음)을 본떠 수립하세요.
직원들이 개인 기기 또는 회사 소유 기기에서 모델을 사용하는 경우 자동화된 애플리케이션을 통해 사용 내역이 모니터링 및 추적되며, 경우에 따라 사용자 또는 관리자에게 실시간 알림이 전송된다는 점을 이해하도록 하십시오.
- 사용자 감정과 같은 일부 정보의 추적은 특정 관할권에서 허용되지 않습니다.
- 특정 관할권 또는 특정 상황에서는 사용자 데이터를 삭제해야 할 수 있습니다.
추적되는 정보와 그 이유를 파악합니다. 예를 들어 모델 사용 매개변수(비용, 정확도 등), 콘텐츠(프롬프트/응답), 검증 또는 사용자 참여 등이 있습니다.

프롬프트/응답 기록 보존 정책

앞서 언급했듯이 사용자 상호 작용을 추적하고 감사하는 기능은 매우 유용한 여러 데이터 포인트를 제공할 수 있지만, 일부 규제 기관에서는 이러한 맥락에서 사용자 개인정보 보호를 고려하기 시작했습니다. 조직에서 관련 규정을 충분히 이해하고 적절히 준수하도록 하십시오. 고려해야 할 사항은 다음과 같습니다:

콘텐츠(프롬프트, 응답, 알림 등)의 기본 보존 기간, 특정 목적을 위해 해당 콘텐츠를 더 오래 보존할 수 있는지 여부, 그리고 이를 결정할 역할을 파악합니다.
콘텐츠 삭제 프로세스(주기, 자동 또는 수동 여부 등)를 설명합니다.
모든 프롬프트와 응답은 최소 (X 기간) 동안 보관되며, (담당 역할)이 필요하다고 판단하는 경우 더 오래 보관됩니다.

타사 SaaS 통제 정책

SaaS 제공업체를 통한 경우와 같이 타사 소프트웨어를 사용할 때는 추가적인 사항을 고려해야 합니다.

SaaS 공급업체는 자사의 애플리케이션/제품에 LLM이 사용되는지 여부와 그 사용 목적을 공개해야 합니다.
SaaS 공급업체는 엔터프라이즈 고객에게 LLM 사용 방식과 사람에 의한 검증 프로세스를 설명하는 AI 자재 명세서(ABOM)를 제공해야 합니다.
SaaS 공급업체 정책은 조달/라이선싱 프로세스와 연계된 제3자 거버넌스 기능을 통해 시행되어야 합니다.

F5의 AI 런타임 보안 솔루션에 대해 자세히 알아보려면 여기를 클릭하세요.