혼돈에서 통합으로: 디지털 난립과 AI 위험 관리

F5 Newsroom Staff

디지털 난립은 새로운 현상이 아닙니다. 아마도 대부분의 조직은 성장 과정에서 이를 경험했을 것입니다. 각 그룹과 부서는 IT 부서에 알리지 않은 채 특정 목적에 맞춘 애플리케이션, 도구 및 솔루션을 추가하며, 이러한 도구는 기존 시스템과 효과적으로 통합되지 않습니다. 때로는 IT 팀이 일부 기능이 중복되는 애플리케이션을 배포하는 한편, 다른 기능은 사용되지 않은 채 방치되기도 합니다. 사용되지 않게 된 애플리케이션이 시스템에서 좀비처럼 남는 경우도 있습니다. 완전히 사라진 것은 아니지만 업데이트되거나 제거되지도 않아 취약점이 가득한 상태가 되는 것입니다. 때로는 조직이나 조직 내 그룹만의 문제가 아니라 더 큰 환경이 영향을 미치기도 합니다. 컴퓨팅, 스토리지, 협업 등 다양한 분야에서 클라우드가 등장한 데 이어 코로나19 팬데믹과 재택근무로의 급격한 전환이 일어났고, 그 혼란스러운 시기에 시스템 거버넌스가 산발적으로 이루어지면서 모든 조직에서 디지털 난립이 폭발적으로 증가했습니다. 특히 보안 분야에서 그 영향이 두드러졌습니다.

언뜻 보면 조직의 사이버 보안 인프라 전반에 여러 도구를 배포하는 것이 합리적이고 위험을 회피하며 포괄적인 접근 방식처럼 보일 수 있습니다. 그러나 개별 보안 도구와 솔루션이 인프라 전반에 난립하면 다음과 같은 중대한 문제와 위험이 발생할 수 있습니다:

• 서로 통신하거나 정보를 공유하지 못한 채 독립적으로 운영되어 조직의 보안 태세를 종합적으로 파악하는 데 기여하지 못하는 솔루션. 이러한 파편화는 보안 이벤트와 경보를 연계하고 분석하는 역량을 저해하여 인시던트 대응 지연, 보안 인시던트 관리의 복잡성 증가, 잠재적 위협 누락으로 이어질 수 있습니다.
• 통합성과 가시성이 부족하여 데이터 흐름을 모니터링하고 제어하기 어려우며, 그 결과 민감한 데이터가 유출되거나 적절한 권한 없이 액세스될 수 있는 사각지대가 발생합니다.
• 중복으로 인해 보안 조치가 서로 충돌하거나 일관성을 잃고, 리소스가 낭비되며, 복잡성이 증가하고, 보안 시스템을 유지 관리하고 업데이트하기가 어려워집니다.
• 일관되지 않은 권한 부여 도구 및/또는 프로토콜로 인해 중요 데이터에 대한 접근 권한이 잘못된 사람에게 의도치 않게 부여될 수 있습니다.

보안 인프라를 간소화하기 위해 면밀히 검토한 후 과감하게 통합하는 것은 분명 고려할 만한 방안입니다. 하지만 이 방안에도 함정은 있습니다. 생성형 인공지능(GenAI)과 같은 신기술이 조직의 디지털 생태계에 도입되면 기존 보안 체계로는 아무런 도움을 줄 수 없습니다. 아무런 보안 조치 없이 조직 전반에 GenAI 모델이나 대규모 언어 모델(LLM)을 배포할 때 발생하는 위험은 이미 잘 알려져 있습니다. 부실하게 작성된 질의로 인한 지식 재산이나 독점 정보, 기밀 정보 또는 민감한 데이터의 의도치 않은 유출, 직원들이 평가할 역량을 갖추지 못한 LLM 응답을 통한 잘못된 코드나 악성 코드의 유입, LLM 응답에서 얻었지만 검증되지 않은 허위 또는 부정확한 정보의 무분별한 유포 등 그 밖에도 수많은 위험이 있습니다.

새로운 위험에는 새로운 대응책이 필요하다는 것은 당연합니다. 이러한 초기 단계의 대응책에는 최소한 몇 가지 기술적 솔루션과 거버넌스 프레임워크, 그리고 다음과 같은 지속적인 노력이 포함되어야 합니다:

• 프롬프트 입력과 모델 응답의 콘텐츠를 검토하고 필터링하여 악의적이거나 부적절한 콘텐츠가 포함된 경우 이를 식별하고 차단하는 전문 스캐너
• 사용자의 모델 상호작용이 조직의 가치와 기준에 부합하도록 하는 윤리 지침
• 정보가 회사 콘텐츠에 포함되기 전에 사실 여부를 확인하고 부정확한 내용이나 잘못된 정보를 표시하는 팩트체크 기능
• 공급업체 종속과 제공업체의 한계로 인한 문제를 방지하기 위한 모델 비종속성
• 보안 담당자가 실시간으로 상황을 파악할 수 있도록 시스템 전반에 대한 완전한 가시성 제공
• 투명성과 책임성을 보장하고 회사, 업계 또는 규제 요건을 준수할 수 있도록 모델의 윤리적이고 책임 있는 사용을 관리하는 포괄적인 정책 및 절차
• 권한이 부여된 담당자만 업무 수행에 필요한 모델, 데이터 및 기능에 액세스할 수 있도록 하는 역할 또는 정책 기반 액세스 제어
• 사용자와 콘텐츠 측면에서 이용 현황을 추적하고 감사하여 취약점을 식별하고 위험을 평가하며 적절한 보호 조치를 구현할 수 있는 기능.

무엇보다도 이러한 해결책은 조직의 구체적인 요구 사항, 위험 프로필 및 규제 환경에 맞게 사용자 지정할 수 있어야 합니다. F5의 모델 비종속적 AI 런타임 보안 솔루션은 LLM, 멀티모달, 검색 증강 생성(RAG), 미세 조정 모델, 내부·외부 모델, 비공개 또는 오픈 소스 모델 등 수량이나 유형에 관계없이 AI 모델을 사용하는 조직에 설치와 사용이 간편한 단일 솔루션으로 포괄적인 보안 기능을 제공합니다. F5 솔루션은 시스템 전반에 대한 완전한 가시성을 제공하여 관리자가 모든 모델과 해당 모델의 활동을 확인할 수 있도록 합니다.

F5는 강력한 가드레일을 마련하여 일반적인 위협과 새로운 위협 모두로부터 보호합니다. 예를 들어, 정책 기반 액세스 제어를 통해 관리자가 지정한 개인과 그룹만 모델에 액세스할 수 있도록 제한하는 동시에, 관리자가 모델 사용량을 모니터링하고 조절하며 모델 서비스 거부(DoS) 공격을 방지할 수 있도록 사용량 한도를 설정할 수 있습니다. 맞춤형 스캐너는 송수신 콘텐츠를 검토하여 기밀 개인 정보나 회사 데이터가 조직 외부로 유출되지 않도록 하고, 악의적이거나 의심스럽거나 그 밖에 허용되지 않는 콘텐츠가 유입되지 않도록 합니다. 그 밖의 스캐너는 회사에 해를 끼치지는 않더라도 회사의 가치에 부합하지 않거나 업무 용도에 맞지 않는 콘텐츠가 포함되어 있는지 AI 프롬프트를 검토합니다. 

모든 쿼리와 응답은 스캐너의 검토를 거쳐 조직에서 설정한 기준에 따라 민감 정보가 삭제되거나 차단 또는 승인되며, 플랫폼에서 이루어진 모든 상호작용은 관리자의 검토와 감사 가능성 및 책임성 확보를 위해 기록됩니다. 당사의 모델 비종속형 봇은 Slack, Microsoft Teams 등의 업무 도구와 원활하게 통합되어 사용자가 해당 도구 내에서 사용 가능한 모든 모델에 액세스할 수 있도록 합니다. 이를 통해 강력한 보안과 탁월한 성능을 모두 제공하는 동시에 생산성을 높이고 소통과 혁신을 촉진합니다. 이 단일 솔루션은 GenAI 모델 배포와 관련된 위험을 효과적으로 완화할 수 있는 선제적이고 포괄적인 보안 접근 방식의 견고한 기반을 제공합니다. 여기를 클릭하여 당사의 GenAI 런타임 보안 및 활용 지원 솔루션에 대해 자세히 알아보세요.

작성자 소개

F5 Newsroom Staff

F5 Newsroom Staff의 다른 블로그 게시물