업데이트: 또 다른 종류의 멀티버스: 다중 모델 및 멀티모달 통합

F5 ADSP | 2024년 8월 20일

멀티모달 AI 모델 및/또는 여러 모델을 기존 디지털 인프라에 안전하게 통합하는 문제는 대규모 언어 모델(LLM)을 비롯한 생성형 AI(GenAI)를 기업 전반에 도입해야 하는 이유와 시기, 방법을 둘러싼 논의에서 중요한 쟁점으로 떠오르고 있습니다. 이미 많은 조직이 하나 이상의 GenAI 모델을 도입했으며, 한 최근 설문조사에서는 그 비율이 약 15%에 달했습니다. 그러나 이보다 훨씬 많은 조직이 도입을 3개월에서 12개월가량 미루었고, 나머지 조직은 LLM을 자사 시스템에 도입할지 여부를 여전히 논의하고 있습니다.

ChatGPT-3.5와 같은 단일 모달 언어 모델 하나만 도입해도 콘텐츠 생성, 요약, 분석, 번역과 같은 텍스트 기반 작업에 활용할 경우 효율성과 생산성을 크게 높일 수 있습니다. 그러나 여러 모델이나 비텍스트 콘텐츠를 사용하거나 생성하는 모델을 도입하는 것은 창의적 측면에서 일종의 ‘전력 승수’ 역할을 하므로 다른 전략이 필요합니다.

멀티모달? 다중 모델?

여러 AI 모델을 배포하는 조직이 고려할 수 있는 시나리오는 매우 다양합니다. 일부 조직은 BERT와 Gemini 중 하나만 선택하는 대신 둘 다 사용하는 등, 둘 이상의 대규모 공개 LLM이 제공하는 기능을 활용하고자 할 수 있지만, 그 밖에도 선택할 수 있는 옵션은 훨씬 더 많습니다.

ChatGPT가 출시된 지 불과 1년여 만에 다음을 비롯한 다양한 유형의 새로운 모델이 등장했습니다:

금융, 법률, 제약, 소매업 등 특정 시장에 초점을 맞춘 특화 모델
서비스형 소프트웨어(SaaS) 애플리케이션에 내장된 모델
사내에서 자체 개발하고 독점 데이터로 학습한 내부 모델
검색 증강 생성(RAG) 모델은 대규모 공개 모델에 확장 기능을 추가하여 최신 정보에 접근할 수 있도록 한 모델입니다.
훨씬 적은 컴퓨팅 성능을 필요로 하며 경우에 따라 개인용 컴퓨터에서도 실행할 수 있는 소형 언어 모델(SLM)

이제 일반적인 인식이 되었습니다 AI 업계 관계자들 사이에서는 모델을 생성하고 학습시키며 유지 관리하는 일이 더 쉽고 저렴해짐에 따라, 향후 몇 년 안에 대기업들이 조직 전반에 걸쳐 수백 개에 이를 수도 있는 수많은 모델을 배포할 것이라는 것이 일반적인 인식이 되었습니다.

새로 배포되는 모델 중 상당수는 (최신 버전의 ChatGPT 등을 비롯한) 멀티모달 모델일 가능성이 높습니다. 즉, 음성, 텍스트, 오디오, 이미지, 동영상, 코드 등 다양한 형식의 쿼리를 입력받아 동일하거나 다른 형식의 콘텐츠를 생성할 수 있습니다. 예를 들어 사용자가 모델에 음성으로 지시하여 그래프, 이미지 또는 오디오 클립과 같은 특정 형식의 콘텐츠를 생성하도록 할 수 있습니다.

증폭되는 위험

여러 모델과 멀티모달 모델을 조직 구조에 통합하면 막대한 이점을 얻을 수 있으며, 개발자, 분석가, 일반 사용자 및 고객 차원에서 새로운 활용 사례가 계속 확대되고 있습니다. 그러나 그에 따른 위험 역시 결코 과소평가해서는 안 되며, 통합 전에 반드시 해결해야 합니다.

조직의 디지털 인프라에 AI 도구를 추가하면 공격 표면이 즉시 확대되며, 멀티모달 모델을 도입할 경우 상황이 더욱 복잡해질 수 있습니다. 멀티모달 모델의 아키텍처에는 수많은 진입점이 존재하며, 이러한 진입점은 공격자에게 악용될 수 있습니다.

마찬가지로 모델이나 AI 시스템의 일부 모달리티 보안에만 집중하고 다른 모달리티를 간과하면 멀티모달 시스템의 보안 태세에 사각지대가 생길 수 있습니다. 공격자는 보안이 취약한 포털을 통해 시스템에 침입하거나 모델의 응답에 악성 코드를 삽입하는 등 언제나 가장 취약한 고리를 악용합니다.

전 세계적으로 규제가 시행되기 시작하면서, 특히 데이터 프라이버시 보장과 관련된 규정 준수는 AI 보안 팀의 중대한 골칫거리로 떠올랐습니다. 이제 보호해야 할 데이터는 텍스트 기록뿐만 아니라 디지털 이미지, 오디오 파일, 동영상, 망막 스캔·지문·엑스레이·MRI와 같은 스캔 데이터, 음성 확인에 사용되는 성문, 고도로 전문화된 과학 콘텐츠까지 포함합니다.

이러한 모든 데이터는 데이터 유출로 노출될 수 있을 뿐만 아니라, 딥페이크 제작을 비롯한 악의적인 용도로 조작되어 판매될 수도 있습니다. 또한 다양한 모달리티를 기존 디지털 인프라에 통합할 때는 서로 다른 기술과 프로토콜이 원활하게 연동되어야 하므로 상호 운용성 문제와 같은 과제가 발생하며, 단 하나의 잘못된 구성이나 취약점만으로도 전체 시스템의 보안이 위협받을 수 있습니다.

이 문제를 해결하려면 많은 리소스가 필요할 수 있으며, 지연 시간과 같은 모델 성능 문제가 발생할 가능성이 있고 추가 하드웨어가 필요할 수도 있습니다. 이러한 하드웨어를 제대로 관리하지 않으면 그 자체로 보안 취약점이 생길 수 있습니다.

AI 보안 솔루션

AI 사용과 관련된 표준화된 관행이 부족하기 때문에 사용자 환경에서 일관된 보안을 보장하기가 더욱 어렵습니다. 하지만 AI 보안 분야에서 배포 환경의 보안성을 높여 위험을 회피하려는 조직에 더욱 매력적인 선택지가 될 수 있는 솔루션들이 등장하고 있습니다.

모델에 구애받지 않는 당사의 GenAI 보안 및 지원 플랫폼은 AI 시스템을 360° 전방위로 보호하는 업계 최초의 플랫폼입니다. 인프라 외부에 있으면서도 바로 인접한 곳에 배치되는 ‘무중량’ 신뢰 및 제어 계층인 당사의 런타임 보안 솔루션은 AI 모델 응답에 숨겨진 위협과 기타 외부 위협으로부터 조직을 보호합니다. 또한 유해한 지시나 개인정보가 포함된 프롬프트가 시스템 외부로 유출되지 않도록 하며, 이 과정에서 지연 시간도 발생시키지 않습니다.

관리자는 정책 기반 액세스 제어를 사용하여 개별 사용자 및 팀별로 AI 모델에 대한 액세스를 허용하거나 차단할 수 있으며, 이를 통해 다음을 수행할 수 있습니다:

허용합니다 비용 모니터링을 모델에 액세스할 수 있는 사용자를 제한하여
모델 서비스 거부(DoS) 공격으로 인해 시스템이 느려지거나 종료되지 않도록 요청 속도 제한 배포를 지원합니다
각 팀의 요구 사항에 맞게 스캐너 기준을 사용자 지정할 수 있어 회사의 허용 가능한 사용 정책을 더욱 철저히 준수할 수 있습니다.

또한 당사의 솔루션은 보안 팀에 시스템 내 모든 AI 도구 전반에 대한 완전한 가시성을 제공하여 모델이 어떻게 사용되고 있는지 파악하고 오용되거나 악용되지 않도록 합니다. 마찬가지로 관리자는 사용자 및 그룹의 사용 패턴과 관행을 파악할 수 있습니다.

각 모델과의 상호작용은 추적되어 검토 및 분석을 위해 보관되며, 이를 통해 사용자 행동에 대한 인사이트를 얻을 수 있습니다. 프롬프트 기록은 수동 또는 자동으로 삭제할 수 있으며, 관리자는 검토를 위해 프롬프트를 전혀 보관하지 않도록 설정할 수도 있습니다. 대화형 대시보드는 관리자가 지정한 기간별로 모델, 개별 사용자 및 그룹에 관한 다양하고 상세한 사용 데이터를 제공합니다.

기존 디지털 인프라에 여러 멀티모달 AI 모델을 통합하면 기회와 위험, 과제가 함께 발생합니다. 사이버 보안과 AI 보안을 동시에 구현하는 것은 조직이 인력, 자산 및 프로세스를 AI로 인한 위험으로부터 안전하게 보호하면서 평소와 같이 비즈니스를 운영할 수 있는 최선의 방안입니다.

클릭 여기에서 데모를 요청하세요.