조직 전반에 새로운 소프트웨어 애플리케이션을 배포하는 일은 체계적이고 탄탄한 접근 방식이 필요한 중요한 과제입니다. 해당 소프트웨어가 대규모 언어 모델(LLM)이나 기타 생성형 인공지능(GenAI) 모델이라면 몇 가지 추가로 고려해야 할 사항이 있습니다. 원활한 도입을 보장하는 10단계를 소개합니다.
수집
모델을 사용할 조직 내 각 기능 부문의 대표자들을 한자리에 모으세요. 여기에는 이 주제를 처음 제기한 부문이나 인원이 가장 많은 부문, 또는 영향력이 가장 큰 부문뿐 아니라 모든 기능 부문이 포함되어야 합니다. 생성형 AI 도입이 본격화되면 모두가 참여하고 싶어 할 것입니다. 따라서 이를 일찍 예상해 매개변수가 이미 설정된 뒤에 큰 변경을 하는 일을 피하는 편이 좋습니다. 그룹은 모든 관련 부문을 아우를 만큼 충분히 크면서도 의사결정을 내리고 업무를 수행할 수 있을 만큼 작아야 하므로, 최대 10명 이내로 구성하세요.
평가
조직의 현재 상태에 부합하고 향후 로드맵과 수립된 전략적 이정표를 뒷받침할 비즈니스 요구와 요건을 파악합니다. 여기에는 단기, 중기 및 장기적 요구가 포함되어야 합니다. 이러한 신기술의 도입을 고려할 때 조직의 기본 원칙 중 어떤 원칙을 반드시 고려해야 하는지 합의합니다.
조사
사용 가능한 제품을 검토하고 공급업체와 협의하여 모델이 비즈니스 요구 사항 및 사용 사례에 부합하는지, 그리고 해당 모델이 조직을 위해 무엇을 할 수 있고 무엇을 할 수 없는지 파악하세요. 업종과 조직 문화에 따라 ChatGPT나 Claude와 같은 하나의 대규모 범용 모델을 도입하는 것이 최선의 선택일 수 있습니다. 또는 법무, 재무, 엔지니어링 등 특정 팀을 지원하거나 의료, 크리에이티브 디자인 등 특정 산업에 특화된 소규모 모델들을 도입하는 것이 더 나은 해결책일 수 있습니다. 최근 점점 더 많은 조직이 선택하는 것처럼, 조직의 독점 지식 기반에 맞춰 이를 학습한 자체 모델을 개발할 수도 있습니다. 알려진 취약점과 기타 보안 문제에 관한 정보를 요청하세요. 관련 정부 규정, 업계 안전 표준, 조직의 정책 및 관행이 모두 반영되도록 하세요.
계획
하나 이상의 모델을 도입하기로 결정한 후에는 프로젝트 일정을 수립하고, 리소스를 배분하며, 예산을 결정합니다. 해당 모델이 현재의 디지털 보안 인프라와 원활하게 통합되는지 확인합니다. 조직이 직면하게 될 신규 또는 확대된 위험과 관련된 사항을 포함하여 배포 전에 필요한 변경 및 업그레이드 사항을 파악합니다. 모델 사용이 생산성과 기타 운영 성과 지표에 미치는 영향을 평가할 수 있도록 기준과 임계값을 설정합니다.
참여
계획의 취지와 이점을 포함한 내용을 더 폭넓은 이해관계자들에게 전달하세요. 상황에 따라 이 정보는 경영진부터 현장 실무자까지 조직 전체에 공유되어야 합니다. 이들에게 의견을 요청하고 우려 사항을 해소하세요.
교육
이 단계에서는 온라인 리소스나 문서로만 구성하거나 실습 워크숍을 포함할 수 있는 프로그램을 마련하여 최종 사용자가 해당 모델에 필요한 교육을 받도록 보장하는 것뿐만 아니라, 다음 사항도 필요합니다:
- 프로그램이 조직의 원칙에 어떻게 부합하는지 파악합니다.
- 모델 사용과 관련된 허용 가능한 사용 및 기타 직장 내 정책을 설명합니다.
- 보안 문제를 식별하고 보안 프로토콜을 설명합니다.
- 잠재적인 보안 이벤트에 대한 적절한 대응 방안을 설명합니다.
테스트
모든 경우에 필수적인 것은 아니지만, 전면 도입에 앞서 규모는 작지만 대표성을 갖춘 그룹을 대상으로 새로운 도구를 배포해 보는 것은 언제나 좋은 방법입니다. 이를 통해 통합, 확장성, 속도, 컴퓨팅 리소스 등의 기술적 문제에 대한 유용한 정보를 얻을 수 있을 뿐만 아니라, 사용 편의성과 전반적인 유용성에 관한 사용자 피드백도 수집할 수 있습니다. 다만 발생하는 모든 문제를 반드시 검토하고 해결해야 합니다.
배포
단계적 접근 방식을 선택하든 전면적인 접근 방식을 선택하든, 배포 일정과 기타 관련 정보가 조직 전체에 명확하게 전달되고 지원팀이나 헬프데스크가 처음부터 대응할 수 있도록 하세요.
모니터링
측정 지표를 확보할 수 있는 범위 내에서 조직 및 개인의 사용 현황과 모델 성능을 추적·분석하고, 모델이 비즈니스 활동에 미치는 영향을 평가합니다. 무단 액세스 시도와 잠재적인 보안 침해를 탐지하고 대응할 수 있도록 시스템을 지속적으로 모니터링해야 합니다. 이러한 문제는 순식간에 매우 심각해질 수 있습니다. 기술 또는 교육 프로그램의 업데이트가 필요한지 정기적으로 평가합니다. 사용자 또는 시스템의 피드백을 요청하고 검토하여 대응하며, 변경된 비즈니스 요구 사항을 반영합니다.
준비
유연하고 선제적인 자세를 유지하여 예기치 않은 문제에 항상 대비하세요.
관련 블로그 게시물
F5 NGINX Gateway Fabric로 AI 제공 표준화
F5 NGINX Gateway Fabric이 기업의 Kubernetes 트래픽 표준화, 애플리케이션 보안 강화, 대규모 AI 추론 준비를 어떻게 지원하는지 알아보세요.
F5의 CalypsoAI 인수 발표, TRiSM 프레임워크 구축을 향한 행보
F5의 CalypsoAI 전략적 인수를 통해 조직은 보안, 개인정보 보호 및 운영 통제력을 유지하면서도 안심하고 AI를 도입할 수 있습니다. 자세한 내용은 블로그에서 확인하세요.
사이버 복원력: LLM을 위한 OWASP Top 10 위험 완화
OWASP가 2025년 LLM 및 생성형 AI 앱을 위한 10대 위험 및 완화 방안을 발표하면서 업계에 절실히 필요했던 보안 기준이 마련되었습니다. 하지만 실행이 뒤따르지 않는 기준은 아무 의미가 없습니다. F5 AI 런타임 보안 솔루션은 OWASP 10대 위험의 80%에 대응하며, 현실에서 가장 시급한 위험을 우선적으로 해결합니다. 이 솔루션은 실시간 런타임 보호 기능을 결합하여 […]
석유 및 가스 산업을 위한 AI 보안
AI는 지질 모델링과 시추 최적화부터 파이프라인 모니터링, 예측 유지보수, 원자재 거래에 이르기까지 석유 및 가스 산업을 재편하고 있습니다. 하지만 이러한 미션 크리티컬 활용 사례에는 높은 위험도 따릅니다. 당사의 AI 런타임 보안 솔루션은 검증을 위한 레드팀, 보호를 위한 Guardrails, 그리고 내장된 관측 가능성을 통해 석유 및 가스 산업을 안전하게 보호합니다. […]
인사 부서를 위한 AI 보안
AI는 HR을 혁신하고 있습니다. 기업들은 비용을 절감하고 직원 경험을 개선하기 위해 AI 기반 채용 코파일럿, 온보딩 도우미, 직원 지원 챗봇, 인력 분석 도구를 도입하고 있습니다. 하지만 HR 애플리케이션에는 규정 준수 실패, 편향 논란, 평판 훼손으로 이어질 수 있는 고유한 위험도 존재합니다. 당사의 AI 런타임 보안 솔루션은 다음과 같은 방식으로 HR 분야를 보호합니다. […]
기업 법무 관리를 위한 AI 보안
AI는 계약 검토 및 증거개시 자동화부터 규제 준수 모니터링과 민감한 지식재산 관리에 이르기까지 기업 법무팀의 업무 방식을 혁신하고 있습니다. 그러나 법률 환경은 AI 도입 시 가장 큰 위험이 따르는 분야 중 하나입니다. 당사의 AI 런타임 보안 솔루션은 검증을 위한 레드팀, Guardrails 등 세 가지 접근 방식으로 기업 법무 관리를 보호합니다 […]