혁신과 거버넌스는 별개의 문제입니다. 여러 연구 조사에서 나온 우려스러운 통계들은 기업들이 신중히 멈춰 생각해 봐야 할 거버넌스 공백에도 불구하고 생성형 AI 도입을 전속력으로 추진하고 있음을 보여줍니다.
According to PWC의 2025년 5월 AI 에이전트 설문조사에 따르면, 기업의 79%가 AI를 도입했으며 에이전틱 AI를 전혀 고려하지 않는 기업은 2%에 불과합니다. 이러한 에이전트가 업무 계획을 수립하고 여러 단계의 작업을 실행하며 결과를 평가하고 스스로 조정하는 능력 등 진정한 에이전틱 특성을 보이는지, 아니면 일회성 요청을 선택된 대규모 언어 모델(LLM)로 전달하는 챗봇에 불과한지와 관계없이 도입률은 매우 높으며, 이들 기업의 거의 모두가 내년에 AI 지출을 늘릴 계획입니다.
이를 당사의 자체 연구와 비교해 보십시오. 이 연구에서는 AI 준비도 지수를 사용해 AI 시스템을 성공적으로 확장하고 보호하며 지속적으로 운영할 수 있는 역량을 정량화합니다. AI 기반 시스템의 설계, 배포 및 운영에 내재된 과제를 해결할 준비가 매우 잘 되어 있는 조직은 2%에 불과합니다.
그럼에도 불구하고 IT 및 보안 팀에는 선택의 여지가 없습니다. EY의 연구에 따르면, 대다수의 비즈니스 리더는 내년 이맘때까지 경쟁사보다 앞서 나가려면 올해 에이전틱 AI를 도입해야 한다고 생각합니다. 보안 및 거버넌스 격차를 신중하게 해소하기 위해 속도를 조절하는 조직은 이를 외면하는 조직보다 2026년에 더 큰 진전을 이루고 비즈니스의 취약성도 낮출 수 있습니다. 다음 세 가지 관행은 생성형 AI와 에이전틱 AI 도입에 따르는 위험을 줄이는 데 도움이 되는 핵심 요소입니다.
1. 모델 보안 강화
새로운 기술에는 보안이 필요하며, 모든 형태의 생성형 AI는 하나 이상의 LLM을 핵심으로 사용합니다. 모델 개발자가 정확도를 지속적으로 개선하고, 환각을 줄이며, 탈옥을 방지해 줄 것이라고 믿는 것만으로는 충분하지 않습니다. 기업은 원치 않는 동작을 독립적으로 감지하고 차단할 수 있는 프롬프트 및 모델 서비스에 투자해야 합니다. 또한 LLM을 사용하는 모든 기업은 실제로 둘 이상의 LLM을 사용하므로, 애플리케이션의 가용성, 라우팅, 확장성 및 비용 관리 요구 사항을 충족하려면 추론 API 호출로부터 애플리케이션을 추상화해야 합니다.
2. 데이터를 보호하세요
모델에 노출되는 기업 데이터는 해당 기업에 새로운 데이터일 수도 있고 아닐 수도 있습니다. 하지만 반드시 보호해야 한다는 사실은 변함이 없으며, 이는 단순히 저장된 데이터를 보호하거나 네트워크를 통해 전송되는 데이터를 암호화하는 데 그치지 않습니다. 사설 기업 환경에 어떤 방식이나 형태로든 존재하는 데이터는 승인된 타사 서비스에서 사용되거나 타사 기관이 사용하는 경우에도 반드시 탐지하고 보호해야 합니다. 오해하지 마십시오. 핵심은 출처가 아니라 유출입니다.
3. 에이전트를 보호하세요
에이전트는 LLM을 사용해 스스로 정한 최종 목표를 달성하기 위해 어떤 조치를 취할지 결정하므로 판도를 바꿉니다. 에이전트가 작동하려면 작업을 수행하고, 리소스에 접근하며, 정보를 생성·변경·삭제할 수 있는 권한이 필요합니다. 에이전트를 효과적으로 관찰하고 평가할 수 있을 만큼 가까이 있으면서도 에이전트 외부에 있는 무언가가 이를 모니터링하고 제어해야 합니다. 앞으로 몇 달 동안 성숙해 가는 과정을 주의 깊게 지켜볼 만한 두 가지 주요 접근 방식이 등장했습니다. 바로 가드레일 프레임워크(예: MCP-Universe)와 LLM-as-a-Judge 프레임워크(예: Microsoft LLM-as-a-Judge Framework)입니다.
전자는 매우 구체적인 작업 기반 연산을 사용해 정답 데이터를 정의하고, 에이전트가 시작한 작업의 결과를 명시적인 지시를 받은 소프트웨어가 별도로 미리 가져온 작업 결과와 비교합니다. 이 접근 방식의 강점은 사전에 선정되고 신뢰성이 검증된 출처를 사용해 날씨나 역사적 사실 등 다양한 정보를 확인하는 샘플 코드의 범위가 계속 확대된다는 점입니다. 정보를 수집한 다음, 그 결과를 정답 데이터로 삼아 배포된 에이전트가 도출한 결과와 비교합니다.
후자는 다른 LLM, 나아가 여러 LLM을 사용하여 배포된 에이전트의 동작을 분석하고, 비즈니스에서 정의한 기준에 따라 결과의 품질과 적절성을 평가합니다. 두 방식 모두 가능성이 높고 빠르게 발전하고 있으며, 비즈니스에서 직접 통제할 수 있습니다. 더 나아가 필요에 따라 두 방식 모두 인간 참여형(Human-in-the-Loop) 제어를 통해 보완할 수 있습니다.
모델, 데이터, 에이전트를 아우르는 이 세 가지 통제 체계는 사이버 보안과 거버넌스의 공백을 해소하여, 기업이 생성형 AI 및 에이전트 시스템과 관련된 새로운 유형의 위험에 노출되는 것을 방지합니다.
이러한 유형의 제어 기능을 독립적인 인프라 서비스로 활용하는 방법에 대해 자세히 알아보려면, AI 앱과 에이전트를 위한 방어, 레드팀 및 거버넌스 솔루션의 선구자인 CalypsoAI에 관한 F5의 최근 발표를 읽어보세요.
작성자 소개
관련 블로그 게시물
성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.
TLS 검사에서 피터 파커 원칙 다루기
“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.
Venafi와 F5를 통한 머신 아이덴티티 보호
‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.
마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...
내 클라우드에서 나가!
F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.
Shift(웹 앱) 보안 레터
웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.