에이전트 AI 거버넌스를 위한 애플리케이션 중심 3대 요소

혁신은 한 가지입니다. 거버넌스는 또 다른 문제입니다. 여러 연구 조사 통계가 거버넌스 격차가 있음에도 불구하고 기업들이 생성 AI 도입을 거침없이 추진하고 있음을 보여 우려를 자아냅니다.

PWC의 2025년 5월 AI 에이전트 설문 조사에 따르면, 79%의 기업이 AI를 도입했으며, 단 2%만이 에이전트 AI를 전혀 고려하지 않고 있습니다. 그 에이전트가 진정한 자율적 특성—작업 계획을 세우고 다단계 작업을 실행하며 결과를 평가해 스스로 조정하는 능력—을 갖췄든, 일회성 요청을 특정 대규모 언어 모델(LLM)에 전달하는 챗봇이든 관계없이, 도입률은 매우 높습니다. 그리고 거의 모든 기업이 향후 1년간 AI 투자 확대를 계획하고 있습니다.

당사의 연구는 AI 준비 지수를 사용해 AI 시스템을 성공적으로 확장, 보호, 유지할 수 있는 운영 역량을 정량화합니다. 이 연구에 따르면 AI 기반 시스템 설계, 배포, 운영에 내재된 과제를 효과적으로 해결할 준비가 된 조직은 단 2%에 불과합니다.

EY 조사 에 따르면 IT 및 보안 팀은 여전히 선택의 여지가 없습니다. 대다수의 기업 리더는 내년 같은 시기에 경쟁사보다 앞서 나가려면 올해 에이전트 AI를 도입해야 한다고 생각합니다. 보안 및 거버넌스 격차를 신중하게 해소하기 위해 속도를 늦추는 조직은 이를 무시하는 조직보다 2026년에 더 취약한 비즈니스를 하게 될 것입니다. 다음 세 가지 관행은 생성적 AI와 에이전트적 AI로의 도약 위험을 줄이는 데 도움이 되는 3가지 핵심 요소입니다.

새로워진 모든 것은 반드시 안전하게 보호해야 하며, 모든 형태의 생성형 AI는 하나 이상의 LLM을 핵심으로 삼고 있습니다. 모델 제작자만 믿고 정확도를 높이고 환각을 줄이며 우회 공격을 막을 것을 기대하는 것으로는 부족합니다. 기업은 원치 않는 행동을 스스로 감지하고 차단할 수 있는 신속한 프롬프트와 모델 서비스에 적극 투자해야 합니다. 또한 LLM을 사용하는 기업들은 사실상 여러 개를 함께 운영하므로, 추론 API 호출에서 애플리케이션을 난독화하여 가용성, 라우팅, 확장성, 비용 관리 요건을 반드시 충족해야 합니다. 

모델에 노출된 기업 데이터는 비즈니스에 새 데이터일 수도, 아닐 수도 있습니다. 중요한 것은 데이터를 반드시 보호해야 한다는 점이며, 단지 데이터가 저장된 장소에서만 보호하거나 네트워크 전송 시 암호화하는 것으로는 충분하지 않습니다. 승인된 제3자 서비스를 이용하거나 제3자가 활용하는 경우라도, 개인 기업 환경에 존재하는 모든 형태의 데이터는 탐지하고 보호해야 합니다. 오해하지 마십시오. 출처가 핵심이 아닙니다. 초점은 데이터의 유출 방지에 맞춰야 합니다.