블로그 | CTO 사무실

대리인 AI를 조금씩 시도하는 게 무작정 따라가는 것보다 낫습니다

제임스 헨더가트 썸네일
제임스 헨더가트
2025년 8월 7일 발행

비즈니스가 에이전트 AI 도입 속도에 뒤처지고 있다고 느낄 수 있습니다. 과장된 기대가 설득력 있게 반복되지만, 기업의 기술 요구가 아직 준비되지 않았다면 성급하게 움직일 필요는 없습니다. 최근 2025년 AI 적용 전략 보고서의 연구에서 조직의 37%가 에이전트 AI에 대한 공식적인 전략을 갖고 있지 않으며, 5%만이 적극적으로 추진하고 있음을 확인했습니다.

학습과 실험 단계에서는 과대광고를 비판적으로 검토하며 투자 속도를 조절하는 것이 현명한 방법입니다. 현재 AI 에이전트 배치는 복잡하고 자율적으로 협력해 목표를 달성하고 개선하는 동적 시스템보다, 미리 정해진 과제를 수행하는 정적인 AI 챗봇을 훨씬 선호합니다.

기업이 단순히 흐름을 따라가기보다 에이전트형 AI를 먼저 경험해야 하는 다섯 가지 이유를 소개합니다.

1. 기술 스택이 충분히 발전하지 않았습니다

에이전트 AI 기술은 솔루션 개발 속도보다 더 빠르게 스스로를 계속 혁신하고 있습니다. 새로운 기능과 도구, 코드 라이브러리가 꾸준히 등장하고 있습니다. 혁신 속도를 따라잡을 프로토타입 단계지만, 기업을 위한 완성도 높은 솔루션은 안정적인 기술 스택 전환이 필요합니다. 구체적인 몇 가지 예를 들겠습니다:

  • 에이전트는 목표 지향적 자율 행동을 위한 복잡한 문제를 해결할 강력한 추론 능력이 필요합니다. 우리는 이를 위해 모델을 활용하지만, 모델의 추론 능력은 아직 인간을 완전히 대체하지 못합니다.
  • 에이전트는 복잡한 문제를 해결하기 위해 더 뛰어난 기억력이 필요합니다. 우리는 의미 기억, 에피소드 기억, 절차 기억 등 각기 다른 특성에 집중하는 새로운 기억 체계가 등장했음을 확인했습니다. 모델 안에서도 기억 능력이 나타나는 사례가 있습니다.
  • 개발자가 애플리케이션을 구축할 때 사용하는 API가 크게 강화되고 있습니다. 클라이언트 측에서는 브라우저가 AI 활용을 더 쉽게 할 수 있도록 확장되고 있습니다. 서버 측에서는 OpenAI가 최근 Responses API에 여러 업데이트를 발표했습니다. 여기에는 모델 컨텍스트 프로토콜(MCP) 지원과 다중 벡터 저장소 검색 기능이 포함되어 있습니다.

2. 성숙한 표준 부족

시장 상호 운용성 요구에 대응하기 위해 전문가와 개발자들이 계속해서 새로운 표준을 제정하고 있습니다. Anthropic이 제안한 MCP와 Google이 내놓은 Agent2Agent(A2A) 프로토콜을 살펴보세요. 하나는 모델과 리소스 간의 연결을, 다른 하나는 에이전트 간 소통을 다룹니다. 두 표준 모두 에이전트 기반 AI의 모든 상호 운용성 요구를 완벽히 해결하지는 못했습니다. 현재의 공백을 메우기 위해 앞으로 몇 달 내 추가적인 표준이 제안될 가능성이 높습니다. MCP와 A2A가 공급업체와 고객들의 지지를 확대하고 있지만, 기업이 도입하기 전에는 해당 표준들이 더 명확하고 공식화되어야 합니다.

3. 총소유비용(TCO)을 정확히 파악하지 못하고 계십니다

AI 에이전트가 구축되어 배포되고 있습니다. 초기 지표는 긍정적이지만, 매출 증가(비용은 고려하지 않음)나 인간 대신 봇이 응답한 요청 비율(특정 작업 수행 능력만 보여주며 전체 비용 비교가 아님)을 기준으로 사업 이익을 평가하고 있습니다. 에이전트 AI의 총소유비용(TCO) 고려 사항:

  • 기술, 프로세스 업데이트 및 도입, 기존 역할 내 새로운 역량이나 신규 역할과 같은 인재 요구사항을 포함한 완전한 자재 명세서입니다.
  • 토폴로지와 기존 인프라 및 서비스와의 상호 운용성을 포함한 아키텍처 가이드라인과 구성 요소 다이어그램을 제공합니다.
  • 컴퓨팅, 네트워크, 스토리지의 성능과 용량처럼 인프라에 미치는 영향을 기준으로 주요 지표를 설정해 성공 기준을 명확히 합니다.

4. 데이터 품질과 보안을 우선 확보해야 AI 도입이 성공할 수 있습니다

AI가 적용된 애플리케이션이 효과적으로 작동하려면 안전한 양질의 데이터가 필요합니다. 데이터 사일로, 형식, 정규화 문제를 해결하지 못하는 조직은 에이전트 AI 솔루션을 성공적으로 구현하기 어렵습니다. 에이전트 AI가 비즈니스의 데이터와 보안 취약점을 더욱 부풀리기 때문입니다. 단순히 네트워크에서 기계 속도로 많은 에이전트를 배포하는 것 이상입니다. 지금은 에이전트를 사람이나 기기처럼 다루며 보안을 설정하고 있습니다. 그 결과, 인간 사용자는 에이전트가 데이터를 어떻게 사용하고 변경하며 삭제할지 제대로 알지 못한 채 에이전트를 승인합니다.

5. 풀스택 가시성은 핵심입니다

AI 지원 애플리케이션에는 전체 스택에 대한 완전한 관찰 능력이 필수입니다. 아직 효과적인 전체 스택 관찰 체계를 갖추지 않았다면, 가시성, 운영, 문제 해결, 거버넌스에 결정적으로 의존하는 에이전트형 AI 솔루션을 도입할 준비가 되어 있지 않은 것입니다.

다섯 가지 이유를 고려해 과대광고를 쫓기보다 신중함을 선택하세요. 도입 계획상 두 가지 이상 현실적인 어려움이 있다면, 시간을 더 두는 것이 답입니다. 기술 스택과 표준이 여전히 진화 중이고 비용이 명확하지 않으며, 포괄적 데이터 관리와 설계 단계부터 바로 관찰 가능한 강력한 엔터프라이즈급 역량이 필요한 시장에선 에이전트형 AI를 천천히 도입하는 것이 현명합니다. 에이전트형 AI 솔루션 첫 배치는 에이전트의 가치를 입증하지 않습니다. 그저 인프라 준비가 완료되었음을 증명할 뿐입니다. 점진적 도입으로 깊게 빠지기 전에 약점을 찾아 보완할 시간을 확보할 수 있습니다.

에이전트 AI 준비도를 더 깊이 이해하려면 “페이로드 정책: AI 에이전트 아키텍처 준비하기”를 확인해 보세요.