AI 준비 현황: 목표에서 실행 계획으로 나아가기

모두가 AI를 원합니다. 대부분의 조직이 AI를 추진 중이라고 말합니다. 하지만 원하는 것과 준비가 되어 있는 것은 완전히 다릅니다. 우리의 최신 연구가 불필요한 소음을 걷어내고 조직의 실제 상황을 명확히 보여줍니다. 결과부터 말하자면, 대부분은 생각만큼 준비되어 있지 않습니다.

배포 단계부터 모델 다양성에 이르기까지 여섯 가지 지표를 정규화해 복합 AI 준비 지수를 만들고 응답자를 등급별로 분류했습니다. 단 2%만이 ‘매우 준비된’ 구간에 포함되었습니다. 21%는 이제 막 시작 단계였습니다. 나머지는요? 대부분 중간에 머물러 있습니다. 

저에게는 놀랍지 않고, 여러분도 마찬가지일 겁니다. 지수의 절반은 생성 AI, AI 에이전트, 에이전트 AI 같은 특정 AI 기술의 도입 정도를 바탕으로 합니다. 세 가지를 모두 활용하는 비율이 겨우 2%라는 사실도 놀랍지 않습니다. 에이전트 AI가 여전히 발전 중이기 때문입니다.

앗! 새로운 소식이 또 있습니다.

정말 그렇게 빠르게 진행됩니다.

대부분이 적절히 준비되어 있다는 점은 희망적인 신호입니다. 이는 여러분이 올바른 속도로 나아가고 있음을 보여줍니다. 여러분은 실질적이고 체계적으로 AI를 비즈니스 사례에 적용하면서 관행과 인프라를 발전시키고 있습니다. 

조직의 77%가 이 단계에 속합니다. 이제 과대광고를 지나 실험에 몰두하며 성과를 내려고 노력 중입니다. 비슷한 길을 닦기 시작했지만, 엔진은 아직 제속도로 달리지 못하고 있습니다.

대부분은 이미 GenAI 프로젝트를 가동하고 있습니다. 일부는 에이전트를 운영 중입니다. 일부는 ‘에이전틱 AI 실행’의 의미를 탐구하는 단계이며, 여러 애플리케이션 유형에 손을 대긴 했지만 AI 도입 정도는 아직 얕습니다. 예를 들면, 대략 다섯 가지 활용 사례와 앱의 3분의 1가량에 AI가 적용돼 있으며, 모델은 보통 유료 한 개, 오픈 소스 한 개가 혼용됩니다. 나쁘진 않습니다. 하지만 아직 충분하지 않습니다.

왜 중요한가요? 모델 유형이 다양하지 않으면 유연성이 떨어집니다. 단 하나의 모델로 모든 업무를 처리할 수 없습니다. 선택지가 필요합니다. 응용 프로그램도 마찬가지입니다: 챗봇이나 내부 비서에 국한된 AI는 조직을 혁신하지 못합니다. 깊이 와 분산이 필요합니다.

보안인가요? 아직 뒤처지고 있습니다. AI와 보안팀 간 통합이 아직 미흡합니다. 방화벽이 도입되긴 하지만, 대부분 여전히 계획 단계에 머물러 있습니다. 데이터 보호는요? 일부 인라인 시행과 토큰화를 적용하지만, 체계적인 인프라 규율은 부족한 상황입니다.

임시방편이나 희망에 기대어 위기를 모면할 수 있다고 생각한다면 지켜보세요. 취약한 보안이 초래하는 대가는 단순한 악성 뉴스만이 아니라 규제 대응, 신뢰 붕괴, 그리고 점점 커지는 생존 위협입니다.

그리고 핵심은 데이터입니다. 이 조직들 가운데 단 21%만 공식적이고 반복 가능한 데이터 라벨링 절차를 갖고 있습니다. 포뮬러 원 차를 만들면서 연못 물을 연료탱크에 채우는 것과 같습니다. 그렇게 할 수는 있지만, 원하는 만큼 멀리 나아가지 못할 겁니다.

전통적으로 네트워크와 애플리케이션에 집중하는 분들에게 데이터가 중요해 보이지 않을 수 있지만, 결국 AI의 성능은 데이터에 달려 있고 그 데이터는 훨씬 방대합니다. 결국 “쓰레기가 들어가면 쓰레기가 나온다”는 격언은 여전히 유효하며, 기존의 앱, 인프라, 보안 등을 AI로 보강할 때도 마찬가지입니다. AI 성능은 학습하는 데이터 품질에 달려 있습니다. 이 단계만 놓친다면 지능을 키우는 대신 잘못된 추측을 강화하고 불확실한 결정을 자동화하게 됩니다.

이 단계는 ‘숙련 없이 추진력만 있는’ 상태입니다. 에너지도 방향도 있지만 여전히 많은 마찰이 존재합니다. 의지가 부족해서가 아니라 규모, 조율, 아키텍처 부채라는 현실 때문입니다.

이제 21%에 대해 이야기해 보겠습니다. 이 조직들은 아직 어떻게 시작할지 고민하는 중이거나, 아예 필요 없다고 스스로 설득하고 있습니다. 어쩌면 챗봇 프로토타입만 가지고 있을 수도 있겠죠. 그럴 수도 있습니다. 이 팀들이 직면한 문제는 비전이 아니라 변화에 대한 저항입니다.

많은 기업이 규제를 받는 산업이나 레거시 환경에 있어 위험 감수 수준이 낮고 시스템 아키텍처가 불안정합니다. 그럼에도 이 분야에서도 변화가 일어나고 있습니다. 대부분의 조직은 방화벽이나 인라인 보안 같은 AI 전용 보안 체계를 도입하지 않은 상태입니다. 대신 AI 적용에 맞춰 확장 불가능한 일반 IT 경계 보안에 의존하고 있죠. 3분의 2가 AI 프로젝트를 시험 운영하거나 계획 중이라고 밝혔습니다. 이 정도면 의미 있는 진전입니다. 하지만 포부만 가지고 실제 실행까지 이어졌다고 착각하지 마세요.

여기서 위험은 흐름을 놓치는 게 아닙니다. 누구도 이 기회를 놓치지 않을 겁니다. 위험은 그 영향에 휩쓸리는 데 있습니다. 데이터, 인프라, 인력에 기초를 다지지 않으면 최고의 모델도 제 역할을 하지 못합니다.

한 단계 더 성장하고 싶습니까? 그렇다면 상위 2%처럼 만들어 보세요.

• 유료 모델과 오픈 모델을 동시에 환경에 구성해보세요. 유연성이 결정적입니다. 모든 모델이 모든 작업에 적합하지는 않습니다.
• 에이전트를 단순히 보유하는 데 그치지 말고, 실제 운영 업무를 맡기세요. 그렇게 해야 규모를 키울 수 있습니다.
• 단절된 앱을 넘어서 워크플로 전반에 GenAI를 통합하세요. 통합은 선택이 아니라, 단순한 참신함과 실질적 가치의 차이를 만듭니다.
• 정책에만 의존하지 말고 아키텍처 단계에서 데이터 보안을 확실히 하세요. 규정 준수로는 침해를 막지 못합니다. 보안은 설계에서 시작됩니다.
• 무엇보다 처음부터 확장 가능하도록 설계하세요. 복원력을 나중에 추가하는 건 결코 쉽지 않습니다.

진실을 말씀드리자면, 준비는 구매할 수 있는 제품이 아닙니다. 구독할 수 있는 서비스도 아닙니다. 준비는 자세이고, 구조이며, 마음가짐입니다. 이 글을 읽으며 “우리도 어느 정도 준비가 됐다”고 생각한다면, 그 자체가 좋은 신호입니다. 그것이 하나의 이정표입니다. 하지만 다음 단계는 저절로 찾아오지 않습니다. 당신은 의도적이고, 일관되게 움직이며, 약간의 불편함도 감수해야 합니다.

AI는 호기심보다는 준비된 사람에게 활짝 열려 있습니다. 준비된 이에게 성공의 기회를 드립니다.

데이터를 깊이 있게 살펴보고 모델에 대해 더 알아가려면, “2025 AI 애플리케이션 전략 보고서: AI 준비 지수”를 지금 여기에서 확인하세요.