블로그 | CTO 사무실

AIOps 솔루션에는 기존 AI와 생성 AI가 모두 필요합니다.

로리 맥비티 썸네일
로리 맥비티
2023년 9월 27일 게시

생성적 AI는 AIOps에 새로운 활력을 불어넣었 지만, 이것이 미래에도 AIOps를 살리는 데 필요한 유일한 AI 유형이라고 믿는 것은 좋지 않습니다.

2022년에는 AIOps가 생명 유지 기술로 여겨졌습니다. 소위 AIOps 솔루션은 대부분 기존 모니터링을 강화한 것에 불과했습니다. 당시 AIOps가 목표로 했던 사용 사례는 평범했고 적응형 애플리케이션 비전을 향한 진전을 이루는 데 거의 도움이 되지 않았습니다. 즉, 운영에 대한 지능과 실시간 변경 사항을 실행할 수 있는 능력을 제공하는 것입니다.

그런데 생성 AI가 등장하면서 갑자기 AIOps에게 두 번째 기회가 생겼습니다. 하지만 그렇지 않았습니다. 설마.

그 이유를 이해하려면 AIOps가 제공하려는 기능의 관점에서 AIOps를 정의해야 합니다.

AIOps란 무엇인가?

AIOps는 일반적으로 IT 운영을 위해 인공지능을 사용하는 것을 지칭하는 광범위한 용어입니다. AIOps 솔루션(일반적으로 플랫폼이라고 함)은 일반적으로 4가지 고유한 기능을 제공합니다.

  • 관찰하다 : 원격 측정 수집 및 이상 감지를 담당합니다.
  • 분석 : AI를 활용하여 패턴을 발견하고, 맥락에 맞는 이벤트를 연관시키고, 근본 원인을 식별하고, 통찰력을 생성합니다.
  • 관계를 맺다 : 사용자가 데이터와 통찰력을 시각화하고 상호작용할 수 있도록 합니다.
  • 행동 : 자동화를 통해 통찰력을 실행으로 전환합니다.

지금까지 우리가 본 것은 대체로 생성 AI와 참여 기능이 통합된 것입니다 . 구체적으로, 생성 AI는 GUI(그래픽 사용자 인터페이스)와 API를 NLI(자연어 인터페이스)로 교환하여 이 기능의 상호작용 기능을 발전시켰습니다. ZK Research 보고서 에 따르면 이는 AIOps를 AIOps의 가장 자주 인용되는 사용 사례로 크게 이동시킵니다.

  • 64% IT 운영 효율성/생산성
  • 네트워크 또는 앱 성능이 54% 향상되었습니다.
  • 보안 또는 규정 준수가 54% 향상되었습니다.

생성적 AI가 위험을 완화하고 사고를 해결하기 위한 정책과 구성을 생성하는 데 사용되고 있다는 징후가 있지만 현재로서는 이러한 징후가 거의 없고 주로 단일 대상 생태계, 즉 하나의 공급업체나 공급자의 포트폴리오에 국한되어 있습니다.  

생성 AI는 관찰 기능을 통해 수집된 데이터를 분석하는 능력을 발전시키는 데 거의 기여하지 못했습니다. 그것은 그것에 대한 비난이 아니라, 오히려 그런 일을 하도록 설계된 것이 아니라는 인정입니다. 그러기 위해서는 우리는 오랜 전통을 지닌 AI에 의지해야 합니다.

전통적인 AI는 무엇인가?

생성적 AI가 도입된 이래로, 우리가 항상 AI라고 지칭해 온 것에는 별도의 명칭이 필요했습니다. 시장에서는 "생성형 AI를 제외한 모든 AI"를 설명하기 위해 기존 AI라는 용어 를 사용하기로 결정했습니다.

기존 AI는 생성 AI와 동일한 훈련 기술과 기본 원리를 많이 사용하지만, 대부분 구조화된 데이터에서 패턴과 관계를 식별 하여 결과를 분석하고 심지어 예측하도록 설계되었습니다. 기존의 AI는 분류와 인식에 매우 뛰어납니다.

기존 AI는 수십 년 동안 다음과 같은 용도로 사용되었습니다.

  1. 계정 인수(ATO)와 같은 남용 및 사기를 방지하기 위해 봇 식별
  2. 네트워크(DDoS) 및 애플리케이션(L7) 트래픽 의 행동 패턴을 기반으로 공격 탐지
  3. 소비 패턴에 따라 제품 및/또는 서비스를 추천합니다.
  4. 필기 및 이미지 인식

AIOps에서 AI의 역할

기존 패턴과 관계를 예측할 수 있을 뿐만 아니라 거의 실시간으로 새로운 패턴과 관계를 발견해내는 기존 AI의 능력이 진정한 AIOps 솔루션에 있어서 매우 귀중한 기술입니다. 새로운 데이터를 분석하고 공격의 존재를 추론하거나 가용성을 방해하거나 성능을 저하시키는 문제를 예측할 수 있는 모델이 필요합니다. 기존 AI는 두 가지 모두에 특히 능숙합니다. 즉, 관찰 기능에 이상 징후를 감지하는 기능을 부여하고, 분석 기능에 패턴과 관계를 발견하는 기능을 제공합니다.

생성 AI는 코드, 구성, 콘텐츠를 생성할 수 있습니다. 기존 패턴을 복제 하고 이를 적용하여 새로운 콘텐츠를 생성합니다. 이는 아무것도 창조하지 않지만, 피드백을 기반으로 강화되거나 약화되는 객체 간의 관계에 의존합니다.

실제로, 생성 AI에게 새로운 데이터를 분석하도록 요청하는 것은 많은 위험을 초래합니다. 정답을 줄 수도 있지만, 환각을 보고 틀린 답을 줄 수도 있습니다. 궁극적으로 생성 AI는 숫자 게임이기 때문에 데이터 포인트 간의 관계나 패턴이 강하지 않거나 충분히 존재하지 않으면 옳든 그르든 단순히 공백을 채울 뿐입니다.  

생성적 AI가 우리에게 제공하는 것은 데이터에 대한 접근성 입니다. 쿼리 언어에 대한 전문가가 될 필요가 없고, 개발자가 인터페이스를 구축해 줄 것을 기대할 필요도 없기 때문입니다. 또한 문제를 해결하기 위해 실행할 수 있는 코드나 구성을 자동으로 생성하는 기능도 제공합니다. 이것 역시 접근성인데, 이를 통해 코드를 작성하거나 여러 API를 활용하는 데 있어 전문가가 될 필요성이 줄어들기 때문입니다.

하지만 실시간으로 원격 측정 데이터를 분석할 수 있는 기존 AI가 없다면 이러한 시스템은 완벽한 기능을 갖춘 AIOps 솔루션에 필요한 세 가지 기능 중 두 가지만을 부분적으로만 처리할 수 있습니다. 따라서 우리는 전통적인 AI와 생성적 AI를 모두 사용해야 합니다.

  • 관찰 : 이상 감지를 위한 기존 AI.
  • 분석: 기존 AI를 이용해 패턴과 관계를 파악합니다.
  • 참여 : 사용자가 데이터와 통찰력을 시각화하고 상호작용할 수 있도록 하는 생성 AI.
  • 행동 : 통찰력을 행동으로 전환하는 생성 AI.   

따라서 저는 생성적 AI와 이를 통해 운영을 단순화하고 가속화할 수 있는 능력에 대해 긍정적으로 생각하지만, AIOps에서 AI의 잠재력을 최대한 실현하려면 기존 AI와 생성적 AI가 모두 필요하다는 사실도 알고 있습니다.