생성적 AI란 무엇이고 AIOps로 가는 길일까요?
아마도. 확실히 전통적인 검색 엔진에 대한 위협이 되거나 고등학교 에세이와 광고 카피를 쓰는 것보다 더 광범위한 적용이 있습니다.
생성 AI란 무엇인가?
생성 AI는 자연어 프롬프트를 기반으로 텍스트, 이미지, 오디오 등 다양한 콘텐츠를 생성할 수 있는 머신 러닝의 한 응용 프로그램입니다. ChatGPT (OpenAI 프로젝트)가 도입되면서 폭넓은 인기를 얻었고, 이로 인해 산업 전반에 걸쳐 새로운 용도가 폭발적으로 증가했습니다.
ChatGPT를 사용해 본 적이 없다면, 잠시 시간을 내어 몇 가지 질문을 던져보세요. 역사상의 당신이나 누군가에 대해 말해달라고 하거나 무언가가 어떻게 작동하는지 설명해달라고 하세요. 주의가 필요합니다. ChatGPT가 항상 옳은 것은 아니지만, 새로운 경험이기 때문에 눈을 뜨게 하는 경험입니다.
ChatGPT가 한 일은 Generative AI에 대한 개념 증명을 제공한 것입니다. 이를 통해 우리는 어떻게 다르게 일할 수 있는지에 대한 가능성을 엿볼 수 있었고, CTO의 F5 사무실에서는 앱 제공 및 보안에 어떻게 적용할 수 있는지에 대한 흥미로운 탐구를 할 수 있었습니다.
명령형에서 선언형으로, 생성형으로
인프라 분야의 과제 중 하나는 단 하나의 애플리케이션을 제공하고 보호하는 데 필요한 수많은 장치, 서비스 및 시스템을 구성하는 것입니다. 조직은 "서비스로서" 제공되는 것을 제외하면 평균적으로 23개의 다양한 앱 서비스를 사용합니다.
이제 웹 앱과 API 보호 서비스를 구성하는 것이 일반적인 로드 밸런싱 서비스를 구성하는 것과 다르다는 것을 말할 필요는 없을 것입니다. 이는 앱 서비스를 구성하고 운영하는 담당자가 12가지의 다른 "언어"에 대한 전문가가 되어야 할 수도 있음을 의미합니다.
업계에서는 수년간 이 문제를 해결하려고 노력해 왔습니다. API가 모든 것을 구성하는 주요 수단이 되자 앱 제공 및 보안 서비스도 예외는 아니었습니다. 모든 사람들은 단순히 명령을 내리는 방식을 바꾸는 명령형 API로 시작했습니다. CLI에서 명령을 입력하는 대신 HTTP를 통해 API 명령을 보냈습니다.
얼마 지나지 않아 명령형 API에 의존함으로써 발생하는 API 세금이 너무 높다는 것이 분명해졌고, 업계는 선언적 API로 전환했습니다. 하지만 불행히도 업계 대부분은 선언적이라는 것이 "JSON으로 구성"을 의미한다고 결정했습니다. 따라서 선언적 방법의 의도(이 단어는 중요하다는 걸 기억하세요)인 "무엇을 하고 싶은지 말씀해 주세요. 제가 해드립니다"라는 말 대신 "제가 원하는 구성은 이렇습니다. 가서 그 작업을 열심히 하세요"라는 말이 나왔습니다.
완전히 똑같지는 않지만, 주어진 솔루션에 특화된 운영 모델에 대한 동일한 수준의 전문성이 여전히 필요했습니다. 로드 밸런서가 "풀"을 사용하는지 "팜"을 사용하는지에 대한 업계의 합의가 있었는지 잘 모르겠습니다. 가상 서버가 실제 서버 및 애플리케이션 인스턴스와 상호 작용하는 방법에 대한 더 복잡한 세부 사항은 말할 것도 없습니다. 따라서 업계에서 선언적 방식을 통해 한 일은 운영자의 명령 수준 작업을 시스템으로 넘긴 것뿐입니다.
Generative AI가 선보이는 것은 일종의 로우코드/노코드입니다. 이러한 결과는 결과 생성을 안내하는 잘 구성된 사양을 기반으로 하기 때문에 일부 결과보다 더 신뢰할 수 있습니다. 결국 "hello world"를 쓸 수 있는 방법은 제한되어 있는 반면, 질문에 대답하는 방법은 수백만 가지가 있습니다.
즉, 훈련된 모델에 "앱 A를 확장하도록 로드 밸런서를 구성하고 싶습니다"라고 말할 수 있어야 하고 시스템은 구성을 내보낼 수 있어야 한다는 의미입니다. 하지만 그보다 더 중요한 것은, "Z를 사용하여 시스템 Y에서 X를 수행하는 스크립트를 줘"라고 말하면 바로 실행된다는 것입니다. 구성을 생성할 뿐만 아니라, 이를 올바른 시스템에 배포하는 데 필요한 자동화도 생성해야 합니다.
아, 보세요. 이미 그렇습니다.
물론, 이것은 프로덕션에 적합한 코드는 아닙니다. IP나 자격 증명이 유효하지 않고 Python을 선택했습니다(제 1, 2, 3번째 선택은 아님). 하지만 공개적으로 사용 가능한 문서와 놀라울 정도로 간단한 프롬프트에 근거하여 90%는 완료되었습니다. 질문이 자세할수록 더 좋은 결과를 얻을 수 있습니다. 아래에 생성된 전체 스크립트는 더 길기 때문에 시작 부분만 포함했습니다.
다시 말하지만, 아직 배포할 준비는 되지 않았지만 작동에 훨씬 더 가깝고 제가 전혀 훈련하지 않았는데도 생성하는 데 문자 그대로 15초도 걸리지 않았습니다.
세대를 넘어 자동화로
하지만 이건 쉬운 일이죠. 그리고 "그런데, 배치해 주세요."라고 말할 수도 있어야 합니다. 그리고 그 일은 내가 아침 커피를 즐기는 동안 이루어져야 합니다. 그리고 아마도 나에게 작은 노래 한 곡 불러줄 수 있을 거야.
하지만 잠깐만요, 그게 전부가 아닙니다! 나중에 생성 AI 시스템에 "그린베이의 사용자가 많이 로그인하고 성능이 떨어지고 있으니 앱 A를 복제하여 밀워키에 있는 우리 사이트로 옮겨주세요"라고 말할 수 있다면 어떨까요?
그리고 그렇습니다. 실제로 이 모든 것은 API, 구성, 명령의 망일 뿐이며 오늘날 스크립트로 자동화될 수 있고 종종 자동화됩니다. 해당 스크립트는 종종 매개변수화되어 있으며, 이는 내 AI 프롬프트의 매개변수와 대략적으로 연관되어 있습니다. 그린베이, 밀워키, 앱 A. 따라서 변화하는 것은 발전기와 그것을 생성할 수 있는 속도입니다.
저는 종종 AI와 자동화가 힘을 증폭시킨다고 말합니다. 기술이 무엇을 해야 할지 모르기 때문에, 우리가 해야 할 일을 압니다. 하지만 AI와 자동화는 이를 훨씬 더 빠르고 효율적으로 수행하여 생산성을 효과적으로 증폭하고, 가치 실현 시간을 늘리고, 전문가가 전략적 결정과 프로젝트에 집중할 수 있는 시간을 확보할 수 있습니다. 그리고 시간이 지남에 따라 AI는 우리에게서 학습하여 우리의 역량을 더욱 확대하고 새로운 가능성을 발견할 수 있습니다.
이는 더 이상 공상과학이 아니라 컴퓨터 과학의 현실입니다.
생성적 AI는 우리에게 필요한 AIOps를 가능하게 할 것입니다
오늘날 대부분의 AIOps 솔루션은 조직의 98%가 놓치고 있는 통찰력을 제공하는 데만 초점을 맞춥니다.
그들은 내일의 필요가 아닌 어제의 문제에 대한 해답을 제시합니다.
보안 서비스와 같이 보다 자율적으로 작동할 수 있는 AIOps 플랫폼조차도 기존 구성과 잘 구성된 대응에 크게 의존합니다. 일반적으로 AI를 사용하여 이기종 앱 제공 및 보안 계층에서 운영을 보다 자율적으로 실행할 수 있도록 하지는 않습니다. 그들은 AI를 사용하여 데이터 분석을 수행하고 인간으로서는 발견할 수 있는 능력이나 시간이 없는 통찰력을 발견합니다. 하지만 네트워크 상위 계층과 잘 알려진 보안 문제의 경우 적어도 문제는 거기서 끝나는 경우가 많습니다.
이것이 Generative AI가 주도할 수 있는 부분이고, 제가 이 기술을 얼마나 확장하여 앱 제공 및 보안을 "엄청나게 쉽게" 만들 수 있는지 조사하는 데 전념하는 이유입니다.
AI 빙산의 일각에 오신 것을 환영합니다.