AIOps 솔루션에는 전통적인 AI와 생성형 AI가 모두 필요합니다

Lori Mac Vittie수석 엔지니어 겸 최고 에반젤리스트 | F5

생성형 AI는 AIOps에 새로운 활력을 불어넣었지만, 앞으로도 AIOps의 생명력을 유지하는 데 필요한 AI가 생성형 AI뿐이라고 믿는 것은 잘못된 생각입니다.

2022년 당시 AIOps는 간신히 명맥만 유지하는 기술처럼 보였습니다. 이른바 AIOps 솔루션은 거의 모두 기존 모니터링 기능을 강화한 수준에 불과했습니다. 당시 AIOps가 활용될 것으로 예상된 사용 사례는 평범했고, 적응형 애플리케이션이라는 비전을 실현하는 데 거의 기여하지 못했습니다. 즉, 운영에 지능과 실시간 변경 실행 역량을 도입한다는 비전입니다.

하지만 생성형 AI가 등장하면서 갑자기 AIOps는 다시 살아날 기회를 얻었습니다. 하지만 그렇지 않았습니다. 적어도 실제로는 말이죠.

그 이유를 이해하려면 AIOps가 제공하고자 하는 기능을 기준으로 AIOps를 정의해야 합니다.

AIOps란 무엇인가요?

AIOps는 일반적으로 IT 운영에 인공지능을 활용하는 것을 가리키는 포괄적인 용어입니다. 일반적으로 플랫폼이라고 불리는 AIOps 솔루션은 대개 다음과 같은 네 가지 고유한 기능을 제공합니다:

• 관찰: 텔레메트리 수집 및 이상 탐지를 포함합니다.
• 분석: AI를 활용해 패턴을 발견하고, 맥락에 따라 이벤트 간의 연관성을 파악하며, 근본 원인을 식별하고 인사이트를 도출합니다.
• 참여: 사용자가 데이터와 인사이트를 시각화하고 상호작용할 수 있도록 지원합니다.
• 실행: 자동화를 통해 인사이트를 행동으로 전환합니다.

지금까지 주로 확인된 것은 생성형 AI와 참여 기능의 통합입니다. 구체적으로 생성형 AI는 GUI(그래픽 사용자 인터페이스)와 API를 NLI(자연어 인터페이스)로 대체함으로써 이 기능의 상호작용 기능을 발전시켰습니다. ZK Research 보고서에 따르면, 이는 AIOps가 가장 자주 언급되는 활용 사례로 나아가도록 하는 데 크게 기여합니다:

• IT 운영 효율성/생산성 64%
• 54% 네트워크 또는 앱 성능 향상
• 54%가 보안 또는 규정 준수를 개선

생성형 AI가 위험을 완화하고 인시던트에 대응하기 위한 정책과 구성을 생성함으로써 조치하는 데 사용되고 있다는 몇 가지 징후가 있지만, 현재로서는 미미하며 대부분 단일 대상 에코시스템, 즉 특정 벤더 또는 제공업체의 포트폴리오에 국한되어 있습니다.

생성형 AI는 분석 기능이 관찰 기능으로 수집된 데이터를 처리하는 역량을 발전시키는 데 거의 기여하지 못했습니다. 이는 생성형 AI의 단점이라기보다 애초에 그렇게 설계되지 않았기 때문입니다. 이를 위해서는 검증된 기존 AI에 의존해야 합니다.

전통적 AI란 무엇인가요?

생성형 AI가 등장한 이후, 우리가 줄곧 AI라고 불러 온 기술에도 이를 구분할 별도의 명칭이 필요해졌습니다. 시장에서는 전통적 AI라는 용어를 사용해 ‘생성형 AI를 제외한 모든 AI’를 지칭하고 있습니다.

전통적 AI는 생성형 AI와 동일한 학습 기법과 기본 원리를 많이 사용하지만, 주로 구조화된 데이터로 이루어진 말뭉치에서 패턴과 관계를 식별하여 결과를 분석하고 예측하는 데 목적이 있습니다. 전통적 AI는 분류와 인식에 매우 뛰어납니다.

전통적인 AI는 수십 년 동안 다음과 같은 용도로 사용되어 왔습니다:

1. 악용 및 사기를 방지하기 위해 봇 식별(ATO)와 같은 계정 탈취
2. 네트워크(DDoS) 및 애플리케이션(L7) 트래픽의 행동 패턴을 기반으로 공격 탐지
3. 소비 패턴을 기반으로 제품 및/또는 서비스를 추천합니다
4. 필기 및 이미지 인식

AIOps에서 AI의 역할

기존 AI는 기존 패턴과 관계를 예측할 뿐만 아니라 거의 실시간으로 새로운 패턴과 관계를 찾아낼 수 있기 때문에 진정한 AIOps 솔루션에 매우 중요한 기술입니다. 새로운 데이터를 분석하여 공격의 존재를 추론하거나 가용성을 저해하거나 성능을 저하시킬 문제를 예측할 수 있는 모델이 필요합니다. 기존 AI는 이 두 가지 모두에 특히 뛰어나며, 관찰 기능에 이상 징후 탐지 능력을 부여하고 분석 기능에 필요한 패턴과 관계를 찾아냅니다.

생성형 AI는 코드, 구성 및 콘텐츠를 생성할 수 있습니다. 생성형 AI는 기존 패턴을 복제하여 새로운 콘텐츠를 생성하는 데 적용합니다. 무언가를 새롭게 창조하는 것이 아니라, 피드백에 따라 강화되거나 약화되는 객체 간의 관계를 활용합니다.

실제로 생성형 AI에 새로운 데이터를 분석하도록 요청하는 것은 위험이 따릅니다. 올바른 답을 내놓을 수도 있지만, 환각을 일으켜 잘못된 답을 제시할 수도 있습니다. 결국 생성형 AI는 확률에 기반해 작동하기 때문입니다. 데이터 포인트 간의 관계나 패턴이 충분히 강하지 않거나 충분히 존재하지 않으면, 정답인지 오답인지와 관계없이 빈틈을 임의로 채워 넣습니다.

생성형 AI가 우리에게 제공하는 것은 데이터에 대한 접근성입니다. 쿼리 언어의 전문가가 되거나 개발자에게 인터페이스 구축을 의존할 필요가 없기 때문입니다. 또한 문제 해결을 위해 실행할 수 있는 코드나 구성을 자동으로 생성하는 능력도 제공합니다. 이 역시 코드 작성이나 여러 API 활용에 능숙해야 할 필요성을 줄여 준다는 점에서 접근성에 해당합니다.

하지만 텔레메트리 데이터를 실시간으로 분석하는 전통적 AI가 없다면, 이러한 시스템은 완전한 기능을 갖춘 AIOps 솔루션에 필요한 세 가지 역량 중 두 가지만 부분적으로 충족할 뿐입니다. 따라서 전통적 AI와 생성형 AI를 모두 활용해야 합니다:

• 관찰: 이상 징후 탐지를 위한 전통적 AI.
• 분석: 패턴과 관계를 파악하는 전통적인 AI.
• 활용: 생성형 AI를 통해 사용자가 데이터와 인사이트를 시각화하고 상호작용할 수 있도록 지원합니다.
• 실행: 생성형 AI를 활용해 인사이트를 행동으로 전환합니다.

따라서 저는 생성형 AI와 운영을 간소화하고 더 나아가 운영을 가속화할 수 있는 능력에 대해 낙관적이지만, AIOps에서 AI의 잠재력을 온전히 실현하려면 기존 AI와 생성형 AI가 모두 필요하다는 점도 잘 알고 있습니다.

작성자 소개

Lori Mac Vittie수석 엔지니어 겸 최고 에반젤리스트 | F5

Lori MacVittie는 F5 CTO 오피스의 수석 엔지니어이자 최고 에반젤리스트로, 애플리케이션 딜리버리, 자동화 전략 및 인프라 분야에서 깊이 있는 전문성을 보유하고 있습니다. AI 에이전트를 위한 가드레일을 정의하고, 취약한 멀티클라우드 아키텍처를 분석하며, 확장 가능한 시스템의 한계를 탐구하는 등 복잡한 문제를 명확하게 풀어내는 것으로 잘 알려져 있습니다. 애플리케이션 개발, IT 아키텍처, 네트워크 및 시스템 운영 전반에 걸쳐 30년 이상의 업계 경험을 쌓았습니다. F5에 합류하기 전에는 수상 경력이 있는 기술 편집자로 활동했습니다. MacVittie는 컴퓨터 과학 석사 학위를 보유하고 있으며, 보안, 클라우드 및 엔터프라이즈 아키텍처 분야를 아우르는 다수의 저서를 집필한 작가입니다. 또한 보드게임과 비디오 게임을 열정적으로 즐기며, 치즈에 대해서는 거리낌 없이 확고한 견해를 갖고 있습니다.

Lori Mac Vittie의 다른 블로그 게시물