생성형 AI란 무엇이며, AIOps로 가는 길일까요?

Lori Mac Vittie수석 엔지니어 겸 최고 에반젤리스트 | F5

그럴지도 모릅니다. 하지만 기존 검색 엔진을 위협하거나 고등학교 에세이와 광고 문구를 작성하는 것보다 훨씬 더 폭넓게 활용될 수 있다는 점은 분명합니다.

생성형 AI란 무엇인가요?

생성형 AI는 자연어 프롬프트를 바탕으로 텍스트, 이미지, 오디오 등 다양한 콘텐츠를 생성할 수 있는 머신러닝 응용 기술입니다. ChatGPT라는 OpenAI 프로젝트가 등장하면서 널리 주목받기 시작했으며, 이를 계기로 여러 산업에서 새로운 활용 사례가 폭발적으로 늘어났습니다.

아직 ChatGPT를 사용해 보지 않으셨다면 잠시 시간을 내어 몇 가지 질문을 해 보시길 권합니다. 이를테면 자신이나 역사적 인물에 관해 이야기해 달라고 하거나, 어떤 것이 어떻게 작동하는지 설명해 달라고 해 보세요. ChatGPT가 항상 옳은 것은 아니므로 주의가 필요하지만, 이는 새로운 경험이기에 놀라운 통찰을 선사합니다.

ChatGPT는 생성형 AI의 개념 증명을 제시했습니다. 이를 통해 우리가 어떻게 다르게 일할 수 있을지 그 가능성을 엿볼 수 있었으며, F5 CTO 오피스에서는 생성형 AI를 애플리케이션 딜리버리와 보안에 어떻게 적용할 수 있을지 흥미롭게 탐구해 볼 수 있었습니다.

명령형에서 선언형을 거쳐 생성형으로

인프라의 과제 중 하나는 단 하나의 애플리케이션을 제공하고 보호하는 데에도 필요한 수많은 장치, 서비스 및 시스템을 구성해야 한다는 점입니다. 조직은 ‘서비스형(as a service)’ 제품을 제외하더라도 평균 23개의 서로 다른 애플리케이션 서비스를 사용합니다.

웹 앱 및 API 보호 서비스를 구성하는 것이 일반적인 로드 밸런싱 서비스를 구성하는 것과 다르다는 점은 굳이 말씀드리지 않아도 잘 아실 겁니다. 이는 앱 서비스의 구성과 운영을 담당하는 사람들이 서로 다른 수십 가지의 ‘언어’에 능통해야 할 수도 있다는 뜻입니다.

업계는 수년간 이 문제를 해결하기 위해 노력해 왔습니다. API가 모든 것을 구성하는 주요 수단으로 자리 잡으면서 애플리케이션 전송 및 보안 서비스도 예외가 아니었습니다. 처음에는 모두 명령형 API를 사용했는데, 이는 명령을 내리는 방식만 바꾼 것이었습니다. CLI에 명령을 입력하는 대신 HTTP를 통해 API 명령을 전송하게 된 것입니다.

얼마 지나지 않아 명령형 API에 의존하면서 발생하는 API 세금이 지나치게 크다는 사실이 분명해졌고, 업계는 선언형 API로 전환했습니다. 하지만 안타깝게도 업계 대부분은 선언형을 ‘JSON 형식의 구성’으로 받아들였습니다. 그 결과 선언형의 본래 의도(이 단어가 중요하니 기억해 두세요)인 ‘원하는 작업을 말해 주면 알아서 처리해 드리겠습니다’가 아니라, ‘원하는 구성은 이것이니, 이를 구현하는 어려운 작업은 알아서 하세요’가 되어 버렸습니다.

둘은 완전히 같지 않으며, 여전히 특정 솔루션 고유의 운영 모델에 대해 동일한 수준의 전문 지식이 필요했습니다. 업계가 로드 밸런서에서 “풀”과 “팜” 중 어느 용어를 사용할지에 대해서조차 합의한 적이 있는지 의문입니다. 가상 서버가 실제 서버 및 애플리케이션 인스턴스와 상호 작용하는 방식에 관한 더 복잡한 세부 사항은 말할 것도 없습니다. 결국 업계가 선언형 방식으로 한 일은 명령 수준의 작업을 운영자에게서 시스템으로 넘긴 것뿐이었습니다.

이제 생성형 AI가 제공하는 것은 로우코드/노코드의 한 형태입니다. 이는 결과 생성을 안내하는 체계적인 명세를 기반으로 하므로 일부 다른 결과보다 더 신뢰할 수 있습니다. 결국 “hello world”를 작성하는 방법은 한정되어 있지만, 질문에 답하는 방법은 수백만 가지나 됩니다.

즉, 훈련된 모델에 “App A를 확장할 수 있도록 로드 밸런서를 구성하고 싶어”라고 말하면 시스템이 구성을 바로 만들어 낼 수 있어야 한다는 뜻입니다. 더 나아가 “Z를 사용해 시스템 Y에서 X를 수행하는 스크립트를 만들어 줘”라고 말하면, 짠! 구성을 생성하는 데 그치지 않고 이를 적절한 시스템에 배포하는 데 필요한 자동화까지 만들어 낼 수 있어야 합니다.

이것 보세요. 이미 가능하네요.

물론 이 코드는 프로덕션 환경에서 바로 사용할 수 있는 수준은 아닙니다. IP와 자격 증명 모두 유효하지 않고, 제가 첫 번째는 물론 두 번째나 세 번째로도 선택하지 않을 Python을 택했기 때문입니다. 하지만 공개된 문서와 놀라울 정도로 간단한 프롬프트만으로도 90% 정도 완성되었습니다. 프롬프트가 구체적일수록 결과도 더 좋아집니다. 아래에 생성된 전체 스크립트는 길어서 도입부만 포함했습니다.

여전히 배포할 준비가 된 수준은 아니지만, 실제로 작동하는 단계에 훨씬 가까워졌고 제가 별도로 학습시키지 않았는데도 생성하는 데 말 그대로 15초도 걸리지 않았습니다.

생성을 넘어 자동화로

하지만 이건 쉬운 일입니다. 더 나아가 제가 “아, 참, 배포도 해줘.”라고 말하면, 제가 모닝커피를 즐기는 동안 알아서 배포까지 해줘야 합니다. 어쩌면 짧은 노래도 한 곡 불러주고요.

하지만 잠깐, 이게 다가 아닙니다! 나중에는 생성형 AI 시스템에 “그린베이의 사용자들이 로그인을 많이 해서 성능이 저하되고 있으니, 앱 A를 복제해 밀워키에 있는 우리 사이트로 옮겨 줘.”라고 말할 수도 있다면 어떨까요?

실제로 그렇게 됩니다. 내부적으로 이 모든 것은 API와 구성, 명령이 서로 얽힌 구조일 뿐이며, 오늘날에는 스크립트를 통해 자동화할 수 있고 실제로도 자주 자동화됩니다. 이러한 스크립트는 대개 매개변수화되어 있는데, 이는 제 AI 프롬프트의 매개변수인 Green Bay, Milwaukee, App A와 대략적으로 대응합니다. 따라서 달라지는 것은 생성 주체와 생성 속도입니다.

저는 AI와 자동화가 역량을 배가하는 수단이라고 자주 말합니다. 기술은 무엇을 해야 하는지 스스로 알지 못하지만, 우리는 알고 있기 때문입니다. AI와 자동화는 그 일을 훨씬 더 빠르고 효율적으로 수행하여 생산성을 크게 높이고, 가치 실현 시간을 단축하며, 전문가들이 전략적 의사 결정과 프로젝트에 집중할 시간을 확보해 줍니다. 또한 시간이 지나면서 AI는 우리에게서 학습해 우리의 역량을 더욱 확대하고 새로운 가능성을 열어 줄 수 있습니다.

이는 더 이상 공상과학이 아니라 컴퓨터 과학의 현실입니다.

생성형 AI는 우리에게 필요한 AIOps를 실현할 것입니다

오늘날 많은 AIOps 솔루션은 오로지 조직의 98%가 확보하지 못하고 있는 인사이트를 제공하는 데만 집중합니다.

이러한 솔루션은 미래의 요구가 아니라 과거의 문제에 답합니다.

보안 서비스처럼 보다 자율적으로 작동할 수 있는 AIOps 플랫폼조차도 기존 구성과 체계적으로 정의된 대응 방식에 크게 의존합니다. 일반적으로 AI를 활용해 이기종 애플리케이션 전송 및 보안 계층 전반에서 운영이 더욱 자율적으로 수행되도록 지원하지는 않습니다. 이러한 플랫폼은 데이터 분석과 더불어 인간에게는 찾아낼 능력이나 시간이 없는 인사이트를 발견하는 데 AI를 활용합니다. 하지만 적어도 네트워크 상위 계층과 이미 충분히 파악된 보안 문제의 경우, 대개 거기서 그칩니다.

바로 이 지점에서 생성형 AI가 그 역할을 이어받을 수 있습니다. 그리고 이것이 제가 애플리케이션 제공과 보안을 ‘말도 안 될 만큼 쉽게’ 만들기 위해 이 기술을 어디까지 활용할 수 있을지 탐구하는 데 전념하는 이유입니다.

AI 빙산의 일각에 오신 것을 환영합니다.

작성자 소개

Lori Mac Vittie수석 엔지니어 겸 최고 에반젤리스트 | F5

Lori MacVittie는 F5 CTO 오피스의 수석 엔지니어이자 최고 에반젤리스트로, 애플리케이션 딜리버리, 자동화 전략 및 인프라 분야에서 깊이 있는 전문성을 보유하고 있습니다. AI 에이전트를 위한 가드레일을 정의하고, 취약한 멀티클라우드 아키텍처를 분석하며, 확장 가능한 시스템의 한계를 탐구하는 등 복잡한 문제를 명확하게 풀어내는 것으로 잘 알려져 있습니다. 애플리케이션 개발, IT 아키텍처, 네트워크 및 시스템 운영 전반에 걸쳐 30년 이상의 업계 경험을 쌓았습니다. F5에 합류하기 전에는 수상 경력이 있는 기술 편집자로 활동했습니다. MacVittie는 컴퓨터 과학 석사 학위를 보유하고 있으며, 보안, 클라우드 및 엔터프라이즈 아키텍처 분야를 아우르는 다수의 저서를 집필한 작가입니다. 또한 보드게임과 비디오 게임을 열정적으로 즐기며, 치즈에 대해서는 거리낌 없이 확고한 견해를 갖고 있습니다.

Lori Mac Vittie의 다른 블로그 게시물