AI 애플리케이션에 대해 알아야 할 세 가지 사항

Lori Mac Vittie수석 엔지니어 겸 최고 에반젤리스트 | F5

알아두어야 할 것은 아마 세 가지보다 더 많겠지만, 우선 이 세 가지부터 시작해 볼까요?

첫째, AI가 실재한다는 점을 짚고 넘어가는 것이 중요합니다. 물론 지나치게 과장되어 있기도 합니다. 10여 년 전 모든 것이 갑자기 ‘클라우드’ 제품으로 포장되었던 것처럼, 이제는 전체 제품 포트폴리오가 ‘AI’로 포장되고 있기도 합니다. 하지만 이 분야를 잘 아는 사람들, 즉 당사의 최근 AI 관련 설문조사에 참여한 의사 결정권자들에 따르면 AI는 분명 실재합니다.

대부분의 조직(69%)이 기술과 활용 사례를 연구하고 있는 가운데, 43%는 AI를 대규모로 도입했다고 답했습니다. 여기에는 생성형 AI와 예측형 AI가 모두 포함됩니다.

다소 우려스러운 점은 이미 어떤 형태로든 AI를 도입한 조직 중 47%가 AI에 대해 정의된 전략이 전혀—말 그대로 하나도—없다는 사실입니다. 퍼블릭 클라우드 도입 열풍에서 얻은 교훈이 있다면, 전략 없이 뛰어들 경우 향후 문제가 발생할 수밖에 없다는 것입니다.

해당 전략을 수립하는 데 도움을 드리고자, 특히 운영 및 보안 측면의 영향을 파악할 때 고려해야 할 세 가지 사항을 정리했습니다.

1. AI 애플리케이션은 현대적인 애플리케이션입니다

굳이 말할 필요도 없겠지만, 그래도 짚고 넘어가겠습니다. AI 애플리케이션은 현대적인 애플리케이션입니다. AI 애플리케이션의 핵심은 모델이지만, 그 밖에도 추론 서버, 데이터 소스, 디코더, 인코더 등 여러 구성 요소가 모여 하나의 ‘AI 애플리케이션’을 이룹니다.

이러한 구성 요소는 일반적으로 모던 애플리케이션으로 배포됩니다. 즉, 확장성, 스케줄링은 물론 보안을 위해 Kubernetes와 그 구성 요소를 활용합니다. 구성 요소마다 필요한 리소스가 다르기 때문에(일부 워크로드는 GPU 가속의 이점을 누리는 반면, 다른 워크로드에는 일반 CPU만 필요함) 모던 애플리케이션으로 배포하는 것이 가장 합리적입니다. 또한 AI 애플리케이션의 각 워크로드를 구체적인 컴퓨팅 요구 사항에 따라 최적으로 배포하고 확장할 수 있도록 유연성을 높여 줍니다.

이는 AI 애플리케이션도 다른 최신 애플리케이션과 동일한 여러 과제에 직면한다는 뜻입니다. 기존 최신 애플리케이션을 확장하고 보호하면서 얻은 교훈은 AI 애플리케이션을 확장하고 보호하는 데에도 도움이 될 것입니다.

전략적 시사점: 애플리케이션 제공 및 보안에 관한 기존 지식과 관행을 활용하되, AI 애플리케이션의 구성 요소마다 리소스 요구 사항이 다를 수 있다는 점을 고려하는 접근 방식으로 확장해야 합니다. 예를 들어, 연산 집약적인 작업에는 GPU 가속이 필요할 수 있고, 연산량이 적은 워크로드에는 CPU 리소스가 적합할 수 있습니다. 최신 애플리케이션 배포 방식은 각 구성 요소의 구체적인 요구 사항에 따라 리소스를 유연하게 할당할 수 있어 성능과 비용 효율성을 최적화합니다.

2. AI 애플리케이션은 현대적 애플리케이션과 다릅니다

네, 방금까지 “AI 애플리케이션도 현대적인 애플리케이션이다”라는 점을 거듭 강조한 것은 알고 있지만, 아키텍처와 운영, 보안에 영향을 미치는 차이점도 있습니다.

첫째, AI 애플리케이션은 비정형 데이터를 주고받습니다. 이러한 프롬프트에는 형식이나 길이, 데이터 유형에 대한 요구 사항이 없으며, 멀티모달 LLM의 빠른 도입은 ‘요청’이라는 혼란을 더욱 가중할 뿐입니다. 대부분의 AI 애플리케이션이 프롬프트와 응답을 JSON 페이로드로 감싼다는 점에서는 구조화되어 있다고 할 수도 있겠지만, 실제 페이로드 자체가 정의되어 있지 않으므로 그렇지 않습니다.

둘째, AI 애플리케이션은 거의 전적으로 API를 통해 모델과 통신합니다. 이는 ‘사람’ 또는 ‘기계’를 액세스 허용의 기본 기준으로 삼는 봇 탐지 솔루션이 그다지 유용하지 않을 것이라는 의미입니다. ‘좋은 봇’과 ‘나쁜 봇’을 가려내는 데 도움이 되는 보안 서비스는 모든 AI 전략에서 중요한 부분을 차지하게 될 것입니다. 또한 API에 대한 의존도가 높기 때문에 연례 조사에서 AI 모델 보호를 위해 도입할 계획인 보안 서비스 중 API 보안이 가장 높은 순위를 차지한 것으로 나타났습니다.

마지막으로, AI 애플리케이션의 상호작용 패턴은 대개 역동적이고 가변적이며 예측하기 어렵습니다. 일반적으로 오늘날의 보안 서비스는 페이지별 마우스 클릭 및 입력 빈도에서 이상 징후를 탐지합니다. 확립된 인간의 평균적인 행동 기준에서 벗어나는 양상을 바탕으로 ‘봇’의 행동을 추론할 수 있기 때문입니다. 하지만 사용자가 대화형 인터페이스를 이용하면서 매우 불규칙하게 질문을 입력하고, 다시 작성하고, 제출하는 경우에는 이러한 방식이 효과적이지 않습니다. 오늘날 API 보안을 비롯한 많은 보안 솔루션이 행동 분석에 의존한다는 점을 고려하면, 일부 조정이 필요할 것입니다.

전략적 시사점: AI 애플리케이션을 적절히 관리하려면 추가적인 보안 역량이 필요합니다. 대화형 상호작용의 미묘한 특성을 충분히 포착하지 못할 수 있는 기존 보안 접근 방식을 재고하십시오. 상호작용 패턴의 실시간 모니터링, 상황별 단서에 기반한 적응형 액세스 제어 메커니즘과 같은 혁신적인 접근 방식을 모색하십시오. AI 모델과의 통신을 지원하는 API의 핵심적인 역할을 인식하고, 무단 액세스, 데이터 유출 및 악의적인 공격을 방지할 수 있는 강력한 API 보안 솔루션에 투자하십시오.

3. AI 애플리케이션마다 서로 다른 모델을 사용합니다

멀티클라우드가 결국 현실로 자리 잡은 것처럼, 조직이 단일 AI 모델을 표준으로 채택할 가능성은 매우 낮습니다. 사용 사례에 따라 더 적합한 모델이 다를 수 있기 때문입니다.

따라서 평균적인 기업이 오픈 소스 모델과 독점 모델을 포함해 이미 약 3개(2.9개)의 서로 다른 모델을 사용하고 있다는 사실은 놀랍지 않습니다. 사용 사례별 모델 활용 현황을 살펴보면 일정한 패턴이 나타나기 시작합니다. 예를 들어 보안 운영과 콘텐츠 제작처럼 민감한 기업 데이터나 아이디어에 크게 의존하는 사용 사례에서는 오픈 소스 모델을 선호하는 뚜렷한 추세가 나타납니다. 반면 자동화 사용 사례에서는 Microsoft의 활용이 늘고 있는데, 이는 주로 많은 조직에서 이미 사용 중인 도구 및 프로세스와 통합할 수 있기 때문입니다.

이를 이해하는 것이 중요한 이유는 SaaS 관리형 AI 모델을 제공하고 보호하는 데 필요한 관행, 도구 및 기술이 클라우드 관리형 AI 모델에 필요한 것과 다르고, 자체 관리형 AI 모델에 필요한 것과도 다르기 때문입니다. 특히 보안 측면에서 분명 유사점이 있기는 하지만, 사용되는 각 배포 패턴에 따라 해결해야 할 중요한 차이점도 있습니다.

전략적 시사점: 조직 내 사용 사례를 분석하고 다양한 AI 모델의 도입 패턴을 파악하세요. 데이터 민감도, 통합 역량, 기존 도구 및 프로세스와의 부합 여부 등의 요소를 고려하세요. 각 배포 패턴의 구체적인 특성에 맞춰 배포 및 보안 접근 방식을 조정하세요.

AI 애플리케이션을 구축하고 운영하며 보호할 때는 고려해야 할 사항이 많으며, 특히 모델 보안과 확장성에 관한 새로운 요구 사항도 빠짐없이 살펴봐야 합니다. 하지만 지난 10년간 코어, 클라우드, 엣지 전반에 최신 애플리케이션을 배포하며 얻은 많은 교훈은 조직에 큰 도움이 될 것입니다. 핵심 과제는 여전히 동일하며, AI 애플리케이션의 확장과 보안에도 같은 수준의 엄격한 기준을 적용하면 성공적인 구현에 크게 기여할 수 있습니다.

하지만 이러한 차이점을 간과한 채 제공 및 보안 과제를 해결하기 위한 최소한의 준공식적 전략조차 없이 성급히 뛰어든다면, 결국 실망스러운 결과를 맞게 될 수밖에 없습니다.

작성자 소개

Lori Mac Vittie수석 엔지니어 겸 최고 에반젤리스트 | F5

Lori MacVittie는 F5 CTO 오피스의 수석 엔지니어이자 최고 에반젤리스트로, 애플리케이션 딜리버리, 자동화 전략 및 인프라 분야에서 깊이 있는 전문성을 보유하고 있습니다. AI 에이전트를 위한 가드레일을 정의하고, 취약한 멀티클라우드 아키텍처를 분석하며, 확장 가능한 시스템의 한계를 탐구하는 등 복잡한 문제를 명확하게 풀어내는 것으로 잘 알려져 있습니다. 애플리케이션 개발, IT 아키텍처, 네트워크 및 시스템 운영 전반에 걸쳐 30년 이상의 업계 경험을 쌓았습니다. F5에 합류하기 전에는 수상 경력이 있는 기술 편집자로 활동했습니다. MacVittie는 컴퓨터 과학 석사 학위를 보유하고 있으며, 보안, 클라우드 및 엔터프라이즈 아키텍처 분야를 아우르는 다수의 저서를 집필한 작가입니다. 또한 보드게임과 비디오 게임을 열정적으로 즐기며, 치즈에 대해서는 거리낌 없이 확고한 견해를 갖고 있습니다.

Lori Mac Vittie의 다른 블로그 게시물