지난, 그러니까 거의 20년 동안 제가 쓴 글을 하나라도 읽어 오셨다면, 이미 알고 계시겠지만 애플리케이션 아키텍처는 애플리케이션 제공에 지대한 영향을 미칩니다. 이는 단순히 앱을 어떻게 구축하느냐의 문제가 아닙니다. 앱이 어떻게 작동하고, 어떻게 확장되며, 어떻게 장애를 일으키는지, 그리고 무엇보다 앱 제공을 위해 구축한 인프라를 앱이 어떻게 거쳐 가는지에 관한 문제입니다. 그리고 에이전트 아키텍처는 이 모든 것을 확실히 뒤흔들고 있습니다.
이번 진화에는 새로운 프로토콜 지원이나 새로운 보안 기능만으로는 충분하지 않습니다. 분류가 필요합니다.
이제 업계는 수년간 트래픽을 분류해 왔지만, 대부분은 이를 차단하기 위한 것이었습니다. 우리 모두 분류를 활용해 봇을 차단하고, 위협을 걸러내며, 악성 페이로드에 WAF 정책을 적용해 왔습니다. 이는 기본 중의 기본입니다. 그리고 지금까지 분류는 대체로 보안 영역에만 국한되어 왔습니다.
하지만 AI는 트래픽과 이를 처리하는 데 필요한 리소스를 변화시키고 있습니다. 에이전트 아키텍처는 어떨까요? 단순히 게임의 규칙만 바꾸는 것이 아니라 게임 자체를 바꿉니다.
모든 POST는 단순한 요청일 수도, 목표일 수도, 또는 여러분의 스택을 거치며 추론하려는 AI 에이전트일 수도 있습니다. 오케스트레이션을 시작하거나 재귀적 워크플로를 촉발할 수도 있고, 200토큰짜리 프롬프트가 20,000토큰으로 늘어나 백엔드에 과부하를 일으킬 수도 있습니다. 그런데 인프라는 어떨까요? 여전히 모든 POST를 똑같이 취급합니다.
바로 그게 문제입니다.
현대의 트래픽은 단순한 트래픽이 아니라 과업이자 작업이며, 하나의 결정입니다. 그리고 이를 라우팅하기 전에 분류할 수 있는 역량에 따라 애플리케이션의 응답성과 가용성, 궁극적으로는 보안 유지 여부가 결정됩니다.
1. 연결 기반 라우팅(레거시)
익숙한 내용부터 시작해 보겠습니다. 레이어 4(L4) 라우팅에 기반한 기존 트래픽 관리 모델은 여전히 인터넷의 상당 부분을 뒷받침하고 있습니다. 이 접근 방식은 다음과 같은 기본 매개변수에 의존합니다:
- L4 라우팅: IP 주소 및 포트 번호와 같은 전송 계층 정보를 기반으로 결정합니다.
- 경로 기반 라우팅: URL 경로를 제한적으로 검사하며, 일반적으로 애플리케이션 계층(계층 7)에서 수행됩니다.
- 동종 풀: 백엔드 서버를 동일하게 취급하며, 특화된 기능에 따라 구분하지 않습니다.
- 부하 분산: 서버에 연결을 고르게 분산하여 과부하를 방지합니다.
문제는 무엇일까요? 이 모델은 요청의 의미를 거의 파악하지 못합니다. 트래픽을 서로 다른 요구 사항을 지닌 다양한 작업이 아니라 획일적인 패킷으로 간주합니다. 생성형 AI, 임베디드 대규모 언어 모델(LLM), 에이전트 기반 프레임워크가 활용되는 오늘날에는 모든 트래픽이 더 이상 동일하지 않기 때문에 이러한 한계가 점점 더 큰 위험으로 이어지고 있습니다.
두 개의 HTTP POST 요청을 예로 들어 보겠습니다:
- 하나는 사용자 프로필 업데이트와 같은 간단한 CRUD(생성, 조회, 수정, 삭제) 작업일 수 있습니다.
- 또 다른 요청은 5개의 다운스트림 도구를 호출하고, 데이터베이스에 데이터를 기록하며, 장시간 실행되는 텍스트 요약 작업을 시작하는 AI 기반 추론 루프와 같은 복잡한 멀티 에이전트 워크플로를 트리거할 수 있습니다.
인프라가 이러한 요청을 모두 동일하게 처리하고 같은 라우팅 규칙, 타임아웃 또는 백엔드 서버를 사용한다면 문제가 발생할 가능성이 큽니다. 리소스를 많이 사용하는 AI 작업을 가벼운 데이터베이스 쿼리처럼 처리하면 병목 현상, 장애 또는 성능 저하가 발생할 수 있습니다. 현대적인 트래픽에는 더 지능적인 관리가 필요합니다.
2. 분류 기반 라우팅(현재/과도기)
우리는 수년간 L7 라우팅을 해왔습니다. 경로를 매칭하고, 페이로드를 검사하고, 헤더를 살펴 트래픽을 어느 풀로 보낼지 결정해 왔습니다. 이것이 콘텐츠 기반 라우팅입니다. 유용한 방식이지만, 요청에 무엇이 담겨 있는지만 알려줄 뿐, 요청이 왜 존재하는지는 알려주지 않습니다.
앞으로 나아가기 위해 필요한 것은 컨텍스트 기반 분류입니다.
- L7 이상에서 작동하지만, 페이로드 검사에만 국한되지 않습니다.
- 트래픽은 의도, 복잡성 및 비용을 기준으로 분류됩니다.
- 요약 작업인가요, 아니면 사용자 로그인인가요?
- 재귀적이거나, AI로 생성되거나, 지연 시간에 민감한가요?
- 풀은 단순한 용량뿐만 아니라 기능에 따라 구분됩니다.
- 라우팅 결정에는 형식뿐만 아니라 목적도 고려됩니다.
이것이 바로 트래픽을 ‘제공해야 할 콘텐츠’가 아니라 ‘처리해야 할 작업’으로 바라보는 전환입니다. 이를 통해 요청이 달성하려는 목적에 따라 요청을 어디로 보내야 하는지, 어떻게 우선순위를 정해야 하는지, 그리고 어떤 정책을 적용해야 하는지를 실시간으로 결정할 수 있습니다. 이를 의도 기반이라고 해도 좋고, 컨텍스트 인식이라고 해도 좋습니다. 무엇이라 부르든 중요하지 않습니다. 이러한 전환은 실제로 일어나고 있기 때문입니다. 이제 요청은 단순한 트랜잭션이 아닙니다. 호출이자 트리거이며, HTTP로 감싼 목표가 되어가고 있습니다.
이 모든 내용은 애플리케이션 딜리버리 10대 핵심 과제 중 4위인 트래픽 제어, 5위인 트래픽 조정, 그리고 6위인 지연 시간 관리와 직접적으로 연결됩니다. 맥락을 파악할 수 없다면 제어하거나, 조정하거나, 최적화할 수도 없기 때문입니다.
3. 작업 기반 라우팅(새롭게 부상 중)
이것이 우리가 나아갈 방향입니다. 특히 에이전트형 시스템과 재귀적 플래너가 프로덕션 환경의 일부로 자리 잡으면서 더욱 그렇습니다. 이제 우리는 단순히 콘텐츠를 제공하는 데 그치지 않습니다. 목표를 관리합니다. 그리고 이는 모든 것을 바꿉니다.
이 모델에서는 하나의 요청이 항상 하나의 응답으로 이어지는 것은 아닙니다. 대신 일련의 작은 작업이 시작될 수 있습니다. 이러한 작업 중 일부는 병렬로 실행될 수 있고, 다른 작업은 선행 작업이 완료되어야 시작될 수도 있습니다. 단순히 트래픽을 라우팅하는 것이 아니라 작업을 조율하는 것입니다.
이를 파이프라인보다는 워크플로에 가깝다고 생각해 보세요. 하나의 결과를 만들어 내는 데 기여하는 여러 단계의 체크리스트를 관리하는 것입니다. 어떤 단계는 즉시 진행할 수 있지만, 다른 단계는 차례를 기다려야 합니다. 하지만 모든 단계는 역량, 정책, 현재 부하를 바탕으로 조율하고 관찰하며 적절한 방향으로 이끌어야 합니다.
그 단계에 이르면 기존의 라우팅 로직은 한계를 드러내기 시작합니다. 모든 요청이 여러 단계와 여러 에이전트가 관여하는 프로세스로 전개될 수 있는 상황에서는 정적인 경로와 획일적인 정책만으로는 충분하지 않습니다. 단순히 패킷을 어디로 보낼지 판단하는 데 그치지 않고, 작업이 무엇인지, 무엇이 필요한지, 그리고 누가 또는 무엇이 이를 처리하는 데 가장 적합한지를 이해하는 시스템이 필요합니다.
그리고 여기서 핵심은, 분류 없이는 그 어떤 것도 할 수 없다는 점입니다. 인프라가 요청이 무엇을 달성하려는지 이해하지 못하면 이를 지능적으로 라우팅할 수 없습니다. 이는 먼 미래의 이야기가 아니라 이제 막 현실로 나타나고 있습니다. 그리고 분류는 요청 라우팅에서 실질적인 조정으로 나아가게 해주는 가교입니다.
이것이 중요한 이유
분명히 말씀드리자면, 이는 메타데이터를 더 추가하거나 더 정교한 라우팅 테이블을 구축하는 문제가 아닙니다. 이미 관찰하고 있는 트래픽을 바라보는 관점을 전환하는 문제입니다.
분류는 요청에 반응하는 데서 벗어나, 라우팅하거나 확장하거나 재귀적 에이전트 루프를 정적 자산 가져오기와 똑같이 취급해 무언가를 망가뜨리기 전에 요청을 이해할 수 있게 해줍니다.
이제는 보안만을 위한 것이 아닙니다. 요청에 무엇이 포함되어 있는지만의 문제도 아닙니다. 요청이 무엇을 의미하는지, 무엇을 하려는지, 얼마나 많은 부하를 유발하는지, 그리고 다운스트림의 어떤 부분에 영향을 미치는지가 중요합니다.
바로 그렇기 때문에 분류는 단순히 새롭게 떠오르는 트렌드가 아닙니다. 반드시 필요한 요소입니다. 에이전트, 작업, 워크플로, 실시간 오케스트레이션이 예외적인 사례가 아니라 널리 배포되는 세상에 대응할 수 있도록 트래픽 관리를 발전시키는 데 꼭 필요한 단계입니다.
이해하지 못하는 것은 관리할 수 없습니다. 분류는 이해를 시작하는 방법입니다.
작성자 소개
Lori MacVittie는 F5 CTO 오피스의 수석 엔지니어이자 최고 에반젤리스트로, 애플리케이션 딜리버리, 자동화 전략 및 인프라 분야에서 깊이 있는 전문성을 보유하고 있습니다. AI 에이전트를 위한 가드레일을 정의하고, 취약한 멀티클라우드 아키텍처를 분석하며, 확장 가능한 시스템의 한계를 탐구하는 등 복잡한 문제를 명확하게 풀어내는 것으로 잘 알려져 있습니다. 애플리케이션 개발, IT 아키텍처, 네트워크 및 시스템 운영 전반에 걸쳐 30년 이상의 업계 경험을 쌓았습니다. F5에 합류하기 전에는 수상 경력이 있는 기술 편집자로 활동했습니다. MacVittie는 컴퓨터 과학 석사 학위를 보유하고 있으며, 보안, 클라우드 및 엔터프라이즈 아키텍처 분야를 아우르는 다수의 저서를 집필한 작가입니다. 또한 보드게임과 비디오 게임을 열정적으로 즐기며, 치즈에 대해서는 거리낌 없이 확고한 견해를 갖고 있습니다.
Lori Mac Vittie의 다른 블로그 게시물관련 블로그 게시물
AI 시대의 새로운 애플리케이션 제공 원칙으로 복잡성 극복하기
보안, 일관성, 완전 자동화에 중점을 둔 애플리케이션 제공의 새로운 6가지 원칙을 도입하여 복잡성 없이 하이브리드 멀티클라우드의 유연성을 누리세요.
디지털 혁신을 가속화하는 6가지 기술 역량
오늘날의 엔터프라이즈 아키텍처에는 기술 변화를 주도하는 데 핵심적인 민첩성, 확장성, 보안 및 관찰 가능성이 부족하지만, 이 여섯 가지 핵심 역량은 기업이 디지털 혁신 전반에 걸쳐 위험과 과제를 관리하는 데 도움이 될 것입니다.
하이브리드 근무가 ID 중심 보안으로의 전환을 이끌고 있습니다
자동화와 디지털화의 폭발적인 성장에 하이브리드 근무 모델로의 전환 추세가 더해지면서, IP 기반 보안에서 벗어나 ID 기반 액세스 전략으로 전환하는 움직임이 더욱 가속화될 것입니다.
관점의 현대화: 애플리케이션에서 경험으로
그리스와 로마의 신들처럼, 여러 신화에서도 동일한 존재가 다양한 모습으로 나타나는 것을 볼 수 있습니다. 본질적으로 각각의 화신은 기존 존재가 새로운 얼굴로 드러난 것입니다. 디지털 세계에서도 이와 비슷한 양상이 나타납니다. 우리가 ‘애플리케이션’이라고 부르는 것들은 흔히 기존 기능이 새로운 형태로 구현된 것이라 볼 수 있습니다.
코로나19 이후 기업 결제의 디지털 전환
디지털 결제는 과거의 현금만큼이나 보편화되었습니다. 코로나19 팬데믹으로 인한 봉쇄 조치는 소비자의 디지털 결제 서비스 의존도를 더욱 빠르게 높였습니다. 기업의 디지털 결제 도입 역시 가속화되었습니다. 대중을 상대로 영업하든 하지 않든 기업에는 여전히 지급해야 할 대금과 받아야 할 대금이 있기 때문입니다.
공급망 해킹과 보안에서 하드웨어의 역할
수석 아키텍트 Dave Schmitt와 CTO 오피스가 최근 Bloomberg의 Super Micro 관련 기사를 계기로 하드웨어 보안 전문성의 중요성을 되짚어봅니다. 또한 이 글에서는 시스템이 안전하게 보호되고 있는지 확인하기 위해 공급업체에 물어봐야 할 질문도 소개합니다.