컨텍스트가 새로운 경계다: 프로그래밍 가능한 애플리케이션 딜리버리로 AI 에이전트 거버넌스 구현

Lori Mac Vittie수석 엔지니어 겸 최고 에반젤리스트 | F5

AIOps에는 “MCP는 그저 또 하나의 API일 뿐이다”라는 위험한 오해가 끈질기게 퍼져 있습니다.

그렇죠. 그리고 SOAP도 그저 과대망상에 빠진 XML일 뿐이었고요.

에이전트 기반 아키텍처, 특히 모델 컨텍스트 프로토콜(MCP)을 기반으로 구축된 아키텍처는 모든 요청에 포함되어 전달되는 명시적인 컨텍스트 블록에 의존합니다. 이는 신경망의 직감이나 ‘LLM 메모리’에 관한 이야기가 아닙니다. 직감이 아니라 JSON을 떠올리면 됩니다. 직렬화되고 구조화된 운영 컨텍스트가 호출할 때마다 함께 전달되어, 에이전트가 목표, 역할, 정책 및 워크플로 상태를 지속적으로 파악할 수 있도록 합니다.

하지만 현실은 이렇습니다. 컨텍스트는 변질됩니다. 그렇게 되면 에이전트는 단순히 혼란스러워지는 데 그치지 않습니다. 잘못된 판단을 확신하고, 운영상 예측 불가능해지거나, 심지어 노골적으로 위험해집니다.

문제는 이미 AI 에이전트를 시험하고 배포하는 사람들이 한발 앞서 있다는 점입니다. 실제로 그렇습니다. 최근 연구 결과에 따르면 9%는 이미 AI 에이전트를 프로덕션 환경에 도입했고, 29%는 향후 추진 방안을 공식적으로 수립했으며, 또 다른 50%는 이를 구체화하는 ‘초기 단계’에 있습니다. AI 에이전트를 아예 고려조차 하지 않는 비율은 고작 11%에 불과합니다.

그들은 빠르게 움직이고 있습니다. 업계보다 더 빠르게 말이죠.

실질적인 규정 준수 도구도, 보안 체계도, 모범 사례도 없습니다. 새로운 기술의 등장과 동시에 발생하는 보안 위험에 대응할 수 있는 기존 방안은 사실상 전무합니다.

프로그래밍 가능성만은 예외입니다. 바로 이 지점에서 여러분의 애플리케이션 전송 및 보안 플랫폼이 역할을 합니다. 단순히 데이터를 전달하는 수동적인 통로가 아니라, 인지적 위생과 맥락 규율을 지키는 프로그래밍 가능한 문지기로서 말입니다.

컨텍스트가 실제로 전달되는 방식

컨텍스트는 추상적인 개념이 아닙니다. 페이로드에 그대로 담겨 있습니다. 실제 MCP 요청은 다음과 같습니다:

POST /agent/v1/invoke HTTP/1.1

호스트: agentmesh.internal

Authorization: Bearer xyz123

Content-Type: application/json

X-MCP-Version: 1.0

{

"context": {

"user": { ... },

"goal": "...",

"prior_messages": [ ... ],

"task_state": { ... },

"security": { ... }

},

"input": { "prompt": "이제 간단한 차트로 시각화해 주세요." }

}

이 컨텍스트 블록은 선택 사항이 아닙니다. 에이전트의 작업 메모리이기 때문입니다. 여기에는 에이전트가 ‘알고 있는’ 모든 정보와 행동의 근거가 되는 모든 가정이 담겨 있습니다. 각 단계마다 이 정보는 압축되지 않은 채, 때로는 검증도 거치지 않고 그대로 전달되며, 거의 항상 상호작용이 반복될수록 점점 더 오래된 정보가 됩니다.

컨텍스트가 어떻게 변질되는가(그리고 이것이 중요한 이유)

결국 이러한 누적된 정보가 컨텍스트 드리프트를 일으킵니다. 드리프트는 다음과 같은 경우에 발생합니다:

• 사용자가 이미 다른 주제로 넘어간 뒤에도 이전 목표와 작업 상태가 남아 있습니다.
• 이전 메시지가 쌓이면서 요청이 불필요하게 커지고 에이전트가 잘못된 판단을 하게 됩니다.
• 보안 태그가 있어서는 안 될 곳에 계속 남아 있습니다.
• 여러 상담원이 불필요한 정보를 정리하지 않은 채 동일한 스레드를 업데이트합니다.

에이전트 #4가 바통을 넘겨받을 즈음이면, 이미 낡아버린 지침과 오래된 접근 제어, 이제는 아무도 신경 쓰지 않는 ‘목표’를 바탕으로 의사 결정을 내리게 됩니다. 에이전트는 불평하지 않습니다. 그저 자신 있게 환각을 일으키고 그 혼란을 다음 단계로 넘길 뿐입니다.

프로그래밍 가능성: 당신에게 정말 필요한 컨텍스트 정리 도우미

아직도 애플리케이션 딜리버리 플랫폼을 단순한 로드 밸런서로만 생각한다면, 축하합니다. 세상 사람들은 모두 체스를 두고 있는데 당신만 체커를 두고 있는 셈이니까요.

에이전트형 아키텍처에서 프로그래밍 가능한 애플리케이션 딜리버리는 다음을 갖춘 유일한 계층입니다:

• 모든 요청에 대한 완전한 가시성
• 컨텍스트를 검사, 변환, 차단 또는 정제할 수 있는 권한
• 특정 에이전트의 의견이나 기억에 얽매이지 않음

경계에서의 컨텍스트 잘림

에이전트가 요청할 때마다 인류의 전체 역사를 끌고 다니게 하지 마세요.

• Strip prior_messages에서 최근 N개의 대화만 남기세요.
• 시간 경과 또는 상태 변경에 따라 목표를 자동으로 만료 처리합니다.
• Drop task_state when intent switches from continuation to new-task.

이제 에이전트가 입력을 처리하기도 전에 메모리 예산과 인지적 위생을 적용하게 됩니다.

분류 및 정책 적용

컨텍스트 블록에 security.classification = confidential이라고 명시되어 있지만 공개 요약 API를 호출하려는 경우, 경계에서 민감한 필드를 차단, 삭제 또는 마스킹하고 모든 요청의 액세스 범위를 검증하는 프로그래밍 가능한 정책 감시 장치가 필요합니다. 대규모 언어 모델(LLM)은 정책이 적절한지 재고하지 않고 그대로 정보를 유출할 뿐입니다.

의도 드리프트 감지

사용자가 “분기별 지표 요약”에서 “슬라이드 자료 생성”으로 요청을 전환했나요? 컨텍스트는 단순히 누적할 것이 아니라 초기화해야 합니다. 요청의 의도가 바뀌었는데도 컨텍스트에 이전 목표와 작업 상태가 남아 있다면, 기존 컨텍스트를 폐기하고 새로 시작하세요. 그래야 에이전트가 오늘의 데이터로 어제의 문제를 해결하는 일을 방지할 수 있습니다.

텔레메트리 및 드리프트 모니터링

애플리케이션 전송 계층에서는 다음 항목을 추적해야 합니다:

• 시간 경과에 따른 컨텍스트 블록의 토큰 크기
• Growth rates of prior_messages의 증가율
• 에이전트별 목표/작업 불일치 패턴

이렇게 하면 컨텍스트가 걷잡을 수 없이 비대해지고 방향성을 잃기 전에 문제를 포착할 수 있습니다. 경영진이 왜 여러분의 ‘자율 에이전트’가 자신감만 넘치는 인턴처럼 행동하느냐고 물을 때, 모니터링을 통해 명확한 답을 제시할 수 있습니다.

방화벽만이 아니라 컨텍스트를 정리할 관리자가 필요합니다

LLM은 주어진 모든 컨텍스트를 거리낌 없이 받아들이며, 주의하지 않으면 엉망으로 만들어 버립니다. 에이전트는 컨텍스트가 본래 취지에서 벗어나거나, 목표가 낡거나, 작업 기록이 유해해져도 경고하지 않습니다. 프로그래밍 가능한 전달 계층은 이를 경고할 수 있을 뿐만 아니라 반드시 경고해야 합니다.

이제 남은 것은 중립적이고 모든 것을 파악하며 정책을 집행하는 이 계층뿐입니다.

에이전틱 AI 시대에 애플리케이션 딜리버리 플랫폼은 단순히 트래픽을 라우팅하는 데 그치지 않습니다. 의미론적 방화벽이자 규정 준수 감시자이며, 에이전트가 루트 권한을 가진 채 지나친 자신감에 빠져 거짓말을 일삼는 존재가 되지 않도록 막아 줄 마지막이자 최선의 보루입니다.

드리프트와 비대화를 방치하면 결국 패배하기 때문입니다. 통제력뿐 아니라 AI 스택 전체에 대한 신뢰까지 잃게 됩니다.

작성자 소개

Lori Mac Vittie수석 엔지니어 겸 최고 에반젤리스트 | F5

Lori MacVittie는 F5 CTO 오피스의 수석 엔지니어이자 최고 에반젤리스트로, 애플리케이션 딜리버리, 자동화 전략 및 인프라 분야에서 깊이 있는 전문성을 보유하고 있습니다. AI 에이전트를 위한 가드레일을 정의하고, 취약한 멀티클라우드 아키텍처를 분석하며, 확장 가능한 시스템의 한계를 탐구하는 등 복잡한 문제를 명확하게 풀어내는 것으로 잘 알려져 있습니다. 애플리케이션 개발, IT 아키텍처, 네트워크 및 시스템 운영 전반에 걸쳐 30년 이상의 업계 경험을 쌓았습니다. F5에 합류하기 전에는 수상 경력이 있는 기술 편집자로 활동했습니다. MacVittie는 컴퓨터 과학 석사 학위를 보유하고 있으며, 보안, 클라우드 및 엔터프라이즈 아키텍처 분야를 아우르는 다수의 저서를 집필한 작가입니다. 또한 보드게임과 비디오 게임을 열정적으로 즐기며, 치즈에 대해서는 거리낌 없이 확고한 견해를 갖고 있습니다.

Lori Mac Vittie의 다른 블로그 게시물