행동과 경계: 에이전틱 보안으로의 전환

Lori Mac Vittie수석 엔지니어 겸 최고 에반젤리스트 | F5

많은 사람이 에이전트형 AI가 가져올 파급 효과를 끝까지 내다보지 못하고 있습니다. 특히 보안과 관련해서는 기존의 근간이 흔들리더라도 그 영향을 철저히 짚어봐야 합니다.

미리 말하자면, 실제로 그렇게 될 겁니다.

예를 들어, OWASP 에이전틱 Top 10은 기본 전제를 정확히 짚습니다. 에이전트는 기존 취약점을 증폭시킵니다. API 앞에 LLM을 배치했다고 해서 API가 갑자기 안전해지는 것은 아닙니다. 오히려 무언가가 매우 끈기 있는 공격자처럼 끊임없이 탐색하고, 작업을 연계하며, 여러 경로를 살펴보게 되면서 이제는 더 많이 노출됩니다. 또한 이 목록은 다단계 실행, 도구 연계, 그리고 시간의 흐름에 따라 의사 결정이 어떻게 변화하는지도 정확히 강조합니다.

하지만 우리가 직면해야 할 더 근본적인 문제까지는 다루지 못합니다.

성과와 아쉬운 점

OWASP 목록은 에이전트가 완전히 새로운 장애 유형을 만들어 내는 것이 아니라 기존의 장애를 더욱 위험하게 만든다고 지적합니다. 도구 오용, 여러 단계에 걸친 권한 상속, 목표 탈취는 실제로 존재하는 위험이며, 단일 프롬프트나 요청이 아니라 일련의 과정에 걸쳐 발생합니다. OWASP는 에이전트 시스템의 역동적인 특성을 이해하고 있습니다. 이 모든 내용은 사실입니다.

하지만 이 지침은 여전히 대체로 전통적인 요청-응답 모델 안에서 작동합니다. 이 모델은 요청을 제어의 기본 단위로 간주합니다. 즉, 신원을 확인하고 권한을 검사하며 내용을 검토한 뒤 결정을 내립니다. 이러한 모델은 워크플로가 사전에 정의되고 애플리케이션 설계에 따라 범위가 제한되던 환경에서는 효과적이었습니다.

에이전트형 시스템은 그러한 전제를 무너뜨립니다.

이들은 목표를 달성하기 위해 런타임에 흐름을 구성합니다. 결과를 평가하고, 적응하고, 반복하며, 범위를 확장합니다. 개별 요청은 신원이 정확하고 권한이 부합하며 정책을 통과한다는 점에서 모두 완벽하게 유효할 수 있지만, 전체적인 동작은 의도했던 바에서 크게 벗어날 수 있습니다.

바로 여기에서 통제력을 잃었다는 느낌이 생깁니다. 아이덴티티가 제 역할을 하지 못해서가 아닙니다. 인증은 여전히 강력합니다. 자격 증명 전파와 위임도 설계된 대로 작동합니다. 에이전트는 자체 아이덴티티 또는 위임된 자격 증명으로 작동하며, 토큰은 서비스 간에 안정적으로 전달됩니다.

문제는 다른 데 있습니다. 기존의 접근 제어는 암묵적인 전제에 의존했습니다. 바로 제한된 흐름입니다. 애플리케이션이 작업의 순서를 정의했습니다. 분기 로직이 있더라도 시스템 자체가 가능한 동작을 제한했습니다. 이러한 구조에서는 가능한 경로가 제한되어 있었기 때문에 각 요청을 개별적으로 평가할 수 있었습니다. 우리의 정책은 이러한 이해를 바탕으로 수립되었으며, 정책 집행은 말 그대로 이러한 경계를 강제하기 위한 것입니다.

하지만 에이전트는 사전 정의된 흐름을 상황에 따라 새롭게 형성되는 흐름으로 대체합니다. 동작은 동적으로 전개되며, 개별 API 호출이 장기 세션 및 스트리밍 상호작용과 결합되는 경우가 많습니다. 에이전트는 데이터 세트를 탐색하고 시간에 따라 컨텍스트를 축적한 뒤, 누구도 예상하지 못한 쓰기 작업을 수행할 수 있습니다. 제어 불능의 반복 실행, 예상치 못한 비용 급증, 뜻밖의 시스템 간 작업은 ID나 개별 요청의 문제가 아니라, 유효한 작업들이 의도하지 않은 순서로 조합된 결과입니다.

에이전트는 설계상 제한 없이 작동하지만, 여전히 기존 애플리케이션과 동일한 제약 조건 아래에서 작동한다고 가정하는 보안 시스템의 통제를 받습니다.

디렉터리 순회가 명확한 예입니다. 우리는 오랫동안 경로 조작을 악의적인 행위로 간주하고 차단해 왔습니다. 이는 당연한 조치입니다. 예상되는 경로 집합이 명확히 정해져 있으므로, 그 집합을 벗어나는 행위는 의심해야 하기 때문입니다.

하지만 파일 시스템에서 문서를 검색하거나 컨텍스트를 구성하는 작업을 맡은 에이전트에게 디렉터리 구조를 탐색하는 행위는 의심스러운 것이 아니라 필수적입니다. 이를 전면 차단하면 에이전트는 쓸모없어집니다. 반대로 아무런 제한 없이 허용하면 공격적으로 탐색하는 에이전트에게 모든 권한을 넘겨주는 셈입니다.

진짜 문제는 탐색 자체가 아닙니다. 문제는 무제한 탐색입니다. 도구 오용, 목표 탈취, 메모리 오염에서도 같은 패턴이 나타납니다. 위험은 개별 행동이 아니라 일련의 행동이 이어지는 과정에서 누적됩니다.

필수적인 전환: 요청 검증에서 행동 거버넌스로

ID는 인증과 행위 주체 확인에 여전히 필요하지만, 시간의 흐름에 따른 행동을 통제하기에는 충분하지 않습니다. 역할 및 범위 기반 모델은 예측 가능한 패턴과 제한된 상호작용을 전제로 합니다. 요청 기반 모델과 세션 기반 모델에 걸쳐 실행이 이루어지는 에이전트 환경에서는 이러한 모델이 개략적인 수준의 제어만 제공합니다.

액세스 제어를 행동 거버넌스로 발전시켜야 합니다. 이는 이미 어떤 일이 발생했는지, 행동이 어떻게 변화하고 있는지, 그리고 작업이 여러 프로토콜에 걸쳐 어떻게 이루어지는지를 포함한 전체 맥락에서 요청을 평가해야 한다는 의미입니다. 집행은 지속적이고 프로토콜을 인식하는 방식으로 이루어져야 하며, 개별 호출과 지속 세션 전반에 걸쳐 누적되는 활동을 추적해야 합니다.

해결책은 제약 조건 기반 정책입니다. 정확한 경로를 지정하는 대신, 허용되는 운영 범위를 정의합니다:

• 리소스 경계(이 데이터 세트에서는 읽을 수 있지만 프로덕션 환경에는 절대 쓰지 않음)
• 정량적 제한(작업 수, 비용 또는 범위 확대에 대한 상한)
• 기능 제약(파괴적 작업을 수행하기 전에 추가 승인 필요)
• 위험이 증가할 때 대응 수준을 높이는 조건부 정책

이러한 제약 조건은 HTTP 요청을 통해 전달되든 WebSocket 스트림을 통해 전달되든 전체 시퀀스에 적용됩니다. API 게이트웨이, 서비스 메시, 오케스트레이션 플랫폼과 같은 공통 아키텍처 계층이 중요한 역할을 하게 됩니다. 이러한 계층은 동작이 전개되는 과정을 관찰하고 연관 지어 분석하며 개입할 수 있는 관점을 제공하고, ID와 함께 실행 컨텍스트를 전파합니다.

라우팅 자체가 제어 메커니즘으로 전환됩니다. 정의된 한계에 근접하는 시퀀스를 제약된 환경으로 리디렉션하거나, 속도를 제한하거나, 종료할 수 있습니다. 적용 방식은 이분법적이기보다 단계적으로 이루어져, 유용한 작업을 즉시 중단하지 않으면서 동작을 조정합니다.

이러한 목표를 달성하려면 애플리케이션 딜리버리와 보안이 함께 작동해야 하며, 공유 제어 플레인 전반에서 조율하고 소통함으로써 동작이 사전 정의된 워크플로가 아닌 정책에 따라 제한되도록 해야 합니다.

이러한 전환을 위해 가능한 모든 경로를 예측할 필요는 없습니다. 대신 관찰된 동작을 바탕으로 제약 조건을 지속적으로 개선하여 운영과 정책 간에 피드백 루프를 구축해야 합니다.

우리가 이루어야 할 전환

AI는 단순히 새로운 위험을 초래하는 데 그치지 않습니다. 이미 갖추고 있는 통제 수단을 어떻게 적용할지 다시 생각하게 만듭니다. 이러한 변화가 없다면, 기술적으로는 안전하지만 실질적으로 사용할 수 없는 시스템과 뛰어난 역량을 갖췄지만 보이지 않게 통제에서 벗어난 시스템 사이를 계속 오가게 될 것입니다.

보안의 단위는 더 이상 요청이 아니라 행동입니다.

이제 중요한 것은 단순히 요청의 허용 여부가 아니라, 그 요청이 나타내는 행동을 계속 허용해야 하는지 여부입니다.

이것이 우리가 이루어야 할 에이전트형 보안으로의 전환입니다.

작성자 소개

Lori Mac Vittie수석 엔지니어 겸 최고 에반젤리스트 | F5

Lori MacVittie는 F5 CTO 오피스의 수석 엔지니어이자 최고 에반젤리스트로, 애플리케이션 딜리버리, 자동화 전략 및 인프라 분야에서 깊이 있는 전문성을 보유하고 있습니다. AI 에이전트를 위한 가드레일을 정의하고, 취약한 멀티클라우드 아키텍처를 분석하며, 확장 가능한 시스템의 한계를 탐구하는 등 복잡한 문제를 명확하게 풀어내는 것으로 잘 알려져 있습니다. 애플리케이션 개발, IT 아키텍처, 네트워크 및 시스템 운영 전반에 걸쳐 30년 이상의 업계 경험을 쌓았습니다. F5에 합류하기 전에는 수상 경력이 있는 기술 편집자로 활동했습니다. MacVittie는 컴퓨터 과학 석사 학위를 보유하고 있으며, 보안, 클라우드 및 엔터프라이즈 아키텍처 분야를 아우르는 다수의 저서를 집필한 작가입니다. 또한 보드게임과 비디오 게임을 열정적으로 즐기며, 치즈에 대해서는 거리낌 없이 확고한 견해를 갖고 있습니다.

Lori Mac Vittie의 다른 블로그 게시물