모델 라우팅이 보안 인프라가 될 수 있는 이유

Lori Mac Vittie수석 엔지니어 겸 최고 에반젤리스트 | F5

지난 20년간 엔터프라이즈 보안은 ID를 중심으로 이루어져 왔습니다. 사용자를 인증하고, 작업을 승인하며, 요청을 감사하는 방식입니다. 에이전틱 AI는 이러한 모델의 한계를 드러내고 있습니다.

조직이 정보 검색, 의사 결정, 작업 수행을 위해 AI 시스템에 점점 더 의존함에 따라, 이제 중요한 것은 단순히 누가 요청하는가가 아닙니다. 애초에 어떤 모델을 신뢰하고 업무를 맡길 것인가가 핵심입니다.

동시에 두 번째 흐름도 나타나고 있습니다. AI 기능이 엔드포인트로 이동하고 있습니다. PC에는 신경망 처리 장치(NPU)와 로컬에서 추론을 실행할 수 있는 임베디드 모델이 탑재되어 출시되고 있습니다. 소형 언어 모델은 클라우드 전용 서비스가 아니라 일상적인 애플리케이션의 실용적인 구성 요소로 자리 잡고 있습니다.

이 두 가지 흐름은 흥미로운 방식으로 맞물립니다.

AI가 엔드포인트로 이동함에 따라 모델 라우팅은 성능 및 비용 최적화 메커니즘에서 보안 아키텍처의 핵심 요소로 발전할 수 있습니다.

현재의 가정: 하나의 모델, 여러 권한

오늘날 대부분의 에이전트 아키텍처는 범용 모델이 지속적으로 늘어나는 도구, API, 데이터 소스 및 엔터프라이즈 시스템에 접근하여 작동하는 것을 전제로 합니다.

보안은 일반적으로 모델을 둘러싸는 계층으로 추가됩니다:

• ID 시스템은 요청을 시작한 주체가 누구인지 확인합니다.
• 액세스 제어는 어떤 리소스를 사용할 수 있는지 결정합니다.
• Guardrails은 동작을 제한하려고 합니다.
• 감사는 실행 후의 작업을 추적합니다.

이 접근 방식은 하나의 애플리케이션에 권한을 부여하고 보안 제어를 통해 수행 가능한 작업을 결정하는 기존 애플리케이션 아키텍처와 유사합니다. 문제는 대규모 언어 모델이 위험 수준이 크게 다른 작업을 수행하도록 점점 더 많이 요구받고 있다는 점입니다.

문서를 요약하는 것, 경비 보고서를 승인하는 것, 고객 기록을 수정하는 것, 프로덕션 인프라를 삭제하는 것은 서로 동등한 작업이 아닙니다. 하지만 많은 아키텍처에서는 이를 동일한 상호작용의 변형으로 취급합니다.

에이전트의 역량이 확장됨에 따라, 점점 더 강력해지는 시스템에 더 많은 정책과 통제, 감독을 지속적으로 추가해야 한다는 압박이 커집니다.

그 결과, 거버넌스와 집행 모두가 점점 더 복잡해지고 있습니다.

대안적 접근법: 전문성을 통한 권위

해결책이 범용 모델에 대한 통제를 강화하는 것이 아니라면 어떨까요? 단일 모델에 부여되는 권한을 줄이는 것이 해결책이라면 어떨까요?

역사적으로 분산 시스템은 전문화가 복잡성을 줄이고 장애 범위를 제한하기 때문에 전문화하는 방향으로 발전해 왔습니다. 데이터베이스는 데이터베이스 기능을 수행하고, 프록시는 프록시 기능을 수행하며, 로드 밸런서는 부하 분산 기능을 수행합니다.

AI 아키텍처도 비슷한 경로를 따를 수 있습니다.

조직은 높은 권한을 가진 단일 모델 대신 특화된 모델들로 구성된 포트폴리오를 배포할 수 있습니다:

• 요약 및 분류를 위한 로컬 모델
• 기업 지식 접근을 위한 검색 모델
• 오케스트레이션을 위한 워크플로 모델
• 특정 비즈니스 프로세스를 위한 액션 모델
• 권한이 필요한 작업을 위한 엄격히 제한된 모델

각 모델에는 의도된 기능을 수행하는 데 필요한 역량만 부여됩니다. 아키텍트는 모델 선택 후의 정책 적용에만 의존하는 대신, 권한을 모델 선택 자체에 직접 연계하는 방식을 점점 더 많이 활용할 수 있습니다.

선택된 모델 자체가 보안 결정의 일부가 됩니다.

정책 라우팅으로서의 모델 라우팅

현재 모델 라우팅은 주로 비용과 성능 측면에서 논의됩니다. 조직은 지연 시간 요구 사항, 토큰 비용 또는 추론 능력에 따라 요청을 서로 다른 모델로 라우팅합니다. 시간이 지나면서 라우팅 기준은 크게 확대될 수 있습니다.

향후 라우팅 결정에서는 다음 사항을 평가할 수 있습니다:

• 데이터 민감도
• 규제 요건
• 필요한 권한 수준
• 도구 액세스 요구 사항
• 데이터 상주 제약 조건
• 사용자 신뢰 수준
• 엔드포인트 기능

이 모델에서 라우팅은 가장 저렴한 모델을 찾는 것보다 가장 안전한 실행 환경을 선택하는 데 더 중점을 둡니다.

• 민감한 금융 데이터가 포함된 요청은 로컬 처리로 제한될 수 있습니다.
• 고객 시스템에 대한 액세스가 필요한 요청은 승인된 도구를 갖춘 엔터프라이즈 호스팅 모델로 라우팅될 수 있습니다.
• 파괴적 작업이 수반되는 요청은 엄격하게 통제되는 실행 환경으로 에스컬레이션해야 할 수 있습니다.

라우팅 계층은 사실상 정책 결정 지점이 됩니다.

엔드포인트 AI가 판도를 바꾸는 이유

엔드포인트 AI의 등장은 이러한 변화를 가속화할 수 있습니다.

과거에는 클라우드에서 호스팅되는 모델로 인해 조직이 비교적 중앙 집중화된 아키텍처를 채택해야 했습니다. 모델이 클라우드에 있었기 때문에 데이터가 모델로 이동했습니다. 이제 성능이 뛰어난 모델을 사용자 기기에서 직접 사용할 수 있게 되면서 새로운 아키텍처 패턴이 등장하고 있습니다.

민감한 정보는 엔드포인트 외부로 전송할 필요가 전혀 없을 수 있습니다. 일부 워크플로는 로컬 신뢰 경계 내에서 완전히 처리할 수 있습니다.

조직은 개인정보 보호, 성능, 거버넌스 간의 균형을 맞출 수 있는 선택지를 추가로 확보하게 됩니다. 더 중요한 것은 새로운 보안 기본 요소도 확보하게 된다는 점입니다.

작업을 로컬에서 실행할지 원격으로 실행할지 결정할 수 있는 기능은 중요한 아키텍처 제어 수단이 됩니다. 일부 시나리오에서는 가장 안전한 클라우드 모델조차 네트워크에 전혀 액세스하지 않는, 충분한 성능을 갖춘 로컬 모델보다 더 큰 노출 위험을 초래할 수 있습니다.

로컬 AI 게이트웨이가 필요한 이유

이는 새로운 인프라 계층을 구축할 기회를 제공합니다.

애플리케이션이 모델을 직접 호출하도록 허용하는 대신, 조직에서는 다음을 담당하는 로컬 AI 게이트웨이를 점점 더 많이 배포할 수 있습니다:

• 모델 선택
• 정책 적용
• 도구 권한 부여
• 데이터 이동 제어
• 감사 로그 생성
• 컨텍스트 필터링

가능한 구현 방식 중 하나는 로컬 추론 및 정책 프록시로 작동하는 경량 WebAssembly 기반 런타임입니다. 이러한 계층을 사용하면 최종적으로 어떤 모델이 작업을 수행하든 조직이 일관된 거버넌스를 적용할 수 있습니다. 더 중요한 점은 보안 관련 의사 결정을 모델의 동작과 분리한다는 것입니다.

모델이 정책을 준수하기를 기대하는 대신, 게이트웨이가 애초에 모델에 해당 기능을 부여할지 여부를 제어합니다.

모델의 자율성이 높아질수록 이러한 차이는 점점 더 중요해집니다.

전략적 시사점

이러한 변화는 몇 가지 더 광범위한 시사점을 제시합니다.

첫째, 모델 라우팅은 플랫폼 최적화 기능이 아니라 핵심 아키텍처 기능으로 자리 잡을 수 있습니다.

둘째, 소규모 특화 모델은 권한의 경계를 더 명확하게 설정할 수 있기 때문에 기업 환경에서는 대규모 범용 모델보다 더 높은 가치를 지닐 수 있습니다.

셋째, 엔드포인트 AI는 성능 전략인 동시에 거버넌스 전략으로 자리 잡을 수 있습니다.

마지막으로, 조직은 모델 선택을 접근 제어 자체의 일부로 간주하기 시작할 수 있습니다.

그러한 미래에는 보안 결정이 더 이상 사용자와 리소스에 관한 문제에만 국한되지 않습니다. 주어진 작업을 어떤 모델에 맡길 수 있는지에 관한 문제도 포함됩니다.

향후 전망

수년간 ID는 엔터프라이즈 컴퓨팅의 주요 제어 계층 역할을 해왔습니다. 하지만 에이전트형 시스템은 이러한 전제에 도전하고 있습니다.

AI가 비즈니스 프로세스에 더욱 깊이 통합됨에 따라, 보안 아키텍처에는 권한을 제한하고 노출을 최소화하며 운영 복잡성을 줄이기 위한 새로운 메커니즘이 필요해질 것입니다.

모델 전문화는 하나의 가능한 해법이 될 수 있습니다. 조직은 성능이 점점 더 강력해지는 모델을 둘러싸는 보안 프레임워크를 계속 확장하기보다, 전문화된 모델들에 권한을 분산하고 라우팅 인프라를 활용해 그 경계를 강제하는 방식을 선택할 수 있습니다.

그렇게 된다면 모델 라우팅은 성능 최적화를 넘어 정책 기반 라우팅으로 발전할 것입니다. 그리고 정책 기반 라우팅은 언제나 보안 인프라의 역할을 해왔습니다.

작성자 소개

Lori Mac Vittie수석 엔지니어 겸 최고 에반젤리스트 | F5

Lori MacVittie는 F5 CTO 오피스의 수석 엔지니어이자 최고 에반젤리스트로, 애플리케이션 딜리버리, 자동화 전략 및 인프라 분야에서 깊이 있는 전문성을 보유하고 있습니다. AI 에이전트를 위한 가드레일을 정의하고, 취약한 멀티클라우드 아키텍처를 분석하며, 확장 가능한 시스템의 한계를 탐구하는 등 복잡한 문제를 명확하게 풀어내는 것으로 잘 알려져 있습니다. 애플리케이션 개발, IT 아키텍처, 네트워크 및 시스템 운영 전반에 걸쳐 30년 이상의 업계 경험을 쌓았습니다. F5에 합류하기 전에는 수상 경력이 있는 기술 편집자로 활동했습니다. MacVittie는 컴퓨터 과학 석사 학위를 보유하고 있으며, 보안, 클라우드 및 엔터프라이즈 아키텍처 분야를 아우르는 다수의 저서를 집필한 작가입니다. 또한 보드게임과 비디오 게임을 열정적으로 즐기며, 치즈에 대해서는 거리낌 없이 확고한 견해를 갖고 있습니다.

Lori Mac Vittie의 다른 블로그 게시물