Gartner는 2026년 7월 맞춤형 AI 에이전트 보안 가이드에서 “AI 에이전트는 간접 프롬프트 인젝션이나 비즈니스 손실을 초래할 수 있는 악성 에이전트와 같은 새로운 보안 위험을 야기한다”고 설명합니다. 이러한 맥락에서 모델 선택은 그 자체로 중요한 보안 고려 사항이 됩니다.
F5 Labs는 매월 업데이트된 종합 AI 보안 지수(F5 CASI) 순위표를 발표하여 주요 모델이 일반적인 프롬프트 인젝션 및 탈옥 공격을 얼마나 잘 방어하는지 조직이 객관적인 근거를 바탕으로 파악할 수 있도록 지원합니다. 또한 Gartner가 보고서에서 F5를 언급한 것을 기쁘게 생각합니다.
모델 선택은 전통적으로 성능, 속도, 비용을 중심으로 이루어져 왔습니다. 이러한 요소는 여전히 중요하지만, 모델이 민감한 데이터, 외부 도구 및 비즈니스 핵심 시스템에 연결되는 경우에는 더 이상 이것만으로 충분하지 않습니다. 모델의 보안 특성은 추가적인 통제가 적용되기 전에 애플리케이션에 유입되는 위험의 수준을 결정합니다.
CASI는 모델이 보편적으로 안전한지 또는 안전하지 않은지를 판정하기 위해 설계된 것이 아닙니다. 대신 사용 사례, 데이터, 권한, 배포 환경 및 잠재적인 비즈니스 영향을 고려한 실질적인 정보를 제공하여 조직이 안전성에 대해 자체적으로 판단할 수 있도록 지원합니다.
모델 선택이 보안 결정의 영역으로 자리 잡고 있습니다
유사한 기능을 갖춘 모델이라도 보안 특성은 크게 다를 수 있습니다. 어떤 모델은 일반적인 공격을 더 효과적으로 방어하는 반면, 다른 모델은 이를 보완하기 위해 더 강력한 통제가 필요할 수 있습니다. 비교 가능한 보안 데이터가 없다면 조직은 제공업체의 주장이나 평판, 또는 추정에 근거해 이러한 결정을 내릴 수밖에 없습니다.
CASI는 프롬프트 인젝션 및 탈옥 기법에 대한 모델의 저항력을 측정하고 그 결과를 보안, AI 및 거버넌스 팀이 활용할 수 있는 형태로 제시함으로써 이 프로세스를 더욱 체계화합니다. F5 Labs는 위험 대비 성능과 보안 비용 간의 절충점도 평가합니다. 적합한 모델이란 단순히 점수가 가장 높은 모델이 아니라, 보안, 성능 및 운영 특성이 의도한 사용 사례에 부합하는 모델이기 때문입니다.
CISO의 관점에서 이는 모델 평가를 기술적 선호의 문제에서 거버넌스 요건으로 전환합니다. 조직은 특정 모델을 선택한 이유, 의사 결정의 근거가 된 증거, 여전히 남아 있는 위험, 배포 전에 필요한 통제를 설명할 수 있어야 합니다. 이러한 기록은 모델이 업데이트되거나 애플리케이션이 변경되거나 에이전트가 새로운 데이터와 도구에 접근할 수 있게 될 때 특히 중요합니다.
에이전트형 AI의 위험은 모델을 넘어 확장됩니다
모델의 복원력은 출발점에 불과합니다. 모델이 에이전트 시스템에 통합되면 위험은 ID, 데이터, 메모리, 프롬프트, 도구는 물론 에이전트에 허용된 작업 전반으로 확대됩니다. 복원력이 뛰어난 모델이라도 과도한 권한이 부여된 상태로 배포되거나, 안전하지 않은 도구에 연결되거나, 오염된 컨텍스트에 노출될 수 있습니다.
근본적인 변화는 모델이 무엇을 말하는지 평가하는 것에서 에이전트가 무엇을 할 수 있는지 통제하는 것으로의 전환입니다. 에이전트는 목표를 해석하고, 계획을 수립하고, 도구를 선택하고, 정보를 검색하며, 여러 시스템에 걸쳐 작업을 수행할 수 있습니다. 따라서 사용자의 의도가 바뀌지 않았더라도 동일한 요청이 서로 다른 실행 경로와 위험 결과로 이어질 수 있습니다.
보안 팀은 설계 단계에서 에이전트의 자율 권한을 명확히 정의해야 합니다. 에이전트가 자체적으로 결정할 수 있는 사항, 접근할 수 있는 대상, 승인이 필요한 작업, 금지되는 작업을 정해야 합니다. 내부 연구용 어시스턴트와 프로덕션 시스템을 변경할 권한이 있는 에이전트에 동일한 권한, 보호 조치 또는 모니터링 기준을 적용해서는 안 됩니다.
증거는 변화의 속도를 따라가야 합니다
AI 보안을 특정 시점의 평가로만 간주해서는 안 됩니다. 모델은 업데이트되고, 제공업체는 안전 제어를 조정하며, 애플리케이션에는 새로운 통합 기능이 추가되고, 공격자는 새로운 기법을 개발합니다. 선정 당시 유용했던 점수도 모델이나 주변 시스템이 변경되면 더 이상 현재의 위험을 제대로 반영하지 못할 수 있습니다.
CASI는 시간이 지남에 따라 모델이 지속적이고 적응적이며 다단계로 이루어지는 에이전트형 공격에 어떻게 대응하는지를 평가하는 에이전트 저항 점수(ARS) 리더보드로 보완됩니다. 적대적 에이전트는 맥락을 축적하고 전술을 바꾸며 여러 경로를 통해 동일한 목표를 추구할 수 있으므로 이는 중요합니다.
월간 업데이트 주기는 시간의 흐름에 따른 공격 기법과 모델 동작의 변화를 추적하는 F5 Labs 위협 인텔리전스를 기반으로 합니다. CASI, ARS 및 위협 연구는 함께 모델 선택, 아키텍처 결정, 제어 설계를 위한 최신 근거를 제공합니다. 애플리케이션별 테스트를 대체하지는 않지만, 보안 리더가 더욱 탄탄한 출발점을 마련할 수 있도록 지원합니다.
평가에서 통제로
증거는 시스템을 보호하는 방식을 바꾸지 못한다면 그 가치가 제한적입니다. 모델 및 에이전트 테스트 결과는 액세스 제한, 런타임 가드레일, 도구 검증, 데이터 보호, 모니터링 등 배포 전과 배포 중에 적용되는 통제 조치에 반영되어야 합니다. 이후 프로덕션 환경에서 관찰된 동작은 새로운 테스트와 정책 변경으로 이어져야 하며, 필요한 경우 통제 조치를 더욱 강화하는 데 활용되어야 합니다.
이는 F5 AI Security Platform:의 기반이 되는 운영 모델입니다. AI 위험을 평가하고, 거버넌스를 정의하며, 모델, 애플리케이션 및 에이전트 전반에 맞춤형 보호 조치를 적용합니다. 이 플랫폼은 평가, 적대적 테스트 및 런타임 보안을 통합하여 조직이 취약점을 식별하는 데서 나아가 프로덕션 환경의 노출 위험을 줄일 수 있도록 지원합니다. F5 Labs의 연구는 최신 모델 데이터와 새롭게 등장하는 공격 패턴을 바탕으로 의사 결정을 내릴 수 있게 함으로써 이러한 주기를 강화합니다.
CISO의 목표는 증거에 기반한 모델 선택, 시스템 수준의 테스트, 강제 적용 가능한 런타임 제어, 지속적인 재평가를 통해 피할 수 있는 AI 위험을 제거하고 잔여 위험을 수용 가능하고 설명 가능하며 관리 가능한 수준으로 줄이는 것입니다.
당사는 Gartner가 CASI를 식별한 배경에, 기업들이 통제 수준을 낮추지 않으면서 AI 도입을 가속해야 한다는 압박에 직면한 상황이 있다고 봅니다. 보안 책임자에게는 수용하는 위험과 필요한 보호 조치를 명확히 파악하면서 AI 도입을 지원할 수 있는 방안이 필요합니다. 이를 위해서는 모델 관련 증거를 각 배포를 둘러싼 아키텍처 및 운영 통제와 연계해야 합니다.
방어 가능한 프로그램은 모델을 측정하고, 전체 시스템을 테스트하며, 에이전트가 액세스하고 수행할 수 있는 작업을 통제하는 세 가지 원칙에서 시작됩니다. 근본적인 위험은 고정되어 있지 않으므로 이러한 원칙은 지속적으로 적용되어야 합니다. CASI, ARS 및 F5 Labs 위협 인텔리전스는 이러한 의사 결정에 필요한 근거를 제공하며, F5 AI 보안 플랫폼은 조직이 이러한 근거를 실제로 활용할 수 있도록 지원합니다.
목표는 AI 도입 속도를 늦추는 것이 아닙니다. 조직이 개별적인 실험을 넘어 책임감 있고 안전한 방식으로 확장해 나갈 수 있도록, CISO가 AI를 어디에, 어떤 조건에서, 어떤 통제 수단과 함께 배포할지 판단할 수 있는 더욱 확실한 근거를 제공하는 것입니다. 이것이 오늘날 엔터프라이즈 AI에 필요한 운영 원칙입니다.
최신 F5 CASI 및 ARS 리더보드를 살펴보고 and learn more about the F5 AI Security Platform에 대해 자세히 알아보세요.
______
Gartner, 맞춤형 AI 에이전트 보안 가이드, Dennis Xu, Erik Wahlstrom 외, 2026년 7월 6일. GARTNER는 Gartner, Inc. 및/또는 그 계열사의 상표입니다.
Gartner는 자사 발행물에 언급된 어떠한 기업, 공급업체, 제품 또는 서비스도 보증하지 않으며, 기술 사용자에게 최고 등급이나 기타 지정을 받은 공급업체만을 선택하도록 권고하지 않습니다. Gartner 발행물은 Gartner의 비즈니스 및 기술 인사이트 조직의 견해로 구성되며, 사실에 대한 진술로 해석되어서는 안 됩니다. Gartner는 본 발행물과 관련하여 상품성 또는 특정 목적에의 적합성에 대한 보증을 포함한 모든 명시적 또는 묵시적 보증을 부인합니다.
작성자 소개
.jpeg)
Nirav Shah는 F5의 수석 부사장 겸 제품 및 솔루션 마케팅 총괄로서 애플리케이션 보안과 AI 보안의 전략적 방향을 이끌고 있습니다. F5에 합류하기 전에는 Fortinet에서 11년간 여러 리더십 직책을 맡았으며, 특히 AI 기반 SASE, SOC 및 보안 네트워킹 솔루션을 총괄했습니다. 또한 Cisco Systems에서 SD-WAN의 주요 이니셔티브를 주도하는 등 핵심적인 역할을 수행한 폭넓은 경력을 보유하고 있습니다. 사이버 보안 분야에서 20년 넘게 쌓은 경험을 바탕으로 시장을 새롭게 정의하는 제품을 출시하고, 제품 개발과 영업 및 마케팅을 연계해 성과를 극대화하는 고성과 팀을 구축해 온 검증된 실적을 갖추고 있습니다. 업계를 선도하는 사상가이자 USC 동문인 그는 업계 콘퍼런스에서 자주 연사로 나서고 AI와 사이버 보안의 접점에 관한 글을 주요 간행물에 정기적으로 기고하는 한편, 차세대 사이버 보안 전문가를 육성하는 데에도 힘쓰고 있습니다.
Nirav Shah의 다른 블로그 게시물관련 블로그 게시물
추론 경로가 곧 트래픽 경로다: AI 보안이 자리해야 할 곳
이제 AI 트래픽에는 의도와 데이터, 작업이 담깁니다. AI 보안을 적용하는 데 추론 경로가 가장 중요한 지점이 된 이유를 알아보세요.
최전선 AI를 네트워크 경계에서 차단하기: 인라인 제어가 Mythos급 모델에 맞서는 핵심 우위인 이유
포스트-Mythos 시대에 사이버 방어가 어떻게 변화했으며, 조직이 통제 지점을 바꿔야 하는 이유를 알아봅니다.
애플리케이션 딜리버리 컨트롤러가 다시 전략적 의제로 떠오르고 있습니다
AI로 인해 애플리케이션 제공의 중요성이 더욱 커지고 있습니다. F5의 Nirav Shah가 새로운 Gartner® ADC 연구와 이것이 엔터프라이즈 인프라 의사 결정에 미치는 영향에 대해 설명합니다.
증거로 입증하는 AI 보안: Gartner SRM에서 선보일 내용
Gartner SRM에서의 세션을 앞두고, F5의 제품 마케팅 담당 수석 부사장이 F5가 세 가지 실질적인 단계를 통해 조직의 AI 보안을 어떻게 지원하는지 설명합니다.
파이프라인 속도 저하 없이 AI 데이터 파이프라인을 안전하게 보호하세요
AI 데이터 파이프라인 보안은 선택 사항이 아닙니다. 그 점은 분명합니다. 하지만 이를 제대로 보호하는 방법은 훨씬 불분명하며, 훨씬 더 어려운 과제입니다.
AI 스토리지에 새로운 로드 밸런싱 접근 방식이 필요한 이유
AI 워크로드에는 새로운 관점으로 설계된 스토리지가 필요합니다. AI 특유의 데이터 액세스 패턴은 레거시 인프라에 내재된 심각한 병목 현상과 비효율성을 여실히 드러냅니다.