애널리스트의 시각으로 본 AI 보안: Gartner®, Forrester, KuppingerCole의 인사이트

F5 ADSP | 2026년 1월 14일

Jessica BrennanAI 보안 부문 수석 제품 마케팅 매니저 | F5

기업들은 AI 보안을 위해서는 특화된 솔루션이 필요하다는 사실을 깨닫고 있습니다. 모델이 동적으로 작동하고, 에이전트가 자율적으로 행동하며, 배포 후 위험이 빠르게 변화하는 상황에서는 기존 통제 방식만으로 대응하기 어렵습니다. 이제 생성형 AI가 실제 운영 환경에서 활발히 사용됨에 따라 보안, 위험 관리 및 거버넌스 책임자들은 실시간으로 발생하는 위협을 관리해야 하는 과제를 안고 있으며, 이러한 위협은 기존 애플리케이션 보안 접근 방식으로는 대응하기 어려운 경우가 많습니다.

애널리스트 리서치에서도 이러한 변화가 나타나며, 조직이 AI 기반 시스템에 맞춰 보안 전략을 어떻게 조정해야 하는지에 대해 다양한 관점을 제시합니다. 이 글에서는 이러한 관점을 하나의 합의된 견해로 제시하기보다 Gartner, Forrester, KuppingerCole의 서로 다른 애널리스트 프레임워크가 AI 위험에 어떻게 접근하는지, 그리고 조직이 이러한 관점을 런타임 가드레일과 AI 특화 레드팀 활동에 어떻게 적용할 수 있는지 살펴봅니다.

런타임의 AI 위험

여러 분석 기관의 연구를 종합하면 한 가지 사실이 점점 더 분명해집니다. 바로 AI 위험은 동적이라는 점입니다. 기존 애플리케이션과 달리 AI 시스템은 프롬프트, 맥락, 다운스트림 통합에 따라 동작이 달라질 수 있으며, 이로 인해 배포 후 오랜 시간이 지난 뒤에도 새로운 공격 경로가 생길 수 있습니다.

분석 기관마다 이 과제를 바라보는 관점은 다르지만, 이들의 연구에서는 AI를 대규모로 도입하는 기업이 반복적으로 고려해야 할 사항이 강조됩니다:

많은 AI 위협은 실제 사용 중에 현실화됩니다
모델 제공업체의 안전장치만으로는 기업 거버넌스에 충분하지 않습니다
감독을 위해서는 지속적인 가시성, 추적 가능성 및 정책 집행이 필요합니다
테스트는 에이전트형, 다단계 및 적응형 공격을 반영하도록 발전해야 합니다

이러한 상황으로 인해 선도적인 연구에서는 AI 시스템이 사용자, 데이터 및 비즈니스 워크플로와 상호 작용하는 런타임에 작동하는 보안 제어까지 다루게 되었습니다. 또한 이러한 이유로 당사는 F5 AI Guardrails 및 F5 AI Red Team을 공식 출시합니다. 이 두 가지 새로운 솔루션은 F5 Application Delivery and Security Platform (ADSP)에 포함되며, 런타임에 엔터프라이즈 AI 시스템을 보호하도록 설계되었습니다.

Gartner® AI 신뢰, 위험 및 보안 관리를 위한 시장 가이드

Gartner는 AI 신뢰, 위험 및 보안 관리를 위한 시장 가이드에서 “AI 리더는 AI의 신뢰, 위험 및 보안을 관리하기 위해 조직 전반의 이해관계자들과 협력해야 합니다. 또한 생성형 AI(gAI) 거버넌스 정책을 수립하고 업데이트하며, 이러한 정책을 지원하고 시행하는 AI TRiSM 기술을 평가하고 구현하기 위한 조직 체계를 마련해야 합니다. 이를 통해 조직은 더욱 안전하고 안정적이며 신뢰할 수 있는 보안이 강화된 AI 활용을 체계적으로 보장할 수 있습니다.”라고 설명합니다.

이에 대한 당사의 견해와 TRiSM을 AI 보안 프로그램의 주요 기준점으로 보는 이유는, TRiSM이 AI 시스템을 일회성 검증이 아닌 지속적인 감독이 필요한 상시 운영 자산으로 다루기 때문입니다. 또한 TRiSM 프레임워크의 핵심 구성 요소 중 하나는 런타임 검사 및 정책 적용이며, Gartner는 이를 다음과 같이 정의합니다:

"모델, 애플리케이션 및 에이전트 상호작용에 적용되어 조직의 거버넌스 정책에 따라 트랜잭션이 처리되도록 지원합니다. 관련 연결, 프로세스, 통신, 입력 및 출력을 검사하여 정책 위반이나 예상된 동작에서 벗어난 사항이 있는지 확인합니다. 이상 징후는 표시되며, 차단되거나 자동으로 해결되거나 조사, 분류, 대응 및 필요한 해결 조치를 위해 담당자 또는 인시던트 대응 시스템으로 전달됩니다."

이 설명은 런타임 AI 보안에 대한 F5의 접근 방식과 매우 밀접하게 부합한다고 생각합니다. F5 AI Guardrails,를 통해 F5는 모델, 애플리케이션 및 에이전트 워크플로 전반에서 실시간 AI 상호작용 중 정책을 검사하고 적용하는 데 중점을 두어, 조직이 AI 시스템이 실제로 운영되는 환경에 거버넌스 통제를 적용할 수 있도록 지원합니다.*

Forrester: 지속적 보증 모델에서 AI 레드팀 활동과 가드레일 정의

Forrester의 여러 연구는 운영 관점에서 AI 보안을 살펴보며, 자율적으로 작동하고 시간이 지남에 따라 진화하는 시스템에 중점을 둡니다. Forrester의 연구는 특정 시점의 평가를 강조하기보다는, 역동적인 환경에서 AI 시스템이 운영되는 동안 조직이 감독과 보증을 어떻게 유지하는지를 탐구하는 것으로 보입니다.

Forrester는 연구 보고서 AI 레드팀 활동을 활용하여 AI 지원 애플리케이션의 보안 태세 평가,^[i]에서 AI 레드팀 평가를 다음과 같이 정의합니다:

"AI 레드팀 평가는 기존 사이버 보안 레드팀의 개념에 인공지능 특유의 안전성, 유해성 및 피해 요소를 결합합니다. AI 레드팀 활동은 인프라, 애플리케이션, API, 검색 증강 생성(RAG)과 같은 AI 수정 사항, 기반 대규모 언어 모델 등 AI를 지원하는 기술 스택을 대상으로 사람이 직접 수행하는 사이버 보안 테스트와, AI를 활용해 프롬프트의 보안 및 안전성을 평가하는 자동화 테스트를 병행하는 방식으로 구성되어야 합니다."

이 정의는 F5 AI Red Team이 제공하는 AI 특화 적대적 테스트의 유형을 반영합니다. 레드팀 활동을 이러한 방식으로 규정함으로써, 이 연구는 AI를 독립적으로 평가하는 것이 아니라 실제 시스템에 AI가 어떻게 통합되고 운영되는지를 고려하는 효과적인 테스트가 필요하다는 점을 강조하고 있음을 알 수 있습니다.

이와 함께, Forrester의 AEGIS 프레임워크 소개: 정보 보안을 위한 에이전틱 AI 엔터프라이즈 Guardrails,^[ii] 다음과 같이 설명합니다. “안전한 배포를 위해서는 엔터프라이즈 Guardrails를 구축하는 것이 매우 중요합니다.“ F5는 이러한 견해를 바탕으로, 특히 AI 시스템이 사용자, 민감한 데이터 및 연결된 애플리케이션과 직접 상호 작용하는 환경에서 조직이 시스템 운영 중 적용되는 메커니즘으로 AI Guardrails를 활용하여 감독 및 정책 시행을 지원할 수 있도록 합니다.

이러한 연구 영역 전반에서 우리가 얻은 결론은 분명합니다. Forrester는 가드레일과 레드팀 활동을 서로 구별되지만 연관된 관행으로 제시하며, 이들은 AI 보안에 대한 지속적 보증 접근 방식에 활용될 수 있습니다. 이는 일회성 검증이 아닌 지속적인 감독의 중요성을 강조합니다.**

KuppingerCole: 생성형 AI 방어를 독립적인 시장 범주로 인정

KuppingerCole은 생성형 AI 방어 리더십 컴퍼스에서 생성형 AI 방어를 기존의 애플리케이션 및 데이터 보안 통제 범위를 넘어서는 요구사항을 지닌 새로운 분야로 살펴봅니다. 이를 위해 조직이 프로덕션 환경에서 대규모 언어 모델과 AI 기반 애플리케이션으로 인해 발생하는 위험에 어떻게 대응하고 있는지 평가합니다.

이 보고서의 핵심 권고 사항은 다양한 배포 모델 전반에서 실시간 보호, 정책 시행 및 감사 가능성을 확보하기 위해 AI 시스템이 실제로 사용되는 환경에서 작동하는 보안 통제가 필요하다는 것입니다. 이 분석은 모델 개발이나 제공업체 수준의 보호 조치에만 초점을 맞추기보다, 시스템이 배포되어 사용자, 애플리케이션 및 민감한 데이터와 연결된 이후 AI 상호작용을 보호하는 데 대한 관심이 커지고 있음을 보여줍니다.

이 Leadership Compass가 조직이 최적의 솔루션을 찾도록 돕는 시장 가이드라는 점에서, 당사의 AI Guardrails 및 AI Red Team 제품을 평가한 결과 KuppingerCole은 F5를 리더로 선정했습니다. 제품, 혁신 및 시장 부문 전반에서 리더로 선정된 것입니다. 보고서에 따르면, 이러한 평가는 F5가 “고객의 요구에 대응할 뿐만 아니라 향후 수개월 및 수년 동안 필요하게 될 사항을 예측하여 시장의 기술적 변화를 주도하는 최첨단 제품”을 제공하고 있음을 보여줍니다.***

애널리스트의 관점을 실무에 적용하기

Gartner, Forrester, KuppingerCole은 서로 다른 분석 관점에서 AI 보안을 다루지만, 이들의 연구는 기업이 적극적으로 해결하고자 하는 다음과 같은 실질적인 과제를 제시합니다:

AI 상호작용 중 정책을 일관되게 적용
사고가 발생하기 전에 실제 환경에서의 AI 노출 위험 파악
AI 시스템이 발전하고 확장됨에 따라 지속적으로 감독

바로 이 지점에서 F5 AI Guardrails와 F5 AI Red Team이 더 광범위한 환경에서 중요한 역할을 합니다. AI Guardrails는 프로덕션 환경에서 AI의 동작을 관리할 수 있도록 런타임 제어 기능을 제공하며, AI Red Team은 실제 사용 방식과 공격 패턴을 반영하도록 설계된 적대적 테스트를 지원합니다.

(참고: 이러한 연계성을 애널리스트의 지지로 해석해서는 안 됩니다. 이는 F5의 AI 런타임 보안 기능이 애널리스트 연구 전반에서 설명하는 제어 유형 및 운영 모델과 어떻게 대응되는지를 보여주는 것입니다.)

AI 투자의 보안 강화 및 최적화

AI 시스템의 자율성이 높아지고 비즈니스 핵심 요소로 자리 잡으면서, 미흡한 보안으로 인한 위험은 보안 침해를 넘어 규정 준수 리스크, 평판 훼손, 혁신 정체로까지 확대되고 있습니다. Gartner TRiSM부터 Forrester의 AEGIS 관련 연구와 KuppingerCole의 생성형 AI 방어 연구에 이르는 애널리스트 프레임워크는 런타임 가드레일과 AI 레드팀 활동이 기업 AI 보안 전략의 핵심으로 점차 부상하는 이유를 보여줍니다.

간단히 말해, F5의 AI 런타임 보안 솔루션은 조직이 이러한 인사이트를 실제로 적용할 수 있도록 지원하여, 혁신에 필요한 유연성을 유지하면서도 AI를 안전하게 도입할 수 있게 합니다.

자세한 내용은 F5 AI Guardrails 및 F5 AI Red Team 웹페이지에서 확인하세요.

애널리스트 면책 조항

*출처: Gartner 보고서, Market Guide for AI Trust, Risk and Security Management, Avivah Litan, Max Goss 외 저, 2025년 2월. GARTNER는 미국 및 전 세계에서 Gartner, Inc. 및/또는 그 계열사의 등록 상표 및 서비스표이며, 본 문서에서는 허가를 받아 사용되었습니다. 모든 권리 보유.

**Forrester Research는 어떠한 기업, 제품 또는 서비스도 보증하지 않습니다. 본 내용은 공개적으로 이용 가능한 Forrester 연구 자료에 대한 해석을 반영한 것이며, 정보 제공 목적으로만 제공됩니다.

***KuppingerCole은 어떠한 공급업체, 제품 또는 서비스도 보증하지 않습니다. 본 내용은 라이선스를 통해 제공된 KuppingerCole 연구 자료를 바탕으로 하며, 정보 제공 목적으로만 제공됩니다.

[i] AI 레드팀 활동을 활용하여 AI 지원 애플리케이션의 보안 태세 평가, Forrester Research Inc., 2025년 9월 29일
[ii] Forrester의 AEGIS 프레임워크 소개: 정보 보안을 위한 에이전틱 AI 엔터프라이즈 Guardrails, Forrester Research, Inc. 2025년 8월 3일