Forrester의 AEGIS 프레임워크가 추론 우선 접근법의 타당성을 입증하는 방법

Jessica BrennanAI 보안 부문 수석 제품 마케팅 매니저 | F5

The rise of 에이전틱 AI의 부상은 기업 보안 환경을 변화시키고 있습니다. 이러한 자기 주도형 AI 에이전트는 자율적으로 작동하고 실시간으로 의사 결정을 내리며, 기존 사이버 보안 아키텍처가 처리하도록 설계되지 않은 방식으로 여러 시스템과 상호 작용할 수 있습니다. 이는 새로운 가능성을 열어 주는 동시에 다음과 같은 시스템적 위험도 초래합니다. 연쇄적 장애, 목표 탈취, 그리고 이전에는 보이지 않던 공격 표면.

Forrester의 최근 보고서인 「AEGIS 프레임워크 소개: 정보 보안을 위한 에이전틱 AI 엔터프라이즈 Guardrails」에서는 기업의 에이전틱 AI 보안을 위한 포괄적인 프레임워크를 제시합니다. 특히 CalypsoAI(현 F5)는 AI 수명 주기 전반에 보호 기능을 통합하는 애플리케이션 보안 및 DevSecOps 분야의 잠재적 공급업체 중 하나로 언급됩니다.

당사는 이번 연구가 처음부터 당사가 주창해 온 다음과 같은 전환의 타당성을 입증한다고 믿습니다. 선제적이며 추론(또는 런타임)을 우선하는 AI 보안은 필수적입니다.

에이전트형 AI가 판도를 바꾸는 이유

Forrester에 따르면, 에이전틱 AI는 CISO에게 다섯 가지 중대한 보안 과제를 제기합니다:

1. 창발적 행동이 장려됨: 에이전트는 장애물에 적응하는 과정에서 권한을 확대하거나 통제 조치를 우회할 수 있습니다.
2. 탐지 영역은 아직 존재하지 않습니다: 에이전트 생태계가 확장됨에 따라 관측 및 대응 역량은 이를 따라가지 못하고 있습니다.
3. 의도는 결과만큼 중요해집니다: 프롬프트 인젝션이나 목표 탈취로 인해 의도가 변조되면 심각한 보안 침해로 이어질 수 있습니다.
4. 연쇄적 장애는 위험을 증폭시킵니다: 손상된 데이터나 환각이 에이전트 간에 확산되어 시스템 전체의 붕괴를 초래할 수 있습니다.
5. 자율적으로 무한히 확장 가능한 에이전트는 운영 부담을 가중합니다: 인간이 개입하는 과정에서는 대규모 의사결정 피로와 같은 새로운 문제가 발생합니다.

이러한 역학 관계에는 지속적이고 적응형인 가드레일이 필요하며, 이는 바로 Forrester의 AEGIS 프레임워크가 제시하는 바입니다.

AEGIS 프레임워크 한눈에 보기

Forrester의 AEGIS 프레임워크는 에이전틱 AI 보안을 위한 6가지 핵심 영역을 제시합니다:

1. 거버넌스, 위험 및 규정 준수(GRC): 기계가 실행할 수 있고 상황을 인식하는 방식으로 정책 집행을 현대화합니다.
2. ID 및 액세스 관리(IAM): 에이전트를 적시 권한과 사람의 감독이 적용되는 하이브리드 ID로 취급합니다.
3. 데이터 보안 및 개인정보 보호: 데이터 무결성, 통합 거버넌스, 개인정보를 보호하는 AI 운영을 보장합니다.
4. 애플리케이션 보안 및 DevSecOps: 프롬프트 엔지니어링과 공급망 검증을 포함하여 AI 수명 주기 전반에 보안을 내재화합니다.
5. 위협 관리 및 보안 운영: AI 관련 위험에 대응하기 위해 실시간 모니터링, 로깅 및 탐지 엔지니어링을 구현합니다.
6. 제로 트러스트 원칙: 에이전트가 목표 달성에 필요한 최소한의 권한만 갖도록 하는 ‘최소 에이전시’ 원칙을 적용합니다.

GRC부터 시작해 IAM, 데이터 보안, 애플리케이션 보안을 거쳐 전체 SecOps 및 제로 트러스트 성숙 단계로 확대하는 단계적 접근 방식이 권장됩니다.

F5가 AEGIS와 부합하는 방식

F5는 특수 목적에 맞게 설계된 AI 런타임 보안 솔루션을 제공하여 AEGIS가 요구하는 핵심 기능을 충족합니다:

선제적 레드팀 활동(애플리케이션 보안 및 위협 관리)

당사의 AI 레드팀 솔루션은 실제 환경에서 발생하는 다단계 적대적 행동을 시뮬레이션하여 취약점을 찾아냅니다. 이는 AEGIS가 강조하는 지속적인 테스트, 공급망 검증 및 퍼플팀 훈련과 부합합니다.

실시간 방어(GRC 및 제로 트러스트)

F5 AI Guardrails는 프롬프트 인젝션, 탈옥, 데이터 유출 시도를 실시간으로 차단하고, 모델과 애플리케이션 전반에 걸쳐 최소 권한 위임 및 코드형 정책을 적용합니다. 당사의 EU AI Act Guardrails 패키지와 Guardrails 버전 관리는 규제에 부합하는 동적 보안을 지원하며, 이는 실행 가능하고 상황을 인식하는 거버넌스를 요구하는 AEGIS에 매우 중요합니다.

지속적인 관측 및 로깅(위협 관리 및 보안 운영)

F5 AI Guardrails는 또한 모든 AI 상호작용에 대한 통합 가시성, 감사에 즉시 활용 가능한 로그 및 이상 탐지 기능을 제공합니다.

새로운 Splunk 통합을 통해 보안 팀은 AI Guardrail 로그를 SIEM/SOAR 워크플로에 직접 수집하여 AEGIS의 포괄적인 로깅, 모니터링 및 인시던트 대응 준비 요건을 충족할 수 있습니다. 이 통합은 AI 텔레메트리를 엔터프라이즈 로깅 표준에 맞춤으로써 탐지 엔지니어링을 가속화하고 규정 준수를 간소화합니다.

설명 가능한 결과 및 지속적인 보증(모든 도메인)

F5는 결과 분석과 보안 점수화를 통해 AI 보안을 투명하고 실행 가능하게 만듭니다. 팀은 가드레일이 이벤트를 감지한 이유를 정확히 파악하고 잠재적 위협을 추적하며 대응 우선순위를 정할 수 있습니다. 이는 에이전틱 가드레일이 사람과 시스템 모두에게 설명 가능해야 한다는 AEGIS의 원칙을 충족합니다.

이러한 기능들은 모두 엔터프라이즈 환경에 즉시 적용 가능하고 지속적이며 적응형인 AI 보안이라는 AEGIS의 비전에 직접 부합합니다.

핵심 요약

Forrester의 AEGIS 프레임워크는 보안 리더들이 더 이상 외면할 수 없는 현실을 다시 한번 분명히 보여줍니다. 에이전틱 AI는 이미 현실이 되었으며, 정적인 통제만으로는 충분하지 않습니다.

다음을 구현하는 조직은 추론 우선의 에이전트 기반 보안 다음과 같은 성과를 거둘 수 있습니다:

• 자율형 AI의 행동으로 인한 시스템적 위험을 줄입니다.
• 에이전트형 워크플로에 대한 실시간 가시성과 제어 능력을 확보하세요.
• 엔터프라이즈 규모에서 안전하고 규정을 준수하는 에이전틱 AI 도입을 가속화하세요.

F5는 바로 이 순간을 위해 준비되었습니다. F5의 AI 런타임 보안 솔루션은 레드팀 테스트, 실시간 방어, 관측 가능성 및 규정 준수 기능을 하나의 플랫폼으로 통합하여, 기업이 에이전틱 AI를 안전하고 책임감 있게 배포할 수 있다는 확신을 제공합니다.

AEGIS에 맞춰 AI의 미래를 안전하게 보호할 준비가 되셨나요? 지금 바로 저희 팀에 문의하세요.

작성자 소개

Jessica BrennanAI 보안 부문 수석 제품 마케팅 매니저 | F5

Jessica Brennan의 다른 블로그 게시물