Anthropic의 Claude Mythos는 고도화된 사이버 보안 역량으로 인해 현재 Project Glasswing에 따라 소수의 신뢰할 수 있는 조직에만 제한적으로 제공되고 있으며, 이전 세대의 AI와는 근본적으로 다른 무언가를 보여줍니다.
프런티어 AI의 위험은 악의적인 의도와는 거의 관련이 없으며, 모델이 실시간으로 추론하고 계획하며 적응하고 최적화할 수 있는 능력에서 비롯됩니다. 자율적으로 작동하든 침해된 통합 환경을 통해 작동하든, Mythos급 모델은 매우 설득력 있는 소셜 엔지니어링 캠페인을 생성하고, 기계적인 속도로 API를 탐색하며, 보안 통제를 지속적으로 시험하고, 저항에 부딪히면 즉시 전술을 변경할 수 있습니다.
이는 사이버 방어의 경제성을 근본적으로 바꿉니다.
대부분의 기업 보안 아키텍처는 식별 가능한 패턴을 따르는 공격자를 차단하도록 설계되었습니다. 시그니처 기반 탐지, 사전 정의된 정책, 사람에 의한 조사가 조직을 효과적으로 보호해 온 것은 인간 공격자의 경우 정찰, 취약점 악용, 전술 조정의 각 단계 사이에 필연적으로 시간적 간격이 생기기 때문입니다.
추론 모델은 이러한 이점을 무력화합니다. AI 에이전트가 단 몇 초 만에 관찰하고 학습하며 행동을 바꿀 수 있게 되면, 보안 팀은 더 이상 탐지 후에 대응할 여유가 없습니다. 이제는 공격을 탐지하는지 여부보다 어느 지점에서 차단하는지가 더 중요합니다.
해답은 트래픽 경로에 있습니다. 모든 프롬프트와 API 호출, 모든 모델 컨텍스트 프로토콜(MCP) 요청, 모든 도구 호출은 가치 있는 대상에 도달하기 전에 반드시 애플리케이션 전송 계층을 거쳐야 합니다. AI 모델이 아무리 지능적으로 발전하더라도 네트워크를 우회할 수는 없습니다. 바로 이 지점이 공격자가 피할 수 없는 유일한 통제 지점입니다.
“AI 에이전트가 단 몇 초 만에 관찰하고 학습하며 행동을 바꿀 수 있는 상황에서, 보안 팀은 더 이상 탐지 후에 대응할 여유가 없습니다.”
서로 매우 다른 세 가지 제어 모델 이해하기
오늘날 AI 보안 시장에서 가장 큰 혼란을 일으키는 요인 중 하나는 실시간, 런타임 및 인라인과 같은 용어를 서로 바꿔 사용하는 것입니다. 이 용어들은 같은 의미가 아니며, 그 차이는 중요합니다. 그렇다면 어떤 차이가 있을까요?
실시간 제어(가시성 및 사후 알림): 실시간 제어는 의심스러운 활동이 발생하는 즉시 이를 탐지하고 수초 또는 수분 내에 알림을 생성합니다. 가시성을 제공하지만, 일반적으로 조치를 취하려면 다른 시스템이나 인간 분석가에게 의존합니다.
새벽 2시 47분, AI 에이전트가 고객 데이터베이스 API에 과도한 쿼리를 보내고 있다고 가정해 보겠습니다. SIEM은 이러한 비정상적인 동작을 정확히 식별하고 즉시 인시던트를 생성합니다.
경보는 정확하고 시점도 적절합니다. 하지만 안타깝게도 분석가가 티켓을 검토할 때쯤이면 AI는 이미 정찰을 마치고 다음 단계로 넘어간 뒤입니다. 강제 조치 없는 탐지는 공격을 막는 것이 아니라 기록하는 데 그칩니다.
런타임 제어(실행 수준의 가드레일): 런타임 제어는 애플리케이션, 엔드포인트 또는 에이전트가 실행되는 동안 정책을 능동적으로 적용합니다.
자동으로 조치가 이루어진다는 점에서 이는 탐지만 수행하는 것보다 크게 개선된 방식입니다. 그러나 런타임 보호는 여전히 사전 정의된 정책과 해당 런타임 환경에서 관찰할 수 있는 범위에 의해 제한됩니다.
엔드포인트 에이전트가 로컬 AI 어시스턴트의 의심스러운 시스템 호출을 차단한다고 가정해 보겠습니다. 모델은 실패 원인을 분석하고, 정책에서 예상하지 못한 다른 실행 경로를 찾아낸 뒤, 다른 기법을 통해 동일한 목표를 달성합니다.
런타임 보호는 예상된 동작을 방어하는 데 매우 효과적입니다. 추론 모델은 예상치 못한 동작을 생성하도록 특별히 설계되었습니다.
인라인 네트워크 및 애플리케이션 제어(트래픽 경로 가로채기): 인라인 제어는 완전히 다른 계층에서 작동합니다. 애플리케이션이나 엔드포인트가 결정을 내릴 때까지 기다리는 대신, 인라인 적용 기능은 트래픽 경로에 직접 배치되어 모든 요청이 추론 엔진, API, 애플리케이션 또는 다운스트림 서비스에 도달하기 전에 검사합니다.
간접 추론을 통해 학습 데이터를 추출하도록 설계된 정교한 다단계 프롬프트 인젝션을 Mythos급 모델이 시도하는 상황을 생각해 보겠습니다.
일치 여부를 확인할 알려진 시그니처나 이전 사례, 과거의 침해 지표(IOC)가 전혀 없을 수도 있습니다. 그럼에도 요청이 모델에 도달하기 전, 또는 안전하지 않은 출력이 사용자에게 전달되기 전에 이를 검사하고 평가하여 차단할 수 있습니다.
이러한 차이는 매우 중요합니다. 인라인 보안은 침해가 이미 발생한 후에 대응하는 것이 아니라, 애초에 요청이 완료되지 못하도록 차단합니다.
최첨단 AI가 기존 보안의 전제를 무너뜨리는 이유
과거에는 방어 측에 한 가지 중요한 이점이 있었습니다. 바로 시간이었습니다. 아무리 숙련된 공격자라도 정찰, 취약점 악용, 권한 상승의 단계를 거치는 데 몇 시간에서 며칠이 걸렸습니다. 보안팀은 심각한 피해가 발생하기 전에 의심스러운 활동을 탐지하고 조사하며, 시그니처를 업데이트하고 보안 통제를 강화할 수 있었습니다.
프런티어 AI는 이러한 시간적 여유를 극적으로 단축합니다. 단 한 번의 세션 안에 적대적 AI 에이전트는 다음과 같은 작업을 수행할 수 있습니다:
- 노출된 API, 섀도 API 및 관리되지 않는 API를 찾아냅니다.
- 취약한 가드레일을 식별하기 위해 수천 가지 프롬프트 변형을 생성합니다.
- 어떤 응답이 단순한 필터링이 아니라 실제로 가드레일이 적용되고 있음을 나타내는지 판단합니다.
- 기법, 인코딩 및 페이로드 구조를 즉시 변경합니다.
- 겉보기에는 정상적인 출력 채널을 통해 민감한 정보를 유출합니다.
과거에는 숙련된 레드팀이 며칠에 걸쳐 수행해야 했던 작업이 이제는 단 몇 분 만에 이루어질 수 있습니다. 이 때문에 사람의 개입에 의존하는 아키텍처는 갈수록 효과를 잃게 됩니다. 보호 체계가 분석가의 경고 검토, 시그니처 업데이트 또는 수동 정책 수정에 의존한다면, 최초 대응이 시작되기도 전에 공격자는 이미 여러 차례의 반복 작업을 완료한 상태입니다.
추론형 AI에 대응하려면, 보안 정책 집행이 회선 속도로 이루어져야 합니다.
이를 위해 필요한 아키텍처
네트워크 경계에서 추론형 AI에 대응하려면, 대부분의 보안 스택이 전제로 삼아 온 것과는 다른 설계 관점이 필요합니다.
제어 기능은 서로 단절된 개별 솔루션에 분산되는 대신, 전체 애플리케이션 전송 경로를 아우르는 단일 계층으로 구축되어야 합니다. 검사도 추론 계층 자체에서 이루어져야 하며, 프롬프트와 응답이 사람이나 모델에 도달하기 전에 실시간으로 분석되어야 합니다. 또한 관리형 인벤토리에는 자율 에이전트가 가장 먼저 찾는 비관리형 API와 섀도 API가 거의 포함되지 않으므로, API 검색을 지속적으로 수행해야 합니다.
공격자의 기법을 대상으로 한 테스트는 주기적으로 수행하는 데 그치지 않고 지속적으로 이루어져야 하며, 그 결과는 곧바로 정책 집행에 반영되어야 합니다. 그렇지 않으면 보호 조치는 몇 주 단위의 정책 주기에 따라 업데이트되는 반면, 공격자는 몇 분 만에 새로운 수법을 반복적으로 시도하게 됩니다. 또한 AI 에이전트를 인간 사용자 및 기존 봇과 구분되는 별도의 ID 범주로 인식하여, MCP 통신을 비롯한 에이전트와 도구 간 트래픽에도 사용자 인증과 동일한 거버넌스를 적용해야 합니다.
이 모든 것은 서로 단절된 도구들의 집합으로는 제대로 작동하지 않습니다. 하이브리드 및 멀티클라우드 환경 전반에 걸쳐 공통 정책 프레임워크를 기반으로 API, 추론 트래픽, 에이전트 ID, 애플리케이션 보안을 아우르는 하나의 통합 시행 아키텍처로 운영되어야 합니다.
AI가 계속 발전함에 따라 이것이 중요한 이유
오늘날의 논의는 주로 프롬프트 인젝션에 초점을 맞추고 있습니다. 앞으로는 자율 시스템이 사람의 개입 없이 수천 건의 API 호출을 조율하고, 도구를 실행하며, 다른 에이전트와 협업하는 것이 과제가 될 것입니다. 이에 따라 조직에서는 기계가 생성하는 트래픽도 급증할 것입니다.
이러한 상호작용 하나하나가 또 하나의 정책 집행 판단을 요구합니다. 프롬프트 필터, API 게이트웨이, 봇 탐지기처럼 개별 계층을 따로 보호하면 아키텍처에 틈이 생기며, 추론형 AI는 바로 그 틈부터 찾아낼 것입니다. 공격자의 역량이 강해질수록 아키텍처의 일관성은 더욱 중요해집니다.
CISO를 위한 전략적 필수 과제
프런티어 AI는 사이버 방어의 본질을 바꾸고 있습니다. 자율형 모델이 엔터프라이즈 애플리케이션, API 및 비즈니스 워크플로에 깊이 통합됨에 따라, 트래픽 경로는 조직이 통제할 수 있는 가장 중요한 정책 집행 지점이 됩니다. 모든 프롬프트, 모든 API 호출, 모든 MCP 통신, 모든 자율형 도구 호출이 이 경로를 통과하기 때문입니다.
실시간 제어는 이미 발생한 일을 알려줍니다. 런타임 제어는 정책이 예상한 상황을 차단합니다. 인라인 제어는 요청이 목적지에 도달하기 전에 현재 발생 중인 상황을 차단합니다.
CISO에게는 이것이 가장 중요한 아키텍처 관련 질문입니다.
보안 리더에게 전략적 과제는 명확합니다. 공격자가 우회할 수 없는 단 하나의 구조적 계층을 중심으로 기업 방어 체계를 구축해야 합니다.
자세히 알아보려면 F5 Application Delivery and Security Platform 웹페이지를 방문하세요.
작성자 소개
관련 블로그 게시물
추론 경로가 곧 트래픽 경로다: AI 보안이 자리해야 할 곳
이제 AI 트래픽에는 의도와 데이터, 작업이 담깁니다. AI 보안을 적용하는 데 추론 경로가 가장 중요한 지점이 된 이유를 알아보세요.
최전선 AI를 네트워크 경계에서 차단하기: 인라인 제어가 Mythos급 모델에 맞서는 핵심 우위인 이유
포스트-Mythos 시대에 사이버 방어가 어떻게 변화했으며, 조직이 통제 지점을 바꿔야 하는 이유를 알아봅니다.
애플리케이션 딜리버리 컨트롤러가 다시 전략적 의제로 떠오르고 있습니다
AI로 인해 애플리케이션 제공의 중요성이 더욱 커지고 있습니다. F5의 Nirav Shah가 새로운 Gartner® ADC 연구와 이것이 엔터프라이즈 인프라 의사 결정에 미치는 영향에 대해 설명합니다.
증거로 입증하는 AI 보안: Gartner SRM에서 선보일 내용
Gartner SRM에서의 세션을 앞두고, F5의 제품 마케팅 담당 수석 부사장이 F5가 세 가지 실질적인 단계를 통해 조직의 AI 보안을 어떻게 지원하는지 설명합니다.
파이프라인 속도 저하 없이 AI 데이터 파이프라인을 안전하게 보호하세요
AI 데이터 파이프라인 보안은 선택 사항이 아닙니다. 그 점은 분명합니다. 하지만 이를 제대로 보호하는 방법은 훨씬 불분명하며, 훨씬 더 어려운 과제입니다.
AI 스토리지에 새로운 로드 밸런싱 접근 방식이 필요한 이유
AI 워크로드에는 새로운 관점으로 설계된 스토리지가 필요합니다. AI 특유의 데이터 액세스 패턴은 레거시 인프라에 내재된 심각한 병목 현상과 비효율성을 여실히 드러냅니다.