최근 저는 거래 체결부터 대규모 분석 수행에 이르기까지 모든 업무를 자동화하고 있는 한 금융 서비스 기업을 만났습니다. 이를 위해 이 기업은 전체 직원 수의 5배에 달하는 10만 개의 AI 에이전트를 배포할 계획입니다.
이러한 움직임은 이 회사만의 일이 아닙니다. 다양한 업종의 많은 기업이 비즈니스 효율성을 높이기 위해 AI를 도입하고 있습니다.
이처럼 AI 사용이 급격히 증가하면서 조직이 자사 환경을 보호하는 방식에도 중대한 변화가 일어날 것입니다. 저는 기업에 AI 인프라의 한 가지 측면만 보호해서는 안 된다고 자주 강조합니다. 엔터프라이즈 AI에는 새로운 아키텍처가 필요하며, 이에 따라 엔드 투 엔드 AI 여정 전반에서 인프라와 워크로드를 보호하는 새로운 보안 모델도 필요합니다.
“새로운 제어 지점을 보호함으로써 조직은 엔터프라이즈 AI를 대규모 환경에서 더욱 안전하고 빠르며 안정적으로 운영할 수 있습니다.”
그렇다면 보안은 정확히 어디에 적용해야 할까요? 조직은 AI 아키텍처를 더욱 효과적으로 보호하기 위해 AI 경로에서 새롭게 부상하는 통제 지점을 안전하게 보호해야 합니다.
이 경로를 간단히 이해하면 다음과 같습니다. 프롬프트는 먼저 애플리케이션에 도달합니다. 이를 인그레스(ingress)라고 하겠습니다. 그런 다음 워크플로가 컨텍스트를 구성하고 내부 API를 호출하며 에이전트를 조율합니다. 이렇게 보강된 프롬프트는 모델 계층으로 이동하고, 여기서 추론을 통해 토큰으로 변환됩니다. 이 토큰은 결과물로 생성되어 사용자에게 다시 전달됩니다.
이것이 바로 새로운 가치 공급망이며, 그 과정에서 F5가 핵심 제어 지점을 보호하는 데 어떻게 기여하고 있는지 보여드리겠습니다.
모든 것이 시작되는 곳: 프롬프트
AI 여정은 외부 세계와 AI 시스템이 처음 상호작용하는 지점인 프롬프트에서 시작됩니다. 프롬프트는 채팅 인터페이스에 입력된 사용자 질의, API 호출 또는 기계가 생성한 이벤트에서 비롯될 수 있습니다. 프롬프트 자체에는 자연어, 구조화된 명령이나 시스템 명령이 포함될 수 있으며, 사진, 오디오 또는 동영상 입력으로 구성될 수도 있습니다.
인그레스: 프롬프트가 시스템에 입력됩니다
프롬프트는 AI 시스템의 1차 방어선이자 트래픽 관리 지점인 인그레스 계층을 통해 AI 인프라로 유입됩니다. 이 계층에서는 검사, 정책 적용, 무해화, 트래픽 라우팅이 통합적으로 이루어집니다.
여기가 바로 정문입니다. 그런데 중요한 점은 이 문을 두드리는 방문자가 더 이상 사람만이 아니라는 것입니다. 여기에는 엔드포인트 보안과 기존 WAF 보호를 우회하고 데이터 및 애플리케이션 보안 시스템을 노리는 AI 기반의 자동화된 적대적 시스템도 포함됩니다.
AI 기반 공격자는 이제 즉석에서 새로운 페이로드를 생성할 수 있습니다. 위협 행위자가 실시간으로 학습하고 전략을 전환할 수 있다면, 방어 체계 역시 그렇게 할 수 있어야 합니다.
이러한 이유로 F5는 기존 시그니처나 정적인 WAF 규칙에 의존하지 않고 위협을 탐지하고 대응할 수 있도록 실제 환경의 실시간 공격 데이터로 학습시킨 자체 설계 신경망 기반의 차세대 WAF 솔루션을 개발하고 있습니다. 또한 새로운 공격을 식별하고 즉시 조치를 취할 수 있는 AI 기반 기능을 통해 실시간으로 학습하고 적응하는 방어 시스템을 구축하고 있습니다.
내부 테스트에서 확인한 결과는 매우 유의미합니다. 사전 정의 없이도 제로데이 공격을 탐지하고, 오탐률은 28%에서 1%로 낮아졌으며, 별도의 설정 없이도 정확도가 64%에서 98%로 크게 향상되었습니다. 이는 기존의 WAF와는 근본적으로 다른 솔루션이며, 이를 F5 Distributed Cloud Services와 F5 Application Delivery and Security Platform (ADSP)의 다른 영역에 도입하고 있습니다.
워크플로: 프롬프트가 작업으로 전환됩니다
프롬프트에는 일반적으로 유용한 결과를 생성하기 위해 추가 컨텍스트가 보강되며, 이러한 컨텍스트는 데이터 소스, 애플리케이션, 에이전트 및 API를 연결하는 워크플로에서 가져옵니다. 또한 이러한 워크플로는 안전하지 않은 출력 처리, 데이터 유출을 비롯해 시스템의 복잡성과 제한된 관측 가능성으로 인해 탐지하기 어려운 기타 위협 등 심각한 보안 취약점을 초래합니다.
매일 새로운 위협이 등장함에 따라 조직은 모든 환경에서 AI 워크플로를 보호하고 관리해야 하며, 복잡한 AI 기반 공격을 방어하기 위해 여러 계층의 보호 기능이 원활하게 연동되어야 합니다. 이것이 바로 저희가 제공하는 솔루션입니다. F5 AI Red Team은 자동화된 다단계 적대적 테스트를 제공하며, F5 AI Guardrails와 함께 작동하여 AI 시스템이 정의된 경계 내에서 안전하고 책임감 있게 운영되도록 보장합니다. 이러한 솔루션이 취약점을 식별하면 F5 AI Remediate 가 우선순위가 지정된 적대적 테스트 결과를 검증되고 최적화된 런타임 보호 기능으로 자동 전환합니다.
서로 연계된 이러한 솔루션의 진정한 가치는 단순히 탐지 속도를 높이는 데 있지 않습니다. 취약점을 발견한 시점부터 해결하기까지 걸리는 시간을 단축하는 데 있습니다. 위험 발견이 위험 완화로 곧바로 이어지면 AI 보안의 판도가 근본적으로 달라집니다.
추론: 토큰이 가치로 전환되다
보강된 프롬프트는 숫자 토큰으로 변환된 후 학습된 모델에 전달됩니다. 여기서 토큰은 분류 또는 추론 작업을 수행하고, 확률을 평가하며, 예측을 내리고, 결과를 생성하는 일련의 확률적 계산을 거쳐 처리됩니다.
토큰은 AI 운영 비용을 나타내며, 처리량, 첫 토큰 생성 시간, 토큰당 비용, 지연 시간, 와트당 토큰 수라는 다섯 가지 변수의 영향을 받습니다. 이 모든 변수에서 궁극적인 제약 요인은 에너지입니다. AI 인프라가 최적화되어 있지 않다면 전력을 낭비하고 수익성을 훼손하게 됩니다. AI에서 성능은 곧 경제성이며, 경제성은 곧 경쟁력입니다.
바로 이 지점에서 F5는 AI 데이터와 워크로드가 최소한의 지연 시간과 전력 소비로 처리 및 전송되도록 지원하여 운영 비용을 절감하고 AI 팩토리의 효율적인 확장을 촉진함으로써 기존의 판도를 바꿉니다. 전력 소모가 많은 네트워킹, 관리 및 보안 작업을 고효율 DPU로 오프로드함으로써 F5 및 NVIDIA 기술을 기반으로 하는 최신 AI 아키텍처는 추론 요청이 리소스 집약적인 GPU에 도달하기 전에 최소한의 지연 시간과 전력 소비로 데이터 전처리를 수행할 수 있습니다.
이 공동 솔루션을 도입한 조직은 토큰 처리량이 최대 40% 증가하고, 첫 번째 토큰 생성 시간이 61% 단축되며, 응답 시간이 34% 개선되는 효과를 보고 있습니다. 이는 The Tolly Group의 독립적인 테스트를 통해 검증되었습니다. 이는 AI 팩토리가 단순히 빠르기만 해서는 안 되며, 프로그래밍과 관리가 가능해야 한다는 이해에서 비롯되는 혁신입니다.
확신을 가지고 AI 이니셔티브 추진하기
현실적으로 AI 혁신을 위해서는 견고하고 유연한 아키텍처가 필요합니다. 조직은 새로운 제어 지점을 파악하고 보호함으로써 엔터프라이즈 AI를 대규모 환경에서 더욱 안전하고 빠르며 안정적으로 운영할 수 있습니다.
F5는 인터넷 및 클라우드 시대에 IT 아키텍처 보호를 선도했습니다. 이제 AI로 인해 엔터프라이즈 아키텍처가 다시 진화함에 따라, F5 ADSP는 조직이 전체 AI 여정에서 데이터, 모델 및 시스템을 보호할 수 있도록 설계된 통합 플랫폼을 제공하며, 실시간 위협을 학습하고 이에 적응하여 즉각 대응할 수 있는 방어 기능을 갖추고 있습니다.
자세히 알아보려면 AI 보안 솔루션 웹페이지를 방문해 보시기 바랍니다.
작성자 소개
Kunal Anand는 최고제품책임자(CPO)로서 F5의 제품 조직을 이끌고 있습니다. 제품 비전, 전략 및 실행을 총괄하며, 고객의 중대한 과제를 해결하고 탁월한 경험을 제공하는 혁신적인 솔루션의 개발을 주도합니다. 이전에는 최고기술·AI책임자로서 회사의 기술 및 AI 전략과 비전을 수립했습니다. F5에 합류하기 전에는 Imperva에서 최고기술책임자(CTO)와 최고정보보안책임자(CISO)를 겸임했습니다. Kunal은 2013년에 공동 창업한 애플리케이션 보안 스타트업 Prevoty가 2018년 Imperva에 인수되면서 Imperva에 합류했습니다. Prevoty 이전에는 BBC Worldwide에서 기술 담당 이사를 역임했습니다. Kunal은 혁신과 기술 분야에서 풍부한 경험과 전문성을 갖추고 있으며, Gravity, MySpace 및 NASA 제트추진연구소에서 보안, 데이터, 기술 및 엔지니어링 팀을 이끄는 직책을 맡았습니다. Kunal은 모델 학습, AI 기반 알고리즘을 활용한 제품 개선, AI 아키텍처 설계 및 구현 등 AI와 머신러닝 분야에서 15년 이상의 경험을 보유하고 있습니다. Kunal은 Babson College에서 컴퓨터 과학 학사 학위를 취득했습니다.
Kunal Anand의 다른 블로그 게시물관련 블로그 게시물
추론 경로가 곧 트래픽 경로다: AI 보안이 자리해야 할 곳
이제 AI 트래픽에는 의도와 데이터, 작업이 담깁니다. AI 보안을 적용하는 데 추론 경로가 가장 중요한 지점이 된 이유를 알아보세요.
최전선 AI를 네트워크 경계에서 차단하기: 인라인 제어가 Mythos급 모델에 맞서는 핵심 우위인 이유
포스트-Mythos 시대에 사이버 방어가 어떻게 변화했으며, 조직이 통제 지점을 바꿔야 하는 이유를 알아봅니다.
애플리케이션 딜리버리 컨트롤러가 다시 전략적 의제로 떠오르고 있습니다
AI로 인해 애플리케이션 제공의 중요성이 더욱 커지고 있습니다. F5의 Nirav Shah가 새로운 Gartner® ADC 연구와 이것이 엔터프라이즈 인프라 의사 결정에 미치는 영향에 대해 설명합니다.
증거로 입증하는 AI 보안: Gartner SRM에서 선보일 내용
Gartner SRM에서의 세션을 앞두고, F5의 제품 마케팅 담당 수석 부사장이 F5가 세 가지 실질적인 단계를 통해 조직의 AI 보안을 어떻게 지원하는지 설명합니다.
파이프라인 속도 저하 없이 AI 데이터 파이프라인을 안전하게 보호하세요
AI 데이터 파이프라인 보안은 선택 사항이 아닙니다. 그 점은 분명합니다. 하지만 이를 제대로 보호하는 방법은 훨씬 불분명하며, 훨씬 더 어려운 과제입니다.
AI 스토리지에 새로운 로드 밸런싱 접근 방식이 필요한 이유
AI 워크로드에는 새로운 관점으로 설계된 스토리지가 필요합니다. AI 특유의 데이터 액세스 패턴은 레거시 인프라에 내재된 심각한 병목 현상과 비효율성을 여실히 드러냅니다.