F5 AI Security Platform: AI 보안의 불확실성 제거

Kunal Anand최고제품책임자 | F5

지난 1년 동안 저는 이와 비슷한 대화를 수십 번이나 나눴습니다. 대화는 대기업의 보안 책임자가 "직원들이 AI를 어떻게 사용하고 있는지 모르겠습니다"라고 말하면서 시작됩니다. 이 말은 도구의 미비를 인정하는 것처럼 들리지만, 실제로는 구조적인 문제를 설명하는 것이며 우리가 이해해야 할 핵심은 바로 그 구조입니다.

지난 몇 년간 기업의 AI 활용은 개인이 일회성 작업에 AI를 사용하는 단계에서 팀이 모델을 기업 데이터와 연계하는 단계를 거쳐, 이제 자율 에이전트가 스스로 행동하는 변곡점에 이르렀습니다. 단계가 진전될 때마다 접근성과 자율성은 높아졌지만, 가시성과 통제력은 낮아졌습니다. 이 두 흐름은 줄곧 서로 반대 방향으로 움직여 왔습니다.

이를 ‘도입-통제의 역전’이라 부를 수 있습니다. 조직이 AI를 더 많이 도입할수록 이를 파악하거나 통제하기는 더 어려워집니다. 도입되는 AI 자체가 이를 감시하는 통제 체계보다 더 빠르고 독립적으로 행동하도록 설계되었기 때문입니다. 이러한 역전 현상은 막대한 비용을 초래하며, AI를 가장 빠르게 도입하면서도 가장 소홀히 감시한 조직에 가장 큰 타격을 줍니다.

대부분의 보안 팀은 이미 AI에 경계가 필요하다는 점을 잘 알고 있습니다. 이에 동의하는 것 자체는 결코 어려운 일이 아니었습니다. 어려운 점은 경계를 어디에 설정하고, 무엇을 허용하며, 환경 변화에 따라 어떻게 조정해야 하는지 파악하는 것입니다. 지속적인 가시성이 없다면 이러한 모든 결정은 추측에 불과합니다.

우리가 이전에도 보아 온 패턴

이러한 역전 현상은 구체적인 양상은 새롭지만 그 형태는 익숙합니다. 기업의 도입 속도가 기업의 가시성을 이처럼 크게 앞질렀던 마지막 사례는 SaaS로의 전환이었습니다. 직원들은 IT 부서가 승인할 수 있는 속도보다 더 빠르게 클라우드 애플리케이션을 도입했고, 본능적인 대응은 이를 차단하는 것이었습니다. 그러나 차단은 비즈니스 속도를 늦추는 동시에 사용을 음지로 몰아넣었기 때문에 실패했습니다. 효과가 있었던 것은 새로운 통제 지점이었습니다. 즉, 트래픽 경로에 인라인으로 배치되어 실제로 무엇이 사용되고 있는지 파악하고, 보안과 도입 중 하나를 선택하도록 강요하지 않으면서 정책을 적용하는 계층이었습니다.

섀도 AI는 확산 속도가 더 빠르고 피해 범위가 더 넓은 섀도 SaaS입니다. 해법의 형태는 동일합니다. 더 정교한 차단 목록만으로는 이러한 역전 현상을 해결할 수 없습니다. 사용 현황을 파악하고, 의도를 분류하며, 정책을 즉시 적용할 수 있는 경로상의 지점을 선점해야 해결할 수 있습니다.

추측에 의존하지 않기

오늘 F5는 F5 AI Security Platform을 제어 지점으로 선보였습니다. 이 플랫폼은 당사의 F5 Application Delivery and Security Platform 전략을 엔터프라이즈 AI로 확장합니다. 이 플랫폼은 단일 적응형 루프를 실행합니다. 팀은 직원들이 AI를 어떻게 사용하고 있는지 지속적으로 파악하고, 해당 배포 환경에 특화된 취약점이 있는지 모델과 애플리케이션을 테스트하며, 조사 결과와 테스트 결과를 각 조직이 직면한 위협에 맞게 조정된 런타임 보호 기능으로 전환합니다.

간단히 말해, 핵심 순환 구조는 다음과 같습니다: 발견은 테스트로 이어지고, 테스트는 정책 적용으로 이어지며, 정책 적용은 다음 발견 단계로 이어집니다.

F5 AI Security Platform은 AI 검색, AI 보안 테스트, AI 거버넌스, AI 런타임 보호 및 AI 관측성을 포함하는 지속적인 보호 주기를 제공합니다.

이러한 루프는 역전의 방향을 뒤집는 메커니즘입니다. 탐지, 테스트, 보호가 서로 다른 팀이 소유한 별개의 도구로 분리되어 있으면, 실제로 일어나는 일과 관리되는 영역 사이의 간극을 메울 수 없기 때문에 도입 속도가 여전히 통제 속도를 앞지릅니다. 반면 이들이 하나의 통제 지점에서 작동하는 단일 루프로 통합되면, 통제가 도입에 뒤처지는 대신 도입 규모에 맞춰 확장됩니다. 관계가 다시 역전되어, 이번에는 방어자에게 유리해집니다.

SurePath AI가 실현하는 가능성

이러한 선순환을 촉진하는 계기는 SurePath AI 인수입니다. 이를 통해 조직 전반의 AI 활동을 지속적으로 탐지하고 분류할 수 있으며, 여기에는 팀이 파악하고 있는 배포뿐 아니라 인지하지 못한 배포도 포함됩니다. SurePath는 기업 네트워크 트래픽 경로에 인라인으로 배치되고 기존 SASE, DLP, SIEM 및 ID 관리 시스템과 통합되므로, 엔드포인트에 에이전트를 설치하지 않고도 관리형 기기에서의 사용 현황을 파악할 수 있습니다.

누가 무엇을 사용하고 있는지 파악하는 것은 필요하지만 그것만으로는 충분하지 않습니다. 보안 책임자는 사용 의도까지 알아야 합니다. 모델과 사용자가 동일하더라도, 고객 이메일 초안을 작성하기 위해 민감한 기록을 가져오는 에이전트는 사내 메모를 작성하는 도우미와는 위험의 성격이 다릅니다. SurePath는 의도에 따라 사용을 분류하고, 도구 오용 및 권한 상승 여부를 확인하기 위해 에이전트 활동을 감사하며, MCP 도구 호출을 탐지해 에이전트를 전면 차단하는 대신 승인된 대상으로 유도할 수 있도록 합니다.

마지막 기능은 특히 주목할 만합니다. MCP 도구 호출은 에이전트가 추론을 멈추고 외부 세계에서 행동을 시작하는 지점이므로, 에이전틱 AI의 자연스러운 이그레스 제어 지점이 됩니다. 이 지점을 장악한 주체는 에이전트가 무엇을 말할 수 있는지를 넘어 무엇을 할 수 있는지까지 통제합니다. F5는 지난 30년간 네트워크에서 바로 이와 같은 위치를 지켜 왔습니다. 에이전틱 시대는 새로운 요구사항을 만들어 냈다기보다 가장 중요한 제어 지점을 옮겼으며, 그 지점은 이미 우리가 자리 잡고 있는 곳으로 이동했습니다.

전체 루프

CalypsoAI 인수를 통해 런타임 정책 적용 및 보안 테스트 기능을 플랫폼에 도입했으며, 현재 F5 AI Red Team 및 F5 AI Guardrails로 제공하고 있습니다. AI Red Team은 배포된 모델을 대상으로 적대적 캠페인을 실행해 모델별 취약점을 찾아내고, 그 결과를 몇 주가 아닌 단 몇 분 만에 새로운 가드레일로 전환합니다. AI Guardrails는 런타임에 이러한 정책을 적용하며, 각 조직이 중요하게 여기는 목적에 맞춰 구축된 맞춤형 가드레일을 제공합니다. 이제 SurePath는 실제로 기업에서 사용 중인 모델, 에이전트 도구 호출 및 사용 패턴을 이 피드백 루프에 전달하여, 테스트와 정책 적용이 일반적인 공격 표면이 아닌 실제 공격 표면을 대상으로 이루어지도록 합니다.

분산된 인사이트, 수주에 걸친 개선 주기, 정적인 정책으로는 불과 몇 시간 만에 전술을 재정비하는 공격자들의 속도를 따라잡을 수 없습니다. 방어자는 수년간 이러한 비대칭 구도에서 불리한 위치에 놓여 있었습니다. 폐쇄 루프는 이러한 비대칭을 줄여 줍니다.

변화의 속도에 발맞추는 AI 보안

AI 보안 태세는 제품이 아니라 위치에 따라 결정되는 방향으로 변화하고 있습니다. 탐지, 테스트, 정책 적용을 모두 수행하려면 사용자 또는 에이전트와 모델 사이의 경로에 자리해야 합니다. F5 AI Security Platform을 통해 F5는 바로 그 위치를 확보하고, 전체 AI 보안 루프를 가동하여 이러한 역전 현상을 바로잡을 수 있습니다. SurePath AI가 F5에 합류하게 되어 매우 기쁘며, 고객에게 가시성과 포괄적인 AI 보안을 제공할 수 있기를 기대합니다.

자세한 내용은 보도 자료를 읽고 F5 AI Security Platform 웹페이지를 방문하세요.

더 자세한 내용을 알아보려면 내일 열리는 3시간짜리 온라인 행사인 F5 AI Summit에 참여해 주세요. 이 행사에서는 AI 보안을 심층적으로 다룹니다.

작성자 소개

Kunal Anand최고제품책임자 | F5

Kunal Anand는 최고제품책임자(CPO)로서 F5의 제품 조직을 이끌고 있습니다. 제품 비전, 전략 및 실행을 총괄하며, 고객의 중대한 과제를 해결하고 탁월한 경험을 제공하는 혁신적인 솔루션의 개발을 주도합니다. 이전에는 최고기술·AI책임자로서 회사의 기술 및 AI 전략과 비전을 수립했습니다. F5에 합류하기 전에는 Imperva에서 최고기술책임자(CTO)와 최고정보보안책임자(CISO)를 겸임했습니다. Kunal은 2013년에 공동 창업한 애플리케이션 보안 스타트업 Prevoty가 2018년 Imperva에 인수되면서 Imperva에 합류했습니다. Prevoty 이전에는 BBC Worldwide에서 기술 담당 이사를 역임했습니다. Kunal은 혁신과 기술 분야에서 풍부한 경험과 전문성을 갖추고 있으며, Gravity, MySpace 및 NASA 제트추진연구소에서 보안, 데이터, 기술 및 엔지니어링 팀을 이끄는 직책을 맡았습니다. Kunal은 모델 학습, AI 기반 알고리즘을 활용한 제품 개선, AI 아키텍처 설계 및 구현 등 AI와 머신러닝 분야에서 15년 이상의 경험을 보유하고 있습니다. Kunal은 Babson College에서 컴퓨터 과학 학사 학위를 취득했습니다.

Kunal Anand의 다른 블로그 게시물