현재의 AI를 관리하고 미래의 AI를 대비하세요

F5 ADSP | 2025년 12월 18일

AI는 흔히 지금껏 만나 본 인턴 중 가장 의욕적인 인턴에 비유되곤 합니다. 지칠 줄 모르고 창의적이지만, 때로는 사실을 지어내거나 자신이 당신보다 더 잘 안다고 확신하기도 합니다. 많은 기업이 적절한 안전장치를 마련하기도 전에 민감한 데이터와 핵심 워크플로를 AI 모델과 이를 사용하는 애플리케이션에 맡기고 있습니다. 이는 브랜드 이미지 훼손과 규정 준수 위험을 초래하고, 불만이 쌓인 보안팀이 수많은 밤을 지새우게 만드는 지름길입니다. 보안팀은 새로운 모델이 실제 운영에 투입되거나 사용할 수 있도록 공개되었다는 사실조차 사후에야 알게 되는 경우가 많습니다.

“SecOps 팀이 가장 우려하는 일상적인 위험은 대개 선의로 행동하는 사용자, 지나치게 자신만만한 모델, 그리고 파편화되었거나 부재한 통제 체계에서 비롯됩니다.”

이러한 접근 방식은 바뀌어야 하며, 저희가 이를 바꾸겠습니다. 지난 몇 달 동안 F5는 AI 보안 여정에서 두 가지 중요한 이정표를 공유했습니다. 첫째, CalypsoAI 인수에 이어 대기업에 고급 AI 보안을 제공하기 위해 두 가지 신제품인 F5 AI Guardrails와 F5 AI Red Team을 출시했습니다. 둘째, 타협 없이 AI 모델과 에이전트를 보호하는 방법을 제시했습니다. 오늘은 이러한 움직임이 F5 고객이 자신감과 속도를 바탕으로, 무엇보다도 어떠한 절충도 없이 AI를 도입하는 데 어떻게 도움이 되는지 보여드리기 위해 이 두 가지를 연결해 설명하고자 합니다. 이제는 자신 있게 혁신해야 할 때이며, 보안 팀은 취약점을 매우 신속하게 찾아내는 역량을 갖춰야 할 때입니다.

보안 팀이 AI에 대해 어떻게 느끼는지에 관한 최근 분석에서는 많은 우려가 드러났습니다. 그중 특히 주목할 만한 세 가지 사실은 다음과 같습니다:

보안 전문가의 71%는 내부 오용이나 모델의 동작으로 인한 정보 노출을 가장 우려합니다.
AI 모델 오용에 대한 우려는 악의적 악용에 대한 우려보다 134% 더 높습니다.
보안 팀이 우려하는 데이터 보안 문제 중 52%는 섀도 AI 사용과 LLM에 대한 민감한 데이터 공개에 관한 것입니다.

다시 말해, 외부 공격자도 물론 중요하지만 SecOps 팀이 가장 우려하는 일상적인 위험은 대개 선의로 행동하는 사용자, 지나치게 자신만만한 모델, 그리고 파편화되었거나 부재한 통제에서 비롯됩니다. 이러한 실제 데이터가 바로 런타임 보안과 정책 시행에 집중하는 이유입니다. 위험은 실제로 프롬프트, 응답, 도구 및 에이전트 작업이 실행되는 런타임에서 드러나기 때문입니다.

F5의 AI 보안 집중이 고객에게 의미하는 것

AI 도입이 매우 빠른 속도로 진행됨에 따라, F5는 파일럿 단계부터 프로덕션 단계까지 AI 앱, 모델, 에이전트 및 데이터를 위한 포괄적이고 모델에 구애받지 않는 보안을 제공한다는 비전의 실현을 앞당기고 있습니다. 이를 위해 중요하면서도 상호 보완적인 두 제품을 F5 Application Delivery and Security Platform (ADSP)에 통합하고 있습니다:

F5 AI Guardrails: 프롬프트, 응답, 에이전트/도구 작업을 검사하고 통제하며 보호하는 런타임 보안 및 거버넌스 계층으로, 모든 모델 또는 제공업체에 적용됩니다. 이를 통해 팀은 사용자 경험을 저해하지 않으면서 데이터 유출을 탐지 및 방지하고, 유해하거나 편향된 출력을 조정하며, 모델과 에이전트에 최소 권한 원칙을 적용할 수 있습니다.
F5 AI Red Team: 대규모 적대적 테스트를 통해 수천 가지 공격 패턴으로 AI 시스템을 지속적으로 검증하고, 매월 10,000개 이상의 새로운 공격 프롬프트를 추가하는 AI 특화 레드팀 기능입니다. 지속적으로 개선되는 이 테스트 세트는 프롬프트 인젝션, 탈옥, 모델 증류, 데이터 유출 등을 포괄하며, 상세한 감사 대응용 로그와 핑거프린트를 제공합니다.

피드백 루프에서 진정한 마법이 일어납니다

테스트에서 얻은 인사이트와 결과는 능동적 안전장치인 동적 보호 조치에 즉시 반영됩니다. 즉, 분기별 검토나 공급업체의 패치 주기를 기다릴 필요 없이 새로운 위협과 시스템 변화에 맞춰 방어 체계도 함께 발전합니다. 테스트가 개선될수록 보호 수준도 매달 꾸준히 향상됩니다.

이 접근 방식은 최근 AI를 활용해 CVE 조사 결과를 기반으로 한 익스플로잇 코드 개발을 완전히 자동화한 위협 행위자들의 지속적인 진화에 발맞추는 데 매우 중요합니다. AI 기반 공격을 방어하려면 AI를 활용해야 합니다. 그렇지 않으면 그 비대칭성이 지나치게 커집니다. 이러한 지속적인 개선은 AI 기반 방어의 핵심 특징으로 자리 잡을 것이며, F5는 이 방법론을 채택해 F5 ADSP에 직접 통합하고 있습니다.

보안을 저해하지 않는 효과적인 AI

최근 게시한 블로그 글 「보안을 타협하지 않고 AI 모델과 에이전트 보호하기」에서 사용자 경험, 속도, 안전 중 하나를 선택해야 하는 상황은 없어야 한다고 강조했습니다. 말은 쉽지만, 저희는 다음과 같은 기능을 제공함으로써 그 약속을 실현하고 있습니다:

모든 모델과 클라우드에서 일관성 유지. 모델도, 제공업체도 바뀔 수 있지만 가드레일은 그대로 유지되어야 합니다. F5는 온프레미스 배포와 오픈 소스 모델 옵션을 포함한 하이브리드 멀티 모델 환경 전반에 일관된 정책을 제공합니다.
설계 단계부터 구현된 저지연 보호. 인라인으로 보안 정책을 적용하는 동안에도 장애 조치를 방지하여 빠르고 안정적인 사용자 경험을 유지합니다.
처음부터 내재화된 컴플라이언스입니다. 일반 데이터 보호 규정(GDPR), HIPAA, EU AI 법과 같은 컴플라이언스 요건을 위한 사전 설정 및 맞춤형 감사 템플릿과 엔드투엔드 가시성, 타사 SIEM/SOAR 통합을 통해 증거를 쉽고 반복 가능하며 신뢰성 있게 수집할 수 있습니다.

F5가 새롭게 열어가는 AI 보안의 미래

F5가 애플리케이션을 빠르고 안정적으로 가용하며 안전하게 유지하는 역량을 갖추고 있다는 사실은 이미 잘 알고 계실 것입니다. AI 보안은 이러한 기존 체계에 자연스럽게 통합됩니다. AI 보안의 새로운 장은 모든 방향에서 발생하는 위험을 완화하고 가시화합니다. 매월 10,000개 이상의 새로운 공격 프롬프트를 학습하는 에이전틱 위협 인텔리전스를 통해 프롬프트 인젝션, 탈옥, 모델 증류, 데이터 유출 시도와 같은 새로운 적대적 위협에 대응할 수 있습니다. 퍼블릭 및 프라이빗 LLM으로 민감한 데이터가 유출되는 것을 실시간으로 탐지하고 방지하며, 데이터 분류 체계에 부합하는 DLP 및 액세스 정책을 적용할 수 있습니다.

마지막으로, 유해하거나 편향된 출력을 조정하고, 모델과 에이전트에 역할 기반 및 상황 인식형 권한을 적용하며, 공개 모델과 사내 모델 전반에 위험 평가 프레임워크를 적용하여 책임 있는 AI 사용을 관리할 수 있습니다. 이러한 모든 보호 조치 전반에서 상세 로그, 에이전트 핑거프린트, 기존 SIEM/SOAR와의 통합을 통해 모든 AI 상호작용에 대한 가시성과 추적성을 중앙에서 확보함으로써 관측 가능성을 간소화하고, 노이즈는 줄이면서 유의미한 신호는 늘릴 수 있습니다.

오늘날의 문제점을 정면으로 해결하기

최첨단 모델의 보호 기능에만 의존하는 것은 위험합니다. 공격자는 이러한 보호 기능을 우선적으로 노리며, 위험은 특정 제공업체 한 곳에 국한되지 않습니다. 서로 단절된 개별 도구는 불필요한 경고를 늘리고 사각지대를 만듭니다. 또한 블랙박스 방식의 ‘AI 기반’ 마법은 거버넌스가 아닙니다. 규제 기관과 이사회에 명확히 설명할 수 있는 정책, 감사에 즉시 활용할 수 있는 증거, 그리고 사람이 개입하는 투명한 통제 체계가 필요합니다.

AI를 이제 막 도입하기 시작했다면 섀도 AI 탐지, 민감 데이터 보호, 적대적 테스트 등 위험이 가장 큰 영역부터 시작해 점차 확대하세요. 이미 프로덕션 환경에서 AI를 운영 중이라면 에이전트 도구 체인과 데이터 흐름을 파악한 다음, 경계 지점에 최소 권한 원칙과 런타임 가드레일을 적용하세요.

모든 것을 하나로 통합하기

F5 AI Guardrails와 F5 AI Red Team은 AI 보안을 위한 가장 포괄적인 플랫폼을 제공하려는 F5의 사명을 앞당깁니다. 이는 어떠한 타협도 없이 모델과 에이전트를 보호하겠다는 당사의 약속에 부합하며, SecOps가 실제 현장에서 직면하는 과제를 해결하는 데 목적이 있습니다. AI 공격 표면은 매일 진화합니다. 이러한 새로운 기능을 통해 그 변화에 발맞추는 적응형 런타임 보호와 에이전틱 위협 인텔리전스를 확보하여 파일럿 단계부터 프로덕션까지 모델, 에이전트, 데이터를 보호할 수 있습니다.

사용 중인 모델을 가져오세요—스택 전반에서 모델에 구애받지 않는 보호 기능을 보여드리겠습니다. 자세한 내용은 최근 동영상을 시청하세요.