F5, CalypsoAI 인수 완료 및 F5 AI Guardrails와 F5 AI Red Team 출시

F5 ADSP | 2025년 9월 29일

모든 신기술은 기회와 위험을 동시에 가져옵니다. AI도 예외는 아닙니다. 복잡한 워크플로 자동화, 예측 분석을 통한 의사결정 개선, 사실적인 합성 미디어 제작 등 획기적인 발전을 이끌지만, 데이터 유출, 모델 악용, 편향 증폭과 같은 취약점도 초래합니다. AI 역량이 빠르게 발전하는 동안 보안 대책은 이를 따라가지 못하는 경우가 많아, 조직은 명백한 위험뿐 아니라 예측하지 못한 위협에도 노출됩니다. 기술이 안전장치보다 빠르게 발전하면 보안에 대한 책임은 종종 개발자에서 실무자로 넘어갑니다.

수십 년 동안 F5는 조직이 끊임없이 변화하는 디지털 환경에 대응할 수 있도록 혁신을 가속화하고, 안정적인 연결성을 보장하며, 민감한 시스템을 잠재적 위험으로부터 보호해 왔습니다. 이제 AI가 기술 발전의 최전선에 자리 잡으면서, 신중한 도입뿐 아니라 사용자를 보호하고, 데이터를 안전하게 지키며, 적대적 위협에 대응하고, 윤리적인 AI 거버넌스를 보장하기 위한 적응형 보안 조치가 요구되고 있습니다. AI의 이점을 빠르게 실현하려는 조직에는 모든 사용자와 빠른 속도로 대규모 이동하는 데이터를 보호하고, 악의적 행위자의 모든 공격 경로를 방어할 수 있는 적응형 ‘가드레일’이 필요합니다.

F5 AI Guardrails 소개

오늘 F5는 AI 보안의 최전선을 개척해 온 CalypsoAI의 인수를 완료했으며, 디지털 환경을 보호하기 위한 최신 솔루션인 F5 AI Guardrails를 선보이게 되어 기쁘게 생각합니다. F5 AI Guardrails는 AI 모델과 에이전트를 위한 포괄적인 런타임 보안을 제공합니다. 이번 솔루션 추가로 F5는 AI 데이터를 보호하고 적대적 위협에 대응하며 모든 상호작용에서 책임 있는 AI 거버넌스를 보장하는 모델 독립적 솔루션을 제공할 수 있게 되었습니다. AI 환경은 수백만 개의 독점 및 오픈 소스 모델과 이를 미세 조정한 다양한 모델로 인해 끊임없이 진화하고 있습니다. AI 보안의 현재와 미래는 몇몇 거대 LLM에 국한되지 않습니다. 오히려 특정 모델 제공업체에 종속되지 않으면서 일관된 개인정보 보호와 보안을 필요로 하는 독점 및 공개 AI 혁신이 연이어 등장하는 양상입니다. 모델마다 서로 다른 위험 요소가 있으므로 AI 상호작용이 허용 가능한 범위를 벗어나지 않도록 각 모델에 맞춤화된 Guardrails가 필요합니다.

F5 AI Red Team은 명백한 위협부터 잘 드러나지 않는 위협까지 식별합니다

보이지 않는 것은 보호할 수 없습니다. 물리적·디지털 고속도로 곳곳에는 가드레일이 유용하게 쓰일 수 있는 지점이 무수히 많습니다. 이미 알려진 사고 다발 구간이나 교통량이 많은 교차로를 우선시하는 것은 당연하지만, 보다 전략적이고 예방적인 접근 방식이 필요합니다. F5 AI Red Team은 하늘의 눈처럼 전체 환경을 분석하여 출퇴근 시간대 교통의 실제 혼란, 최악의 난폭 운전자가 벌일 수 있는 행동, 그리고 이로 인해 드러날 수 있는 취약점을 시뮬레이션합니다. AI 시스템에서 사고가 발생할 가능성이 높은 지점뿐 아니라 사고 발생 시 가장 큰 영향을 미칠 지점까지 파악함으로써, AI Red Team은 가드레일을 정확히 어디에 설치해야 하는지, 그리고 얼마나 시급하게 설치해야 하는지를 알려줍니다.

이러한 역량을 원활하게 제공하기 위해 AI Red Team을 선보입니다. 자율 에이전트 군집을 활용해 수천 가지 공격 패턴을 시뮬레이션하고 AI 시스템의 취약점을 찾아냅니다. 이러한 에이전트 군집은 일반적인 AI 취약점은 물론, 보안 팀이 미처 검토할 시간이 없는 매우 드물고 최악의 상황을 초래할 수 있는 익스플로잇까지 더욱 빠르게 발견합니다. 또한 시뮬레이션된 공격 기법은 업계를 선도하는 당사의 AI 취약점 데이터베이스를 기반으로 합니다. 이 방대한 라이브러리는 새롭게 등장하는 동향을 반영하기 위해 매월 10,000개 이상의 새로운 공격 패턴으로 정기적으로 업데이트됩니다. 이러한 인사이트는 그 자체로도 가치가 있지만, 팀은 몇 번의 클릭만으로 모든 인사이트를 활성 AI Guardrails로 전환할 수 있습니다.

AI 블랙박스 들여다보기

AI 위협의 ‘무엇’과 ‘어디서’를 파악하는 것은 보안 태세를 유지하기 위한 기본 요건이지만, ‘어떻게’와 ‘왜’를 이해하는 것은 보안 태세를 개선하는 데 필수적입니다. AI 시스템은 불투명한 ‘블랙박스’라는 특성 때문에 지금까지 이를 파악하기가 어려웠으며, 완전히 새로운 접근 방식이 필요했습니다. AI가 Guardrails에 걸려 프롬프트가 차단되었다고 가정해 보겠습니다. 정적 키워드나 정규식 필터링과 같은 기존 방식으로는 사용자, 일시, 트리거는 알 수 있지만, 발생한 상황의 전체 맥락은 파악할 수 없습니다. 특히 F5 AI Guardrails와 AI Red Team은 설명 가능성을 우선시하여, 고객이 AI 시스템이 특정 결정을 내리거나 특정 조치를 취한 이유를 이해할 수 있도록 지원합니다.

Agentic Fingerprints 및 Outcome Analysis와 같은 고급 기능을 통해 팀은 이제 모든 AI 상호작용을 세부적으로 파악할 수 있으며, 프롬프트가 허용되거나 차단된 이유에 대한 상세한 근거와 해당 결정에 이르게 된 맥락까지 확인할 수 있습니다. 이러한 수준의 세분화된 정보는 보안 팀이 상황을 파악하는 데 매우 중요할 뿐만 아니라, 쉽게 이용할 수 있는 감사 추적 기록과 규제 프레임워크별로 미리 준비된 템플릿을 통해 규정 준수 업무를 획기적으로 간소화합니다.

현재의 AI를 안전하게 보호하고 미래의 AI에 대비하세요

AI는 사라지지 않을 것이며 그 발전 속도도 늦춰지지 않을 것입니다. MCP 서버, A2A 프로토콜, 검색 증강 생성(RAG), 그리고 앞으로 등장할 모든 혁신은 전 세계적으로 AI의 효과를 기하급수적으로 끌어올릴 것입니다. 그러나 AI 보안을 희생하면서 AI의 효과를 높여서는 안 됩니다. F5는 애플리케이션 계층에서 탁월한 역량을 인정받으며 조직이 디지털 고속도로에서 더 빠르고 스마트하게 나아갈 수 있도록 지원해 왔으며, AI 시대에도 이러한 방향을 바꿀 이유가 없다고 생각합니다. F5 AI Guardrails와 AI Red Team은 지능형 속도에 대한 이러한 약속을 지키고 AI 모델, 에이전트 및 연결된 데이터를 위한 포괄적인 보안을 제공할 수 있도록 지원합니다.

1년 후 AI 환경이 정확히 어떤 모습일지는 예측할 수 없습니다. F5는 앞으로 다가올 변화에 대비하는 가장 좋은 방법은 조직이 정해진 길을 따르도록 강요하는 것이 아니라, 각자의 요구 사항에 맞게 조정할 수 있는 도구를 제공하는 것이라고 믿습니다. AI Guardrails와 AI Red Team, 그리고 F5 Application Delivery and Security Platform (ADSP)의 강력한 통합 역량을 통해 어떤 환경, 클라우드, AI 모델에서도 유연하게 대응할 수 있도록 지원합니다. 미래의 요구 사항을 가장 잘 판단할 수 있는 주체는 F5가 아니라 바로 여러분이기 때문입니다.