인공지능은 사이버 보안에 양날의 검이 되었습니다. AI 모델은 혁신을 주도하고 산업을 변화시키지만, 본질적인 예측 불가능성으로 인해 새로운 위험을 초래합니다. 난처한 챗봇 대화부터 지나치게 많은 권한을 가진 에이전트에 이르기까지, 새로운 위험 환경에는 원치 않는 언론의 주목을 받거나 고객의 신뢰를 떨어뜨릴 수 있는 평판상의 지뢰가 곳곳에 도사리고 있습니다.
새로운 모델이 나올 때마다 새로운 취약점도 함께 등장합니다. 조직이 도구 호출이나 작업 수행 등 이러한 모델에 대규모로 자율성을 부여하기 시작하면 악용, 편향, 안전 문제로 인한 영향은 훨씬 더 커집니다. 따라서 더 많은 통제 장치와 안전장치가 필요합니다.
“CalypsoAI의 기능을 F5 Application Delivery and Security Platform (ADSP)과 통합함으로써 F5는 AI 위험을 완화할 뿐만 아니라 기업이 유연성, 보안 및 신뢰를 바탕으로 AI 배포를 확장할 수 있도록 지원하는 포괄적인 솔루션 제공 분야의 선도 기업으로 자리매김합니다.”
최근 발간한 “AI 신뢰, 위험 및 보안 관리(TRiSM) 시장 가이드,”에서1 Gartner®는 “기업은 다양한 AI 위험에 직면해 있으며, 데이터 유출, 제3자 위험, 부정확하거나 원치 않는 결과물을 가장 우려하고 있다”고 설명합니다. 당사는 이러한 분석이 거버넌스, 보안 및 위험 관리를 강화해야 할 필요성을 뒷받침한다고 봅니다. 이는 AI를 대규모로 도입하는 조직, 특히 신속한 도입을 원하는 조직에 매우 중요한 과제가 되었습니다. TRiSM의 통제 체계를 마련하면 AI를 더욱 안전하고 빠르게 도입할 수 있습니다.
이처럼 변화하는 환경에서 F5의 CalypsoAI 인수는 이러한 과제를 해결하기 위한 시의적절하고 전략적인 조치가 될 것입니다. 관련 역량으로는 AI 거버넌스와 AI 시스템의 런타임 검사 및 정책 적용에 관한 CalypsoAI의 전문성이 있습니다. CalypsoAI의 역량을 F5 Application Delivery and Security Platform (ADSP)과 통합함으로써 F5는 AI 위험을 완화할 뿐만 아니라 기업이 유연성, 보안 및 신뢰를 바탕으로 AI 배포를 확장할 수 있도록 지원하는 포괄적인 솔루션을 제공하는 선도 기업으로 자리매김합니다.
빠르게 성숙해 가는 AI 환경 헤쳐 나가기
AI 시장은 전례 없는 속도로 발전하고 있으며, 기반 대규모 언어 모델(LLM)과 특화된 소규모 언어 모델(SLM)이 다양한 산업 전반으로 확산되고 있습니다. 이처럼 변화하는 환경에서 기존 도구에 의존하려는 조직은 확장성과 유연성을 유지하고 비용을 억제하는 역량이 부족해질 위험이 있습니다.
Gartner는 다음과 같이 말합니다. “AI 시장이 빠르게 성숙하고 변화함에 따라 기업은 확장성, 유연성, 비용 통제 및 신뢰를 보장하기 위해 특정 AI 모델이나 호스팅 제공업체에 종속되지 않아야 합니다.”1
AI 기능이 새로운 사용 사례로 계속 확장됨에 따라 유연성과 신뢰가 필요하다는 점에서, 특정 AI 모델이나 호스팅 제공업체에 종속되지 않는 것이 중요하다는 데 동의합니다.
F5는 출처와 관계없이 모든 모델에 대해 CalypsoAI의 실시간 보안 검사 및 위험 평가 기능을 통합함으로써 이처럼 역동적인 환경에 직접 대응하고 있습니다. CalypsoAI의 솔루션으로 강화된 F5 ADSP를 활용하는 기업은 모델과 애플리케이션에 대한 거버넌스를 유지하면서 다양한 AI 도구를 안심하고 도입할 수 있습니다. 이러한 독립성은 특정 AI 제공업체에 대한 의존도를 낮추고, 확장 가능한 성공을 위해 AI 구현이 미래의 변화에도 대비할 수 있도록 합니다.
AI 보안을 위한 계층적 접근 방식
Gartner의 AI TRiSM 시장 가이드에 따르면,1 기술 역량은 네 개의 계층으로 구성되며, 이 모든 계층은 기존 기술 보호를 나타내는 다섯 번째 계층을 기반으로 합니다:
- AI 거버넌스
- 런타임 검사 및 적용
- 정보 거버넌스
- 인프라 및 기술 스택
저희는 이 프레임워크가 AI 시스템이 조직 정책, 규제 준수 요건 및 윤리적 기대에 부합하는지 검증함으로써 신뢰성과 보안성을 보장한다고 봅니다.
이 그래픽은 Gartner, Inc.가 더 큰 규모의 연구 문서의 일부로 게시한 것으로, 전체 문서의 맥락에서 평가해야 합니다. Gartner 문서는 요청 시 F5에서 제공받을 수 있습니다.
CalypsoAI 인수를 통해 F5는 애플리케이션 보안, 특히 AI 분야의 선도 기업으로서 입지를 더욱 강화할 것입니다. 기업은 잘못된 AI 동작을 악용하는 악의적 행위자와 AI 자체의 예측 불가능한 동작으로 인해 외부와 내부 모두에서 점증하는 위협에 직면하고 있습니다. CalypsoAI의 AI 거버넌스 및 런타임 적용 역량은 정보, 인프라 및 기존 보호 기술에 대한 전사적 제어 기능 제공에 탁월한 F5 ADSP를 보완합니다. 이러한 강점을 결합하여 AI TRiSM의 모든 계층을 아우르고,1 AI 신뢰 및 위험 관리를 위한 엔드투엔드 보호를 제공합니다.
CalypsoAI는 피라미드의 최상위 두 계층인 AI 거버넌스와 런타임 검사 및 적용에 강점이 있으며, F5 ADSP는 정보 거버넌스, 인프라 및 기존 보호 계층을 지원하여 이러한 역량을 보완합니다.
AI 거버넌스
CalypsoAI는 모델 카탈로그화 및 위험 평가 시스템을 통해 AI 거버넌스를 강화하고, 기업의 AI 자산을 통합적으로 파악할 수 있도록 지원합니다. CalypsoAI의 거버넌스 기능은 책임성, 투명성, 보안이라는 책임 있는 AI 원칙에 중점을 둡니다. CalypsoAI는 모델의 상태와 성능을 지속적으로 평가하여 AI 결과물이 일반 데이터 보호 규정(GDPR), EU AI 법과 같은 규제 정책에 부합하도록 함으로써 윤리와 신뢰를 기반으로 하는 AI 관행을 강화합니다.
AI 런타임 검사 및 정책 적용
CalypsoAI는 런타임 엔진을 활용하여 AI 애플리케이션 전반에서 정책 준수를 보장합니다. 이러한 메커니즘은 AI 상호작용을 실시간으로 검사하여 이상 징후나 위반 사항을 식별합니다. CalypsoAI의 플러그 앤 플레이 프레임워크는 모델의 동작과 에이전틱 위협 인텔리전스를 기반으로 방어 체계를 조정하여 기업의 AI 배포 환경에 선제적 보안과 실시간 보안을 모두 제공합니다. 이러한 인사이트를 바탕으로 런타임 검사는 악성 프롬프트, 편향 위험, 규정 준수 문제에 대응함으로써 기업이 새롭게 등장하는 위협에 한발 앞서 대비할 수 있도록 지원합니다.
정보 거버넌스
F5 ADSP는 LeakSignal과 같은 기업 인수를 기반으로 강력한 정보 거버넌스를 구축하여 F5 BIG-IP SSL Orchestrator(SSLO)와 같은 제품의 데이터 보호를 강화합니다. SSLO는 전송되는 데이터의 유형과 목적지를 정확하게 식별하는 데 중추적인 역할을 합니다. SSLO를 통해 AI 모델을 배포하는 조직은 데이터가 노출되기 전에 이를 차단하는 정책 기반 제어를 적용하여 위험을 크게 줄일 수 있습니다.
CalypsoAI는 F5의 광범위한 에코시스템에 부합하는 고급 역할 기반 액세스 제어(RBAC) 및 데이터 손실 방지(DLP) 기능을 모두 추가하여 AI 런타임에서 동적 데이터 분류 및 검색을 제공합니다. F5 BIG-IP Access Policy Manager (APM)을 사용하면 기업은 사용자, 디바이스 및 API에 대한 통합 액세스 제어 기능을 확보하여 AI 중심의 거버넌스 요구 사항을 충족하는 동시에 AI 기반 상호 작용을 위한 안전한 기반을 구축할 수 있습니다.
인프라 및 스택
F5 ADSP 웹 애플리케이션 및 API 보호(WAAP) 솔루션은 AI 애플리케이션의 핵심 인프라를 보호하는 데 중요한 역할을 하며, 이는 견고하고 안전한 API 생태계를 구축하는 것에서 시작됩니다. AI는 강력하고 진보된 수단이지만, AI가 이용하는 경로는 여전히 조직이 오랫동안 발견하고 보호하는 데 어려움을 겪어 온 동일한 API입니다. CalypsoAI의 런타임 적용 기능은 AI 특화 상호작용의 취약점을 완화하여 WAAP를 보완하며, F5는 API 중심 생태계를 위해 설계된 API 검색 및 보호 도구를 통해 이 계층을 강화합니다.
Dell, NetApp, MinIO와 같은 선도적인 스토리지 공급업체와의 파트너십을 통해 이러한 보안을 데이터 워크플로까지 확장함으로써, RAG를 비롯한 AI 모델 학습 및 추론 주기를 지원하는 확장 가능한 고성능 데이터 저장 및 전송을 보장합니다. 또한 F5는 NVIDIA와의 파트너십을 통해 F5 BIG-IP Next for Kubernetes를 기반으로 DPU 기술을 발전시켜, GPU용 애플리케이션 제공 및 배포를 간소화하는 동시에 추론 및 학습을 위한 새로운 보안 제어 기능을 도입합니다.
F5 ADSP와 함께 단일 플랫폼에 통합된 이러한 기술 발전은 총소유비용을 절감하는 동시에 엔터프라이즈 확장성에 대비해 AI 인프라의 미래 경쟁력을 확보하는 데 도움이 됩니다.
기존 기술 보호
기존 기술 계층은 엔터프라이즈 애플리케이션 보안의 중추를 이루며, F5 BIG-IP 및 F5 WAAP 솔루션은 애플리케이션, 데이터, 인프라의 안정성과 복원력을 보장하는 기본적인 보호 기능을 제공합니다.
고급 보안 도구를 기반으로 하는 이러한 솔루션은 대규모 및 표적형 분산 서비스 거부(DDoS) 공격부터 봇 트래픽과 지능형 애플리케이션 계층 위협에 이르기까지 다양한 위협에 대응합니다. 그 핵심에는 SQL 인젝션, 크로스 사이트 스크립팅(XSS) 및 기타 OWASP 주요 위협을 방어하는 강력한 웹 애플리케이션 방화벽(WAF) 기능이 있습니다. 이러한 포괄적인 보호 기능은 계층형 보안 접근 방식을 완성하여 AI 운영과 기존 워크로드 모두에 엔드투엔드 보호를 제공합니다.
AI 보안 분야의 리더십 강화
인공지능은 사이버 보안에 혁신적인 잠재력과 중대한 위험을 동시에 안겨 줍니다. 인공지능의 본질적인 예측 불가능성과 악의적 행위자들의 끊임없는 악용이 맞물리면서, 기존의 보안 접근 방식으로는 대응하기 어려운 위협 환경이 계속해서 변화하고 있습니다.
기업들이 AI 혁신을 빠르게 도입함에 따라 신뢰와 책임성의 중요성이 무엇보다 커지고 있습니다. F5의 전략적인 CalypsoAI 인수는 이러한 수요 증가에 대응하는 핵심 방안이 될 것이며, 조직이 보안, 개인정보 보호 및 운영 통제력을 유지하면서 안심하고 AI를 도입할 수 있도록 지원합니다. 다계층 AI TRiSM1 솔루션을 통해 F5는 AI 애플리케이션 보안의 새로운 표준을 제시하여 기업이 신뢰를 핵심 가치로 삼아 혁신할 수 있도록 합니다.
1 Gartner, AI 신뢰, 위험 및 보안 관리 시장 가이드, 2025년 2월 18일.
GARTNER는 미국 및 전 세계에서 Gartner, Inc. 및/또는 그 계열사의 등록 상표이자 서비스표이며, 본 문서에서는 허가를 받아 사용되었습니다. 모든 권리는 보호됩니다.
작성자 소개
관련 블로그 게시물
F5 NGINX Gateway Fabric로 AI 제공 표준화
F5 NGINX Gateway Fabric이 기업의 Kubernetes 트래픽 표준화, 애플리케이션 보안 강화, 대규모 AI 추론 준비를 어떻게 지원하는지 알아보세요.
F5의 CalypsoAI 인수 발표, TRiSM 프레임워크 구축을 향한 행보
F5의 CalypsoAI 전략적 인수를 통해 조직은 보안, 개인정보 보호 및 운영 통제력을 유지하면서도 안심하고 AI를 도입할 수 있습니다. 자세한 내용은 블로그에서 확인하세요.
사이버 복원력: LLM을 위한 OWASP Top 10 위험 완화
OWASP가 2025년 LLM 및 생성형 AI 앱을 위한 10대 위험 및 완화 방안을 발표하면서 업계에 절실히 필요했던 보안 기준이 마련되었습니다. 하지만 실행이 뒤따르지 않는 기준은 아무 의미가 없습니다. F5 AI 런타임 보안 솔루션은 OWASP 10대 위험의 80%에 대응하며, 현실에서 가장 시급한 위험을 우선적으로 해결합니다. 이 솔루션은 실시간 런타임 보호 기능을 결합하여 […]
석유 및 가스 산업을 위한 AI 보안
AI는 지질 모델링과 시추 최적화부터 파이프라인 모니터링, 예측 유지보수, 원자재 거래에 이르기까지 석유 및 가스 산업을 재편하고 있습니다. 하지만 이러한 미션 크리티컬 활용 사례에는 높은 위험도 따릅니다. 당사의 AI 런타임 보안 솔루션은 검증을 위한 레드팀, 보호를 위한 Guardrails, 그리고 내장된 관측 가능성을 통해 석유 및 가스 산업을 안전하게 보호합니다. […]
인사 부서를 위한 AI 보안
AI는 HR을 혁신하고 있습니다. 기업들은 비용을 절감하고 직원 경험을 개선하기 위해 AI 기반 채용 코파일럿, 온보딩 도우미, 직원 지원 챗봇, 인력 분석 도구를 도입하고 있습니다. 하지만 HR 애플리케이션에는 규정 준수 실패, 편향 논란, 평판 훼손으로 이어질 수 있는 고유한 위험도 존재합니다. 당사의 AI 런타임 보안 솔루션은 다음과 같은 방식으로 HR 분야를 보호합니다. […]
기업 법무 관리를 위한 AI 보안
AI는 계약 검토 및 증거개시 자동화부터 규제 준수 모니터링과 민감한 지식재산 관리에 이르기까지 기업 법무팀의 업무 방식을 혁신하고 있습니다. 그러나 법률 환경은 AI 도입 시 가장 큰 위험이 따르는 분야 중 하나입니다. 당사의 AI 런타임 보안 솔루션은 검증을 위한 레드팀, Guardrails 등 세 가지 접근 방식으로 기업 법무 관리를 보호합니다 […]