타협 없는 AI 모델 및 에이전트 보안: F5의 CalypsoAI 인수로 구현하는 엔드투엔드 AI 런타임 보호

Kunal Anand최고제품책임자 | F5

AI 시대의 사이버 보안 관리는 그 어느 때보다 어렵습니다. 기업이 생성형 AI와 에이전틱 AI 도구를 빠르게 도입하면서 프롬프트 인젝션 공격, 데이터 유출, 규정 준수 문제와 같은 위험도 커지고 있습니다. AI 애플리케이션, 모델, API의 역동적이고 고도로 상호 연결된 특성으로 인해 공격 표면이 확대되고 규제 당국의 감시가 강화되며 운영상의 사각지대가 생겨나고 있습니다.

기존의 개별 보안 솔루션으로는 복잡하고 끊임없이 진화하는 AI 위협 환경에 발맞추기 어렵습니다. 기업은 전례 없는 속도와 규모로 규정 준수를 보장하고 민감한 데이터를 보호하며 운영 지연을 방지하는 동시에, 이러한 강력한 도구를 업무에 통합해야 하는 과제를 안고 있습니다.

F5는 AI 워크플로를 보호하면서도 속도, 사용자 경험 또는 확장성을 희생할 필요는 없다고 믿습니다. 이에 AI 시스템을 위한 적응형 보호, 실시간 위협 모니터링 및 감사에 즉시 대응할 수 있는 거버넌스를 제공하는 엔터프라이즈 AI 보안의 선구자 CalypsoAI를 인수하게 되었음을 기쁘게 발표합니다. 이번 인수를 통해 F5는 장소에 구애받지 않고 모든 앱과 API는 물론 이제 AI 모델과 에이전트까지 엔드투엔드 보호를 제공하는 최초의 기업으로 자리매김하게 되었습니다.

CalypsoAI와 함께 당사는 엔터프라이즈 AI 보안을 새롭게 정의하여 조직이 위험을 완화하고 규정 준수를 간소화하며 고성능 AI 워크플로를 구현하는 동시에 안전하게 확장할 수 있도록 지원합니다. CalypsoAI의 기능을 F5 Application Delivery and Security Platform (ADSP)에 통합함으로써 기업은 세계에서 가장 포괄적인 엔드투엔드 AI 보안 솔루션을 활용하여 파일럿 단계부터 프로덕션 단계까지 타협 없이 AI 시스템을 보호할 수 있습니다.

CalypsoAI의 CTO인 James White와 F5의 최고 혁신 책임자인 Kunal Anand를 만나, 이 획기적인 솔루션이 AI 시스템의 전체 수명 주기에 걸쳐 엔터프라이즈 AI 보안을 어떻게 간소화하는지 이야기를 나눴습니다.

Q: F5에 오신 것을 환영합니다, James! CalypsoAI의 사명과 이번 파트너십에 참여하게 된 계기에 대해 말씀해 주시겠어요?

James White: 감사합니다! CalypsoAI의 사명은 언제나 조직이 안심하고 안전하게 AI를 도입할 수 있도록 지원하는 것이었습니다. 기업들이 AI 활용을 빠르게 확대하면서 적대적 공격, 모델의 비정상적 동작, 정책 위반, 끊임없이 변화하는 규정 준수 요구와 같은 위험도 커지고 있습니다. AI가 매우 빠르게 변화하고 있기 때문에 기존 도구만으로는 이러한 위험에 대응하기 어려우며, 그 결과 보안과 거버넌스에 공백이 생깁니다.

이를 해결하기 위해 AI 성숙도의 모든 단계에서 AI 워크플로를 보호하는 솔루션을 구축했습니다. 여기에는 AI 레드팀 활동을 통한 선제적 공격 테스트, 런타임 검사 및 정책 적용과 같은 솔루션이 제공하는 실시간 방어, 그리고 GDPR 및 EU AI법과 같은 규제 기준을 충족하기 위한 중앙 집중식 가시성과 규정 준수 기능이 포함됩니다.

F5에 합류함으로써 우리는 비전을 더욱 확장하고 이러한 기능을 하나의 통합 플랫폼에 원활하게 결합하여, 기업이 보안을 저해하지 않으면서 AI를 테스트하고 배포하며 확장할 수 있도록 지원하게 되었습니다.

Q: Kunal, 이번 인수가 기업의 성공을 지원하려는 F5의 비전에 어떻게 기여하나요?

Kunal Anand: AI는 단순히 또 하나의 워크로드가 아니라 기존 보안을 우회하는 새롭고 역동적인 공격 표면입니다. F5는 수십 년 동안 애플리케이션과 사용자가 만나는 핵심 지점을 지켜왔습니다. AI 모델, 에이전트 및 데이터 흐름을 보호하는 것은 당사의 핵심 사명을 자연스럽게 확장하는 일입니다.

우리의 비전은 코드와 API는 물론, 이제는 현대적인 애플리케이션을 구동하는 AI 구성 요소까지 보호하는 단일 적응형 플랫폼을 제공하는 것입니다. CalypsoAI의 AI 네이티브 보안을 당사의 ADSP에 통합함으로써 우리는 이 비전을 현실로 만들고 있습니다. 이는 단순히 새로운 기능을 덧붙이는 것이 아닙니다. 애플리케이션 패브릭 자체에 AI 보호 기능을 내재화하는 것입니다. 이제 기업은 AI의 위험에 대응하는 데 그치지 않고 AI를 활용해 구축할 수 있습니다. 이것이 바로 이러한 변화에 단순히 동참하는 것과 이를 선도하는 것의 차이입니다.

Q: James, CalypsoAI가 해결하기 위해 개발된 구체적인 과제에 대해 좀 더 자세히 말씀해 주시겠어요?

James White: 기업들이 새로운 AI 스택을 도입하려는 가운데, AI 워크플로는 고유한 과제를 야기하는 동적인 공격 표면을 형성합니다:

• AI 취약점: 프롬프트 인젝션 공격, 데이터 오염, 적대적 조작 등의 위험은 AI 시스템의 무결성을 훼손할 수 있습니다. 가장 시급한 과제 중 하나로 보안 전문가들이 지적하는 것은 섀도 AI의 확산입니다. 승인 없이 타사 AI 서비스를 사용하면 데이터 유출이나 운영상의 사각지대와 같은 위험이 더욱 커집니다. 실무자들은 AI의 데이터 요구 사항과 사이버 보안 원칙 사이에서 균형을 맞추려다 보면 효과적인 AI와 강력한 보안 중 하나를 선택해야 하는 절충 상황에 기업이 놓이는 경우가 많다고 강조합니다.
• 규정 준수 격차: GDPR 및 EU AI법과 같은 규정은 중앙 집중식 감독과 책임 체계를 요구하지만, 많은 조직이 AI 시스템의 규정 준수를 효율화할 수 있는 효과적인 도구를 갖추지 못하고 있습니다.
• 섀도 AI: 모니터링되지 않거나 승인되지 않은 타사 AI 서비스 사용은 데이터 유출 및 운영상의 사각지대와 같은 위험을 증가시킵니다.
• 파편화된 보안 도구: 많은 기업이 서로 연동되지 않는 도구나 수동 프로세스에 의존하고 있으며, 이로 인해 비효율이 발생하고 병목 현상이 생깁니다.

CalypsoAI의 특수 목적형 솔루션을 F5 ADSP에 통합하면 이러한 과제를 직접 해결하여 파일럿 단계부터 프로덕션 단계까지 모든 단계에서 선제적인 실시간 보호를 제공합니다.

Q: Kunal, CalypsoAI를 F5 ADSP에 통합함으로써 고객이 기대할 수 있는 주요 이점은 무엇인가요?

Kunal Anand: AI의 전체 수명 주기를 아우르는 보안을 제공합니다. 즉각적으로 얻을 수 있는 이점은 세 가지입니다:

• 배포 전에 모델을 강화하세요. AI를 대상으로 지속적이고 자동화된 레드팀 테스트를 수행한다고 생각하면 됩니다. CalypsoAI는 모델에 수천 개의 적대적 프롬프트를 보내 취약점을 몇 주가 아닌 몇 시간 만에 발견하고 수정합니다. 이를 통해 팀은 복원력 높은 시스템을 더 빠르게 출시할 수 있습니다.
• 런타임 AI를 보호하세요. 이는 수동적인 로그 스캐너가 아닙니다. 데이터 경로에서 작동하며 성능 저하 없이 프롬프트 인젝션, 데이터 유출 및 기타 공격을 능동적으로 차단하는 실시간 보호막입니다. 침해 사고를 단순히 보고하는 데 그치지 않고 사전에 방지합니다.
• AI를 위한 통합 가시성. AI 시스템은 블랙박스처럼 느껴질 수 있어 운영상 심각한 사각지대를 초래합니다. CalypsoAI는 전체 AI 환경에서 발생하는 모든 프롬프트, 응답 및 데이터 상호작용을 관찰합니다. 이를 통해 모호함을 명확한 인사이트로 전환하여 팀이 문제를 해결하고, 드리프트를 감지하며, 감사에 즉시 활용할 수 있는 완전한 AI 동작 기록을 유지할 수 있도록 지원합니다. 보이지 않는 것은 보호할 수 없습니다.

Q: James, CalypsoAI의 접근 방식이 기업에 혁신적인 이유는 무엇인가요?

James White: 당사의 접근 방식은 선제적이면서도 지속적입니다. 예를 들어 개발 단계에서는 레드팀 도구로 적대적 공격을 시뮬레이션해 AI 시스템을 강도 높게 테스트함으로써, 배포 전에 취약점을 해결할 수 있도록 합니다. 배포 후에는 실시간 모니터링 및 런타임 보호 시스템을 통해 비정상적인 동작과 데이터 유출 같은 공격을 실시간으로 탐지하고 대응합니다.

이러한 다계층 보안 접근 방식은 기업이 파일럿 단계부터 프로덕션 단계까지 위험을 방지하고, 규정 준수를 간소화하며, AI 혁신을 안전하게 가속화하는 데 필요한 도구를 제공합니다. CalypsoAI는 배포 후 AI 모델 보안 분야에서 확고한 입지를 다진 업계 전문 기업입니다. 당사의 솔루션을 통해 전 세계에서 가장 널리 사용되는 생성형 AI 및 에이전틱 AI 모델의 취약성을 측정하고 벤치마킹하는 데 관한 고유한 인사이트를 확보할 수 있습니다. 당사의 CASI 보안 지수와 Agentic Warfare Resistance 리더보드는 각 분야의 상위 10개 모델 순위를 제공하여, 기업이 어떤 모델을 배포할지와 해당 모델을 배포할 때 직면하는 내재적 위험을 더욱 정확히 파악할 수 있도록 지원합니다.

Q: Kunal, 이번 파트너십이 엔터프라이즈 AI 보안의 판도를 바꿀 것으로 보는 이유는 무엇인가요?

Kunal Anand: 현재의 접근 방식은 제대로 작동하지 않으며, 기업들도 이를 알고 있습니다. 시장에서는 문제의 10%만 해결하면서 운영 부담은 100% 더 늘리는 틈새 AI 보안 도구들을 짜깁기해 판매하고 있습니다. 기업들은 자사의 보안을 위해 직접 시스템 통합업체 역할까지 떠맡아야 하는 상황입니다.

이는 단순한 추가 기능이 아니라 통합이기 때문에 판도를 바꿀 혁신입니다. 우리는 스택을 하나로 통합하고 있습니다. F5 ADSP 전반에 AI 보안을 내장하고 있습니다. 따라서 AI 보안은 별도로 관리해야 할 또 하나의 솔루션이 아니라 인프라의 기본 기능이 됩니다. 또한 F5이기 때문에 이 플랫폼은 하드웨어, 소프트웨어, SaaS 등 어떤 형태로든, 어떤 클라우드에서든 필요한 곳에서 실행됩니다. 통합 플랫폼은 여러 포인트 솔루션을 억지로 조합한 프랑켄스택보다 언제나 뛰어납니다. 바로 이것이 판도를 바꾸는 혁신입니다.

AI가 중심이 되는 세상에서 AI 운영 보안은 선택이 아니라 비즈니스의 성패를 좌우하는 필수 요소입니다. F5와 CalypsoAI의 결합을 통해, 기업은 이제 타협 없이 혁신하는 데 필요한 도구와 거버넌스, 통제 역량을 갖출 수 있습니다.

작성자 소개

Kunal Anand최고제품책임자 | F5

Kunal Anand는 최고제품책임자(CPO)로서 F5의 제품 조직을 이끌고 있습니다. 제품 비전, 전략 및 실행을 총괄하며, 고객의 중대한 과제를 해결하고 탁월한 경험을 제공하는 혁신적인 솔루션의 개발을 주도합니다. 이전에는 최고기술·AI책임자로서 회사의 기술 및 AI 전략과 비전을 수립했습니다. F5에 합류하기 전에는 Imperva에서 최고기술책임자(CTO)와 최고정보보안책임자(CISO)를 겸임했습니다. Kunal은 2013년에 공동 창업한 애플리케이션 보안 스타트업 Prevoty가 2018년 Imperva에 인수되면서 Imperva에 합류했습니다. Prevoty 이전에는 BBC Worldwide에서 기술 담당 이사를 역임했습니다. Kunal은 혁신과 기술 분야에서 풍부한 경험과 전문성을 갖추고 있으며, Gravity, MySpace 및 NASA 제트추진연구소에서 보안, 데이터, 기술 및 엔지니어링 팀을 이끄는 직책을 맡았습니다. Kunal은 모델 학습, AI 기반 알고리즘을 활용한 제품 개선, AI 아키텍처 설계 및 구현 등 AI와 머신러닝 분야에서 15년 이상의 경험을 보유하고 있습니다. Kunal은 Babson College에서 컴퓨터 과학 학사 학위를 취득했습니다.

Kunal Anand의 다른 블로그 게시물