글로벌 은행, F5로 대규모 AI 보안 유지

한 글로벌 투자 은행은 워크로드가 확장되는 상황에서도 위협 탐지 정확도를 저하시키지 않으면서 빠르게 성장하는 엔터프라이즈 AI 플랫폼을 보호해야 했습니다. F5 AI Guardrails는 이 은행의 사이버 통제 팀에 빠르게 확대되는 AI 애플리케이션 포트폴리오를 지원하는 동시에 최고 수준의 보호 성능을 유지하도록 설계된 보안 계층을 제공했습니다.

비즈니스 과제

글로벌 투자은행은 금융 서비스 업계에서 가장 까다로운 기술 환경을 운영합니다. 여러 관할권의 규제 기관에 대한 책임을 준수하는 동시에 24시간 내내 방대한 양의 데이터와 거래를 처리해야 하기 때문입니다. 세계 최대 규모의 글로벌 투자은행 중 한 곳이 전사적으로 생성형 AI 플랫폼을 도입하기 시작했을 때, 병목 현상을 일으키지 않으면서도 도입 속도에 발맞출 수 있는 보안이 필요했습니다.

은행의 사이버 통제 조직은 모든 AI 애플리케이션이 프로덕션 환경에 배포되기 전에 보안을 확보할 책임을 맡고 있었습니다. 운영 중인 애플리케이션은 이미 하루 약 10만 건의 AI 프롬프트를 처리하고 있었으며, 은행은 전사적으로 동일한 보안 범위를 수백 개의 애플리케이션으로 확대하고자 했습니다. 핵심 기술 과제는 분명했습니다. 해당 트래픽 경로에 배치되는 모든 보안 계층은 워크로드가 증가하더라도 F1 점수로 측정되는 최고 수준의 위협 탐지 정확도를 유지해야 했습니다. 지연 시간을 늘리거나 과부하 상황에서 탐지 정확도가 떨어지는 보안 솔루션은 사용할 수 없게 되거나 데이터 유출, 프롬프트 인젝션 및 기타 AI 특화 위협의 위험을 높일 수 있었습니다.

성능과 위협 탐지 정확도가 핵심 기술 과제로 대두된 가운데, 은행은 AI 트래픽에 대한 감사 가능한 로그, 명확한 정책 집행 기록, 포렌식 조사 역량 등 엄격한 글로벌 규제 요건을 충족하도록 설계된 솔루션도 필요했습니다. 은행이 에이전틱 AI 인프라를 도입할 계획인 만큼, 활용 사례가 대화형 AI를 넘어 더욱 자율적으로 워크플로를 주도하는 시스템으로 확장됨에 따라 민첩성은 보안 전략의 필수 요소입니다.

이 은행은 프로덕션 환경으로 전환하기 전에 엄격한 다단계 평가를 수행했으며, 다양한 배포 환경과 엔터프라이즈 규모에서 성능, 보안 및 데이터 제어 요구 사항을 충족하기 위해 클라우드 및 온프레미스 배포 모델을 모두 테스트했습니다.

솔루션

이 은행은 SaaS 서비스 대신 엔터프라이즈 클라우드 환경에서 자체 호스팅되는 F5 AI Guardrails를 선택하여, 사이버 보안 통제 팀이 AI 트래픽의 처리 위치와 데이터 처리 방식을 완벽하게 제어할 수 있도록 했습니다. 이 솔루션은 AI 애플리케이션 전반의 데이터 경로에 직접 배치되는 인라인 방식으로 운영되며, 사용량 증가에 따른 부하 분산과 자동 확장을 처리하기 위해 GPU 기반 인프라와 Kubernetes 기반 오케스트레이션을 활용합니다.

결과

모든 AI 상호작용에서 데이터를 보호하세요

AI Guardrails는 은행에서 실제 운영 중인 애플리케이션 전반의 모든 AI 상호작용을 인라인으로 검사하고, 전체 AI 대화 세션을 실시간으로 모니터링합니다. 프롬프트 인젝션 방지 기능은 모든 앱에 적용되며, 매우 민감한 사용 사례에는 PII 보호 기능이 추가로 적용됩니다. 감사 모드로 진행한 초기 배포에서는 워크로드가 증가하더라도 최고 수준의 F1 정확도를 유지해야 한다는 은행의 핵심 요구사항을 충족하면서 위협 탐지 정확도가 크게 향상된 것으로 나타났습니다. GPU 용량 및 오케스트레이션에 대한 지속적인 투자와 F5와의 협력을 통해 트래픽이 증가하는 상황에서도 응답 시간을 더욱 단축했으며, 각 AI 상호작용에 대한 검사 수준을 저하하지 않으면서 안전한 고성능 AI 지원 애플리케이션 수백 개를 배포하는 방향으로 확장하고 있습니다.

대규모 환경에서도 최고의 탐지 정확도 유지

은행이 AI 플랫폼을 소수의 애플리케이션에서 수백 개로 확장함에 따라, AI Guardrails를 통해 보안을 중앙 집중화하면 확신을 갖고 확장을 추진할 수 있습니다. 이 AI 보안 모델을 활용하면 은행의 사이버 통제 팀은 애플리케이션마다 맞춤형 보호 체계를 구축하는 대신, 일관된 방식으로 새로운 AI 애플리케이션을 안전하게 도입할 수 있습니다.

글로벌 규제 준수 지원

모든 상호작용이 기록되므로 보안 팀은 위협을 실시간으로 파악하고 조직 전체의 AI 트래픽에 대한 완전하고 감사 가능한 기록을 확보할 수 있습니다. 여기에는 정책 시행 기록과 포렌식 조사 기능이 포함되며, 이를 통해 보안 및 규정 준수 팀은 관할권을 초월한 규제 요건을 충족하는 데 필요한 증거를 확보할 수 있습니다.

플랫폼 기반 보안을 위한 토대 마련

AI 플랫폼이 지속적으로 성장함에 따라, 이 은행은 조직 전반에서 사용되는 모든 섀도 AI를 파악할 수 있도록 설계된 솔루션인 F5 AI Usage Control의 도입을 검토하고 있습니다. AI Usage Control은 더 광범위한 F5 AI Security Platform을 구성하는 또 하나의 요소입니다. 이 플랫폼은 F5 AI Gateway를 통해 AI Usage Control, AI Guardrails, F5 AI Red Team을 단일 제어 영역으로 통합합니다. 이러한 플랫폼 중심 접근 방식은 가장 강력한 수준의 AI 보안 태세를 구축할 수 있는 길을 열어 줍니다.