AI 사용 관리 및 모니터링을 위한 F5 Workforce AI Security
안심하고 직원들의 AI 사용을 관리하고 모니터링하세요
AI 활용은 생산성과 보안 위험을 모두 높이고 있습니다
조직 내 어딘가에서는 마감 기한이 임박한 가운데, 한 직원이 프레젠테이션을 완성하기 위해 기밀 데이터를 AI 도구에 붙여 넣으려 하고 있습니다. 불과 몇 초 만에 민감한 정보가 승인된 통제 범위를 벗어날 수 있지만, 제출된 내용을 평가하는 정책도, 해당 상호작용을 기록하는 감사 추적도 없습니다. 많은 경우 이러한 행위는 어떤 보안 또는 거버넌스 시스템에도 전혀 감지되지 않습니다. 이는 직원들이 통제를 무시해서 발생하는 일이 아닙니다. 대부분의 통제가 실제 AI 사용 방식을 고려해 설계되지 않았기 때문에 발생합니다.
따라서 중요한 것은 AI를 사용할지 여부가 아닙니다. 팀이 더 위험한 우회 방법을 택하도록 내몰지 않으면서도 AI가 어떻게 사용되는지 파악하고, 이를 관리하며, 규정 준수를 유지할 수 있느냐입니다.
AI 도입이 가속화되면서 보안 사각지대도 늘어나고 있습니다. 특히 IT 부서의 가시성이나 통제 범위 밖에서 승인 없이 AI 도구를 사용하는 섀도 AI가 주요 원인입니다. 이 백서에서는 기존 통제 방식의 한계와 섀도 AI가 많은 리더의 생각보다 더 광범위하게 확산된 이유를 살펴보고, F5 Workforce AI Security와 같은 솔루션이 책임감 있고 안전한 AI 도입을 위한 확장 가능한 방안을 어떻게 제공하는지 설명합니다.
가장 인기 있는 AI 앱
기존 보안 아키텍처가 AI에 적합하지 않은 이유
대부분의 엔터프라이즈 보안 아키텍처는 인간 사용자와 민감한 데이터라는 두 가지 대상을 보호하도록 설계되었습니다. 하지만 AI의 등장으로 세 번째 주체가 생겨났습니다. 바로 인간의 자격 증명을 사용하는 경우가 많고, 기계와 같은 속도로 작동하며, 분산된 도구와 환경 전반의 시스템과 상호 작용하는 자율형 AI 에이전트입니다. 이러한 변화는 기존 보안 통제의 근간을 이루는 여러 전제를 무너뜨립니다. 기존 통제는 이러한 에이전트가 무엇에 액세스하고, 어떤 결정을 내리며, 무엇을 노출할 수 있는지를 관리하도록 설계되지 않았기 때문입니다. 그 결과, 보안 체계가 잘 갖춰진 조직조차 기존 DLP, CASB, IAM 도구로는 대응할 수 없는 새로운 유형의 위험에 직면하게 됩니다.
출처: 「AI 보안: 지금 중요한 것」, IBM/AWS
AI 사용과 관련된 기존 엔터프라이즈 보안 시스템의 구체적인 한계는 다음과 같습니다:
- 데이터 손실 방지(DLP) 솔루션은 프롬프트의 의도, 모델의 컨텍스트 또는 AI가 생성한 응답을 이해하도록 설계된 것이 아닙니다. 데이터가 시스템 외부로 유출되었다는 사실은 파악할 수 있지만, 그 이유와 방식, 또는 모델이 해당 데이터를 어떻게 처리했는지는 알 수 없습니다. 따라서 자유 형식 텍스트 프롬프트, 대화 흐름, 도구 체인 또는 출력에 민감한 콘텐츠가 포함된 상호작용은 탐지를 완전히 우회하는 경우가 많습니다. DLP 정책을 적용하더라도 위반은 계속 발생하며, 탐지된 사고 중 소스 코드가 46%, 규제 대상 데이터가 35%, 지식 재산이 15%를 차지합니다.
- 클라우드 액세스 보안 브로커(CASB) 는 프롬프트를 분석하거나, 자유 형식 텍스트에 포함된 민감한 데이터를 해석하거나, 여러 도구와 모델에 걸쳐 연쇄적으로 이루어지는 AI 작업을 추적하도록 설계되지 않았습니다. CASB와 ASE 플랫폼 같은 최신 솔루션은 상위 수준에서 AI 앱에 대한 액세스를 차단하거나 허용할 수 있지만, 일단 액세스가 허용된 후 어떤 일이 발생하는지는 파악할 수 없습니다. AI 도구를 전면 차단하면 섀도 AI가 확산되는 경우가 많고, 상황별 제어 없이 액세스를 허용하면 기업은 내부에서 일어나는 일을 파악할 수 없게 됩니다. F5 Workforce AI Security는 AI 상호작용 계층에서 작동하여 CASB를 보완하며, 승인된 AI 도구와 승인되지 않은 AI 도구 모두에서 프롬프트, 모델 동작 및 에이전트 활동에 대한 실시간 가시성을 제공합니다.
- ID 및 액세스 관리(IAM) 는 인간 사용자를 인증하도록 설계된 것이지, 사용자를 대신해 행동하는 AI 에이전트를 통제하도록 설계된 것은 아닙니다. IAM은 누가 세션을 시작했는지는 확인할 수 있지만, AI 모델에 무엇이 제출되는지, 에이전트가 여러 도구를 어떻게 연계하는지, 또는 그에 따라 어떤 작업이 수행되는지는 제어할 수 없습니다. AI 에이전트가 유효한 자격 증명으로 작동하기 시작하면 IAM은 이후의 동작을 파악할 수 없게 되며, 이로 인해 조직은 모델이 시작한 의도하지 않았거나 승인되지 않은 작업에 노출됩니다.
DLP, CASB, IAM은 각각 네트워크, 애플리케이션, 사용자 ID라는 명확히 정의된 경계 내에서 작동합니다. 하지만 AI 사용은 이 모든 영역을 동시에 넘나들며, 승인된 워크플로 외부에서 이루어지는 경우가 많습니다. 프롬프트는 브라우저에서 생성되고, 민감한 데이터는 외부 모델로 전송되며, AI 에이전트는 빌려온 자격 증명을 사용해 작업을 수행합니다. 그 결과, 가시성은 아무리 좋아도 부분적인 수준에 그치고, 최악의 경우에는 완전한 사각지대가 발생합니다. 기존 아키텍처는 애초에 이러한 유형의 상호작용을 통제하도록 설계되지 않았습니다. 따라서 기업에는 AI가 실제로 작동하는 방식을 이해하는 새로운 제어 계층이 필요합니다.
다계층 보안 체계를 갖춘 성숙한 조직조차 직원들이 AI를 어떻게 사용하고 있는지 파악하는 데 필요한 통제 수단과 가시성이 부족한 경우가 많습니다. AI 사용이 빠르게 증가하면서 위험 환경도 확대되고 있으므로, 기존 보안 도구에 의존하는 것만으로는 충분하지 않습니다.
AI 상호작용의 보안을 DLP 솔루션에 의존하는 것은 조직에 특히 우려스러운 일입니다. 2024년에 도입률이 24%에서 42%로 두 자릿수 증가했음에도 불구하고, DLP 솔루션은 여전히 심각한 데이터 유출 위험을 초래합니다.
출처: Netskope, 「기업 내 AI 앱」, 2024년
섀도 AI 문제: 실제 업무 환경의 위험
아마도 가장 광범위하면서도 충분히 인식되지 않은 AI 위험은 직원들이 승인 없이 또는 관리되지 않는 방식으로 AI를 사용하는 ‘섀도 AI’의 확산일 것입니다. 이러한 행동은 악의적인 의도보다는 생산성을 높이고, 문제를 더 빠르게 해결하거나, 새로운 도구를 시험해 보려는 욕구에서 비롯되는 경우가 많습니다.
안타깝게도 보안 팀이 가시성과 맥락, 통제력을 확보하지 못하면 이러한 선의는 심각한 위험을 초래합니다.
Menlo Security의 2025년 보고서에 따르면:
- 직원의 69%가 개인 계정을 통해 무료 요금제 AI 도구를 사용합니다
- 직원의 57%가 민감한 데이터를 입력합니다
거버넌스가 없다면 섀도우 AI 사용으로 인해 다음과 같은 문제가 발생할 수 있습니다:
- PHI, PII 또는 기밀 IP가 외부 모델에 노출될 수 있음
- 내부 데이터 분류 및 규정 준수 정책 위반
- 입력 내용을 모델 학습용으로 보관하는 AI 도구에 민감한 콘텐츠를 입력
이러한 유형의 사고는 드물지 않습니다. 모든 부서에서 섀도 AI 사용이 증가하고 있습니다:
- 마케팅: 캠페인 아이디어 구상, 광고 문구 작성, 콘텐츠 초안 작성을 위해 ChatGPT 또는 Copilot 사용
- 법무 및 규정 준수: Copilot 또는 비공개 LLM을 통해 계약서의 민감 정보 삭제나 청구 검토 수행
- 엔지니어링: 코드 생성, RAG 파이프라인 및 자동화를 위해 사내 LLM 또는 오픈 소스 모델 활용
F5 Workforce AI Security는 사용 현황을 역할에 매핑하고 관련 보안 정책을 적용하여 대규모로 안전하고 규정을 준수하며 책임감 있게 AI를 사용할 수 있도록 지원합니다.
출처: Menlo Security의 2025년 보고서
F5 Workforce AI Security가 안전한 업무용 AI 도입을 지원하는 방법
F5 Workforce AI Security는 AI 도입으로 인해 발생하는 거버넌스 문제를 해결하도록 특별히 설계되었습니다. 기존 도구는 정적 데이터와 액세스 권한에 중점을 둡니다. F5 Workforce AI Security는 직원이 보내는 프롬프트, 프롬프트와 함께 전달되는 컨텍스트, AI 에이전트가 호출하는 도구, 그리고 해당 에이전트가 수행하는 작업 등 AI의 위험을 초래하는 동적 상호작용을 관리합니다.
이 솔루션은 AI 트래픽 경로에서 실시간으로 트래픽을 검사합니다. 보안 팀은 민감한 정보가 모델에 도달하기 전에 이를 제거하고, 요청자와 요청 목적에 따라 정책을 적용하며, 발생한 상황과 그 이유를 추적할 수 있도록 기록을 보관할 수 있습니다. 단순히 데이터가 저장된 위치뿐만 아니라 모델이 무엇을 보고 수행하는지도 관리합니다. 주요 이점은 다음과 같습니다.
발견: 완전한 가시성 확보
- 공개형, 임베디드형 및 내부 도구 전반의 AI 활동을 파악하세요
- 사용자, 부서, 기기, 서비스 또는 모델별 사용 현황 파악
- 규정 준수 및 사고 대응을 위한 상세 감사 로그 생성
보호: 실시간으로 위험 완화
- 안전하지 않은 프롬프트를 차단하고 민감한 데이터가 모델에 도달하기 전에 삭제 처리합니다
- 사용자 역할, 서비스 또는 모델, 프롬프트 컨텍스트에 따라 동적 정책 적용
- 보안 포털을 통해 섀도 AI를 승인된 프라이빗 인스턴스(예: Amazon Bedrock)로 리디렉션
지원: 안전하고 책임감 있게 확장
- 생산성을 저해하지 않으면서 안전장치 제공
- SIEM, IAM/SSO 및 MDM/SASE 도구와 원활하게 통합
- 사용자가 엔터프라이즈 제어를 유지하면서 신뢰할 수 있는 모델에 연결되는 브랜드 보안 포털 내에서 작업할 수 있도록 지원
적응: 시간의 흐름에 따라 거버넌스 발전시키기
- 사용 데이터를 분석하여 AI 정책과 교육을 개선하세요
- 새롭게 나타나는 패턴, 비공식적인 사용 또는 정책의 허점을 파악합니다
- 거버넌스 관행의 지속적인 개선 지원
F5 Workforce AI Security는 기존 도구를 재구성하지 않고도 단 몇 분 만에 조직 전체의 AI 사용 현황을 파악할 수 있도록 지원합니다. 민감한 데이터의 노출을 완화하여 책임감 있는 AI 사용을 지원하고, 변화하는 규제 요건을 준수할 수 있도록 합니다.
혼돈에서 통제로
기업은 더 이상 혁신과 위험 중 하나를 선택할 필요가 없습니다. AI가 실제로 활용되는 방식에 부합하는 거버넌스 모델을 갖춘다면, 대규모 환경에서도 AI를 안전하게 도입할 수 있습니다.
F5 Workforce AI Security는 실시간 가시성, 동적 정책 적용, 기존 기술 스택과의 통합을 통해 조직의 역량을 강화합니다. 또한 감사 가능성, 확장성, 유연성을 기본으로 제공하여 CISO가 AI 정책을 실제 환경에서 효과적으로 운영하는 데 필요한 도구를 제공합니다.
자세히 알아보기: F5 Workforce AI Security.
2026년 9월 4일 게시