비즈니스를 실질적으로 보호하는 생성형 AI 정책 수립 방법

Jessica BrennanAI 보안 부문 수석 제품 마케팅 매니저 | F5

팀과 도구 전반에서 GenAI 사용이 폭발적으로 증가하고 있지만, 대부분의 기업은 여전히 이를 안전하게 보호할 통제 수단을 갖추지 못하고 있습니다. 보안이 제대로 작동하지 않는 이유는 정책이 부족해서가 아닙니다. 분산 시스템 전반에서 실시간 보호가 필요한 GenAI의 적응형 특성에 대응할 수 있는 적절한 유형의 보안 통제를 조직이 사용하지 않고 있기 때문입니다. 이러한 시스템은 IT 부서의 가시성 범위를 벗어나는 경우가 많습니다.

The GenAI 정책 핸드북 2025에서는 이 문제를 지적하고 이를 해결하기 위한 프레임워크를 제시합니다. 그 핵심에는 한 가지 중요한 원칙이 있습니다. 바로 AI와 상호작용하는 시점에 정책을 집행할 수 있어야 한다는 것입니다.

보안의 사각지대: 런타임

대부분의 조직에서 보안은 전통적으로 액세스 제어, 경계 방화벽, 데이터 유출 방지를 중심으로 구축되어 왔습니다. 하지만 생성형 AI는 근본적으로 다른 보안 영역인 런타임을 새롭게 제시합니다.

바로 이 계층, 즉 사용자가 모델과 상호작용하고 데이터가 입력되고 반환되며 출력이 비즈니스 성과에 영향을 미치는 지점에 다음과 같은 실질적인 위험이 존재합니다:

• 필터를 우회하는 프롬프트 인젝션
• 의사결정을 오도하는 환각 출력
• 모델 응답을 통한 민감한 데이터 유출
• 감독 없이 통제 불능으로 치닫는 자율 에이전트의 행동

간단히 말해, 보안은 런타임에서 이루어져야 하지만, 이에 대응할 준비가 된 기업은 거의 없습니다.

문서상의 정책에서 런타임 보호로

많은 기업이 허용 가능한 사용에 관한 정책을 마련하기 시작했습니다. 일부 기업은 실행 지침이나 권고 가이드라인을 수립했습니다. 하지만 집행되지 않는 정책은 단지 권고에 불과합니다.

거버넌스와 실제 환경에서의 보호 사이의 격차를 해소하려면 조직은 런타임에 다음을 수행할 수 있는 적응형 보안 제어를 도입해야 합니다:

• 유해한 프롬프트와 응답을 실시간으로 차단
• 역할 기반 모델 액세스 적용
• 이상 징후와 위협 패턴을 실시간으로 탐지
• 사용 사례와 위험 허용 수준에 따라 보안 설정을 조정하세요

이러한 요구 사항을 충족하는 방어 솔루션을 갖추면 모델과 사용 사례의 발전에 맞춰 보안 태세도 강화해 나갈 수 있습니다.

하나의 AI Security Platform: 전체 수명 주기 보호를 위한 필수 요소

런타임 보안은 매우 중요하지만, 이는 전체 보안의 한 부분일 뿐입니다. 생성형 AI와 에이전틱 AI를 제대로 보호하려면 가시성, 방어, 공격적 테스트, 정책 정합성을 아우르는 통합적인 접근 방식이 필요합니다.

이러한 이유로 기업들은 F5의 포괄적인 AI 런타임 보안 솔루션을 선택하고 있습니다:

• F5 AI Red Team: 공격자가 악용하기 전에 취약점을 발견하는 에이전틱 적대적 테스트
• F5 AI Guardrails: 상호작용 시점에 제공되는 실시간 보호
• 기본 제공되는 관측성: 역할 기반으로 AI 사용 현황, 위험 및 규정 준수 상태를 파악

이러한 기능들이 결합되어 사이버 보안에서 가장 역동적인 영역을 위해 특별히 설계된 런타임 경계를 형성합니다.

런타임 보안을 위한 가이드

GenAI 정책 핸드북 2025는 기업 리더들이 런타임에 적용되고, 추론 단계에서 방어하며, 모델 변화에 맞춰 조정되는 정책을 수립하는 방법에 대한 실용적인 지침을 제공합니다.

핸드북을 다운로드하세요 지금 바로 다음 내용을 알아보세요:

• 기존의 보안 통제가 생성형 AI 위협에 효과적으로 대응하지 못하는 이유
• 보안 리더가 에이전틱 AI에 대비하기 위해 지금 할 수 있는 일
• 혁신에 발맞춰 확장 가능한 다계층 방어 체계를 구축하는 방법

AI 여정은 이제 막 시작되었습니다. 처음부터 안전하게 시작하세요.

작성자 소개

Jessica BrennanAI 보안 부문 수석 제품 마케팅 매니저 | F5

Jessica Brennan의 다른 블로그 게시물