LLM용 OWASP Top 10과 F5의 연계

OWASP LLM 애플리케이션 10대 위험(2025)은 AI가 새로운 보안 및 거버넌스 위험을 초래하는 동시에 기존 애플리케이션 보호의 중요성을 더욱 높인다는 점을 강조합니다. 조직이 AI 시범 운영에서 실제 프로덕션 환경으로 전환함에 따라, 보안 팀에는 진화하는 공격 기법에 발맞추면서도 개인정보 보호 및 규정 준수 요구사항을 충족할 수 있는 통제 수단이 필요합니다.

다음 섹션에서는 각 OWASP LLM 위험 영역을 관련 F5 기능에 매핑합니다. F5 AI Guardrails는 AI 상호작용 전반에서 모델에 구애받지 않는 런타임 보호 및 정책 적용을 제공하고, F5 웹 앱 및 API 보호(WAAP)는 AI 워크플로를 지원하는 애플리케이션 및 API 접점을 보호하며, F5 AI Red Team 은 공격자보다 먼저 모델 및 애플리케이션의 취약점을 선제적으로 평가합니다.

LLM01: 프롬프트 인젝션

프롬프트 인젝션은 사용자 입력이 모델을 조작하여 민감한 정보 공개, 무단 액세스 제공, 편향되거나 유해한 콘텐츠 생성과 같은 위험한 동작을 하게 만들 때 발생합니다. F5 AI Guardrails는 프롬프트와 모델 출력을 모두 검사하여 악의적인 활동을 탐지하고 위험하거나 규정을 준수하지 않는 상호작용을 차단함으로써 이러한 위험을 방지합니다. 알려진 수천 가지 프롬프트 인젝션 기법에 대한 기본 제공 보호 기능과 새로운 위협이 등장할 때 사용자 지정 Guardrails를 신속하게 생성할 수 있는 인터페이스를 제공합니다.

LLM02: 민감 정보 노출

민감한 정보 공개는 양방향 위험입니다. AI 애플리케이션이 권한이 없는 데이터를 사용자에게 노출할 수 있으며, 사용자는 시스템에서 처리하도록 허용되지 않은 PII 또는 독점 데이터와 같은 민감한 정보를 제출할 수 있습니다. F5 AI Guardrails는 PII, PCI, PHI를 비롯한 민감한 데이터 유형을 필터링하여 규정을 준수하지 않는 상호작용을 방지함으로써 두 위험을 모두 해결합니다. 또한 팀은 사용자 입력, 모델 출력 또는 둘 다를 모니터링하거나 차단하기 위한 사용자 지정 데이터 패턴을 정의할 수 있습니다. 이와 더불어 AI Guardrails는 RBAC 그룹 프로비저닝과 같은 기존 액세스 관리 기능을 지원하여 사용자 또는 그룹별로 정책 적용을 맞춤 설정할 수 있습니다.

LLM03: 공급망

LLM의 공급망 취약점은 학습 데이터, 모델 및 배포 플랫폼의 무결성을 위협합니다. 가장 큰 위험은 사전 학습된 타사 모델과 기본 모델을 재학습하지 않고 미세 조정하는 데 사용되는 저랭크 어댑터(LoRA)를 도입하는 데서 비롯됩니다. Hugging Face와 같은 플랫폼에서 수백만 개의 모델과 LoRA를 이용할 수 있게 되면서 공격 표면이 급격히 확대되고, 수많은 모델 변형 전반에서 변조와 데이터 오염이 발생할 가능성이 커집니다. F5 AI Guardrails는 모델 출처와 관계없이 AI 애플리케이션 전반에 일관된 정책 적용 계층을 구축합니다. 사용자, 에이전트 및 애플리케이션 간의 상호작용을 검사하는 프록시로 배포되는 AI Guardrails는 공통 런타임 보안 제어를 적용하여 편향된 학습 데이터, 모델의 가변성 및 잠재적 익스플로잇으로 인한 위험을 완화하고, 유해한 출력이 사용자에게 도달하지 않도록 차단합니다. 또한 F5 AI Red Team은 대규모 공격 시뮬레이션을 수행하여 개별 모델의 구체적인 위험과 행동 경향을 평가합니다. 동일한 모델 계열 내에서도 위험 프로필이 크게 다를 수 있으므로, AI Red Team은 공격자가 취약점을 악용하기 전에 신속하고 실행 가능한 인사이트를 제공합니다.

LLM04: 데이터 및 모델 오염

데이터 및 모델 포이즈닝은 학습, 미세 조정 또는 검색 데이터를 악의적으로 조작하여 출력 품질을 저하시키거나 편향을 유발하거나 백도어 트리거를 삽입하는 행위를 말합니다. F5는 외부에 노출된 애플리케이션 및 API 접점을 F5 웹 앱 및 API 보호(WAAP)로 보호하여 포이즈닝 위험을 완화합니다. 봇 방어 및 DDoS 완화와 같은 F5 WAAP 기능은 수집 및 피드백 워크플로에 악성 콘텐츠가 자동으로 주입되는 것을 줄여 주며, API 검색 및 보안 기능은 모델 동작에 영향을 미치는 데 가장 흔히 사용되는 공격 경로 중 하나인 데이터 수집 및 검색 API를 식별하고 관리하는 데 도움이 됩니다. 또한 F5 AI Guardrails는 맞춤형 Guardrails를 통해 트리거 문구나 패턴과 같은 알려진 포이즈닝 지표를 탐지하고 차단함으로써 런타임 보완 통제 수단으로 활용될 수 있습니다.

LLM05: 부적절한 출력 처리

부적절한 출력 처리는 LLM이 생성한 출력이 다운스트림 시스템으로 전달되기 전에 충분히 검증되거나 정제되지 않을 때 발생합니다. 공격자는 조작된 프롬프트를 통해 모델 출력에 영향을 줄 수 있으므로, 이로 인해 민감한 기능에 간접적으로 접근할 수 있으며 브라우저에서는 XSS 또는 CSRF, 백엔드 시스템에서는 SSRF, 권한 상승, 원격 코드 실행과 같은 다운스트림 피해가 발생할 수 있습니다. F5 AI Guardrails는 모델 출력이 사용자에게 전달되거나 다운스트림 도구로 라우팅되기 전에 이를 검사하고, 정의된 정책에 따라 안전하지 않은 콘텐츠를 차단하거나 기록하여 이러한 위험을 완화합니다. F5 Web App and API Protection(WAAP)은 API 검색, 스키마 검증, 위협 방어를 비롯한 검증된 웹 및 API 보안 제어를 LLM 출력을 사용하는 애플리케이션과 API에 적용하여 노출 위험을 더욱 줄이고, 악성 페이로드가 실행 가능한 공격으로 이어지는 것을 방지합니다.

LLM06: 과도한 자율성

과도한 자율성은 모델이나 에이전트에 필요한 수준 이상의 자율권, 권한 또는 도구 접근 권한이 부여되어, 조작된 입력으로 인해 메시지 전송, 거래 실행 또는 데이터 유출과 같은 의도하지 않은 작업이 발생할 때 나타납니다. F5 AI Guardrails는 모델이 요청하거나 출력할 수 있는 내용을 정책에 따라 제한하고, 규정을 준수하지 않는 상호작용이 도구나 다운스트림 시스템에 도달하기 전에 차단하여 이러한 위험을 완화합니다. F5 Web App and API Protection(WAAP)은 도구 및 플러그인 API에 인증, 권한 부여, 요청 속도 제한을 적용하여 추가적인 보호 기능을 제공하며, 에이전트가 안전하지 않은 작업을 시도하더라도 기반 서비스가 안전하게 보호되도록 합니다.

LLM07: 시스템 프롬프트 유출

시스템 프롬프트 유출은 공격자가 시스템 프롬프트에 포함된 숨겨진 지침, 자격 증명 또는 정책 로직을 추출하고, 이 정보를 이용해 통제를 우회하거나 공격을 확대할 때 발생합니다. F5 AI Guardrails는 사용자 입력에서 흔히 사용되는 추출 패턴을 탐지하고 차단하며, 모델이 제한된 프롬프트 콘텐츠를 반환하지 못하도록 응답을 필터링하여 이러한 위험을 완화합니다. F5 AI Red Team은 대규모로 모델과 애플리케이션을 선제적으로 테스트하여 프롬프트 유출 및 시스템 프롬프트 추출에 대한 취약성을 파악하고, 배포 전에 프롬프트, 정책 및 런타임 통제를 강화할 수 있는 실행 가능한 결과를 제공합니다.

LLM08: 벡터 및 임베딩 취약점

벡터 및 임베딩 취약점은 검색 증강 생성(RAG) 및 임베딩 기반 시스템에서 공격자가 검색 콘텐츠를 조작하거나 오염시키거나 악용하여 응답에 영향을 미치고, 민감한 데이터의 노출을 유발하거나, 안전 제어를 우회할 때 발생합니다. F5 웹 앱 및 API 보호(WAAP)는 문서 수집, 컬렉션 관리, 검색 쿼리 수행에 사용되는 API를 보호하여 이러한 위험을 완화하는 데 도움이 됩니다. 여기에는 API 검색, 스키마 적용, 봇 및 악용 방지가 포함됩니다. F5 AI Guardrails는 모델 출력에 런타임 검사와 사용자 지정 정책을 적용하여 후속 영향을 더욱 줄이고, 응답이 사용자에게 전달되기 전에 의심스러운 패턴, 안전하지 않은 콘텐츠 또는 민감한 데이터를 탐지하는 데 도움을 줍니다.

LLM09: 잘못된 정보

잘못된 정보 위험은 LLM이 부정확하거나 오해를 불러일으키는 결과를 생성하여 안전하지 않은 의사 결정, 평판 훼손 또는 규정 준수 실패를 초래할 때 발생합니다. F5 AI Guardrails는 고위험 콘텐츠 범주를 표시하거나 차단하고, 특정 응답 구조를 요구하거나, 콘텐츠가 불확실하거나 규정을 준수하지 않는 것으로 보일 때 추가 제어를 실행하는 콘텐츠 조정 Guardrails를 통해 이러한 위험을 완화합니다. F5 AI Red Team은 적대적 질문과 예외적인 상황에서 AI 시스템이 어떻게 작동하는지 평가하여, 팀이 잘못된 정보 생성 경향을 정량화하고 프로덕션 출시 전에 정책과 워크플로를 조정할 수 있도록 지원합니다.

LLM10: 무제한 리소스 소비

무제한 리소스 소비는 공격자나 잘못 구성된 클라이언트가 과도한 모델 사용을 유발하여 대량 요청, 지나치게 긴 프롬프트 또는 악의적인 자동화를 통해 리소스 고갈, 가용성 저하 또는 예상치 못한 비용 급증을 초래할 때 발생합니다. F5 Web App and API Protection(WAAP)은 애플리케이션 및 API 계층에서 속도 제한과 DDoS 완화 조치를 적용하여 악성 트래픽이 모델 인프라에 도달하기 전에 줄임으로써 이러한 위험을 완화합니다. AI용 API 검색 및 보안 제어 기능과 결합된 F5 WAAP은 통제되지 않은 LLM 사용과 관련된 가용성 및 비용 위험을 모두 억제하는 데 도움이 됩니다.

AI 보안은 끊임없이 변화합니다

LLM 애플리케이션을 보호하려면 특정 시점의 테스트나 모델 제공업체의 기본 설정만으로는 충분하지 않습니다. 효과적인 AI 보안 전략을 위해서는 지속적인 런타임 정책 적용과 LLM이 의존하는 API, 도구 및 데이터 시스템에 대한 강력한 보호가 필요합니다. F5는 OWASP LLM 애플리케이션 10대 보안 위험(2025) 전반에 걸쳐 다음을 결합하여 이러한 보안을 제공합니다:

F5 AI Guardrails - 데이터 유출, 적대적 조작 및 유해한 출력을 방지하는 F5 AI Guardrails 기반의 적응형 모델 독립적 런타임 보안
F5 AI Red Team - F5 AI Red Team을 통한 선제적 테스트로 모델 및 워크플로별 취약점을 조기에 발견하고, 그 결과를 능동적 방어 체계에 반영
F5 웹 앱 및 API 보호(WAAP) - 노출, 악용 및 리소스 위험을 줄이기 위한 애플리케이션 및 API 제어

이러한 계층을 함께 활용하면 기업은 LLM 기반 경험이 발전하는 가운데 복원력, 규정 준수, 사용자 신뢰를 유지하면서 AI를 확장할 수 있습니다.