미래를 보호하다: CalypsoAI가 OWASP의 LLM 애플리케이션 10대 보안 위험에 대응하는 방법

Louise Scully수석 관리자, 제품 마케팅, AI 보안 및 위협 인텔리전스 | F5

OWASP가 2025년 대규모 언어 모델을 위한 10대 보안 위험(LLM)을 발표하면서 업계에 절실히 필요했던 보안 기준을 제시했습니다. 하지만 실천이 없다면 기준은 아무 의미가 없습니다.

CalypsoAI는 OWASP Top 10의 80%에 대응하며, 현실에서 가장 시급한 위험을 우선적으로 해결합니다. 이 플랫폼은 실시간 런타임 보호와 심층 적대적 테스트를 결합하여 오늘날 가장 중대한 LLM 위험 전반에 걸쳐 독보적인 보호 범위를 제공합니다. 프롬프트 인젝션과 데이터 유출부터 과도한 자율성과 무제한 리소스 소비에 이르기까지, CalypsoAI는 기업에서 AI가 실제로 활용되는 방식에 맞춘 추론 경계를 구축했습니다.

다른 공급업체들이 표면적인 수준에 그치거나 기술 스택의 일부 영역만 보호하는 데 반해, CalypsoAI는 레드팀과 방어 계층 전반에서 OWASP 위험을 매핑하며 한층 더 심층적으로 대응합니다. 이는 단순히 체크리스트를 채우기 위한 것이 아닙니다. 보안 팀이 대규모 GenAI 시스템을 보호하는 데 필요한 가시성과 제어력, 정책 집행 역량을 제공하는 것이 핵심입니다.

OWASP의 주요 위험에 어떻게 대응하고, 그 이상을 제공하는지 살펴보세요.

LLM01: 프롬프트 인젝션

차단, 테스트 및 완화 조치 완료.

CalypsoAI는 20,000개 이상의 평가 프롬프트를 활용해 프롬프트 인젝션 취약점을 광범위하게 테스트합니다. 또한 무단 프롬프트 조작을 방지하는 보호 기능이 플랫폼에 기본으로 내장되어 있습니다.

LLM02: 민감 정보 노출

민감한 데이터는 비공개로 유지됩니다.

CalypsoAI는 민감한 데이터가 노출될 수 있는 취약점을 식별합니다. 이 플랫폼은 즉시 사용 가능한(OOTB) 개인 식별 정보(PII) 스캐너를 제공하며, 키워드, 정규식 및 생성형 AI 모델을 활용한 맞춤형 스캔을 지원합니다.

LLM03: 공급망

귀사가 직접 대응할 필요가 없도록 저희가 위험을 완화합니다.

이 플랫폼은 레드팀 테스트와 지속적인 모니터링을 통해 오래된 모델, 취약한 사전 학습 모델, 불확실한 모델 출처 등의 위험을 완화합니다.

LLM04: 데이터 및 모델 오염

당사는 업스트림의 실수로부터도 추론을 보호합니다.

이는 주로 학습 단계의 위험이지만, CalypsoAI는 제대로 학습되지 않았거나 오염된 모델을 식별하고 추론 단계에서 검색 증강 생성(RAG) 애플리케이션을 보호합니다.

LLM05: 부적절한 출력 처리

설계 단계부터 더 안전한 상호작용을 구현합니다.
CalypsoAI는 LLM 응답에서 XSS 및 코드 삽입 시도를 탐지하고 차단하여 더욱 안전한 상호작용을 보장합니다.

LLM06: 과도한 자율성

책임이 따르는 자율성.

이 플랫폼은 입력과 출력을 검사하여 다중 에이전트 협업 플랫폼(MCP)과 관련된 위험을 완화함으로써 인라인 에이전트 보호 기능을 제공합니다.

LLM07: 시스템 프롬프트 유출

귀사의 시스템을 안전하게 보호합니다.

CalypsoAI에는 시스템 프롬프트 유출을 방지하는 보호 메커니즘이 기본으로 내장되어 있으며, 향후 로드맵에 따라 추가 기능도 강화될 예정입니다.

LLM08: 벡터 및 임베딩 취약점

해당 없음 — 의도된 설계입니다.

CalypsoAI는 추론 계층에서 작동하며 벡터 저장소의 취약점을 직접적으로 해결하지는 않습니다.

LLM09: 잘못된 정보

해당 없음 — 추론 이전 단계에서 처리됩니다.

CalypsoAI는 현재 환각 탐지 기능을 제공하지 않습니다. 이 문제는 OpenAI와 같은 상위 제공업체가 모델 수준에서 해결하고 있기 때문입니다. 당사는 안전하고 신뢰할 수 있는 AI 출력을 보장하기 위해 추론 보안을 강화하는 데 주력하고 있습니다.

LLM10: 무제한 리소스 소비

효율성과 강력한 통제의 만남.

CalypsoAI는 과도한 API 사용과 악용을 방지하여 LLM 리소스를 효율적이고 안전하게 사용할 수 있도록 합니다.

실제 환경의 AI를 위해 설계

단순히 규정 준수 항목을 체크하는 수준이 아닙니다. CalypsoAI는 위험이 현실화되고 그 결과가 중대한 프로덕션 환경의 AI를 보호하기 위해 특별히 설계되었습니다. 30,000건 이상의 에이전트형 공격을 대상으로 한 레드팀 테스트부터 실시간 런타임 보호까지, CalypsoAI 플랫폼은 새로운 위협이 비즈니스에 영향을 미치기 전에 선제적으로 대응합니다.

작성자 소개

Louise Scully수석 관리자, 제품 마케팅, AI 보안 및 위협 인텔리전스 | F5

Louise Scully는 F5에서 AI 보안 및 위협 인텔리전스 제품 마케팅을 담당하는 시니어 매니저입니다. AI 보안 및 엔터프라이즈 기술 분야에서 제품 마케팅, 제품 관리, 시장 진출 전략, 커뮤니케이션, 사고 리더십, 카테고리 개발 등 폭넓은 경력을 쌓았습니다. F5에 합류하기 전에는 CalypsoAI와 Artomatix에서 마케팅을 총괄하며 AI 기술과 연구 성과의 시장 출시를 이끌었습니다.

Louise Scully의 다른 블로그 게시물