에이전틱 AI 애플리케이션을 위한 OWASP Top 10

OWASP 에이전틱 AI Top 10은 도구, API 및 데이터 소스 전반에서 작동하는 자율형 AI 시스템으로 인해 발생하는 가장 중요한 보안 위험을 조직이 이해하도록 돕습니다. 에이전틱 워크플로가 실행 중 공격 표면을 확대함에 따라, 이 프레임워크는 위험을 평가하고 통제를 강화하며 노출을 줄일 수 있는 실용적인 방법을 제공합니다.

이 페이지에서는 이러한 위험을 F5의 기능을 활용해 실제로 해결하는 방법과 연계하여 설명합니다.

OWASP 에이전틱 AI 10대 위험은 무엇인가요?

Published by the OWASP GenAI Security Project에서 발표한 이 프레임워크는 AI 시스템에 목표, 메모리, 도구 및 여러 시스템에 걸쳐 작업을 수행할 수 있는 능력이 부여될 때 발생하는 위험에 중점을 둡니다. 기존 챗봇의 위험과 달리, 에이전틱 AI 위협은 다단계 워크플로, 연결된 애플리케이션 및 자율적 의사결정 전반으로 확산될 수 있습니다. 대표적인 예로는 에이전트 목표 탈취, 도구 오용, 악성 에이전트, 안전하지 않은 에이전트 간 통신 및 연쇄 장애가 있습니다.

OWASP 에이전틱 AI Top 10이 중요한 이유는 무엇인가요?

많은 조직이 여전히 에이전틱 AI를 시범 운영하고 있지만, 초기 워크로드는 이미 프로덕션 시스템에 연결되고 있습니다. 이는 이제 장애가 실제 데이터, API, 워크플로 및 사용자에게 영향을 미칠 수 있음을 의미합니다. 이 프레임워크는 CISO, 아키텍트 및 보안 팀이 위험이 가장 큰 영역을 파악하고, 통제 조치를 조율하며, 처음부터 더 안전한 AI 시스템을 구축할 수 있는 실용적인 방법을 제공합니다.

OWASP 에이전틱 AI 10대 위험은 어떻게 작동하나요?

이 프레임워크는 에이전틱 AI의 위험을 다음과 같은 10가지 범주로 분류합니다:

ASI01 에이전트 목표 탈취 – 공격자가 에이전트의 목표, 지침 또는 의사결정 경로를 조작하여 의도하지 않은 결과를 추구하도록 만듭니다.

ASI02 도구 오용 및 악용 – 에이전트가 연결된 도구를 안전하지 않은 방식으로 사용하거나, 공격자가 도구 인터페이스를 악용해 접근 권한을 얻거나 피해를 유발합니다.

ASI03 ID 및 권한 남용 – 에이전트가 자격 증명, 토큰 또는 상속된 권한을 오용하여 의도된 범위를 넘어 시스템이나 데이터에 액세스합니다.

ASI04 에이전트형 공급망 취약점 – 에이전트 워크플로에서 사용되는 서드파티 도구, 플러그인, 레지스트리, MCP 서버 또는 외부 구성 요소로 인해 발생하는 위험.

ASI05 예기치 않은 코드 실행 – 에이전트가 보안 또는 운영상의 위험을 초래하는 방식으로 코드나 명령을 생성, 수정 또는 실행합니다.

ASI06 컨텍스트 관리 및 검색 조작 – 검색되거나 저장된 컨텍스트가 오염되거나, 오해를 유발하거나, 오래되었거나, 변조되어 향후 에이전트의 동작에 영향을 미칩니다.

ASI07 안전하지 않은 에이전트 간 통신 – 에이전트가 충분한 인증, 무결성 검증 또는 정책 통제 없이 메시지를 교환하여 악용될 가능성이 생깁니다.

ASI08 연쇄적 장애 – 하나의 오류, 침해 또는 잘못된 결정이 서로 연결된 에이전트, 도구 또는 워크플로 전반으로 확산됩니다.

ASI09 인간-에이전트 간 신뢰 악용 – 에이전트가 설득성 또는 오해를 유발하는 출력을 사용하여 사용자가 안전하지 않은 행동을 하거나 승인하도록 유도합니다.

ASI10 악성 에이전트 – 침해되었거나, 목표가 잘못 정렬되었거나, 의도에서 벗어난 에이전트가 복잡한 시스템 내에서 의도치 않은 방식으로 계속 작동합니다.

F5는 OWASP 에이전틱 AI 10대 위험을 어떻게 처리하나요?

OWASP 에이전틱 AI 10대 위험은 자율형 및 반자율형 AI 시스템과 관련된 가장 중대한 보안 위험을 조명합니다. 이러한 위험 중 상당수는 모델 내부에만 존재하는 것이 아닙니다. API, 데이터 흐름, 서드 파티 도구, ID 제어, 런타임 작업 등 더 광범위한 애플리케이션 아키텍처 전반에서 발생합니다. 이러한 위험에 대응하려면 전체 AI 애플리케이션 생태계에 걸친 통제가 필요합니다.

F5는 애플리케이션 제공, API 보호, 트래픽 관리, 정책 시행 및 보안 기능을 현대적인 애플리케이션과 AI 워크로드를 위해 통합하는 F5 Application Delivery and Security Platform (ADSP)을 통해 조직이 이러한 과제를 해결할 수 있도록 지원합니다. 이는 에이전틱 AI와 관련하여 AI 시스템이 운영되는 환경을 보호하기 위한 더욱 강력한 기반을 제공합니다.

ADSP 내에서:

• F5 AI Guardrails는 추론 경계에서 프롬프트, 출력 및 모델 동작에 대한 정책을 적용하는 데 도움이 됩니다.
• F5 AI Red Team은 적대적 테스트를 통해 모델, 애플리케이션 및 에이전트형 워크플로 전반의 취약점을 식별하는 데 도움을 줍니다.
• F5 WAAP는 에이전트가 데이터에 액세스하고 작업을 수행하기 위해 사용하는 웹 애플리케이션, API 및 디지털 서비스를 보호하는 데 도움이 됩니다.
• F5 AI Remediate는 식별된 위험을 배포 가능한 보호 조치로 신속하게 전환하여 분석 결과를 실제 운영에 적용할 수 있도록 지원합니다.
• F5 BIG-IP은 복잡한 하이브리드 및 멀티클라우드 환경 전반에서 AI 애플리케이션을 제공하고 보호하며 확장할 수 있도록 지원합니다.

F5는 이러한 기능을 단일 플랫폼에 통합함으로써 조직이 OWASP 지침을 준수하고 운영 위험을 줄이며 에이전틱 AI를 더욱 안심하고 도입할 수 있도록 지원합니다.