AI를 위한 제로 트러스트: 자율형 에이전트에 새로운 보안 패러다임이 필요한 이유

F5 ADSP | 2025년 7월 09일

제로 트러스트는 오랫동안 사람의 접근을 보호하기 위한 표준으로 자리 잡아 왔습니다. 하지만 오늘날의 엔터프라이즈 환경에는 이를 새롭게 확장한 AI를 위한 제로 트러스트가 필요합니다. AI 에이전트가 의사 결정을 내리고, 시스템과 상호 작용하며, 작업을 실행하기 시작함에 따라 기존의 보안 경계도 확장되어야 합니다. 이제 중요한 것은 AI를 신뢰해야 하는지가 아니라, 처음부터 AI 시스템에 제로 트러스트를 어떻게 적용할 것인가입니다.

‘설계 단계부터 안전’만으로는 충분히 안전하지 않을 때

Model Context Protocol(MCP)과 같은 프로토콜이 AI 에이전트의 접근 범위나 수행 가능한 작업을 제한함으로써 이를 ‘안전하게’ 배포할 수 있는 방법을 제공한다는 믿음이 확산되고 있습니다. 하지만 MCP가 안전한 프로토콜이라는 주장은 잘못된 통념입니다. MCP는 잠재적 이점은 제한하지만, 위험 요소는 제한하지 못합니다.

에이전트가 읽기 전용 SQL 문으로 수백만 건의 고객 레코드를 조회하는 것처럼 겉보기에는 안전한 작업도 데이터베이스에 과부하를 일으키고, 리소스를 점유하며, 취약점을 만들 수 있습니다. 이 모든 일이 규칙을 위반하지 않고도 발생합니다. 이는 버그가 아니라 강력한 감독 없이 에이전트에게 도구를 제공한 데 따른 부작용입니다.

에이전트를 위한 제로 트러스트는 아무것도 허용하지 않는 것에서 시작됩니다

그렇기 때문에 이제 제로 트러스트를 사용자뿐만 아니라 AI 에이전트에도 적용해야 합니다. 단순한 비유가 아니라, 모든 작업을 기본적으로 거부하고 각 단계에서 사람의 도움을 받아 권한을 부여하는 프레임워크로 적용해야 합니다.

이 프레임워크는 모든 에이전트를 처음부터 신뢰할 수 없는 대상으로 간주합니다. 액세스 권한은 단순히 역할을 기준으로 부여되는 것이 아니라 사용 사례를 기준으로 하며, 시간, 맥락, 의도와 연계됩니다. 테이블의 데이터를 읽어야 하나요? 해당 테이블에만 액세스할 수 있으며, 그 외에는 아무것도 허용되지 않습니다. 작업을 수행해야 하나요? 해당 작업의 범위가 제한되고, 기록되며, 모니터링됩니다.

오늘날 유출된 API 자격 증명에 대해 우려하는 것처럼, 에이전트 키와 모델 권한도 클라우드 워크로드 및 권한 있는 사용자에게 적용하는 것과 동일한 수준의 엄격한 기준으로 관리해야 합니다.

이러한 변화가 중요한 이유

AI가 워크플로 전반에 더욱 깊이 통합됨에 따라, 보안은 더 이상 기존의 가정에 의존할 수 없습니다. 에이전트는 잊지 않습니다. 지치지도 않습니다. 그리고 악용되더라도 용서를 구하지 않습니다.

에이전트를 위한 제로 트러스트란 다음을 의미합니다:

기본적으로 거부: 에이전트는 처음부터 액세스 권한을 갖는 것이 아니라, 이를 획득해야 합니다
인간 개입형 권한 상향: 민감한 권한을 부여하려면 명시적인 승인이 필요합니다
사용 사례 범위 설정: 액세스 권한은 보편적으로 부여되는 것이 아니라 상황에 따라 달라집니다
설계 단계부터 적용된 관측 가능성: 모든 요청, 응답 및 출력은 기록·분석되며 감사할 수 있습니다

이러한 접근 방식은 AI의 빠른 작동 속도가 오히려 위험 요소가 되지 않도록 보장합니다.

새로운 시대를 위한 새로운 보안 계층

바로 이 지점에서 AI 런타임 보안 솔루션이 중요한 역할을 합니다. AI 에이전트가 시스템, 데이터, 사용자와 실시간으로 상호작용하는 방식에 동적인 가드레일을 구축하는 것입니다. 과거 클라우드 환경에 맞춰 네트워크 경계를 재정의했듯이, 이제는 자율 시스템을 위한 행동 경계를 새롭게 정의해야 합니다. 결론적으로 제로 트러스트는 한 단계 더 성숙해야 합니다, AI 에이전트가 이미 등장했고 강력한 능력을 갖췄지만 올바른 판단력까지 타고난 것은 아니기 때문입니다. 보안팀은 모든 에이전트의 상호작용이 잘못될 수 있다고 전제한 시스템을 구축하고, 실제로 문제가 발생하지 않도록 감독 체계를 마련해야 합니다.