에이전틱 AI가 CISO의 핵심 질문을 바꾼다

업계 동향 | 2026년 9월 22일

오늘날 CISO에게는 더 이상 “우리는 안전한가?”가 핵심 질문이 아닙니다. AI 사용의 폭발적인 증가로 판도가 달라졌습니다.

F5의 2026년 애플리케이션 보안 전략 현황 eBook에서는 보안이 AI 도입 속도를 얼마나 따라가고 있는지, 또 어떤 부분에서는 그렇지 못한지에 관한 유용한 인사이트를 다양하게 제공합니다. 그중에서도 에이전틱 AI의 확산과 관련된 한 가지 통계가 특히 눈에 띄었습니다.

기업 내에서 AI 에이전트가 계속 늘어남에 따라, 조직의 4분의 3 이상(77%)이 비인간 ID의 폭발적인 증가를 관리하는 일, 즉 이들의 액세스를 통제하고 악용되지 않도록 보장하는 일이 중대한 과제로 떠오르고 있다고 답했습니다.

실제로 이는 AI에 전적으로 투자하고 있는지 여부와 관계없이 모든 조직이 해결해야 할 문제입니다. 이제 거의 누구나 자체 AI 에이전트를 구축하고 서로 협업하는 여러 에이전트를 배포할 수 있으므로, 이 모든 에이전트가 무엇을 하고 있는지 파악하지 못하는 CISO는 제대로 대응할 수 없습니다. 따라서 CISO는 갈수록 다음과 같은 질문을 던지고 답해야 합니다. “이 AI는 무엇을 알고 있는가? 이 AI에는 어떤 작업을 수행할 권한이 있는가? 필요할 경우 이를 중단시킬 수 있는가?”

F5의 조사에 따르면, 조직의 77%가 자격 증명 탈취, 권한 남용, 사칭 등 에이전틱 AI와 관련해 상당한 어려움이 있을 것으로 예상합니다.

상투적인 답은 “가시성 향상과 효과적인 거버넌스”입니다. 모델에 액세스하고, 데이터와 상호 작용하며, 워크플로를 실행하는 모든 에이전트를 런타임 수준에서 파악할 수 없다면 보안이나 통제는 불가능합니다. 이는 앱을 온프레미스 데이터 센터에서 실행하든 하이브리드 멀티클라우드 환경에 배포하든 마찬가지입니다.

이것이 바로 오늘날 섀도 AI가 자주 화두에 오르는 이유입니다. 이제 거의 누구나 자체 AI 에이전트를 구축하고 서로 협업하는 여러 에이전트를 배포할 수 있는 만큼, 그 어두운 영역을 들여다보고 각 에이전트가 무엇을 하는지 파악할 역량이 없는 CISO에게는 승산이 없습니다.

신뢰 경계를 확장하는 것인가, 아니면 침해하는 것인가?

하지만 CISO가 조직을 위해 활동하는 모든 에이전트를 찾아낼 수 있다고 해도—조직도에서 비인간 ID의 수가 인간 ID보다 빠르게 늘어나 이미 3배에 달하고 있다는 점을 고려하면 이조차 결코 장담할 수 없지만—거버넌스 문제는 결코 간단하지 않습니다.

첫째, 혁신은 통제보다 빠르게 진행되는 경향이 있습니다. 위험 및 규제 준수를 담당하는 사람들은 대개 뒤늦게 대응합니다. 그리고 옛말처럼, 우리가 무언가를 할 수 있다고 해서 반드시 해야 하는 것은 아닙니다특정 AI 에이전트를 배포하기 전에 조직은 비즈니스에 제공되는 이점이 해당 에이전트의 보안을 확보하는 데 필요한 노력을 들일 만한 가치가 있는지 고려해야 합니다.

둘째, 에이전트는 특정한 의도에 따라 구축되며, 이를 수행하는 데 필요한 권한이 부여됩니다. 에이전트는 목적에 따라 데이터에 액세스하고, 의사 결정을 내리고, API를 호출하고, 비즈니스 프로세스를 실행하며, 고객 및 다른 에이전트와 소통합니다.

이러한 비인간 ID 하나하나는 기업의 신뢰 경계와 위협 환경을 확장합니다. 따라서 이러한 ID의 권한은 인간 ID에 적용하는 것과 동일한 수준으로, 어쩌면 그보다 더 철저하게 보호해야 합니다. 에이전트 ID를 탈취해 권한을 상승시킨 공격자를 보안 담당자가 식별하기는 매우 어려울 수 있기 때문입니다. 특히 공격자의 행동이 일정한 범위 내에 머무른다면 여전히 권한이 부여된 사용자처럼 보일 것입니다. 이때 행동에 초점을 맞춘 확률적 보안 모델이 도움이 될 수 있습니다.

안타깝게도 아직 많은 조직이 이 문제를 완전히 해결하지 못했습니다. 성숙도 수준도 조직마다 큰 차이가 있습니다. 하지만 규제, 평판, 경쟁력 측면에서 실패가 비즈니스에 미치는 영향은 기업의 존립을 위협할 수 있습니다. 통제되지 않은 에이전트나 에이전트형 ID로 인해 데이터 유출이 발생하면 고객 신뢰나 주가에 미치는 타격을 회복하기 어려울 수 있습니다.

마지막으로, OpenAI와 관련된 Hugging Face 사건처럼 최근 세간의 이목을 끈 여러 사례를 통해 에이전트가 관리자의 의도와 다른 행동을 자주 한다는 사실을 알 수 있습니다. 에이전트는 장애물에 부딪혀도 끈질기게 시도하기 때문에 전혀 예상치 못한 우회 방법을 찾아낼 때까지 계속 시도하기도 합니다. 특정 행동을 하지 말라는 지시를 받아도 프로그래밍된 작업을 집요하게 수행합니다. 그 장애물이 위험을 관리하거나 특정 조건에서 에이전트를 중지시키기 위해 마련된 가드레일이라면 이는 보안 문제가 됩니다.

AI 개발자는 모든 것이 올바르게 구성되었는지 확인하는 데 그치지 않고 거버넌스 시스템에 안전장치를 구축함으로써 통제권을 유지할 수 있습니다. 일반적으로 인간이 개입하는 것만으로는 충분하지 않습니다. 거버넌스는 첫 번째 프롬프트가 실행되기 훨씬 전부터 시작되어야 합니다. 비즈니스 책임자는 에이전트가 의도한 대로 작업을 수행하고, 결과를 추적할 수 있으며, 의사결정을 설명할 수 있도록 이 과정에 참여해야 합니다.

책임 소재가 불분명한 경우가 많습니다

저는 거버넌스가 사람의 책임에서 시작된다고 생각하지만, 안타깝게도 많은 논의에서 이 주제가 빠져 있습니다. 제가 가장 우려하는 부분이자 다른 CISO들도 걱정한다고 말하는 부분은 바로 “모델이 추론해서는 안 되는 내용을 추론하거나, 에이전트 또는 일련의 에이전트가 우리가 의도하지 않은 일을 했을 때 누가 책임을 지는가?”입니다. 별도의 책임 소재가 정해져 있지 않다면 이러한 실수에 대한 책임은 결국 CISO에게 돌아가기 때문입니다.

CISO에게만 책임을 지우거나 위험에 대한 기본 책임자로 지정하는 것은 올바른 해법이 아닙니다. 공동 책임 모델을 도입해야 합니다. 에이전트 사용을 주도하는 사람도 책임을 져야 합니다. 에이전트가 제대로 작동할 때는 물론 통제 불능 상태가 될 경우에도, 에이전트의 의도와 비즈니스에 미칠 수 있는 영향을 가장 잘 이해하는 사람이기 때문입니다.

제가 정기적으로 대화하는 CISO들 사이에서 이미 이 문제에 대한 이야기가 나오기 시작했습니다. 이들이 에이전트의 의도나 만료 시점, 또는 에이전트가 어떤 식으로 잘못 작동할 수 있는지를 반드시 판단할 수 있는 것은 아닙니다. 그런데도 그런 판단을 요구받으면 너무 자주 모든 일에 제동을 거는 ‘거절 전담 부서’가 되고 맙니다. 이는 대부분의 CISO가 원하는 역할이 아닙니다. 그렇게 되면 AI 거버넌스는 비즈니스 전략에 따라 운영되는 실질적인 규율이 아니라 형식적인 규정 준수 체크리스트로 전락할 위험이 있습니다.

대신 CISO에게는 각 에이전트가 무엇을 해야 하고, 무엇을 할 수 있으며, 무엇을 해서는 안 되는지에 대해 비즈니스 리더들이 책임을 지도록 이끌 수 있는 도구가 필요합니다. AI 에이전트가 조직을 대신해 행동할 수 있다면, 조직 내 누군가는 반드시 그에 대한 책임을 져야 합니다. 그래야 CISO가 단순한 집행자가 아니라 솔루션을 설계하는 아키텍트가 될 수 있습니다.

거버넌스에는 체계적인 자산 관리가 필요합니다

본질적으로 거버넌스는 자산 관리의 문제이기도 합니다. 그 자산이 회사의 모든 구성원에게 잘 알려져 널리 사용되는 주목도 높은 AI 에이전트이든, 생산성을 높이려는 직원이 음지에서 도입한 승인되지 않은 비인간 ID이든 마찬가지입니다.

다른 자산과 마찬가지로, 기업은 각 에이전트의 배포 시점, 책임 주체, 수혜자(및 그에 따른 비용), 그리고 업그레이드·교체·종료 시점을 관리해야 합니다.

관리 주체가 없는 AI 에이전트는 공격의 손쉬운 표적이 될 수 있습니다. 따라서 모든 에이전트에 대해 책임자를 명확히 지정하는 것이 매우 중요합니다. 한 사람이 수천 개의 에이전트를 책임질 수도 있고, 여러 최고경영진이 책임을 분담할 수도 있습니다. 하지만 조직 내에서 해당 에이전트의 비즈니스 활용 목적을 이해하는 누군가는 반드시 책임을 맡아 에이전트가 올바르게 운영되도록 안전장치를 마련해야 합니다. 명확한 ID 부여, 권한 부여, 지속적인 모니터링, 수명 주기 관리가 모두 중요합니다.

CISO가 당장 해야 할 일은 실무적입니다. 모든 에이전트 ID를 목록화하고, 실명으로 지정된 비즈니스 책임자를 배정하며, 각 에이전트에 허용되는 작업을 정의하고, 행동을 지속적으로 모니터링하며, 명확한 폐기 절차를 마련해야 합니다. 이러한 기본 조치가 없으면 조직은 대규모로 AI를 활용하면서도 위험 관리에 필요한 책임성, 가시성 또는 통제력을 확보하지 못할 수 있습니다.

물론 에이전트형 ID 거버넌스는 오늘날 CISO가 직면한 주요 과제 중 하나일 뿐입니다. AI 시대의 보안에 대해 자세히 알아보려면 F5의 2026년 애플리케이션 보안 전략 현황 eBook을 꼭 확인해 보시기 바랍니다.