얼마 전까지만 해도 엔터프라이즈 AI는 주로 사람들이 더 빠르게 일할 수 있도록 돕는 데 초점이 맞춰져 있었습니다. 직원들은 코파일럿을 활용해 코드를 작성하고, 정보를 요약하고, 콘텐츠를 생성하고, 질문에 답했습니다. 이후 AI는 기업 내부에 더욱 깊숙이 도입되어 사내용 어시스턴트와 고객용 애플리케이션을 지원하기 시작했습니다.
이제 우리는 근본적으로 다른 단계에 접어들고 있습니다. 에이전틱 AI 시스템은 단순히 질문에 답하는 데 그치지 않습니다. 정보를 탐색하고 데이터를 검색하며, API를 호출하고 도구를 사용해 워크플로를 실행하고 조치를 취할 수 있습니다. 때로는 사람의 개입이 거의 또는 전혀 없이도 가능합니다.
이는 역량 면에서 비약적인 도약입니다. 동시에 공격 표면도 엄청나게 확대됩니다. 저는 이 주제를 F5 포스트 마이토스 보안 서밋에서 발표한 ‘프로덕션 환경의 AI 보안’에서 다뤘으며, F5는 이 발표를 10월 31일까지 온디맨드로 제공합니다.
“AI는 점점 더 강력해지고, 더 긴밀하게 연결되며, 더 자율적으로 발전하고 있습니다. 중요한 것은 이로 인해 공격 표면이 확대될지 여부가 아닙니다. 그에 발맞춰 보안 전략도 확장될 수 있느냐는 것입니다.”
AI가 행동할 수 있게 되면, 행동 자체가 공격 표면이 됩니다
기존 애플리케이션은 비교적 예측 가능합니다. 동일한 조건에서 같은 입력을 제공하면 일반적으로 같은 출력이 나올 것으로 예상할 수 있습니다. 보안 팀은 이러한 상호작용을 둘러싼 인프라, 애플리케이션, API, ID 및 데이터를 보호하는 방법을 수십 년에 걸쳐 발전시켜 왔습니다.
AI는 비결정적으로 동작할 수 있기 때문에 이러한 방정식을 바꿉니다. AI 애플리케이션에서는 동작 자체가 공격 표면의 일부가 됩니다.
최신 AI 상호작용에 관여하는 모든 요소를 생각해 보세요. 프롬프트, 모델, 기업 데이터, API, 검색 증강 생성(RAG) 시스템, 도구, 에이전트, 그리고 이러한 에이전트가 수행하는 작업까지 포함됩니다. 각각의 연결 지점은 문제가 발생하거나 공격자가 시스템 조작을 시도할 수 있는 또 하나의 지점을 만듭니다.
위험 요소는 다양합니다. 프롬프트 인젝션은 AI 시스템의 동작 방식에 영향을 미칠 수 있고, 과도한 자율성은 에이전트가 의도된 범위를 넘어서는 작업을 수행하게 할 수 있으며, 안전하지 않은 모델 컨텍스트 프로토콜(MCP) 서버와 무단 도구 사용은 민감한 시스템 및 데이터로 이어지는 추가 경로를 만들 수 있습니다. 또한 RAG 워크플로가 조작될 수 있으며, AI 애플리케이션이 민감한 정보를 노출하거나 유해하거나 부적절한 결과물을 생성할 수 있습니다.
이러한 모든 위험은 조직이 이미 직면하고 있는 보안 과제를 더욱 가중합니다. AI가 코파일럿에서 고객 대상 애플리케이션을 거쳐 자율 에이전트로 발전함에 따라, 조직은 기존 위험을 그대로 안고 가는 동시에 새로운 위험까지 떠안게 됩니다.
하나의 기술 변화, 확장되는 두 가지 공격 표면
이 문제가 갈수록 해결하기 어려워지는 또 다른 이유는 조직이 단일 AI 공격 표면만을 상대하는 것이 아니기 때문입니다.
첫 번째는 사람들뿐 아니라 점점 더 많은 에이전트가 이미 사용하고 있는 AI입니다. 타사 AI 서비스 덕분에 기업 전반에서 강력한 모델과 도구를 손쉽게 이용할 수 있게 되었습니다. 직원들은 더 빠르고 효율적으로 업무를 수행하기 위해 AI를 사용해야 한다는 압박을 받고 있지만, 자신이 어떤 정보를 노출할 수 있는지 또는 특정 AI 서비스가 어떤 위험을 초래하는지 제대로 이해하지 못한 채 사용하는 경우가 많습니다.
단순히 AI를 차단하는 것은 현실적인 해결책이 아닙니다. 사람들은 우회 방법을 찾아내며, 조직은 AI 사용이 보안 및 IT 팀의 가시성에서 더욱 벗어나게 될 위험에 처할 수 있습니다.
두 번째 공격 표면은 조직이 직접 구축하고 배포하는 AI입니다. 여기서 잠재적인 노출 범위는 애플리케이션, 모델, 프롬프트, 에이전트, API, 도구, 기업 데이터 및 이들 간의 상호작용 전반에 걸쳐 있습니다.
일부 장애는 공격자가 전혀 개입하지 않아도 발생할 수 있습니다. 안전하지 않은 출력이 생성되거나, 민감한 정보가 의도치 않게 노출되거나, 에이전트가 호출해서는 안 되는 도구를 호출하는 경우가 이에 해당합니다. 그 밖에는 모델을 조작하거나, 지식 소스를 오염시키거나, 정보를 빼내거나, 에이전트가 의도하지 않은 작업을 수행하도록 유도하기 위해 고안된 의도적인 공격도 있습니다.
고객, 규제 기관 또는 보안 팀의 관점에서 보면 그 결과는 놀라울 정도로 비슷해 보일 수 있습니다.
AI 보안이 AI 혁신의 대가가 되어서는 안 됩니다
이는 보안 책임자들에게 어려운 과제를 안겨줍니다. 조직은 AI를 신속하게 도입하고자 하며, 갈수록 그렇게 해야 할 필요성도 커지고 있습니다. 하지만 새로운 AI 애플리케이션, 에이전트, 모델, 도구 및 연결이 추가될 때마다 기존의 보안 접근 방식으로는 대응하기 어려운 위험이 발생할 수 있습니다.
이러한 문제를 해결하려면 조직은 비즈니스의 지속적인 추진력을 유지하면서도 계속 확대되는 AI 공격 표면 전반에 대한 가시성과 통제력을 강화해야 합니다. 또한 AI 상호작용이 어디에서 발생하든 이를 보호하고, 우발적 행동과 적대적 행동 모두에 대응하며, AI 도입에 또 다른 걸림돌을 만들지 않으면서 적절한 통제 조치를 적용해야 합니다.
F5는 이를 실현할 방법이 있다고 믿습니다. F5는 조직이 구축하는 애플리케이션과 직원들이 사용하는 AI 전반에서 AI를 탐지, 테스트, 관리 및 보호하는 동시에, AI 상호작용이 실제로 이루어지는 지점에 제어 기능을 제공할 수 있도록 지원하는 접근 방식을 개발했습니다.
F5 가상 Post-Mythos Security Summit에서 진행하는 제 세션 ‘이제 AI는 공격 표면입니다’에서 이러한 접근 방식을 자세히 살펴보겠습니다. AI 위협 환경이 어떻게 변화하고 있는지, AI의 에이전트화가 심화됨에 따라 조직이 무엇을 보호해야 하는지, 그리고 도입을 저해하지 않으면서 F5가 조직의 AI 앱, 모델, 에이전트, 도구, API 및 데이터를 보호하는 데 어떻게 도움을 줄 수 있는지 알아보겠습니다.
AI는 더욱 강력해지고, 더 긴밀하게 연결되며, 더 자율적으로 발전하고 있습니다. 문제는 이것이 공격 표면을 확대할지 여부가 아닙니다. 그에 발맞춰 보안 전략도 확장될 수 있느냐가 관건입니다.
새로운 AI 공격 표면을 통제하는 방법을 알아보려면 F5 Post-Mythos Security Summit에 함께해 주세요.
관련 블로그 게시물
추론 경로가 곧 트래픽 경로다: AI 보안이 자리해야 할 곳
이제 AI 트래픽에는 의도와 데이터, 작업이 담깁니다. AI 보안을 적용하는 데 추론 경로가 가장 중요한 지점이 된 이유를 알아보세요.
최전선 AI를 네트워크 경계에서 차단하기: 인라인 제어가 Mythos급 모델에 맞서는 핵심 우위인 이유
포스트-Mythos 시대에 사이버 방어가 어떻게 변화했으며, 조직이 통제 지점을 바꿔야 하는 이유를 알아봅니다.
애플리케이션 딜리버리 컨트롤러가 다시 전략적 의제로 떠오르고 있습니다
AI로 인해 애플리케이션 제공의 중요성이 더욱 커지고 있습니다. F5의 Nirav Shah가 새로운 Gartner® ADC 연구와 이것이 엔터프라이즈 인프라 의사 결정에 미치는 영향에 대해 설명합니다.
증거로 입증하는 AI 보안: Gartner SRM에서 선보일 내용
Gartner SRM에서의 세션을 앞두고, F5의 제품 마케팅 담당 수석 부사장이 F5가 세 가지 실질적인 단계를 통해 조직의 AI 보안을 어떻게 지원하는지 설명합니다.
파이프라인 속도 저하 없이 AI 데이터 파이프라인을 안전하게 보호하세요
AI 데이터 파이프라인 보안은 선택 사항이 아닙니다. 그 점은 분명합니다. 하지만 이를 제대로 보호하는 방법은 훨씬 불분명하며, 훨씬 더 어려운 과제입니다.
AI 스토리지에 새로운 로드 밸런싱 접근 방식이 필요한 이유
AI 워크로드에는 새로운 관점으로 설계된 스토리지가 필요합니다. AI 특유의 데이터 액세스 패턴은 레거시 인프라에 내재된 심각한 병목 현상과 비효율성을 여실히 드러냅니다.